Jak jednoduše odhalit fake obsah vytvořený umělou inteligencí

Umělá inteligence ve svém vývoji pokračuje mílovými kroky. A rozlišit skutečnost od deepfaku je čím dál těžší. Těmito jednoduchými tipy zjistíte, jak uměle generované obrázky, videa a texty dobře rozpoznat.

 

Novinky

 

Umělá inteligence se stále více zdokonaluje a někdy může být oříšek rozpoznat skutečnost od deepfake. Pořád ale není AI zcela dokonalá, a tak se pojďte podívat na to, jak uměle generované obrázky, videa i texty rozpoznat. Zatímco v roce 2021 bylo rozpoznání AI generovaného obsahu zcela jednoduché, dnes je tomu jinak.

 

AI díla stírají hranici reality

Nové technologie umělé inteligence dokáží skvěle tvořit texty, vykreslovat fotorealistické obrázky a pomalu se prosazují i v generování videa. To je ale zatím omezené hlavně současným výpočetním výkonem.

Úroveň kvality se zvyšuje natolik, že jednou už to nepůjde možná odhalit vůbec. Vývoj postupuje, ale ne bleskově, takže ještě máte šanci zjistit, zda si čtete text či sledujete video, které vytvořil člověk, nebo stroj.

 

Jak odhalit text vygenerovaný pomocí AI

Pokud by došlo na porovnávání jednotlivého druhu obsahu, pak je z hlediska vývoje AI technologicky zaručeně nejpokročilejší text. A tak rozpoznat, kdo je jeho tvůrcem, je ta nejtěžší disciplína.

Základními pravidly, od kterých se lze odpíchnout je, že text vytvořený AI bývá stylisticky poměrně nudný a stejný v celé své šíři. Je také zcela bez chyb, jak gramatických, tak i bez překlepů, které u lidské tvorby v řadě případů uniknou jak autorovi, tak editorovi či korektorovi.

I když AI dokáže být velmi kreativní, stále ne natolik jako člověk. Ten si dokáže pohrát se slovy, metaforami či vtipy. AI do věty zničehonic nezařadí třeba slovo „nejkulinkaťoulinkatější“ nebo různé speciální novotvary typu „gameři“ a další, které se v běžné mluvě používají.

Je třeba si uvědomit, že AI je průměr všech průměrů a v drtivé většině případů používá nejfrekventovanější slova, takže typicky daný text není nijak osobitý.

 

 

AI používá opakované fráze

Naopak setkáte s tím, že text vygenerovaný umělou inteligencí opakuje některé fráze poměrně často. Typickým příkladem konce takových článků je „in conclusion“ (na závěr) a podobná klišé. AI se také značně drží tématu a málokdy v jednom článku odpluje myšlenkami pro srovnání někam jinam.

Dalším vykřičníkem je rovněž absence zdrojování a neschopnost použití aktuální informace. Generování je totiž vždy vázané k nějakému konkrétnímu datu v minulosti, k němuž ta data má.

To se ale jistě brzy změní a ukázkou toho je například chatbot Grok od xAI Elona Muska. Ten totiž pracuje s daty ze sociální sítě X živě a dokáže zachytit a zapracovat do odpovědi i několik sekund či minut staré informace.

 

Dokonale nedokonalé AI obrázky

Pokud jde o uměle generované obrázky, zde nastal od doby uvedení prvního DALL-E od OpenAI posun kupředu mílovými kroky. Na trůnu nyní sedí Midjourney, i když starší a horší AI měly řadu problémů.

Co se týče fikce a renderování obrázků pomocí počítačové grafiky, tam už jen horko těžko poznáte rozdíl. Dřív bylo omezující nízké rozlišení, které následně sloužilo i jako možný rozpoznávací znak. To už má ale také své řešení skrze škálování obrazu na vyšší rozlišení opět díky AI.

V případě fotek měly starší a méně pokročilé generátory obrázků problém s lidskými končetinami, obzvlášť když šlo o ruce nebo prsty. Na fotkách se pak často objevovaly třetí nohy, šest prstů, tři prsa a tak podobně.

Dnes už se tyto chyby podařilo optimalizovat, stále to ale není dokonalé a umělá inteligence může mít potíž s generováním snímku obsahujícím více lidí anebo věcí. Obzvláště pak pokud mají složitější a proměnnou strukturu.

 

 

Co tedy hlídat u fotek?

U fotografií si všímejte především detailů. Hledejte i drobné nesrovnalosti: všímejte si zvláštních detailů, jako je nesoulad světla a stínů, podivné okraje objektů, nekonzistentní texturu materiálů, nebo zkreslení obličejových rysů.

Zkontrolujte také zdroje. Pokud se na internetu objeví fotografie, která se zdá být příliš dobrá na to, aby byla pravdivá, zkuste najít další zdroje, které ji potvrzují. Pokud takové neexistují, je velká šance, že se jedná o deepfake.

 

Falešná videa

Co se týče AI generovaného videa, zlom přinesla letos v únoru technologie od OpenAI, Sora. Ta totiž dokáže generovat videa až o délce jedné minuty z textového zadání. Videa vypadají skutečně nádherně, ale zatím skýtají taktéž mnoho chyb.

Typickým problémem je perspektiva a s ní související změny úhlu pohledu. A stejně jako tomu je i u fotografií, nedělá jí dobře mnoho končetin blízko u sebe, zejména v pohybu, ale i další dekoherence.

 

Budoucnost boje proti deepfakům

Výzkum v oblasti detekce deepfaků stále probíhá a s vývojem technologií se i metody odhalování falešného obsahu budou zdokonalovat. Jednou z možností je využití blockchainu, který by umožnil ověřit autenticitu a původ obsahu. Další možností je vývoj hardwarových řešení pro fotoaparáty a kamery, které by zabránily manipulaci s obrazem a videem.

Je důležité si uvědomit, že deepfakes se stávají stále rafinovanější a žádná metoda detekce není stoprocentně spolehlivá. Vždy je nutné k online obsahu přistupovat s kritickým myšlením a ověřovat si jeho pravost z více zdrojů.

 

 

Připravila: Petra Sauerová

Sdílet: