Z nového AI nástroje VASA-1 má obavy i jeho vlastní tvůrce, Microsoft

Microsoft představil novou vývojovou platformu VASA-1, která pokořila všechny dosažené mety v deepfake. Umí ze statického obrázku, ukázky hlasu a textového skriptu vytvořit tak realistické video, že to vyděsilo i Microsoft.

 

Novinky

 

Vasa-1, zrozena v lůně Microsoftu, boří dosavadní dosažené mety mezi deepfake videi. Dokáže rozmluvit obrázek natolik věrohodně, že divák prakticky nedokáže rozeznat, že se jedná o deepfake.

Na co jej tedy potřebujeme? Nástroj má samozřejmě mnoho možností využití, například k obohacení digitální komunikace, zpřístupnění vzdělávání nebo terapeutickou podporu. Microsoft se však z etických důvodů zdráhá uvolnit VASA-1 pro veřejnost. Obává se totiž zneužití pro deepfake.

 

Rozmluví i Monu Lisu

Vasa-1 tak rozmluvila, tedy dokonce rozrapovala, pět set let strnulou Monu Lisu z díla geniálního Leonarda Da Vinciho. Přitom v podstatě nejde o žádnou přelomovou technologii, ale pouze o další krok v raketovém evolučním vývoji AI.

I když může být sledovat rapující Monu Lisu velmi zábavné, jen těžko budete uvažovat nad tím, zda nejde o skutečnost. Představte si ale video vytvořené rozmluvením fotografie, kde je až neuvěřitelně synchronizován pohyb rtů s řečí a zároveň s přirozenými pohyby obličeje a hlavy. 

Ostatní dostupné nástroje pro tvorbu deepfake jsou rozhodně méně propracované. I proto Microsoft věří, že VASA-1 je technologicky nejpokročilejší a bude tedy obtížnější její vytvořené produkty od skutečného videa rozpoznat.

 

 

Nejprve regulace

Vývoj deepfake technologií vyvolává otázky ohledně šíření dezinformací a manipulací s veřejným míněním. Je proto nanejvýš důležité, aby byl nástroj užíván zodpovědně a s ohledem na etické aspekty. Obava Microsoftu ze zneužití nástroje je tak více než na místě.

Microsoft plánuje Vasa-1 zpřístupnit veřejnost až po zavedení přísných regulačních opatření. Do té doby bude platforma dostupná pouze pro výzkumné a vývojové účely.

Microsoft  tvrdí, že jeho nový model zastíní konkurenci a pravděpodobně také otevře brány světa, kde bude ještě obtížnější realitu od fikce rozeznat.

 

 

Připravila: Petra Sauerová
Foto: Microsoft

Sdílet: