Odborníci odcházejí z AI firem a varují před manipulací a etickými otázkami

O možných rizicích umělé inteligence se nejčastěji mluví v souvislosti s kyberbezpečností. AI ale skrývá i jiné hrozby. Upozornili na ně sami výzkumníci a manažeři v oblasti umělé inteligence, kteří v posledních dnech hromadně opouštějí přední technologické společnosti.

 

Novinky

 

Důvodem jejich odchodu ze společností OpenAI, Anthropic či xAI jsou etické problémy, nedostatečná kontrola technologií a tlak na komerční využití, i když na úkor bezpečnosti. Varují tak před vážnými riziky spojenými s rychlým vývojem AI. Jde o vrchol dlouhodobého vypětí mezi obchodními praktikami v průmyslu AI a bezpečností?

 

Dle výpovědí odcházejících odborníků se firmy ženou příliš rychle vpřed. A to především v čase, kdy se chystá jejich vstupu na burzu a jsou pod drobnohledem veřejnosti i regulátorů.  

 

 

O svém odchodu promluvila například výzkumnice Zoë Hitzig, která podala svou rezignaci po dvou letech v OpenAI. Kritizovala zejména plánovanou reklamní strategii společnosti, která může mít za následek manipulaci uživatelů cestami, které lze jen těžko pochopit, natož jim zabránit. Poukázala konkrétně na etické dilema uchovávání zásadních dat týkajících se náboženství či zdravotního stavu.

Po odchodu z Anthropic se Mrinanka Sharmy na síti X vyjádřil slovy, že svět je v nebezpečí.

A ani xAI, firmu Elona Muska, neminuly odchody. Během krátké doby společnost opustili dva spoluzakladatelé a další zaměstnanci. Firma právě čelila potížím s chatbotem Grok, který vytvářel nenávistné i nelegální materiály.  

 

Připravila: Petra Sauerová
Foto: Anthropic

Sdílet: