Evropa krotí umělou inteligenci: Nová pravidla a milionové pokuty!

EU řeší regulaci AI od loňska, kdy schválila AI Act. Členské státy jej musí zavést do roku 2026. Jaká pravidla přináší?

 

Novinky

 

Umělá inteligence se stala nedílnou součástí moderního života. Pomáhá v práci, ve zdravotnictví i v každodenních činnostech. Ale kde jsou hranice jejího využití? Evropská unie představuje konkrétní pravidla.

 

Zásah Evropské unie

Evropská unie se rozhodla, že AI především nesmí být nástrojem manipulace, diskriminace ani nelegálního sledování. Proto byl přijat AI Act – komplexní soubor pravidel, který má chránit občany členských států před zneužitím pokročilých algoritmů.

Nová legislativa zakazuje například využívání podprahových technik v reklamě, které by ovlivňovaly rozhodování spotřebitelů bez jejich vědomí. Rovněž se znemožňuje využívání AI k predikci kriminálního chování na základě osobnostních rysů nebo online aktivit.

Přísná pravidla se vztahují i na biometrické systémy – plošné rozpoznávání obličejů nebo kategorizace lidí podle rasy, náboženství či politických názorů nebude v EU tolerováno.

 

 

Shrnutí pravidel v bodech

Zákaz podprahové manipulace – Reklamy a chatboty nesmí ovlivňovat lidi skrytými signály.

Zákaz zneužívání slabin – AI nesmí cílit na děti, seniory, znevýhodněné osoby či lidi ve finanční nouzi.

Zákaz sociálního skórování – Není povoleno hodnotit občany na základě jejich chování.

Zákaz prediktivní kriminalistiky – AI nesmí předpovídat zločinnost na základě osobnosti či online aktivit.

Zákaz automatického sběru obličejů – Firmy nesmí vytvářet databáze obličejů z internetu a kamer.

Omezení rozpoznávání emocí – AI nesmí analyzovat emoce zaměstnanců a studentů (mimo zdravotní a bezpečnostní účely).

Omezení biometrické kategorizace – AI nesmí třídit lidi podle rasy, politických názorů, víry či sexuální orientace.

Omezení policejního sledování v reálném čase – Zakázáno s výjimkami, jako je hledání pohřešovaných osob.

Firmám, které se těmito pravidly nebudou řídit, hrozí drastické sankce – až 35 milionů eur nebo 7 % ročního obratu. Dozor nad dodržováním regulací začne v srpnu 2025 a v Česku bude mít tuto odpovědnost Ministerstvo práce a sociálních věcí. AI Act tak nastavuje jasná pravidla hry a dává najevo, že ochrana občanů je na prvním místě.

 

 

Připravila: Petra Sauerová

Sdílet: