Umělá inteligence a AI Act

Většina rozhovorů, které o AI Actu vedeme s ředitelstvím škol, začíná stejnou otázkou: „Proč to máme vůbec řešit? My jenom píšeme pracovní listy v ChatGPT.“

AI ve veřejné správě už dávno není jen teoretické téma. Stále častěji pomáhá při práci s dokumenty, zpracování žádostí podle zákona č. 106/1999 Sb., GDPR agendou nebo komunikací s občany. Největší přínos přináší tam, kde zrychluje rutinní činnosti, zpřehledňuje informace a snižuje administrativní zátěž. Současně ale roste význam správného nastavení procesů, kontroly výstupů a souladu s evropským AI Actem.

Umělá inteligence už dávno není hudbou budoucnosti nebo hračkou pro IT oddělení. Zatímco pro produktivitu je to obrovský skok vpřed, z pohledu bezpečnosti a ochrany dat jde o noční můru. Pokud zaměstnanci používají generativní AI živelně, vaše firma balancuje na tenkém ledě. Stačí jeden neopatrný "prompt" (příkaz) a může dojít k masivnímu úniku osobních údajů nebo cenného obchodního tajemství.

Evropská unie v roce 2024 přijala nařízení o umělé inteligenci – AI Act (oficiálně Regulation (EU) 2024/1689), které představuje první komplexní právní rámec pro regulaci umělé inteligence na světě. Na rozdíl od sektorových pravidel nebo etických doporučení zavádí přímo závazná právní pravidla, která se vztahují na vývoj, distribuci i používání AI systémů.

Cloudová úložiště a AI nástroje přinášejí obrovské možnosti, ale i rizika pro ochranu osobních údajů. Zjistěte, na co si dát pozor při práci s cloudem a umělou inteligencí, aby vaše firma dodržela GDPR.