Stroje se dozvídají, že pravidla píše Brusel: nové nařízení EU o umělé inteligenci

Evropské unie navržený Regulace umělé inteligence (AI), zveřejněná 21. dubna, je přímou výzvou pro společný názor Silicon Valley, že zákon by měl nechat vznikající technologie na pokoji. Návrh stanoví odlišnou regulační strukturu, která zakazuje některá použití umělé inteligence, výrazně reguluje vysoce riziková použití a mírně reguluje méně rizikové systémy umělé inteligence.

Návrh by od poskytovatelů a uživatelů vysoce rizikových systémů umělé inteligence vyžadoval, aby dodržovali pravidla pro data a správu dat; dokumentace a vedení záznamů; transparentnost a poskytování informací uživatelům; lidský dohled; a robustnost, přesnost a bezpečnost. Jeho hlavní inovace, telegraficky předaná v loňském roce Bílá kniha o umělé inteligenci , je požadavkem na posouzení shody ex-ante, aby se zjistilo, že vysoce rizikové systémy umělé inteligence splňují tyto požadavky předtím, než budou nabízeny na trhu nebo uvedeny do provozu. Další důležitou inovací je pověření pro systém monitorování po uvedení na trh, aby bylo možné detekovat problémy při používání a zmírňovat je.

Navzdory těmto inovacím a zdravé struktuře založené na rizicích se zdá, že nařízení má některé překvapivé mezery a opomenutí. Zanechává Big Tech prakticky bez úhony. Postrádá zaměření na osoby ovlivněné systémy umělé inteligence, zjevně postrádá jakýkoli obecný požadavek na informování lidí, kteří jsou podrobeni algoritmickému hodnocení. Na rozdíl od jeho doprovodných bodů odůvodnění je v textu nařízení věnována malá pozornost algoritmické spravedlnosti. A nově požadované posuzování shody se ukazuje být pouze interními procesy, nikoli dokumenty, které by mohly být přezkoumány veřejností nebo regulátorem.



Nicméně návrh je komplexním a promyšleným začátkem legislativního procesu v Evropě a mohl by se ukázat jako základ pro transatlantickou spolupráci, která vrhne společnou regulační síť na následnou vznikající technologii, jak poznamenal poradce Bílého domu pro národní bezpečnost Jake Sullivan v jeho tvrzení vítá novou iniciativu EU v oblasti umělé inteligence.

Návrh Evropské komise na regulaci umělé inteligence je pouze nejnovějším přírůstkem do ambiciózní digitální legislativní agendy, kterou Brusel postupně odhaloval během posledních dvou let. Své Zákon o digitálních službách a Zákon o digitálních trzích se zaměřil na chování gigantů amerických platforem, což možná vysvětluje, proč se tento legislativní návrh AI zdá být zaměřen jinam. Komise také vědomě vykreslila nařízení o AI jako obranu evropských hodnot proti méně svědomitým vývojářům AI v Číně.

Evropská unie je hrdá na to, že vyvíjí regulační rámce, které mají dopad i za jejími hranicemi – viz příklad GDPR. Ale to, zda se její regulace AI nakonec stane dominantním globálním souborem pravidel v soutěži se Spojenými státy a Čínou, není zdaleka celá věc. Návrh komise odráží široké uvažování a konkrétní volby v obtížných politických otázkách. Už jen proto se ukáže jako cenný v mezinárodním měřítku, i když se vyvíjí jako technologie, které se snaží zvládnout.