Nové pokyny Bílého domu bagatelizují důležitá poškození AI

Po a Prováděcí nařízení z února 2019 Úřad pro řízení a rozpočet USA (OMB) vydal své konečné pokyny k regulaci umělé inteligence (AI) dne 17. listopadu 2020. Tento dokument představuje strategii vlády USA směrem k dohledu nad umělou inteligencí a jako takový si zaslouží pečlivou kontrolu. Pokyny Bílého domu jsou odůvodněné a odrážejí jemné chápání AI; existují však také skutečné důvody k obavám, pokud jde o dlouhodobý dopad na regulaci umělé inteligence.

Za prvé, existuje mnoho pozitivních aspektů regulačních pokynů pro umělou inteligenci Bílého domu. Jeho rozsah je přiměřený, protože uznává, že regulace umělé inteligence v soukromém sektoru je zásadně odlišná od vládního zavádění systémů umělé inteligence, což ponechává na samostatný dokument. Přiměřeně také argumentuje pro přístup k umělé inteligenci, kde je regulace specifická pro daný sektor a typ aplikace umělé inteligence, spíše než pro rozsáhlé zásady, které v širokém spektru použití umělé inteligence nedávají smysl. Dokument OMB využívá přístup založený na rizicích a navrhuje upřednostnění silnější ochrany pro systémy AI, které prokazují potenciál vyššího rizika. Dokument také vyzývá federální agentury, aby spolupracovaly s normalizačními orgány, konkrétně je žádá, aby dodržovaly požadavky Národního institutu pro standardy a technologie. federální plán zapojení pro vývoj technických standardů AI .

Ostatní aspekty pokynů jsou méně pozitivní. Tón dokumentu velmi trvá na příslibu vývoje a inovací AI, zejména pro ekonomický růst, psaní propagující inovace a růst AI je vysokou prioritou vlády USA. Vzhledem k tomu, že digitální ekonomika počítá, je to pochopitelné více než 9 % HDP a před pandemií COVID-19 rostla o 6,8 % ročně. AI je velkou součástí tohoto sektoru a expanduje také do mnoha dalších sektorů. Přestože je ekonomická hodnota umělé inteligence důležitá, pokyny se příliš soustředí na tvrzení, že regulace by neměla bránit její inovaci a zavádění. Dokument si všímá řady neregulačních přístupů k umělé inteligenci a obsahuje část o snižování překážek zavádění a používání umělé inteligence, ale není vyvážen širokým kontextem škod způsobených umělou inteligencí.



Pokyny OMB výrazně uvádí, že mnoho aplikací AI nemusí nutně vyvolávat nové problémy. Toto tvrzení je částečně pravdivé, protože vláda se nemusí zabývat mnoha aplikacemi AI. Opak je však pravdou: mnoho aplikací umělé inteligence v soukromém sektoru přináší zcela nové problémy. Systémy umělé inteligence mohou systematizovat diskriminaci a přerozdělovat moc od spotřebitelů a zaměstnanců v první linii. Systémy AI mohou také umožnit rozsáhlý podnikový dohled. To vše mohou dělat, a přitom učinit procesy pro jednotlivce srozumitelnějšími a potenciálně podkopávat jejich právní náhradu za škody.

jak se změnila demokratická strana

Tyto problémy nejsou v dokumentu Bílého domu zcela ignorovány. Uvádí deset zásad pro správu aplikací umělé inteligence, které jsou v souladu s doporučeními předních etických odborníků na umělou inteligenci. Tento seznam zahrnuje: důvěra veřejnosti v AI, účast veřejnosti, hodnocení a řízení rizik, spravedlnost a nediskriminace a zveřejňování a transparentnost. Problém je v tom, že tato kritéria jsou koncipována jako kontrolní seznam, který musí být propracován, než mohou agentury zavést jakákoli nová pravidla pro AI. Přímo před seznamem zásad pokyny uvádí, že agentury by měly zvážit novou regulaci pouze… ve světle předchozí části…, že federální nařízení je nezbytné. Ve spojení s širším antiregulačním rámcem dokumentu to naznačuje záměr předcházet regulačním opatřením.

Preempce je problematická, protože již víme, že existují oblasti, které vyžadují přísnější vymáhání a regulaci. Food and Drug Administration je zvažovat, jak přizpůsobit jejich pravidla zajistit bezpečnost zdravotnických prostředků s podporou umělé inteligence a zároveň umožnit jejich aktualizaci o nová data. Ministerstvo práce a Komise pro rovné příležitosti zaměstnání se budou muset podívat na to, jak algoritmické nástroje ovlivňují odměňování pracovníků, bezpečnost na pracovišti a procesy přijímání zaměstnanců. Health and Human Services se musí naučit prosazovat právní nediskriminační ochranu o algoritmicky alokovaných zdravotních službách. Podobně ministerstvo dopravy potřebuje nová pravidla pro zajištění bezpečnosti autonomních vozidel.

Při absenci aktualizovaných předpisů a vynucovacích procesů umožňuje současný stav snadno obejít zákon pomocí algoritmů. Kontrolní algoritmy vyžaduje nové nápady , technické znalosti a dodatečné kapacity a Bílý dům a OMB by měly povzbuzovat agentury, aby se vypořádaly s novými riziky AI. Bohužel, v konečném pravidle týkajícím se rozdílných norem dopadu, Housing and Urban Development ignorovaly nové výzvy AI, znemožňující aby žalobci dokázali, že byli diskriminováni algoritmy.

finanční dopady zdravotnictví ve Spojených státech

Kromě přímého vlivu na tvorbu pravidel agentury mohou tyto pokyny také ovlivnit budoucí roli OMB, zejména jeho regulačního kontrolního orgánu, Úřadu pro informace a regulační záležitosti (OIRA). Někdy ve své čtyřicetileté historii OIRA hrála aktivní regulační role strážce. Tato role je zaměřena zejména na „významná regulační opatření“, což zahrnuje pravidla, která mají podle odhadů ekonomický dopad přes 100 milionů USD nebo alternativně předpisy, které vyvolávat nové právní nebo politické problémy . Zatímco některé předpisy týkající se umělé inteligence budou pravděpodobně splňovat kritéria ekonomického dopadu, mnoho dalších jistě vyvolá nové problémy v oblasti práva a politiky. Relativně malý personál OIRA, rozdělený do skupin přidělených různým federálním agenturám, nemusí mít odbornou způsobilost v oblasti umělé inteligence nezbytnou k efektivnímu posouzení těchto nově vznikajících pravidel. Není jisté, jak přesně se tento problém bude vyvíjet, ale je možné, že pokyny Bílého domu, jak je interpretuje OIRA, vytvoří novou zátěž pro dodržování předpisů.

Možná nebude trvat dlouho, než zjistíte, jaký dopad budou mít tyto pokyny. Snad nejcennějším přínosem těchto pokynů je, že požaduje, aby federální agentury poskytly plány dodržování předpisů do šesti měsíců (do 17. května 2021). S přílivem nových jmenování od Bidenovy administrativy je možné, že tento dokument podnítí nové nápady a bezprecedentní míru akce k vybudování rozumných a účinných předpisů pro umělou inteligenci. Doufejme, že OIRA bude pracovat především na podpoře výměny znalostí a spolupráce mezi agenturami, jak tvrdil Cass Sunstein .

To může být tento případ. Přesto existuje důvod k obavám z rámce tohoto dokumentu a jeho účinek bude výrazně záviset na tom, jak bude interpretován a jak k němu budou přistupovat budoucí zaměstnanci agentury. Je těžké si představit, že změna těchto pokynů bude hlavní prioritou Bidenova Bílého domu, vzhledem ke všem jeho dalším naléhavým problémům. Přesto existuje reálné riziko, že se tento dokument stane silou pro udržení status quo, na rozdíl od řešení vážných škod způsobených umělou inteligencí.