Pět způsobů, jak Open Source Software utváří politiku AI

Při vývoji a používání umělé inteligence (AI) hraje ústřední roli open-source software (OSS), ke kterému je volný přístup, použití a změny bez omezení. Algoritmus AI si lze představit jako sadu instrukcí – to znamená, jaké výpočty je třeba provést a v jakém pořadí; vývojáři pak píší software, který obsahuje tyto koncepční instrukce jako skutečný kód. Pokud je tento software následně publikován způsobem s otevřeným zdrojovým kódem – kde je základní kód veřejně dostupný, aby jej mohl kdokoli použít a upravit – může tento algoritmus rychle použít jakýkoli datový vědec s malým úsilím. Existují tisíce z implementací algoritmů AI, které tímto způsobem usnadňují používání AI, a také kritická rodina nově vznikajících nástrojů, které umožňují etičtější AI. Současně existuje zmenšující se počet nástrojů OSS v obzvláště důležité podoblasti hlubokého učení – což vede ke zvýšenému tržnímu vlivu společností, které vyvíjejí tyto OSS, Facebook a Google. Jen málo dokumentů o správě umělé inteligence se dostatečně zaměřuje na roli OSS, což je nešťastné nedopatření, přestože to v tichosti ovlivňuje téměř každý problém v politice umělé inteligence. Od výzkumu po etiku a od konkurence k inovacím hraje open source kód ústřední roli v AI a zaslouží si větší pozornost ze strany tvůrců politik.

1. OSS urychluje přijetí AI

OSS umožňuje a zvyšuje osvojení AI snížením úrovně matematických a technických znalostí nezbytných k používání AI. Zápis složité matematiky algoritmů do kódu je obtížný a časově náročný, což znamená, že jakákoli existující alternativa s otevřeným zdrojovým kódem může být pro datové vědce velkým přínosem. OSS těží z jak kolaborativního, tak konkurenčního prostředí v tom, že vývojáři spolupracují na hledání chyb stejně často, jako soutěží o napsání nejlepší verze algoritmu. To často vede k dostupnějšímu, robustnějšímu a vysoce kvalitnímu kódu v porovnání s tím, co by mohl vyvinout průměrný datový vědec – často spíše průzkumník dat a pragmatický řešitel problémů než čistý matematik. To znamená, že dobře napsaný open-source AI kód ​​výrazně rozšiřuje kapacitu průměrného datového vědce a umožňuje mu používat modernější algoritmy a funkce strojového učení. Zatímco tedy byla věnována velká pozornost výcvik a udržení talentu AI , což usnadňuje používání umělé inteligence – jako to dělá kód OSS – může mít podobně významný dopad na umožnění ekonomického růstu díky umělé inteligenci.

2. OSS pomáhá bojovat proti zaujatosti AI

Nástroje umělé inteligence s otevřeným zdrojovým kódem mohou také umožnit širší a lepší využití etické umělé inteligence. Nástroje s otevřeným zdrojovým kódem, jako je AI Fairness 360 od IBM, Fairlearn od Microsoftu a Aequitas Chicagské univerzity, zjednodušují technické překážky v boji proti zaujatosti AI. Existuje také software OSS, který datovým vědcům usnadňuje dotazování jejich modelů, jako je IBM AI Explainability 360 nebo interpretovatelné strojové učení Chrise Molnara. nástroj a rezervovat . Tyto nástroje mohou pomoci časově omezeným datovým vědcům, kteří chtějí budovat zodpovědnější systémy umělé inteligence, ale jsou pod tlakem, aby dokončili projekty a dodali klientům. I když je jistě nutný větší vládní dohled nad umělou inteligencí, tvůrci politik by také měli častěji zvažovat investice do open source etického softwaru umělé inteligence jako alternativní páky ke zlepšení role umělé inteligence ve společnosti. Národní vědecká nadace již financuje výzkum do spravedlnosti AI , ale grantové agentury a nadace by měly považovat OSS za nedílnou součást etické umělé inteligence a dále financovat její rozvoj a přijetí.



je jih rasističtější než sever

3. Nástroje umělé inteligence OSS vedou k pokroku ve vědě

V roce 2007 skupina výzkumníků tvrdila, že nedostatek otevřeně dostupných algoritmických implementací je hlavní překážkou vědeckého pokroku v papír s názvem The Need for Open Source Software in Machine Learning. Dnes je těžké si tento problém představit, protože nyní existuje nepřeberné množství nástrojů OSS AI pro vědecké objevy. Jedním z příkladů je open-source AI software Keras použitý na identifikovat dílčí složky molekul mRNA a stavět neurální rozhraní lépe pomáhat nevidomým vidět. Software OSS také usnadňuje reprodukci výzkumu a umožňuje vědcům vzájemně si kontrolovat a potvrzovat své výsledky. I malé změny ve způsobu implementace algoritmu AI mohou vést k velmi odlišným výsledkům; použití sdíleného OSS může tento zdroj nejistoty zmírnit. To usnadňuje vědcům kriticky zhodnotit výsledky výzkumu jejich kolegů, což je běžná výzva v mnoha oborech, kterým čelí pokračující replikační krize .

I když je dnes kód OSS mnohem běžnější, stále existují úsilí o zvýšení procento akademických prací, které veřejně uvolňují svůj kód – v současnosti kolem 50 až 70 procent na velkých konferencích strojového učení. Tvůrci politik také hrají roli při podpoře kódu OSS ve vědě, například tím, že povzbuzují federálně financované výzkumné projekty AI, aby zveřejnily výsledný kód. Grantové agentury by také mohly zvážit financování průběžné údržby nástrojů OSS AI, což je pro kritický software často výzva. Chan Zuckerberg Initiative, která financuje kritické projekty OSS, píše že OSS je zásadní pro moderní vědecký výzkum... přesto i nejrozšířenější výzkumný software postrádá vyhrazené finanční prostředky.

4. OSS může buď pomoci, nebo bránit hospodářské soutěži v technologickém sektoru

OSS má významné důsledky pro politiku hospodářské soutěže. Na jedné straně veřejné vydání kódu strojového učení rozšiřuje a lépe umožňuje jeho použití. V mnoha odvětvích to umožní větší osvojení umělé inteligence s menším počtem talentů na umělou inteligenci – což je pravděpodobně čistý přínos pro konkurenci. Nicméně pro Google a Facebook je může otevřený zdroj jejich nástrojů pro hluboké učení (Tensorflow a PyTorch, v tomto pořadí) dále upevnit v jejich již opevněných pozicích. Téměř všichni vývojáři pro Tensorflow a PyTorch jsou zaměstnáni společnostmi Google a Facebook, což naznačuje, že společnosti se příliš nevzdávají kontroly. I když jsou tyto nástroje veřejnosti jistě přístupnější, často uváděný cíl „demokratizace“ technologie prostřednictvím OSS je v tomto případě eufemistický.

pro a proti daní

Tensorflow a PyTorch se staly nejběžnějšími nástroji hlubokého učení v průmyslu i akademické sféře, což vedlo k velkým výhodám pro jejich mateřské společnosti. Google a Facebook těží okamžitě z výzkumu prováděného pomocí jejich nástrojů, protože není potřeba překládat akademické objevy do jiného jazyka nebo rámce. Jejich dominance dále ukazuje řadu datových vědců a inženýrů strojového učení vyškolených v jejich systémech a pomáhá jim stát se špičkovými společnostmi, pro které lze pracovat. Celkově vzato, přínosy pro Google a Facebook pro ovládání hlubokého učení OSS jsou významné a mohou přetrvávat daleko do budoucna. To by mělo být zohledněno při jakýchkoli diskusích o hospodářské soutěži v technologickém sektoru.

5. OSS vytváří výchozí standardy AI

OSS AI má také důležité důsledky pro normalizační orgány, jako např IEEE , ISO / JTC , a CEN-CENELEC , které se snaží ovlivnit průmysl a politiku AI. V jiných odvětvích normalizační orgány často přidávají hodnotu tím, že šíří osvědčené postupy a umožňují interoperabilní technologie. V AI však diverzifikované použití operačních systémů, programovacích jazyků a nástrojů znamená, že problémům interoperability již byla věnována značná pozornost. Kromě toho je komunita praktiků AI poněkud neformální, s mnoha praktikami a standardy šířenými prostřednictvím twitteru, blogových příspěvků a dokumentace OSS. Dominance Tensorflow a PyTorch v podoblasti hlubokého učení znamená, že Google a Facebook mají příliš velký vliv, který se mohou zdráhat postoupit standardizačním orgánům založeným na konsenzu. Dosud se vývojáři OSS příliš nezapojovali do práce mezinárodních normalizačních orgánů, což může výrazně omezit jejich vliv na oblast AI.

Zásady umělé inteligence jsou vázány na software s otevřeným zdrojovým kódem

Od výzkumu k etice a od konkurence k inovacím hraje open source kód ústřední roli ve vývoji využití umělé inteligence. Díky tomu je stálá nepřítomnost open-source vývojářů v diskusích o politice docela pozoruhodná, protože mají významný vliv na směřování AI a vysoce specifické znalosti o něm. Zapojení více vývojářů OSS AI může pomoci politikům v oblasti AI rutinněji zvažovat vliv OSS ve snaze o spravedlivý a spravedlivý vývoj AI.

teorie kritické rasy se vyučuje na školách