Moterys dirbtinio intelekto srityje: Sarah Myers West sako, kad turėtume paklausti: „Kodėl apskritai reikia kurti AI?

Siekdama, kad į DI orientuotos moterys akademikės ir kitos būtų dėmesio centre, „TechCrunch“ paskelbė interviu seriją, skirtą nuostabioms moterims, prisidėjusioms prie AI revoliucijos. Šiuos kūrinius skelbiame ištisus metus, nes tęsiasi AI bumas, pabrėždami pagrindinius darbus, kurie dažnai lieka neatpažįstami. Daugiau profilių skaitykite čia.

Sarah Myers West yra „AI Now“ instituto, Amerikos tyrimų instituto, tiriančio socialines AI pasekmes ir politikos tyrimų, nagrinėjančių galios koncentraciją technologijų pramonėje, vykdomoji direktorė. Anksčiau ji dirbo vyresniąja patarėja dirbtinio intelekto klausimais JAV Federalinėje prekybos komisijoje ir yra Šiaurės Rytų universiteto kviestinė mokslininkė, taip pat Kornelio piliečių ir technologijų laboratorijos mokslinė bendradarbė.

Trumpai, kaip pradėjote dirbti dirbtinio intelekto srityje? Kas tave patraukė šioje srityje?

Pastaruosius 15 metų praleidau tyrinėdamas technologijų įmonių, kaip galingų politinių veikėjų, vaidmenį, kai jos atsidūrė priešakinėse tarptautinio valdymo linijose. Karjeros pradžioje sėdėjau pirmoje eilėje ir stebėjau, kaip JAV technologijų įmonės pasirodė visame pasaulyje taip, kad pakeitė politinį kraštovaizdį – Pietryčių Azijoje, Kinijoje, Artimuosiuose Rytuose ir kitur – ir parašiau knygą apie tai, kaip pramonė. lobizmas ir reguliavimas suformavo interneto stebėjimo verslo modelio ištakas, nepaisant alternatyvų siūlančių technologijų in teorija kad in praktika nepavyko įgyvendinti.

Daugeliu savo karjeros momentų galvojau: „Kodėl mes esame užrakinti šioje labai distopinėje ateities vizijoje? Atsakymas mažai susijęs su pačiomis technologijomis ir labai susijęs su viešąja politika ir komercializacija.

Nuo to laiko tai beveik buvo mano projektas, tiek per mokslinę karjerą, tiek dabar vykdant politinį darbą kaip „AI Now“ direktorius. Jei dirbtinis intelektas yra mūsų kasdienio gyvenimo infrastruktūros dalis, turime kritiškai išnagrinėti institucijas, kurios ją kuria, ir užtikrinti, kad visuomenėje būtų pakankamai trinties – tiek reguliuojant, tiek organizuojant – siekiant užtikrinti, kad tai būtų visuomenės poreikiai. kurie teikiami dienos pabaigoje, o ne technologijų įmonių.

Kokiu darbu AI srityje labiausiai didžiuojatės?

Aš tikrai didžiuojuosi darbu, kurį atlikome būdami FTC, kuri yra JAV vyriausybinė agentūra, kuri, be kita ko, yra pagrindinė dirbtinio intelekto reguliavimo vykdymo linija. Man patiko pasiraitoti rankoves ir dirbti prie dėklų. Aš galėjau panaudoti savo metodų mokymą kaip tyrėjas, kad galėčiau atlikti tiriamąjį darbą, nes priemonių rinkinys iš esmės yra tas pats. Buvo džiugu pasinaudoti šiais įrankiais, kad valdžia būtų tiesiogiai atskaitinga, ir matyti, kad šis darbas daro tiesioginį poveikį visuomenei, nesvarbu, ar tai būtų DI naudojimas siekiant nuvertinti darbuotojus ir didinti kainas, ar kovojant su antikonkurenciniu elgesiu. didelių technologijų įmonių.

Mums pavyko suburti fantastišką technologų komandą, dirbančią Baltųjų rūmų Mokslo ir technologijų politikos biure, ir buvo įdomu matyti, kad mūsų ten padėti pagrindai yra tiesiogiai susiję su generatyvaus AI atsiradimu ir debesų infrastruktūros svarba. .

Kokios yra pačios aktualiausios problemos, su kuriomis susiduria dirbtinis intelektas vystantis?

Visų pirma, dirbtinio intelekto technologijos yra plačiai naudojamos labai jautriuose kontekstuose – ligoninėse, mokyklose, pasienyje ir pan., tačiau jos lieka nepakankamai išbandytos ir patvirtintos. Tai technologija, kuriai būdingos klaidos, ir iš nepriklausomų tyrimų žinome, kad tos klaidos pasiskirsto nevienodai; jie neproporcingai kenkia bendruomenėms, kurios ilgą laiką patyrė diskriminacijos naštą. Turėtume nustatyti daug, daug aukštesnę kartelę. Tačiau man rūpi, kaip galingos institucijos naudoja dirbtinį intelektą – nesvarbu, ar jis veikia, ar ne – savo veiksmams pateisinti, pradedant ginklų panaudojimu prieš civilius Gazos ruože ir baigiant darbuotojų teisių atėmimu. Tai yra ne technologijų, o diskurso problema: kaip mes orientuojame savo kultūrą į technologijas ir idėją, kad jei AI dalyvauja, tam tikri pasirinkimai ar elgesys tampa „objektyvesni“ arba kažkaip gaunami.

Koks yra geriausias būdas atsakingai kurti AI?

Turime visada pradėti nuo klausimo: kam iš viso kurti AI? Kodėl reikia naudoti dirbtinį intelektą ir ar AI technologija tinka šiam tikslui? Kartais atsakymas yra statyti geriau, ir tokiu atveju kūrėjai turėtų užtikrinti, kad būtų laikomasi įstatymų, tvirtai dokumentuoti ir patvirtinti savo sistemas ir padaryti atvirą bei skaidrią, ką gali, kad nepriklausomi mokslininkai galėtų daryti tą patį. Tačiau kartais atsakymas yra visai nestatyti: mums nereikia daugiau „atsakingai pagamintų“ ginklų ar stebėjimo technologijų. Galutinis naudojimas yra svarbus šiam klausimui, ir nuo to turime pradėti.