Sadržaj
- Što je u imenu?
- Ako bi računari mogli razgovarati, kako bi trebali zvučati?
- Bez grešaka, bez stresa - Vaš korak po korak vodič za stvaranje softvera koji mijenja život bez uništavanja života
- Što Siriin glas i izrazi govore o nama
- Tehnologija je mogla napredovati, ali žene ... Ne baš mnogo
- U AI djeluje vrlo malo žena
- Put naprijed
Izvor: Idey / Dreamstime.com
Oduzeti:
Postoje dokazi o postojanom problemu pristranosti u AI koji bi mogao biti jedan od razloga zašto vidimo rodne stereotipe koji se manifestiraju u ženskim identitetima povezanim s AI asistentima.
Ikad se zapitate zašto Alexa nije Alex, što bi zapravo moglo biti nadimak za oba spola? Zapravo je ironično da je tvrtka s imenom proizašlim iz žestoke ratničke rase samo upala u standardnu praksu davanja pomagača koji uzimaju narudžbe od korisnika kao žene.
Što je u imenu?
U stvari, ime agenta AI potječe od Aleksandrije, grada čija je tvrdnja o slavi u drevnom svijetu bila njegova biblioteka, prema Danielu Rauschu, šefu Amazonove odjele "Pametni dom". Kazao je za Business Insider da je to hvatanje ideje o izvornoj zbirci svezaka koja je sadržavala "svo kolektivno znanje o svijetu u to vrijeme."
Ali mogli su s lakoćom uzeti u obzir i činjenicu da je grad dobio ime po Aleksandru Velikom, a otišli su s imenom Aleks, nadimkom kojeg su prihvatili muškarci i žene. Umjesto toga, otišli su s izrazito ženstvenom Alexa.
Amazon nije sam u tome. Apple je odabrao Siri kao ime za svoju govornu asistenticu koja govori ženskim glasom. Za Microsoftovu Cortanu odabran je i ženski identitet. Čini se da nije slučajnost da su tri najpoznatija identiteta identiteta ženskog spola ženska.
Vjerojatno su sve tvrtke napravile istu vrstu istraživanja tržišta za koji je Amazon rekao da je to učinio. (Za ne baš ozbiljnu stranu Siri, pogledajte Pardon Moi? Top Siri Fail s.)
Ako bi računari mogli razgovarati, kako bi trebali zvučati?
U intervjuu Business Insideru, Rausch je rekao da su "ustanovili da je ženski glas više" simpatičan "i da ga je bolje primiti." U članku je rečeno da je ta prednost ženskim glasovima prethodila asistentima AI.
To bi moglo biti razlog zašto je računalo na brodu Enterprise govorilo ženskim glasom. Glas je zapravo bio o Majelu Barrett-Roddenberry, supruzi tvorca serije "Zvjezdane staze", a obožavatelji su je prepoznali zbog njezine ponavljajuće uloge savršeno uglađene plavokose medicinske sestre, Christine Chapel, koja je morala poslušno primati narudžbe od Dr. McCoy.
U videozapisu ispod, ona zapravo daje glas knjižnici u razmjeni podataka u spisu s osobom o kojoj se kapetan pita.
Bez grešaka, bez stresa - Vaš korak po korak vodič za stvaranje softvera koji mijenja život bez uništavanja života
Ne možete poboljšati svoje programiranje kad nikoga nije briga za kvalitetu softvera.
Istina je da postoje AI agenti koji su povezani s muškim identitetom, kao što je Mag Magda Chandra Steele uočila na blogu Medium ove godine. Ali oni su obično povezani s ozbiljnijim zadacima od onih koji su prebačeni na virtualnog pomoćnika na radnoj površini ili telefonu. Prema tome, IBM-ov Watson, koji je povezan s stvarima poput medicinskih istraživanja, dobio je "muško zvučan glas" koji ljudi povezuju s povjerenjem i vodstvom.
Suprotno tome, ženski su glasovi povezani s srdačnošću i susretljivošću. "Iako im nedostaju tijela", objasnila je Steele, "utjelovljuju ono na što mislimo kad zamislimo osobnog asistenta: kompetentnu, efikasnu i pouzdanu ženu."
Ponekad im se čak odobri žensko virtualno tijelo, barem jedno koje se pojavljuje na ekranu. To je slučaj IPG-ovog kognitivnog sredstva Amelia. Kao što možete vidjeti u videu ispod, prikazana je kao prilično mlada plavuša (boja kose Barrett-Roddenberry obojala je kosu zbog svoje vidljive uloge medicinske sestre).
Amelia utjelovljuje pouzdanu ženku koja podržava onog zaduženog, u pozadini, ali također samo pomalo dekorativno. Ima na umu idealnog asistenta predviđenog 1950-ih. Kao i Perla Mason's Della Street, najznačajnija odana tajnica, ona je uvijek tu da udovolji potrebama svog muškog šefa i odbija nikakav zahtjev ili zadatak.
Što Siriin glas i izrazi govore o nama
Trebali smo ostvariti značajan napredak u pogledu rodne ravnopravnosti od sredine prošlog stoljeća, ali asistenti AI nas podsjećaju da nam predstoji dug put. To je bio fokus nedavne UNESCO-ove studije pod naslovom "Bljesnuo bih kad bih mogao."
Naslov studije rečenica je da je Apple-ova glasnogovornica ženskog spola, Siri, izvorno programirana da kaže u odgovoru na korisnike koji je nazivaju seksističkim imenom. Dobra vijest je da je Apple početkom 2019. godine ažurirao Sirijevo programiranje tako da sada nudi primjerenije uređaju "Ne znam kako odgovoriti na to" kada netko da takvu izjavu agentu AI.
Međutim, kako izvješće ističe, Apple je ostavio da stoji jako dugo, smatrajući da je Siri puštena još u 2011. To je srž problema.
Tehnologija je mogla napredovati, ali žene ... Ne baš mnogo
Kao što je u izvješću naglašeno, "Sirijina" ženstvenost "i poslušnost izraženi od strane mnogih drugih digitalnih asistenata projiciranih kao mlade žene - pruža snažnu ilustraciju rodne pristranosti kodirane u tehnološke proizvode, prožimajuće se u tehnološkom sektoru i očitu u digitalnim vještinama obrazovanje."
Izvještaj uzima seksizam koji je ugrađen u ženski identitet AI i programirani odgovori kao rezultat sistemskog rodnog jaza u tehnologiji općenito i AI posebno: „Danas su žene i djevojke 25 posto manje vjerojatnosti da muškarci znaju iskoristiti digitalno tehnologija za osnovne namjene, 4 puta manje vjerovatno da znaju programirati računala i 13 puta manje vjerojatnosti da će podnijeti zahtjev za tehnološki patent. "
U AI djeluje vrlo malo žena
To se uklapa u nalaze diskriminirajućih sustava Instituta AI Now: spol, rasa i moć. Na AI konferencijama žene čine samo 18% zastupljenih autora i manje od 20% profesora AI. Zastupljenost je još lošija u industriji. Kod žena ima samo 15% mjesta u istraživačkom osoblju, a kod Google-a se postotak smanjuje na 10.
Koliko god ti brojevi bili loši, bolji su od onog što UNESCO-ovo izvješće kaže o podnositeljima zahtjeva na takve položaje: „Regrutori za tehnološke kompanije u Silicijskoj dolini procjenjuju da je podnositelj zahtjeva za tehnički posao u umjetnoj inteligenciji (AI) i znanosti o podacima često manji više od 1 posto žena. "
Prema UNESCO-ovom izvješću postoje ozbiljne posljedice za ovu neravnotežu: "Dok muškarci i dalje dominiraju ovim prostorom, nejednakost služi samo za produbljivanje i pogoršanje rodnih nejednakosti, jer se neprepoznata pristranost replicira i ugrađuje u algoritme i umjetnu inteligenciju."
Objašnjava da su „timovi u kojima dominiraju muškarci“ oni koji postavljaju kriterije koji postavljaju normu koju „može biti teško popraviti kada se ukažu na pristrasnost spolova“. Pitanje pristranosti AI-ja obrađeno je u AI-jevom Got Some Explaining to Do , AI ne stvara pristranost, već odražava predrasude svog programiranja.
"Nema ništa umjetno od AI", izjavio je Fei-Fei Li, stručnjak za to područje. "Inspiriraju ga ljudi, stvaraju ga ljudi i - što je najvažnije - utječe na ljude." Baš kao što je "smeće unutra, smeće vani" odnosi se na sve podatke, isto vrijedi za ono što ona naziva, "pristranost, pristranost prema" za AI sustave.
Put naprijed
Pa kako možemo prevladati takve pristranosti koje su ugrađene u naše funkcije strojnog učenja i dodatno oblikovati naša očekivanja? Odgovor je, prema UNESCO-ovom izvješću, obrazovanje: "Obrazovanje je mjesto na kojem se postavljaju očekivanja i razvijaju se kompetencije."
Li se slaže da je moguće preoblikovati zacrtani put. "Uz ispravno usmjeravanje AI će poboljšati život", tvrdi ona. "Ali bez toga, tehnologija stoji da još više proširi bogatstvo, učini tehnologiju još ekskluzivnijom i pojača pristranosti koje smo potrošili generacije pokušavajući prevladati."
Vrijeme je da hrabro odete tamo gdje čovjek prije nije otišao.