Sadržaj
- Puca stroj
- Automatizacija i ometanje posla
- Bez grešaka, bez stresa - Vaš korak po korak vodič za stvaranje softvera koji mijenja život bez uništavanja života
- Prijave iz Consumer Electronics
- Ponovna kontrola
- Kako bi to moglo raditi
Izvor: Artinspiring / Dreamstime.com
Oduzeti:
Da bi automatizacija mogla raditi i za čovječanstvo, a ne protiv njega, potrebne su nam zaštitne mjere i informirani ljudi ovlašteni za zaustavljanje ili ispravljanje pogrešaka u sustavu.
"Griješiti je ljudski; Zaista neispravne stvari zahtijevaju računalo. "William E. Vaughan ovo je opažanje napravio još 1969. godine. Davanje nadzora nad automatiziranim sustavom nosi potencijal da se sistem pokvari i nanese ozbiljnu štetu prije nego što se provjeri.
Automatizacija nije nova, ali postaje puno raširenija zahvaljujući integraciji digitalnog i fizičkog sustava. Napon automatizacije na skali je velika učinkovitost. No, nedostatak oslanjanja na sustav "postavi i zaboravi" jest taj što ga netko možda neće pravilno postaviti.
Sa sustavom koji jednostavno slijedi bez intervencija i nikakvog zaustavljanja strojeva možete imati destruktivne posljedice. Prema tome, tehnologija može stvoriti vrstu situacije koja je prikazana u "Čarobnjakovu pripravniku", kada ono što se čini olakšavanjem života zapravo nestane iz kontrole.
Puca stroj
Automatizacija bez intervencije ono je što je rezultiralo time da se tehnički radnik u Velikoj Britaniji prošle godine bez razloga našao bez posla. Ibrahim Diallo primijetio je da njegove sigurnosne karte ne rade na poslu i otkrio je da je to zato što je ostao bez posla. "Stroj me opalio" naslov je koji je dao svom proširenom postu na blogu.
Konačno, uzrok ukidanja Dialloa nije bila neka vrsta procjene algoritma koja je određivala koga treba eliminirati. Problem nije bio u sustavu, ali bio je jedna od ljudskih pogrešaka. U ovom slučaju, sve je to bilo automatizirani odgovor na čovjekov neuspjeh da unese Dialloove informacije o obnovi ugovora.
Nije taj stroj odlučio da bi trebao dobiti otkaz zbog nečega posebno. Jednostavno je izveo korake programirane u onome za koga se pokazalo da više nije zaposlen. Kako pojašnjava u komentarima, ovo zapravo nije AI, već "automatizirana skripta." (Da biste saznali kako AI može pomoći (umjesto da ozlijedi) u tvrtkama, pogledajte što AI može učiniti za Enterprise.)
Automatizacija i ometanje posla
Ovakav učinak nije baš onakav kakav ljudi predviđaju kada opisuju predivne koristi koje možemo predvidjeti u automatiziranoj budućnosti. Uobičajeni optimistični izgledi za promjenu radnih mjesta, kada se zadaci preuzimaju automatizacijom, poslovi će se redefinirati, a ne automatizirati ih. Ali stvarnost je da će neki poslovi biti eliminirani, a ljudi koji ih drže neće nužno moći napraviti bešavni prijelaz na nove karijere u većini automatiziranih industrija.
Smetnje posla jedan je od manjih rizika koji je Elon Musk predvidio za porast AI, iako je njegova vlastita vizija utjecaja na radna mjesta daleko pesimističnija od Fitzgeraldove. Prema Muskovom mišljenju, AI treba strogu regulaciju jer predstavlja "temeljni, egzistencijalni rizik za ljudsku civilizaciju."
Bez grešaka, bez stresa - Vaš korak po korak vodič za stvaranje softvera koji mijenja život bez uništavanja života
Ne možete poboljšati svoje programiranje kad nikoga nije briga za kvalitetu softvera.
Prijave iz Consumer Electronics
Unatoč Muskovim tehničkim priznanjima, neki stručnjaci na tom području kao što je Rodney Brooks, koji je bio glavni direktor MIT-ovog laboratorija za računalnu znanost i umjetnu inteligenciju te suosnivali i iRobot i Rethink Robotics, kažu kako Musk nije u pravu zbog prijetnje AI-ja i kako robotike zapravo djeluju.
U intervjuu za TechCrunch, Brooks je naznačio da je besmisleno pozivati se na propise bez da je tehnologija dorasla do točke u kojoj možemo točno odrediti što se mora regulirati. Izazvao je Muska: "Reci mi, koje ponašanje želiš promijeniti, Elone?"
Brooks je priznao da će roboti donijeti izmještanje posla. Ali također misli da je moguće prebaciti paradigmu u industriji da slijedi onu potrošačke elektronike.
Način na koji je to iznio u intervjuu za TechCrunch glasi: „Imamo tradiciju u proizvodnji opreme koja ima strašna korisnička sučelja i teško je te morate pohađati tečajeve, dok smo u potrošačkoj elektronici napravili strojeve koje koristimo da podučavaju ljude kako ih koristiti. "
To bi rekao da bi trebao biti cilj promjene načina na koji se odnosimo prema "industrijskoj opremi i drugim vrstama opreme, kako bi strojevi naučili ljude kako ih koristiti."
Ponovna kontrola
Ono što Brooks sugerira može nas usmjeriti u smjeru rješenja problema ljudske pogreške koji pokreće automatizirani proces koji izgleda kao da spiralno izmiče kontroli. Da se vratimo na Mickeyevu nesreću u „Čarobnjakovu pripravniku“, problem proizlazi iz osobe koja aktivira sustav, ali nema pravi način komunikacije s njim kako bi ga zaustavio ili promijenio smjer.
Ali ako je sučelje napravljeno po uzoru na potrošačku elektroniku umjesto tradicionalnih industrijskih modela, to bi doslovno moglo kontrolu vratiti u ljudske ruke. Da bi uistinu bilo učinkovito, sučelje ne mora biti samo dostupno, već je osmišljeno tako da ljude drži u petlji o tome što se događa, pružajući podatke o primljenim ažuriranjima i radnjama koje je poduzeo.
Kako bi to moglo raditi
U slučaju Dialloovog slučajnog raskida, to bi značilo da ga automatizirani sustav ne bi samo isključio iz sustava, a potom bi svom regrutu osigurao otkaz. Prvo bi prepoznali da obnova ugovora nije objavljena na predviđeni datum. Prije nego što započne s raskidnim radnjama, ponudit će menadžerima i regrutima ažuriranje o nedostatku obnove i posljedicama koje bi uslijedile u toku dana ako se ništa ne poduzme.
Takva vrsta upozorenja omogućila bi ljudima donošenje informiranih odluka o tome hoće li pustiti automatizaciju ili intervenirati kako bi se ispravila ljudska greška koja je bila izvorni uzrok problema. Ali ljudi također moraju učiniti svoj dio, reagirati na upozorenje i poduzeti odgovarajuće mjere. Drugim riječima, odgovor na pitanje koje je Brooks postavio o ponašanju odnosi se na ljude; moraju biti manje pasivni u pogledu automatizacije. (Za više informacija o tome kako ljudi i strojevi mogu surađivati, pogledajte Usmjeravanje ljudskog elementa: politika, postupak i procesi.)
Kao što je Diallo napisao u odjeljku za komentare na svom blogu, razlog zašto je uspio doći do točke je to što ljudi odbijaju ići protiv stroja:
Druga stvar koja se previdi je ta da su, iako su svi znali da je izaziva ljudska pogreška, i da je to čisto greška, odlučili slijediti s. To je poput stavljanja znaka "dopušteno pušenje" u bolnicu, a ljudi poštuju znak, umjesto da koriste zdrav razum.
Prema tome, politike koje trebamo usvojiti kako bi automatizacija radila i za čovječanstvo, a ne protiv njega, dvostruka je: S računalne strane potrebna su nam sučelja koja su dostupna i informativna, a s ljudske strane, trebamo ljude da budu osnažen da prepozna kada nešto nije u redu i da stupi na to kako bi ga ispravio.