Sadržaj
- Uhvatiti lopova. , ,
- Bez grešaka, bez stresa - Vaš korak po korak vodič za stvaranje softvera koji mijenja život bez uništavanja života
- Zaustavljanje širenja
Izvor: Mast3r / Dreamstime.com
Oduzeti:
Istraživači se okreću AI u borbi protiv lažnih vijesti. Ali može li to stvarno pomoći ili će stvari samo pogoršati stvari?
Očekuje se da će lažne vijesti biti glavni trn u strani predstojećih predsjedničkih izbora, a da ne spominjemo njihov ukupni korozivni učinak na naš javni diskurs općenito. U današnjem povezanom društvu postaje prepoznavanje činjenica iz fikcije sve teže, i zato se neki istraživači počinju usredotočiti na snagu umjetne inteligencije za rješavanje ovog problema.
Nadamo se, naravno, da će strojevi, ili točnije algoritmi, biti bolji od ljudi u otkrivanju laži. Ali je li to realno očekivanje ili je samo još jedan slučaj bacanja tehnologije na naizgled nerješiv problem?
Uhvatiti lopova. , ,
Jedan od načina na koji znanstvenici planiraju da pooštre AI-jevu oštrinu u ovom području je dopuštajući mu generiranje lažnih vijesti. Allenov institut za AI na Sveučilištu u Washingtonu razvio je i javno objavio Grover, motor za obradu prirodnog jezika, namijenjen stvaranju lažnih priča o širokom rasponu tema. Iako se u početku ovo može činiti kontraproduktivnim, ovo je zapravo prilično uobičajena taktika AI treninga u kojoj jedan stroj analizira izlaz drugog. Na taj se način analitička strana može ubrzati mnogo brže od oslanjanja na stvarne lažne vijesti. Iz instituta tvrde da Grover već može raditi s ocjenom točnosti od 92%, ali važno je napomenuti da je samo vješt u razlikovanju sadržaja koji stvara AI od sadržaja koji stvara čovjek, što znači da bi pametna osoba i dalje mogla lagati lažnu priču mimo njega. (Da biste saznali više, pogledajte tehnologije oko borbe protiv lažnih vijesti.)
U pravim rukama, naravno, Grover može brzo unaprijediti naše razumijevanje kako se stvaraju lažne vijesti i kako se šire, a to se teoretski može iskoristiti za sprečavanje u stvarnom svijetu. No, kako je Futurism.com napomenuo nedavno, neki stručnjaci koji su uzeli sustav za probni rad zabrinuti su koliko je učinkovit u stvaranju vjerodostojnih laži, pa čak i oponašaju stilove pisanja zakonitih vijesti poput Wall Street Journala i New Yorka vremena.
Ali budući da je laganje urođeno intuitivnim činom i emocijama, je li moguće da čak i najpametniji strojevi, koji se još uvijek voze hladnom i čvrstom logikom, mogu ikada postići razinu uzajamnog razumijevanja koja je potrebna da se laž primijeti? Maria Almeida kompanije Unbabel nedavno je napomenula da iako se neke iteracije u ovome mogu prilično popeti, nijedan algoritam ne može se nadati ljudskom razumijevanju. To znači da bi AI mogao biti u mogućnosti napraviti dramatična poboljšanja u provjeri činjenica i uporednoj analizi, ali konačni poziv je najbolje prepustiti obučenim stručnjacima.
Ironično je da će ova sposobnost biti najkorisnija u otkrivanju dubokih lažnih videozapisa koji počinju vršiti runde na društvenim medijima. Sa AI koji je u stanju analizirati vizualne podatke sve do pojedinih piksela, bit će mnogo spretniji u otkrivanju izmijenjenih slika od izmijenjenih riječi i koncepata.
Ipak, tvrdi Forbesov Charles Towers-Clark, središnji problem lažnih vijesti nije u tome što je malo ljudi stvara, već u tome da na nju utječe toliko mnogo ljudi. Ljudi imaju tendenciju da vjeruju u ono što žele vjerovati, a ne u ono što ih činjenice vode. Dakle, čak i ako visoko razvijeni AI motor izjavi da je njihovo uvjerenje pogrešno, ljudi će biti skloniji sumnjati u stroj nego u sebe.
„Primjena strojnog učenja za borbu protiv širenja lažnih vijesti je divna“, kaže on, „i postoji potreba da se ovaj problem riješi jer je pouzdanost glavnih medijskih vijesti dovedena u pitanje. Ali, s širenjem dezinformacija koje sadrže društveni mediji, može li otkrivanje i otkrivanje izvora lažnih vijesti nadvladati ljudski instinkt da vjeruje u ono što nam se kaže? "
Bez grešaka, bez stresa - Vaš korak po korak vodič za stvaranje softvera koji mijenja život bez uništavanja života
Ne možete poboljšati svoje programiranje kad nikoga nije briga za kvalitetu softvera.
Pravi izazov, dakle, nije prepoznati i objavljivati lažne vijesti već shvatiti zašto to ima tendenciju širenja na društvenim mrežama toliko brže od stvarnih vijesti. Djelomično, to je zbog prirode samih lažnih vijesti, koje imaju tendenciju da budu uzbudljive i slane nasuprot komparativnom treningu stvarnosti. Na kraju, je li realno očekivati da će tehnologija ispraviti ono što je u biti netehnički problem? (Za više informacija o tome kako AI mijenja medije, pogledajte 5 AI Napredak u izdavanju i medijima.)
Zaustavljanje širenja
Zato je važno usmjeriti AI na tehnički aspekt lažnih vijesti, a ne na ljudski aspekt, kaže Robin Harris iz ZDNeta. I doista, većina istraživača uvježbava AI da se uključe u stvari poput razlikovanja prirodnih i umjetnih obrazaca širenja putem društvenih mreža. Ključne metrike kao što su stopa pretvorbe, vremenski raspon retweta i ukupni podaci odziva mogu se koristiti za identificiranje i neutraliziranje kampanja dezinformacija, čak i ako je njezin izvor skriven ispod slojeva digitalne podtave. U isto vrijeme, AI se može koristiti za upravljanje drugim tehnologijama, poput blockchaina, za održavanje traženih informativnih kanala koji se mogu provjeriti.
Činjenica je da lažne vijesti nisu nova pojava. Od mukotrpnog novinarstva ranih 20th stoljeću sve do propagande najranijih civilizacija, privikavanje javnosti je tradicija koju poštuje vrijeme, kako za vladajuće vlade, tako i za revolucionare. Razlika je danas ta što je digitalna tehnologija demokratizirala ovu sposobnost do te mjere da gotovo svako može objaviti laž i gledati kako se širi svijetom u nekoliko sati.
Tehnologije poput AI mogu sigurno pomoći da se donese izvjesnost ovoj zbrci, ali samo ljudi mogu u potpunosti razumjeti i prosuditi istinu.