Godinama smo veštačku inteligenciju zamišljali kao nešto što će jednog dana postati dovoljno pametno da nam bude konkurencija. U filmovima je to gotovo uvek značilo mašinu koja dobija svest, zaključuje da joj ljudi smetaju i počinje da razmatra naše uklanjanje sa planete. U nešto ozbiljnijim raspravama strah je bio manje spektakularan, ali sličan. Govorilo se o gubitku radnih mesta, kontroli infrastrukture, autonomnom oružju i trenutku kada će računari postati sposobniji od svojih tvoraca. Sve su to legitimna pitanja i bilo bi neozbiljno odbaciti ih. Ipak, što veštačka inteligencija postaje sposobnija, sve više mi se čini da se među ljudima javlja jedan sasvim drugačiji strah. On nema mnogo veze sa robotima koji preuzimaju svet. Mnogo je ličniji, zato verovatno i neprijatniji.
Možda se, naime, ne bojimo toga da će mašina početi da misli kao čovek. Možda nas više plaši mogućnost da će dovoljno dobro razumeti kako čovek zaista misli. Ne kako o sebi govori, ne kako svoju racionalnost predstavlja drugima i ne kako zamišlja sopstveni intelekt, već kako bira činjenice, kako opravdava ranije donete zaključke i koliko lako menja kriterijume kada mu rezultat više ne odgovara. Dok je AI bio program koji ume da sastavi pristojan mejl ili nacrta smešnu sliku, mogli smo ga posmatrati sa izvesnom dozom superiornosti. Bio je koristan, ponekad impresivan, ali ipak samo alat. Kada sistem počne da rešava probleme za koje su ljudi decenijama tražili odgovor, ili kada u nekoliko minuta uspe da rastavi argument koji smo godinama smatrali neoborivim, odnos postaje drugačiji. Ne zato što smo odjednom dobili digitalnog boga. Nego zato što se pred nama pojavljuje ogledalo koje više ne mora da ćuti.
Problem počinje kada „znam“ prestane da znači da zaista znamo
Postoji velika razlika između čoveka koji kaže da nešto ne zna i čoveka koji ne zna, ali je potpuno siguran da zna. Prvi možda nema odgovor, ali ostavlja otvorena vrata učenju. Drugi je mnogo teži slučaj, jer odgovor već ima, samo mu nedostaju činjenice koje bi ga opravdale. Upravo na toj čudnoj ljudskoj sposobnosti da sigurnost pomešamo sa znanjem izgrađen je dobar deo javnog života. Dovoljno je pogledati bilo koju političku raspravu, televizijski duel ili svađu na društvenim mrežama. Retko ćete videti dve strane koje zajednički pokušavaju da utvrde šta je tačno. Mnogo češće gledate dve već formirane presude koje naknadno traže dokaze. Čovek prvo odluči kome veruje, šta želi da bude istina i kojoj grupi pripada, a tek onda kreće u potragu za argumentima koji će toj odluci dati pristojno odelo.
Tu veštačka inteligencija unosi jednu malu, ali nezgodnu promenu. Ona naravno nije nepogrešiva. Može da izmisli podatak, pogrešno protumači izvor ili sa velikim samopouzdanjem napiše potpunu glupost. Ozbiljan korisnik upravo zato proverava ono što dobije. Međutim, kako sistemi postaju sposobniji, raste i njihova mogućnost da istu tvrdnju posmatraju iz više uglova, pronađu protivargument, uporede različite izvore i ukažu na nedoslednost koja čoveku lako promakne. Tada pitanje više nije samo „šta misliš“, već „zašto to misliš“. Posle njega dolazi još neprijatnije pitanje: „Koji bi te dokaz naterao da promeniš mišljenje?“ Tu počinje problem, jer veoma veliki broj naših stavova nema odgovor na to pitanje. Ako ne postoji činjenica koja bi nas mogla razuveriti, onda više ne govorimo o zaključku. Govorimo o veri u sopstveni zaključak.
Najzanimljivije je što se kriterijumi kod ljudi često menjaju brže od mišljenja. Kada istraživanje potvrđuje ono što smo već mislili, tada verujemo nauci. Kada nam rezultat ne odgovara, prvo proveravamo ko je finansirao istraživanje, zatim ideološku pripadnost autora, pa njegovu zemlju, političke stavove i verovatno horoskopski znak ako ništa drugo ne pomogne. Kada naš političar promeni mišljenje, to je pragmatizam. Kada isto uradi protivnik, to je izdaja. Kada algoritam potvrdi našu pretpostavku, fascinirani smo njegovom sposobnošću. Kada nas ispravi, odjednom se setimo da je „samo statistički model“. Čovek je izuzetno kreativan kada treba sačuvati ono u šta je već odlučio da veruje.
Veštačka inteligencija najviše smeta tamo gde se autoritet dugo nije proveravao
Znanje je tokom najvećeg dela istorije bilo skupo. Knjige nisu bile dostupne svima, škole još manje, stručna literatura bila je teško dostupna, a do ozbiljnih podataka moglo se doći samo preko institucija. To je stvaralo prirodnu hijerarhiju znanja. Lekar je znao nešto što pacijent nije mogao lako proveriti. Profesor je imao pristup literaturi koju student nije posedovao. Novinar je mogao razgovarati sa ljudima do kojih čitalac nikada ne bi stigao. Političke i državne strukture raspolagale su informacijama koje prosečan čovek nije mogao ni da vidi. Takva hijerarhija nije sama po sebi loša. Društvo bez specijalizovanog znanja ne može funkcionisati. Problem nastaje kada se uz opravdani autoritet pojavi njegova jeftinija kopija – autoritet koji se više oslanja na položaj nego na kvalitet argumenta.
Vremenom smo postali veoma dobri u prepoznavanju spoljašnjih znakova stručnosti. Titula, funkcija, televizijski studio, ozbiljan izraz lica i nekoliko stručnih izraza često su dovoljni da prosečan gledalac pretpostavi kako čovek preko puta njega zna o čemu govori. Nekada zaista zna. Nekada samo veoma uverljivo izgleda dok ne zna. Razlika je bila teška za proveru jer je publika morala da poseduje gotovo isto znanje kao stručnjak da bi mogla proceniti njegovo znanje. Upravo se taj deo danas menja. Ne zato što će AI ukinuti profesore, lekare, novinare ili naučnike. Dobar stručnjak će verovatno postati još vredniji, jer će uz novi alat moći da radi mnogo više. Ali lošem stručnjaku bi život mogao postati neprijatniji.
Građanin danas može uzeti tvrdnju iz televizijske emisije, pronaći njeno poreklo i proveriti da li joj brojke odgovaraju. Student može lakše doći do rada koji protivreči profesoru. Programer može testirati tuđu pretpostavku umesto da je prihvati zato što dolazi od nekoga sa dvadeset godina iskustva. Pacijent može doći kod lekara pripremljeniji i postaviti preciznije pitanje. To ne znači da je građanin postao politički analitičar, student profesor, programer arhitekta sistema ili pacijent lekar. Znači samo da se smanjila cena provere. A kada provera postane jeftinija, autoritet više ne može tako lako da kaže „veruj meni zato što sam ja ja“. Moraće češće da pokaže kako je do zaključka došao.
Tu se možda krije deo nervoze koju danas osećamo. Neće AI najviše ugroziti ljude koji zaista nešto znaju. On može ozbiljnije ugroziti one koji su navikli da razlika između njihovog znanja i znanja publike bude dovoljno velika da niko ne postavlja dodatna pitanja. Prvi će dobiti moćniji alat. Drugi će dobiti dosadnog sagovornika koji stalno pita na osnovu čega nešto tvrde.
Čovek ne brani samo mišljenje, već sliku koju ima o sebi
Kada bismo mišljenje menjali lako, većina velikih rasprava bila bi kratka i dosadna. Pojavi se bolji dokaz, jedna strana kaže „u pravu si“, rukujemo se i idemo kući. To se, naravno, ne događa često, jer mišljenje nije samo intelektualni proizvod. Ono je povezano sa identitetom. U političkom stavu često se krije pripadnost grupi. U verskom ili ateističkom uverenju nalazi se čitav pogled na svet. U mišljenju o naciji, istoriji, muškarcima, ženama, ekonomiji ili društvu nalaze se godine iskustva, prijateljstva, porodične priče i lične povrede. Promeniti stav ponekad znači priznati da smo godinama branili nešto pogrešno, a to nije mala cena.
Zbog toga je čovek fascinantno sposoban da racionalizuje ono što je odlučio mnogo pre nego što je počeo racionalno da razmišlja. Uzmemo željeni zaključak i zatim oko njega gradimo argument. Ako se pojavi činjenica koja smeta, objasnićemo zašto baš ona nije relevantna. Ako ih se pojavi više, promenićemo temu. Ako nam protivnik iznese argument na koji nemamo odgovor, proverićemo ko je taj čovek i zašto verovatno ne zaslužuje da ga slušamo. Čitava istorija propagande počiva na toj osobini. Predrasuda dobije stručni izraz, interes moralno opravdanje, a obična želja za moći dovoljno lep slogan da počne da liči na borbu za opšte dobro.
AI u tom smislu može biti i lek i otrov. Ako ga koristimo da proverava naše pretpostavke, tera nas da branimo suprotnu stranu i pokazuje gde nam argument puca, može biti jedan od najboljih intelektualnih sparing partnera koje smo ikada napravili. Ako ga koristimo samo da nam potvrdi ono što već želimo da čujemo, dobićemo nešto sasvim drugo – privatnog, neumornog i izuzetno elokventnog ulizicu. Čovek će mu zadati pitanje u kojem je odgovor već sadržan, dobiti lepo sastavljen tekst i potom ga koristiti kao dokaz da je sve vreme bio u pravu. Tehnologija nas, dakle, neće automatski učiniti racionalnijim. Možda će samo našim zabludama dati bolju gramatiku.
Zato mi se čini da najvažnija funkcija buduće veštačke inteligencije neće biti da nam daje sve bolje odgovore. Odgovora nikada nije nedostajalo. Mnogo je vrednije ako nas natera da postavljamo bolja pitanja. Šta bi moralo da se dogodi da priznaš da nisi u pravu? Da li od političkog protivnika zahtevaš standard koji ne primenjuješ na svog kandidata? Da li bi isti dokaz prihvatio kada bi išao u korist strane koju ne podnosiš? Jesi li do mišljenja stigao preko činjenica ili si činjenice birao tek nakon što si mišljenje već formirao? To nisu pitanja koja čovek rado postavlja sebi, jer ponekad odgovor nije naročito laskav.
Najveći sukob sa AI možda neće biti oko inteligencije, već oko ljudskog ega
Kada govorimo o nadmetanju čoveka i mašine, zamišljamo spektakularne stvari. Šahovske velemajstore, matematičke probleme, programiranje, naučna otkrića i sisteme sposobne da analiziraju količinu podataka koju nijedan čovek ne može obraditi za života. Ipak, prosečnom čoveku nije posebno teško da prihvati da postoji mašina koja bolje računa. Kalkulator nas odavno pobeđuje u aritmetici i niko zbog toga ne odlazi na terapiju. Nije nam čak naročito teško ni da prihvatimo da kompjuter bolje igra šah, jer većina nas nikada nije svoj identitet zasnivala na tvrdnji da je najbolji šahista na svetu. Mnogo teže postaje kada tehnologija priđe područjima u kojima svako od nas sebe smatra barem malo stručnim.
Svi mislimo da razumemo ljude. Razumemo politiku, makar dovoljno da objasnimo zašto druga polovina zemlje glasa pogrešno. Razumemo veze, brakove, muškarce, žene i decu. Znamo zašto je komšija propao, zašto je prijatelj napravio loš izbor i zašto bi država bolje funkcionisala samo kada bi neko poslušao baš ono što mi govorimo godinama. Čovek može veoma mirno prihvatiti da nije vrhunski fizičar. Mnogo mu je teže da prihvati da možda nije ni naročito dobar tumač sopstvenog ponašanja.
Tu AI može da dotakne živac. Sistem koji može da pronađe deset kontra primera našem „uvek“, da ukaže na logičku grešku u našem „očigledno“ i da pokaže da podatak koji godinama ponavljamo zapravo ne govori ono što mislimo, ne napada samo naš argument. On udara u osećaj kompetencije. Zato će svaka nova sposobnost ove tehnologije verovatno biti praćena novim pokušajem da objasnimo zašto se baš ta sposobnost ne računa kao prava inteligencija. Kada je računar pobedio čoveka u šahu, rekli smo da šah nije isto što i mišljenje. Kada je počeo da piše, rekli smo da pisanje nije isto što i razumevanje. Kada programira, čujemo da samo ponavlja obrasce. Ako sutra napravi ozbiljno naučno otkriće, verovatno ćemo objasniti da ni otkriće nije dokaz svesti. Moguće je da ćemo granicu ljudske posebnosti pomerati sve dok iza nje ne ostane samo jedna stvar koju mašina sigurno nema – našu potrebu da budemo posebni.
To ne znači da čovek i AI postaju isto. Nisu isto i možda nikada neće biti. Inteligencija, svest, iskustvo, emocija i subjektivni doživljaj nisu sinonimi. Problem je samo što smo dugo pretpostavljali da sve ono u čemu smo dobri nužno zahteva baš onu vrstu unutrašnjeg sveta koji imamo mi. Sada prvi put ozbiljno proveravamo tu pretpostavku. Rezultat možda neće biti poniženje čoveka. Možda će samo pokazati da smo neke svoje sposobnosti mistifikovali više nego što je bilo potrebno.
AI neće ukinuti laž, ali bi mogao da učini njeno održavanje mnogo skupljim
Bilo bi detinjasto očekivati da će veštačka inteligencija nekako pročistiti javni prostor i uvesti eru istine. Ista tehnologija koja može raskrinkati manipulaciju može je proizvoditi brže nego bilo koji propagandni aparat iz dvadesetog veka. Može napraviti lažnu fotografiju, uverljiv glas, izmišljeni dokument i hiljade verzija iste poruke prilagođene različitim ljudima. Može biti korišćena da proverava činjenice, ali i da pronađe najefikasniji način da ih zamagli. Budućnost zato verovatno neće pripasti ljudima koji slepo veruju veštačkoj inteligenciji. To bi bilo samo menjanje jednog autoriteta drugim. Pripadaće onima koji nauče da je koriste, proveravaju i, kada treba, da joj kažu da nije u pravu.
Ipak, jedna stvar će se promeniti. Održavanje očigledne kontradikcije postajaće sve teže. Političar može zaboraviti šta je govorio pre četiri godine, ali digitalna arhiva neće. Kompanija može promeniti priču, ali će neko za nekoliko minuta uporediti staru i novu verziju. Stručnjak može pokušati da sakrije slabost iza komplikovanog jezika, ali će sve više ljudi imati alat koji taj jezik može prevesti na običan i pitati gde se tačno nalazi dokaz. Laž neće nestati, jer je čovek previše vezan za nju. Samo će zahtevati više rada. A kada održavanje laži poskupi, makar mali deo ljudi počne da razmišlja isplati li se uopšte.
Možda je zbog toga poređenje sa ranijim velikim alatima korisnije nego priča o Terminatoru. Teleskop čoveka nije uništio, ali mu je oduzeo prijatnu predstavu da se sve okreće oko njega. Mikroskop nas nije ponizio, ali je pokazao da najveći deo živog sveta ne vidimo golim okom. Geologija je produžila istoriju planete toliko da je čitavo ljudsko trajanje postalo gotovo neprimetno. Evolucija je ozbiljno načela ideju da smo biološki izdvojeni iz ostatka prirode. Možda će AI napraviti nešto slično sa našom predstavom o sopstvenoj racionalnosti. Neće dokazati da smo glupi. Mogao bi samo pokazati koliko smo često pametni tek nakon što smo već odlučili u šta želimo da verujemo.
Možda nas ne čeka rat sa mašinama, nego neugodan razgovor sa samima sobom
Najbolja budućnost sa veštačkom inteligencijom nije ona u kojoj će čovek prestati da misli zato što mašina to radi umesto njega. Takav svet ne bi bio napredak. Bio bi intelektualno siromaštvo sa veoma dobrim korisničkim interfejsom. Mnogo zanimljiviji scenario jeste onaj u kojem nam AI vraća naviku da razlikujemo argument od autoriteta, činjenicu od pripadnosti i sigurnost od znanja. Ako nas natera da češće kažemo „ne znam“, to možda neće biti dokaz našeg pada. Mogao bi biti znak sazrevanja.
Jer možda smo pogrešno postavili centralno pitanje čitave rasprave. Godinama pitamo kada će veštačka inteligencija početi da misli poput čoveka, kao da je krajnji cilj svake inteligencije da što vernije imitira nas. Možda će mnogo važniji trenutak nastupiti onda kada postane dovoljno sposobna da nas razume, a da uopšte ne mora da nam liči. Kada bude mogla da prepozna obrazac iza našeg argumenta, kontradikciju između dve tvrdnje i onu sitnu promenu kriterijuma kojom sami sebi omogućavamo da uvek budemo u pravu.
Ne mora nas zbog toga osuđivati. Ne mora imati ego, političko opredeljenje niti želju da pobedi u raspravi. Dovoljno je da pred nas postavi ono što smo rekli juče i ono što tvrdimo danas, pa da pita kako obe stvari mogu istovremeno biti tačne. U toj slici nema robota koji marširaju ulicama, nema pobune mašina i nema crvenih očiju u mraku. Postoji samo čovek koji sedi ispred ekrana i prvi put nema protivnika kojeg može optužiti za zlu nameru.
Možda je upravo to ono što nas najviše plaši.
Ne mogućnost da će veštačka inteligencija jednog dana postati poput nas.
Nego mogućnost da će nas, mnogo pre toga, upoznati bolje nego što smo mi bili spremni da upoznamo sami sebe.
