Žmogus, kuris perskaitė ateitį anksčiau nei ji atėjo
Yuval Noah Harari nėra tipinis akademikas, kuris sėdi bibliotekoje ir rašo knygas, kurias perskaito keli šimtai žmonių. Šis izraelietis istorikas tapo vienu iš labiausiai cituojamų mąstytojų pasaulyje – jo knygos „Sapiens”, „Homo Deus” ir „21 pamoka 21-ajam amžiui” išverstos į daugiau nei 60 kalbų ir parduotos dešimtimis milijonų egzempliorių. Bet svarbiausia ne tai. Svarbiausia, kad Harari kalbėjo apie dirbtinio intelekto grėsmes ir galimybes tada, kai dauguma žmonių dar galvojo, kad AI – tai tik mokslinės fantastikos filmuose matomi robotai.
Dabar, kai ChatGPT, Midjourney ir kiti AI įrankiai tapo kasdienybe, jo žodžiai skamba ne kaip prognozės, o kaip diagnozė. Ir ji nėra maloni. Harari nekuria distopijų dėl dramatizmo – jis tiesiog seka logiką ten, kur ji veda, net jei galutinis taškas yra nepatogus.
Kodėl AI nėra tik dar vienas įrankis
Vienas iš pagrindinių Harari argumentų, kurį jis kartoja įvairiuose interviu ir paskaitose, yra tas, kad dirbtinis intelektas kokybiškai skiriasi nuo visų ankstesnių technologijų. Garo variklis, elektra, internetas – visa tai buvo įrankiai, kurie stiprino žmogaus fizines ar kognityvines galimybes. Bet jie negalėjo priimti sprendimų. Jie negalėjo mokytis. Jie negalėjo kurti naujų idėjų.
AI gali. Ir tai keičia viską.
Harari naudoja labai konkrečią formuluotę: ankstesnės technologijos buvo žmogaus rankų pratęsimas, o AI yra žmogaus proto pratęsimas – arba, tiksliau, jo pakaitalas. Kai mašina gali rašyti romanus, diagnozuoti ligas, komponuoti muziką ir strategiškai planuoti – kyla fundamentalus klausimas: ką tada iš tikrųjų reiškia būti žmogumi?
Šis klausimas nėra filosofinis prabangos reikalas. Jis tiesiogiai susijęs su tuo, ar turėsi darbą po dešimties metų, ar tavo vaikai mokysis to, kas bus aktualu, ir kas iš tikrųjų kontroliuos tavo gyvenimą.
Darbo rinkos apokalipsė – ar ne viskas taip paprasta
Harari pozicija dėl darbo rinkos yra niuansuota, bet neoptimistinė. Jis pripažįsta, kad technologijos visada kūrė naujus darbus, kai naikino senus. Pramonės revoliucija sunaikino audėjų profesijas, bet sukūrė fabrikų darbuotojus. Kompiuteriai pakeitė raštininkus, bet sukūrė programuotojus.
Tačiau Harari teigia, kad šį kartą gali būti kitaip – ir čia slypi jo argumento esmė. Problema ne tik greitis, kuriuo AI keičia darbo rinką, bet ir tai, kad AI gali išmokti beveik bet kokios srities įgūdžių greičiau, nei žmonės gali persikvalifikuoti. Jei radiologe dirbantis gydytojas turi persikvalifikuoti, nes AI geriau skaito rentgeno nuotraukas – gerai, gal jis taps psichoterapeutu. Bet kas nutinka, kai AI pradeda geriau suprasti žmogaus emocijas nei žmonės?
Praktinis patarimas čia yra nepatogus, bet svarbus: neinvestuok į įgūdžius, kurie yra grynai techniniai ir rutininiai. Investuok į gebėjimą mokytis, kritinį mąstymą, kūrybiškumą ir – paradoksaliai – į giliai žmogiškus įgūdžius kaip empatiją, etinį sprendimų priėmimą ir tarpasmeninę komunikaciją. Tai ne garantija, bet bent jau geresnė strategija nei tikėtis, kad tavo dabartinė profesija išliks nepakitusi.
Duomenų kolonializmas ir naujas valdžios modelis
Viena iš labiausiai provokuojančių Harari idėjų yra ta, kad mes jau gyvename naujoje valdžios struktūroje, tik dar to nesuvokiame. Tradiciškai valdžia rėmėsi žeme (feodalinė sistema), kapitalu (industrinis kapitalizmas) arba informacija (žinių ekonomika). Dabar, Harari teigimu, valdžia remiasi duomenimis ir algoritmais.
Ir čia atsiranda tai, ką jis vadina „duomenų kolonializmu”. Kaip XIX amžiuje Europos imperijos kolonizavo fizines teritorijas ir išnaudojo jų resursus, taip dabar technologijų korporacijos ir kai kurios valstybės kolonizuoja žmonių duomenis. Tavo elgsena, tavo pirkimai, tavo politinės pažiūros, tavo santykiai – visa tai yra žaliava, iš kurios kuriamas supratimas apie tave, kuris gali būti naudojamas tau manipuliuoti.
Harari čia nėra abstraktus. Jis nurodo konkrečius pavyzdžius: Kinijos socialinio kredito sistema, Cambridge Analytica skandalas, algoritmai, kurie nusprendžia, ką matai socialiniuose tinkluose. Visa tai yra ne atskiri incidentai, o sistemos, kurioje duomenys yra valdžia, apraiškos.
Ką su tuo daryti? Harari neduoda lengvų atsakymų, bet jo logika veda prie kelių praktinių išvadų: duomenų privatumas turi tapti politiniu prioritetu, o ne tik technine problema. Žmonės turi reikalauti skaidrumo iš algoritmų, kurie priima sprendimus jų gyvenime – nuo kredito suteikimo iki darbo interviu atrankos.
Sąmonė, laisvė ir didžiausias filosofinis klausimas
Čia Harari įžengia į teritoriją, kur daugelis mąstytojų vengia eiti, nes ji yra tiesiog per daug nepatogi. Jis kelia klausimą: ar žmogaus laisva valia egzistuoja? Ir jei ne – ką tai reiškia AI eroje?
Harari, remdamasis neuromokslu ir evoliucine biologija, teigia, kad tai, ką mes vadiname „laisva valia”, iš tikrųjų yra biocheminių procesų rezultatas. Mūsų sprendimai kyla iš neuronų sąveikos, kurioje dalyvauja genetika, patirtis ir aplinka. Tai nereiškia, kad mūsų sprendimai nėra „mūsų” – bet tai reiškia, kad jie yra prognozuojami pakankamai sudėtingam algoritmui.
Ir čia atsiranda baisiausia galimybė: jei AI gali geriau suprasti tave nei tu pats save – jei algoritmas gali nuspėti tavo sprendimus, tavo emocijas, tavo poreikius tiksliau nei tavo paties introspekcija – tada kas iš tikrųjų priima sprendimus tavo gyvenime?
Harari neatsakinėja į šį klausimą dogmatiškai. Jis netvirtina, kad žmogaus sąmonė yra tik iliuzija. Bet jis primygtinai siūlo, kad mes turime rimtai apsvarstyti šią galimybę, nes nuo atsakymo priklauso, kaip mes reguliuosime AI, kaip mes suprasime žmogaus teises ir orumą ateityje.
Harari ir Silicio slėnio optimizmas – kodėl jie kalba skirtingomis kalbomis
Įdomu tai, kad Harari reguliariai bendrauja su technologijų pasaulio lyderiais – jis kalbėjosi su Google, su Davoso forumu, su pasauliniais politikais. Ir visur jis yra tas nepatogus svečias, kuris kelia klausimus, kurių kiti vengia.
Silicio slėnio naratyvas tradiciškai buvo toks: technologijos sprendžia problemas, AI spręs dar daugiau problemų, žmonija judės į priekį. Harari su tuo nesutinka – arba tiksliau, jis sako, kad tai yra neišsami istorija. Technologijos sprendžia problemas, bet kartu kuria naujas, ir naujosios problemos dažnai yra sudėtingesnės nei išspręstosios.
Jis taip pat kritikuoja tai, ką vadina „techno-determinizmu” – įsitikinimą, kad technologijų raida yra neišvengiama ir mes galime tik prisitaikyti. Harari teigia priešingai: technologijos nėra likimas, jos yra pasirinkimas. Mes galime nuspręsti, kaip jas kurti, kaip jas reguliuoti ir kokiems tikslams jas naudoti. Bet tam reikia politinės valios ir visuomeninio sąmoningumo, o ne tik inžinierių entuziastų.
Šiame kontekste jis yra ypač kritiškas dėl to, kad AI reguliavimo diskusija vyksta daugiausia tarp technologų ir verslininkų – žmonių, kurie turi tiesioginį finansinį interesą minimizuoti reguliavimą. Harari teigimu, tai yra tas pats, kaip leisti tabako kompanijoms pačioms nustatyti sveikatos reikalavimus cigaretėms.
Ką Harari siūlo – ir kur jo argumentai turi spragų
Sąžiningumas reikalauja pripažinti: Harari yra puikus diagnozuotojas, bet jo receptai kartais yra mažiau įtikinami nei jo problemos aprašymai. Jis ragina globalų AI reguliavimą, didesnį skaidrumą, visuomeninį sąmoningumą. Visa tai skamba protingai, bet kaip tai įgyvendinti pasaulyje, kur JAV ir Kinija konkuruoja dėl AI dominavimo, o korporacijos turi daugiau resursų nei daugelis valstybių?
Kritikai taip pat atkreipia dėmesį, kad Harari kartais pernelyg supaprastina sudėtingus mokslinius klausimus – ypač kalbant apie sąmonę ir laisvą valią. Neuromokslas tikrai nerodo, kad laisva valia yra iliuzija taip vienareikšmiškai, kaip Harari kartais implikuoja.
Tačiau šios spragos neatmeta jo pagrindinių įžvalgų. Net jei jis kartais perdeda, jo pagrindiniai klausimai išlieka svarbūs: Kas kontroliuoja AI? Kieno interesams ji tarnauja? Kaip mes užtikriname, kad jos nauda būtų paskirstyta plačiai, o ne koncentruota kelių rankose?
Praktiškai, jei nori sekti Harari logika savo gyvenime, štai keletas konkrečių žingsnių: domėkis AI reguliavimo diskusijomis ir balsuok už politikus, kurie jas rimtai vertina; mokykis kritiškai vertinti algoritmų pateikiamą informaciją; investuok laiko į gilų mąstymą ir savirefleksiją – tai, ko AI (kol kas) negali padaryti už tave; ir, galbūt svarbiausia, neklausk tik „ar ši technologija veikia?”, bet ir „kam ji tarnauja?”
Tarp baimės ir naivumo – kur ieškoti pusiausvyros
Harari pozicija dažnai klaidingai interpretuojama kaip technofobija. Jis nėra prieš AI – jis yra prieš naivumą. Yra skirtumas. Jis pats naudoja technologijas, jis pripažįsta jų naudą medicinoje, moksle, švietimo prieinamume. Bet jis atsisako žaisti žaidimą, kur visi turi būti entuziastai, o skepticizmas laikomas pažangos stabdymu.
Gyvename laikotarpiu, kai AI vystosi greičiau nei mūsų gebėjimas ją suprasti, reguliuoti ir integruoti į visuomenę sveiku būdu. Harari įžvalgos – net ir tos, su kuriomis galima ginčytis – yra vertingos kaip priešnuodis prieš du kraštutinumus: panikišką baimę ir beribį optimizmą. Tiesa, kaip dažniausiai, yra kažkur tarp jų, bet norint ją rasti, reikia užduoti teisingus klausimus.
O Harari, kad ir ką apie jį manytum, tikrai moka užduoti teisingus klausimus. Ir tai, kad jo knygos skaitomos prezidentūrose ir universitetų auditorijose, ir metro vagonuose – rodo, kad šie klausimai aktualūs ne tik akademikams. Jie aktualūs kiekvienam, kuris gyvens pasaulyje, kurį AI formuoja jau dabar – ir formuos dar labiau rytoj.
