Kai technologija pranoksta mūsų supratimą
Dirbtinis intelektas šiandien nėra tik ateities fantastikos tema – jis jau dabar sprendžia, ar gausite paskolą, ar jūsų CV pasieks žmogų, ar jūsų veidas bus atpažintas oro uoste. Ir nors didžioji dalis diskusijų sukasi apie tai, kaip AI padės mums gyventi geriau, yra kita pusė medalio, apie kurią kalbama gerokai mažiau. Ne todėl, kad ji neegzistuoja – tiesiog ji nėra tokia patraukli rinkodaros požiūriu.
Šis straipsnis nėra apie tai, kad reikia bijoti technologijų ar grįžti prie rašomųjų mašinėlių. Tai bandymas sąžiningai pažvelgti į tai, kas iš tiesų vyksta, kai algoritmai tampa neatsiejama mūsų kasdienybės dalimi – ir ką galime padaryti, kad nebūtume tik pasyvūs stebėtojai šiame procese.
Giliosios klastotės: kai negalima tikėti savo akimis
Deepfake technologija per pastaruosius penkerius metus išaugo iš laboratorinio eksperimento į rimtą socialinę problemą. Šiandien norint sukurti įtikinamą vaizdo įrašą, kuriame kažkas sako tai, ko niekada nesakė, nebereikia nei didelių biudžetų, nei specialių žinių. Yra priemonių, kurios tai padaro per kelias minutes.
2024 metais Honkonge vienas finansų darbuotojas pervedė apie 25 milijonus dolerių sukčiams, kurie vaizdo skambučio metu apsimetė jo kolega ir vadovu – naudodami realaus laiko deepfake technologiją. Tai ne scenarijus iš filmo. Tai nutiko realiam žmogui, realioje įmonėje.
Tačiau finansiniai nuostoliai – tik dalis problemos. Deepfake’ai naudojami politinei dezinformacijai skleisti, asmenų reputacijai griauti, o pornografiniai deepfake’ai, sukurti be asmens sutikimo, tapo tikra epidemija – daugiausia nukentėjusios moterys. Jungtinės Karalystės duomenimis, tokio turinio internete per pastaruosius kelerius metus padaugėjo daugiau nei 550 procentų.
Ką daryti: Prieš dalindamiesi bet kokiu sensacingu vaizdo įrašu, naudokite įrankius kaip Deepware Scanner arba Microsoft Video Authenticator. Jei vaizdo įraše kažkas sako kažką neįtikėtino – tai geras ženklas sustoti ir patikrinti. Taip pat verta išmokti atpažinti vizualinius požymius: nenatūralus mirksėjimas, keistai judančios ausys ar plaukai, neryški oda ties veido kontūrais.
Algoritminis šališkumas: kai sistema diskriminuoja nesąmoningai
Vienas iš labiausiai paplitusių mitų apie AI – kad jis yra objektyvus, nes jis „tik skaičiuoja”. Realybė yra visiškai priešinga. Algoritmai mokosi iš žmonių sukurtų duomenų, o tie duomenys atspindi visus mūsų istorinius šališkumus, stereotipus ir diskriminacines praktikas.
Klasikinis pavyzdys – COMPAS sistema, naudota JAV teismuose recidyvizmo rizikai vertinti. Tyrėjai nustatė, kad sistema juodaodžius kalinius klaidingai priskiria aukštos rizikos grupei beveik dvigubai dažniau nei baltaodžius. Algoritmas nebuvo programuotas diskriminuoti – jis tiesiog išmoko tai iš istorinių duomenų, kuriuose jau buvo įkoduota diskriminacija.
Tas pats vyksta su darbo atranka. Amazon 2018 metais atsisakė savo AI įdarbinimo įrankio, kai paaiškėjo, kad jis sistemingai žemino moterų kandidatūras – nes buvo apmokytas remiantis istoriniais įdarbinimo duomenimis, kuriuose dominavo vyrai. Veido atpažinimo sistemos, kaip parodė MIT tyrėjai, klysta atpažindamos tamsiaspalvių moterų veidus net 34 procentais dažniau nei baltaodžių vyrų.
Praktinis patarimas: Jei esate atsakingas už AI sprendimų diegimą savo organizacijoje, reikalaukite bias audit – nepriklausomo šališkumo audito. Jei esate individas, kuriam AI priėmė nepalankų sprendimą (atmetė paskolą, CV, draudimo prašymą), žinokite, kad ES dirbtinio intelekto aktas suteikia jums teisę reikalauti paaiškinimo ir ginčyti automatizuotus sprendimus.
Privatumo erozija: duomenys kaip naujoji valiuta
Kiekvieną kartą, kai naudojatės nemokama AI paslauga, mokate kitaip – savo duomenimis. Tai žinoma jau seniai, bet su generatyviojo AI atsiradimu ši problema įgavo naują dimensiją. Kai kalbatės su ChatGPT, Gemini ar bet kuriuo kitu AI asistentu, jūs ne tik gaunate atsakymus – jūs taip pat mokote sistemą, dalijatės savo mintimis, problemomis, verslo planais, medicininiais klausimais.
2023 metais Samsung inžinieriai netyčia įkėlė konfidencialų įmonės kodą ir susirinkimų protokolus į ChatGPT – ir šie duomenys potencialiai tapo OpenAI mokymo duomenų dalimi. Italija laikinai užblokavo ChatGPT dėl GDPR pažeidimų. Tai ne paranoja – tai dokumentuoti atvejai.
Dar rimtesnė problema – veido atpažinimo duomenų bazės. Clearview AI sukūrė duomenų bazę su daugiau nei 30 milijardų veidų nuotraukų, surinktu iš socialinių tinklų be vartotojų sutikimo. Ši sistema parduodama teisėsaugai visame pasaulyje. Jūsų veidas gali būti toje duomenų bazėje – ir jūs apie tai nežinote.
Ką galite padaryti dabar:
- Nenaudokite darbo ar asmeninių konfidencialių duomenų nemokamose AI platformose
- Patikrinkite privatumo nustatymus – daugelis AI paslaugų leidžia atsisakyti duomenų naudojimo mokymui
- Naudokite Have I Been Pwned tipo įrankius ir reguliariai tikrinkite, kokie jūsų duomenys yra viešai prieinami
- Apsvarstykite VPN naudojimą ir reguliariai peržiūrėkite, kokioms aplikacijoms suteikėte prieigą prie kameros ir mikrofono
Darbo rinkos transformacija: ne apokalipsė, bet ir ne nieko
Čia reikia kalbėti sąžiningai, be nei perdėto optimizmo, nei katastrofizmo. Taip, AI pakeis darbo rinką – ir jau keičia. Bet klausimas yra ne „ar”, o „kaip” ir „ką su tuo daryti”.
McKinsey tyrimai rodo, kad iki 2030 metų automatizacija gali paveikti 400–800 milijonų darbo vietų pasaulyje. Tačiau tas pats tyrimas sako, kad atsiras naujų darbo vietų. Problema – šis perėjimas nebus sklandus, ir labiausiai nukentės tie, kurie turi mažiausiai išteklių persikvalifikuoti.
Labiausiai pažeidžiamos profesijos: duomenų įvedimas, paprastas tekstų rašymas ir vertimas, kai kurios buhalterijos funkcijos, skambučių centrų darbas, standartizuotos teisinės ir finansinės paslaugos. Mažiau pažeidžiamos – bet ne neliečiamos – profesijos, reikalaujančios empatijos, kūrybiškumo, fizinio buvimo ir sudėtingo sprendimų priėmimo.
Tačiau yra niuansas, apie kurį retai kalbama: AI ne visada visiškai pakeičia žmogų – dažnai jis pakeičia dalį darbo, o tai reiškia, kad vienas žmogus su AI gali dirbti tiek, kiek anksčiau dirbo trys. Rezultatas – ne visi trys praranda darbą, bet galbūt du iš jų tampa nereikalingi. Tai subtiliau, bet ne mažiau realu.
Strateginis patarimas: Investuokite į „AI-proof” įgūdžius – kritinį mąstymą, emocinio intelekto ugdymą, tarpasmeninę komunikaciją. Ir lygiagrečiai – išmokite dirbti su AI įrankiais, nes žmogus, mokantis naudoti AI, bus vertingesnis nei tas, kuris to nemoka. Tai ne prieštaravimas – tai realybė.
Dezinformacija hipergreičiu: kai tiesa nebespėja
Generatyvusis AI pakeitė dezinformacijos žaidimo taisykles. Anksčiau norint sukurti įtikinamą melagingą naujieną reikėjo laiko, pastangų ir tam tikrų įgūdžių. Dabar tai galima padaryti per sekundes, masiškai, keliomis kalbomis vienu metu.
2024 metų rinkimų sezonas – JAV, Indija, Europos Parlamentas – buvo pirmas tikras AI dezinformacijos streso testas. Rezultatai buvo neraminantys. Klaidingi vaizdo įrašai su politikais, suklastoti dokumentai, automatiškai generuojami komentarai socialiniuose tinkluose – visa tai pasiekė milijonus žmonių greičiau, nei faktų tikrintojai spėjo reaguoti.
Problema yra ne tik turinio kiekis, bet ir jo kokybė. AI generuojamas turinys tampa vis sunkiau atskiriamas nuo žmogaus rašyto. Tyrimai rodo, kad žmonės vidutiniškai tik apie 50–60 procentų tikslumu atpažįsta AI generuotą tekstą – tai beveik kaip monetą mesti.
Dar vienas aspektas – vadinamasis „liar’s dividend”: net jei kažkas yra tikra, galima teigti, kad tai deepfake. Tai reiškia, kad AI ne tik leidžia kurti klastotes – jis taip pat suteikia alibi tiems, kurie nori paneigti tikrus įrodymus.
Kaip apsisaugoti: Ugdykite įprotį tikrinti šaltinius prieš dalindamiesi. Naudokite Snopes, AFP Fact Check, lietuviškus šaltinius kaip Demaskuok. Atkreipkite dėmesį į emocines reakcijas – dezinformacija dažnai suprojektuota sukelti stiprias emocijas (pyktį, baimę, pasipiktinimą), nes emocinis turinys plinta greičiau. Jei kažkas verčia jus jaustis labai stipriai – tai signalas sustoti ir patikrinti.
Autonominiai ginklai ir saugumo dilemos
Tai tema, apie kurią daugelis nenori galvoti, bet ignoruoti ją – neprotinga. Autonominiai ginklų sistemos, gebančios savarankiškai identifikuoti ir neutralizuoti taikinius be žmogaus sprendimo kiekvienu atveju, jau nėra tik teorija. Drono technologijos, AI valdomos gynybos sistemos, kibernetiniai ginklai – tai realūs dalykai, kurie jau naudojami arba aktyviai kuriami.
Pagrindinė etinė problema: kas atsako, kai autonominis ginklas padaro klaidą ir nužudo civilius? Programuotojas? Kariuomenės vadovybė? Valstybė? Šiuo metu tarptautinė teisė neturi aiškių atsakymų į šiuos klausimus, o derybos dėl autonominių ginklų reguliavimo JT lygiu stringa jau daugiau nei dešimtmetį.
Kibernetinis saugumas yra kita to paties medalio pusė. AI leidžia vykdyti kibernetines atakas nepalyginti efektyviau – automatiškai ieškoti pažeidžiamumų, generuoti personalizuotus sukčiavimo laiškus (spear phishing), greitai adaptuoti kenkėjišką kodą. Tuo pačiu AI naudojamas ir gynybai – bet šioje lenktynėse puolimas šiuo metu lenkia gynybą.
Ką tai reiškia jums: Kibernetinis saugumas tampa asmenine atsakomybe, ne tik IT departamento reikalu. Naudokite dviejų faktorių autentifikaciją visur, kur galima. Reguliariai atnaujinkite slaptažodžius ir naudokite slaptažodžių tvarkyklę. Būkite ypač atsargūs su el. laiškais, prašančiais skubių veiksmų – AI generuoti sukčiavimo laiškai tampa vis įtikimesni.
Priklausomybė nuo sistemų, kurių nesuprantame
Galbūt labiausiai neįvertintas pavojus – ne tai, kad AI darys kažką blogo, o tai, kad mes tampame priklausomi nuo sistemų, kurių veikimo principų nesuprantame ir nekontroliuojame. Tai vadinama „juodosios dėžės” problema.
Kai daktaras naudoja AI diagnozei patvirtinti, kai teisėjas remiasi algoritmo rekomendacija, kai piloto lėktuvą valdo autopiloto sistema – visi jie pasitiki sprendimais, kurių logikos negali pilnai patikrinti. Net patys AI sistemų kūrėjai dažnai negali tiksliai paaiškinti, kodėl sistema priėmė konkretų sprendimą.
2018 metais „Boeing 737 MAX” katastrofos iš dalies buvo susijusios su automatizuota MCAS sistema, kuri elgėsi netikėtai ir kurią pilotai nebuvo tinkamai apmokyti valdyti. 346 žmonės žuvo. Tai ekstremalus pavyzdys, bet jis iliustruoja principą: kai žmonės per daug pasitiki automatizuotomis sistemomis ir praranda gebėjimą veikti savarankiškai, pasekmės gali būti katastrofiškos.
Socialiniame lygmenyje tai reiškia ir kitą problemą – kognityvinį nuosmukį. Jei AI rašo mūsų laiškus, planuoja mūsų dieną, sprendžia mūsų problemas – ar mes neprarandame gebėjimo tai daryti patiems? Tyrimai jau rodo, kad GPS naudojimas silpnina erdvinę orientaciją. Kas nutiks su kritinio mąstymo gebėjimais, kai AI pradės mąstyti už mus?
Praktinis požiūris: Naudokite AI kaip įrankį, ne kaip protezą. Kai AI pateikia atsakymą, paklauskite savęs – ar suprantu, kodėl? Ar galiu tai patikrinti? Išlaikykite gebėjimą atlikti pagrindines užduotis be AI pagalbos. Ir reikalaukite skaidrumo – tiek iš paslaugų teikėjų, tiek iš valstybinių institucijų, kurios naudoja AI sprendimams priimti.
Žinoti – tai jau pusė kelio
Sąrašas, kurį ką tik perskaitėte, gali atrodyti slegiančiai. Bet štai kas svarbu: visi šie pavojai yra žinomi, dokumentuoti ir – svarbiausia – valdomi. Jie nėra neišvengiamos technologinės pažangos šalutinis produktas, su kuriuo tiesiog reikia susitaikyti. Jie yra sprendimų, kuriuos priima žmonės – inžinieriai, politikai, verslo vadovai – pasekmės.
ES dirbtinio intelekto aktas, įsigaliojęs 2024 metais, yra pirmas rimtas bandymas reguliuoti šią sritį. Jis nėra tobulas, bet jo egzistavimas rodo, kad visuomenė gali reaguoti. Akademikai, žurnalistai, pilietinės visuomenės organizacijos visame pasaulyje dirba ties šiomis problemomis. Ir kiekvienas informuotas pilietis, kuris supranta, kas vyksta, yra dalis sprendimo.
Skaitmeninė karta – ta, kuri užaugo su išmaniaisiais telefonais rankose – turi unikalų pranašumą: jūs intuityviai suprantate technologijų logiką. Bet intuicija nėra pakankama. Reikia ir kritinio supratimo. Reikia klausti, kas sukūrė šį algoritmą ir kodėl. Kieno duomenimis jis buvo apmokytas. Kas gauna naudos, kai jis klysta.
Dirbtinis intelektas nėra nei išganymas, nei apokalipsė. Jis yra veidrodis – ir jame matome save: su visais savo šališkumais, godumu, kūrybiškumu ir gebėjimu taisyti klaidas. Klausimas, kurį verta sau užduoti, yra paprastas: ar norime būti tik vartotojai šio proceso, ar jo formuotojai? Nes galimybė rinktis dar yra. Kol kas.
