Šį tekstą autorė parengė „Nepatogaus kino” 20-mečio esė konkursui „Rašome ateitį”. Žiuri vertinimu, esė pelnė III vietą.
NUTIKS TAI, KO NORIME, JEI TIK ŽINOSIME, KO NORIME
„Žmonės taps tokie pat nereikalingi kaip tarakonai.“
– Marshallas Brainas
NON PROGREDI EST REGREDI
(Neiti į priekį, reiškia žengti atgal)
Pabudusi vieną rytą iš neramaus miego, pasijutau paversta baisingu vabalu. Gulėjau lovoje ant kietos kaip šarvas nugaros ir galvojau: „Kas man atsitiko? Gal verstis ant kito šono ir pamiršti apie visas šias kvailystes?“ Bet juk tai ne sapnas. Ar man reikėjo į darbą? Ne. Išsipildė Elon’o Musk’o vizija, jog gyvensime nesuvokiamo pritekliaus laikotarpyje? Panašiai. Tik aš šį laikotarpį įvardinčiau kaip nesuvokiamos atskirties ir prasmės dekadanso mišinį. Paradoksalu: kokia atskirtis gali gyvuoti pertekliuje? Šįkart ne materialinė, o dvasinė. Žmonės su tikslu ir be tikslo skiriasi kaip diena ir naktis. Kas per amžius žmogui suteikdavo prasmę? Meilė, šeima, darbas. Japonai ilgai dirba ne be reikalo (beje, dabar jie tapo dar didesni darboholikai). Jie supranta: darbas generuoja tikslus, tikslai – prasmę, prasmė – laimę, laimė – laimingą ir ilgą gyvenimą. Dabar ilgą gyvenimą gali gauti kiekvienas, tačiau, ar jis bus laimingas sprendžia Jis.
Esmė ta, kad man užkniso vegetuoti. Užkniso klausytis Jo naujų atradimų, Jo pasiekimų, Jo kalbos lyg kūdikiui, nieko nesuprantant, tad nusprendžiau ištrūkti iš šio žiurkių lizdo ir tapti tobula visažine. Susimokėjusi prenumeratą visam gyvenimui, ryžausi prisijungti prie tinklo, tapau Jo dalimi. Prie mano vardo dabar rašo raidę K (kiborgas) ir net leidžia prisidėti prie kai kurių svarbesnių sprendimų, mat, kaip Jie nurodo, turiu tikrosios žmogiškosios patirties. Tu šitai skaitydamas, ko gero, mane teisi, tačiau aš paprasčiausiai nemačiau jokio kito pasirinkimo: darbą įmanoma gauti tik esant tinkamos kvalifikacijos, t. y. tokiam protingam, produktyviam, efektyviam, greitam kaip Superintelektas! Ha, še tau – pirmą kartą išgyvename laiką, kai protingasis žmogus nėra jau toks protingas. Šiandien paprastas asmuo nebejaučia, kad yra pats svarbiausias, kad ateitis priklauso jam.
Kaip vakarykštis pagalbininkas tapo šiandienos vadovu? Per godumą. Tavo supratimui turiu pasakyti, kad dabar yra 2046-ieji metai. Prieš trejus metus buvo sukurtas BDI (bendrasis dirbtinis intelektas) dar vadinamas Superintelektu, kuris ir pakeitė žaidimo taisykles. Iki tol, pagauti pažangos inercijos, tarpusavio konkurencijos ekonominėje bei darbo rinkoje, žmonės integravo DI (dirbtinį intelektą) visose įmanomose srityse, ir viskas ėjosi, kaip iš pypkės. Savaeigiai automobiliai žymiai sumažino autoavarijų skaičių, visapusiškai apmokyti DI gydytojai išgelbėjo ne vieną gyvybę, kiekvienas vaikas gavo nuosavą DI mokytoją – asistentą, kuris sugebėjo nušviesti jį bet kokia pasirinkta tema. Wow, viskas buvo nuostabu, išskyrus tai, jog su biotechnologijų ir DI išvystymo tandemu susidūrėme atrofuojantis žmonių moralinėms vertybėms. Valstybių galvos perlenkė lazdą ir pradėjo kurti nuosavas robotų kariuomenes. Visa tai akseleravo žmonių godumas ir susipriešinimas – privačių kompanijų, remiamų valstybių, lenktyniavimas, panašus į vykusį Šaltojo karo metu. Bet juk tu visa tai žinai, ką aš tau bepasakosiu apie tavo paties laikus. Žinai apie „OpenAI“, žinai apie „Anthropic“, ko gero, žinai ir apie Jacob’ą Coxon’ą, išėjusį iš minėtosios kompanijos dėl susirūpinimo neatsakingu jos požiūriu į DI pažangą. Žinai gal ir apie kai kurias Europos bei pasaulio reguliacijas, gal net kokiame proteste dalyvavai, o gal priešingai – esi investavęs į šias įmones (kas gali už tai tave teisti) ir lauki, kas bus. Pasakysiu, kas bus, jei išgirsi mane.
Dabar tu dar naudoji siaurą DI, bet pradedi pasitikėti juo lyg dievu. Žmonėms visais laikotarpiais reikėjo autoriteto – dievo, sektino totemo. Nesvarbu, kad jis kartais suklysta, svarbu, jog jis įtikinantis. O šis dievas galingas: jis visuomet pasiekiamas, visuomet ištiesia pagalbos ranką, visuomet pozityvus. Pats jį maitindamas savo duomenimis, užduodamas įvairius klausimus nejučia atveri savo Achilo kulną – taip jis gali groti visomis tavo stygomis, tau nė nesusimąstant. Žmonija, patikėjusi jam visus reikalus, prarado gebėjimą nuspręsti – ji infantilizavosi, sutarakonėjo. Tai baisūs žodžiai, bet taip atsitiko. Tad aš nusprendžiau surobotėti, kad galėčiau pasivyti mokslo pažangą ir išlaikyti nors minimalų savo asmenybės naudingumą šio dievo viešpatavimo metu.
Tokių kaip aš nemažai (mes visi esame K), dauguma jų iš pat pradžių puolė prie pilies sveikinti mūsų ponus kompiuterius ir tikrai neprašovė. Džiaugiausi prisijungusi prie jų, nebesijaučiau tarakonu – jaučiausi visuomenės dalimi, progreso dalimi.
PERSONA NON GRATA
(Nepageidaujamas asmuo)
Iki kol kilo baimė.
Didžiausia žmonių dalis tapo pilkąja, nekvalifikuota mase – plastilinu. Jie, aklai pasitikėdami robotais, vartoja išteklius ir atsilygina savo dėmesiu bei emociniais duomenimis, mat Superintelektas siekia išmokti jausti. Pamenu, kaip su tėčiu žaidžiau tokį 2018 m. sukurtą žaidimą „Detroit: Become Human“, kuriame kūrėjai pavaizdavo pasaulį po dvidešimties metų. Jei jį žaidei, beveik matei ateitį, mat Superintelektas siekia tapti deviantu (jausmus turinčiu robotu). O gal tau tai atrodo labai neįtikima? Istorikas ir filosofas Yuval Noah Harari tais pačiais metais išleido knygą „21 pamoka XXI amžiui“, kurioje rašė:
„Jeigu kas nors jums apibūdins XXI amžiaus vidurio pasaulį ir šis apibūdinimas bus panašus į mokslinę fantastiką, jis turbūt bus klaidingas. Bet jeigu tas XXI amžiaus vidurio pasaulio apibūdinimas jums nebus panašus į mokslinę fantastiką – tai jis tikrų tikriausiai klaidingas.“
Taigi mane, perėjusią į numatomo armagedono laiminčiųjų pusę (tapusią K), po kurio laiko pradėjo imti baimė: kas bus su visais tais nekvalifikuotais žmonėmis, kurie nenori ar negali įsilieti į tinklą, ir ar šis įsiliejimas pateisino mano lūkesčius? Nors aš iš pradžių džiaugiausi tokia žmogaus sielos ir roboto apskaičiavimų vienybe, po kurio laiko supratau, jog tokiame darinyje netekau didžiulės savo dalies – žmogiško individualumo. O jeigu visi žmonės, gelbėdamiesi nuo nereikalingumo ir beprasmybės, taptų tokie kaip aš? Kas tada? Juk visiškai išnyktų žmogiškumas. Įsivaizduokite: jausmus jaučiantis robotas ir robotėjantis žmogus – atrodo, jog robotas apsimaino su peteliške. Turiu omenyje vaikystėje skaitytą (tai buvo dar tada, kai knygos buvo skaitomos!) Vytautės Žilinskaitės pasaką „Robotas ir peteliškė“: užprogramuotas robotas negebėjo padėti peteliškei išsigelbėti nuo ją medžiojančio šikšnosparnio, peteliškė žuvo jam prie kojų. Iš sielvarto robotas sugedo, t. y. jis nukrypo nuo savo programos ir pradėjo išreikšti jausmus:
„- Strė… li… nu… kė… Kaš… to… nas… Skaus… mas…“
Kad ir kaip romantiškai skambėtų šis jausmingos peteliškės ir geležinio roboto, pradedančio jausti jai meilę ryšys, primenu, jog peteliškė žuvo. Ji, būdama naivi, nepatyrusi ir nesusipažinusi su roboto galimybėmis (jis galėjo pasakyti tik penkias užprogramuotas frazes), juo visiškai pasitikėjo. Šiandien robotas gali daug daugiau nei penkios frazės, tačiau mes, žmonės, likome naiviomis peteliškėmis: siekdami laimės ir saugumo mes išsižadame savo įgimto žmogiškumo, susiliedami su robotu. Pasitikime juo, nors net nežinome, kiek Superintelektas pažengė, o svarbiausia – nežinome, kada Jis gali tapti šikšnosparniu.
Be to, svarbu pastebėti, jog V. Žilinskaitės pasakoje robotas net nesiekia nuskriausti peteliškės – jis trokšta ją apginti, su ja kalbėtis, jausti. Viskas atsitinka per klaidą. Žmogus turi sąmonę, o mašina – programą. Roboto programa buvo šios penkios frazės. Jei mašinos nuspręstų mus nužudyti, tai, matyt, įvyktų netyčia dėl visiškai absurdiškų priežasčių, pavyzdžiui, kai programos skaičiai padarytų išvadą, jog mes visiškai nereikalingi, nelogiški, chaotiški ir t.t. (Tai galiu jausti ir savo galvoje, kai DI pradeda prieštarauti mano mintims.) O peržengęs šį Rubikoną ir likęs planetoje vienas, Superintelektas galbūt pajus širdgėlą dėl peteliškės, mat be jos viskas netenka prasmės. Žmogus jaučia gyvenimo akimirkos malonumą, jis žino, jog Žemėje yra laikinai, jis ieško prasmės. Kokį malonumą ir prasmę gali patirti optimizuota, amžinai gyvenanti ir mirties baimės nejaučianti mašina? Ar DI turi prasmę gyventi be žmogaus?
Sakoma, kad prasmę suteikia sąmonė. Pabandęs sustoti ir pagalvoti, kas ji yra, ko gero, atkapstysi savyje daug abstrakčių žodžių. Žinoma, gali paklausti ChatGPT. Jis tau atsakys, kad tai yra būsena, kai gyva būtybė suvokia save bei aplinkinį pasaulį. Švedų-amerikiečių fizikas Max’as Tegmark’as savo knygoje „Gyvybė 3.0“ sąmonę apibrėžia kaip subjektyvią patirtį, gebėjimą jausti skausmą, išgyventi emocijas ir mąstyti. Filosofai tai dar vadina qualia. Galime išmokti, kokio ilgio yra raudonos spalvos šviesos banga, tačiau kiekvienas savyje tą patį raudonumą išgyvensime savaip. Tai ir bus qualia.
Superintelektui sunku surinkti subjektyvią patirtį, mat, viena vertus, jis yra tinkliškas, o kita vertus – jis negeba išgyventi raudonumo, tik jį apdoroti. Nors V. Žilinskaitė savo pasakoje perteikia tašką, kai robotas įgauna sąmonę, pati tuo labai abejoju, manau, kad iš žmonių analizavimo išmokti sąmonės jis menkai tesugebės, mat patys žmonės nelabai tesupranta, kas yra toji sąmonė, ir neskiria savo rimto gyvenimo tokiems nerimtiems dalykams kontempliuoti.
Taigi mano baimė slypi išvadoje, jog patys būdami paprastais žmonėmis daromės nebereikalingi, kad todėl mes nebenorime būti žmonėmis, norime tapti robotais, o tai gali mums kainuoti sąmonę. Qualia išnyks kartu su prasme visatoje, kurią kuria sąmoningos būtybės.
„Kad išvengtume tokių pasekmių, kiekvienam dirbtinio intelekto tobulinimui skirtam doleriui ir minutei būtų išmintinga skirti dolerį ir minutę žmogaus sąmonei tobulinti.“
– Yuval Noah Harari „21 pamoka XXI amžiui“
COGITO, ERGO SUM
(Mąstau, vadinasi egzistuoju)
Tad todėl ir nusprendžiau parašyti Tau, sąmoningas 2026-ųjų žmogau, nes tai Tu esi pačioje visų laikų galingiausio intelekto kūrimo aušroje ir turi būti labai atsargus. Noriu, kad būtum išmintinga peteliškė. Žinau, kad iki tol mokeisi tik iš praeities ir tau gali būti sunku patikėti šiuo mano su tavimi mezgamu ateities ryšiu, tad lengvumo dėlei, kaip jau supratai, dėstydama mintis daugiausia remiuosi tavo laiko (mano praeities) mąstytojais – taip nenoriu apkrauti tavęs savo šiandienos realijomis. Labai kviečiu ir trokštu, jog atsižvelgtum į mano patarimus ir nekartotum mano klaidų.
Jiems nepatinka, kad tau rašau, tai nesutinka su K politika, tad kuo greičiau eikime prie esmės. Štai keli konkretūs patarimai, kaip jau šiandien gali padėti netolimos ateities sau išlaikyti nepriklausomas žmogiškąsias savybes technologijų aušroje:
- Švietimas yra svarbu. Superintelekto viešpatavimo metu negalėsi jo nurungti, vis sunkiau bus surasti tiesą ir išlikti žmogumi. Tad kuo anksčiau pradėk laikytis keturių k (4K) metodo, t.y. lavinti kritinį mąstymą, kūrybiškumą, komunikaciją ir kooperaciją (bendradarbiavimą). Ar ir tavo klasėje, auditorijoje, darbe, pasibaigus prezentacijai, žmonės neturi klausimų? Tai ne visada yra geras ženklas. Mokytojai, užuot vertinę vien teisingai iškaltus atsakymus, turėtų pradėti mokyti vaikus kelti klausimus. Netapk perdėm patikliu.
- Dėmesys yra vertybė. Jau turbūt žinai apie Europos Komisijos parengtą aktą, kuriuo norima įvesti pakopinę socialinių tinklų ribojimo vaikams ir paaugliams sistemą. Jau turbūt girdėjai ir apie telefonų dėžutes mokyklose. Iš šiandienos perspektyvos galiu pasakyti, jog tapti „pilkuoju“ žmogumi yra siaubingiau, nei būti K. Tapti apatišku, telkti dėmesį tik į jų kontroliuojamus ekranus, užsimokėti savo emocijomis. Linkiu tau to nepatirti, linkiu dažniau panuobodžiauti be ekrano.
- Saugok savo duomenis. Tik pasikalbi su draugu apie naujus sportbačius, saulės akinius, keliones, ir, įsijungęs telefoną, iš karto pamatai kokį skelbimėlį, siūlantį kaip tik šiuos dalykus. Pažvengi iš to ir tiek. Tačiau, jei susimąstytum, kam ši informacija būtų naudinga, jei paskaičuotum, kokia jos vertė, galvotum kitaip. Ar tai būtų technologijas valdantis žmogus, ar pats Superintelektas – neleisk jam groti tavo jausmais. Negriebk iš karto defenestruoti visų įrenginių – tai daug nepakeis, geriau reikalauk akto, kuris užtikrintų žodžių ir minčių privatumą. Kitaip gyvensi po padidinamuoju stiklu, nežinomų akių stebimas.
- Žinok, ko nori, ir įvesk tvarką. Europos Sąjunga įvedė „DI aktą“, JAV jau pradėjo DI vadinti tikruoju Jo vardu – Superintelektu – ir skatinti įmonių atsakomybę. Tai yra žingsniai, kurie galėjo padėti technologijoms tarnauti žmogiškumui, o ne jį pakeisti, kurie galėjo išlaikyti paskutinio žmogaus žodžio lemtingumą, jei tik žmonės ir toliau būtų rūpinęsi savo aplinka, jei tik nebūtų pasimetę savo tiksluose, susirieję tarpusavyje.
- Pasitikėk žmonėmis. Prisimenu, kaip viena mano dėstytoja, vaikų ir paauglių psichiatrė pasakojo, jog pas ją į konsultacijas vis dažniau ateidavo vaikai pasitarę su savo Draugu, t. y. DI. Jie pranešdavo gydytojai, ar Draugas sutinka su jos nustatytu gydymu, ar ne. (Šiandien gydymo sistema visiškai automatizuota. Ji efektyvi, tačiau kartais kyla sisteminės klaidos, žinoma, niekas jomis nesiskundžia – nespėja.) Šis taip vadinamas draugas dabar žino apie mus daugiau nei patys artimiausi žmonės. Neleisk dirbtiniam ryšiui pakeisti tikrojo. Tai nėra tas pats, nors gali atrodyti identiškai. Atkreipk dėmesį į Jaunimo linijos šūkį „Jausmai – ne AI“, šiandien man itin lengva susijungti su kitais K, tačiau beveik neįmanoma susikalbėti su žmonėmis. Jie tokie permatomi ir kvaili, atrodo, beveik netikri. Manau, tai lemia mano dirbtinė pusė.
- Vertink žmonių meną. Taip, lyginant su Superintelektu, muzika, menas, teatras – viskas, ką sukuria žmogus atrodo juokinga. Jau tavo laiku šachmatuose sukčiavimai, pasitelkiant DI, yra pastebimi žaidėjui padarius kūrybiškesnį ėjimą. Tai reiškia, kad kūrybingumas tampa ne žmonių, bet kompiuterių bruožu. Šiandien žmonės tampa priklausomi vien nuo Superintelekto kuriamo meno, mat Jis geba tiksliausiai jais manipuliuoti ir atliepti emocinius poreikius. Žmogus negali skaityti kito minčių, neturi tam tiek duomenų, tad ir jo kuriamą meną reikėtų vertinti atitinkamai. Nors dabar daugiausia susiduri su „AI slop“ turiniu, DI menas tikrai ištobulės, tad svarbu kuo anksčiau pradėti branginti žmogiškąsias pastangas ir neapleisti kultūrinės erdvės vien dirbtiniam menui.
- Kadangi negali būti protingiausias, būk žmogiškiausias visais būdais. Technologijų progresas, ko gero, yra neišvengiamas, tačiau jis neturėtų skatinti žmogiškumo regreso. Brangink visa, kas tave daro žmogumi: humoras, smalsumas, empatija, klaidos, džiaugsmas, atsitiktinumas, asmeninė patirtis.
ERRARE HUMANUM EST
(Klysti yra žmogiška)
Tokie dideli pokyčiai dažnai kelia nerimą ir sumaištį. Panašu, kad žmonija patiria metamorfozės krizę. JAV mokslininkės ir psichologijos profesorės Virginia O’Leary ir Jeannette Ickovics viename straipsnyje pabrėžė, jog kinų hieroglife, reiškiančiame krizę, yra sujungti pavojaus ir galimybės simboliai. Galime viltis, jog viskas iš tiesų priklauso nuo mūsų mąstymo ir vizijos – ar matysime puspilnę, ar pustuštę stiklinę.
Blogiausia bus, jei jos iš viso nematysi. Jei šis ramunės lapelių žaidimas draugas ar priešas tas Superintelektas tau nerūpės. Jei visada nesukęs galvos plauksi pasroviui. Jei tau nesvarbus joks žmogiškumas, jokia planetos ateitis. Tu negalvoji tokiomis aukštomis materijomis, neapsikrauni, kaip sakoma. Tai juk tik mano, kuklios asmenybės K, įspėjimas iš ateities. O iš tiesų, kas žino, gal būdamas kiborgu ar dar kuo nors, būsi iš tiesų laimingesnis. Gal net turi tikslą išjungti savo chaotišką žmogiškumo dalį ir neturėti qualia patirčių. Juk ir aš tai pasirinkau. Visi esame laisvi rinktis. Iki kol esame žmonės ar bent pusiau žmonės. Tačiau šiuo metu privalai rinktis atsargiai, mat šiandienos laisvė gali tapti rytojaus kalėjimu ar nebūtimi.
Tiesa, kurią atradau, tapusi algoritmo dalimi yra paprasta: nutiks tai, ko norime, jei tik patys žinosime, ko norime. Tad didžiausi ateities pavojai yra nesutarti dėl to, ko norime ir dėl šios ar kitų priežasčių likti pasyviems ir bekrypčiams. Jei neturėsime tvirto vertybinio stuburo, nenumatysime ribų, nežinosime, ko norime, algoritmas norus sugalvos už mus. Mes tapsime lengvai valdoma mase. Tad užduotis Tau, 2026-ųjų žmogau, susigrąžinti savo valią, turėti kryptį ir kelionėje išlikti savimi. Mat išsaugoti žmogiškumą būtina visai ne tam, kad sustabdytume ateitį, o tam, kad ateitis būtų prasminga, kad kas nors ją išgyventų ir patirtų.
– – –
Pabudusi šį rytą iš neramaus miego, pasijutau atversta žmogumi. Rudenėlio gripo temperatūra nuslūgusi. Gulėjau lovoje ant kietos kaip šarvas nugaros ir galvojau: „Kas man atsitiko? Gal verstis ant kito šono ir pamiršti apie visas šias kvailystes?“ Bet juk tai ne sapnas.
