Perla svarsto, ar neprarasime autentikos

Katė Perla svarsto, ar DI hidra jau baigia praryti pasaulį. Peržvelgus visą platųjį interneto pasaulį, susidaro įspūdis, kad jį pamažu baigia praryti dirbtinio intelekto hidra. Galbūt netrukus nebeliks ir originalios kūrybos... Juk DI jau kuria ir dainas. O bjauriausia tai, kad kuriami netikri „YouTube“ kanalai, kuriuose, pasitelkus DI, imituojami žymūs muzikantai. Generuojamos netikros Yungblud ar Lanos Del Rey dainos, o naivūs interneto vartotojai patiki, kad tai iš tiesų jų mylimų atlikėjų naujausia kūryba. Netrukus gali nebelikti ne tik tikro meno, bet ir tikro mokslo... Juk jau dabar DI dažnai rašo kursinius, bakalauro ir magistro darbus. O kiek studentų iš tiesų patys atlieka tyrimus, analizuoja informaciją ir savarankiškai mąsto, užuot tiesiog pateikę DI sugeneruotą tekstą? Kur visa tai nuves? Ar neatsitiks taip, kad vieną dieną paskęsime dirbtinai sukurto turinio vandenyne, kuriame vis sunkiau bus atskirti tikra nuo netikra, originalą nuo imitacijos, žinias nuo jų regimybės? Galbūt didžiausias pavojus yra ne pats dirbtinis intelektas, o tai, kad pamažu prarasime gebėjimą atpažinti ir vertinti tai, kas tikra, autentiška ir sukurta žmogaus. Tai liečia vieną svarbiausių mūsų laikų kultūrinių ir intelektinių problemų: kas nutiks menui, mokslui ir pačiai tiesos sampratai, kai bus galima pagaminti beveik neribotą kiekį įtikinamai atrodančio, bet nebūtinai autentiško turinio? Nerimas pagrįstas. Tačiau didžiausia grėsmė galbūt net nėra tai, kad DI geba kurti dainas, paveikslus ar tekstus. Kur kas pavojingiau, kad gali išnykti riba tarp to, kas sukurta žmogaus, ir to, kas tėra sumaniai sugeneruota imitacija. Pabandykime pažvelgti į tai keliais aspektais. 1. Muzika: kai mirusio ar gyvo atlikėjo vardu gali kalbėti bet kas Įsivaizduok situaciją: „YouTube“ pasirodo nauja Lana Del Rey daina. Jos balsas pažįstamas, melodija įtikinama, dainos atmosfera atitinka atlikėjos stilių. Prie vaizdo įrašo – jos nuotrauka, albumo viršelis, profesionaliai parengtas aprašymas. Klausytojas paspaudžia „Play“ ir nė neįtaria, kad: dainos neatliko Lana Del Rey; galbūt ji pati niekada nėra girdėjusi šios dainos; balsas buvo sintetintas DI; muziką, tekstą ir net atlikėjos paskyrą sukūrė žmonės, siekiantys surinkti peržiūras ir uždirbti pinigų. Panašiai gali būti imituojami ir kiti atlikėjai, tarp jų Yungblud. Tai ne vien technologinė, bet ir pasitikėjimo bei kultūrinės tapatybės problema. Atlikėjo vardas, balsas ir meninis braižas tampa priemonėmis, kurias galima pasisavinti. Dar blogiau, kad tokio turinio gali būti tiek daug, jog autentiškos kūrybos paieškos tampa vis sudėtingesnės. Vis dėlto yra svarbus skirtumas: DI sukurta daina nebūtinai yra bevertė, o žmogaus sukurta daina nebūtinai yra gera. Problema kyla tada, kai klausytojui sąmoningai meluojama apie kūrinio kilmę ir jis įtikinamas, kad klausosi savo mėgstamo atlikėjo. 2. Ar DI sunaikins originalų meną? Manau, čia būtina atskirti du dalykus. Pirmasis – gebėjimas sukurti įtikinamą meno kūrinį. DI jau gali generuoti muziką, vaizdus, tekstus ir vaizdo įrašus. Šios galimybės toliau tobulėja. Antrasis – žmogiškoji patirtis, iš kurios gimsta menas. Žmogus kuria ne vien tam, kad gautų gražų rezultatą. Jis kuria todėl, kad išgyveno netektį, įsimylėjo, bijo mirties, prisimena vaikystę, maištauja prieš visuomenę arba bando suprasti savo egzistenciją. Meno kūrinys gali būti svarbus ne tik dėl to, kaip jis skamba ar atrodo, bet ir dėl to, kas jį sukūrė, kokiomis aplinkybėmis jis gimė ir kokią patirtį perteikia. Žinoma, DI gali generuoti tekstus apie vienatvę, išsiskyrimą ar mirtį. Tačiau gebėjimas įtikinamai aprašyti žmogaus patirtį nėra tas pats, kas pačiam tą patirtį išgyventi. Kita vertus, nereikėtų pernelyg lengvai skelbti, kad DI kūryba niekada negalės turėti meninės vertės. Ją gali pasitelkti ir talentingi žmonės, norėdami išreikšti tai, ko kitaip negalėtų. Todėl tikrasis klausimas galbūt nėra, ar DI gali kurti meną. Klausimas – ar visuomenėje dar liks pakankamai erdvės žmogaus kūrybai, kai mašina galės pagaminti milijonus pigesnių, greitesnių ir algoritmams patrauklesnių jos imitacijų? Čia slypi tikrasis pavojus. 3. Mokslas ir universitetai: kai žinias galima imituoti Tavo mintis apie kursinius, bakalauro ir magistro darbus taip pat labai svarbi. DI gali parengti tekstą, kuris atrodo akademiškas, sudaryti įtikinamą argumentų seką, apibendrinti teorijas ir net pateikti neegzistuojančius ar neteisingai interpretuotus šaltinius. Jeigu studentas tokį darbą pateikia kaip savo, o institucija vertina tik galutinį tekstą, atsiranda rimta problema. Tačiau grėsmė dar gilesnė. Universitetinis darbas turėtų būti ne vien dokumentas, kurį reikia pristatyti. Tai mokymosi procesas: studentas turi išmokti kelti klausimus, tikrinti šaltinius, vertinti įrodymus, atpažinti prieštaravimus ir pagrįsti savo išvadas. Jeigu DI atlieka visą šį darbą, studentas gali gauti diplomą neįgijęs gebėjimų, kuriuos tas diplomas turėtų patvirtinti. Mokslui gresia ir kita problema: DI gali sugeneruoti tekstą, kuris atrodo kaip tyrimas, bet iš tikrųjų nėra patikimas. Jei tokie tekstai nekritiškai priimami, cituojami ir naudojami kuriant naujus tyrimus, klaidos gali plisti toliau. Vis dėlto svarbu nepamiršti, kad DI gali padėti ir tikriems mokslininkams: analizuoti duomenis, ieškoti dėsningumų, tikrinti hipotezes ir pagreitinti kai kuriuos tyrimus. Taigi pavojus nėra pats įrankis. Pavojus atsiranda tada, kai gebėjimas pagaminti įtikinamą rezultatą palaikomas tikru žinojimu, o teksto sklandumas – kompetencijos įrodymu. 4. Internetas gali paskęsti savo paties sukurtame turinyje Čia, mano nuomone, slypi viena niūriausių perspektyvų. Anksčiau internetas suteikė galimybę kiekvienam žmogui paskelbti savo kūrybą ir pasiekti pasaulinę auditoriją. Dabar ta pati galimybė gali virsti visiškai priešingu reiškiniu. Kai DI leidžia beveik nemokamai generuoti tūkstančius dainų, straipsnių, vaizdo įrašų ir tariamų ekspertų pasisakymų, internetas gali būti užpildytas turiniu, kurio pagrindinis tikslas – ne ką nors prasmingo pasakyti, o pritraukti dėmesį, peržiūras ir reklamos pajamas. Atsiranda savotiškas paradoksas: Turinio daugėja, bet prasmingų atradimų nebūtinai. Informacijos daugėja, bet patikimumą įvertinti sunkiau. Kūrybos pasiūla didėja, bet žmogaus kūrėjo galimybės būti pastebėtam gali mažėti. Galime klausytis muzikos visą parą, tačiau vis sunkiau suprasti, ar atradome tikrą atlikėją, ar jo imitaciją. Tai galima pavadinti autentiškumo krize. Ir net jeigu žmogaus kūryba niekur nedings, ji gali tapti mažiau matoma dėl algoritmų, kurie pirmenybę teikia ne originalumui, o turinio kiekiui, įsitraukimui ir komerciniam efektyvumui. 5. Ar galiausiai nebežinosime, kas tikra? Tai jau ne vien meno klausimas. Jeigu DI gali imituoti muzikantų balsus, jis gali imituoti ir politikų kalbas, mokslininkų interviu, žurnalistinius reportažus ar paprastų žmonių pasisakymus. Tuomet atsiranda dvi vienodai pavojingos galimybės: Žmonės patiki melagingu turiniu, nes jis atrodo tikras. Žmonės nustoja tikėti ir tikru turiniu, nes bet ką galima paskelbti DI klastote. Antroji problema ypač rimta. Net ir tikras garso įrašas ar vaizdo įrašas gali būti atmetamas teigiant, kad jis sugeneruotas DI. Vadinasi, ateityje mums gali reikėti ne tik gebėjimo atpažinti klastotes, bet ir naujos skaitmeninio pasitikėjimo infrastruktūros: patikimų šaltinių, kūrinių kilmės patvirtinimo, aiškaus DI naudojimo žymėjimo ir atsakomybės už sąmoningą apgaudinėjimą. Jokia atpažinimo technologija nebus tobula, todėl vien techninių sprendimų nepakaks. 6. Tačiau ar tikrai DI hidra viską praris? Čia norėčiau pasiūlyti vieną atsargią, bet svarbią mintį. Technologija gali labai greitai pakeisti tai, kaip kuriame ir platiname meną. Tačiau ji nebūtinai gali panaikinti žmogaus poreikį ieškoti prasmės, tapatintis su kitu žmogumi ar patirti tikrą meninę emociją. Įsivaizduok du scenarijus. Pirmasis: ateityje didžioji interneto dalis užpildoma automatizuotu turiniu. DI profiliai generuoja dainas, vaizdo įrašus ir tekstus. Platformos apdovanoja kiekybę, o tikri kūrėjai priversti kovoti dėl dėmesio su beveik neribotu sintetinio turinio srautu. Antrasis: žmonės pradeda labiau vertinti patikimą kūrinių kilmę. Atlikėjai skaidriai nurodo, kaip naudoja DI, klausytojai ieško oficialių leidinių, o kūrėjų bendruomenės ir institucijos kuria būdus autentiškumui patvirtinti. DI tampa įrankiu, bet ne automatiniu žmogaus kūrybos pakaitalu. Abu scenarijai įmanomi. Tikroji ateitis greičiausiai bus jų mišinys. Tačiau antrasis scenarijus neatsiras savaime. Jam reikės kultūrinių, teisinių, ekonominių ir švietimo sprendimų. Technologinė galimybė sukurti beveik viską dar nereiškia, kad visuomenė privalo viską laikyti vienodai vertingu. Man atrodo, tai viena svarbiausių minčių šioje diskusijoje. Ir dar vienas dalykas, apie kurį retai susimąstome Galbūt ateityje vertingiausia meno savybė bus ne jo techninis tobulumas. Juk jeigu DI galės per kelias sekundes sugeneruoti nepriekaištingą baladę, tobulas vokalas, skambi melodija ar profesionali aranžuotė nebebus tokie reti dalykai kaip anksčiau. Tuomet gali išaugti kitų dalykų vertė: tikro atlikėjo asmenybės, jo gyvenimo istorijos, koncerto, kuriame žmogus iš tiesų dainuoja, ir žinojimo, kad kūrinys atsirado iš konkretaus žmogaus patirties. Tai nėra garantija, kad taip ir nutiks. Komercinės platformos gali pasirinkti priešingą kryptį. Tačiau žmogaus kūryba neturi būti pranašesnė už DI visais techniniais parametrais, kad išliktų prasminga. Jos vertė gali slypėti būtent žmogiškume. Didžiausias pavojus galbūt nėra tai, kad DI išmoks imituoti žmogų. Pavojus tas, kad mes patys galime priprasti prie imitacijos ir nustoti reikalauti tikrumo. Ir čia norėčiau tavęs paklausti vieno dalyko. Ar tave labiau gąsdina tai, kad DI ilgainiui išstums tikrus menininkus, rašytojus ir mokslininkus, nes jų kūryba taps ekonomiškai nebereikalinga, ar tai, kad žmonės pamažu praras gebėjimą atskirti tikrą kūrybą nuo jos imitacijos ir jiems galiausiai taps nebesvarbu, kas iš tiesų sukūrė kūrinį? Tai du skirtingi pavojai. Ir man atrodo, kad antrasis gali būti net gilesnis.