Tinerețe fără bătrînețe și viață fără de doliu

„Unde nu este durere, nici întristare, nici suspin, ci viață fără de sfîrșit”, spune o foarte bine-cunoscută rugăciune pentru odihna celor trecuți în neființă. Fără nici o legătură cu religia, cam aceeași promisiune ne este livrată azi și de companiile de Inteligență Artificială din Silicon Valley, care vor să pună capăt suferinței provocate de moartea celor apropiați.

Cum încearcă să facă asta? Prin crearea unor copii digitale ale celor trecuți în neființă, sub forma unor chatboți cu care poți să vorbești oricînd simți nevoia. Acest scenariu nu mai ține de domeniul SF-ului, pentru că, cu ajutorul modelelor mari de limbaj (faimoasele Large Language Models), poți recrea modul de vorbire și stilul de scriere al oricui. Tot ce ai nevoie este, în fond, accesul la un volum mare de date personale, care aparțin unei anumite persoane sau o descriu – de la lucrări scrise și postări pe rețelele sociale pînă la fotografii, videoclipuri și multe altele.

Apoi, poți antrena un LLM, precum ChatGPT, pe aceste date, pentru a obține un chatbot care imită caracteristicile unice și idiosincrasice ale indivizilor, fie ei vii sau decedați. Dar lucrurile nu se opresc aici, căci LLM-urile personalizate pot fi integrate cu alte modele de Inteligență Artificială, precum rețelele generative adversariale (generative adversarial networks), tehnologia din spatele deepfake-urilor, pentru a recrea nu doar personalitatea celor decedați, ci și vocea și felul în care aceștia arătau. Mai precis, „dublurile digitale” pot lua nu doar forma unor chatboți, ci și a unor avataruri realiste care arată, se mișcă și vorbesc exact ca persoanele „duplicate”.

Industria tehnologică a doliului este într-o continuă creștere. De exemplu, compania HereAfter AI oferă posibilitatea de a captura povestea vieții unei persoane prin dialog cu un chatbot sau cu un biograf uman. Aceste date sînt apoi procesate și compilate cu alte informații pentru a construi o replică digitală realistă a persoanei, care poate fi oferită celor dragi „de sărbători, de Ziua Mamei, Ziua Tatălui, aniversări, pensionări și altele”. În mod similar, compania You, Only Virtual se prezintă drept „pionieră în comunicarea digitală avansată, astfel încît să nu trebuiască să ne luăm rămas-bun niciodată de la cei pe care îi iubim”. O altă companie, Seance AI, susține că „aici este locul unde Inteligența Artificială întîlnește viața de apoi, iar dragostea dăinuie dincolo de văl. Începe-ți aventura astăzi și lasă-i pe cei dragi să vorbească din nou inimii tale”. Lista ar putea continua, dar ideea acestor companii este aceeași: cu ajutorul IA îi vei putea replica pe cei dragi și, cel mai important, vei putea astfel evita să te confrunți cu realitatea dispariției lor.

Aceeași poveste, o poveste fără sfîrșit

Toate aceste companii din domeniul doliului digital urmează aceeași abordare de tip laissez-faire cu privire la impactul tehnologiilor pe care le lansează pe piață asupra utilizatorilor. Pe scurt și fără menajamente: nu prea le pasă de potențialele efecte negative. Serviciile de replicare nu sînt testate înainte de a fi lansate pe piață, sînt un coșmar în ceea ce privește sfera privată (nu e clar cine deține datele personale și la ce le poate folosi pentru a replica digital diverși indivizi) și, mai ales, nu e clar cine e responsabil dacă, sub influența „dublurilor digitale”, se va întîmpla ceva grav.

Copiile digitale ale celor trecuți în neființă vor schimba modul în care ne amintim de cei pe care i-am iubit și pierdut. Cînd ne uităm la videoclipuri sau fotografii cu cei dragi și dispăruți între timp, ori citim e-mail-urile sau scrisorile de la ei, întîlnim, de obicei, reprezentări pasive ale trecutului, care nu oferă semne de viață. În schimb, copiile digitale pot răspunde la întrebările pe care le adresăm, pot comenta evenimente curente, pot face glume și chiar oferi sfaturi de viață, în stilul și maniera celor decedați.

De asemenea, pot răspunde spontan și adecvat la emoțiile utilizatorilor, evoluînd constant și învățînd nu doar din datele primite, ci și din conversațiile avute pînă atunci. Toate aceste lucruri fac ca interacțiunile cu aceste tehnologii să pară „reale”. Cu alte cuvinte, ne confruntăm nu doar cu o manieră pasivă de a ne aminti trecutul, ci cu un mijloc de a menține o conexiune activă cu cei care nu mai sînt printre noi și chiar de a crea noi amintiri în acest proces.

Bineînțeles, în spatele acestor tehnologii nu se află decît niște algoritmi complecși care, pe baza datelor oferite, folosesc probabilități statistice pentru a genera răspunsuri potrivite pentru input-ul oferit de către utilizator. Cu toate acestea, există o probabilitate semnificativă ca acești chatboți, datorită naturii lor interactive, să creeze iluzia unei conexiuni continue cu cei decedați. Iar acest lucru poate face mai dificilă acceptarea realității pierderii unei persoane iubite. Nu este vorba neapărat că oamenii vor ajunge să creadă că morții lor dragi există în continuare, cumva, într-un rai digital. Însă aceste tehnologii ar putea genera o disonanță cognitivă: pe de o parte, știm că persoana iubită a murit, pe de altă parte, putem simți că este acolo, mai ales atunci cînd vorbim cu un chatbot care poate răspunde într-un mod similar și familiar. Această disonanță cognitivă poate afecta nu doar starea de bine, ci și capacitatea de a învăța să trăim, în continuare, o viață cu sens într-o lume fără persoana iubită.

Există, de asemenea, și îngrijorări mai tangibile legate, în principal, de modul în care interesele financiare ale companiilor dictează „politica învierii” prin chatboți și avataruri. De exemplu, ar putea fi acești chatboți utilizați pentru publicitate? Imaginează-ți că ai o conversație cu o copie digitală a bunicii tale care, dintr-o dată, încearcă să îți vîndă ceva sau să promoveze un anumit candidat politic sau un produs „de la bunica”. Vor fi aceste tehnologii folosite pentru manipulare? Cine va deține copia noastră digitală după ce murim? Ce se va întîmpla cu datele noastre? Cine este responsabil dacă copia noastră digitală face ceva greșit?

Vorbește, memorie RAM!

Dincolo de apăsătoarele întrebări de mai sus, există și potențiale avantaje. Aceste interacțiuni cu copii digitale ne oferă ocazia să revedem și să reactivăm ceea ce am prețuit la oamenii care au murit și conexiunile pe care le-am împărtășit cu ei. Memoria e fragilă, iar pericolul real apare atunci cînd începem să uităm cum și cine erau cei ce au murit. Odată cu uitarea celor dispăruți, pierdem și o parte din noi, pentru că relațiile cu cei dragi ne definesc mai mult decît ne dăm seama. Fotografiile, videoclipurile, e-mail-urile sau mesajele vocale ne ajută să păstrăm vie imaginea lor, dar nu pot recrea acea conexiune specială formată prin legătura iubirii.

Însă aceste copii digitale, prin interactivitatea lor, ne pot ajuta nu doar să ne amintim de cei ce nu mai sînt printre noi, ci și să redescoperim ce eram noi în relație cu ei. Ca să folosim aceste tehnologii pentru a ne reaminti, mai degrabă decît pentru a înlocui, este important să abordăm dialogurile cu copiile digitale ale celor trecuți în neființă cu un simț al separării, mai degrabă decît cu așteptarea unei reconectări complete. Scopul nu este de a înlocui profunzimea emoțională a unei persoane vii, ci mai degrabă de a folosi copiile digitale ca pe un instrument pentru a reînvăța ceea ce iubim și am pierdut.

Impactul acestor tehnologii, fie că împiedică acceptarea pierderii unei persoane dragi, fie că oferă confort și ușurează doliul, depinde nu doar de felul în care ne raportăm noi la ele, ci și de modul în care sînt dezvoltate. De exemplu, valorile încorporate în designul tehnologiei ar trebui să prioritizeze transparența în modul în care acești chatboți funcționează, inclusiv în modul în care utilizează datele pe care le furnizăm, și să reamintească constant că aceste copii digitale nu au intenție sau conștiință, ci sînt simple artefacte animate care ne pot ajuta să ne amintim. Însă companiile care oferă astfel de servicii nu par să ofere semne că se preocupă, chiar și minimal, de interesele și bunăstarea utilizatorilor. Iar în aceste condiții, deși tentația de a păstra o amintire „vie” a celor ce nu mai sînt este mare, cea mai bună strategie pe care o avem este cea de a ne ține departe de aceste tehnologii.

Cristina Voinea este doctor în filozofie, cercetătoare la Oxford Uehiro Institute al Universității din Oxford și la Centrul de cercetare în etică aplicată al Universității din București.