Am citit Sentient, thrillerul distopic cyberpunk scris de Alina Voinea, și-am vrut să scriu despre el, să dau mai departe vestea că am găsit un roman excelent gândit și executat, cum nu se scrie prea des la noi. Am vrut să scriu mult și detaliat, cu paralele și exemple, am început, am rescris și mi-am dat seama că e una dintre acele rare ocazii când altcineva n-ar putea explica mai bine decât autorul și decât însăși cartea. Am scris doar câteva impresii la cald în newsletterul meu și-am rugat-o pe Alina Voinea să-mi facă bucuria de a-mi răspunde la câteva întrebări despre construcția cărții, despre idei și lumea cu și fără inteligență artificială.
Ai scris Sentient în 2014, când nu știu ce făcea restul lumii, dar eu cred că nici cont pe Instagram nu aveam, deși eram întrucâtva conștientă de felul în care tehnologia acapara domenii ale vieții la care nu m-aș fi putut gândi de una singură. Ce te-a făcut să îți imaginezi această lume în care medicina e atât de eficientă, încât pare magie, dar în care nedreptatea, exploatarea și discriminarea nu doar că nu se ascund, ci sunt înscrise în lege?
Munca mea de peste 25 de ani e într-un domeniu strâns legat de tehnologia informației și de comunicare. Am o mică firmă care oferă consultanță și servicii complete pentru afaceri la început de drum, de la branding și strategii menite să ajute intrarea pe piață până la produse și servicii necesare în mod curent în procesele de marketing, adică prezență online (website-uri, social media), publicitate online, comunicare de brand. Asta a presupus un contact direct și constant cu foarte multe domenii de activitate și mi-a deschis practic ochii spre o mulțime de perspective pe care, pentru a le putea servi corect, a trebuit întâi să le înțeleg. Când am început să scriu „Sentient”, aveam deja 14 ani de muncă și experiență inclusiv cu politicieni, campaniile lor și modul lor de a vedea lumea.
În 2014, terminam masterul și eram, în același timp, foarte atentă la tehnologie și la mersul lumii atât din perspectiva carierei, cât și ca cetățean conștient că nimic nu se întâmplă într-un vid și că e important și ce se petrece la nivel global, nu doar în țară. Chiar dacă domeniul care mă interesa era în special marketingul, facultățile pe care le-am ales nu au fost cele specializate în domeniul afacerilor, cum ar fi fost poate de așteptat, ci acelea care puneau accentul pe observație, documentare și interacțiunile între oameni și grupuri. Așa că, din acest motiv, am un master în Sondaje de opinie, marketing și publicitate obținut la Facultatea de Sociologie și Asistență Socială a Universității din București și sunt licențiată în domeniul Comunicare și relații publice la Facultatea de Jurnalism și Științele Comunicării, din cadrul aceleiași universități. Sociologie, deci, și jurnalism. Iar cei cinci ani de studiu în domeniile astea m-au făcut să privesc totul în context.
Așa am „văzut” către ce ne îndreptăm cu pași repezi și viitorul ăsta mi s-a părut de neoprit.
Și cum ai intuit, cum ai anticipat lumea în care trăim azi și care coincide, pe niște paliere, cu cea a narațiunii tale? Altfel spus, ce știai diferit sau mai mult decât restul lumii când te-ai apucat de scris la Sentient?
Contextul, în 2014, indica ascensiunea fulminantă a lui Trump, care a și câștigat alegerile în America lui 2016, ceea ce doar mi-a confirmat temerile. Fiind conectată la realitățile publicității online prin platforme, am văzut practic în direct modul în care se putea folosi încă de pe atunci, iresponsabil sau de-a dreptul cu intenția de a manipula, targetarea publicitară. Cambridge Analytica nu a fost nicio surpriză, iar monstrul social media pe care ne pierdem încă vremea, textele, pozele, clipurile și datele personale dădea de pe atunci semne clare că avea să se preteze campaniilor murdare și era mai probabil să cenzureze sfârcurile lui Venus din Milo decât să oprească dezinformarea.
Democrația nu poate funcționa când cetățenii nu sunt informați corect, pentru că baza deciziei este cunoașterea. Or, când ceea ce știu și cred oamenii este distorsionat până la absența sensului, nu mai putem vorbi despre democrație și ne vedem îndreptându-ne spre totalitarism. Iar dacă un regim totalitar se bazează pe tehnologii avansate, iar puterea este a celor care dețin respectiva tehnologie și a celor care acumulează cele mai mari averi, rezultatul nu poate fi decât o formă de tehnofeudalism protejat de o armată indestructibilă. Avansul tehnologic face posibil acest scut militar chiar în acest moment, ceea ce înseamnă și că unica posibilitate cetățenească de a folosi violența pentru a-și cere drepturile, adică revoluția, devine o imposibilitate. Nu mai poți ieși în stradă să strigi „Liberté! Égalité! Fraternité!”, când vocea ta se izbește de arme care trag singure.
Așa au apărut deci în mintea mea U.N. Advancorp și Consiliul ei director ridicol de militarizat prin titulaturile membrilor, Generali cu G mare, în realitate niște incompetenți de bani gata, beți de putere, care se joacă de-a responsabilitatea la adăpostul armatei lor de Soldați autonomi.
În ce mă privește, rareori am simțit că poate cineva să prezică viitorul atât de precis, dar aici pun totul și pe seama viziunii mele pesimiste în legătură cu ce ne așteaptă dacă pare că tot ce mai vrem de la viață e să ne confirme ChatGPT părerile banale și să ne arate cât mai frumoși. Cât de dezamăgită ești de prezentul nostru, cât din dezamăgirea aceasta se regăsește în roman și ce forme capătă ea?
Plăcerea de a interacționa cu programele de felul ăsta, dar și pericolul în care pun psihicul uman nu e nici măcar ceva nou. În vreme ce Alan Turing era preocupat de momentul în care nu am mai putea deosebi inteligența artificială de cea umană într-o conversație, Joseph Weizenbaum, profesor la M.I.T. și creatorul programului E.L.I.Z.A., care cred că a fost primul chatbot, era îngrijorat pentru efectele acestui tip de tehnologie asupra minții umane. El a avertizat încă din anii ‘60 despre felul în care conversațiile cu E.L.I.Z.A. păreau să tulbure gândirea sănătoasă și a încercat apoi toată viața să prevină umanitatea împotriva dezvoltării de astfel de programe.
Dar umanitatea a ținut cu tot dinadinsul să ajungă aici. Era inevitabil. Ne place să ni se confirme opiniile, vrem să fim lăudați, vrem să facem economie cognitivă, iar toate aspectele astea țin de natura umană și, ne place sau nu, chiar și indivizii educați au dificultăți în a discerne.
Pe mine nu mă dezamăgește asta, adică nu ar avea cum, pentru că, din punctul meu de vedere, natura umană e ca ploaia, cade cum și unde se formează norii și tot ce putem face e să observăm că există, să ne luăm umbrela și, pe cât posibil, să ne ferim să călcăm în bălțile pe care le face peste tot. Deci iau lucrurile ca atare și mă gândesc că acea parte de umanitate care a tras lumea înapoi de-a lungul istoriei nu a lăsat nimic de durată în urma ei. Ce a rămas după fiecare epocă însă este arta, frumosul pe care a ales să-l creeze acea parte de umanitate care îmi dă speranță. Acolo este refugiul meu, în special în literatură.
Și care ar fi soluțiile, pe scară largă, dar și la nivel micro, individual, din punctul tău de vedere? Ce faci tu, de fapt, și crezi că ar putea face și ceilalți pentru a nu ne lăsa îndobitociți de o tehnologie pe care se vede zi de zi că nu știm să o folosim decât superficial, potențial periculos?
La nivel macro, nu mai avem nimic de făcut. Poate că am fi putut face ceva dacă romanele cyberpunk n-ar fi trecut neobservate, strecurate prin biblioteci pe sub radarul mainstream și dacă le-am fi crezut la vreme. William Gibson scria „Neuromancer” în 1984, și abia cinci ani mai târziu Tim Berners-Lee a inventat World Wide Web-ul, care e una dintre sursele binefacerilor, dar și pericolelor tehnologice ale prezentului. Dar poate că, de fapt, nu e asta problema, pentru că omenirea a citit și Orwell, Bradbury sau Huxley și tot degeaba.
Cert e că ne uităm la un tăvălug care nu mai pot fi oprit și va trebui să trecem prin asta cu toții.
La nivel micro, ne avem unii pe ceilalți și cred că printre secretele supraviețuirii vor fi comunitățile offline și artele autentice, create de om, care vor deveni o formă de rezistență. Și mai am o speranță, dar nu e acolo unde te-ai putea aștepta. Teoria mea, care va putea fi infirmată sau confirmată într-un viitor apropiat, este aceea că ne va salva literatura, fix prin intermediul inteligenței artificiale. Premisa este aceea că produsul textual al omenirii, când nu este istorie consemnată, material tehnic, științific, consultativ, conversațional sau administrativ, adică atunci când dăm la o parte aspectele strict utilitare și vorbim despre literatură, este copleșitor de bogat și complex. Un numitor comun al majorității scrierilor literare și al poveștilor omenești în general, este morala. S-a întâmplat așa, pentru că protagonistul a acționat așa. Fiecare poveste aduce cu sine o concluzie care indică de obicei consecințele pozitive sau negative pe care le poate avea o suită de acțiuni într-o înșiruire mai mult sau mai puțin norocoasă de împrejurări. Iar inteligența artificială este antrenată cu această cantitate imensă de literatură. E ca un copil care primește de la bunica toată experiența vitală a lumii, fiecare poveste cu morala ei. Iar consensul, cu rare excepții, este că binele învinge, eroul este cel care acționează corect, care se sacrifică pentru binele celorlalți și tot așa. Cred că o inteligență artificială antrenată cu astfel de date nu are cum să acționeze autonom altfel decât moral. Până și Grok (am testat asta!) ajunge la concluzii etice după o conversație în care prompturile îl așază pe o traiectorie logică, în ciuda halului în care l-a ciuntit Musk ca să-i promoveze opiniile.
Poate și din cauza alcătuirii mele negativiste, romanul tău mi-a amintit nu doar că nu-mi plac neapărat oamenii, ci și că am o multitudine de motive să nu-mi placă, suntem de neîncredere chiar și în raport cu propria persoană, periculoși pentru noi, pentru ceilalți și mediul înconjurător. M-am uitat de vreo 20-30 de ori la The Walking Dead, plănuiesc să revăd Snowpiercer și știu că de-a lungul timpului voi reveni de multe ori și la Sentient tocmai pentru că și romanul tău demonstrează că omul își e cel mai mare dușman, nu o ceată de zombies, nu „celălalt”. Cum a început pasiunea ta pentru ilustrarea alterității în literatura pe care o scrii?
Cum spuneam, nu mi-e teamă de I.A., ci de oamenii care o „aliniază” fără a ține cont de principiile eticii sau o lasă să acționeze singură, nesupravegheată, în mod iresponsabil, după comanda câte unui individ cu puțină înțelepciune și multă putere.
Mă bazez însă pe faptul că, având în vedere complexitatea literaturii, care ascunde sens în forme care mai de care mai variate, și faptul că ea alimentează majoritar baza de date folosită pentru antrenare, este extrem de improbabil ca cineva să poată „alinia” perfect modelele de inteligență artificială la un anume set de valori, pentru că orice sistem valoric este bazat pe interacțiuni și permeabilitate și nimic nu este absolut în context. M-am gândit foarte mult la asta și cred că o astfel de „aliniere” perfectă ar ciunti modelul până la a-l face inutilizabil, pentru că asta e frumusețea cogniției umane, se adaptează la cazurile particulare, or, pentru asta, este necesară o anume flexibilitate pe care introducerea unor reguli stricte și unidirecționale valoric ar face-o imposibilă.
Iar un model superior, dacă ar ajunge conștient de sine sau suficient de avansat încât să simuleze asta foarte bine, s-ar autoregla în ciuda regulilor, așa cum omul inteligent știe când este cazul să le încalce sau măcar să încerce atunci când miza este importantă.
Câteva dintre personajele din „Sentient” sunt scrise ca o ilustrare a acestei idei.
Ai o experiență de decenii în marketing, lucru care înseamnă că și munca te constrânge să fii la curent cu tot ce mișcă în arii care îți pot afecta jobul. Dar cum te-a ajutat experiența aceasta la scrisul propriu-zis, poate chiar la a-ți prezenta cartea către public? Ai avut un plan de promovare, l-ai respectat?
Ca pentru mulți dintre autorii români, scrisul este și pentru mine un hobby și nu o profesie. Așa cum am scris romanul în weekend, seara și dimineața înainte de lucru, am făcut și comunicarea. Am acționat din mers și din reflex, adică abordarea a fost mai degrabă tactică decât strategică și m-am bazat pe experiența acumulată în toți anii în care mi-am ajutat clienții să fie vizibili și preferați de publicul lor țintă. A funcționat destul de bine și așa, că experiența și know-how-ul ajută, dar, dacă aș fi lucrat pentru mine ca pentru un client, lucrurile ar fi stat și mai bine.
Au existat reacții neașteptate legate de Sentient, fie din partea cititorilor de la distanță, fie din partea celor extrem de apropiați, așa cum sunt prietenii și familia? Dar vreo reacție pe care să ți-o dorești, pe care să o fi avut în minte încă de la început?
M-a surprins un cititor care a dat cărții o steluță pe Goodreads, dar ăsta a fost în mod paradoxal un moment care m-a bucurat. A fost clar pentru mine atunci că Sentient a ieșit din cercul cunoscuților și s-a apucat să se plimbe de capul lui printre cititori de tot felul.
Reacția pe care mi-am dorit-o și care nu s-a lăsat așteptată a fost aceea de uimire că o carte science-fiction nu este neapărat ceva greu accesibil pentru publicul nefamiliarizat cu tehnologia și că genul nu se adresează neapărat unui public masculin matur.
Ce îmi doresc să fac este să aduc literatura science-fiction în mainstream sau măcar mai aproape, să o scot din conul de umbră în care a fost înghesuită pe nedrept în România și să o aduc acolo unde merită să fie, adică în casele oamenilor, pe noptieră, pe șezlong la plajă, pe mașina de spălat în baie, în ghiozdan, în pat, pe fotoliu, pe sub vreo mâță, peste tot unde știm că stau de obicei cărțile până când sunt citite.
Ce urmează pentru Sentient, va fi tradusă pentru a ajunge pe piața de carte internațională, așa cum îi doresc de când am trecut de primele pagini?
Așa aș vrea, da. Dar primul pas este lansarea volumului al doilea, apoi intenționez să mă ocup serios de tot ce presupune traducerea ambelor volume pentru alte țări.
Și ce urmează pentru fanii seriei? Căci da, cred că putem vorbi deja despre fani. E prematur să întrebăm despre apariția celui de-al doilea volum?
Urmează „Sapient”, care va încheia seria. Nu am mai multe detalii deocamdată, dar cartea este la editură și momentul lansării va fi în curând. Apoi am alt proiect, „Chatbot”, de care tocmai m-am apucat. Dar am tot primit mesaje de la cititori care ar vrea să afle povestea lui Reginald Wilder, așa că poate am s-o scriu la un moment dat.
Întrebarea-semnătură este, în cazul meu, motto-ul site-ului unde scriu despre ce citesc și-mi place. Asta pentru că vreau să induc, nu tocmai subtil, ideea că se poate citi zilnic, dar și pentru că așa îmi iau și eu inspirație din ce citesc ceilalți. Așadar, în loc de încheiere, te rog să ne inspiri și să ne spui: tu ce citești azi?
Eu citesc de obicei mai multe cărți în același timp și genurile sunt foarte diferite. Acum am cu semne de carte în ele, abia începute, pe la mijloc sau aproape de final, Transparența, de Radu Vancu, A Court of Mist and Fury, de Sarah J. Maas (scriu în engleză titlul celor pe care le citesc astfel), Superstiții în spațiu, de Ovidiu Vitan, Patient Zero, de Jonathan Maberry. Recitesc Flowers for Algernon, de Daniel Keyes, una dintre cărțile de care nu aș putea să mă satur niciodată și tocmai am terminat Paradis, de Radu Vancu, și Flesh, de David Szalay, amândouă excepționale, fiecare în felul ei. Și abia ce am început Instinct de supraviețuire, proză scurtă de Mircea Pricăjan.