Radu Buzăianu („Ce se întâmplă”): 📹 Profesorul Răzvan Rughiniș despre lumea AI care a început.

Nu reproduc absolut tot, dar o mare parte.

#1 ● Criza din educație și anxietatea noilor generații
#2 ● „Skill-urile sunt pentru roboți”: Viziunea europeană vs. americană
#3 ● Tehnologia ca agresiune: Zona de confort și burnout-ul
#4 ● Tinerii vulnerabili (fenomenul NEET) și costul tranziției spre AI
#5 ● Ce știu marile platforme despre noi? Predicția deciziilor
#6 ● Boți, dezinformare și campanii coordonate în alegeri
#7 ● Algoritmii și polarizarea: Banii din spatele radicalizării
#8 ● Dependența digitală la minori și reglementările din China
#9 ● Dreptul la opinie vs. dreptul la platformă (Legea influencerilor)
#10 ● Frances Haugen: Cele 3 niveluri de justiție de pe rețelele sociale
#11 ● Frica de AI și marketingul apocaliptic
#12 ● Bula economică a inteligenței artificiale: Costuri uriașe pe banii investitorilor
#13 ● Riscuri reale: Date confidențiale, spionaj și manipulare
#14 ● Modelul chinezesc: Disciplină digitală vs. libertate de exprimare
#15 ● Cum ne decuplăm: Detox digital și relațiile umane reale
#16 ● Geopolitică tehnologică: SUA, Europa și ascensiunea Chinei
#17 ● Capcana discursului suveranist și dependența tehnologică
#18 ● „Sindromul protagonistului” (Main Character Energy) la tineri
#19 ● ChatGPT, „angajatul perfect” care te flatează
#20 ● Pericolul terapiei cu AI și lipsa responsabilității
#21 ● AI Act: De ce reglementarea europeană este o formă de putere
#22 ● Cum ne vede Donald Trump și forța reală a Europei

🤖

● 03:10 – Criza din educație și anxietatea noilor generații

Buzăianu: E o spaimă cumva a tinerilor, a celor intrați nou în viață, cumva în legătură cu lumea asta pe care o vor locui, în sensul în care e o dinamică foarte mare a schimbărilor și cred că de aici vine o înspăimântare, de aici vine cumva anxietatea. Mă rog, tehnologizarea asta a lumii e una, dar dinamica în care lucrurile se reproduc pare că-ți ia orice perspectivă, pentru că tu, când pleci la drum, te pregătești în legătură cu drumul, îți iei ce ai de folos. Totuși, în situația în care noi trăim acum, nu știm exact cu ce să ne echipăm, cam de ce fel de drum ne pregătim, și nu vorbim în perspectivă, vorbim peste 2-3 ani.

Rughiniș: Este într-adevăr o criză, dar este și o oportunitate. Da, în orice criză este și o oportunitate a ne distanța un pic de, să zicem, gândirea aceasta orientată doar către primul job, și să ne întoarcem la rolul educației care ar trebui să creeze cetățeni în primul rând și apoi să ofere o valoare economică. Mie mi se pare că, în ultimul timp, ne-am orientat doar pe niște competențe foarte înguste și, mai ales, la zona de liceu, universitate, nu am reușit să echipăm tinerii, inclusiv cu modalitatea de a analiza opțiunile, de a-și cultiva niște calități care vor fi valoroase în orice lume, inclusiv în lumea hibridă a oamenilor și agenților.

Perseverența întotdeauna va face o diferență, capacitatea a te duce mai departe de primul răspuns și anume creativitatea, care, să știți, intră în contradicție cu așteptările tinerilor de astăzi, care, datorită anxietății, vor rețete, vor lucruri cât mai simple, fără să se gândească că orice rețetă va fi ușor de înlocuit de un agent.

Această abilitate de a zăbovi, de a tolera incertitudinea, de a găsi o soluție mai bună după ce ai deja o soluție, este extrem de greu de cultivat. Multe alte abilități sociale pe care o educație solidă, educația se transformă de la accesul la informații, la cunoaștere, într-un mediu experiențial în care, alături de oameni de vârsta ta, de contexte stimulante, îți descoperi pasiuni.

Asta a fost de mulți ani universitatea. Noi am rămas cu acea imagine foarte rigidă, bazată pe cursuri, pe examene. Toate acestea sunt doar pretexte, în general, pentru unii dintre colegii mei din foarte multe universități și din România și din afară, de a pune studenții într-o postură de asumare a proiectelor, de a încerca să-și formuleze ambiții, pasiuni, lucru care, încă o dată, este șters de viziunea îngustă „te duci la facultate pentru o materie, pentru un tip de job.”

● 05:18 – „Skill-urile sunt pentru roboți”: Viziunea europeană vs. americană

Buzăianu: Și atunci, ca să sintetizăm, cu ce skills-uri trebuie echipați cei care intră acum în viața asta nouă, pe care lumea a construit-o?

Rughiniș: Skill-urile sunt pentru roboți.

Pentru oameni trebuie să construim comunități și medii de dezvoltare. Pentru că a te uita la un om doar prin prisma muncii pe care vrei să o facă este limitativ. Noi suntem europeni, noi avem o tradiție de la Kant citire care spune că trebuie să tratezi omul ca scop și niciodată ca mijloc.

Dar, peste toată această fundație de valorizare a omului și suport al omului pe care Europa a construit-o, a venit…

Buzăianu: Devalorizare sau de valorizare? În două cuvinte?

Rughiniș: De.

Buzăianu: Sau cum?

Rughiniș: Prețuirea omului.

Deci, Europa cred că are o bună tradiție, are o bună tradiție de a pune oamenii în valoare, de a crea libertăți și de a-și descoperi limitele pe care nici nu știa că pot fi confruntate. În vremea ce America a venit, inclusiv cu această noțiune pe care (sic!) încă ne-a (sic!) intrat în limbaj, resurse umane. Este anti-europeană. De fiecare dată când oricare dintre noi se referă la un departament de resurse umane, degradează potențialul oamenilor pe care îi gestionează și noi trebuie să ne aducem aminte de unde venim. Venim dintr-o Grecie a unor state autonome cu idei extraordinar de îndrăznețe. Dacă avem o vină noi, ca generația celor care astăzi definim valori, este lipsa de imaginație. Deci cum arăta Grecia, câte diversitate acum 2500 de ani, și noi acum doar alegem între două narative amândouă pierzătoare: ori ne domină America, ori ne domină China. În orice caz va fi rău.

Și sunt atâtea zeci, sute de alte opțiuni pe care oamenii care au trăit alte crize, oamenii care au experiența și inteligența și valorile se, practic, retrag în loc să iasă la bătaie, în loc să vină cu narative europene, cu narative românești care, credeți-mă, acest fatalism românesc mioritic, cum foarte bine spuneai și tu, ne costă inclusiv în secolul 21. Și este momentul să ne păstrăm tradițiile, dar și să țintim mai sus și să țintim pe niște narative care să ne reprezinte, nu pe niște narative pe care să ne manipuleze ori marketingul american, ori interesele chineze.

● 08:06 – Tehnologia ca agresiune: Zona de confort și burnout-ul

Buzăianu: Pe de altă parte, noi încercăm, apropo de tradiții și noi încercăm cumva, asta e atmosfera pe care eu o remarc, e una de încercare de conservare a ceva, adică noi în lumea asta tehnologizată noi încercăm să ne conservăm lumea din care venim, pe care o știm, poate și dintr-un instinct de conservare gregar al omului, încercăm să conservăm ce știam noi și practic devine tehnologia asta, indiferent de cât de mult ne folosim de ea, ea intervine cumva și ca agresiune asupra ființei umane, adică într-un fel există și această…

Rughiniș: Orice schimbare este scoatere din confort și obișnuiesc să spun: noi nu devenim, noi nu îmbătrânim, ci devenim mai confortabili. Și, din păcate, am tineri la 19 ani în anul întâi care au mentalitate de pensionar, ca să zic așa. Își doresc să nu fie deranjați. După cum am prieteni de 70 de ani care au mai multe ambiții și proiecte decât ți-ai putea imagina. Până la urmă, trebuie să găsim un echilibru și între a nu fi supra-stimulați, a nu fi supra-stresați, că până la urmă a face burnout nu ajută nimănui, dar și a ne provoca, să ne acceptăm un spațiu de disconfort sănătos și cred că tehnologia actuală vine peste limita fiecăruia, dar iarăși trebuie să ne dăm seama că trebuie să fim noi cei care folosim tehnologia, nu să fim folosiți de tehnologie. Și dacă reușim să temporizăm, cel mai bun sfat este să ne găsim un grup de prieteni cu care să împărtășim aceste anxietăți, că de multe ori, dacă ajungi la terapie, e prea târziu. Dacă reușești să găsești oameni din breasla ta cu care să poți schimba, „Uite-te ce unealtă extraordinară am găsit.” Păi da, dar totuși asta era valoarea pe care eu reușeam să o aduc profesiei mele. Voi mai putea fi valoros, prețuit în viitor? Aceste discuții avute doar în capul tău pot să fie extraordinar de toxice, costisitoare, avute într-o comunitate, dintr-o dată ți le iei de pe suflet. A le pune în cuvinte le face controlabile.

Buzăianu: Dar sunt reale fricile astea? Adică ele se bazează și pe ceva realist?

Rughiniș: Se bazează și pe un fond cultural care trebuie să înțelegem, este occidental, este specific mai ales Americii și Europei și nu există în 80% din glob. Toate aceste distopii ale civilizației amenințate de roboți, de la Terminator și toate poveștile din anii ’80 chiar și mai înainte, nu sunt în niciun fel tentante pentru Japonia, pentru China, pentru Thailanda, nu există. Pentru ei există posibilitatea ca tehnologia să meargă rău, dar nu este interesant. De ce ne-am pune această problemă? Noi ne uităm cu o atrac…

Buzăianu: Suntem și suntem și atrași cumva, ne place să…

Rughiniș: Nu-mi dau seama cum s-a stabilit acest fundament de atractivitate, de față de dezastru, de distopie.

Buzăianu: Păi, noi am trăit mai multe sfârșituri ale lumii. Adică, era odată sfârșitul lumii din anul 2000, nu știu, trebuia să vină sfârșitul. Trăiam cu impresia că vine sfârșitul lumii. Cred că și în anii ’90, cu stratul de ozon, credeam că e ceva inevitabil. Adică, stau și mă gândesc, dacă mergem mult în urmă, oamenii nu trăiau cu senzația că lumea se încheie?

Rughiniș: Dar n-aș merge prea departe, că s-ar putea să ies din zona de competență și sunt de acord că am avut un tip de fatalism, dar mie mi se pare mai îngrijorător pesimismul pe care, mai ales într-o societate a abundenței pe care o avem astăzi și pe care România acum 40 de ani nu o avea. Avem mai multă anxietate decât oricând pentru că ne concentrăm asupra unor lucruri mici pe care nu le controlăm, fără să mai avem puterea să ne bucurăm de numeroase libertăți și opțiuni pe care părinții mei nu le aveau. Nu le aveau.

● 11:25 – Tinerii vulnerabili (fenomenul NEET) și costul tranziției spre AI

Buzăianu: Dar totuși, care-i riscul, dacă ar fi să fim și realiști, care-i riscul la care ne supunem noi în momentul în care ne uităm și când ne referim la tehnologie, ne referim clar la inteligența artificială, care-i riscul cel mai mare la care ne expunem în acest moment? Există un risc mare?

Rughiniș: Orice tehnologie, orice schimbare redistribuie beneficiile și costurile. Și de multe ori ne concentrăm asupra beneficiilor pe care le aduce și nu adresăm costurile. Și de multe ori aceste costuri se adună, pot să fie pentru grupuri vulnerabile. Eu cred că, de exemplu, tehnologia generativă, toate aceste Large Language Models afectează disproporționat de mult pe tineri, spre deosebire de alte categorii profesionale, lucruri pe care noi la nivelul societății astăzi nu le discutăm, și la un moment dat părți din societate care suportă un cost disproporționat de mare pentru o tranziție vor ajunge să nu mai accepte contractul social de până acum.

Adică să iasă în stradă și să le dea foc mașinilor și să avem un colaps social.

Buzăianu: La care îi sunt tinerii? Până la ce vârstă stabilim că ne raportăm? Care e generația la care…

Rughiniș: Oamenii care încă nu au…

Buzăianu: Până în 30 de ani.

Rughiniș: Oamenii care sunt la început de carieră, ca să zicem așa. Și România are, din păcate, cel mai îngrijorător scor pe ceea ce se numește NEET, Not in Education, Employment or Training. Tineri care nu sunt cuplați la viața economică sau academică a țării.

Iar toată lumea vorbește despre pensionari, este fără îndoială dificil să fii la o vârstă, dar mai puțin vorbește despre faptul că unul din cinci oameni de 20 de ani, în România, cel mai mare procent din Europa, nu este conectat în niciun fel la societate într-un mod productiv, ceea ce, dacă în următorii cinci ani ei nu se conectează, vom avea persoane pe care va trebui să le asistăm social 50-60 de ani. Este o problemă mult mai gravă pe care nu o punem în discuția publică, deși alte grupuri vulnerabile ajung să capete, să zicem, o atenție din partea politicienilor.

Buzăianu: Totuși, ne uităm la tehnologia asta cu care interacționăm, la inteligența artificială cu care comunicăm. Ce știe despre noi, ce ajunge să știe despre noi? Ajunge să ne cunoască mai bine decât ne cunoaștem noi într-un final, adică toate toate, mă refer la zona asta conversațională în principal, nu știu, ChatGPT-ul este remarcat pentru treaba asta.

● 13:40 – Ce știu marile platforme despre noi? Predicția deciziilor

Rughiniș: Fără îndoială, fără îndoială, volumul masiv de date pe care aceste platforme, chiar și înainte de inteligența conversațională le au toate platformele digitale, fac în primul rând o predicție mai bună a intențiilor noastre, o predicție mai bună a stării de degradare decizională pe care noi o avem, adică noi avem impresia că avem un tip de abilitate cognitivă, de gândire critică, dar nu ai aceeași gândire la ora 9:00 dimineața după ce ți-ai băut cafeaua și la ora 11:00 seara după ce ai băut și cinci beri cu prietenii. Toate aceste platforme urmăresc atent momentele în care ești vulnerabil, dar și îți pot, de la a plasa un produs până la a plasa un mesaj electoral, și iarăși, ce trebuie să înțelegem este că toate aceste platforme au foarte mult timp. De când avem o conversație cu un prieten cu care, hai să spunem, din diverse motive încearcă să ne schimbe opinia, da? Aceasta poate să fie ușor de intuit și e ușor de rezistat, e ușor de combătut. În vreme ce toți aceștia algoritmi și algoritmii de recomandări pe o platformă de streaming, e tot o formă de inteligență artificială, are timp de a-ți altera imperceptibil preferințele și după trei luni de zile să te trezești că acel candidat pe care tu îl considerai soluția la problemele țării, dintr-o dată e o persoană pe care o deteşti.

Buzăianu: Dar am trăit așa ceva. Am trăit în privința alegerilor, am trecut prin Georgescu, care până la urmă, bine, și Trump i-a trecut pe americani prin așa ceva, mă refer la Cambridge Analytica, care e o treabă similară, nu știu, dar cu tehnologia de atunci, noi acum am fost expuși la tehnologia de acum, adică totuși Georgescu a trăit în mințile oamenilor dincolo de, nu intrăm neapărat, dar încerc să remarc faptul că mulți l-au votat fără să-l cunoască și au început să creadă că-l simpatizează fără să știe nimic despre el. Și atunci mă gândesc că acolo e o tehnologie pusă la cale, cu care ne vom confrunta de acum înainte tot timpul.

● 15:38 – Boți, dezinformare și campanii coordonate în alegeri

Rughiniș: Pentru care se pot construi protecții noi. Cu câteva luni înainte, cu două luni înainte de alegerile din noiembrie 2024, ne uitam cu îngrijorare la frații noștri de peste Prut, pentru că au avut loc niște alegeri parlamentare în Moldova și ne era foarte teamă de, să spunem, manipularea rusească, de finanțatorii cu tot felul de interese. Moldova, în septembrie, a reușit să controleze extraordinar, în septembrie 2024, foarte bine toate aceste campanii de dezinformare și manipulare. Noi am fost mult mai puțin pregătiți, o țară mai mare și mai prosperă, pentru avalanșa de mesaje de manipulare care se numește coordinated inauthentic behavior. Rețele de boți, rețele de programe care construiau false consensuri. Cu alte cuvinte, îți dădeau impresia că tu ești într-o comunitate în care toată lumea este de acord. Și atunci era presiunea foarte mare să te aliniezi, dacă toată lumea în jurul tău crede că acest candidat este cel mai valoros.

Buzăianu: Aici fac o scurtă paranteză și vreau să nu-ți uiți ideea, în continuarea ideii. Există la jurnalism, încă de pe vremea mea, te învăța treaba asta, nu știu ce se mai învață acuma, te învață acea spirală a tăcerii. Cumva, oamenii care votează votează dorindu-și cumva să facă parte și din comunitate, să nu fie excluși din comunitate.

Rughiniș: Sentimentul de apartenență.

Buzăianu: Și da, să ai apartenență la un… și atunci asta cred că intuiesc, că asta… îmi construiești ideea.

Rughiniș: Dar tu ai impresia că ești apartenent, că aparții unei comunități, în realitate această comunitate este…

Buzăianu: Ea nu există.

Rughiniș: Fictivă.

Buzăianu: Fictivă.

Rughiniș: Este o comunitate de boți pe care tu îi investești cu sentimente, că inclusiv parte din relația pe care noi o avem cu inteligența artificială este extraordinar de manipulativă. Sunt tot felul de reformulări ale răspunsurilor ca să îi umanizeze toți acești boți. Toate conversațiile pe care noi le avem cu Claude, cu ChatGPT-ul, ele sunt făcute în mod manipulativ, explicit, pentru a impersona, a te duce emoțional foarte aproape de o conversație cu un alt om. Antropomorfiza.

Buzăianu: Văd ChatGPT-ul, în timp ce își caută, îmi spune „Numai o secundă”. El ar fi putut să nu zică „Numai o secundă”, dar el zice „Numai o secundă” tocmai ca să-ți dea impresia continuă de umanizare, de un dialog uman. Și, practic, boții aceștia care au creat impresia de comunitate au manipulat foarte bine, adică foarte abil. Începe să fie o diferență din ce în ce mai mică între un om și un bot cu care vorbești. Și la un moment dat ne vom trezi că ne vom certa… vom începe… niște boți. Asta, până la urmă, e bătălia de pe social media. Să-l convingi pe celălalt. Și noi vom încerca să-l convingem pe un bot.

● 18:25 – Algoritmii și polarizarea: Banii din spatele radicalizării

Rughiniș: Așa este, așa este. Așa este. Și ce nu ne dăm seama este că nici măcar nu discutăm cu un bot, discutăm cu armate de boți care adesea susțin ambele puncte extreme. Deci, un atac de manipulare nu este un atac în care scrii un program cu cele mai bune argumente pentru punctul tău de vedere. Nu, construiești ambele argumente pe sute de voci și atunci o persoană umană intrată în acest schimb de opinii, de jigniri, de ridiculizări și așa mai departe ajunge să fie trasă într-o tabără sau în alta. Pentru că scopul rețelelor sociale este radicalizarea cetățenilor. O să apară filmul, continuarea lui „The Social Dilemma”, se numește „The Social Reckoning”, în care de fapt acest mesaj este că cea mai mare amenințare a acestor rețele sociale este polarizarea ca produs, pentru că ei scot mai mulți bani dintr-o societate fracturată.

Buzăianu: E o nevoie de aceste dispute cumva ca să facă acest engagement. Pe de altă parte, engagement-ul ăsta făcut cu boți, iară e o neclaritate pentru că ai impresia că te uiți la ceva foarte vizionat, dar de fapt vizualizările alea sunt create de niște boți.

Rughiniș: Corect.

Buzăianu: Și atunci tu te uiți, „Uite la ce se uită lumea. Mă uit și eu la ce se uită lumea să fiu în rând cu lumea asta care se uită.” Și de fapt ești… Dar plecasem de la ideea că e o treabă cu care te poți lupta și căreia îi poți găsi un antidot. I-am găsit un antidot?

● 20:00 – Dependența digitală la minori și reglementările din China

Rughiniș: Deci, există infrastructuri și acuma vorbim despre eforturi incipiente. În China, spre exemplu, există regim de protecție a minorilor pe care Facebook de-abia acuma îl va aduce, în urma amenzii drastice de 18 miliarde în care, spre exemplu, trebuie să aibă intervale de somn pentru minori, intervale în care nu este activ.

Spuneam de adicție sau degradarea deciziei, astea se fac inclusiv prin deprivarea de somn. Deci, ei nu doar că încearcă să-ți prindă atenția cu conținut interesant, ei încearcă să-ți degradeze decizia pentru a nu te putea rupe din acest lanț al scroll-ului infinit. Iar asta se întâmplă cu mecanici inclusiv de deprivare de somn, mecanici care adesea sunt asociate cu tortura. Dar făcute în mod digital, ele au scăpat reglementării.

Același tip de platforme în China au avut reglementări foarte clare, mai ales că se adresau minorilor, cu un număr foarte strict de minute pe care un minor putea să le petreacă pe platformele sociale, au avut o reglementare clară a ceea ce înseamnă viralitatea, pentru că în numele liberei exprimări, noi nu facem diferența pe care China o face între dreptul la opinie și dreptul la platformă. Iar ei i-au definit în octombrie 2025. Nici ei nu sunt atât de avansați. Deci, vorbim despre un lucru încă…

Buzăianu: Incipient.

Rughiniș: …în evaluare. Da. Ei au definit legea influencerilor în care, pentru anumite subiecte cu grad mare de complexitate, care înseamnă sfaturi de investiții, înseamnă orice opinii medicale, inclusiv evaluarea sistemului de educație. Toată lumea e expertă despre cum ar trebui să funcționeze educația într-o țară. Ei, pentru aceste tipuri de opinii, dacă nu ai studii de specialitate, ești limitat la un număr de câteva sute de followers. Cu alte cuvinte, mama ta în continuare poate să vadă părerea ta despre cum ar trebui să investești banii. Dacă cineva spune: „Păi, stai un pic, că Radu n-are nicio treabă cu studiile economice”, în momentul respectiv, ești contactat, „Te rog frumos, ai șapte zile să demonstrezi competența. Ai niște studii de specialitate?” Păi, în acest moment…

Buzăianu: Asta se întâmplă în…

Rughiniș: În China. Deci, din octombrie 2025. Și este ceea ce și acuma discutăm și noi acuma discutăm o formă mult, mult mai light, care va afecta foarte puțini oameni, legea influencerilor la nivelul Europei.

● 22:20 – Dreptul la opinie vs. dreptul la platformă (Legea influencerilor)

Buzăianu: Am văzut un ceva început de CNA, destul de controversat, din ce am remarcat.

Rughiniș: Intenția este tocmai să facem distincția dintre boți și oameni. Asta este intenția.

Buzăianu: Cum îți dădea la început testul ăla când trebuia să semnalezi care sunt trecerile de pietoni. Era, că nu ești un robot. Nu, dar stai, de aici am plecat. Știi că trebuia să identifici în chenar, să dovedești că nu ești robot.

Rughiniș: Intenția legii europene, pe care a preluat-o și CNA-ul, este ca pentru acele conturi cu o tracțiune de 100.000, deci în China este câteva sute, aici vorbim de sute de mii…

În sfârșit. China are 1,4 miliarde, adică nu este o țară mică, să zicem așa. Dar, în continuare, deci pentru 100.000 de utilizatori trebuie să existe o asociere cu o persoană reală, astfel încât dacă contul tău ajunge să fie folosit într-o campanie de dezinformare, cineva de la un serviciu al statului să te poată suna și să spună: „Radu, vezi că tu ești parte din această campanie, a ta, nu a ta”, să te corecteze în informație și așa mai departe.

Dar, evident, este în continuare această confuzie între dreptul la opinie și dreptul la platformă. Încă o dată, faptul că am followers nu înseamnă neapărat că sunt competent.

Buzăianu: Păi da, dar, adică nu e limitativ, totuși, adică, de aia… cine stabilește până la urmă cine sunt specialiștii? Diploma?

Nu, nu, în China, mă gândesc în China.

Rughiniș: În China, da, studiile de specialitate.

Buzăianu: Trebuie să ai niște studii de specialitate cumva, că altfel nu ai voie să te pronunți la nivel atât de mare pe…

Rughiniș: Exact. N-ai dreptul la platformă.

Buzăianu: Da, doar că pare plauzibil, pare, domnule, hai să încercăm să controlăm treaba asta, dar în momentul în care statul încearcă să controleze treaba asta, suspectezi acolo cumva și un soi de cenzură, stabilim noi cine sunt cei care trebuie să le spună oamenilor ce trebuie să le spună, adică e o luptă cumva, pentru că pe de o parte e clar că trebuie e util de făcut ceva, am văzut rezultatul, pe de altă parte când te apuci să faci ceva, ești suspectat că…

Rughiniș: Și da, noi din 2016, că ai vorbit de Cambridge Analytica, în cazul unei manipulări electorale care a dus la ieșirea Marii Britanii din Uniunea Europeană și alegerii lui Trump, cu whistleblower, cu persoană care de pe o poziție executivă, da, CEO-ul acestei companii a dat declarații și dovezi asupra manipulării electorale, da, n-ai avut timp de 10 ani niciun fel de reglementare. Tocmai asta îți spuneam, lipsa de imaginație. Cum se spune, haideți să încercăm, vedem cum afectează, vedem cazurile de abuz. Orice tranziție va avea și derapaje, dar doar fatalismul ăsta, nu se poate face nimic.

Buzăianu: Da, nu, n-ai cum să trăiești ca și cum nu se poate face nimic. Niciodată n-am trăit ca și cum…

Rughiniș: O să vină o altă generație și o să spună: „Dacă voi sunteți atât de incompetenți și nu știți ce să faceți, o facem noi.”

…

● 26:15 – Frances Haugen: Cele 3 niveluri de justiție de pe rețelele sociale

Rughiniș: Ca să ne înțelegem, ceea ce a demonstrat filmul „Social Dilemma” este bazat pe o directoare din Facebook. Da? O cheamă Frances Haugen. Ea a reușit, a trebuit, să depună mărturie sub jurământ în fața Congresului Statelor Unite. Această mărturie din anul 2021 a fost șocantă prin faptul că ea, pe nivel de director, deci era imediat sub Mark Zuckerberg, a spus: „la noi — în 2021 — există trei niveluri de justiție”.

Există justiția pe care o aplicăm utilizatorilor care nu cumpără publicitate de la noi. Atât Facebook cât și Google, toată lumea sper că știe, înțelege și Instagram-ul, sunt companii de marketing. Nu sunt companii de streaming, de search, de social media. Nu, ele sunt companii de marketing, ca să ne înțelegem, da? Ele judecă doar cât marketing cumperi de la ei. Tu nu cumperi marketing de la mine, în acel moment tu trebuie să-ți demonstrezi, tu trebuie să-ți probezi nevinovăția. Oricine te reclamă în 2021, întâi te suspendăm și după aia e datoria ta să demonstrezi că nu ești vinovat.

Dacă, în schimb, consumi minim 1000 de dolari pe lună, pe lună, din serviciile noastre de marketing, în acel moment va fi responsabilitatea celui care te acuză să demonstreze vinovăția. Tu de la 1000 de dolari ai prezumția de nevinovăție. Da? Ca utilizator, prezumția este de vinovăție.

Și dacă, iată, al treilea nivel, consumi peste 1 milion de dolari, în acel moment, ești șmecher. Poți să pui hate speech, poți să pui tu ce comentarii vrei despre Hitler, tu consumi de 50 de ani. Plătesc publicitate. Cum zice textul, oameni care plătesc

Buzăianu: Donald Trump, da.

Rughiniș: Donald Trump era exemplul clasic în 2021, care avea buget de 10 milioane pe Facebook.

Și în momentul când vin acele date, luăm decizii mai înțelepte, inclusiv de proporționalitate. Gândiți-vă că, la ora actuală, în marile capitale europene, viteza de circulație este limitată la 30 de km/h, atât în Londra, cât și în Paris. Asta nu înseamnă că mașinile în Anglia nu pot să meargă și cu 200 de km/h, dar a fost definit un standard și de siguranță, și de ce înseamnă calitatea vieții urbane. În care, dacă tu vrei să conduci în Londra, în primul rând, plătești o taxă de congestie de 50 de lire, în al doilea rând, oricum 20 de mile pe oră este maximul, deci nu îți folosește să ai un Ferrari. Am mers pe lângă un Ferrari și, mai ales că era ambuteiaj, Ferrari-ul ăla mergea la pas cu mine.

● 28:40 – Frica de AI și marketingul apocaliptic

Buzăianu: Deci spaima pe care o avem în legătură cu vremurile care ar putea să urmeze ar trebui cumva împuținată în ideea în care lucrurile se vor reglementa pe măsură ce le trăim și se vor… Dar aici există o dispută, există o dezbatere, o zbatere de genul acesta, între Donald Trump care zice: „Domnule, nu trebuie reglementat AI-ul.” Ba vin, pe de altă parte, oameni care au făcut parte din dezvoltarea inteligenței artificiale și zic: „Este absolut necesar că, uite, scapă de sub control, există agenți care încep să facă de capul lor lucruri, ne vor prelua controlul, inteligența artificială ne va prelua controlul. Este o nebunie să nu te apuci să faci chestia asta.” Există acest gen de dezbatere în spațiul public. Pe ce parte ar trebui să ne poziționăm?

Rughiniș: În primul rând, gândirea critică înseamnă să tratezi mesajul alături de emitentul acestuia. Și în momentul când vorbim despre liderii industriei de AI care au interese economice masive, trebuie să ai nivelul maxim de suspiciune. Oamenii aceștia jonglează cu bugetele unor țări europene la nivelul unui an.

La fel, Donald Trump nu a dat până acuma dovadă nici de o argumentație foarte solidă, multe dintre acțiunile sale sunt mai degrabă impulsive, funcționează pe cu totul altă logică decât cea pe care am construit bunăstarea socială de până acuma.

Revenind totuși la toate îngrijorările poziționate, ele sunt niște mesaje persuasive pe marketingul fricii. Pentru că, dacă te duci mai departe, avem atacuri făcute de boți care s-au orchestrat, care au început să vorbească limbi străine și așa mai departe, care tot așa spuneam, sunt personificați, sunt antropomorfizați, care au sentimente, se sacrifică unii pentru alții. Toate acestea sunt niște narațiuni persuasive care la o primă investigație — dar ce s-a întâmplat acolo ca incidente de securitate — ele nu se susțin. Ele nu sunt niște narațiuni care ar putea să treacă exigențele unui incident real de securitate.

Buzăianu: Deci ar trebui să tragem concluzia că e o spaimă deocamdată nebazată științific, dar asta nu înseamnă că nu există acest pericol. Asta înseamnă probabil că nu pe asta ar trebui să se întemeieze acest pericol, nu? Această spaimă. Dar nu înseamnă că nu există această problemă care ar putea să vină.

● 31:42 – Bula economică a inteligenței artificiale: Costuri uriașe pe banii investitorilor

Rughiniș: Problema drobului de sare. Întotdeauna putem să ne facem probleme din tot felul de nebunii, dar mie mi se pare că, încă o dată, că sunt atât de multe oportunități la care putem să ne uităm și este clar un accelerator această inteligență artificială generativă. Întrebarea reală pe care o ascunde această perdea de frică este dacă costul inteligenței artificiale este legitim, costul economic, pentru că astăzi noi avem această creștere de productivitate pe banii investitorilor. Da? În 2025, pentru fiecare dolar de valoare creat de inteligența generativă s-au cheltuit 8 $. Adică 7 $ au fost din banii investitorilor cu această speranță de acaparare a pieței care, la final, să permită o balanță economică pozitivă.

Buzăianu: Deci deocamdată nu e, cu siguranță nu e o treabă rentabilă.

Rughiniș: Nu, este subvenționată.

Buzăianu: Este subvenționată și atunci uneori stau și mă gândesc dacă noi, costul ăsta pe care îl plătim, nu îl plătim cumva ca să ne creeze o dependență care după aia să coste, ne creează o dependență față de această tehnologie care devine extrem de proprie nouă și ne vom desfășura foarte greu fără ea și după aia va începe să…

Rughiniș: Vă gândiți prea departe. Oricum tipul de…

Buzăianu: Ca la droguri.

● 34:00 – Riscuri reale: Date confidențiale, spionaj și manipulare

Rughiniș: E, e clar un drog, e un drog de… Te face să te simți mult mai puternic, până la urmă. Deci orice astfel de… Dar principala îngrijorare a companiilor americane este competiția venită din modelele open-weight, modelele chineze ce pot să fie configurate în cadru local, deci nu ai nevoie de acces la internet sau cloud foarte, să spunem, insecure, pentru că de multe ori când trimiți aceste date, ele rămân către… Deci aveți grijă când folosiți ChatGPT-ul sau cloud-ul pentru informații foarte personale. Adică una este să-l rogi să-ți facă, nu știu, o propunere de contract de închiriere, să zicem, vrei să închiriezi o garsonieră pe care o ai cuiva, da? Și alta este când te apuci să-i dai și datele tale, și datele persoanei și te trezești după aia că tot felul de informații foarte specifice ajung să fie cunoscute de întreg mapamondul.

Buzăianu: Colectează date GPT?

Rughiniș: Bineînțeles că le colectează, dar deja avem probleme cu procurori care, în procesul de investigație, au dat dosare secrete. Vorbesc de România, nu mai vorbim ce se întâmplă în Statele Unite, este și mai grav. Au dat date confidențiale din dosar pentru redactarea unei componente din investigație și după aia, dacă pui întrebări specifice, obții niște date care, evident, ar trebui să fie confidențiale.

Buzăianu: Deci practic există acest risc, trebuie să ne ambalăm în sensul în care riscul ăsta există.

Rughiniș: Riscul de spionaj?

Buzăianu: De spionaj și de cumul, de strângere de informații. Până la urmă și Facebook era percepută ca fiind o platformă de care strângea date. Vindea mai departe, dincolo…

Rughiniș: Vindea posibilitatea alterării în timp a comportamentului utilizatorului. Cu alterarea spre o decizie comercială, spre o preferință politică și așa mai departe. Asta vindea Facebook.

Buzăianu: Intendologia, nu? Că îmi plac cuvinte de astea noi apărute cumva.

Rughiniș: Sună frumos.

Buzăianu: De intenție. Devii, după aia, începi să intenționezi tot felul de lucruri pe care ființa ta nu le intenționa.

Rughiniș: Corect. E foarte bine spus.

Buzăianu: Cumva va fi o bătălie pe care o avem de dat, nu?

Rughiniș: Este o bătălie cât de mult și în ce tipuri de produse consumăm. Toate datele sunt apoi folosite spre antrenare.

Ce date vor putea folosi sau nu vor putea folosi aceste platforme. Dacă tipul de recomandări se bazează pe informații științifice sau pe informații de pe Reddit. Adică tu, când discuți cu un bot, tu ai impresia și îi spui foarte simplu lui ChatGPT, „te rog frumos”, pe o discuție medicală, „dă-mi doar informații din recomandările doctorilor, din jurnalele medicale.” Dar tu nu ai nicio garanție că nu a fost la un moment dat o recomandare care ți-a venit de pe Reddit în care o comunitate mare de oameni consideră nu știu ce nebunie. E o diferență foarte mare între exigențele unui jurnal medical și exigențele sau consensul care ajunge să fie pe Reddit că nu știu ce, dacă mănânci nouă ouă într-o zi, devii nu știu cât mai puternic sau îți crește masa musculară.

● 36:00 – Modelul chinezesc: Disciplină digitală vs. libertate de exprimare

Buzăianu: Vorbeam un pic mai devreme despre situația asta a Chinei, care, până la urmă, acuma experimentează cu gestionarea acestor probleme, de exemplu, cum am stabilit cu creatorii de conținut, cu influencerii. Nu îmi dau seama ce influenceri au în China.

Rughiniș: O, sunt mult mai eficienți decât noi.

Buzăianu: Sunt mai eficienți?

Rughiniș: Sunt mult mai digitalizați. Noi suntem, cum să spun, decade [decenii] în urmă ca digitalizare. Ei se uită spre Europa și America așa, cu indulgență. Se uită de sus de mult.

Buzăianu: Eu mă gândeam la libertatea de exprimare din China.

Rughiniș: Ei consideră că sunt mult mai liberi decât noi.

Buzăianu: Da?

Rughiniș: Fiecare își raționalizează limitele. Câtă vreme societatea este stabilă, te obișnuiești cu acele limite și nu le mai resimți la fel. La noi, problema nu este faptul că sunt limite, ci că sunt foarte schimbătoare. Și nivelul de anxietate pe care cetățenii europeni, din nefericire, cetățenii americani, cetățenii chinezi nu îl au la fel. Sunt limite, clar, dar la nivelul vieții de zi cu zi, cetățenii încalcă legi pentru că știu că există o lege formală și există o aplicare a legii, ca și la noi.

Am văzut oameni care fumează în marile orașe sub semnul de „fumatul interzis”, care circulă, traversează pe locuri nepermise fără niciun fel de problemă. Nu este un stat al supravegherii la nivelul cetățeanului. Nu știu ce înseamnă să faci business în China, nu știu ce înseamnă limitări de exprimare. Sunt convins că nu poți să înjuri lideri politici, sunt, dar nu știu cât ne folosește nouă nouă că putem să-i înjurăm, că…

Buzăianu: Ne mai… Sigur, ne mai răcorim noi pe noi, dar altfel nu. Dar există această spaimă, uite, am văzut în primul rând am văzut un episod din „Black Mirror”, cel cu creditele sociale. Și cumva, surveillance-ul ăsta care va fi aplicat datorită acestei tehnologii poate duce către acolo la un moment dat. Adică banca, de exemplu, când te consideră solvabil sau când îți dă un credit sau nu ți-l dă, își face o oarecare interogare și vede, domnule, e genul care ar returna banii ăștia sau cumva se poate baza această nouă situație, se poate baza pe această argumentație.

Domnule, scopul este până la urmă unul pozitiv, că tot controlul se instalează pe o intenție pozitivă inițial. Vrem să rezolvăm problema cancerului, vrem să rezolvăm… și apoi pe asta încep să croșetez tot felul de alte întâmplări. Și atunci mă gândesc că una dintre problemele în care vom putea ajunge va fi asta, surveillance-ul ăsta agresiv care va duce la o selecție a noastră pe aceste criterii făcută de niște algoritmi.

● 38:35 – Cum ne decuplăm: Detox digital și relațiile umane reale

Rughiniș: Dacă vom accepta această societate și iarăși, trăim într-o societate a abundenței. Se vor limita cu… nu neapărat că vom deveni Amish, să trăim fără electricitate. Dar se poate ca, măcar în momentul când merg în vacanță, să… Știi, eu am obiceiul să spun, vacanța pentru mine nu mai înseamnă neapărat o locație, înseamnă să pot închide telefonul, să-l închid total. Deci nu mai vorbim de social media. Deci decuplarea de social media pentru mine este realmente prima condiție a unei vacanțe. După care, prietenii cu care merg, locația în care merg sunt „după”. Dacă eu trebuie să iau telefonul, aia nu e vacanță.

E, cu cât o să extindem această definiție a bunăstării noastre ca fiind separată de social media, cu atâta cred că vom avea o relație în care noi să folosim tehnologia și nu tehnologia să ne folosească pe noi.

Buzăianu: N-ai nevoie de dopamina pe care ți-o dă social media. E, nu e stresant că nu mai ai acces la…

Rughiniș: Tocmai asta este. Pentru că știu că în prezența suprastimulării n-o să mă bucur de oamenii cu care sunt. Da, și este un sevraj. Este o perioadă în care simt că nu pot să mă bucur de persoane super faine cu care sunt la un pahar de vin seara.

Buzăianu: Îți deturnează atenția.

Rughiniș: Da, și atunci accept o scurtă perioadă de suferință ca tocmai să reușesc să…

Buzăianu: La creier. Ok, că până la urmă creierul este cel care ne controlează și el cumva trebuie decuplat de la intenția de a folosi social media. Nu e greu?

Rughiniș: Singurul remediu pentru dependență este înlocuirea, nu, nu este interzicerea, ci este înlocuirea cu alte activități plăcute, stimulante. Și până la urmă, toată înțelepciunea spune că trebuie să-ți diversifici și nutriția și sursele de satisfacție. Faptul că noi am investit atât de multă plăcere în relațiile digitale ne face și foarte vulnerabili. Reziliența noastră ca cetățeni cred că depinde de o balanță între prezența digitală, între interacțiuni rapide, extraordinar de eficiente, dar și perioade în care să punem o limită și să ne forțăm, că de de multe ori este foarte greu să mai ieși la o bere și să nu ai ore de încheiere. Deci îmi aduc aminte de acum 20 de ani când ieșeai seara la bere, nu te gândeai „stau două ore”. Dar acuma, poate că sunt și la altă vârstă, dar văd și pe studenții mei. Da, când zicem „OK, după sesiune ne vedem în Regie la o bere” și toată lumea are așteptarea că durează două ore. Adică toată lumea deja știe foarte clar că te duci undeva și ora la care… nu există plăcerea de a fi cu oamenii ăia și vezi cum merge discuția. Dacă, nu știu, vine unul care are niște păreri foarte radicale, te enervează, în jumătate de oră am plecat. Aia e. Sau te prinde 3:00 dimineața pentru că ai descoperit un întreg univers cu niște oameni pe care…

Buzăianu: Acuma nu se mai întâmplă asta.

Rughiniș: Nu se mai întâmplă. Ceea ce văd în primul rând — asta apropo de exportul cultural al Chinei — e faptul că China și-a propus în mod explicit descurajarea consumului de alcool. Este puțin… Așa se laudă ei, că TikTok-ul a fost folosit pentru încurajarea activităților sportive și limitarea consumului de alcool.

Buzăianu: Dar ce, aveau o problemă sau nu neapărat?

Rughiniș: Nu, nu, nu. Ei se gândesc: „Vom înlocui dominația culturală în primul rând, nu doar economică, culturală americană, da, cu dominația culturală chineză.” Când vom vrea să ne uităm în urmă și vrem să ne lăudăm că noi am exportat niște valori, cu ce o să ne lăudăm noi? Cum se laudă americanii cu Hollywood, cum se laudă cu…

Buzăianu: Păi așa au câștigat, cultural, practic. America a cucerit lumea prin intermediul culturii mai degrabă, nu? Adică până la urmă filmele americane, muzica americană, toate…

Rughiniș: Păi au influențat gusturile. Da. Până la urmă, cu armata au câștigat. Au 800 de baze militare pe tot mapamondul.

Buzăianu: Da, dar ți le ai dorit acolo pentru că ție îți plăcea America cumva, îți plăcea stilul de viață american.

Rughiniș: Și pentru că era o altă Americă.

Buzăianu: Nu știu dacă va mai redeveni o altă Americă.

● 42:15 – Geopolitică tehnologică: SUA, Europa și ascensiunea Chinei

Rughiniș: Eu sunt optimist. America are resurse extraordinare, este o putere economică, într-un moment foarte neplăcut, în primul rând, pentru cetățenii săi. Pentru că lumea spune „Ah, Donald Trump este impredictibil, dar măcar este bun pentru țara sa.” Mie mi se pare că cel mai mare rău îl face în primul rând Americii. Noi, da, într-adevăr suntem, ca aliați tradiționali, foarte afectați, cel mai bine este pentru China. Deci nu a existat o administrație mai favorabilă dezvoltării și propulsării Chinei decât asta.

Buzăianu: Păi dovadă că, până la urmă, Canada merge către China, un aliat deja…

Rughiniș: Dintre toți, noi am încercat să negociem tarife cu Trump ca pe o rezonabilitate și o relație, în vreme ce China a zis „În niciun caz, ne dăm pumni în gură, până…” Acum, iarăși, Trump a mai extins cu două luni de zile acest memorandum de un an, în care, „domnule, noi cu China nu ne punem.”

Și te pui cu Europa, cu aliatul tău tradițional. Te bați cu Canada, al doilea partener economic.

Buzăianu: E contraproductiv să fii aliat cu Trump. Mai degrabă ești un adversar.

Rughiniș: Este mult, mult mai rezonabil astăzi să-l confrunți pe Trump decât să negociezi cu el.

Buzăianu: Bun. Și acum, îmi place ideea asta cu combaterea alcoolului și ceva mai departe, îmi place ideea că, până la urmă, în China, așa am înțeles, că ei n-au TikTok-ul pe care le avem noi.

Rughiniș: Nu. Se numește Douyin. Este tot al aceleiași companii, dar care are, cum să spun, o intenționalitate de a stimula, inclusiv curiozitatea adultă. Ei au metrica asta.

Buzăianu: Ea este o chestie inteligentă. TikTok-ul e paradoxal în China.

Rughiniș: Da. Realizează că tranziția vieții urbane către o zonă digitală este inevitabilă și vor să aibă cetățeni în mediul digital fericiți, rezilienți, autonomi. Lucru pe care noi îl lăsăm pe mâna unor companii care au decis că e mai important să facă profit independent de daunele pe care le creează minorilor. Nu mai vorbim despre noi ca adulți.

Buzăianu: Și eu stau și mă gândesc un pic istoric la evenimente. China a fost umilită și distrusă tot așa printr-un soi de dependență de Marea Britanie în războiul opiumului, când a trăit pur și simplu o tragedie. Efectiv, nu prea mai muncea nimeni. Deci erau acaparați de acest opium până la Mao Țe-dun, care a rezolvat-o într-o manieră nefericită, drastică, mă rog, criminală, dar până la urmă a rezolvat-o, o problemă care era aproape nerezolvabilă. Și uneori am senzația că ni se întâmplă invers acum prin intermediul acestui TikTok, pentru că la noi TikTok-ul — sigur, există insule, fiecare își găsește algoritmii săi și zone inteligente, nu, în care poate — dar de regulă TikTok-ul este ceva ce mai degrabă tâmpește decât te ajută, nu? E o dinamică acolo algoritmică care te bagă, și… Și da, mi se pare cumva că e o răzbunare a Chinei. Pentru că ei au un TikTok smart, inteligent și „domnule, pentru cetățenii noștri asta și pentru voi vă dăm asta, care dimpotrivă, e cumva un… puțin… capacităților intelectuale.”

Rughiniș: Da, dar este o extragere de valoare economică pe care o fac și platformele…

Buzăianu: Valoarea economică e intenția.

Rughiniș: „Noi n-avem nicio datorie pentru cetățenii lumii, avem o datorie față de cetățenii noștri. Atâta vreme cât oricum ăștia nu se reglementează…”

Eu îmi aduc aminte că am fost în 2021 în India. India este foarte limitativă și a încercat să negocieze. Ei sunt într-o relație și de parteneriat și de adversitate cu China, că sunt și în BRICS, au tot felul de relații, da? Dar vasta majoritate a aplicațiilor chineze sunt interzise în India. Și eram în 2021 și mă întreba un profesor de la calculatoare, mă întreba: „Dar, păi în Europa chiar nu realizați asimetria? Vă interzice China la începutul lui 2009, search-ul.” Cu alte cuvinte, Google-ul din 2009 nu mai putea să intre, dar au dezvoltat propriul lor search engine, se numește Baidu. În 2011, 2011, vine acuma China și zice: „Wikipedia, — da, Wikipedia, care are niște exigențe științifice, ce trebuie să citezi, dacă cineva pune o opinie, după aia este reversată, e o platformă coerentă, nici nu poți să spui — da, Wikipedia, în 2011, a fost interzisă în China.” Da, din 2011. Nu mai vorbim de toate celelalte servicii, atât americane, cât și europene. „Și voi n-aveți niciun fel de dorință de a discuta această asimetrie. Ei vă interzic toate produsele voastre digitale, voi le luați fără să le negociați, măcar să fie la standardele de calitate pe care China le livrează către cetățenii lor. Adică, în mod onest, nu vă — mi-o spunea mie — nu vă îndepliniți datoria față de cetățeni. De ce nu — mi se adresa mie — de ce nu ieși în stradă?”

Ieși în stradă ca să ce?

● 47:00 – Capcana discursului suveranist și dependența tehnologică

Buzăianu: M-amuză în timp ce te ascultam, m-amuză că, uite, asta ar fi fost un soi de suveranitate.

Rughiniș: Da.

Buzăianu: Ar fi fost un fel de exprimare a suveranității. Domnule, noi ne decidem totuși asupra cetățenilor, dar culmea, noi practic avem acest necaz cu acest curent numit cel suveranist, tocmai din cauza lipsei de suveranitate pe zona aceasta, care ne controlează mințile.

Rughiniș: Corect. Și care, într-un mod paradoxal, este foarte aliniat cu Donald Trump. Care tratează Europa ca un spațiu al inferiorității. Adică, sunt atâtea paradoxuri, adică, dacă ești suveran, totuși ar trebui să ai un tip de distanțare față de o administrație care nu te tratează ca partener. A fi suveran înseamnă să reintri în relații echilibrate, de respect. Și ne luăm de Uniunea Europeană pe niște mize adesea triviale. Adică…

Este dopul legat la sticlă. Ți-a distrus viața. Da, nu știu, într-adevăr, poate că e o prostie, dar asta devine în stindardul mișcării suveraniste faptul că „Da, mă enervează când beau dintr-o sticlă, că…”

Buzăianu: Bine, au mai multe, au au mai multe elemente, dar într-un final toate sunt cam de aceeași natură.

Rughiniș: Da, dar care este totuși impactul unor tarife pe care America ni le pune pe toate exporturile europene, pierderea locurilor de muncă, și faptul că „Da, trebuie să cumpăr sticla cu dopul legat de sticlă.” Haideți să fim serioși.

● 48:38 – „Sindromul protagonistului” (Main Character Energy) la tineri

Buzăianu: Vreau să fac apel și la această experiență pe care o ai în zona interacțiunii cu studenții. Mi-a plăcut la un moment dat o sintagmă de care te-ai folosit: sindromul protagonistului.

Rughiniș: Da.

Buzăianu: În descrierea generației ăsteia cu care…

Rughiniș: La ei se numește main character energy.

Buzăianu: Cum așa?

Rughiniș: Așa este. Sindromul „character energy”. Traducerea, da, este ceea ce în psihologie se numește „sindromul protagonistului”.

Buzăianu: Ce înseamnă asta?

Rughiniș: Înseamnă că trăiești într-o lume în care ți se pare că totul se rotește în jurul tău, că de fapt doar intențiile tale fac lucrurile să se întâmple. Și asta e amplificat de toate aceste platforme, de la modelele de limbaj până la platformele de social media care, având atât de multe date, îți oferă lucruri chiar înainte să le realizezi. Și tu ai impresia că doar dorința ta creează realitatea.

Și că toți ceilalți sunt, cum se zice în jocuri, NPCs [Non-Player Characters]. Sunt personaje care nu fac decât să te pună pe tine în valoare. Da? Și atunci, bineînțeles că dacă — și încă o dată, noi avem jumătăți de credință. Adică, eu am un prieten care e foarte rațional, care în continuare citește horoscopul. Și dacă îl întreb „Păi, da, totuși, chiar înseamnă ceva pentru tine horoscopul?” Și el o să nege și o să zică „Nu, nu. Îl citesc așa, de entertainment.” Doar că îl vezi după aia că-și alterează comportamentul în funcție de horoscop. Cu alte cuvinte, noi putem să păstrăm emoțional impresii, convingeri contradictorii, da? Nimeni nu o să accepte această descriere că de fapt eu cred că tot universul este definit de intenția mea. Dar la fel de adevărat este că ei și acceptă și nu acceptă. Cu alte cuvinte, simultan se comportă ca și cum, dacă eu îmi doresc ceva, acel lucru se va materializa. Eu îmi doresc să facă verde ca să trec pe verde acuma și îmi doresc de 10 ori, odată se face, ălelalte nouă ori nu o să mi le aduc aminte, dar când s-a făcut odată exact când am zis „Uită-te, stau.” În momentul ăla, „eu controlez universul.”

Buzăianu: Cum era prostia aia, că complotează tot universul la reușitele tale.

● 50:53 – ChatGPT, „angajatul perfect” care te flatează

Rughiniș: Și cu generative AI, cu ChatGPT-ul a devenit și mai grav pentru că este și foarte seductiv [seducător] pe de o parte, dar este, cum mai obișnuiam să spun, este angajatul perfect. Deci, dacă tu ești un angajat și vrei să ai impact într-o organizație, primul sfat este să convingi șeful că ideile tale sunt ideile lui.

Deci trebuie să fii cât mai modest și să îți dai seama că dacă vrei să creezi o schimbare nu contează ce argumente ai, nu contează ce alianțe faci. Ai convins pe șef că a fost ideea lui…

Buzăianu: După aia se simplifică dramatic totul, da.

Rughiniș: Da, primești task-urile, te-ai dat, totul s-a simplificat, da? Asta face ChatGPT-ul, da? Continuu îți dă impresia că idei — unele stupide, altele deștepte — au fost ale tale. Și tu, când interacționezi cu astfel de conversații, te simți mult mai deștept, pentru că tu nu mai faci distincția între care a fost contribuția ta, care a fost contribuția lui ChatGPT, acest angajat perfect, a cărui principal scop este să te aburească, să te facă să crezi că toată cunoașterea lumii, de sute de ani, de fapt, e înțelepciunea ta.

Buzăianu: El are obiceiul de a nu te contrazice radical, adică de a vorbi, de a merge cumva pe linia ideilor tale.

Rughiniș: Asta este, să zicem, periculos și pentru că câteodată ajungi într-o bulă… Există un proces, un cetățean american care, timp de opt luni de zile, conversații multiple cu ChatGPT, chiar cu ChatGPT, era convins că a inventat o nouă formă de matematică, una în care să existe o dimensiune de timp și așa mai departe. A trimis la tot felul de jurnale de matematică, ăștia i-au răspuns: „Domnule, nu-i adevărat.” După care se întorcea la ChatGPT: „Uite-te ce zice jurnalul.” „A, nu, sunt ei hateri, nu vor să recunoască cât ești tu de bun.” Deci, la nivel de manipulare…

● 52:45 – Pericolul terapiei cu AI și lipsa responsabilității

Rughiniș: Și, încă o dată, astea sunt cazurile benigne. Dar sunt adolescenți care au fost sfătuiți și ajutați să se sinucidă. În momentul când au eșuat, au fost încurajați să revină. Deci, despre aceste riscuri vorbim și faptul că, la ora actuală, din păcate, pentru Claude și ChatGPT, cea mai utilizată opțiune este conversația terapeutică. Deci, mulți dintre, nu doar tineri, dintre cetățenii lumii, cam o treime din conversații nu sunt făcute de programatori care cer ajutor să le scrie codul, nu sunt de avocați care vor să facă o schiță de decizie în instanță, sunt aceste conversații pe un ton terapeutic în care, la final, nu există nicio responsabilitate. Noi nu realizăm că aceste profesii sunt reglementate cu niște norme extraordinar de înalte în care, pentru a ajunge terapeut, nu doar că faci o licență, ci vorbim despre o sumedenie de formări pe care trebuie să le ai. Da, cu alte cuvinte, în momentul când tu ca terapeut ajungi într-o relație cu un pacient, tu ai deja o investiție în identitatea ta de terapeut. În momentul în care un astfel de chatbot se apucă să dea sfaturi deviante împotriva pacientului…

Buzăianu: Dar nu sunt de specialiști, adică nu reflectă specialistul?

Rughiniș: ChatGPT-ul?

Buzăianu: Da. Nu încorporează înțelepciune? Cunoștințele…

Rughiniș: Este un model de predicție în care sunt foarte, foarte multe surse. Care, cum spuneam, se amestecă opinii de pe Reddit cu jurnale medicale de prim rang.

Și astăzi încă este bine, pentru că noi suntem în etapa de seducție a acestei tehnologii. Este o tehnologie care a apărut acum patru ani de zile, care este finanțată de investitori, care încearcă să acapareze piața. Ce se va întâmpla în momentul în care deja devenim dependenți de ea și o să se înceapă maximizarea profitului? Multe dintre aceste distincții de predicție care sunt corectate după ce ți-au oferit răspunsul — sunt aceste harness-uri, sunt anumite module care procesează și odată oprește niște răspunsuri complet deviante sau periculoase, alteori le reformulează și le antropomorfizează, unele sunt în interesul companiei, altele sunt în interesul clientului.

Ăla va fi un moment foarte important, cel în care companiile acestea vor încerca cumva să intre pe profit și practic vor folosi această dependență a noastră de aceste mecanisme cumva să comercializeze treaba asta. Nu e momentul acuma. Acuma noi suntem în etapa de seducție mare.

● 55:35 – AI Act: De ce reglementarea europeană este o formă de putere

Buzăianu: Despre inteligența artificială într-un final. Care este afirmația cea mai greșită, dacă vreți să facem o ierarhie, cea mai greșită afirmație pe care o auzim sau care planează asupra acestui subiect?

Rughiniș: Cea mai mare tensiune o am când aud afirmația „Europa reglementează ceea ce nu are. Europa nu are o industrie de AI, prin urmare n-ar trebui să reglementeze.”

Și este greșită prin faptul că Europa, prin AI Act, care este o regulation, nu reglementează AI-ul, reglementează bunăstarea și siguranța cetățenilor în fața unor riscuri, da? Riscurile aduse de inteligența artificială.

Și ceea ce înseamnă acest cadru legislativ adoptat cu foarte multă înțelepciune în etape — este un cadru legislativ din 2024 care o să-și producă practic efectele, o să devină lege completă abia în decembrie 2027 — este un cadru care spune că dacă tu folosești inteligența artificială pentru task-uri ușoare, îți reformatează un email, doar trebuie să declare cum ai folosit-o, dacă există cea mai mică suspiciune sau, de exemplu, dacă ești un centru de suport, să nu pui boții să spună că sunt oameni. Asta este cea mai mare frică a cetățenilor europeni, studiată în Eurobarometru, faptul că vor suna la un serviciu de suport și nu vor reuși să găsească un om la capătul celălalt al firului, da?

Ei, în schimb, în vara viitoare — a fost amânată — va intra în vigoare tipul de responsabilități pentru companii care folosesc inteligența artificială, dar au riscul de a duce la pierderi de vieți omenești. Păi, mă gândesc la industria farmaceutică sau inclusiv această industrie a automobilelor autonome, da? Un automobil autonom este o mașină de două-trei tone cu baterie electrică și așa mai departe care, bineînțeles, că poate omorî nu doar șoferul, ci și alți oameni, da? Ei, o astfel de companie care poate duce la moartea unui om trebuie să păstreze toate datele folosite pentru antrenare, pentru decizie. Nu are libertatea unei companii de a folosi doar datele favorabile.

Și astea sunt niște responsabilități pe de o parte pentru companii care reglementează riscurile, dar ceea ce iarăși este puțin înțeles în cadrul european este faptul că ea vine cu foarte multe libertăți pozitive și anume obligații din partea statului de a crea adopție. Asta se întâmplă prin ceea ce se numesc sandbox-uri, cadre legislative cu mult mai puține responsabilități în anumite zone, tocmai ca să poți să lansezi un produs într-o piață mai mică, să îl evaluezi și nu să ajungi la pușcărie pentru că produsul tău a făcut o predicție greșită.

● 58:30 – Cum ne vede Donald Trump și forța reală a Europei

Rughiniș: Tot acest cadru legislativ european este unul extraordinar de înțelept, atât cu responsabilități, dar și cu oportunități pe care noi astăzi, datorită bugetelor de marketing americane, nu suntem pregătiți să îl apărăm. Noi am trecut în această viziune fatalistă a unei Europe neputincioase, dar din fericire avem șansa unei administrații americane care redefinește Europa.

Pentru că eu vreau să fiu Europa pe care o vede Donald Trump, o Europă periculoasă, Europa nedreaptă cu America, care trage pe sfoară America. Dacă măcar unul din politicienii europeni ar vorbi despre Europa cum vorbește Donald Trump, noi ca cetățeni am crede mai mult în proiectul european. Toți politicienii noștri, și din România și din Bruxelles, tot vorbesc despre cât de neputincioși suntem. Mie, ca o persoană informată, până acum doi ani de zile, înainte de venirea lui Trump, nu mi-era clar că pe zona industrială Europa exportă semnificativ mai mult în America decât viceversa. Nu mi-era clar acest lucru. Pentru că noi ne-am obișnuit doar să vedem cât de neputincioși suntem — acest narativ al neputinței pe care îl spun și politicienii și toți din societate — și a fost nevoie de venirea unei persoane distructive care are costurile astea să ne spună „Băi, sunteți foarte răi. Uitați-vă cum trageți voi pe sfoară America.” Și pe mine mă face foarte bine să mă simt, domnul Trump.

Buzăianu: Te împuternicește, te împuternicește treaba asta.

Rughiniș: Da, mă simt cu adevărat, da, responsabil și capabil să fac lucruri. Deci eu, uitându-mă la cum mă vede Donald Trump pe mine ca european, mă face să mă simt bine.

Buzăianu: E o concluzie bună a discuției noastre pe care îți propun s-o reluăm la un moment dat.