Spusele și nespusele lui Rughiniș cu privire la AI
Cătălin Striblea mi-e extrem de antipatic. Răzvan Rughiniș nu mi-e nicicum, dar îi detest barba prinsă într-o codiță. Omul este extrem de knowledgeable, dar e cu pluta. Pe de altă parte, urăsc la culme podcasturile video de 2+ ore, căci aceeași informație poate fi transmisă mult mai eficient sub formă de text în loc de gargară, însă Vorbitorincii, ca și alte canale YouTube, există pentru ca posesorii lor „să mănâncă și gura lor ceva”.
15 ianuarie: Răzvan Rughiniș. Cum ne schimbă AI viața. Vom plăti ca să muncim?
Există capitole în descriere, faceți clic pe „View All” ca să vi se afișeze în dreapta.
Promo – Vom plăti ca să muncim – Modelul Coreea de Sud – Putem integra saltul tehnologic masiv fără atrocitățile unor războaie? – Peter Thiel, organizatorul Enhanced Games, o competiție cu sportivi dopați – Viziunea lui Thiel – Ipoteze și ritmul schimbării – Ce numim AI – Cum lucrează inteligența artificială – Costuri uriașe – Riscuri financiare despre care lumea nu vorbește – Primul antibiotic creat de AI – Promisiunea „inteligența artificială generală” – Brain rot și generația Z – Jucătorii americani din lumea AI – Palantir Technologies – Reglementările europene – Americanii dau tonul în Europa – Sursa progresului tehnologic este în Europa – România, lipsă de mândrie autentică – China și inteligența artificială – Riscurile AI – Reversul definiției tehnologiei: „Tehnologia poate să facă lucruri simple să pară mai complexe și utilizatorul mai prost” – Exemplul Liverpool – Societate post sărăcie – Pensionari vor mai exista? – Jurământ personal
Nu voi comenta aspectele discutate de Rughiniș; voi prezenta doar câteva observații generale cu privire la discuție, apoi voi oferi transcrierea celor câteva minute referitoare la China pe care vreau să le evidențiez aici.
Cătălin Striblea este, literalmente, un dobitoc. Este complet pe dinafară în privința AI și în multe alte privințe relevante în cadrul discuției, dar nu a catadicsit să-și facă temele, să se documenteze, să întrebe 2-3 oameni sau 2-3 chatboți. Omul ăsta a fost jalnic în această emisiune (dacă o pot numi așa).
Răzvan Rughiniș ar fi putut transmite mult mai multă informație dacă ar fi avut un alt interlocutor sau dacă ar fi genul de om care să încerce să clarifice lucrurile prin explicitare. Nu cer exhaustivitate, însă ascultătorul din mine a rămas extrem de frustrat de superficialitatea abordării temelor! Oare Buhnici l-a invitat vreodată pe Ruginiș? Cred că ar ieși ceva mai scânteietor dintr-o discuție cu un om informat.
🤖
De pildă, modele AI (LLM) mainstream sunt mult mai multe. În postarea anterioară am întrebat doar modele mai cunoscute (firește, fără Perplexity, care e specializat pe căutare, fără Lumo, care este opac în privința modelelor folosite, fără Euria, care este Qwen rulat în Elveția, fără Venice.AI, și fără altele pe care le-am menționat sau nu pe blog, însă ele există).
Ar mai fi fost multe de discutat. Modele care se pot rula local, unele și pe mașini foarte modeste, dacă vorbim de cuantizări, mai ales GGUF (de citit aici despre cuantizări GGUF vs. non-GGUF, la punctul 9). În decembrie, menționasem că Hugging Face oferea 2,334,314 modele. Astăzi, numărul lor este de 2,498,533 (cu virgulă englezească). Cât de obsedată de AI poate fi planeta asta?
S-ar mai fi cerut o discuție serioasă despre Transformers și Inference. Aici Ruginiș chiar a bătut câmpii cu „cele 3 probleme ale AI”. Recunoașterea vocală și recunoașterea de imagine sunt cu mult anterioare epocii LLM, care a fost declanșată de AI Transformers. Înainte de Transformers nu a existat AI în sensul de astăzi al termenului! (Aceștia au fost introduși în 2017 în studiul Attention is All You Need – pe arxiv.org.)
Apoi, simplificarea potrivit căreia un LLM execută predicția următorului cuvânt ori a următoarei propoziții este cel puțin nefericită. Arhitectura unui model AI de uz general este mult mai complicată.
Modele cu interacțiune bazată pe text (sau pe limbaj, în genere) includ module de NLP (Natural Language Processing) atât la intrare (encoder: „înțelegerea” textului), cât și la ieșire (decoder: „generarea cuvântului următor”), însă cum sunt ele alcătuite pentru a genera răspunsuri de o anumită complexitate?
Explicațiile astea de doi bani se aplică doar situațiilor de genul completării frazei „Câinele moare de drum lung și prostul…” prin „de grija altuia” de către un model predictiv. Însă un LLM face mult mai multe, iar modelele are afișează chain-of-thought (CoT) chiar dezvăluie iterațiile prin care trec pentru a stabili structura unui răspuns plauzibil. În primele două postări ale mele pe tema AI, fusesem impresionat de DeepSeek în modul DeepThink (R1).
Pe 1 februarie 2025 DeepThink îmi explicase cum funcționează un model rulat local, iar pe 6 februarie 2025 mă șocase CoT pentru stabilirea răspunsului la întrebarea „How was it possible for Kowloon Walled City to never have had a disastrous fire able to burn it down completely?”
Apropo, și halucinațiile ar trebui discutate mai mult. Ele sunt călcâiul lui Ahile.
De fapt, problema principală a acestor modele este că ele nu stochează informație, ci ponderi. Nu ai ciorbă, ci mirosul și gustul ciorbei, din care reconstruiești rețeta și, în cazul ideal, pregătești și ciorba cerută de client. Informația dată ca răspuns este reconstruită ca fiind cea mai plauzibilă. Dacă vrei ca un model să se bazeze pe textul exact „Capitala Franței este orașul Paris”, atunci trebuie să folosești RAG (Retrieval-Augmented Generation), iar modelul trebuie instruit să răspundă doar din documentația RAG. Și modelele de uz general trebuie forțate să caute informație pe Internet pentru date reale, dar în încercarea de a economisi energie, adesea modelele doar pretind că au accesat o anumită pagină web.
Ar mai fi de discutat modurile de optimizare: Quantization și Distillation (din aceeași postare aflați că Distillation este rezultatul muncii lui Geoffrey Hinton și motivul pentru care eu îl detest, căci distilarea crește riscul de halucinații). Iar când vedeți pe Hugging Face un model distilat (și cuantizat) cu două nume de modele LLM, ce se întâmplă e că un model mai mic, de pildă un model Qwen, a învățat să mimeze comportamentul unui model mai mare, să zicem DeepSeek. Acest model „struțo-cămilă” a fost antrenat pe răspunsurile date de modelul mai mare, și a acumulat atât „cunoaștere” (atenție, prin antrenare nu pe date reale, ci pe răspunsurile date de modelul mai mare!), cât și „personalitate” (stilul de răspuns).
Problematica acestor Large Language Models este mult mai complicată decât va reuși Striblea să înțeleagă vreodată. După cum, negreșit, viitorul este al modelelor specializate, nu al modelelor universale, mari, de uz general. Însă Rughiniș trebuie să fie întrebat de cineva mai „pe felie”.
🐼
Ce m-a lăsat însă mască este candoarea cu care Rughiniș laudă modul în care China funcționează, iar restul lumii „mai are mult până departe”! De la acest reper de timp:
Striblea: Dați-mi voie să merg și în China. Acolo — că am zis de Statele Unite, Europa și China — China e binișor pe inteligență artificială?
Rughiniș: Da, fără îndoială.
Striblea: Da? Ce, acolo a apărut la un moment dat ceva ce se chema DeepSeek și a speriat pe toată lumea. Ce face?
Rughiniș: A speriat, mai ales pentru că, și ce vorbeam de AGI, de costurile foarte reduse de antrenare și reantrenare. Ei au reușit — pe declarațiile lor, pentru că nu putem să reproducem și nici să credem complet tot ce vine din China —, la o mică, mică fracțiune din costuri, să aibă performanțe echivalente cu ChatGPT-ul. Cu 6 milioane de dolari, aici vorbim despre un ordin, două, de mărime diferență, să ofere performanțe. De aicea vine și limitarea pe care o are Google pentru căutări și lucruri de genul acesta — pentru că au folosit modelele americane ca să-și antreneze propriile modele.
Striblea: Îs buni chinezii la treaba asta?
Rughiniș: Da, sunt foarte buni. Sunt. Și nu sunt buni atâta pe aceste modele de frontieră, cum se numesc, ci mai ales pe integrarea în societate. Și asta este diferența.
Striblea: Dați-mi un exemplu.
Rughiniș: Modul cum cetățenii ajung să interacționeze cu tehnologia, și aici nu vorbim neapărat de inteligența artificială, vorbim de nivelul ridicat de digitalizarea al societății. Faptul că ai totul în telefon, da? Necesarul unui portofel este complet neclar, da? Dacă scoți bancnote fizice, lumea se uită la tine ca venind de la țară.
Totul este bazat pe platforme extraordinar de ușor accesibile. Dacă tu ești un mic antreprenor care vrea să vândă pixuri, să spunem, da, și nu știu cum, am particularizat, le fac eu un model manual și zic „aceste pixuri de mărțișor poți să le dai prietenei tale”, și la eu le cumpăr cu 1 leu și le vând cu 2 lei.
În România chestia asta nici nu vrei să-ți pui problema cum ai putea s-o faci legal, da? Ce-o să faci? Ca toată industria noastră de mărțișoare, o să îți pui taraba, dacă vine poliția, ți-o strângi rapid și fugi.
Ce se întâmplă în China?
Striblea: Ce?
Rughiniș: În China ai o platformă, da? Și îți pui CNP-ul, practic, echivalentul CNP-ului, da? Și în momentul respectiv, până la un volum al vânzărilor, ai toată contabilitatea făcută pe gratis de către stat, inclusiv impozitarea. Și în 10 minute, completându-ți datele tale personale, ai două coduri QR, două coduri care prin scanare generează o tranzacție.
Și acele două coduri QR sunt pe cele două sisteme de plată masive ale lor. Unul se numește WeChat, o aplicație care cuprinde totul, și altul este Alipay. Sunt două sisteme de plată, cum este și PayPal și așa mai departe.
Cu astea te duci la un centru de imprimare, ți le-ai imprimat — toată chestia asta se poate întâmpla în sub jumătate de oră și toată tranzacția de care vă spuneam eu cu platforma —, le pui pe niște hârtii.
O pui pe o hârtie și în momentul respectiv ai pus codul QR lângă pixurile astea și lumea ca să-ți plătească pixurile scanează codul QR. Statul își ia direct impozitarea, da? Tu ai tot felul de statistici, lucruri de genul acesta. Poți să ai un punct de desfacere, din momentul în care ți-a venit o idee de business până în momentul în care ai primul client, de sub jumătate de oră.
Striblea: Am văzut asta la pe câteva filme pe TikTok — urmăresc acolo niște cetățeni din China —, de exemplu la restaurantele astea gen fast food apare chestia asta. Deci e un cod QR, te duci cu telefonul, plata se face automat și ție îți dă…
Rughiniș: Peste tot. Și faptul că în punctele astea cum sunt street food, cum spuneți, e foarte neplăcut să lucrezi cu banii, pentru că banii au microbi și alte lucruri de genul acesta. Toată lumea este doar digital, deci în momentul când ai scanat este un sunet că tranzacția a fost validată.
Am avut inclusiv situația neplăcută când o tranzacție n-a fost validată.
Striblea: Așa.
Rughiniș: Și experiența mea de serviciu de suport în platformele americane — am avut conturi și de Twitter și de Facebook suspendate, a fost un coșmar ca să le repornesc, da? —, e, când tranzacția… și arătam comerciantei — o femeie care nu vorbea nici o limbă internațională —, îi arătam: „Dom’ne, banii au fost luați, au plecat de la mine.”
Ea îmi spunea: „Băi, la mine n-au venit.”
Mie, cum să spun, mi s-a ridicat pulsul, eram, anticipam un conflict și mă gândeam, asta este, mai plătesc o dată. Deci cam la asta era.
Și ea zice: „Nu, nu, nu, nu.” Din aplicație, da, pe telefonul meu, apasă un buton, se generează un alt cod QR, ea scanează contul meu — el, în mod normal, de fapt banii trebuiau să fie tranzacționați printr-o bancă — ei, și pur și simplu se închide tranzacția la nivel de 5 secunde.
Deci nu a existat un tichet, o excepție, o arbitrare. Totul se întâmplă…
Striblea: Deci sunt foarte buni la chestiunea asta. Bun. Cel puțin în marile orașe. Bănuiesc că acolo la sat, la țară, or fi și alte probleme. Dar probabil că se mișcă foarte repede.
De-aia n-are ursul coadă.
🇩🇪
COMPLETARE: În Germania, băncile oferă un Girocard care nu funcționează online, iar la POS fizice și ATM, doar în Germania. Pe unele scrie V Pay, pe altele scrie Maestro, deși Maestro nu mai există nicăieri. Dacă vrei card adevărat, nimeni nu dă VISA decât scump sau sub forma de prepaid pe care te chinui să-l încarci. Mastercard Debit mai există; Mastercard Credit e foarte scump.
VISA și Mastercard NU sunt văzute în aplicațiile bancare ale băncilor germane, care gestionează doar contul și cardurile de tip Girocard. Tranzacțiile făcute cu „cardurile adevărate” sunt văzute, dar nu și cardurile!
La nivelul serviciilor bancare, Germania stă mai prost decât stătea România acum 20 de ani. China e la ani-lumină distanță!
Răzvan Rughiniș se întoarce! Cum ne manipulează creatorii Inteligenței Artificiale (49:52)
Citate:
● La un moment dat a fost un scandal cu Uber care vindea traseele oamenilor care mergeau la clinicile de oncologie către firme de medicamente ca să știe cine are cancer. Sunt lucruri care pe teritoriul Europei nu se întâmplă și care în America sunt considerate un business foarte profitabil.
● Nu cred că această adopție necritică a tehnologiei va continua. Un exemplu este Danemarca care, în 2005, a introdus tablete, în gimnaziu și în învățământul primar, principiul fiind că sunt mai ușor de actualizat și au conținut interactiv pentru copii. Astăzi au fost retrase din școli pentru că după studii de 20 de ani au ajuns la concluzia că aptitudinile cognitive esențiale nu se formează în această interacțiune cu o tabletă, așa cum se întâmplă în cazul scrisului. Scrisul este un antrenament pentru gândire și creează o dezvoltare cognitivă pe care mediul digital nu o oferă. Pe măsură ce lucrurile evoluează și pericolele sunt conștientizate, societățile reacționează, iau măsuri.
● Cât de ușor este să manipulezi cu această inteligență artificială. Cât de asimetrică este lupta. Pentru că acea IA nu este doar capabilă să creeze pe bandă rulantă mesaje, ci le particularizează pe vulnerabilitățile tale umane. Reușește să descopere lucruri foarte intime pe care adesea nu le știi tu despre tine.
● În 2016 au existat două evenimente importante: Brexit-ul și prima alegere a lui Donald Trump. Ambele au un sâmbure comun: Cambridge Analytica. Ambele au fost instrumentalizate de la colectarea datelor de pe Facebook.
● Pentru cultura asiatică, toată această obsesie pe care noi o avem, de tip masochist o consideră, de cum omenirea va suferi din aceste derapaje ale tehnologiei și care justifică eroismul la final de dominație și triumful umanității. Ei nu consideră că umanitatea trebuie să fie validată de această suferință artificială, ci mai ales modul de prezentare, estetica pe care o are Orientul… A fost cancelarul Germaniei în urmă cu o lună în vizită în China. Și a devenit virală această vizită pentru că au fost multe spectacole cu roboți umanoizi. Toate aceste reprezentări sunt reprezentări ale unor oameni dansând, colaborând cu roboții. Niciodată în Orient nu o să vedeți, cum vedem noi filmări de la Boston Dynamics, roboți singuri. Este greu să înțelegi în Occident că robotul acela o să te ajute să-ți faci slujba mai bine, când noi tot timpul, singurul context când apare un om, apare ca să incomodeze robotul, ca să arate că robotul este resilient, rezistă, inclusiv când omul este rău intenționat. În vreme ce estetica și toată prezentarea tehnologiei — am fost la muzee de știință acum o lună de zile în Asia — este una în narațiuni de cooperare. Din cauza aceasta, imaginarul a 80% din planetă — pentru că America plus Europa uităm, reprezintă o mică bucățică, dar avem această estetică în care omul se validează mai ales prin înfrângerea tehnologiei care derapează, un lucru neîmpărtășit…
● Alegerea cea mai păcătoasă care ne e prezentată e alegerea între a ne sacrifica din drepturi individuale, din drepturi ale minorilor, astăzi, ca să putem să antrenăm aceste modele, pentru că altfel China va câștiga cursa AI, și noi condamnăm generațiile următoare la un tip de sclavagism, dacă vreți, modern, față de aceste interese culturale. Aceasta este o privire foarte reducționistă. Sunt multe alte variante intermediare pe care cred că trebuie să le construim cu toții între aceste compromisuri pe care le facem și tipul de societate pe care ne-o dorim, tipurile de protecție pe care putem să le avem în fața tehnologiei chineze, pentru că noi credem că panaceul pentru această dominație chineză o să fie tehnologia americană — astăzi nu este clar.
Pentru că tipul de responsabilitate pe care o are China față de propriii cetățeni, față de spațiile în care este dominantă, este mult mai mare această responsabilitate decât responsabilitatea pe care o au companiile americane.
● China pornește mai ales de la limitarea pentru minori a accesului la social media (ai 45 de minute), tipul de algoritm (echivalentul TikTok-ului în interiorul Chinei este foarte diferit, pentru că este orientat spre stimularea cunoașterii, a oferirii unui tip de răspunsuri, nu doar conținut superficial).
TikTok-ul din China este complet diferit. Deci dacă ajungi pe anumite subiecte complexe, cum ar fi: sfaturi medicale, sfaturi despre educație, sfaturi despre investiții, în acel moment, tu ești un influencer și ți-ai făcut o identitate din a-ți da cu părerea despre bursă, dacă nu poți proba pe baza unor studii superioare de specialitate, ești limitat la câteva sute de subscribers. Este un lucru pe care noi nu ni-l imaginăm. Noi avem persoane de 15 ani care ne povestesc despre cum ar trebui să arate sistemul de educație din România, avem persoane de 20 de ani care dau sfaturi despre criptomonede și despre investiții, avem persoane din mediul rural care ne spun cum ar trebui guvernat sistemul medical național, toate acestea având un impact social la nivelul milioanelor de utilizatori. Iar apoi ne mirăm că nu avem o coeziune socială, că avem o degradare a expertizei, avem un nivel de dezinformare fără precedent, și cel mai rău lucru pe care-l facem este să acuzăm alegătorii care ajung la urna de vot cu niște impresii foarte, foarte diferite de realitatea acestei țări, și oamenii care, bombardați cu astfel de mesaje, ajung să fie decuplați de realitate.
Mă opresc aici pentru a prezenta o serie de opinii și concluzii:
① Răzvan Rughiniș este, ca majoritatea românilor care nu au trecut prin disciplina Debates în liceu, incoerent. Deși este profesor, ba chiar de Computer Science, este incapabil să deschidă multiple nested brackets sau nested parentheses pe care să le mai și închidă pe toate. Firește, ideile se înțeleg, dar transcrierea rezultă într-o serie de anacoluturi și idei neterminate. Rușine, bre!
② În plus, Gabriel Bejan, idiotul de la HotNews, intervine în cel mai inoportun și neinspirat mod cu putință. Oricum, individul se crede mare sculă. Depinde la ce sculă ne gândim.
③ Deși Rughiniș are în mare parte dreptate comparând abordarea mai responsabilă a Chinei față de cea americană, domnia-sa uită un lucru. În China, orice postare pe o rețea socială, ca și orice postare pe o aplicație de mesagerie, necesită cunoașterea exactă a identității autorului. Nu de alta, dar nu ai vrea ca, dacă ai „călcat pe bec” în mod repetat, să ai scorul social scăzut!
Apoi, dacă influencers care dezbat teme complexe fără a avea calificarea necesară au numărul de urmăritori limitat (restul trebuie să-i viziteze manual), în timp ce influențărițele care vând (în direct!) pantofi sau ojă nu au nici o limitare, aceasta se întâmplă pentru că aceste rețele sociale sunt cenzurate! Există o armată de cenzori care evaluează în mod real „atmosfera” din rețea, care pot șterge contribuții, care pot „reclasifica” sau limita conturi ș.a.m.d. Asta e menită să împiedice apariția de curente de masă (isterizate sau amplificate de natura sau algoritmul unei rețele sociale) pe teme sensibile, iar în același timp servesc și la limitarea „reach”-ului unor puțoi sau peizani care dau sfaturi în domenii pe care nu le stăpânesc.
④ Să nu blamăm alegătorul, ci doar rețeaua? Sunt complet în dezacord cu dom’ profesor. Firește, este de dorit să limităm capacitatea rețelelor de a crea dezinformare în masă. Însă teoria „democrației occidentale” este că responsabilitatea individuală primează.
Doar „comuniștii”, atât cei pe filieră sovietică, cât și chinezii capitaliști de astăzi, au plecat și pleacă de la ideea că „masele sunt inculte sau nu au nivelul politico-ideologic necesar pentru a interpreta unele teme complexe, de aceea trebuie să cenzurăm, tovarăși!”.
În mod ironic, în China această cenzură servește doar „armonia socială” și „ordinea publică”, căci acolo, informat sau dezinformat, nimeni nu ajunge la urna de vot! Acolo, pentru absolut toate funcțiile publice, alegerea se face în Partid și de către eșalonul corespunzător din Partid. Ca simplu membru de partid s-ar putea să ai un vot de dat pentru o funcție absolut nesemnificativă, dar primarul orașului tău este desemnat la un nivel mult mai înalt. Urcarea în ierarhia de partid fiind lentă și selectivă, rezultatul este că 91.3% din chinezii adulți nu votează niciodată, la nici un nivel! (Doar circa 8.7% din chinezii adulți sunt membri de partid.)
În ultimii ani am ajun și eu să cred că „votul universal” a ajuns să reprezinte „dictatura proștilor”, căci populația imbecilizată „pune botul” la toate dezinformările, iar rezultatul oricăror alegeri este catastrofal. Aici contribuie trei factori: 1. Candidații de pe buletinele de vot nu trec prin nici un filtru. 2. Alegătorii nu trec prin nici un filtru. 3. Dezinformarea de pe rețelele sociale e masivă.
⑤ All things considered, Răzvan Rughiniș este „vândut” Chinei, iar aceasta nu este o alegere pragmatică. Pur și simplu omul a fost vrăjit de narativul chinezesc! Observați cum adesea menționează „estetica Orientului” sau „cultura asiatică”, când de fapt se referă la un „mindset chinezesc”, oficial sau real.