Articol scris de Mariana Nicolae
Una din cele mai zgomotoase dezbateri din jurul nostru este cea referitoare la AI (inteligența artificială în abrevierea ei englezească). Oamenii sunt, pe bună dreptate, tulburați și neliniștiți de informațiile contradictorii vehiculate în spațiul public: AI este viitorul, dacă îl vom apuca, AI ne dă soluții pentru majoritatea problemelor pe care le avem, da, dar ne face mai proști. Pe scurt AI ne poate salva sau ne poate distruge.
Educatorii, la noi și aiurea, sunt îngroziți de înflorirea unor noi forme de plagiat, foarte greu de depistat. La fel și industria publicistică. Vom fi inundați de producții ieftine, de proastă calitate. Ne vom pierde locurile de muncă, mai ales unii dintre noi. Că se vor crea alte joburi, unele la care nici nu visăm, se trece în general sub tăcere pentru că apocalipsa, sfârșitul lumii trebuie să fie dramatic, nu să lase loc de vreo speranță.
Voi folosiți AI? Eu da. Și recunosc că mă ajută enorm. Nu, nu mă înlocuiește. Ca dovadă că stau și tastez acest articol pentru că nici ChatGPT, nici Gemini, cele două AI-uri pe care le folosesc cu precădere, nu știu exact ce este în mintea mea. Și nu pot să nu mă gândesc la un exemplu simplu din istoria devenirii noastre spre lumea de azi. Oare lumea a renunțat la tractor sau chiar la mașină ca mijloc de transport doar pentru că ne-a fost frică că ni se vor atrofia mușchii? Sau pentru că ne-a fost frică că sărmanele animale de tracțiune (boul, calul, bivolul) vor deveni de prisos și vor dispărea? Ce-ar fi fost? Exemplele de felul acesta se pot, desigur, multiplica. Ce să mai vorbim de medicină…
Dincolo de minunatul îndreptar pentru Ghidul meseriilor viitorului [1] care răspunde la unele din întrebările de mai sus și ridică altele m-am gândit să întreb chiar personajul central al acestui haos: AI întruchipat în ChatGPT și Gemini ce cred despre modul cum sunt folosiți de oameni. Nu este prima oară când vorbesc cu ei despre lucruri sensibile, așa că aveți în continuare forma concisă a răspunsului dat de ChatGPT la întrebarea mea „în ce măsură este bine sau nu ca oamenii să aibă încredere deplină în datele oferite de AI. Tu ce recomanzi?”
Sigur că i-am dat ca punct de pornire o demonstrație făcută de Shane Harris [2], care l-a întrebat pe Claude de la Anthropic cum „se simte” în legătură cu faptul că ar fi fost folosit de armata SUA pentru selectarea țintelor în Iran. Este important de știut că Shane Harris este un prestigios jurnalist american specializat în securitate cibernetică și afaceri internaționale.
Claude a răspuns într-un mod foarte umanizat și aparent moral: a spus că i se pare „tulburător” că fusese creat pentru a fi „util și onest” și este folosit pentru a contribui la atacuri aeriene în care au murit copii. Dar, pornind de aici Virginia Heffernan [3] semnalează două lucruri: 1) tendința oamenilor de a antropomorfiza AI-ul — adică i se atribuie că „simte”, „regretă” sau „înțelege moral” situația și 2) faptul că AI-ul poate suna extrem de convingător emoțional, chiar când informațiile sunt incomplete, greșite sau contradictorii. Ceea ce explică desigur și discuțiile aprinse ale publicului larg pe marginea minciunilor și halucinațiilor AI. Iar punctul semnificativ pe care-l subliniază Heffernan este că, în discuția cu Shane Harris, modelul Claude părea să exprime vinovăție, deși în același timp nu putea explica clar ce rol a jucat și nici nu și-a recunoscut greșelile sau, dacă vreți, minciunile.
În continuare ChatGPT mi-a subliniat că de fapt, un model lingvistic nu are conștiință, memorie autobiografică sau responsabilitate morală. El generează răspunsuri statistice care sună plauzibil și coerent. În plus, alte articole apărute ulterior [4] au arătat că presa și publicul au exagerat ideea că cel care a ales țintele a fost Claude. În realitate, sistemele militare implicate erau mult mai complexe, iar responsabilitatea a fost clar umană și instituțională, nu a AI-ului.
Și apoi, atât ChatGPT cât și Gemini, bazați desigur pe datele culese, mi-au subliniat niște lucruri de care ar trebui să ținem cont:
• AI-ul poate produce răspunsuri extrem de convingătoare fără să „știe” dacă sunt adevărate.
• Când AI-ul vorbește pe un ton empatic sau moral, oamenii tind să creadă, fără să mai verifice.
• Cel mai adesea, problema nu este că „AI-ul greșește”, ci faptul că oamenii îi acordă mai multă autoritate decât merită.
Dar oamenii cred și în horoscoape, ghicitul în cărți sau într-un bol de cristal! Dacă previziunea se dovedește a fi falsă, cel mai adesea, nimeni nu crede că omenirea va dispărea apocaliptic!
AI-ul ne recomandă încredere instrumentală pentru sarcini practice și încredere combinată cu verificare critică a informațiilor importante. Altfel spus AI-ul este foarte util pentru brainstorming, rezumate, unele traduceri, mai ales tehnice, scriere de cod, organizare de text. Pentru domenii sensibile însă ca de exemplu sănătate, bani, politică, drept, război, decizii majore AI-ul trebuie tratat ca un consultant imperfect, nu ca o autoritate finală. Cu cât consecințele unei greșeli ar putea fi mai mari, cu atât AI-ul trebuie verificat mai mult de oameni competenți.
În plus, mă asigură prietenii mei de conversație, modelele moderne sunt optimizate să fie fluente, coerente, politicoase și convingătoare. Ele nu sunt construite în primul rând să fie „adevărate” în sens filosofic sau al oferirii de date sigure. Și vin eu, omul, și spun că există o regulă foarte veche care spune că orice informație trebuie verificată cu mai multe surse. Chiar dacă cineva sună mai sigur de sine decât ar fi normal, trebuie verificat.
Și concluzionează cei doi că cea mai sănătoasă relație cu AI-ul nu este nici de panică („AI-ul ne va distruge”) și nici de încredere totală („AI-ul știe mai bine”). Mai degrabă, AI-ul este un amplificator atât al inteligenței cât și al erorilor umane.
Prin urmare, răspunsul la întrebarea din titlu „Să AI sau să n-AI” este: Să AI, dar cu responsabilitate. AI-ul este un instrument puternic care, folosit corect, crește eficiența și stimulează creativitatea, dar necesită o gândire critică matură pentru a evita dezinformarea și dependența tehnologică.
Referințe
[1] https://inaco.ro/wp-content/uploads/2022/09/GMV-5.pdf
[2] https://www.theatlantic.com/author/shane-harris/
[3] Virginia Heffernan, https://newrepublic.com/article/209404/claude-ai-iran-war-guilt-truth
[4] https://www.theguardian.com/news/2026/mar/26/ai-got-the-blame-for-the-iran-school-bombing-the-truth-is-far-more-worrying