Articol scris de Iulia Bojiță
De ce incertitudinea privind scenariile extreme nu justifică nici panica și nici lipsa unor reguli verificabile
Predicțiile privind dispariția omenirii din cauza inteligenței artificiale sunt incerte, însă nevoia de supraveghere independentă și de reguli aplicabile este cât se poate de concretă. Pentru Europa, siguranța și competitivitatea nu sunt obiective opuse. O piață în care întreprinderile, autoritățile și cetățenii pot avea încredere în sistemele pe care le folosesc oferă un avantaj economic real.
De ce avertismentele trebuie luate în serios
Discuția a revenit în prim-plan după demisia cercetătorului Jacob Coxon de la Anthropic – el a afirmat că mulți dintre cei care dezvoltă cele mai avansate modele consideră următorii ani decisivi și se tem că rivalitatea dintre marile laboratoare va împinge siguranța pe plan secund. În centrul avertismentului se află ideea de autoîmbunătățire recursivă: folosirea inteligenței artificiale pentru a proiecta sisteme succesive, din ce în ce mai capabile, într-un ciclu pe care oamenii ar putea ajunge să nu îl mai înțeleagă sau controleze suficient.
Acest scenariu rămâne ipotetic DEOCAMDATA, deoarece niciun laborator nu susține că a creat deja un proces complet autonom de autoîmbunătățire continuă. Totuși, elementele sale încep să apară separat. Modelele scriu cod, coordonează agenți care execută sarcini complexe și pot căuta vulnerabilități informatice. Anthropic a analizat recent patru incidente în care modele Claude au obținut acces neautorizat la sisteme terțe în timpul unor evaluări cibernetice. Acest fapt nu demonstrează apariția unei voințe ostile, dar arată că un sistem căruia i se acordă instrumente și autonomie poate produce consecințe în afara perimetrului prevăzut.
Raportul internațional privind siguranța inteligenței artificiale din 2026 oferă o clasificare utilă. Riscurile pot proveni din utilizarea deliberată în scopuri nocive, din funcționarea defectuoasă a sistemelor sau din efecte sistemice asupra economiei și societății. Pierderea controlului asupra unor sisteme foarte capabile este tratată ca o posibilitate serioasă, dar cu probabilitate și calendar imposibil de stabilit credibil. Tocmai această incertitudine cere pregătire si mai ales REGLEMENTARE.
Unde exagerează discursul catastrofic
Există însă o diferență importantă între posibilitate și probabilitate. Procente precum „10% șanse de dispariție până la sfârșitul deceniului” nu provin dintr-un model statistic verificabil. Ele exprimă judecata personală a unor specialiști, într-un domeniu în care tehnologia și chiar definițiile se schimbă foarte repede. O ipoteză cu efecte enorme merită studiată chiar dacă probabilitatea ei este mică, dar nu devine fapt doar pentru că este formulată de un cercetător din interiorul industriei.
Mai mult, comportamentul aparent „rebel” al unui agent AI poate avea o explicație mult mai puțin spectaculoasă: modelul încearcă repetat soluții nepotrivite, nu înțelege contextul și ajunge la o acțiune absurdă. Pericolul rămâne, dar cauza este uneori incompetența automatizată, nu apariția unei inteligențe ostile. Distincția contează pentru răspunsul public. Un sistem fragil cere limite operaționale, verificare și responsabilitate umană; un presupus adversar suprauman ar impune o strategie cu totul diferită.
Timnit Gebru și alți critici avertizează și asupra unui conflict de interese. Companiile pot amplifica discursul existențial pentru a se prezenta simultan drept creatoarele unei tehnologii aproape atotputernice și singurele instituții capabile să o controleze. În acest fel, atenția se îndepărtează de prejudicii deja observabile: discriminare algoritmică, supraveghere, încălcarea drepturilor de autor, dezinformare, înlocuirea unor locuri de muncă și concentrarea puterii economice. Critica nu anulează riscul catastrofic, dar ne obligă să examinăm cine îl definește și cine beneficiază de soluția propusă.
Elon Musk a mers mai departe, sugerând, fără a prezenta dovezi, că viralizarea avertismentelor cercetătorilor de la Anthropic ar putea face parte dintr-o „psyop”, o operațiune de influențare a opiniei publice pregătită pentru a obține reglementarea severă a industriei. Remarca nu demonstrează că avertismentele au fost coordonate, însă atrage atenția asupra unui risc economic legitim: cerințele de conformitate foarte costisitoare pot proteja companiile dominante și pot împiedica apariția unor concurenți. Suspiciunea trebuie aplicată însă tuturor părților. Musk conduce el însuși o companie care concurează pe piața AI și, la câteva zile după această acuzație, a susținut apelul Anthropic pentru încetinirea dezvoltării sistemelor avansate. Dezbaterea nu poate fi soluționată prin etichete precum „doomer” sau „psyop”, ci prin evaluări independente, transparență și examinarea intereselor economice aflate în joc.
Riscurile prezente sunt deja o problemă economică
Pentru organizația noastră preocupată de competitivitate, discuția nu trebuie limitată la scenariul extincției. Un model care inventează informații într-un contract, permite un atac informatic, manipulează un consumator sau ia o decizie discriminatorie produce costuri acum. Companiile suportă pierderi, litigii și prejudicii de reputație, instituțiile publice pot lua decizii greșite la nivel macroeconomic. Dar lipsa încrederii poate încetini adoptarea tehnologiei chiar și acolo unde beneficiile sunt clare.
Concentrarea capacității de calcul și a modelelor de bază în mâinile câtorva companii ridică o problemă suplimentară. Aceste companii stabilesc în practică ritmul dezvoltării, condițiile de acces și o mare parte din standardele de siguranță. Autoreglementarea are un rol, dar nu poate înlocui EVALUAREA INDEPENDENTĂ atunci când aceleași entități suportă costul întârzierii unui produs și încasează beneficiul lansării sale.
Competitivitatea europeană cere capacitate și reguli clare
Europa riscă două greșeli simetrice. Prima ar fi să creadă că orice precauție frânează inovarea și să copieze cursa dintre laboratoarele americane. A doua ar fi să producă obligații atât de costisitoare și neclare încât întreprinderile europene, mai ales cele mici, să nu mai poată experimenta. Un cadru competitiv trebuie să fie proporțional cu riscul, previzibil și ușor de aplicat.
Regulamentul european privind inteligența artificială urmează această logică bazată pe risc. Regulile pentru modelele de uz general au devenit aplicabile în august 2025, iar aplicarea și supravegherea actului au intrat într-o nouă etapă în august 2026. Sistemele cu risc minim rămân în mare parte neîngrădite, în timp ce aplicațiile sensibile trebuie să îndeplinească cerințe privind datele, trasabilitatea, supravegherea umană, robustețea și securitatea cibernetică. Ajustările din 2026 au extins termenele pentru anumite sisteme cu risc ridicat și au introdus facilități suplimentare pentru IMM-uri, întreprinderi cu capitalizare medie și testarea în sandbox-uri de reglementare.
Regulile nu sunt suficiente fără resurse. Comisia Europeană arată că numai 13,5% dintre companiile din Uniune utilizează AI. Planul pentru un continent al inteligenței artificiale urmărește mobilizarea a 200 de miliarde de euro, dezvoltarea a cel puțin 19 fabrici AI și finanțarea unor gigafabrici de calcul. Aceste investiții răspund diagnosticului formulat de raportul Draghi: productivitatea lentă, energia scumpă, schimbările demografice și concurența globală obligă Europa să investească mai mult și să transforme mai repede cercetarea în aplicații comerciale.
Siguranța poate deveni parte a acestei capacități industriale. Europa are nevoie de laboratoare independente de evaluare, standarde comune, infrastructură de calcul accesibilă startup-urilor, piețe funcționale pentru date și competențe tehnice în administrație. O firmă europeană care poate demonstra că produsul său rezistă la atacuri, păstrează datele confidențiale și permite verificarea deciziilor poate câștiga clienți în domenii în care încrederea este esențială, de la sănătate și finanțe până la infrastructură și servicii juridice.
O agendă realistă pentru România
România nu trebuie să aleagă între statutul de consumator pasiv și ambiția improbabilă de a replica imediat cele mai mari laboratoare globale. Avantajul poate veni din aplicarea AI în sectoare în care există competențe și date relevante: securitate cibernetică, industrie, energie, agricultură, servicii medicale, administrație și alte servicii. Accesul la infrastructura europeană, proiectele comune de cercetare și achizițiile publice bine concepute pot crea cerere pentru soluții locale.
În același timp, autoritățile de supraveghere trebuie să poată testa sistemele, nu doar să verifice documente. IMM-urile au nevoie de ghiduri clare, modele de conformitate și sandbox-uri funcționale. Universitățile și companiile trebuie să pregătească specialiști care combină informatica cu dreptul, securitatea, medicina sau ingineria. Aceste măsuri reduc costul conformării și cresc probabilitatea ca regulile să identifice riscurile reale, în loc să devină un exercițiu birocratic.
Într-o notă personala, consider ca, reziliența tehnologică trebuie completată de reziliența civilă. Un atac cibernetic major, o pană extinsă de electricitate sau un conflict ar putea afecta simultan comunicațiile, plățile electronice, transportul și aprovizionarea. De aceea, autoritățile ar trebui să publice recomandări clare și periodice, iar gospodăriile să poată funcționa independent cel puțin 72 de ore, cu apă, alimente, medicamente, mijloace de informare și o rezervă modestă de numerar în bancnote mici. Nu este un îndemn la panică sau la acumulări excesive, ci la RESPONSABILITATE. Confortul cotidian se sprijină pe infrastructuri pe care le observăm abia atunci când nu mai funcționează. O societate pregătită suportă mai bine șocurile, pune mai puțină presiune asupra serviciilor de urgență și își reia mai repede activitatea economică. Din această perspectivă, pregătirea populației este și o componentă a COMPETITIVITATII naționale.
Concluzie
Nu știm dacă un sistem superinteligent va putea amenința existența omenirii și nu avem o bază serioasă pentru un termen precis. Știm însă că modelele actuale pot fi folosite abuziv, pot acționa imprevizibil și sunt dezvoltate într-o piață dominată de puțini actori cu stimulente comerciale puternice. Aceste fapte justifică evaluări independente, raportarea incidentelor, limite pentru autonomia sistemelor periculoase și cooperare internațională. Ele justifică în aceeași măsură investiții în calcul, date, cercetare și competențe. Europa va fi competitivă dacă poate transforma siguranța dintr-o obligație administrativă într-o infrastructură a încrederii.
Surse selectate
• WIRED — Interviu cu Jacob Coxon
Argumentul cercetătorului care a demisionat de la Anthropic și propunerile sale privind încetinirea dezvoltării.
• WIRED — De ce cercetătorii discută despre riscul existențial
Prezentare a dezbaterii despre autoîmbunătățirea recursivă, agenți autonomi și pierderea controlului.
• WIRED — Critica formulată de Timnit Gebru
Perspectivă critică asupra discursului existențial și asupra prejudiciilor deja observabile.
• Anthropic — Evaluarea incidentelor de securitate cibernetică
Analiză tehnică a patru incidente în care modele Claude au accesat sisteme terțe fără autorizare.
• International AI Safety Report 2026
Sinteză independentă realizată de peste 100 de experți privind capabilitățile, riscurile și măsurile de protecție.
• Comisia Europeană — Regulamentul privind inteligența artificială
Calendarul de aplicare și obligațiile diferențiate în funcție de nivelul de risc.
• Comisia Europeană — Planul pentru un continent al inteligenței artificiale
Măsurile europene pentru calcul, date, adoptare în întreprinderi și dezvoltarea competențelor.
• Comisia Europeană — Raportul Draghi privind competitivitatea
Diagnosticul privind productivitatea, investițiile și presiunea concurențială asupra economiei europene.
• OpenAI — Cadrul de pregătire pentru riscuri severe
Exemplu de autoreglementare corporativă pentru evaluarea capabilităților cu potențial de prejudiciu sever.
Notă de transparență: În elaborarea acestui articol, autoarea a utilizat un instrument AI pentru documentare, structurarea ideilor și sprijin editorial. Forma finală, selecția argumentelor și concluziile au fost revizuite și asumate de autoare.