Anthropic, compania care dezvoltă chatbotul Claude, a publicat recent o analiză amplă, citată de Il Post, în care descrie ceea ce consideră a fi unul dintre cele mai importante riscuri ale următorilor ani: apariția unui proces de „auto-îmbunătățire recursivă”, în care o inteligență artificială devine suficient de performantă încât să poată crea și optimiza singură versiunile sale viitoare.
Claude scrie deja cea mai mare parte a codului companiei
Potrivit Anthropic, aproximativ 80% din codul utilizat în prezent de companie este generat de propriul chatbot, Claude. Situația s-a schimbat radical într-un interval foarte scurt: la începutul anului 2025, doar o mică parte din cod era produsă automat, majoritatea sarcinilor fiind realizate de programatori umani.
Claude, model de inteligenta artoficială Anthropic. Sursa foto: X/Claude
Compania afirmă că nu doar cantitatea de cod generat a crescut spectaculos, ci și calitatea acestuia. Dacă la sfârșitul anului trecut codul produs de AI era inferior celui scris de dezvoltatori, astăzi diferențele sunt minime, iar Anthropic estimează că sistemul ar putea depăși performanțele umane chiar în cursul acestui an. În paralel, Claude este folosit și în activități de cercetare. Anthropic susține că a realizat deja proiecte de cercetare conduse aproape integral de agenți AI, care au obținut rezultate mai bune decât echipele umane, chiar dacă au necesitat mai mult timp de procesare.
De la asistent digital la sistem care se dezvoltă singur
Conceptul care îngrijorează cel mai mult compania este cel de „auto-îmbunătățire recursivă”. În acest scenariu, un model AI devine suficient de avansat pentru a proiecta și antrena singur versiuni mai performante ale sale, declanșând un ciclu continuu de progres tehnologic.
Ideea este apropiată de conceptul de „singularitate tehnologică”, discutat de decenii în mediul academic și în industria tehnologică. Teoria presupune că, odată ce o inteligență artificială își poate accelera singură dezvoltarea. Astfel, ritmul progresului ar putea depăși capacitatea oamenilor de a înțelege sau controla sistemele create. Anthropic nu afirmă că acest scenariu este inevitabil, însă consideră că nu mai poate fi tratat ca o simplă ipoteză science-fiction.
Trei scenarii pentru viitorul inteligenței artificiale
Compania descrie trei posibile direcții de evoluție. Primul scenariu presupune încetinirea naturală a progresului tehnologic, din cauza limitărilor hardware sau a dificultăților inerente modelelor actuale de AI. Este însă varianta considerată cea mai puțin probabilă. Al doilea scenariu, văzut drept cel mai realist, prevede apariția unor sisteme extrem de eficiente care vor transforma radical economia. Grupuri mici de oameni ar putea realiza munca unor organizații de zeci de mii de angajați, folosind agenți AI autonomi. În acest caz, oamenii rămân relevanți, dar lucrează într-o colaborare strânsă cu inteligența artificială.
Agent AI Claude, Anthropic. Sursa foto: Youtube
Al treilea scenariu este și cel mai controversat. Potrivit Anthropic, dezvoltarea accelerată a AI ar putea reduce semnificativ rolul economic al oamenilor, într-o lume în care munca umană nu mai este competitivă în raport cu sistemele automate.
De ce nu se va opri cursa AI
Deși cere mai multă prudență, Anthropic recunoaște că un acord global pentru încetinirea dezvoltării inteligenței artificiale este improbabil. Companiile tehnologice se află într-o competiție intensă, iar state precum SUA și China consideră AI o tehnologie strategică pentru securitatea națională. În aceste condiții, orice actor care ar încetini voluntar dezvoltarea riscă să fie depășit de concurență. Paradoxal, Anthropic argumentează că tocmai reputația sa de companie preocupată de siguranță o obligă să continue investițiile și dezvoltarea. În viziunea sa, dacă organizațiile considerate mai prudente ar încetini, avantajul ar putea fi preluat de actori mai puțin preocupați de riscurile asociate inteligenței artificiale.
The post AI-ul care își scrie singur codul. Anthropic spune că tehnologia ar putea scăpa de sub control first appeared on Nexta.ro.
MAI MULT NEXTA.RO