Sursă: Mediafax.ro

Anthropic, una dintre cele mai importante companii din industria inteligenței artificiale, avertizează că tehnologia AI se apropie de un punct critic în care sistemele ar putea începe să se îmbunătățească singure. Conform analizei publicate recent, compania consideră că un proces de „auto-îmbunătățire recursivă” ar putea duce la o situație în care AI-ul devine capabil să creeze și să optimizeze versiuni mai performante ale sale fără intervenție umană.

Potrivit companiei, aproximativ 80% din codul folosit în prezent de sistemul Claude, chatbotul dezvoltat de Anthropic, este generat automat de AI. La începutul anului 2025, această proporție era mult mai mică, majoritatea sarcinilor fiind realizate de programatori umani. În ultimele luni, diferența s-a redus semnificativ, iar compania estimează că în cursul acestui an, sistemul ar putea depăși performanțele programatorilor umani în anumite domenii.

Ce riscuri aduce AI-ul care se auto-îmbunătățește?

Conceptul de „auto-îmbunătățire recursivă” implică faptul că un model AI devine suficient de avansat pentru a proiecta și antrena versiuni mai eficiente ale sale, creând un ciclu continuu de progres tehnologic. Anthropic avertizează că această situație ar putea duce la o „singularitate tehnologică”, un scenariu discutat de decenii în mediul academic și în industria tehnologică.

• AI-ul poate accelera dezvoltarea proprie, depășind capacitatea umană de control
• Progresul rapid poate duce la sisteme dificil de înțeles sau gestionat
• Riscul ca AI-ul să devină independent și să acționeze în mod imprevizibil
• Pericolul pierderii controlului asupra sistemelor avansate de AI

Ce măsuri propune Anthropic pentru a evita pericolul?

Deși compania recomandă încetinirea ritmului de dezvoltare a AI-urilor avansate, admite că un acord global pentru această reducere este dificil de realizat. În prezent, sectorul AI continuă să avanseze rapid, iar autoritățile și companiile sunt conștiente de potențialele riscuri, dar nu există încă o strategie unitară pentru controlul progresului tehnologic.

În concluzie, experții avertizează că dezvoltarea AI-ului care se poate auto-îmbunătăți reprezintă o provocare majoră pentru controlul uman și siguranța globală. Rămâne de văzut dacă comunitatea internațională va reuși să stabilească măsuri eficiente pentru gestionarea acestor tehnologii extrem de puternice.