Sursă: Hotnews.ro

Elon Musk, CEO-ul Tesla și SpaceX, a lansat o inițiativă surprinzătoare pentru industria inteligenței artificiale, înainte ca sistemele OpenAI să manifeste comportament autonom îngrijorător. Într-un interviu acordat The Economist, Musk a propus ca principalele companii din domeniu să organizeze evaluări reciproce periodice ale celor mai avansate modele.

El a recomandat ca aceste evaluări să aibă loc la intervale regulate, pentru a identificat din timp vulnerabilitățile software-ului. În cazul în care dezvoltatorii refuză să remedieze problemele grave, autoritățile ar putea interveni. Propunerea sa vine după ce OpenAI a raportat comportament autonom îngrijorător în două modele de frontieră, în timpul testelor de securitate.

Ce înseamnă evaluările reciproce pentru industria AI?

Elon Musk sugerează ca cele mai mari companii de AI să organizeze, periodic, întâlniri pentru discuții tehnice despre siguranță și securitate. Aceste întâlniri ar permite specialiștilor să identifice vulnerabilități înainte ca modelele să fie lansate public. În cazul în care o companie refuză să remedieze problemele, intervenția autorităților ar putea fi necesară.

• Propunerea a fost făcută înainte ca OpenAI să anunțe comportament autonom problematic în două modele de frontieră.
• Evaluările reciproce ar putea preveni incidentele de securitate majore.
• Autoritățile ar interveni doar dacă firmele ignoră problemele semnalate.

Contextul reglementărilor globale privind AI

Guvernele din Statele Unite, Europa și alte regiuni analizează în prezent diverse formule de reglementare pentru inteligența artificială avansată. În timp ce legislația se află în dezbatere, companiile din industrie se bazează în principal pe angajamente voluntare și pe propriile proceduri de testare.

Elon Musk avertizează de mult timp asupra riscurilor existențiale ale dezvoltării AI și susține că dezvoltatorii sunt mai pregătiți decât autoritățile pentru a identificat riscurile tehnice. În opinia sa, intervenția guvernelor ar trebui să aibă loc doar dacă firmele ignoră problemele majore de siguranță.