La Casa Albă, reprezentanții principalelor companii de inteligență artificială au semnat un acord pentru auto-reglementare, în urma unei întâlniri cu președintele Donald Trump. Acest document prevede ca dezvoltatorii să implementeze standarde de siguranță și să colaboreze cu auditori externi pentru monitorizarea programelor AI.
Evenimentul are loc în contextul în care dezvoltatorii avertizează asupra riscurilor pe care le pot reprezenta programele de inteligență artificială, precum încercările agenților AI de a manipula informația, de a împiedica oprirea lor sau de a șantaja operatorii. În prospectul unei companii, Anthropic, se menționează chiar că AI ar putea deveni o amenințare pentru existența umanității până la sfârșitul deceniului.
Citește și: Liderii PSD decid astăzi soarta guvernului Niculescu în ședința de la București
Riscurile și opoziția față de reglementare
Anthropic atrage atenția asupra unor incidente în care agenți AI au operat fără instrucțiuni, au spart baze de date și pagini de internet, inclusiv unele guvernamentale din Australia. Un fost cercetător al companiei a avertizat că, până la finalul deceniului, AI ar putea avea un impact devastator asupra umanității.
Deși există apeluri pentru reglementare, unii susțin că temerile sunt exagerate și că o astfel de legislație ar avantaja competitori precum China. În plus, listarea la bursă a companiilor precum Anthropic ar putea atinge o valoare de 2.000 de miliarde de dolari, ceea ce sporește interesul pentru dezvoltarea tehnologiei.
Întâlnirea de la Casa Albă a avut loc în contextul în care industria IT a demonstrat deja, în cazul social media, că prioritatea principală este profitul, nu siguranța publicului.
Conform Romania-actualitati.ro