'Oamenii nu vor dori să folosească agenți care nu sunt aliniați propriilor interese și care nu fac ceea ce le cer. Prin urmare, laboratoarele au un puternic stimulent natural să facă în așa fel încât să-și alinieze mai mult modelele' în fața cerințelor, a scris Zuckerberg pe rețeaua de socializare X.
Conceptul de 'aliniere' se referă la eforturile de a face modelele de IA să se comporte așa cum doresc oamenii. 'Orice laborator care nu se concentrează pe aliniere va rămâne în urmă', anticipează șeful companiei Meta.
Îngrijorările din jurul IA au crescut în ultimele săptămâni, după mai multe incidente de securitate și a unei noi capacități a modelelor de IA de a se perfecționa singure, fără intervenție umană.
Dezbaterea are la ora actuală în vedere și capacitatea sectorului de se auto-reglementa. Societăți precum OpenAI, Anthropic și Google studiază crearea unui organism comun de elaborare a unor standarde.
Mai mulți reprezentanți influenți din sector, conduși de directorul general al Anthropic, Dario Amodei, pledează pentru o încetinire a dezvoltării IA.
În schimb, Zuckerberg consideră că amenințarea cu acțiuni legale obligă deja laboratoarele să acționeze în mod responsabil. El dă ca exemplu în acest sens decizia Meta de a amâna cu mai multe luni lansarea sistemului său Muse AI, prevăzut cu agenți personalizați, pentru a-și consolida mai întâi măsurile de securitate și siguranță.
De asemenea, Mark Zuckerberg s-a pronunțat în favoarea evaluărilor independente ale sistemelor de IA, subliniind că Meta Superintelligence Labs, divizia de Inteligență Artificială a companiei Meta, folosește deja experți externi.
El a cerut crearea unui 'ecosistem mai vast și mai diversificat de evaluatori' pe ansamblul sectorului, o critică voalată la adresa Anthropic, companie căreia unii îi reproșează că favorizează evaluatorii cu care menține legături strânse.
Compania Meta, care anul acesta va investi până la 145 de miliarde de dolari în infrastructura sa de IA, se pronunță împotriva oricărei reglementări susceptibile să încetinească dezvoltarea domeniului. Nicio regulă nu ar trebui să întârzie lansarea modelelor americane, 'nici măcar cu o lună', a indicat deja fondatorul său la începutul lunii august.
Opinia lui Mark Zuckerberg a fost salutată de mai multe personalități din Silicon Valley apropiate Casei Albe, care contestă la rândul lor creșterea atenționărilor privind pericolele potențiale pe care le implică Inteligența Artificială și apelurile de încetinire a dezvoltării acesteia.
Regele Charles, reacție după criticile aduse de fratele prințesei Diana
O adaptare teatrală după filmul clasic ''Thelma & Louise'' are premiera la Londra
