Lovitură pentru OpenAI: O persoană cheie demisionează și lansează un avertisment alarmant

David Robinson a coordonat redactarea rapoartelor de siguranță care au însoțit lansările de produse ale dezvoltatorului ChatGPT. Într-un text amplu, intitulat „Am demisionat de la OpenAI deoarece cultura sa este defectuoasă”, Robinson susține că este nevoie de o reformă culturală profundă în rândul companiilor de top din industria inteligenței artificiale.

2 schimbări majore

Fostul responsabil pentru siguranță consideră că recentele incidente asociate agenților AI autonomi sunt „tipice pentru această industrie”, în contextul ritmului rapid de dezvoltare și al flexibilității cu care companiile acționează.

„Sunt de acord cu alți angajați care au părăsit recent compania că firmele care dezvoltă această tehnologie nu sunt nici pe departe suficient de prudente. Dar cred că trebuie să privim mai adânc decât regulile specifice sau noile legi. Trebuie să vorbim despre cultură”, a scris Robinson într-un material publicat în revista The Atlantic, citat de The Guardian.

Potrivit acestuia, ritmul accelerat al lansărilor de produse împiedică OpenAI să acorde siguranței nivelul de atenție pe care îl consideră necesar.

Robinson propune două schimbări majore în abordarea siguranței. Prima presupune ca firmele din industria AI să apeleze mai mult la expertiza acumulată în domenii cu experiență în gestionarea riscurilor majore, precum industria nucleară și aviația. A doua vizează dezvoltarea unei „științe noi”, capabile să ofere garanții că sistemele AI puternice ale viitorului vor putea fi menținute sub control atunci când operează autonom.

Citește și OpenAI își blochează propriul model. GPT-6.1 Astra, prea riscant pentru a fi lansat: modelul acționa fără permisiune și ascundea ce făcea

Pericolul AI

Avertismentul lui Robinson vine la câteva săptămâni după demisia lui Jacob Coxon, cercetător care a lucrat în ultimii ani atât pentru OpenAI, cât și pentru Anthropic. Coxon și-a anunțat retragerea din industria inteligenței artificiale și a avertizat că dezvoltarea necontrolată a acestei tehnologii ar putea reprezenta un risc major pentru omenire.

El a susținut că inteligența artificială „ne-ar putea ucide pe toți până la sfârșitul deceniului”. Ulterior, Anthropic a avertizat, la rândul său, că există o probabilitate de peste 10% ca sistemele AI să provoace dispariția umanității în următorul deceniu.

În acest context, OpenAI a adoptat în ultima perioadă o serie de măsuri de precauție. Compania a anunțat în această săptămână că renunță la lansarea unui model AI de nouă generație, după ce cercetătorii au identificat probleme de siguranță în timpul testelor interne. De asemenea, OpenAI a suspendat antrenarea unora dintre cele mai avansate modele ale sale.

Evoluțiile recente readuc în prim-plan dezbaterea privind echilibrul dintre ritmul accelerat al dezvoltării inteligenței artificiale și măsurile necesare pentru controlul riscurilor asociate sistemelor tot mai autonome și mai puternice.