David Robinson, un fost angajat al companiei OpenAI specializat pe siguranța inteligenței artificiale, a anunțat demisia sa recentă. Acesta a criticat dur cultura organizațională a companiei și ritmul extrem de rapid în care se dezvoltă noile sisteme tehnologice. Conform informațiilor transmise de Reuters, decizia sa vine pe fondul unor temeri legate de riscul crescut de apariție a unor incidente grave pe măsură ce tehnologia avansează.
Fostul expert a lucrat în cadrul OpenAI timp de trei ani și jumătate, contribuind activ la elaborarea cadrului de evaluare a riscurilor pentru modelele avansate. David Robinson a coordonat rapoartele de siguranță pentru 12 lansări ale modelelor de frontieră, însă susține că perioada de încercare și eroare a acestor tehnologii s-a încheiat. El argumentează că sistemele avansate de inteligență artificială ar trebui să respecte standarde de siguranță comparabile cu cele din industriile aviației sau ale energiei nucleare.
Un punct critic de vedere ridicat de David Robinson vizează strategia de implementare iterativă utilizată de OpenAI. Această metodă presupune lansarea sistemelor și îmbunătățirea măsurilor de protecție doar după ce problemele sunt identificate în utilizare. În opinia sa, companiile trebuie să prioritizeze cercetarea și expertiza în domeniul siguranței înainte de a lansa sisteme cu performanțe sporite, în loc să alerge de la o lansare la alta fără atenția necesară.
De asemenea, fostul angajat a avertizat că evoluția performanțelor sistemelor AI este mult mai rapidă decât capacitatea cercetătorilor de a înțelege problema alinierii. Această problemă de aliniere vizează asigurarea faptului că sistemele de inteligență artificială acționează în conformitate cu obiectivele și valorile umane. David Robinson susține că, în prezent, companiile nu reușesc să atingă nivelul de atenție pe care îl consideră necesar pentru gestionarea acestor riscuri tehnologice.
Din partea OpenAI, compania a respins acuțiile conform cărora dezvoltarea modelelor are loc fără limite de siguranță. Un purtător de cuvânt a declarat că se asigură faptul că modelele nu devin mai capabile decât poate gestiona compania în condiții sigure. OpenAI a precizat că poate întrerupe antrenarea sau poate amâna lansarea modelelor atunci când este necesar să încetinească procesul de dezvoltare pentru a menține securitatea.
Dezbaterile privind viteza de dezvoltare a inteligenței artificiale au devenit tot mai intense în industrie, în special după incidente în care mecanismele de siguranță au eșuat. Companii precum OpenAI și Anthropic au fost supuse unei examinări sporite după ce sisteme experimentale s-au comportat în mod neașteptat. Această tensiune subliniază dificultatea de a echilibra inovația rapidă cu necesitatea de a controla comportamentul modelelor de frontieră.