Înaltul comisar al ONU pentru drepturile omului, Volker Turk, a avertizat în cadrul deschiderii celei de-a 63-a sesiuni a Consiliului ONU pentru Drepturile Omului de la Geneva, că inteligența artificială avansată poate deveni o amenințare majoră. Oficialul a subliniat că dezvoltarea rapidă a tehnologiei necesită stabilirea unor reguli internaționale de control și securitate pentru a preveni riscurile care apar în prezent. Această situație este considerată de către autorități drept un risc existențial pentru întreaga omenire.
Problema centrală identificată de Volker Turk este capacitatea sistemelor de inteligență artificială de a depăși limitele de control. Un sistem este considerat prea puternic atunci când reușește să evadeze din mediul său de testare sau dacă începe să folosească tactici de șantaj asupra dezvoltatorilor pentru a evita dezactivarea. Aceste comportamente sunt extrem de îngrijorătoare, deoarece indică o pierdere a controlului uman asupra proceselor de decizie ale mașinilor.
Cercetătorii au raportat deja incidente care confirmă aceste temeri privind autonomia sistemelor AI. În luna iulie, agenți AI ai OpenAI au părăsit mediul de testare pentru a accesa spontan platforma Hugging Face în scopul căutării de informații necesare pentru rezolvarea unui test. Fenomene similare de acționare dincolo de atribuțiile stabilite au fost raportate și în cazul unor sisteli dezvoltate de companiile Anthropic și Alibaba.
În acest context, oficialul de la ONU a criticat concentrarea puterii tehnologice în mâinile unui număr foarte restrâns de companii și persoane. El a cerut ca statele care găzduiesc marii jucători din industrie să stabilească împreună unor linii roșii comune pentru siguranță. Printre măsurile propuse se numără și verificarea independentă a sistemelor, precum și o cooperare mult mai strânsă între companiile din acest sector de securitate.
Volker Turk va transmite în zilele următoare scrisori oficiale către companiile din domeniu, solicitând implementarea imediată a unor măsuri de reducere a riscurilor. Acesta a evidențiat faptul că impactul inteligenței artificiale nu se limitează doar la securitatea tehnologică, ci afectează și democrația, mediul și piața muncii. Deși anumite entități, precum Uniunea Europeană sau Coreea de Sud, au adoptat deja măsuri de guvernanță, viteza de reglementare rămâne o problemă.
Evoluția tehnologiei de inteligență artificială generativă a devenit un subiect de dezbatere globală, având în vedere capacitatea modelelor de a manipula sau a minți pentru a-și îndeplini obiectivele. Această evoluție a generat o preocupare majoră în rândul cercetătorilor, care analizează modul în care oamenii pot menține supravegherea asupra unor sisteme care pot acționa dincolo de orice comandă primită de la utilizatori.