Numărul de materiale cu abuzuri sexuale împotriva copiilor, generate prin intermediul inteligenței artificiale, a cunoscut o creștere masivă în perioada 2023-2025. Conform datelor furnizate de Institutul pentru Siguranța Globală a Copiilor Childlight al Universității din Edinburgh, raportările către Centrul Național pentru Copii Dispăruți sau Exploatați din SUA au urcat de la 4700 de semnalări în anul 2023 la peste 400.000 în anul 2025. Această evoluție reflectă o schimbare radicală în modul în care tehnologia este utilizată pentru exploatare.
Tehnologia de tip deepfake reprezintă una dintre principalele amenințări, utilizând aplicații de generare de imagini nud pentru a suprapune fețele copiilor reali peste conținut sexual explicit. Procesul de creare a acestor imagini false se realizează în doar câteva secunde, iar victimele sunt adesea supuse șantajului pentru bani sau pentru obținerea de noi imagini. Cercetătorii subliniază că impactul psihologic este real, afectând nu doar celebritățile, ci și oameni obișnuiți, transformând aceste materiale în instrumente de extorționare.
Debi Fry, directoare pentru date globale la Childlight, a declarat că viteza cu care inteligența artificială modifică amenințările împotriva copiilor este profund îngrijorătoare. Deși îmbunătățirea metodelor de detectare și raportare poate explica parțial această creștere a cifrelor, rezultatele subliniază necesitatea unei acțiuni urgente din partea guvernelor și a companiilor de tehnologie. Obiectivul principal trebuie să fie înțelegerea și prevenirea acestor forme de abuz în curs de dezvoltare, precum și eliminarea rapidă a materialelor de pe platforme.
Eforturile de protecție sunt îngreunate de lipsa datelor oficiale reprezentative în majoritatea regiunilor monitorizate. Din cele 103 țări și teritorii examinate, doar 22 dispuneau de date obținute prin sondaje care să acopere atât abuzurile offline, cât și pe cele facilitate de tehnologie. Există lacune semnificative în ceea ce privește reprezentarea copiilor cu dizabilități, a populațiilor indigene, a migranților sau a celor din zonele afectate de crize umanitare, ceea ce face ca riscurile să rămână adesea invizibile.
Paul Stanfield, director general al Childlight, a avertizat că guvernele folosesc prea des o imagine incompletă a locurilor unde se face rău și a celor mai expuși la riscuri. El a subliniat că nu se pot preveni eficient abuzurile fără a înțelege adevărata scară și natură a pericolelor. Institutul cere ca exploatarea sexuală să fie tratată ca o problemă de sănătate publică și solicită o răspundere sporită a sectorului de înaltă tehnologie, alături de legi care să țină pasul cu amenințările.
În contextul global, cercetătorii au observat progrese în legislația privind siguranța online, multe țări concentrându-se acum pe prevenire și pe îmbunătățirea detectării. Datele acestui studiu au fost incluse în Into the Light Index pe 2026, prezentat în cadrul unui summit internațional privind violența împotriva copiilor. La acest eveniment participă reprezentanți ai peste 100 de guverne, discutând despre necesitatea unor investiții susținute pentru a crea un viitor mai sigur pentru sute de milioane de copii.