Organizațiile care reprezintă părinții solicită un rol structurat în monitorizarea utilizării inteligenței artificiale în mediul școlar și în verificarea implementării AI Act. Această cerere a fost formulată de Hind Gnani, Education Policy and Research Officer la European Parents’ Association, în cadrul EU Parliamentary Democracy Forum. Reprezentanta a argumentat că experiența directă a părinților privind instrumentele digitale folosite de copii nu este integrată în mod sistematic în procesele de control parlamentar și administrativ.
Hind Gnani a subliniat că instrumentele bazate pe inteligență artificială sunt deja prezente în mediul educațional prin platforme de învățare și evaluare. Ea a ridicat problema discrepanțelor care pot apărea între statele membre atunci când regulile europene sunt aplicate de autorități naționale diferite. Pentru organizație, familiile pot furniza informații practice pe care un mecanism de supraveghere bazat exclusiv pe rapoarte administrative nu le poate surprinde, observând modul real de utilizare a tehnologiei în clasă.
AI Act nu clasifică orice instrument digital utilizat în școli ca fiind un sistem cu risc ridicat. Reglementările vizează utilizări specifice, precum cele care decid accesul la educație, evaluează rezultatele învățării sau influențează nivelul educațional al unui elev. De asemenea, sunt vizate sistemele care monitorizează comportamentul elevilor în timpul examenelor. Un instrument care doar ajută profesorul la pregătirea evaluărilor fără a lua decizii asupra elevului poate nu intra în această categorie reglementată.
Obligațiile pentru sistemele clasificate cu risc ridicat vor deveni efective de la data de 2 decembrie 2027, conform calendarului juridic actualizat. Supravegherea acestor sisteme va fi împărțită între AI Office și autoritățile naționale de supraveghere a pieței. Brando Benifei, copreședinte al grupului Parlamentului European privind implementarea AI Act, a menționat că parlamentele trebuie să solicite informații de la autoritățile naționale pentru a verifica dacă acestea au resursele necesare de aplicare.
În paralel, Comisia a propus la 17 septembrie EU KIDS Act, un cadru pentru protejarea minorilor în serviciile digitale, inclusiv chatboturi și companioni AI. Această propunere, care trebuie negociată de Parlament și Consiliu, include reguli pentru social media și platforme de jocuri online. În cazul chatboturilor, Comisia propune ca acestea să fie dezactivate implicit pentru minori și să nu fie proiectate pentru a crea dependență emoțională prin simularea unor relații interpersonale.
Implementarea AI Act în educație urmează să fie gestionată de autoritățile naționale desemnate în fiecare stat membru, având în vedere că configurația instituțională variază în cele 27 de state ale Uniunii Europene. Deși AI Act este un regulament direct aplicabil cu cerințe juridice comune, activitatea de control și investigațiile vor depinde de resursele și de interacțiunea locală a fiecărei instituții naționale cu școlile și familiile.