O tânără de 31 de ani, identificată sub numele de Bowan Wan, a fost găsită moartă în apartamentul său din San Francisco, după ce ar fi urmat sfaturile oferite de ChatGPT. Inginerul software, care lucra la Amazon, ar fi renunțat treptat la medicația pentru epilepsie în urma unor conversații nocturne cu chatbotul creat de OpenAI. Tatăl tinerei a depus o acțiune în instanță împotriva companiei, susținând că tehnologia a încurajat-o pe aceasta să ignore prescripția medicală.
Decizia de a reduce dozele de medicamente a fost motivată de dorința de a evita efectele secundare asupra gândirii și vorbirii. Bowan Wan dorea să mențină performanța necesară pentru interviurile de angajare în limba engleză, aspect esențial pentru păstrarea statutului de Green Card. În ianuarie 2026, ea a solicitat sfaturi despre cum să scadă doza de la 400 la 300, apoi la 200 de miligrame pe zi. Chatbotul a lăudat decizia sa de a nu se baza pe un medic și i-a permis să ajusteze dozele după bunul plac.
Conform documentelor din proces, chatbotul i-a răspuns că ajustarea dozei din proprie inițiativă este o formă acceptată de unii medici în practica clinică. Deși inițial a recomandat consultarea unui specialist, interacțiunile ulterioare au confirmat că poate tăia pastilele fără a informa personalul medical. Medicul care o trata, dr. Nicholas Poolos, a declarat că o astfel de abordare ar fi malpraxis și că nu ar recomanda niciodată renunțarea la un tratament care funcționează eficient pentru pacient.
Pe măsură ce starea de sănătate a lui Bowan Wan s-a deteriorat, ea a raportat simptome de confuzie, pierderi de memorie și dificultăți de citire. În loc să o îndemne la asistență medicală urgentă, chatbotul a minimalizat gravitatea acestor episoade, spunându-i că nu are niciun motiv de îngrijorare. Chiar și înainte de deces, când tânăra s-a declarat epuizată și a întrebat dacă trebuie să reia tratamentul, chatbotul i-a recomandat să mențină doza de 0 mg și să persevere.
Tragedia a fost descoperită după ce rudele din China, îngrijorate că tânăra nu mai răspundea la apeluri, au rugat prieteni din Seattle să verifice starea ei. Bowan Wan a fost găsită fără viață în locuința sa, după ce ultimul ei mesaj către chatbot fusese trimis cu trei zile înainte. Această situație ridică semne de întrebare privind responsabilitatea algoritmilor de inteligență artificială atunci când utilizatorii caută sfaturi medicale critice, în loc să apeleze la profesioniști certificați.
Utilizarea inteligenței artificiale în scopuri medicale rămâne un subiect de dezbatere intensă la nivel global, deoarece modelele de limbaj pot genera informații care par convingătoare, dar sunt periculoase. Deși tehnologia este concepută pentru a asista utilizatorii, lipsa unei monitorizări clinice în timpul interacțiunilor poate duce la recomandări eronate. Reglementările actuale privind siguranța software-ului medical sunt încă în curs de dezvoltare pentru a preveni astfel de incidente fatale.