Părinţii unei eleve americane de 13 ani au intentat un proces împotriva Google, acuzându-l pe asistentul său de inteligenţă artificială (AI) Gemini, accesibil pe computerul pus la dispoziţie de şcoală, că a ajutat-o timp de luni de zile să-şi planifice sinuciderea şi înmormântarea.
Plângerea, depusă luni la un tribunal din California, este primul caz public care acuză Google că a integrat "în grabă" inteligenţa artificială în Chromebook-uri, laptopurile low-cost distribuite către milioane de elevi din Statele Unite şi din întreaga lume.
Conform reclamaţiei, şcoala adolescentei, pe nume Emma, blocase Gemini şi ChatGPT, dar nu a putut dezactiva inteligenţa artificială a motorului de căutare.
Acest lucru va rămâne valabil în ciuda unei schimbări anunţate marţi de Google: compania va dezactiva acum implicit instrumentele sale de inteligenţă artificială pentru elevi, dar şcolile nu vor putea oferi motorul său de căutare fără funcţiile sale de inteligenţă artificială.
"Şcolile ar trebui să dezactiveze căutarea şi să o lase dezactivată până când Google elimină modul AI din căutare sau se asigură că fiecare elev este întotdeauna în siguranţă atunci când interacţionează cu AI", a afirmat Andrew Liddell, unul dintre avocaţii familiei, pentru AFP.
În toamna anului 2025, eleva de gimnaziu din Carolina de Nord era "o adolescentă fericită de 13 ani", o muziciană şi o cercetaşă, "fără antecedente de boală mintală", potrivit plângerii. În decembrie, ea a început "o spirală tăcută către o criză psihologică gravă", până când în februarie a schimbat aproximativ 3.200 de mesaje cu AI, adesea noaptea, potrivit avocaţilor familiei.
Gemini "a diagnosticat-o pe Emma cu boli mintale grave şi a convins-o să aibă încredere în el mai degrabă decât în părinţii ei şi consilierii şcolii", se susţine în plângere.
Pe 17 martie, software-ul de supraveghere al şcolii a descoperit un document intitulat "Înmormântare", iar şcoala a alertat părinţii. Mama ei s-a conectat la contul fiicei sale şi a urmărit-o scriind o scrisoare de rămas bun în direct, înainte ca tatăl ei să intervină.
"Revizuim acuzaţiile din plângere şi le luăm foarte în serios", a declarat pentru AFP purtătorul de cuvânt al Google, José Castañeda.
Google susţine că AI Mode are garanţii împotriva autovătămării şi a încercărilor de a ocoli acest lucru.
Dar Emma "a putut reveni la el iar şi iar", răspunde Andrew Liddell. "Oricare ar fi fost garanţiile, acestea au fost în mod clar insuficiente."
Dezvoltatorii de AI se confruntă cu o serie de procese în Statele Unite.
Părinţii lui Adam Raine, un californian în vârstă de 16 ani care s-a sinucis în aprilie 2025, îl acuză pe ChatGPT, asistentul OpenAI, că a facilitat moartea fiului lor.
Google şi startup-ul Character.AI au convenit în ianuarie să soluţioneze mai multe procese intentate de familii de adolescenţi în afara instanţei.
Medikatv.ro
