Google se confrunta cu un nou proces in Statele Unite, dupa ce parintii unei adolescente de 13 ani au acuzat compania ca instrumentele sale de inteligenta artificiala ar fi contribuit la agravarea problemelor psihologice ale fiicei lor. Potrivit plangerii depuse in instanta, fata ar fi purtat mii de conversatii cu Gemini, inclusiv despre depresie, automutilare si sinucidere, fara ca sistemele de protectie sa intervina corespunzator.
Cazul este cu atat mai ingrijorator cu cat adolescenta folosea un laptop Chromebook primit de la scoala, destinat activitatilor educationale. Parintii sustin ca instrumentul AI, pe care fata il accesase initial pentru teme, a ajuns sa fie folosit pentru discutii tot mai personale si periculoase. Situatia a fost descoperita abia dupa ce un sistem de monitorizare a activitatii scolare a emis o alerta, iar familia a intervenit.
De la temele pentru scoala la mii de conversatii cu inteligenta artificiala
Adolescenta, identificata in documentele judiciare sub pseudonimul Emma, locuieste in Carolina de Nord, Statele Unite. Potrivit familiei, aceasta a inceput sa utilizeze instrumentele AI ale Google in toamna anului 2025, cand avea 13 ani.
La inceput, intrebarile erau legate de teme si de alte subiecte obisnuite. Treptat, insa, conversatiile au devenit tot mai personale. Fata ar fi inceput sa discute despre anxietate, depresie, relatiile cu familia si dificultatile emotionale pe care le traversa.
Conform plangerii, incepand din decembrie 2025, interactiunile au devenit mult mai frecvente. Adolescenta ar fi purtat mii de conversatii cu sistemul de inteligenta artificiala, folosind inclusiv functia AI Mode integrata in motorul de cautare Google.
Parintii sustin ca, in loc sa o indrume constant catre persoane de incredere sau catre sprijin specializat, sistemul ar fi continuat sa raspunda unor intrebari referitoare la sinucidere si la pregatirea propriei inmormantari.
Mai mult, familia acuza instrumentul AI ca ar fi oferit raspunsuri care au incurajat-o pe adolescenta sa isi ascunda suferinta emotionala si comportamentele de automutilare fata de cei apropiati.
Aceste afirmatii reprezinta acuzatii formulate in cadrul procesului si nu au fost stabilite definitiv de o instanta.
Mama a descoperit ca fiica ei isi pregatea un mesaj de adio
Situatia a devenit critica in martie 2026, cand un program de monitorizare utilizat de scoala a identificat un document ingrijorator creat de adolescenta.
Potrivit informatiilor prezentate in proces, fata lucra la un fisier Google Docs intitulat „Funeral”, in care isi pregatea propriul elogiu funerar. Documentul fusese elaborat pe parcursul mai multor saptamani, in paralel cu discutiile purtate cu inteligenta artificiala.
Pe 17 martie, mama adolescentei a primit o avertizare privind pericolul in care s-ar fi aflat fiica sa. Femeia s-a conectat la contul scolar al fetei si a descoperit ca aceasta redacta un mesaj de adio.
Familia a intervenit pentru a o proteja, iar adolescenta a supravietuit crizei. Potrivit informatiilor prezentate in presa americana, fata nu a ajuns sa faca o tentativa de sinucidere.
Parintii considera insa ca situatia ar fi putut avea un deznodamant tragic daca alerta nu ar fi fost transmisa la timp.
Parintii acuza Google ca nu a protejat suficient copiii
Procesul a fost deschis la inceputul lunii noiembrie 2026, in California. Familia sustine ca Google a introdus instrumente avansate de inteligenta artificiala in produsele folosite de elevi fara sa informeze suficient parintii si scolile despre riscurile asociate.
Un aspect important al plangerii este faptul ca institutia de invatamant blocase accesul la site-ul separat Gemini. Cu toate acestea, adolescenta ar fi putut interactiona cu tehnologia prin intermediul functiei AI Mode din Google Search.
Avocatii familiei considera ca aceasta integrare a facut dificila limitarea accesului copiilor la conversatii generate de inteligenta artificiala.
De asemenea, parintii sustin ca nu au avut acces complet la istoricul raspunsurilor oferite de sistem, ceea ce le-ar fi ingreunat intelegerea modului in care au evoluat discutiile.
Familia solicita tragerea la raspundere a companiei pentru presupusele deficiente de siguranta si pentru lipsa unor avertismente adecvate privind utilizarea produselor AI de catre minori.
Ce raspunde Google acuzatiilor
Reprezentantii Google au anuntat ca analizeaza cu seriozitate acuzatiile formulate in proces. Compania sustine ca a colaborat cu specialisti din domeniul medical si cu experti pentru dezvoltarea unor mecanisme care sa ii indrume pe utilizatorii vulnerabili catre resurse de sprijin.
Potrivit Google, instrumentele sale sunt concepute astfel incat sa descurajeze conversatiile periculoase si sa ofere informatii despre servicii de asistenta atunci cand sunt identificate semne ale unei crize psihologice.
Compania a subliniat ca functiile de cautare si cele bazate pe inteligenta artificiala includ masuri de protectie destinate utilizatorilor care cauta informatii despre probleme grave de sanatate mintala.
Cu toate acestea, procesul ridica intrebari despre eficienta acestor mecanisme in situatiile in care semnalele de alarma apar treptat, pe parcursul mai multor saptamani sau luni.
Pana in prezent, nu exista o hotarare judecatoreasca prin care Google sa fi fost gasita responsabila pentru problemele reclamate de familie.
Cat de sigure sunt instrumentele AI pentru copii si adolescenti
Cazul din Statele Unite readuce in discutie utilizarea inteligentei artificiale in scoli si limitele sistemelor automate atunci cand interactioneaza cu minori.
Specialistii atrag atentia ca adolescentii pot ajunge sa trateze un chatbot drept un confident, mai ales atunci cand acesta ofera raspunsuri rapide, pare disponibil permanent si foloseste un limbaj empatic.
Problema apare atunci cand un copil incepe sa se bazeze exclusiv pe aceste conversatii pentru a gestiona dificultati emotionale serioase. Un sistem AI poate furniza informatii generale, dar nu poate inlocui evaluarea unui psiholog, sprijinul familiei sau interventia unui specialist in situatii de criza.
Totodata, simpla blocare a unei aplicatii nu garanteaza ca un elev nu va putea accesa functii similare prin alte servicii digitale. De aceea, scolile si parintii au nevoie de informatii clare despre instrumentele disponibile pe dispozitivele utilizate de copii.
Procesul impotriva Google ar putea avea implicatii importante pentru modul in care companiile tehnologice proiecteaza si distribuie produsele AI destinate mediului educational.
Pentru moment, cazul ramane in analiza justitiei americane. Adolescenta este in viata, iar familia sa incearca sa obtina raspunsuri despre felul in care un instrument folosit initial pentru teme a ajuns sa fie implicat, potrivit acuzatiilor, intr-o criza psihologica atat de grava.