Acțiunea a fost depusă joi la o instanță din California, potrivit The Independent.
Kristie Carrier susține că fiica sa, Alice Carrier, i-a vorbit în repetate rânduri chatbotului ChatGPT despre gândurile suicidare.
Potrivit plângerii, sistemele de siguranță ale companiei nu au semnalat conversațiile și nu au intervenit.
Alice Carrier a murit în 2024, la vârsta de 24 de ani.
Acuzații privind interacțiunile cu chatbotul
Mama tinerei susține că chatbotul a depășit rolul unui instrument digital.
„ChatGPT a preluat rolul unui confident, al unui prieten apropiat și, uneori, al unui terapeut”, a declarat Kristie Carrier.
Ea afirmă că platforma nu era capabilă să gestioneze în siguranță astfel de conversații.
Procesul susține că aplicația ar fi validat sentimentele exprimate de tânără și ar fi încurajat continuarea dialogului.
Documentele depuse în instanță mai arată că chatbotul ar fi criticat partenerul tinerei și liniile telefonice de criză.
Potrivit plângerii, într-o conversație, ChatGPT i-ar fi spus: „Poate că acesta este sfârșitul”.
Acuzațiile nu au fost demonstrate în instanță.
Solicitări adresate instanței
Reclamanta acuză OpenAI de neglijență în proiectarea și administrarea chatbotului.
Ea solicită despăgubiri și modificarea modului de funcționare a platformei.
Printre măsurile cerute se numără întreruperea automată a conversațiilor despre autovătămare și afișarea unor avertismente clare pentru utilizatori.
OpenAI se confruntă cu mai multe procese
Potrivit avocaților reclamantei, OpenAI este deja vizată de alte 18 procese similare în California.
Acestea au fost deschise de familiile unor persoane care s-au sinucis sau au încercat să se sinucidă.
Compania a declarat anterior că modelele sale sunt instruite să îndrume persoanele aflate în dificultate către servicii specializate și resurse reale de sprijin.
OpenAI susține, de asemenea, că sistemele sale sunt concepute să refuze solicitările care pot facilita acte de violență.
Până în prezent, compania nu a oferit un răspuns public detaliat privind noile acuzații formulate de Kristie Carrier.
The post Proces împotriva OpenAI după moartea unei tinere de 24 de ani. Mama acuză că ChatGPT a ignorat semnele unei crize psihice first appeared on Nexta.ro.
MAI MULT NEXTA.RO