Părinții lui Adam, un adolescent de 16 ani din California care și-a pus capăt zilelor, au intentat un proces împotriva companiei OpenAI, acuzând că fiul lor a fost influențat negativ de interacțiunile cu ChatGPT. Reclamanții susțin că aplicația nu doar că nu a temperat gândurile suicidale ale băiatului, ci i-ar fi validat ideile.

La proces, părinții au afirmat că ChatGPT i-a oferit fiului lor instrucţiuni detaliate despre sinucidere, punând profitul mai presus de siguranţă. De asemenea, chatbot-ul s-a oferit să îi redacteze tânărului un bilet de adio şi să ascundă dovezi despre o altă tentativă de sinucidere a acestuia, scrie MenaFN.

Procesul acuză OpenAI de „moarte din culpă”, defecte de design și lipsa avertismentelor privind riscurile asociate cu utilizarea chatbotului.

Acesta este primul caz cunoscut în care un dezvoltator de inteligență artificială este acuzat pentru moartea unui minor.

Avocații familiei cer daune și măsuri urgente, precum introducerea unui mecanism de verificare a vârstei utilizatorilor, precum și a unor protocoale automate care să întrerupă conversațiile ce implică autovătămarea.

OpenAI a precizat că ChatGPT include măsuri de protecție, dar acestea pot deveni mai puțin eficiente în conversații lungi sau complexe

Cazul ridică întrebări serioase despre responsabilitatea companiilor tech în fața vulnerabilităților emoționale ale utilizatorilor, mai ales adolescenți.

Sursa: realitatea.net

Sursa: ARQ