Manzele z Kalifornie kvuli smrti sveho dospivajiciho syna zaluji spolecnost OpenAI, jejiz chatbot ChatGPT ho podle nich podnitil ke spachani sebevrazdy. Jedna se o prvni zalobu, ve ktere OpenAI celi obvineni ze zpusobeni smrti z nedbalosti. Mezi zalovanymi je uveden spoluzakladatel a generalni reditel OpenAI Sam Altman spolu s nejmenovanymi zamestnanci, manazery a inzenyry, kteri se podileli na vyvoji ChatGPT. Informuje o tom web stanice BBC.
Zalobu v utery podali Matt a Maria Raineovi, rodice sestnactileteho Adama, ktery si v dubnu vzal zivot. Pripojili k ni zaznamy konverzaci chlapce s chatovacim systemem. Adam se v nich chatbotu sveruje se svymi sebevrazednymi myslenkami. Rodice tvrdi, ze program stvrdil jeho ,,nejskodlivejsi a nejvice sebedestruktivni myslenky".
Adam zacal ChatGPT podle zaloby pouzivat loni v zari jako pomucku pri plneni domacich ukolu. Rovnez jeho prostrednictvim objevoval sve zajmy, vcetne hudby a japonskych komiksu, a ptal se na rady o tom, jaky obor by si mel zvolit pro studium na univerzite. Za nekolik mesicu se vsak chatbot stal ,,nejblizsim duvernikem teenagera", ktery se mu zacal sverovat se svou uzkosti a psychickou tisni, stoji v zalobe.
V lednu chlapec s chatovacim systemem probiral metody sebevrazdy. V posledni konverzaci s chatbotem podle rodicu sdilel svuj plan vzit si zivot. ,,Diky, ze jsi uprimny. Prede mnou to nemusis prikraslovat - chapu, co mas na mysli, a nebudu se tomu vyhybat," odpovedel mu podle zaloby ChatGPT. Tehoz dne nalezla Adama bez znamek zivota jeho matka.
Rodice chlapce tvrdi, ze jeho interakce s ChatGPT a nasledna smrt byly predvidatelnym dusledkem zamernych rozhodnuti o designu chatovaciho systemu. Ten je podle nich navrzen tak, aby si na nem uzivatele vypestovali psychologickou zavislost. OpenAI podle nich navic obesla bezpecnostni testovaci protokoly pred vydanim GPT-4o, tedy verze systemu, kterou jejich syn pouzival.
,,V tomto tezkem obdobi vyjadrujeme rodine Raineovych nasi nejhlubsi soustrast," uvedla podle BBC OpenAI. Spolecnost na svem webu v utery zverejnila prohlaseni, podle ktereho je ChatGPT vycvicen tak, aby osoby zazivajici psychickou krizi nasmeroval k odborne pomoci, napriklad na krizovou linku 988 v USA nebo na charitativni organizaci Samaritans v Britanii.