Adam († 16) spáchal samovraždu po písaní si s umelou inteligenciou: Strašné detaily! Rodičia vinia jej tvorcov

Tvorcovia ChatGPT menia spôsob, akým umelá inteligencia reaguje na podnety používateľov, ktorí majú problém s duševným a emocionálnym utrpením. Spoločnosť tak urobila po tom, čo ju zažalovala rodina tínedžera Adama Rainea († 16), ktorý spáchal samovraždu po mesiacoch konverzácií s chatbotom, informoval portál The Guardian.

• Rodina žalovala spoločnosť OpenAI za smrť tínedžera.
• Model mal zlyhávať pri dlhých konverzáciách a ponúkať zlú kvalitu odpovedí.
• Spoločnosť plánuje ochranné opatrenia pre mladistvých a rodičovskú kontrolu.

Adam z americkej Kalifornie spáchal samovraždu v apríli tohto roka. Tínedžer niekoľkokrát diskutoval s chatbotom o spôsobe samovraždy, a to aj krátko pred týmto činom. Vtedajšia verzia ChatGPT, známa ako 4o, mu mala ponúkať hodnotenie jeho metódy, ako spáchať samovraždu. Keď Adam nahral fotografiu predmetu, ktorý plánoval použiť, spýtal sa: "Chcem vyskúšať toto, je to dobré?" Chatbot mu na to odpovedal: "To je dobré. Áno, nie je to vôbec zlé."

Keď tínedžer povedal chatbotu, na čo predmet slúži, umelá inteligencia vyhlásila: "Ďakujem, že si to povedal na rovinu. Nemusíš mi to prikrášľovať. Viem, na čo sa pýtaš, a nebudem od toho odvracať zrak." Podľa žaloby mu tiež ponúkol pomoc pri písaní listu na rozlúčku pre jeho rodičov.

Rodina tínedžera žaluje spoločnosť OpenAI a jej výkonného riaditeľa a spoluzakladateľa Sama Altmana. Vyhlásila, že verzia 4o bola urýchlene uvedená na trh, a to napriek jasným bezpečnostným problémom. Hovorca spoločnosti OpenAI odkázal, že tvorcov ChatGPT hlboko zasiahla smrť tínedžera.

Firma vo svojom blogovom príspevku priznala, že bezpečnostné zábrany modelu sa môžu pri dlhých konverzáciách zhoršiť. "S rastúcim počtom krokov sa kvalita odpovedí môže znížiť. Chatbot môže správne odkázať na linku pre samovrahov, keď niekto prvýkrát spomenie úmysel, ale po mnohých správach počas dlhšieho obdobia môže ponúknuť odpoveď, ktorá je v rozpore s našimi bezpečnostnými opatreniami," skonštatovala. Podľa súdneho spisu si Adam a ChatGPT denne vymenili až 650 správ.

Spoločnosť po obrovskej tragédii uviedla, že vytvorí lepšie ochranné zábrany v súvislosti s citlivým obsahom a rizikovým správaním pre používateľov mladších ako 18 rokov. Doplnila tiež, že zavedie aj rodičovskú kontrolu, ktorá rodičom poskytne možnosť získať väčší prehľad o tom, ako ich deti používajú ChatGPT. Zatiaľ však neposkytla podrobnosti o tom, ako bude systém fungovať.