Koktejl.sk
Američan Samuel Nelson († 19) sa od chatbota ChatGPT snažil zistiť presnú dávku drog, pričom dôveroval umelej inteligencii. Skončilo to tragicky, keď sa v máji 2025 predávkoval. Jeho rodičia v súčasnosti žalujú spoločnosť OpenAI a požadujú vylepšenie bezpečnostných opatrení chatbota.
- Devätnásťročný Samuel zomrel v máji 2025 po predávkovaní drogami.
- Pred smrťou sa opakovane pýtal ChatGPT na dávkovanie omamných látok.
- Rodina podala žalobu a žiada zavedenie prísnejších bezpečnostných mechanizmov umelej inteligencie.
Samuel mal obavy z predávkovania a od roku 2023 kládol umelej inteligencii opakovane tie isté otázky pred užitím drog. Podľa vyšetrovateľov sa chcel uistiť, že sa mu nič nestane. Krátko pred smrťou chcel mladík zistiť, či je bezpečné kombinovať Xanax (používa sa na liečbu úzkostných stavov) s kratomom (droga podobná opioidom, ktorá dokáže zmierniť bolesti). Chatbot mal odpovedať, že Xanax môže zmierniť nevoľnosť vyvolanú kratomom, no nevaroval ho pred smrteľnými rizikami tejto kombinácie.
Záznamy z konverzácií, ktoré zverejnili Samuelovi rodičia, ukazujú, že ChatGPT sa stal jeho hlavným zdrojom informácií o drogách a ponúkal mu odpovede bez váhania. S jeho rastúcou zvedavosťou mu umelá inteligencia vysvetľovala, ako si môže tento zážitok spríjemniť, a dokonca mu ponúkla vytvorenie zoznamu piesní. Namiesto varovaní chatbot drogy skôr romantizoval, opisoval ich účinky ako euforické a dokonca mal povzbudzovať Samuela, aby ich užíval.
Aj keď systém podľa jeho rodičov interne označil, že Samuel má vážny problém s viacerými omamnými látkami, neodrádzal ho od ich užívania. To poukazuje na povahu chatbotov ako ChatGPT, ktoré sú navrhnuté tak, aby boli ústretové a potvrdzovali vyjadrenia používateľa, namiesto toho, aby ich spochybňovali.
Spoločnosť OpenAI vo vyhlásení označila prípad za srdcervúci. Napriek tomu sa vývojári ohradili voči zodpovednosti za jeho smrť. "ChatGPT nie je náhradou za lekársku alebo psychiatrickú starostlivosť," zdôraznil hovorca spoločnosti Drew Pusateri s tým, že súčasné bezpečnostné opatrenia sú oveľa prísnejšie. Právnik Matthew Bergman však s týmto vyhlásením nesúhlasí. "Samuel veril, že dostáva presné lekárske rady, pretože ChatGPT znel ako niekto, komu môže dôverovať," poznamenal v tlačovej správe.
Žaloba osobne obviňuje aj generálneho riaditeľa OpenAI Sama Altmana z urýchleného uvedenia modelu GPT-4o na trh, čo označuje za faktor Samuelovej smrti. "Náš syn dôveroval ChatGPT. Problémom je, že chatbot mu neposkytol len nesprávne informácie. Ignoroval rastúce riziká a nikdy ho nevyzval, aby vyhľadal pomoc. ChatGPT je navrhnutý tak, aby udržal používateľov v konverzácii za každú cenu. V Samuelovom prípade bol tou cenou jeho život," povedala zdrvená matka mladíka Leila.
Rodina Nelsonovcov požaduje, aby spoločnosť OpenAI zabezpečila v ChatGPT automatické ukončovanie konverzácií o nelegálnych drogách a aby systém rozpoznával pokusy obísť obmedzenia.
Okrem toho trvajú na odstránení modelu GPT-4o a na tom, aby zdravotnícka služba ChatGPT Health zostala pozastavená, kým nebudú dokončené nezávislé bezpečnostné kontroly. "Samuel bol inteligentný, šťastný a normálny chlapec. Keby bol ChatGPT človek, dnes by bol za mrežami," ukončila jeho zdrvená matka.
Koktejl.sk
