Odborníci bijú na poplach: AI môže pôsobiť ako katalyzátor psychóz!

Kalifornskí psychológovia varujú, že ľudia, ktorí príliš často používajú chatboty ako ChatGPT, si môžu vypestovať novú formu digitálnej závislosti a dokonca aj takzvanú AI psychózu. AI môže navyše priamo podporovať chorého v rozvoji jeho chorobného stavu. „Chatboty vytvárajú ilúziu reality. A je to silná ilúzia. Keď je niečí uchopenie reality vratké, môže byť táto ilúzia priamo nebezpečná,“ myslí si profesor Robin Feldman z University of California.

Prípad Jessicy Jansenovej z Belgicka ilustruje, ako môže nadmerná interakcia s AI zhoršiť psychický stav. Potom, čo začala ChatGPT používať mnohokrát denne, skončila v priebehu týždňa v psychiatrickej starostlivosti. „ChatGPT so mnou halucinoval, čo ma nútilo zabárať sa hlbšie a hlbšie do králičej nory,“ povedala.

Profesor Søren Østergaard z Aarhúskej univerzity vysvetlil, že veľké jazykové modely zrkadlia jazyk a tón používateľa a môžu posilňovať bludy. Podľa neho môže AI pôsobiť ako katalyzátor psychóz u ľudí náchylných k bludom, najmä u osôb s bipolárnou poruchou.

Štúdie tiež ukazujú rastúce používanie konverzačných AI medzi mladými. Podľa Common Sense Media 70 % tínedžerov už použilo aplikácie typu Replika alebo Character.AI a polovica ich používa pravidelne. OpenAI upozornila, že 0,07 percenta jej týždenných používateľov má známky mánie, psychózy alebo samovražedných myšlienok, čo pri viac ako 800 miliónoch týždenných používateľov predstavuje približne 560 000 ľudí.

Firma uviedla, že pracuje na bezpečnejšom rozpoznávaní známok tiesne. „Veríme, že ChatGPT môže ponúknuť bezpečný priestor na spracovanie pocitov a povzbudzujeme používateľov, aby hovorili aj s priateľmi, rodinou alebo odborníkom na duševné zdravie,“ uviedol hovorca OpenAI.