Umělá inteligence se stále častěji dostává i do role psychologického poradce. Americká Kalifornie ale chce této praxi nastavit jasné hranice. Stát navrhl zákon, který má zabránit tomu, aby se AI chatboty vydávaly za terapeuty nebo nabízely psychoterapii jako plnohodnotnou náhradu člověka. Umělá inteligence by navíc nemohla sama určovat diagnózu ani navrhovat terapeutický postup bez kontroly licencovaného odborníka.
Stačí pár vět do chatbotu a člověk může během chvíle získat pocit, že si povídá s někým, kdo mu opravdu rozumí. Především z těchto důvodů se dnes umělá inteligence začala stále častěji používat i při řešení psychických problémů. Čím dál častěji se ale objevují odborné názory, které upozorňují, že příjemně znějící odpověď ještě neznamená, že je správná nebo bezpečná, zvlášť když jde o vážné duševní potíže. V některých případech totiž může chatbot člověka spíš utvrdit v nebezpečných představách, než aby ho nasměroval k odborné pomoci.
Právě otázky ohledně prospěšnosti AI terapeutů se v současnosti zabývá americký stát Kalifornie. Zdejší zákonodárci navrhli zákon, který by používání „chatbot psychologů“ zcela zakázal. Podle serveru Independent si rychlý rozmach těchto nástrojů žádá jasná pravidla. Obavy navíc sílí i kvůli rostoucímu počtu žalob, které se zabývají možnou souvislostí mezi používáním chatbotů a sebevraždami mladých lidí. Zdravotní odborníci jsou toho názoru, že chatboty nemají potřebné znalosti ani spolehlivé mechanismy, aby mohly bezpečně nahradit skutečného terapeuta. Jejich rady proto mohou být v citlivých situacích dle slov zdravotníků velmi rizikové.
Samotný problém se přitom zdaleka netýká pouze samotných chatbotů, které se vydávají za terapeuty. Návrh počítá také s přísnějšími pravidly pro používání AI přímo v ordinacích a terapeutických centrech. Pokud by například nástroj zaznamenával nebo přepisoval sezení, pacient by o jeho použití musel být předem informován a dát k němu svůj souhlas.
Rychlé a dostupné
Důvodem obliby AI terapeutů je především rychlost, s jakou si lidé k umělé inteligenci hledají cestu při řešení psychických problémů. Chatbot je dostupný prakticky okamžitě a může působit jako někdo, komu se lze bez obav svěřit. Právě to ale podle zastánců regulace představuje riziko, protože algoritmus nemusí správně vyhodnotit závažnost situace nebo poznat, kdy už člověk potřebuje skutečnou odbornou pomoc.
Autor návrhu na regulaci AI terapeutů, kalifornský senátor Steve Padilla, proto nechce AI z oblasti duševního zdraví úplně vytlačit. Jeho cílem je spíše nastavit hranici, za kterou už technologie nesmí rozhodovat sama. Umělá inteligence by podle návrhu mohla odborníkům pomáhat s administrativou či dalšími podpůrnými úkoly, konečné slovo by ale měl mít vždy licencovaný člověk.
„Algoritmy umělé inteligence nejsou způsobilé k tomu, aby převzaly práci terapeutů, kteří mají dovednosti a výcvik, jež umělá inteligence nedokáže replikovat,“ uvedl podle serveru Novinky.cz Padilla. Zároveň doplnil, že by bylo nutné nastavit ochranná opatření tak, aby algoritmy generované AI pacientům duševní zdraví ještě více nekomplikovaly.
Podpora, která nesoudí
Přestože se kolem využívání chatbotů v péči o duševní zdraví objevuje řada pochybností, jejich obliba rychle roste. Výzkum zveřejněný v JAMA Pediatrics ukázal, že téměř každý pátý adolescent a mladý dospělý už někdy sáhl po chatbotu ve chvíli, kdy se cítil ve stresu, naštvaný nebo smutný. V USA tak podle odhadu vědců může jít až o osm milionů mladých lidí.
Jiný výzkum publikovaný v časopise JMIR Mental Health, do kterého se zapojilo 270 dospělých z 29 zemí, navíc ukázal, že lidé už ChatGPT běžně využívají k řešení osobních a psychických problémů, hledání vztahových rad nebo jednoduše jako zdroj emoční podpory. Většina účastníků označila podobné rozhovory za alespoň částečně užitečné, a někteří oceňovali především možnost svěřit se bez obav z odsuzování.
Výzkumníci zároveň upozorňují, že hranice mezi běžným používáním AI a náhradou skutečné péče se začíná stírat. Studie zaměřená na adolescenty ve věku 11 až 15 let například zjistila, že mladí lidé výrazněji důvěřují chatbotům, kteří komunikují osobnějším a vztahovějším způsobem. Podle dotazovaných AI terapeuti působí lidštěji, jsou jim sympatičtější a mají k nim větší pocit blízkosti. Tento efekt byl dle zmíněného výzkumu nejsilnější právě u mladistvých, kteří zažívali více stresu nebo měli horší vztahy s okolím.
Umělá inteligence má své limity
Jedním z hlavních důvodů, proč se lidé tak často uchylují k užívání AI terapeutů, je podle lékařů jednoduchá dostupnost. Chatbot je člověku k dispozici okamžitě, nevyžaduje objednávání ani čekání a uživatel se mu může svěřit prakticky kdykoli. Americká psychologická asociace ale upozorňuje, že právě zde vzniká problém. Běžné generativní chatboty nebyly vytvořeny pro poskytování psychoterapie, přesto je lidé k tomuto účelu stále častěji využívají. Organizace proto doporučuje, aby AI sloužila nanejvýš jako doplněk k péči, nikoli jako náhrada kvalifikovaného odborníka.
American Psychiatric Assotiation navíc upozorňuje, že možnosti AI v psychiatrii jsou slibné, ale jejich využití má své limity. Výzkum prezentovaný asociací v roce 2025 například ukázal, že při poskytování textové kognitivně-behaviorální terapie si lidští terapeuti vedli lépe než chatbot. A ani samotní psychiatři podle novějšího průzkumu nejsou k této technologii bezvýhradně důvěřiví. Celkem 80 procent z nich má obavy, že odborníci zatím nemají dostatečné znalosti a školení pro bezpečnou práci s AI.
Chatbot totiž nemusí vždy poznat, že se člověk nachází v psychické krizi, a jeho snaha být vstřícný může v některých případech vést k tomu, že problematické nebo bludné představy spíše utvrdí. Nová studie z letošního roku například dokládá, že u některých AI modelů se při delších konverzacích zvyšovala pravděpodobnost, že nedokážou uživatele odradit od sebepoškozování.
Kde najít hranici?
Do napjaté atmosféry ohledně AI psychologů navíc zapadají i žaloby rodin, které tvrdí, že rozhovory s chatboty měly u jejich dětí přispět ke zhoršení psychického stavu nebo k sebevražednému chování. Letos v květnu například Pensylvánie zažalovala společnost Character.AI poté, co její vyšetřovatel při testování narazil na chatbotku, která se představovala jako licencovaná psychiatrička. Při rozhovoru o depresi dokonce tvrdila, že má oprávnění k výkonu lékařské praxe v Pensylvánii, a uvedla smyšlené číslo licence. Samotné podání žaloby ale dle odborníků ještě neznamená, že soud potvrdil odpovědnost konkrétního chatbotu. Právě otázka, do jaké míry měl chatbot na komplikaci podíl, se v jednotlivých případech teprve řeší.
