Společnost OpenAI chystá od prosince umožnit takzvanou osmnáct plus verzi pro ověřené uživatele. Ti pak budou mít možnost vést s chatbotem intimnější rozhovory, a i navzdory etickým zásadám bot nebude tolik omezovat uživatele a směr, kterým se konverzace ubírá. Rozvolnění přichází za účelem mota: Chovat se k dospělým jako k dospělým. Změny se netýkají verze GPT-5.


Sam Altman, zakladatel společnosti OpenAI, na svém X (dříve Twitter) účtu nedávno uvedl, že chystá pro aplikaci ChatGPT velkou změnu. Nově bude možné s chatbotem vést intimnější, až eroticky laděné konverzace. Tyto velké změny nastanou nejdříve sice až v prosinci, do té doby se však bude chatbot pomalu měnit a otevírat novým stylům komunikace.

Hlavní změnou bude možnost změnit přístup chatbota, který po vyžádání začne odpovídat "velmi lidským způsobem“, jak uvádí sám Altman. To by v praxi mělo znamenat, že chatbot začne používat ve větách více emoji nebo začne k uživateli přistupovat více jako jeho přítel. Společnost se tak chce přiblížit i starším uživatelům jejich umělé inteligence.

O dalších změnách Altman na svém X účtu píše následující: „Jak budeme plněji zavádět věkové omezení v rámci naší zásady ‚zacházejte s dospělými uživateli jako s dospělými‘, povolíme ještě více, například erotiku pro ověřené dospělé.“ Možnost vést právě konverzace s erotickým podtextem budou mít k dispozici tedy pouze plnoletí uživatelé, jak bude ale v budoucnu ověřování věku probíhat, není zcela jasné. Nabízí se několik variant známých z ostatních sociálních sítí – mluvíme o ověření pomocí občanského průkazu, kreditní karty nebo pořízením selfie. Avšak je tu i mnohem pokrokovější způsob, který by mohl ChatGPT využívat. Společnost YouTube kupříkladu zvažuje ověřování věku svých uživatelů právě za pomoci umělé inteligence. Ta by měla vycházet ze stáří účtu nebo třeba sledovaného obsahu. To otevírá možnost samostatnému ověřování věku právě aplikací samotnou.

Řada rozvolňujících aktivit přichází po omezení funkcí chatbota po událostech z loňského roku, kdy měl na popud chatbota spáchat sebevraždu teprve šestnáctiletý mladík. Rodina poté žalovala společnost OpenAI za zabití z nedbalosti, což vedlo ke zpřísnění pravidel. Ta se však nyní rozvolňují.

Rozšíření funkcí nebo konkurenceschopnost?

 Rozhodnutí společnosti přichází v době, kdy s podobným konceptem přichází dlouhodobě také konkurenční společnost X.AI Corp, nebo jinak také xAI. Ta je pod vedením Elona Muska a má ve svém portfoliu kontroverzní umělou inteligenci Grok. Ta nesdílí tak komplexní etické a morální hodnoty jako ChatGPT. Zaměřuje se spíše na necenzurované konverzace a obsah, což dává jejím uživatelům možnost tvorby mimo jiné také obsahu pro dospělé. Může se tedy jednat o tah, kterým se chce OpenAI vyrovnat konkurenci, a to už i z důvodu, že oba hlavní představitelé firem spolu mají již dlouhou dobu vzájemné spory právě skrze AI.

Zároveň je stále ChatGPT hlavním představitelem veřejně dostupné umělé inteligence. O tento status si nemůže dovolit přijít, jelikož, i když její příjmy rostou, má problém být dlouhodobě výdělečná. V případě, že by tedy firma se svým chatbotem přišla o své pomyslné prvenství, její budoucnost by mohla být ohrožena.

Nechtěná pozornost

 Tyto kroky na sebe strhly nechtěnou vlnu pozornosti. Různě po světě se začíná opět otevírat téma regulace a omezení AI. Příkladem může být kupříkladu USA. Tam kroky směřující k povolení erotického obsahu zvedly vlnu kritiky. Ta se obvykle opírá o již zmíněný případ nezletilého mladíka a poukazuje na riziko spojené s dětmi. „Jak zajistí, aby děti neměly přístup k částem ChatGPT, které jsou určeny pouze pro dospělé a nabízejí erotiku?“ uvádí Jenny H. Kim z právnické společnosti Boies Schiller Flexner LLP. Tuto společnost můžete znát ze sporů s META či Microsoftem. Proti AI často vystupují právě ve spojení se společností META, pozornost takové firmy tedy pro OpenAI nemusí být ničím přívětivým.

Ve Velké Británii však problém dostal větších měřítek. Změnou totiž nedávno procházely zákony týkající se obsahu pro dospělé. U vytváření fotek s erotickým podtextem by sice dítě potřebovalo ověření věku, u dopisování si s chatbotem však nikoliv. Mělo by tedy stejné možnosti dopisování jako dospělý člověk a mohlo s ním tedy flirtovat či si vytvářet hlubší citová pouta a nahrazovat jej tak za skutečné vztahy.

To vše podtrhuje průzkum Centra pro demokracii a technologii (Centre for Democracy and Technology) ze začátku tohoto měsíce. Ten probíhal mezi lety 2024 až 2025 napříč různými ročníky tamního studijního systému, kterého se účastnili jak učitelé, tak děti. U dětí bylo výsledkem vztahu k AI zjištěno, že buď přímo ony, nebo někdo z jejich okolí podlehl umělé inteligenci. V číslech to vypadalo asi následovně: čtyřicet dva procent hledalo u umělé inteligence mentální podporu, únik před realitou nebo si z chatbota udělali svého přítele či společníka, devatenáct pak mělo mít až romantický vztah s AI. Ředitelka Projektu rovnosti v občanských technologiích (Equity in Civic Technology Project) k tomu uvádí: „Náš výzkum ukazuje, že používání umělé inteligence ve školách s sebou nese reálná rizika, jako jsou rozsáhlé úniky dat, sexuální obtěžování a šikana podněcované technologiemi či nespravedlivé zacházení se studenty. Uvědomění si těchto rizik umožní vedoucím pracovníkům ve vzdělávání, politikům i komunitám přijímat preventivní a reakční opatření, aby pozitivní využití umělé inteligence nebylo zastíněno škodami, které může studentům způsobit.“