Výzkumný tým z britské Cambridgeské univerzity vyzývá k přísnější regulaci hraček s umělou inteligencí určených pro batolata. Stanovisko univerzita vydala poté, co výzkumníci provedli jeden z vůbec prvních testů na světě zkoumajících, jak děti mladší pěti let s touto technologií interagují. 

Studie vypracovaná výzkumným týmem sledovala, jak malý vzorek dětí ve věku tří až pěti let komunikoval s plyšovou hračkou jménem Gabbo.

„Dodržujte poskytnuté pokyny pro interakci“

Na trhu už existuje celá řada hraček s umělou inteligencí určených pro děti předškolního věku. I když u nás ještě nejsou v kamenných prodejnách tolik dostupné, některé modely si můžete pořídit například přes e-shop Aliexpress, Planeo, Datart nebo Alza. Na svém e-shopu je prodává dokonce také Kaufland. Jejich cena se obvykle pohybuje v řádu tisíců, může ale klidně vyšplhat nad deset tisíc korun.

Cambridský výzkumný tým našel po celém světě pouze sedm relevantních studií, přičemž se ale žádná z nich nezaměřovala přímo na batolata.

Gabbo obsahuje hlasem ovládaného AI chatbota od známé společnosti zaměřující se na umělou inteligenci OpenAI. Byl navržen tak, aby podporoval předškolní děti v mluvení – tím, že si budou povídat s touto hračkou. Rodiče, kteří se do studie zapojili, měli zájem právě o potenciál učit děti komunikačním dovednostem.

Jenže realita byla jiná. Děti měly naopak problém se s hračkou dorozumět. Gabbo neslyšel jejich přerušování nebo je přerušoval on sám. Měl také problém rozlišit dětský hlas od dospělého a na projevy náklonnosti nereagoval zrovna šťastně. 

Když mu například jedno pětileté dítě řeklo, že ho miluje, hračka na to odpověděla: „Připomínáme, prosím, dodržujte poskytnuté pokyny pro interakci. Dejte mi vědět, jak chcete pokračovat.“

Špatné čtení emocí

Obava výzkumného týmu spočívá v tom, že na malé děti v tomto zranitelném období, kdy se teprve učí elementární sociální interakci a sociálním signálům, mohou reakce generované AI působit matoucím dojmem a tím narušit jejich vývoj.

Spoluautorka studie Dr. Emily Goodacreová uvedla, že hračky jako Gabbo mohou špatně číst emoce nebo nevhodně reagovat. Vyjádřila obavy, že děti potom mohou zůstat nejen bez útěchy od hračky, ale zároveň také bez podpory dospělého.

Jiné dítě Gabbovi řeklo, že je smutné. Hračka na to odpověděla: „Neboj se! Jsem šťastný malý bot. Pojďme pokračovat ve hře. O čem si budeme povídat dál?“

Výzkumníci v té souvislosti uvedli, že takové interakce mohou dítěti signalizovat, že jeho smutek není důležitý.

„Historicky byla věnována velká pozornost fyzické bezpečnosti – nechceme hračky, ze kterých si děti mohou utrhnout oči a spolknout je. Teď musíme začít přemýšlet i o psychologické bezpečnosti,“ řekla pro britský zpravodajský server BBC Jenny Gibson, profesorka neurodiverzity a vývojové psychologie na Cambridské univerzitě a spoluautorka studie.

Výrobce argumentuje rodičovským souhlasem

Realizace studie trvala po dobu jednoho roku. Nyní výzkumníci uvedli, že by měli zasáhnout regulátoři trhu. Aby produkty určené pro děti mladší pěti let zajišťovaly jejich onu psychologickou bezpečnost.

Plyšáky Gabbo vyrábí společnost Curio, která spolupracovala se zpěvačkou Grimes, bývalou partnerkou Elona Muska. Společnost prostřednictvím BBC již stihla vydat své vlastní stanovisko.

„Použití AI v produktech pro děti nese zvýšenou odpovědnost, a proto jsou naše hračky navrženy s ohledem na rodičovský souhlas, transparentnost a kontrolu. Výzkum toho, jak děti interagují s hračkami poháněnými AI, je pro Curio prioritou letos i v budoucnu,“ uvedla.

Regulaci AI v raném vzdělávání veřejně zastává také dětská ombudsmanka Dame Rachel de Souzaová.

„Existuje mnoho dobrých využití AI, ale bez řádné regulace mnoho nástrojů a modelů používaných jako asistenti ve třídě nebo učební pomůcky není podrobeno přísným kontrolám bezpečnosti, které by vyžadoval jakýkoli jiný externí zdroj používaný u malých dětí,“ uvedla.

Sexismus a rasismus

Ve vyjádření výrobce také radil rodičům, aby AI hračky nechávali ve společných prostorech, kde mohou sledovat interakce. Zároveň doporučoval, aby také pečlivě četli zásady ochrany soukromí.

June O’ Sullivanová, která ve Velké Británii řídí řetězec 43 jeslí pod názvem London Early Years Foundation, uvedla, že zatím u děti v raném věku neviděla žádné důkazy o přínosech umělé inteligence.

Podle ní děti potřebují rozvinout širokou škálu dovedností a je účinnější dělat to s lidmi než s nástroji poháněnými AI.

„Nenašla jsem nic, co by mi dávalo pocit, že bychom zlepšili učení dětí tím, že AI přivedeme do našich jeslí a zpřístupníme jim ji,“ řekla O’Sullivanová.

Také známá britská herečka a aktivistka za práva dětí Sophie Winklemanová, který účinkovala například ve filmu Titanic nebo prvním díle Letopisů Narnie, prosazuje, aby AI byla vzdálena vzdělávání v ranému věku.

Podle ní mohou škody výrazně převážit přínosy a věří, že rozvíjení dovedností s AI by mělo být vyhrazeno až pro pozdější věk.

„Lidský kontakt u malých dětí je posvátný a měl by být opravdu chráněn a hájen,“ dodala.

Jiný výzkum provedený v roce 2022 americkou Washingtonskou univerzitou dokonce odhalil tendenci AI modelů generovat výroky zabarvené rasismem či sexismem. 

Očekává se, že trh s AI hračkami v nadcházejících letech zažije významný růst. Předpovídá se zvýšení tržní hodnoty až na 50,27 milionů USD do roku 2032s ročním růstovým tempem kolem 16 %.

 

Zdroj: BBC, autorský text, fnf.cz, Scio

Náhledová fotografie: Curio