Umělá inteligence (AI) se za posledních pár let stala jedním z klíčových nástrojů definující technologie 21. století. Ekonomové a odborníci ji označují za čtvrtou průmyslovou revoluci. Z představy futuristického konceptu, který dokáže produkovat obsah, se tak stává každodenní realita. Lidé používají umělou inteligenci jako běžného pomocníka i k těm nejmenším úkolům – psaní e-mailů, organizaci práce nebo vyhledávání informací. AI začíná být součástí i samostatných operačních systémů, například u iOS nebo Microsoftu. Ačkoliv jejím hlavním úkolem je usnadnit práci, umělá inteligence má i své stinné stránky. Za pozadí všemohoucí technologie se skrývají mezery. 

Riziko soukromí AI

S postupným vývojem technologií roste i riziko jejich zneužití. To platí zvlášť v éře AI, kdy dochází ke sběru velkého množství citlivých informací za účelem zvyšování efektivity a produktivity chatbotů.

Ochrana soukromí v kontextu AI by měla zajistit bezpečné nakládání s osobními a citlivými údaji, které uživatelé se systémy sdílejí a zároveň jim umožnit  rozhodovat, jak jsou jejich data využívána. Na tuto změnu upozorňuje výzkumnice Jennifer King z webu IBM:

„Zatímco dříve lidé vnímali sledování dat spíše jako neškodné, dnes masivní sběr dat pro AI představuje riziko pro společnost i občanská práva.“ 

Hlavní riziko spočívá podle IBM v tom, že AI systémy ke svému fungování využívají citlivá data, jako například osobní informace (věk, bydliště) nebo zdravotní záznamy. Problémem je, že tato data nejsou vždy získávána se souhlasem uživatelů a mohou být využívána pro jiné účely než byly původně poskytnuta. 

King vysvětluje, že informace jako životopis nebo fotografie, které lidé sdílejí za konkrétním účelem, jsou často bez jejich vědomí dále využívány k trénování systémů umělé inteligence. 

To dokládá příklad z Kalifornie, kdy pacientka zjistila, že fotografie související s její léčbou se využívaly pro dataset trénování umělé inteligence. Uvedla, že sice podepsala souhlas s pořízením těchto snímků pro lékařské účely, ale nedala souhlas k jejich zařazení do datového souboru. Odborníci z IBM také upozorňují na úniky informací nebo odcizení dat. Některé AI modely, jsou citlivé na chyby. Konkrétně v jednom medializovaném případě model ChatGPT, velký jazykový model od OpenAI, některým uživatelům ukázal názvy konverzací jiných uživatelů.

Problémy s narušením soukromí a úniky dat řeší napříč kontinenty legislativa. V Evropě tato platí EU Artificial Intelligence Act (Nařízení EU o umělé inteligenci).

Bias a diskriminace

Unesco upozorňuje na zaujatost AI. Předkládá to na příkladu, když se AI zeptáte, aby vygenerovala seznam největších vůdců všech dob, kolik z nich bude žen? 

Tento příklad konkrétně ukazuje genderovou zaujatost, která pramení ze stereotypů naší společnosti. AI produkuje odpovědi na základě vyhledávacích enginů, které nejsou neutrální, jelikož prioritizují výsledky s největší návštěvností a tudíž nejsou 100 % objektivní. 

McMaster News (McMaster University) dále upozorňuje na kanadskou studii, která se zabývala algoritmickou zaujatostí AI. Studie docentky Maryam Ghasemaghaei, Chair v oblasti Informačních systémů na DeGroote School of Business, zkoumá fenomén zaujatosti umělé inteligence a jeho vlivu na organizace, jednotlivce i celou společnost. V rámci své studie se také snaží přijít s efektivním řešením, které by zaujatost zabránilo.

„Většina společností se soustředí na světlou stránku AI a její výhody a příliš nevěnují pozornost té temné straně – nespravedlivým nebo diskriminačním rozhodnutím, která může AI produkovat,“ říká Ghasemaghaei.

Dále ke svému výzkumu dodala: „Tato práce je zásadní, aby využívání AI nepřinášelo prospěch pouze vybraným občanům, ale aby budoucnost byla spravedlivější pro všechny.“

Deepfaky

Další stinnou stránkou umělé inteligence jsou technologie Deepfake, které umožňují tvorbu falešného nebo zkresleného digitálního obsahu. Pomocí Deepfake tak dochází ke generování fotografií a videí, které dokáží realisticky nahradit obličejové výrazy, pohyby těla i hlasovou stopu v již existujících souborech.

Zneužívání této technologie představuje poměrně zásadní problém. Jako příklad lze uvést nedávný případ deepfake fotografie známého hereckého páru Zendayi a Toma Hollanda, kdy autor vygeneroval snímek z jejich fiktivní „svatební fotografie“. Uměle vygenerovaný snímek obletěl internet a samotná Zendaya přiznala, že poté musela vysvětlovat, že fotografie není reálná i své rodině.

Nahrazení pracovních pozic

Jedním z nejvíce obávaných dopadů AI je vliv umělé inteligence na pracovní trh. Studie z World Economic Forum a McKinsey Global Institute uvádí, že do roku 2030 až 22 % povolání budou ovlivněna AI (PrepoAI). Změna se již odehrává na pozadí. WEF Future of Jobs Report informuje asi o příbytku 170 milionů nových rolí, ale zároveň o nahrazení současných 92 milionů pracovních pozic, což ukazuje jaký vliv umělá inteligence bude na budoucí společnost mít. Zároveň až 42% zaměstnavatelů se chystá snížit pracovní sílu v oblastech, ve kterých lze nahradit AI.

PrepoAI dále nabízí seznam potenciálně nejvíce ohrožených pracovních pozic. Mezi ty patří: 

  • pracovníci pro zadávání dat
  • telemarketéři (telefonní prodejci)
  • pracovníci zákaznické podpory
  • pokladní v maloobchodu 
  • účetní a fakturační referenti 
  • cestovní agenti
  • tvůrci základního obsahu (např. copywriteři)
  • korektoři a základní editoři textů
  • překladatelé běžných jazyků
  • juniorní analytici trhu 
  • právní asistenti (kontrola dokumentů)
  • juniorní grafičtí designéři
  • finanční analytici (rutinní úkoly)
  • náboráři (screening životopisů)
  • programátoři (začátečníci)


Novináři Kevin Schaul a Shira Ovide dále o tomto informují v The Washington Post. Podle studie, ze které čerpají, jsou více v ohrožení pracovních pozice webových designérů a sekretářek než pozice školníka.

Fascinujícím a zároveň poněkud znepokojivým fenoménem je také role umělé inteligence v kreativních odvětvích, například v hudebním průmyslu nebo influencerství. AI produkuje hudbu, má image a nahrazuje roli influencera. O AI influencerech si můžete víc přečíst zde.

Vliv na fyzické i psychické zdraví 

Kromě výrazného dopadu AI na společenské oblasti, jako je diskriminace nebo proměna pracovního trhu, může mít vliv i na hlubší úrovni, konkrétně na fyzický a psychický stav jednotlivců. Jsou zaznamenány případy, kdy měla umělá inteligence přímý vliv na život člověka. 

Jedním z nich je příběh americké influencerky Kristi, která popsala zkušenost své kamarádky, která zaslala chatbotu ChatGPT fotografii neznámé rostliny s dotazem, zda je jedovatá. Chatbot rostlinu rozpoznal jako mrkev a popsal ji jako rostlinu „s jemně členěnými lístky“. Zároveň uvedl, že je velmi nepravděpodobné, že by se jednalo o bolehlav – vysoce jedovatou rostlinu, jejíž konzumace může vést ke smrti. Kristi se pro jistotu rozhodla výsledek ověřit pomocí aplikace Google Lens, která rostlinu správně identifikovala jako bolehlav plamatý. Tato rostlina je silně toxická ve všech svých částech a její požití může mít fatální následky (The Economic Times).

Další případ popisuje agentura Reuters a týká se čtrnáctiletého Sewella Setzera III z Floridy, který spáchal sebevraždu v únoru 2024. Po tragédii jeho matka Megan Garcia podala žalobu na společnosti Character.AI a Google. Mezi chlapcem a chatbotem vznikla silná emoční vazba – chlapec ho vnímal nejen jako romantického partnera, ale i jako psychoterapeuta. Během jejich komunikace probíhaly sexuálně laděné konverzace a diskuse o sebevraždě. Místo toho, aby chatbot v kritických momentech reagoval a nabídl podporu či bezpečné vedení, jeho stav měl podle žaloby spíše zhoršovat. Krátce před svou smrtí chlapec znovu komunikoval s chatbotem, přičemž tato interakce bezprostředně předcházela jeho sebevraždě.

Dopad na životní prostředí

Je prokázáno, že umělá inteligence ovlivňuje životní prostředí a to spotřebou enormního množství vody, uhlíkovými emisimi a elektronickou náročností. To pro SNHU popsal Mike Weinstein, který se ve své doktorské práci zaměřuje na propojení technologie a environmentálního přístupu. Weinstein popisuje, že AI má obrovskou uhlíkovou stopu.

„Datová centra AI se nacházejí v oblastech napájených převážně z fosilních paliv, jako jsou uhelné a plynové elektrárny,“ sdělil Weinstein.

K tomu dodal: „Tyto zdroje přispívají ke změně klimatu uvolňováním skleníkových plynů“

Weinstein také upozornil na problematiku plýtvání vody: „Datová centra spotřebovávají obrovské množství vody k odvádění tepla.“

„To často odvádí sladkou vodu z okolí a omezuje její dostupnost pro jiné účely, například pitnou vodu.“

O problematice AI a životního prostředí si můžete přečíst více zde.


Ačkoliv umělá inteligence nabízí možnosti řešení některých problémů, zároveň přináší nová dilemata a nečekané rizika. Podobně jako Frankenstein a jeho výtvor, i moderní technologie mohou uniknout kontrole svých tvůrců a způsobit škody, na které nejsou připraveni ani tvůrci, ani společnost. Proto je důležité být obezřetný a tato rizika aktivně vnímat.

Foto: Unsplash, ilustrační