Veřejná debata o umělé inteligenci se většinou odehrává mezi dvěma krajními póly. Jedni varují před zánikem lidské kreativity, druzí naopak slibují novou éru prosperity a poznání. Obě strany však často přehlížejí otázku, která může být mnohem důležitější než všechny technologické parametry dohromady. Co se stane s člověkem samotným, pokud stále větší část jeho rozhodování, poznávání světa i sebepoznání začne zprostředkovávat algoritmus?

Právě na tento problém upozorňuje magazín Time, kde ředitelka harvadského Shorenstein centra pro média a veřejnou politiku Laura Manleyová nepíše o budoucnosti, lea tvrdí, že změna již probíhá. Umělá inteligence podle ní nepřichází. Už zde je. Není jen v chatbotech, ale také v navigacích, vyhledávačích, sociálních sítích, elektronické poště, internetových obchodech a doporučovacích systémech. Každý den rozhoduje o tom, jaké zprávy uvidíme, jakou hudbu budeme poslouchat, jaké produkty si koupíme a často i o tom, čemu budeme věnovat pozornost.

Tento proces je přitom mnohem hlubší než pouhé technologické usnadnění života. Algoritmy totiž neorganizují pouze informace. Organizují samotnou realitu, kterou člověk vnímá.

Od informační bubliny k algoritmickému člověku

V minulosti formovala identitu především rodina, škola, místní komunita, kultura a masová média. Generace vyrůstaly na stejných televizních seriálech, stejných novinách a podobných společenských zkušenostech. Dnes však každý člověk žije ve vlastním informačním vesmíru.


Zde se objevuje fenomén, který odborníci začínají označovat jako „algoritmické já“. Identita přestává vznikat pouze vnitřní reflexí člověka a stále více se vytváří prostřednictvím doporučení, hodnocení a digitálních zpětných vazeb. Člověk se nezačíná poznávat prostřednictvím vlastního přemýšlení, ale prostřednictvím dat, která o něm shromáždily technologické společnosti. 

Příkladem může být každoroční přehled hudebních návyků Spotify Wrapped. Miliony lidí netrpělivě čekají, až jim algoritmus sdělí, jaký druh posluchače vlastně jsou. Namísto otázky „jakou hudbu mám rád?“ stále častěji přichází otázka „co o mně říkají moje data?“. Zdánlivě drobná změna, která však ukazuje zásadní posun. Autorita při definování vlastní identity se přesouvá od člověka k technologické platformě. 

Americká socioložka a psycholožka Sherry Turkleová před podobným vývojem varuje již desítky let. Podle ní technologie nemění pouze to, co děláme. Mění především způsob, jakým přemýšlíme sami o sobě. Ve svých výzkumech opakovaně upozorňuje, že digitální prostředí oslabuje schopnost hlubší sebereflexe a nahrazuje ji neustálou potřebou externí zpětné vazby. 

Kdo ovládá naše touhy a obavy

Ještě znepokojivější je ekonomický rozměr celého procesu. Moderní algoritmy nejsou navrženy proto, aby rozvíjely lidskou osobnost. Jejich hlavním cílem je maximalizovat pozornost uživatele.

Jinými slovy, systém vydělává tehdy, když člověk zůstává co nejdéle připojený. Proto algoritmy analyzují jeho slabosti, nejistoty, obavy i přání. Každé kliknutí se stává datem. Každé zastavení u příspěvku je informací o psychologickém profilu uživatele.

Výsledkem není neutrální technologická služba. Vzniká prostředí, které aktivně formuje lidské preference. Pokud algoritmus zjistí, že člověk reaguje na pobouření, bude mu předkládat další pobuřující obsah. Pokud reaguje na strach, dostane další důvody k obavám. Pokud reaguje na potvrzení vlastních názorů, systém mu poskytne ještě více potvrzení.


To je zároveň paradox současné digitální éry. Nikdy v historii neměl jednotlivec přístup k tak obrovskému množství informací. Současně však nikdy nebyl vystaven tak sofistikovanému systému výběru těchto informací.

Debata o umělé inteligenci se proto možná ubírá špatným směrem. Nejdůležitější otázkou není, zda budou stroje jednou myslet jako lidé. Mnohem důležitější je zjistit, zda si lidé dokážou uchovat schopnost myslet sami za sebe.

Právě zde se rozhoduje o podobě budoucnosti. Ne v laboratořích technologických gigantů, ale v každodenním zápasu o lidskou pozornost, úsudek a identitu. Pokud totiž přenecháme algoritmům nejen výběr informací, ale i definici toho, kým jsme, může být cena za pohodlí mnohem vyšší, než si dnes připouštíme.



Zdroje: 1. TIME – AI Is Already Shaping Who We Are⁠; 2. MIT Generative AI – Who Do We Become When We Talk to Machines?⁠; 3. After Babel – Sherry Turkle on AI and Human Connection⁠