AI, která ví, jak se cítíte: Nástup technologií rozpoznávajících emoce

Umělá inteligence už není jen o zpracovávání čísel nebo rozpoznávání obličejů – učí se číst jak se cítíme. Takzvaná AI detekující emoce (známá také jako Emotion AI nebo afektivní výpočetní technika) využívá algoritmy k analýze našich mimických výrazů, tónu hlasu, textových zpráv a dokonce i tělesných signálů, aby odhadla lidské emoce. Příslib je lákavý: intuitivnější aplikace, empatické roboty a personalizované zážitky, které reagují na naši náladu. Jak se však tato technologie přesouvá z výzkumných laboratoří do pracovišť, škol a veřejných prostor, vyvolává velké otázky. Jak přesně tyto AI „čtečky myšlenek“ fungují? Kde se dnes používají? A proč jsou někteří odborníci stejně nadšení z možností, jako jsou jiní znepokojeni riziky? V této podrobné zprávě prozkoumáme, jak AI detekující emoce funguje, její reálné aplikace napříč odvětvími, nejnovější vývoj v letech 2024–2025 a etické otázky, které vyvolává – s využitím odborných poznatků a aktuálních faktů.

Co je AI detekující emoce a jak funguje?

AI detekující emoce označuje algoritmy, které rozpoznávají a interpretují lidské emoce z různých datových vstupů. V podstatě jde o to, dát strojům určitý druh emoční inteligence. Výzkumníci toto odvětví často nazývají afektivní výpočetní technika. Systémy AI se snaží „číst“ pocity prostřednictvím více kanálů:

Analýza obličeje: Jedním z nejběžnějších přístupů je využití počítačového vidění k analýze mimických výrazů. Kamera zachytí obraz (nebo video) obličeje člověka a AI nejprve detekuje obličej a klíčové body (oči, obočí, ústa atd.). Poté pomocí hlubokého učení (často konvolučních neuronových sítí) zkoumá pohyby svalů nebo „mikroexpresi“ a zařazuje mimický výraz do kategorie emocí viso.ai. Mnoho systémů je trénováno na rozpoznávání základních výrazů jako je radost, smutek, hněv, strach, překvapení, znechucení a neutralita botpenguin.com. Například usměvavá ústa a svraštělé oči mohou být označeny jako „radost“, zatímco svraštěné obočí může znamenat „hněv“ – i když, jak uvidíme, není to vždy tak jednoduché.
Analýza tónu hlasu: Kromě toho, co říkáme, může emoce vyjadřovat i jak to říkáme. Algoritmy rozpoznávání emocí v řeči analyzují zvukové vzorce v hlase mluvčího – například výšku, hlasitost, kadenci a tón. Modely AI analyzují tyto vokální rysy (intonaci, důraz, rytmus atd.), aby odhadly, zda člověk zní nadšeně, klidně, rozrušeně a podobně botpenguin.com. Například třesoucí se, vysoký tón může naznačovat strach nebo hněv, zatímco pomalý, monotónní tón může znamenat smutek nebo únavu. Některé systémy dokonce zachytí konkrétní slova nebo slovní signály (například roztřesené „jsem v pohodě“), které korelují s emočními stavy.
Analýza sentimentu textu: Emoce jsou také vyjadřovány v psaném projevu. AI dokáže provádět zpracování přirozeného jazyka (NLP) na textech – od příspěvků na sociálních sítích po e-maily nebo chatové zprávy – za účelem detekce sentimentu. Tradiční analýza sentimentu klasifikuje text jako pozitivní, negativní nebo neutrální. Novější emocionální AI jde dále a identifikuje konkrétní pocity z textu na základě volby slov, kontextu a interpunkce botpenguin.com. Například „Jsem naprosto nadšený!“ by bylo zaznamenáno jako velmi pozitivní (šťastný/nadšený), zatímco „Cítím se tak zraněný a sám…“ by mohlo být označeno jako smutné nebo rozrušené. Velké jazykové modely a speciálně trénované klasifikátory se používají k analýze emocionálního tónu za našimi slovy.
Další biometrické signály: Některé pokročilé systémy zahrnují také fyziologické a behaviorální signály. To může zahrnovat řeč těla (postoj, gesta), sledování očí (kam se díváte a jak se rozšiřují vaše zornice), srdeční tep, vodivost kůže nebo mozkové vlny pomocí nositelných zařízení. Tyto signály mohou naznačovat stres nebo vzrušení – např. zvýšený srdeční tep a zpocené dlaně mohou ukazovat na úzkost. V nejmodernějším výzkumu kombinuje multimodální emocionální AI mimiku, hlasové a fyziologické údaje pro komplexnější obraz trendsresearch.org. Například AI pro sledování řidiče v autě může použít kameru ke sledování vašeho obličeje a senzor ve volantu ke sledování srdečního tepu, aby rozpoznala známky ospalosti nebo vzteku za volantem.

Všechny tyto metody zahrnují strojové učení na velkých souborech dat lidských emocionálních projevů. AI modely jsou „trénovány“ na příkladech – obrázcích obličejů označených podle zobrazené emoce, zvukových nahrávkách označených podle nálady mluvčího atd. Postupem času se AI naučí vzorce, které spojují určité vstupy (konkrétní úsměv, tón hlasu) s pravděpodobnými emocemi. Je to v podstatě rozpoznávání vzorů: AI sama nic necítí, ale na základě signálů, které vysíláme, odhaduje naše pocity.

Je důležité poznamenat, že současné AI pro detekci emocí jsou obvykle omezeny na rozpoznávání několika širokých kategorií emocí nebo úrovní vzrušení. Lidské emoce jsou jemné a závislé na kontextu, což činí tento úkol pro AI velmi náročným. Přesto se technologie rychle zlepšuje. Kombinací počítačového vidění, analýzy řeči a NLP dokáže dnešní emocionální AI odhadnout emocionální stav člověka s mírnou přesností – za správných podmínek. Jak uvádí jedna zpráva, integrace více technik (obličej, hlas, text) umožňuje strojům interpretovat lidské emoce „s větší přesností“, což činí interakce přirozenějšími a pohotovějšími trendsresearch.org. V následujících sekcích se podíváme, jak jsou tyto schopnosti využívány v reálném světě a jak daleko se dostaly v letech 2024–2025.

Reálné aplikace napříč odvětvími

AI pro rozpoznávání emocí se přesunula z laboratoří do řady odvětví. Zde jsou některé z nejvýznamnějších aplikací a případů použití podle sektorů:

Zdravotnictví a wellness: AI pro rozpoznávání emocí je testována jako nástroj pro duševní zdraví a péči o pacienty. Například výzkumníci vyvinuli aplikace pro chytré telefony, které sledují tvář a hlas uživatelů kvůli známkám deprese nebo úzkosti home.dartmouth.edu. Jedna studie z roku 2024 představila MoodCapture, aplikaci, která využívá kameru telefonu k detekci raných příznaků deprese analýzou výrazu obličeje uživatele při každém odemknutí telefonu – ve zkouškách správně identifikovala změny nálady s přibližně 75% přesností home.dartmouth.edu. Terapeuti také zkoumají AI, která během terapeutických sezení naslouchá a vyhodnocuje emocionální stav pacienta podle tónu hlasu, což může včas upozornit, pokud někdo zní stále více rozrušeně. V nemocnicích mohou kamery rozpoznávající emoce sledovat úroveň bolesti nebo stresu pacientů, když nejsou přítomny sestry. A pro osoby s autismem může asistenční AI pro rozpoznávání emocí pomoci interpretovat výrazy ostatních – například nositelné zařízení nebo aplikace na tabletu, která dítěti s autismem napoví štítky jako „máma je šťastná“ nebo „táta vypadá rozrušeně“, což jim pomáhá učit se rozpoznávat emocionální signály mitsloan.mit.edu.
Marketing a zákaznická zkušenost: Firmy využívají emocionální AI k hlubšímu pochopení spotřebitelů. Inzerenti mohou testovat reklamy nebo produktová videa s panely diváků, kteří souhlasí s nahráváním přes webkameru; AI pak analyzuje obličejové reakce snímek po snímku, aby zjistila, které momenty lidi rozesmály, rozesmály nahlas nebo je nudily. Ve skutečnosti asi 25 % společností z žebříčku Fortune 500 použilo emocionální AI ve výzkumu reklamy k měření zapojení publika mitsloan.mit.edu. Přední firma v této oblasti, Affectiva (spoluzaložená vědci z MIT), umožňuje značkám zachytit podvědomé, „viscerální“ reakce diváků na reklamy a korelovat je se skutečným chováním, například zda reklamu sdílejí nebo si produkt koupí mitsloan.mit.edu. Mimo reklamy zkoumají maloobchodníci kamery detekující emoce v obchodech, aby zjistili spokojenost zákazníků (zanechala vás tato interakce se službou naštvané nebo šťastné?). Online se chatboti vybavení analýzou sentimentu snaží upravit své odpovědi podle nálady zákazníka – například předat konverzaci lidskému agentovi, pokud uživatel zní naštvaně. Dokonce i fyzické billboardy zkoušely analytiku emocí: v Brazílii interaktivní systém reklam v metru využíval kamerové záznamy ke klasifikaci výrazů cestujících (šťastný, neutrální, překvapený, nespokojený) a poté v reálném čase měnil obsah reklamy, aby lépe odpovídal náladě davu research.aimultiple.com.
Vzdělávání: Učebny a e-learningové platformy experimentují s AI, která má zjišťovat emoce a pozornost studentů. Cílem je vytvořit responzivní vzdělávací prostředí. Například online doučovací společnost v Indii použila rozpoznávání emocí prostřednictvím webkamer studentů ke sledování zapojení a únavy během živých hodinresearch.aimultiple.com research.aimultiple.com. Systém sledoval pohyby očí a mimiku, aby vytvořil „skóre pozornosti“, které pomáhalo učitelům zjistit, kdy studenti ztrácejí soustředění. V některých vysoce technologických učebnách byly (kontroverzně) použity kamery ke snímání tváří studentů za účelem rozpoznání známek zmatení nebo nudy, aby učitelé mohli upravit své lekce legalblogs.wolterskluwer.com. Dokonce existují zprávy z Číny o školách, které pilotně testují kamery s rozpoznáváním obličejů, jež zaznamenávají emoční stavy studentů (například štěstí nebo hněv) během celého dne businessinsider.com. Teoreticky by takové nástroje mohly personalizovat vzdělávání – tutorbot by mohl nabídnout povzbuzení, pokud zaznamená frustraci – ale zároveň vyvolávají debaty o dohledu (více o tom později).
Automobilový průmysl: Výrobci automobilů začleňují emoční AI do vozidel za účelem zvýšení bezpečnosti a zlepšení zážitku z jízdy. Systémy monitorování řidiče používají kamery na palubní desce ke sledování vaší tváře a držení těla, aby zjistily ospalost nebo rozptýlení. Pokud AI zaznamená pokleslá víčka nebo povolené držení těla (známky únavy), může spustit varování. Luxusní značky jdou ještě dál a snaží se zjistit emoční stav řidiče: například rozpoznat, zda je řidič rozrušený nebo naštvaný (silniční vztek), a poté zasáhnout – třeba ztlumit hudbu nebo dokonce omezit rychlost auta mitsloan.mit.edu. Affectiva, nyní součást Smart Eye, má automobilovou AI platformu, která monitoruje jak řidiče, tak pasažéry. Umí rozpoznat, zda se řidič směje nebo hádá, nebo zda jsou pasažéři nervózní, a podle toho upravit nastavení vozu (představte si, že auto zpřísní bezpečnostní systémy, pokud zaznamená stres) mitsloan.mit.edu. V poloautonomních vozech může emoční AI rozhodnout, zda jste příliš rozptýlení na to, abyste převzali řízení. Využití v automobilovém průmyslu je zaměřeno na využití rozpoznávání emocí ke zvýšení bezpečnosti, pohodlí a personalizace na silnici.
Zábava a hraní her: Zábava se díky emoční AI stává interaktivnější. Vývojáři videoher začali vytvářet hry, které reagují na emoce hráče. Významným příkladem je „Nevermind,“ psychologický thriller, který využívá webkameru hráče (nebo biofeedback senzor) ke zjištění stresu – pokud zjistí, že se bojíte, hra se skutečně stává náročnější a přidává více lekavých momentů, zatímco pokud zůstanete klidní, hra poleví research.aimultiple.com. Vzniká tak dynamický hororový zážitek, který se přizpůsobuje vaší úrovni strachu. Ve filmu a televizi studia testují sledování obličejů u testovacích diváků, aby zjistila jejich emoční reakce na scény (překvapil diváky dějový zvrat? Zasmáli se komedii?). Zkoumá se také personalizovaný obsah: představte si streamovací službu, která může pomocí kamery vašeho notebooku sledovat váš obličej a doporučovat filmy podle vaší aktuální nálady (některé cestovní weby dokonce zkoušely doporučovat destinace na základě výrazu uživatele research.aimultiple.com). Zatímco rozšířená doporučení obsahu podle nálady jsou stále experimentální, spojení AI se zábavou slibuje nové formy pohlcujících, interaktivních médií.
Prosazování práva a bezpečnost: Rozpoznávání emocí je zvažováno pro bezpečnostní aplikace, i když tato oblast je nejkontroverznější. Některá policejní oddělení zvažovala AI, která skenuje živé záběry z CCTV nebo záznamy z tělových kamer, aby označila „podezřelé“ chování nebo možnou agresi. Například algoritmy mohou analyzovat hlasové záznamy kvůli stresu nebo hněvu, aby zjistily, kdy by se volající na tísňovou linku nebo osoba ve vazbě mohla stát agresivní. Existují „detektory agrese“ určené pro veřejnou bezpečnost, které poslouchají naštvané tóny nebo křik, aby předem upozornily bezpečnostní službu na možné rvačky. V Číně společnost Taigusys vyvinula AI dohledový systém, který sleduje obličeje zaměstnanců v kancelářích en masse a tvrdí, že dokáže zjistit, jak se každý člověk cítí – zda je zaměstnanec šťastný, neutrální, naštvaný nebo ve stresu businessinsider.com. Systém dokonce tvrdí, že pozná, když se jen přetvařujete, a generuje zprávy o pracovnících, kteří vykazují příliš mnoho „negativních“ emocí, což naznačuje, že by mohli potřebovat zásah nebo být něčím podezřelí businessinsider.com. Věznice testovaly podobné technologie ke sledování emočních stavů vězňů. Pohraniční kontroly v některých zemích zkoušely AI detektory lži, které sledují mikroexpresi cestujících kvůli „známkám klamání“. A policejní výslechy experimentují s hlasovou analytikou, která se snaží zjistit, zda je podezřelý nervózní. Nicméně žádná policejní složka se na tyto nástroje nespoléhá jako na jediný důkaz – i zastánci tvrdí, že by měly být pouze doplňkové. Jak si povíme, odborníci zde vyzývají k maximální opatrnosti, protože falešné výsledky (např. AI mylně označí nevinného člověka za „naštvaného“ nebo „klamajícího“) mohou mít v oblasti spravedlnosti a bezpečnosti vážné důsledky.

Napříč všemi těmito odvětvími je hnací myšlenkou to, že pokud stroje dokážou rozumět našim emocím, mohou s námi komunikovat přirozeněji a efektivněji. AI lektor, který rozpozná frustraci, může přeformulovat lekci. Chatbot zákaznické podpory, který slyší netrpělivost ve vašem hlase, může okamžitě přivolat lidského manažera. Auto, které ví, že jste unavení, vás může povzbudit nebo převzít řízení. Emotion AI si v podstatě klade za cíl učinit technologie empatičtějšími, přizpůsobovat se lidem místo toho, aby lidé museli přizpůsobovat se strojům trendsresearch.org. Je to fascinující hranice – a rychle se posouvá vpřed, jak ukazuje následující část s nejnovějším vývojem.

Nejnovější vývoj a novinky (2024–2025)

AI pro rozpoznávání emocí zaznamenala rychlý rozvoj v posledních dvou letech, od technických průlomů po regulační odpor. Zde jsou některé z významných nedávných trendů a novinek:

Rostoucí investice a startupy: Svět byznysu upírá pozornost na emocionální AI. Odborní analytici uvádějí, že „emotion AI“ se stává žhavým trendem v podnikových softwarových řešeních, zejména jak firmy nasazují více chatbotů a virtuálních asistentů, kteří potřebují emoční vnímavost techcrunch.com. Nedávná výzkumná zpráva PitchBook předpovídá, že adopce emotion AI poroste, aby interakce s AI byly více lidské techcrunch.com. Do tohoto sektoru proudí rizikový kapitál: například přední společnost v oblasti konverzační AI, Uniphore, získala více než 600 milionů dolarů (včetně kola ve výši 400 milionů dolarů v roce 2022) na vývoj AI, která dokáže číst emoce zákazníků během servisních hovorů techcrunch.com. Do tohoto oboru vstupuje řada startupů – společnosti jako MorphCast, audEERING, Voicesense, SuperCEED, Siena AI, a další vyvíjejí nástroje pro analýzu mimiky a hlasových projevů ve velkém měřítku techcrunch.com. Tržní prognózy tento trend potvrzují: jedna zpráva odhaduje, že globální trh detekce a rozpoznávání emocí vzroste z přibližně 3–4 miliard dolarů v roce 2024 na více než 7 miliard během pěti let technologyslegaledge.com, a jiná analýza předpovídá nárůst až na 173 miliard dolarů do roku 2031 (ačkoliv se tyto odhady liší) research.aimultiple.com. Je zřejmé, že mnoho firem vidí v AI, která dokáže odhadnout pocity, obchodní potenciál – ať už pro zvýšení prodeje, zlepšení spokojenosti zákazníků, nebo zvýšení bezpečnosti.
Nové technologické možnosti: Na poli výzkumu se AI stále více zlepšuje v porozumění nuancovaným emocím. Výrazným příkladem v roce 2024 byl projekt na Univerzitě v Groningenu, kde byla AI trénována na rozpoznávání sarkasmu v mluveném jazyce theguardian.com. Systému byly předkládány scénáře z televizních seriálů jako Přátelé a Teorie velkého třesku, aby se naučil rozpoznávat hlasové vzorce sarkastické řeči (např. přehnaný tón nebo protahování). Model dokázal identifikovat sarkasmus v audiozáznamech s přibližně 75% přesností theguardian.com. To je významné, protože sarkasmus je pro algoritmy (a někdy i pro lidi!) notoricky obtížné rozpoznat, přesto je klíčový pro pochopení skutečných emocí v komunikaci. Pokrok v těchto oblastech ukazuje, že emocionální AI se posouvá za hranice pouhého rozpoznávání „šťastný vs. smutný“ směrem ke složitějším sociálním signálům. Stejně tak se zlepšují multimodální modely: vidíme AI, která kombinuje text, hlas a mimiku pro kontextově citlivější čtení emocí. Společnosti jako Hume AI (založená bývalým výzkumníkem Googlu) vyvíjejí empatická hlasová rozhraní, která reagují nejen na co říkáte, ale i jak to říkáte, s cílem, aby konverzace s AI působily emocionálně vnímavěji theguardian.com. Hume dokonce zřídil etickou radu, která má řídit vývoj „empatické AI“ theguardian.com, což uznává potřebu opatrného postupu. Na straně hardwaru jsou kamery a senzorová technologie všudypřítomné a levné, což znamená, že je snazší než kdy dříve integrovat schopnosti rozpoznávání emocí do telefonů, aut a chytrých domácích zařízení.
Hlavní proud přijetí & kontroverze: Jak se AI na rozpoznávání emocí rozšiřuje, naráží také na určité překážky. Jeden z nejznámějších příkladů: gigant v oblasti videokonferencí Zoom údajně zvažoval přidání funkcí pro detekci emocí (například informování hostitelů schůzek, zda jsou účastníci zapojení nebo rozptýlení) – ale po veřejné kritice ohledně soukromí Zoom v polovině roku 2022 oznámil, že „nemá v plánu“ takovou AI pro sledování emocí zavádět. Podobně platforma pro nábor zaměstnanců HireVue začala používat AI k analýze mimiky uchazečů o práci během video pohovorů, ale do roku 2021 tuto složku analýzy tváře opustila kvůli vědecké kritice a obavám veřejnosti. Tyto události připravily půdu pro rok 2024, kdy už samotná myšlenka rozpoznávání emocí v pracovních nebo spotřebitelských aplikacích zvedá obočí (a ne takové, jaké by měla AI sledovat). Ve zprávách stále vidíme obavy ze zneužití: například zprávy, že čínské technologické firmy nasazují rozpoznávání emocí na zaměstnance, vyvolaly mezinárodní kritiku businessinsider.com. A zatímco někteří dodavatelé propagují „AI na detekci lži“ pro bezpečnost, odborníci mnohé z nich vyvrátili jako jen o málo lepší než náhoda.
Regulační kroky: Možná největším vývojem v roce 2024 je, že vlády začaly zasahovat do oblasti emoční AI. V květnu 2024 Evropská unie dokončila EU AI Act, rozsáhlý zákon na regulaci umělé inteligence. Tento zákon zejména zakazuje používání AI pro rozpoznávání emocí v reálném čase v určitých kontextech jako „nepřijatelné riziko“ pro lidská práva theguardian.com. Konkrétně EU zakáže AI systémy, které tvrdí, že dokážou odhadnout emoce lidí na pracovištích, ve školách nebo jiných veřejných institucích (s úzkými výjimkami, jako je zdravotnictví nebo bezpečnost) legalblogs.wolterskluwer.com. Zákonodárci EU dospěli k závěru, že rozpoznávání emocí v takových prostředích je invazivní a nespolehlivé a může vést k nespravedlivým výsledkům. (Udělali rozdíl mezi AI, která pouze identifikuje vnější výraz člověka – což by mohlo být povoleno – a AI, která skutečně prohlašuje, co daný člověk cítí uvnitř, což by bylo zakázáno theguardian.com.) Tento právní postoj, jeden z prvních svého druhu, odráží rostoucí skepsi mezi tvůrci politik ohledně platnosti a etiky emoční AI. V USA neexistuje federální zákaz, ale některé jurisdikce zvažují omezení a ACLU a další skupiny pro občanská práva vyzvaly k zastavení používání rozpoznávání emocí v policejní práci a zaměstnání aclu.org, businessinsider.com. Skutečnost, že regulátoři zařadili emoční AI do stejné kategorie jako sociální skórování a podprahovou manipulaci (také zakázané EU Act) vysílá jasný signál: v roce 2025 a dále lze očekávat přísnější dohled a standardy pro jakoukoli AI, která tvrdí, že dokáže číst naše pocity.

Shrnuto, uplynulý rok či dva byly zásadní. AI detekující emoce je rozšířenější než kdy dříve, tiše proniká do zákaznických služeb, aut a aplikací – a zároveň je více zpochybňována než kdy dříve, protože odborníci a regulátoři šlapou na brzdu. Jak technologie dozrává, očekávejte ještě více debat o tom, zda AI může skutečně porozumět lidským emocím, a pokud ano, kdo bude mít právo tuto schopnost využívat. Tyto otázky nás vedou přímo k dalšímu tématu: etickým úvahám.

Etické úvahy a obavy

Vzestup AI pro rozpoznávání emocí vyvolal intenzivní etické diskuse. Čtení emocí člověka není jako měření teploty – zasahuje do osobních, často soukromých aspektů našich životů. Zde jsou hlavní obavy, které odborníci a obhájci zmiňují:

Spolehlivost a vědecká platnost: Zásadní otázkou je, zda tyto systémy skutečně fungují tak, jak tvrdí. Lidské emoce jsou složité, závislé na kontextu a ne vždy jsou viditelné na povrchu. Psychologové varují, že neexistuje jednoduché jednosměrné přiřazení mezi výrazem obličeje a vnitřním pocitem. Člověk se může usmívat, když je smutný, nebo se mračit, když se soustředí – výrazy se liší mezi jednotlivci i kulturami. V roce 2019 rozsáhlý přehled více než 1 000 studií vedený psycholožkou Lisou Feldman Barrett dospěl k závěru, že „emocionální stav člověka nelze spolehlivě odvodit pouze z pohybů obličeje“ aclu.org. Uvádí názorný příklad: „Mračící se obličej může, ale nemusí být výrazem hněvu… lidé se mračí, když jsou naštvaní, ale také když jsou zmatení nebo mají nadýmání!“aclu.org. Stručně řečeno, kontext je u emocí nesmírně důležitý a AI obvykle kontext nemá. Barrettová a další tvrdí, že dnešní algoritmy jsou velmi dobré v detekci pohybů obličejových svalů nebo intonace hlasu, ale nemohou skutečně vědět, co tyto projevy emocionálně znamenají aclu.org. Jak řekla v jednom rozhovoru přímo: „Neexistuje žádné automatizované rozpoznávání emocí. Nejlepší algoritmy dokážou rozpoznat výraz obličeje, ale nejsou vybaveny k tomu, aby odvodily, co znamená“ aclu.org. Tato skepse je ve vědecké komunitě rozšířená. Bez jasné, sjednocené definice emocí i mezi psychology je budování AI, která je má rozpoznávat, na vratkých teoretických základech theguardian.com. V praktické rovině to přináší riziko špatné interpretace: pokud AI nesprávně označí člověka za „naštvaného“ nebo „klamavého“ na základě špatně přečteného signálu, může to vést k nespravedlivým důsledkům (označení bezpečností, zamítnutí na pohovoru atd.). Jednoduše řečeno, kritici tvrdí, že současná technologie rozpoznávání emocí je v nejlepším případě přibližná – a v nejhorším digitální frenologie (pavěda), zvláště pokud se používá k posuzování jednotlivců article19.org.
Zaujatost a férovost: Stejně jako mnoho jiných AI systémů mohou algoritmy pro detekci emocí odrážet a dokonce zesilovat předsudky přítomné ve svých tréninkových datech. Jedním z hlavních problémů je kulturní a rasová zaujatost. Pokud je AI primárně trénována například na západních subjektech, kteří projevují učebnicové výrazy, může špatně interpretovat lidi z odlišných etnických nebo kulturních prostředí. Existují důkazy, že se to již děje. Studie z roku 2023 zjistila, že některé komerční systémy pro rozpoznávání emocí konzistentně hodnotily výrazy obličeje černochů jako negativnější nebo naštvanější ve srovnání s jinými skupinami theguardian.com. Jinými slovy, neutrální výraz na tváři černocha může být AI interpretován jako „naštvaný“, zatímco u bělocha by to AI neudělala – což je znepokojivá zaujatost s jasnými důsledky například pro bezpečnostní kontroly nebo hodnocení na pracovišti theguardian.com. „Vaše algoritmy jsou jen tak dobré, jak dobrý je tréninkový materiál,“ poznamenává Barrett. „Pokud je váš tréninkový materiál zaujatý, zakotvujete tuto zaujatost do kódu.“ theguardian.com. Kultura také ovlivňuje, jak vyjadřujeme emoce: úsměv může znamenat různé věci v různých kontextech a gesta či tón hlasu nejsou univerzální. Erik Brynjolfsson z MIT varuje, že technologie rozpoznávání emocí musí být citlivá na rozmanitost: „Rozpoznat emoce na tváři Afroameričana může být pro stroj trénovaný na bělošských tvářích obtížné. A gesta nebo intonace v jedné kultuře mohou znamenat něco úplně jiného v jiné“ mitsloan.mit.edu. Pokud tyto nuance nebudou zohledněny, technologie by mohla systematicky špatně interpretovat nebo znevýhodňovat určité skupiny – v podstatě zakódovat předsudky pod záminkou „čtení emocí“. Zaujatost se netýká jen demografie; existuje také kontextová zaujatost (například AI v hlučném prostředí může interpretovat zvýšené hlasy jako hněv, i když je tam jen hluk). Zajištění férovosti v AI pro rozpoznávání emocí je obrovská výzva a dosud mnoho systémů nedokázalo prokázat, že fungují stejně dobře pro všechny lidi.
Sledování a soukromí: Emoční AI často zahrnuje neustálé monitorování výrazů, hlasů nebo fyziologických signálů lidí – což vyvolává zřejmé obavy o soukromí. Obava spočívá v tom, že by to mohlo umožnit novou úroveň invazivního sledování, kdy se naše vnitřní emoce stanou sledovatelnými datovými body. Například na pracovištích by se zaměstnanci mohli cítit, že jsou pod emocionálním mikroskopem, posuzováni nejen podle výkonu, ale i podle toho, zda se dostatečně usmívají nebo zní dostatečně „nadšeně“. Toto není sci-fi; v některých místech se to již děje. Čínský systém „úsměv za skóre“, zmíněný dříve, je hlavním příkladem – pracovníci se bojí mračit nebo vypadat unaveně, protože AI sleduje a nahlásí „špatný přístup“ šéfům businessinsider.com. Takové praktiky vytvářejí represivní prostředí a narušují osobní autonomii. I mimo pracoviště si představte veřejné kamery, které nejen rozpoznají váš obličej, ale také vás označí jako „nervózního“ nebo „rozrušeného“, když jdete kolem. Tato data by mohla být zneužita k profilování. Na rozdíl od čtení teploměru může být čtení emocí hluboce manipulativní – lidé se často snaží své skutečné pocity na veřejnosti skrývat z dobrých důvodů (soukromí, zdvořilost) a když je AI odhaluje, působí to orwellovsky. Ochránci soukromí upozorňují, že lidé nedali souhlas, aby jejich emoce byly zkoumány kamerami v obchodních centrech nebo policejním CCTV. Přesto je software na rozpoznávání emocí do některých bezpečnostních systémů přidáván bez vědomí veřejnosti. Je tu také otázka bezpečnosti dat: emocionální data (videa obličejů, hlasové nahrávky) jsou citlivé biometrické informace. Pokud jsou shromažďována a ukládána, kdo je chrání a jak dlouho? Únik nebo hacknutí emocionálních dat (například nahrávky z terapeutických sezení nebo kamerové záznamy označené náladou osoby) by mohlo být velmi škodlivé. Stručně řečeno, proměna našich emocionálních životů v datové toky představuje „mocnou novou formu sledování,“ jak uvedla jedna analýza Guardianu theguardian.com. Tato obava vede k požadavkům na přísná omezení, kde takové monitorování může probíhat.
Souhlas a autonomie: S ochranou soukromí úzce souvisí otázka souhlasu. Měli by lidé muset aktivně souhlasit s tím, aby AI analyzovala jejich emoce? Mnozí tvrdí, že ano – analýza emocí je natolik osobní, že vyžaduje výslovné povolení. Některé společnosti skutečně používají modely opt-in. Například politika společnosti Affectiva pro testování reklam je zaznamenávat a analyzovat pouze diváky, kteří dali souhlas a byli informováni, a zakazují použití technologie pro tajné sledování nebo jakoukoli identifikaci jednotlivců mitsloan.mit.edu. Ne každý dodavatel je však tak přísný a v praxi se zaměstnanci nebo studenti nemusí cítit, že mohou odmítnout, pokud zaměstnavatel nebo škola nařídí program monitorování emocí (představte si, že vám v práci řeknou, abyste nosili náramek snímající emoce). To vyvolává obavy z nátlaku. Budou v budoucnu pracovníci nuceni udržovat určitý emocionální projev (např. vždy znít „šťastně“ při hovorech), protože je AI sleduje? To už zasahuje do otázek lidské důstojnosti a svobody cítit bez analýzy. Z etického hlediska mnozí tvrdí, že jednotlivci musí mít kontrolu nad svými vlastními emocionálními daty. Měli byste mít právo nechat si své emoce pro sebe, nebo alespoň rozhodovat, kdo/co je může detekovat. Bez jasného souhlasu se rozpoznávání emocí stává nevítaným zásahem do našeho duševního soukromí – někteří vědci to nazývají „mentální suverenita“. Je povzbudivé, že nový zákon EU výslovně zakazuje AI pro rozpoznávání emocí na pracovištích a ve školách bez ohledu na souhlas (kvůli nerovnováze moci je skutečně dobrovolný souhlas pochybný) williamfry.com, legalblogs.wolterskluwer.com. To naznačuje tendenci chránit lidi před nátlakem k emoční transparentnosti. Jak se tato technologie šíří, trvání na souhlasu – a dávání lidem možnosti vypnout ji – může být klíčové pro zachování osobní autonomie.
Manipulace a zneužití: Dalším etickým rozměrem je, jak by poznatky z oblasti emoční AI mohly být použity k ovlivňování nebo zneužívání lidí. Emoce pohánějí mnoho našich rozhodnutí a pokud firmy nebo političtí aktéři dokážou rozpoznat naše pocity, mohou přizpůsobit sdělení tak, aby nás zasáhla na citlivých místech. Nízkotechnologickou verzi tohoto jsme viděli ve skandálu Cambridge Analytica, kdy byla data z Facebooku použita k psychologickému profilování voličů a cílení reklam s cílem vyvolat emocionální reakce. Emoční AI by mohla takové taktiky výrazně posílit – v podstatě umožnit „masovou emocionální manipulaci“. Jak varuje Randi Williams z Algorithmic Justice League, „Když máme AI, která proniká do těch nejlidských částí nás samých, existuje vysoké riziko, že budou jednotlivci manipulováni pro komerční nebo politický zisk.“ theguardian.com. Například marketingová AI si může všimnout, že se v určitý večer cítíte trochu sklesle (zjištěno pomocí vašich chytrých domácích zařízení), a aplikace vám v tu chvíli okamžitě zobrazí reklamu na jídlo pro útěchu nebo nákupní terapii. Nebo autoritářská vláda by mohla použít rozpoznávání emocí při televizních projevech: pokud obyvatelstvo nevypadá dostatečně nadšeně, možná je čas zesílit propagandu nebo prověřit odpůrce. Tyto scénáře zní dystopicky, ale právě takovým případům zneužití chtějí odborníci zabránit už nyní, než k nim dojde. I v mírnějších formách vyvolává emocionální postrkování etické otázky – je v pořádku, aby se videohra záměrně snažila vás více vyděsit, když ví, že se bojíte, jako v příkladu hororové hry? Někteří řeknou, že pro zábavu je to v pořádku; jiní se obávají psychologických dopadů. Hlavní je, že emoční AI poskytuje nový nástroj k ovlivňování lidského chování, a bez regulací nebo etických mantinelů by tento nástroj mohl být použit i temným směrem (například „emocionální manipulace“ je výslovně uvedena jako zakázané použití v etických zásadách Hume AI theguardian.com). Klíčová je transparentnost: pokud jsou emocionální data použita k ovlivnění výsledků (například když vás AI při přijímacím pohovoru odmítne, protože si myslí, že vám chyběla „vášeň“), měl by o tom člověk vědět a mít možnost se proti tomu bránit.
Regulace a odpovědnost: Vzhledem ke všem těmto obavám sílí výzvy k regulaci AI detekující emoce. Zákaz EU v určitých oblastech je jedním z přístupů – v podstatě říká, že některá použití jsou zakázána. Jinde odborníci navrhli vyžadovat důkladnou validaci a auditování všech nasazených systémů AI na rozpoznávání emocí, aby prokázaly, že jsou přesné a nestranné (což je vysoká laťka, kterou mnozí nemusí splnit). Organizace jako ACLU a Article 19 prosazují úplné moratorium na rozpoznávání emocí v citlivých oblastech a označují jej za nevědecké a neslučitelné s lidskými právy article19.org, businessinsider.com. Dalším aspektem regulace je ochrana dat: protože emocionální data mohou být považována za biometrická nebo zdravotní data, mohla by spadat pod zákony o ochraně soukromí, jako je GDPR, což by vyžadovalo přísný souhlas, omezení účelu a zabezpečení. Regulátoři také diskutují o tom, zda by lidé měli mít právo odmítnout účast na sledování emocí na veřejnosti a právo nebýt hodnoceni automatizovanými „emočními skóre“. Na druhé straně některé průmyslové skupiny prosazují standardy, které by umožnily AI na rozpoznávání emocí používat odpovědným způsobem (například IEEE zkoumala etické směrnice pro adaptivní systémy reagující na emoce). Je zřejmé, že technologie zatím předběhla pravidla, ale rok 2024 znamená zlom. Vlády začínají rozpoznávání emocí vnímat jako samostatnou kategorii AI, která potřebuje dohled. V příštích letech můžeme očekávat více politik, které se budou snažit vymezit hranice toho, jak a kde lze tyto nástroje používat – a vymáhat odpovědnost těch, kdo je používají. Koneckonců, pokud AI systém učiní emoční posouzení, které někomu uškodí (například jej bezdůvodně označí za „vysoké riziko“), kdo za to nese odpovědnost? Tyto zapeklité otázky stále čekají na odpověď.

Nakonec se etika zjednodušuje na jednoduchý princip: jen proto, že můžeme se pokusit číst emoce pomocí AI, měli bychom to dělat? A pokud ano, za jakých podmínek? Zastánci věří, že technologie má humánní a prospěšné využití (zejména se souhlasem a opatrností), zatímco kritici se obávají, že samotný princip je chybný a náchylný ke zneužití. To nás přivádí k závěrečné části, kde uslyšíme přímo od odborníků z obou stran této debaty.

Názory odborníků

S AI na rozpoznávání emocí na rozcestí inovací a kontroverzí je poučné slyšet, co na to říkají přední osobnosti v oboru. Odborníci jsou rozděleni – někteří vidí transformační potenciál, jiní vyzývají k maximální opatrnosti. Zde je několik názorů jejich vlastními slovy:

Optimisté a inovatoři: Mnoho průkopníků afektivní informatiky tvrdí, že vybavení strojů emoční inteligencí může zásadně zlepšit interakci mezi člověkem a strojem. „Přemýšlejte o tom, jak komunikujete s ostatními lidmi; díváte se jim do tváře, sledujete jejich tělo a podle toho měníte svou interakci,“ vysvětluje Javier Hernandez, výzkumník ze skupiny Affective Computing na MIT. „Jak může stroj efektivně komunikovat, když nezná váš emoční stav?“ mitsloan.mit.edu. Tato skupina věří, že emoční AI může učinit technologie vnímavějšími, personalizovanějšími a dokonce soucitnějšími. Rana el Kaliouby, která spoluzaložila Affectivu a prosazuje „humanizaci technologií“, poukazuje na to, že naše emoce jsou jádrem toho, jak se rozhodujeme a navazujeme spojení. Vidí AI jako podpůrného partnera: „Paradigma není člověk versus stroj – jde skutečně o to, aby stroj rozšiřoval možnosti člověka,“ říká el Kaliouby a zdůrazňuje, že AI by měla rozšiřovat lidské schopnosti, ne je nahrazovat mitsloan.mit.edu. Podle ní, pokud AI nasadíme správným způsobem, může například pomoci řidičům zůstat v bezpečí, lékařům lépe porozumět pacientům nebo zákazníkům cítit se vyslyšeni. El Kaliouby je nadšená z využití emoční AI pro dobro – často zmiňuje projekty jako využití emoční analýzy k pomoci dětem s autismem nebo k včasné detekci problémů s duševním zdravím. A navzdory obavám, když se jí zeptali, zda bychom tuto technologii vůbec měli mít, její odpověď je rozhodné ano. „Rozhodně ano,“ řekla v roce 2024 – protože vedle rizik „AI nabízí úžasná řešení největších výzev lidstva.“ asisonline.org Její postoj, stejně jako postoj mnoha v průmyslu, je, že bychom neměli vylévat vaničku i s dítětem. Místo toho volají po vývoji zodpovědné, na člověka zaměřené emoční AI – s důrazem na dobrovolnost, transparentnost a rozmanitost – aby bylo možné realizovat přínosy (bezpečnější silnice, lepší zdravotní péče, poutavější vzdělávání atd.). Jak říká el Kaliouby, „Každé odvětví je transformováno … pomocí AI,“ a emoční AI, pokud bude provedena správně, „může tyto transformace učinit empatičtějšími.“ asisonline.org Zastánci uznávají výzvy, ale obecně se domnívají, že je lze zmírnit promyšleným designem a politikou, nikoli úplným opuštěním technologie.
Skeptici a kritici: Na druhé straně zaznívá sbor vědců a etických odborníků, kteří nás vyzývají, abychom zpomalili nebo dokonce zastavili technologie rozpoznávání emocí, varujíce, že stojí na chatrných vědeckých základech a nesou s sebou nepřijatelné riziko. Už jsme slyšeli výzkumem podložený skepticismus profesorky Lisy Feldman Barrett, že výrazy obličeje nelze spolehlivě mapovat na emoce. Barrett přímo vyvrací tvrzení mnoha dodavatelů: „Většina firem stále tvrdí, že se můžete podívat na obličej a poznat, zda je někdo naštvaný nebo smutný… To zjevně není pravda.“ theguardian.com Obává se, že ať už jsou tyto systémy dobře míněné nebo ne, budou chybovat – a lidé budou špatně posouzeni. Další hlasitou kritičkou je Vidushi Marda z organizace Article 19 (skupina pro digitální práva), která studovala nasazení rozpoznávání emocí v Číně a uvedla, že tento obor je „v zásadě založen na nevědeckých představách“ a že nasazení těchto systémů ve velkém měřítku je „hluboce neetické.“ businessinsider.com Ochránci soukromí jako Evan Selinger označili rozpoznávání emocí za „nejnebezpečnější AI, o které jste nikdy neslyšeli,“ a tvrdí, že může vést k novým formám diskriminace a manipulace. A nejde jen o akademiky: pochybnosti mají i lidé z technologického průmyslu. V rozhovoru pro TechCrunch Andrew Moore, bývalý šéf Google Cloud AI, varoval, že AI schopná rozumět emocím je „minimálně deset let vzdálená od spolehlivosti“ a že zneužití předtím by mohlo podkopat důvěru v AI jako celek. Tito experti často doporučují přísná omezení. ACLU zašla až tak daleko, že podpořila zákazy, přičemž analytik Daniel Kahn Gillmor napsal: „Minimálně by nikdo neměl přijít o svá práva nebo živobytí na základě AI odhadující emoce“. Z jejich pohledu potenciální škody – nesprávná zatčení, zaujaté přijímání do zaměstnání, narušení duševního soukromí – převažují nad nejistými přínosy. Také zdůrazňují, že i lidé sami mají problém správně číst emoce druhých napříč kulturami a kontexty, takže očekávat to od stroje je pošetilé. V podstatě skeptici vyzývají společnost, aby zmáčkla pauzu, nejprve požadovala solidní důkazy a etické rámce a pamatovala, že emoce jsou intimně lidské – možná něco, co nechceme, aby stroje analyzovaly.

Je zajímavé, že obě skupiny nakonec usilují o lepší budoucnost, ale liší se v přístupu. Optimisté se zaměřují na potenciální přínosy (empatie v AI, zlepšení pohody), zatímco skeptici se soustředí na předcházení škodám (nespravedlnost, ztráta soukromí). Existují také umírnění, kteří uznávají potenciál technologie, ale trvají na přísných zárukách. Například Erik Brynjolfsson prosazuje vývoj emoční AI uváženě a říká, že „je důležité si uvědomit, že když je používána uvážlivě, konečné přínosy mohou a měly by převyšovat náklady“, ale ihned dodává, že musí být „vhodná pro všechny lidi“ a kulturně citlivá mitsloan.mit.edu. Tento střední přístup pravděpodobně zahrnuje silnou regulaci, transparentnost firem a pokračující výzkum přesnosti těchto systémů.

Závěrem, umělá inteligence, která detekuje emoce, se nachází na fascinujícím průsečíku technologií, psychologie a etiky. Její zastánci věří, že může naše zařízení a služby mnohem lépe přizpůsobit našim potřebám – od aut, která nás uklidní, až po aplikace, které poznají, kdy máme potíže, a nabídnou pomoc. Její kritici oprávněně varují, že žádná AI by neměla hrát roli terapeuta, soudce ani špeha – číst naše pocity způsoby, které mohou být zavádějící nebo utlačující. Pravda možná závisí na tom, jak se rozhodneme ji používat. K roku 2025 je AI detekující emoce zde a rozvíjí se, ale je také pod pečlivým dohledem. Viděli jsme skutečné přínosy v některých oblastech (například monitorování duševního zdraví a adaptivní vzdělávání), ale také skutečný odpor (nové zákony a zákazy v reakci na zneužití).

Do budoucna bude muset společnost najít opatrnou cestu: požadovat solidní vědecké základy a spravedlnost u všech nástrojů pro rozpoznávání emocí, vymezit bezpečné soukromé prostory bez emočního dohledu a demokraticky rozhodnout, kde má být hranice mezi užitečnou empatií a škodlivým narušením soukromí. Jedno je jisté: tato debata teprve začíná. AI se možná zlepšuje v rozpoznávání, zda jste hodní nebo zlobiví – ale je na nás všech, abychom zajistili, že tato mocná schopnost bude využívána způsobem, který respektuje lidskou důstojnost a zlepšuje naše životy, nikoli je zmenšuje.

Zdroje:

Oscar Holland, „Jste z 80 % naštvaní a z 2 % smutní? Proč je ‚emoční AI‘ plná problémů,“ The Guardian (23. června 2024) theguardian.comValeria Vasquez a další, „Zákaz technologií rozpoznávání emocí AI na pracovišti podle zákona o AI,“ Wolters Kluwer – Global Workplace Law (únor 2025) legalblogs.wolterskluwer.comCheryl Teh, „‚Každý úsměv, který předstíráte‘ — systém rozpoznávání emocí AI může posoudit, jak ‚šťastní‘ jsou pracovníci v Číně v kanceláři,“ Business Insider (16. června 2021) businessinsider.comAIMultiple Research Team, „Top 10+ příkladů a případů použití emoční AI v roce 2025,“ AIMultiple (aktualizováno 2. června 2025) research.aimultiple.comSara Mosqueda, „El Kaliouby: Lidé mohou využít AI ke zlepšení světa,“ Security Management Magazine – GSX Daily (24. září 2024) asisonline.orgDartmouth College, „Aplikace na telefonu využívá AI k detekci deprese z mimiky,“ Dartmouth News (27. února 2024) home.dartmouth.edu

AI Is Dangerous, but Not for the Reasons You Think | Sasha Luccioni | TED

Watch this video on YouTube.

Gaudenz Boesch, „AI Emotion Recognition and Sentiment Analysis,“ Viso Blog – viso.ai (10. října 2024) viso.ai
Noor Al Mazrouei, „Emotion AI: Transforming Human-Machine Interaction,“ TRENDS Research (17. února 2025) trendsresearch.org
Meredith Somers, „Emotion AI, explained,“ MIT Sloan (8. března 2019) mitsloan.mit.edu
Julie Bort, „’Emotion AI’ may be the next trend for business software, and that could be problematic,“ TechCrunch (1. září 2024) techcrunch.com
Will Knight, „Experts Say ‘Emotion Recognition’ Lacks Scientific Foundation,“ ACLU (18. července 2019) aclu.org