Sztuczna inteligencja, która wie, co czujesz: Rozkwit technologii wykrywających emocje

Sztuczna inteligencja to już nie tylko przetwarzanie liczb czy rozpoznawanie twarzy – ona uczy się czytać jak się czujemy. Tak zwana AI wykrywająca emocje (znana także jako Emotion AI lub afektywne przetwarzanie) wykorzystuje algorytmy do analizy naszych wyrazów twarzy, tonu głosu, wiadomości tekstowych, a nawet sygnałów z ciała, aby wywnioskować ludzkie emocje. Obietnica jest kusząca: bardziej intuicyjne aplikacje, empatyczne roboty i spersonalizowane doświadczenia reagujące na nasze nastroje. Jednak gdy ta technologia wychodzi z laboratoriów badawczych do miejsc pracy, szkół i przestrzeni publicznych, rodzi poważne pytania. Jak dokładnie działają te AI „czytające w myślach”? Gdzie są dziś wykorzystywane? I dlaczego niektórzy eksperci są tak podekscytowani możliwościami, podczas gdy inni są zaniepokojeni zagrożeniami? W tym szczegółowym raporcie przyjrzymy się, jak działa AI wykrywająca emocje, rzeczywistym zastosowaniom w różnych branżach, najnowszym osiągnięciom w latach 2024–2025 oraz wzbudzanym przez nią dylematom etycznym – cytując opinie ekspertów i aktualne fakty przez cały tekst.

Czym jest AI wykrywająca emocje i jak działa?

AI wykrywająca emocje to algorytmy, które rozpoznają i interpretują ludzkie emocje na podstawie różnych danych wejściowych. W istocie chodzi o nadanie maszynom pewnej formy inteligencji emocjonalnej. Badacze często nazywają tę dziedzinę afektywnym przetwarzaniem. Systemy AI próbują „czytać” uczucia poprzez wiele kanałów:

• Analiza twarzy: Jednym z najczęstszych podejść jest wykorzystanie komputerowego rozpoznawania obrazu do analizy wyrazu twarzy. Kamera rejestruje obraz (lub wideo) twarzy osoby, a AI najpierw wykrywa twarz i kluczowe punkty orientacyjne (oczy, brwi, usta itd.). Następnie, wykorzystując uczenie głębokie (często konwolucyjne sieci neuronowe), analizuje ruchy mięśni lub „mikroekspresje” i klasyfikuje wyraz twarzy do kategorii emocji viso.ai. Wiele systemów jest szkolonych do rozpoznawania podstawowych emocji, takich jak radość, smutek, złość, strach, zaskoczenie, wstręt i neutralność botpenguin.com. Na przykład uśmiechnięte usta i zmarszczone oczy mogą być oznaczone jako „szczęśliwy”, a zmarszczone brwi jako „zły” – choć, jak zobaczymy, nie zawsze jest to takie proste.
• Analiza tonu głosu: Poza tym, co mówimy, jak to mówimy, może przekazywać emocje. Algorytmy rozpoznawania emocji w mowie analizują wzorce dźwiękowe w głosie mówiącego – takie jak wysokość, głośność, tempo i ton. Modele AI analizują te cechy wokalne (intonację, akcent, rytm itd.), aby wywnioskować, czy osoba brzmi na podekscytowaną, spokojną, zdenerwowaną itd. botpenguin.com. Na przykład drżący, wysoki ton może wskazywać na strach lub złość, podczas gdy powolny, monotonny ton może sugerować smutek lub zmęczenie. Niektóre systemy wychwytują nawet konkretne słowa lub werbalne sygnały (jak drżące „wszystko w porządku”), które korelują ze stanami emocjonalnymi.
• Analiza nastroju tekstu: Emocje są również wyrażane na piśmie. Sztuczna inteligencja może przeprowadzać przetwarzanie języka naturalnego (NLP) na tekstach – od postów w mediach społecznościowych po e-maile czy wiadomości na czacie – aby wykryć nastrój. Tradycyjna analiza nastroju klasyfikuje tekst jako pozytywny, negatywny lub neutralny. Nowsza AI emocji idzie dalej, identyfikując konkretne uczucia z tekstu poprzez analizę doboru słów, kontekstu i interpunkcji botpenguin.com. Na przykład „Jestem absolutnie zachwycony!” zostałoby zarejestrowane jako bardzo pozytywne (szczęśliwy/podekscytowany), podczas gdy „Czuję się tak zraniony i samotny…” mogłoby zostać oznaczone jako smutne lub zaniepokojone. Duże modele językowe i dopasowane klasyfikatory są wykorzystywane do analizy emocjonalnego tonu naszych słów.
• Inne sygnały biometryczne: Niektóre zaawansowane systemy uwzględniają również sygnały fizjologiczne i behawioralne. Może to obejmować mowę ciała (postawa, gesty), śledzenie ruchu oczu (gdzie patrzysz i jak rozszerzają się twoje źrenice), tętno, przewodnictwo skóry lub fale mózgowe za pomocą urządzeń noszonych. Sygnały te mogą sugerować stres lub podekscytowanie – np. podwyższone tętno i spocone dłonie mogą wskazywać na niepokój. W najnowszych badaniach multimodalna AI emocji łączy dane z twarzy, głosu i fizjologiczne dla pełniejszego obrazu trendsresearch.org. Na przykład AI monitorująca kierowcę w samochodzie może używać kamery do obserwacji twojej twarzy oraz czujnika w kierownicy do śledzenia tętna, szukając oznak senności lub agresji na drodze.

Wszystkie te metody wykorzystują uczenie maszynowe na dużych zbiorach danych ludzkich ekspresji emocjonalnych. Modele AI są „uczone” na przykładach – obrazach twarzy oznaczonych wyrażaną emocją, nagraniach audio oznaczonych nastrojem mówiącego itd. Z czasem AI uczy się wzorców, które łączą określone dane wejściowe (konkretny uśmiech, ton głosu) z prawdopodobnymi emocjami. To w zasadzie rozpoznawanie wzorców: AI sama nie odczuwa niczego, ale na podstawie sygnałów, które wysyłamy, dokonuje wyedukowanego zgadywania naszych uczuć.

Warto zauważyć, że obecne AI wykrywające emocje są zazwyczaj ograniczone do rozpoznawania kilku szerokich kategorii emocjonalnych lub poziomów pobudzenia. Ludzkie emocje są zniuansowane i zależne od kontekstu, co czyni to bardzo trudnym zadaniem dla AI. Niemniej jednak technologia ta szybko się rozwija. Dzięki połączeniu wizji komputerowej, analizy mowy i NLP, dzisiejsza AI emocji potrafi z umiarkowaną dokładnością wnioskować o stanie emocjonalnym osoby – w odpowiednich warunkach. Jak wyjaśniono w jednym z raportów, integracja wielu technik (twarz, głos, tekst) pozwala maszynom interpretować ludzkie emocje „z większą dokładnością”, sprawiając, że interakcje wydają się bardziej naturalne i responsywne trendsresearch.org. W kolejnych sekcjach przyjrzymy się, jak te możliwości są wykorzystywane w rzeczywistości i jak daleko zaszły do 2024–2025 roku.

Zastosowania w rzeczywistych branżach

Sztuczna inteligencja rozpoznająca emocje wyszła poza laboratorium i znajduje zastosowanie w różnych branżach. Oto niektóre z najbardziej znaczących zastosowań i przypadków użycia według sektorów:

• Opieka zdrowotna i wellness: Sztuczna inteligencja rozpoznająca emocje jest testowana jako narzędzie wspierające zdrowie psychiczne i opiekę nad pacjentem. Na przykład naukowcy opracowali aplikacje na smartfony, które monitorują twarz i głos użytkownika pod kątem oznak depresji lub lęku home.dartmouth.edu. W jednym z badań z 2024 roku zaprezentowano MoodCapture, aplikację wykorzystującą kamerę telefonu do wykrywania wczesnych objawów depresji poprzez analizę mimiki użytkownika za każdym razem, gdy odblokowuje on telefon – w testach poprawnie identyfikując zmiany nastroju z dokładnością około 75% home.dartmouth.edu. Terapeuci badają także możliwości AI, która słucha podczas sesji terapeutycznych, aby ocenić stan emocjonalny pacjenta na podstawie tonu głosu, potencjalnie ostrzegając, jeśli ktoś brzmi na coraz bardziej zaniepokojonego. W szpitalach kamery wykrywające emocje mogą monitorować poziom bólu lub stresu pacjentów, gdy pielęgniarki nie są obecne. A dla osób z autyzmem wspomagająca AI rozpoznająca emocje może pomóc w interpretacji wyrazu twarzy innych – na przykład poprzez aplikację na urządzeniu noszonym lub tablecie, która podpowiada dziecku z autyzmem etykiety typu „Mama jest szczęśliwa” lub „Tata wygląda na zmartwionego”, pomagając mu uczyć się rozpoznawania sygnałów emocjonalnych mitsloan.mit.edu.
• Marketing i doświadczenie klienta: Firmy wykorzystują AI do analizy emocji, aby lepiej zrozumieć konsumentów. Reklamodawcy mogą testować reklamy lub filmy produktowe na panelach widzów, którzy wyrażają zgodę na nagrywanie przez kamerę internetową; AI następnie analizuje reakcje twarzy klatka po klatce, aby zobaczyć, które momenty wywołały uśmiech, śmiech lub znudzenie. W rzeczywistości, około 25% firm z listy Fortune 500 wykorzystało AI do analizy emocji w badaniach reklamowych, aby mierzyć zaangażowanie odbiorców mitsloan.mit.edu. Wiodącą firmą w tej dziedzinie jest Affectiva (założona przez naukowców z MIT), która umożliwia markom uchwycenie podświadomych, „wisceralnych” reakcji widzów na reklamy i powiązanie ich z rzeczywistymi zachowaniami, takimi jak udostępnienie reklamy lub zakup produktu mitsloan.mit.edu. Poza reklamami, detaliści testują kamery wykrywające emocje w sklepach, aby ocenić zadowolenie klientów (czy obsługa pozostawiła cię zirytowanym, czy zadowolonym?). W internecie chatboty wyposażone w analizę sentymentu próbują dostosować swoje odpowiedzi do nastroju klienta – na przykład przekierowując rozmowę do człowieka, jeśli użytkownik brzmi na zdenerwowanego. Nawet fizyczne billboardy testowały analizę emocji: w Brazylii interaktywny system reklamowy w metrze wykorzystywał kamery do klasyfikowania wyrazów twarzy pasażerów (szczęśliwy, neutralny, zaskoczony, niezadowolony), a następnie w czasie rzeczywistym zmieniał treść reklamy, aby lepiej dopasować ją do nastroju tłumu research.aimultiple.com.
• Edukacja: Klasy i platformy e-learningowe eksperymentują ze sztuczną inteligencją, aby ocenić emocje i uwagę uczniów. Celem jest stworzenie responsywnych środowisk nauczania. Na przykład indyjska firma oferująca korepetycje online wykorzystała rozpoznawanie emocji przez kamery internetowe uczniów do śledzenia zaangażowania i zmęczenia podczas zajęć na żyworesearch.aimultiple.comresearch.aimultiple.com. System monitorował ruchy oczu i mimikę twarzy, aby generować „wyniki uwagi”, pomagając nauczycielom zidentyfikować momenty utraty koncentracji przez uczniów. W niektórych zaawansowanych technologicznie klasach kamery były używane (kontrowersyjnie) do skanowania twarzy uczniów w poszukiwaniu oznak dezorientacji lub znudzenia, aby nauczyciele mogli dostosować swoje lekcje legalblogs.wolterskluwer.com. Pojawiają się nawet doniesienia z Chin o szkołach testujących kamery rozpoznające twarze, które rejestrują stany emocjonalne uczniów (takie jak radość czy złość) przez cały dzień businessinsider.com. Teoretycznie takie narzędzia mogłyby personalizować edukację – tutorbot mógłby zaoferować wsparcie, jeśli wykryje frustrację – ale jednocześnie wywołują dyskusje na temat nadzoru (więcej o tym później).
• Motoryzacja: Producenci samochodów wdrażają AI rozpoznającą emocje w pojazdach, aby poprawić bezpieczeństwo i komfort jazdy. Systemy monitorowania kierowcy wykorzystują kamery na desce rozdzielczej do obserwowania twarzy i postawy, sprawdzając oznaki senności lub rozproszenia. Jeśli AI zauważy opadające powieki lub pochyloną postawę (oznaki zmęczenia), może uruchomić alarm. Marki luksusowe idą dalej, próbując ocenić emocjonalny stan kierowcy: na przykład wykrywając, czy kierowca jest zdenerwowany lub zły (agresja drogowa), i wtedy interweniując – na przykład wyciszając muzykę lub nawet ograniczając prędkość samochodu mitsloan.mit.edu. Affectiva, obecnie część Smart Eye, posiada platformę automotive AI, która monitoruje zarówno kierowcę, jak i pasażerów. Może rozpoznać, czy kierowca się śmieje lub kłóci, albo czy pasażerowie są niespokojni, i odpowiednio dostosować ustawienia samochodu (wyobraź sobie, że samochód wzmacnia systemy bezpieczeństwa, jeśli wykryje stres) mitsloan.mit.edu. W półautonomicznych samochodach AI rozpoznająca emocje może zdecydować, czy jesteś zbyt rozproszony, by przejąć kontrolę. Zastosowania w motoryzacji koncentrują się na wykorzystaniu rozpoznawania emocji do zwiększenia bezpieczeństwa, komfortu i personalizacji podczas jazdy.
• Rozrywka i gry: Rozrywka staje się coraz bardziej interaktywna dzięki AI rozpoznającej emocje. Twórcy gier wideo zaczęli budować gry, które reagują na emocje gracza. Godnym uwagi przykładem jest „Nevermind”, psychologiczny thriller, który wykorzystuje kamerę internetową gracza (lub czujnik biofeedbacku) do wykrywania stresu – jeśli wykryje, że się boisz, gra staje się trudniejsza, pojawia się więcej straszaków, natomiast jeśli pozostajesz spokojny, gra łagodnieje research.aimultiple.com. Tworzy to dynamiczne doświadczenie horroru, które dostosowuje się do poziomu twojego strachu. W filmie i telewizji studia testują śledzenie twarzy na grupach testowych, aby zobaczyć reakcje emocjonalne na sceny (czy zwrot akcji naprawdę zaskoczył widzów? Czy komedia wywołała śmiech?). Trwają także badania nad spersonalizowaną treścią: wyobraź sobie serwis streamingowy, który może użyć kamery twojego laptopa, by obserwować twoją twarz i polecać filmy pasujące do twojego aktualnego nastroju (niektóre strony podróżnicze próbowały nawet polecać kierunki podróży na podstawie wyrazu twarzy użytkownika research.aimultiple.com). Chociaż powszechne rekomendacje treści „na podstawie nastroju” są wciąż eksperymentalne, połączenie AI z rozrywką zapowiada nowe formy immersyjnych, interaktywnych mediów.
• Egzekwowanie prawa i bezpieczeństwo: Rozpoznawanie emocji jest rozważane pod kątem zastosowań w bezpieczeństwie, choć jest to najbardziej kontrowersyjny obszar. Niektóre departamenty policji rozważały AI, która skanuje na żywo nagrania z monitoringu CCTV lub kamer nasobnych, by wychwycić „podejrzane” zachowania lub potencjalną agresję. Na przykład algorytmy mogą analizować nagrania głosowe pod kątem stresu lub złości, by zidentyfikować, kiedy dzwoniący na 911 lub osoba w areszcie może stać się agresywna. Istnieją „detektory agresji” oferowane dla bezpieczeństwa publicznego, które nasłuchują gniewnych tonów lub krzyków, by wcześniej ostrzec ochronę o możliwej bójce. W Chinach firma Taigusys opracowała system nadzoru AI, który monitoruje twarze pracowników w biurach en masse i twierdzi, że wykrywa, jak czuje się każda osoba – czy pracownik jest szczęśliwy, neutralny, zły czy zestresowany businessinsider.com. System rzekomo potrafi nawet rozpoznać, czy udajesz uśmiech, i generuje raporty o pracownikach, którzy wykazują zbyt wiele „negatywnych” emocji, sugerując, że mogą wymagać interwencji lub planować coś podejrzanego businessinsider.com. W więzieniach testowano podobną technologię do monitorowania stanów emocjonalnych osadzonych. W niektórych krajach pilotażowo stosowano na granicach AI-wykrywacze kłamstw, które obserwują mikroekspresje podróżnych w poszukiwaniu „oznak oszustwa”. W przesłuchaniach policyjnych eksperymentuje się z analizą głosu, która próbuje określić, czy podejrzany jest zdenerwowany. Jednak żadne służby nie polegają na tych narzędziach jako jedynym dowodzie – nawet zwolennicy twierdzą, że powinny być jedynie uzupełnieniem. Jak omówimy, eksperci zalecają tu szczególną ostrożność, ponieważ fałszywe odczyty (np. AI błędnie oznaczająca niewinną osobę jako „złą” lub „oszukańczą”) mogą mieć poważne konsekwencje w kontekście wymiaru sprawiedliwości i bezpieczeństwa.

We wszystkich tych branżach główną ideą jest to, że jeśli maszyny będą w stanie rozumieć nasze emocje, będą mogły wchodzić z nami w interakcje w sposób bardziej naturalny i skuteczny. Sztuczny nauczyciel, który wyczuje frustrację, może przeformułować lekcję. Bot obsługi klienta, który usłyszy zniecierpliwienie w twoim głosie, może natychmiast wezwać ludzkiego menedżera. Samochód, który wie, że jesteś zmęczony, może cię pobudzić lub przejąć prowadzenie. Emotion AI zasadniczo ma na celu uczynienie technologii bardziej empatyczną, dostosowującą się do ludzi zamiast zmuszać ludzi do dostosowywania się do maszyn trendsresearch.org. To fascynująca granica – i rozwija się szybko, co ilustruje kolejna sekcja, prezentując najnowsze osiągnięcia.

Najnowsze osiągnięcia i wiadomości (2024–2025)

AI wykrywająca emocje odnotowała gwałtowny rozwój w ciągu ostatnich dwóch lat, od przełomów technologicznych po reakcje regulacyjne. Oto niektóre z najważniejszych ostatnich trendów i wiadomości:

• Rosnące inwestycje i startupy: Świat biznesu zwraca uwagę na emocjonalną AI. Analitycy branżowi donoszą, że „emotion AI” staje się gorącym trendem w oprogramowaniu dla przedsiębiorstw, zwłaszcza gdy firmy wdrażają coraz więcej chatbotów i wirtualnych asystentów, które potrzebują świadomości emocjonalnej techcrunch.com. Niedawny raport badawczy PitchBook przewiduje, że wdrożenie emotion AI wzrośnie, aby uczynić interakcje z AI bardziej ludzkimi techcrunch.com. Kapitał wysokiego ryzyka płynie do tego sektora: na przykład wiodąca firma zajmująca się konwersacyjną AI, Uniphore, zebrała ponad 600 milionów dolarów (w tym rundę 400 mln dolarów w 2022 roku) na rozwój AI, która potrafi odczytywać emocje klientów podczas rozmów serwisowych techcrunch.com. Liczne startupy wchodzą na rynek – firmy takie jak MorphCast, audEERING, Voicesense, SuperCEED, Siena AI, i inne budują narzędzia do analizy mimiki twarzy i sygnałów głosowych na dużą skalę techcrunch.com. Prognozy rynkowe odzwierciedlają tę dynamikę: jeden z raportów szacuje, że globalny rynek wykrywania i rozpoznawania emocji wzrośnie z około 3–4 miliardów dolarów w 2024 roku do ponad 7 miliardów w ciągu pięciu lat technologyslegaledge.com, a inna analiza przewiduje wzrost nawet do 173 miliardów dolarów do 2031 roku (choć takie szacunki są różne) research.aimultiple.com. Wyraźnie widać, że wiele firm dostrzega komercyjny potencjał AI, która potrafi oceniać emocje – czy to w celu zwiększenia sprzedaży, poprawy satysfakcji klienta, czy podniesienia bezpieczeństwa.
• Nowe możliwości technologiczne: Na polu badań AI coraz lepiej radzi sobie ze zrozumieniem subtelnych emocji. Uderzającym przykładem w 2024 roku był projekt na Uniwersytecie w Groningen, w którym wytrenowano AI do wykrywania sarkazmu w mowie theguardian.com. Systemowi podawano dialogi ze scenariuszy sitcomów takich jak Przyjaciele i Teoria wielkiego podrywu, aby nauczyć go rozpoznawania wzorców wokalnych charakterystycznych dla sarkastycznej mowy (np. przesadny ton lub przeciąganie słów). Model potrafił rozpoznać sarkazm w nagraniach audio z dokładnością około 75% theguardian.com. To istotne, ponieważ sarkazm jest wyjątkowo trudny do wychwycenia przez algorytmy (a czasem i ludzi!), a jednocześnie kluczowy do zrozumienia prawdziwych intencji w komunikacji. Postępy w takich obszarach pokazują, że AI do rozpoznawania emocji wychodzi poza proste wykrywanie „wesoły vs. smutny” w kierunku bardziej złożonych sygnałów społecznych. Podobnie, coraz lepsze stają się modele multimodalne: pojawiają się AI łączące tekst, głos i dane z mimiki twarzy, by uzyskać bardziej kontekstowy odczyt emocji. Firmy takie jak Hume AI (założona przez byłego badacza Google) rozwijają empatyczne interfejsy głosowe, które reagują nie tylko na to, co mówisz, ale także jak to mówisz, dążąc do tego, by rozmowy z AI były bardziej emocjonalnie dostrojone theguardian.com. Hume powołało nawet radę etyczną, która ma kierować rozwojem „empatycznej AI” theguardian.com, uznając potrzebę ostrożnego postępu. Po stronie sprzętowej technologia kamer i sensorów jest wszechobecna i tania, co oznacza, że łatwiej niż kiedykolwiek można wbudować możliwości rozpoznawania emocji w telefony, samochody i urządzenia smart home.
• Główne nurty adopcji i kontrowersje: Wraz z wprowadzaniem AI do rozpoznawania emocji pojawiają się także przeszkody. Jeden z głośnych przykładów: gigant wideokonferencji Zoom podobno rozważał dodanie funkcji wykrywania emocji (np. informowanie prowadzących spotkanie, czy uczestnicy są zaangażowani lub rozproszeni) – jednak po publicznej krytyce dotyczącej prywatności Zoom ogłosił w połowie 2022 roku, że „nie ma planów” wdrożenia takiego AI śledzącego emocje. Podobnie platforma rekrutacyjna HireVue zaczęła używać AI do analizy mimiki kandydatów podczas rozmów wideo, ale do 2021 roku zrezygnowała z tej funkcji z powodu krytyki naukowej i obaw społecznych. Te przypadki wyznaczają ton na rok 2024, gdzie już sama idea rozpoznawania emocji w aplikacjach pracowniczych lub konsumenckich budzi podejrzenia (i nie są to takie brwi, które AI powinno śledzić). W mediach wciąż pojawiają się obawy przed nadużyciami: na przykład doniesienia, że chińskie firmy technologiczne stosują rozpoznawanie emocji wobec pracowników, spotkały się z międzynarodową krytyką businessinsider.com. I choć niektórzy dostawcy reklamują „AI do wykrywania kłamstw” na potrzeby bezpieczeństwa, eksperci obalili wiele z tych rozwiązań jako niewiele lepsze od przypadku.
• Ruchy regulacyjne: Być może największym wydarzeniem w 2024 roku jest to, że rządy zaczęły interweniować w obszarze AI emocji. W maju 2024 roku Unia Europejska sfinalizowała Akt UE o AI, szeroko zakrojone prawo regulujące sztuczną inteligencję. Co istotne, to prawo zakazuje użycia AI do rozpoznawania emocji w czasie rzeczywistym w określonych kontekstach jako „nieakceptowalne ryzyko” dla praw człowieka theguardian.com. Konkretnie, UE zabroni systemów AI, które twierdzą, że potrafią wnioskować o emocjach ludzi w miejscach pracy, szkołach lub innych instytucjach publicznych (z wąskimi wyjątkami, takimi jak opieka zdrowotna czy bezpieczeństwo) legalblogs.wolterskluwer.com. Ustawodawcy UE uznali, że rozpoznawanie emocji w takich miejscach jest inwazyjne i niewiarygodne oraz może prowadzić do niesprawiedliwych rezultatów. (Wyznaczyli jednak granicę między AI, które jedynie identyfikuje zewnętrzny wyraz twarzy – co może być dozwolone – a takim, które faktycznie deklaruje, co dana osoba czuje wewnętrznie, co byłoby zabronione theguardian.com.) To stanowisko prawne, jedno z pierwszych tego typu, odzwierciedla rosnący sceptycyzm wśród decydentów wobec wiarygodności i etyki AI emocji. W USA nie ma federalnego zakazu, ale niektóre jurysdykcje rozważają ograniczenia, a ACLU i inne grupy praw obywatelskich wezwały do wstrzymania użycia rozpoznawania emocji w policji i zatrudnieniu aclu.org, businessinsider.com. Fakt, że regulatorzy wrzucili AI emocji do jednego worka z takimi zjawiskami jak scoring społeczny i manipulacja podprogowa (również zakazane przez Akt UE), wysyła mocny sygnał: w 2025 roku i później możemy spodziewać się większej kontroli i wyższych standardów wobec każdej AI, która twierdzi, że potrafi odczytywać nasze uczucia.

Podsumowując, ostatni rok lub dwa były przełomowe. AI wykrywająca emocje jest bardziej powszechna niż kiedykolwiek, po cichu wkracza do obsługi klienta, samochodów i aplikacji – a jednocześnie jest bardziej kwestionowana niż kiedykolwiek, gdy eksperci i regulatorzy naciskają na hamulec. Wraz z dojrzewaniem tej technologii, spodziewaj się jeszcze więcej debat o tym, czy AI może naprawdę zrozumieć ludzkie emocje, a jeśli tak, to kto powinien mieć do tego prawo. Te pytania prowadzą nas prosto do kolejnego tematu: kwestii etycznych.

Kwestie etyczne i obawy

Wzrost popularności AI rozpoznającej emocje wywołał intensywne dyskusje etyczne. Odczytywanie czyichś emocji to nie to samo, co odczytywanie wskazań termometru – wkracza w osobiste, często prywatne aspekty naszego życia. Oto kluczowe obawy, które podnoszą eksperci i obrońcy praw:

• Niezawodność i wiarygodność naukowa: Zasadniczą kwestią jest to, czy te systemy faktycznie działają tak, jak twierdzą ich twórcy. Ludzkie emocje są złożone, zależne od kontekstu i nie zawsze widoczne na powierzchni. Psychologowie ostrzegają, że nie istnieje proste, jednoznaczne powiązanie między wyrazem twarzy a wewnętrznym uczuciem. Osoba może się uśmiechać, gdy jest smutna, lub marszczyć brwi, gdy się koncentruje – ekspresje różnią się w zależności od osoby i kultury. W 2019 roku obszerna analiza ponad 1000 badań pod przewodnictwem psycholożki Lisy Feldman Barrett wykazała, że „nie można wiarygodnie wywnioskować stanu emocjonalnego osoby wyłącznie na podstawie ruchów twarzy” aclu.org. Podaje ona obrazowy przykład: „Twarz z marsową miną może, ale nie musi być wyrazem złości… ludzie marszczą brwi, gdy są źli, ale także gdy są zdezorientowani lub mają wzdęcia!”aclu.org. Krótko mówiąc, kontekst ma ogromne znaczenie w emocjach, a AI zazwyczaj nie ma dostępu do kontekstu. Barrett i inni twierdzą, że dzisiejsze algorytmy bardzo dobrze wykrywają ruchy mięśni twarzy lub intonacje głosu, ale nie są w stanie naprawdę zrozumieć, co one oznaczają emocjonalnie aclu.org. Jak powiedziała wprost w jednym z wywiadów: „Nie istnieje automatyczne rozpoznawanie emocji. Najlepsze algorytmy potrafią wykryć wyraz twarzy, ale nie są przystosowane do wnioskowania, co on oznacza” aclu.org. Ten sceptycyzm jest powszechny w środowisku naukowym. Bez jasnej, uzgodnionej definicji emocji nawet wśród psychologów, budowanie AI do ich identyfikacji opiera się na wątpliwych podstawach teoretycznych theguardian.com. W praktyce rodzi to ryzyko błędnej interpretacji: jeśli AI błędnie oznaczy osobę jako „złą” lub „nieszczery”, opierając się na źle odczytanej wskazówce, może to prowadzić do niesprawiedliwych konsekwencji (np. zatrzymanie przez ochronę, odmowa rozmowy kwalifikacyjnej itp.). Krótko mówiąc, krytycy twierdzą, że obecna technologia rozpoznawania emocji jest w najlepszym razie przybliżeniem – a w najgorszym cyfrową frenologią (pseudonauką), zwłaszcza gdy jest używana do oceniania jednostek article19.org.
• Stronniczość i sprawiedliwość: Podobnie jak wiele systemów AI, algorytmy wykrywające emocje mogą odzwierciedlać, a nawet wzmacniać uprzedzenia obecne w danych treningowych. Jednym z głównych problemów jest stronniczość kulturowa i rasowa. Jeśli AI jest trenowana głównie na przykładach osób z Zachodu prezentujących podręcznikowe wyrazy twarzy, może błędnie odczytywać osoby z innych grup etnicznych lub kulturowych. Istnieją dowody, że już się to dzieje. Badanie z 2023 roku wykazało, że niektóre komercyjne systemy AI do rozpoznawania emocji konsekwentnie oceniały wyraz twarzy czarnoskórych osób jako bardziej negatywny lub gniewny w porównaniu z innymi grupami theguardian.com. Innymi słowy, neutralny wyraz twarzy czarnoskórego mężczyzny może zostać zinterpretowany przez AI jako „gniewny”, podczas gdy w przypadku osoby białej tak by się nie stało – to niepokojąca stronniczość, mająca oczywiste konsekwencje np. dla kontroli bezpieczeństwa czy ocen w miejscu pracy theguardian.com. „Twoje algorytmy są tak dobre, jak materiał treningowy,” zauważa Barrett. „Jeśli twój materiał treningowy jest stronniczy, utrwalasz tę stronniczość w kodzie.” theguardian.com. Kultura również wpływa na to, jak wyrażamy emocje: uśmiech może oznaczać różne rzeczy w różnych kontekstach, a gesty czy ton głosu nie są uniwersalne. Erik Brynjolfsson z MIT ostrzega, że technologia rozpoznawania emocji musi być wrażliwa na różnorodność: „Rozpoznawanie emocji na twarzy Afroamerykanina może być trudne dla maszyny wytrenowanej na twarzach białych. Gesty czy intonacje głosu w jednej kulturze mogą znaczyć coś zupełnie innego w innej” mitsloan.mit.edu. Jeśli te niuanse nie zostaną uwzględnione, technologia może systematycznie błędnie interpretować lub dyskryminować niektóre grupy – w istocie kodując uprzedzenia pod pozorem „odczytywania emocji”. Stronniczość nie dotyczy tylko demografii; istnieje także stronniczość kontekstowa (np. AI w hałaśliwym otoczeniu może interpretować podniesione głosy jako złość, gdy w rzeczywistości jest po prostu głośno). Zapewnienie sprawiedliwości w AI do rozpoznawania emocji to ogromne wyzwanie i jak dotąd wiele systemów nie wykazało, że działa równie dobrze dla wszystkich ludzi.
• Nadzór i prywatność: Sztuczna inteligencja do rozpoznawania emocji często wiąże się z ciągłym monitorowaniem wyrazów twarzy, głosu lub sygnałów fizjologicznych ludzi – co budzi oczywiste obawy o prywatność. Obawa polega na tym, że może to umożliwić nowy poziom inwazyjnego nadzoru, w którym nasze wewnętrzne emocje stają się śledzonymi punktami danych. Na przykład w miejscach pracy pracownicy mogą czuć się, jakby byli pod emocjonalnym mikroskopem, oceniani nie tylko na podstawie wyników, ale także tego, czy wystarczająco się uśmiechają lub brzmią odpowiednio „entuzjastycznie”. To nie jest science fiction; to już się dzieje w niektórych miejscach. Wspomniany wcześniej chiński system „uśmiech za ocenę” jest tego doskonałym przykładem – pracownicy boją się marszczyć brwi lub wyglądać na zmęczonych, ponieważ sztuczna inteligencja obserwuje i zgłosi „złe nastawienie” przełożonym businessinsider.com. Takie praktyki tworzą opresyjne środowisko i podważają autonomię jednostki. Nawet poza miejscem pracy, wyobraź sobie kamery publiczne, które nie tylko rozpoznają twoją twarz, ale także oznaczają cię jako „zdenerwowanego” lub „podenerwowanego”, gdy przechodzisz obok. Te dane mogą zostać niewłaściwie wykorzystane do profilowania. W przeciwieństwie do odczytywania termostatu, odczytywanie emocji może być głęboko manipulacyjne – ludzie często próbują ukrywać swoje prawdziwe uczucia w miejscach publicznych z ważnych powodów (prywatność, uprzejmość), a fakt, że sztuczna inteligencja to rozpracowuje, wydaje się orwellowski. Obrońcy prywatności zwracają uwagę, że ludzie nie wyrazili zgody na analizowanie ich emocji przez kamery w centrach handlowych czy monitoring policyjny. Tymczasem oprogramowanie do rozpoznawania emocji jest dodawane do niektórych systemów bezpieczeństwa bez wiedzy społeczeństwa. Istnieje także kwestia bezpieczeństwa danych: dane emocjonalne (nagrania twarzy, nagrania głosu) to wrażliwe informacje biometryczne. Jeśli są zbierane i przechowywane, kto je chroni i jak długo? Wyciek lub włamanie do danych emocjonalnych (na przykład nagrania z sesji terapeutycznych lub nagrania z kamer oznaczone nastrojem danej osoby) może być bardzo szkodliwe. Krótko mówiąc, zamienianie naszego życia emocjonalnego w strumienie danych stanowi „potężną nową formę nadzoru”, jak ujęła to jedna z analiz Guardiana theguardian.com. Te obawy napędzają apele o wprowadzenie ścisłych ograniczeń dotyczących miejsc, w których taki monitoring może mieć miejsce.
• Zgoda i autonomia: Kwestia zgody jest ściśle powiązana z prywatnością. Czy ludzie powinni wyrażać zgodę, aby AI analizowała ich emocje? Wielu twierdzi, że tak – analiza emocji jest tak osobista, że wymaga wyraźnego pozwolenia. Niektóre firmy stosują modele opt-in. Na przykład polityka Affectiva dotycząca testowania reklam polega na nagrywaniu i analizowaniu tylko tych widzów, którzy wyrazili zgodę i zostali poinformowani, a także zakazują wykorzystywania tej technologii do ukrytego nadzoru lub jakiejkolwiek identyfikacji osób mitsloan.mit.edu. Jednak nie każdy dostawca jest tak rygorystyczny, a w praktyce pracownicy lub uczniowie mogą nie czuć, że mogą odmówić, jeśli pracodawca lub szkoła narzuca program monitorowania emocji (wyobraź sobie, że musisz nosić opaskę wykrywającą emocje w pracy). To rodzi obawy dotyczące przymusu. Czy w przyszłości pracownicy będą zmuszani do utrzymywania określonego wyrazu emocjonalnego (np. zawsze brzmieć „radośnie” podczas rozmów), ponieważ AI ich obserwuje? To już wkracza w kwestie ludzkiej godności i wolności do odczuwania bez bycia analizowanym. Z etycznego punktu widzenia wielu twierdzi, że jednostki muszą zachować kontrolę nad własnymi danymi emocjonalnymi. Powinieneś mieć prawo zachować swoje emocje dla siebie lub przynajmniej decydować, kto/co może je wykrywać. Bez wyraźnej zgody rozpoznawanie emocji staje się niechcianą ingerencją w naszą prywatność psychiczną – to, co niektórzy uczeni nazywają „suwerennością mentalną”. Pocieszające jest, że nowe prawo UE wyraźnie zakazuje AI do rozpoznawania emocji w miejscach pracy i szkołach niezależnie od zgody (ze względu na nierównowagę sił, prawdziwie dobrowolna zgoda jest wątpliwa) williamfry.com, legalblogs.wolterskluwer.com. To sugeruje tendencję do ochrony ludzi przed presją ujawniania emocji. W miarę rozprzestrzeniania się tej technologii, naleganie na zgodę – i dawanie ludziom możliwości wyłączenia jej – może być kluczowe dla zachowania autonomii osobistej.
• Manipulacja i nadużycia: Kolejnym wymiarem etycznym jest to, w jaki sposób wnioski płynące ze sztucznej inteligencji rozpoznającej emocje mogą być używane do wpływania na ludzi lub ich wykorzystywania. Emocje napędzają wiele naszych decyzji, a jeśli firmy lub aktorzy polityczni mogą wykrywać nasze uczucia, mogą dostosowywać przekazy, by naciskać na nasze słabe punkty. Widzieliśmy niskotechnologiczną wersję tego w skandalu Cambridge Analytica, gdzie dane z Facebooka były wykorzystywane do psychologicznego profilowania wyborców i kierowania reklam mających wywołać reakcje emocjonalne. Sztuczna inteligencja rozpoznająca emocje mogłaby spotęgować takie taktyki – zasadniczo umożliwiając „masową manipulację emocjonalną”. Jak ostrzega Randi Williams z Algorithmic Justice League, „Kiedy mamy AI sięgającą do najbardziej ludzkich części nas samych, istnieje wysokie ryzyko, że jednostki będą manipulowane dla zysku komercyjnego lub politycznego.” theguardian.com. Na przykład AI marketingowa może zauważyć, że czujesz się trochę przygnębiony pewnego wieczoru (wykryte przez Twoje inteligentne urządzenia domowe), a aplikacja natychmiast wyświetli reklamę jedzenia na pocieszenie lub zakupów w ramach terapii w tym wrażliwym momencie. Albo autorytarne rządy mogłyby używać rozpoznawania emocji podczas transmitowanych przemówień: jeśli społeczeństwo nie wygląda na wystarczająco entuzjastyczne, być może czas zwiększyć propagandę lub przyjrzeć się bliżej oponentom. Te scenariusze brzmią dystopijnie, ale to właśnie takie przypadki nadużyć eksperci chcą powstrzymać już teraz, zanim się wydarzą. Nawet w łagodniejszych formach emocjonalne „szturchanie” rodzi pytania etyczne – czy to w porządku, by gra wideo celowo próbowała cię bardziej przestraszyć, gdy wie, że się boisz, jak w przykładzie gry horrorowej? Niektórzy powiedzą, że to w porządku dla rozrywki; inni martwią się o wpływ psychologiczny. Ostatecznie AI rozpoznająca emocje daje nową dźwignię do wpływania na ludzkie zachowania, a bez regulacji czy etycznych zabezpieczeń ta dźwignia może być użyta w mrocznych celach (np. „manipulacja emocjonalna” jest wyraźnie wymieniona jako zakazany przypadek użycia w wytycznych etycznych Hume AI theguardian.com). Kluczowa jest przejrzystość: jeśli dane emocjonalne są wykorzystywane do wpływania na wyniki (np. AI rekrutacyjna odrzuca cię, bo uznała, że brakowało ci „pasji” podczas rozmowy), osoba powinna o tym wiedzieć i mieć możliwość odwołania się.
• Regulacje i odpowiedzialność: W związku ze wszystkimi tymi obawami, coraz częściej pojawiają się wezwania do uregulowania AI wykrywającej emocje. Zakaz wprowadzony przez UE w niektórych obszarach to jedno z podejść – zasadniczo oznacza, że pewne zastosowania są zakazane. W innych miejscach eksperci sugerowali wymóg rygorystycznej walidacji i audytu wszystkich wdrażanych systemów AI do rozpoznawania emocji, aby udowodnić, że są one dokładne i bezstronne (to wysoka poprzeczka, której wiele systemów może nie spełnić). Organizacje takie jak ACLU i Article 19 opowiadały się za całkowitym moratorium na rozpoznawanie afektu w wrażliwych obszarach, określając je jako nienaukowe i niezgodne z prawami człowieka article19.org, businessinsider.com. Innym aspektem regulacji jest ochrona danych: ponieważ dane o emocjach mogą być uznane za dane biometryczne lub dotyczące zdrowia, mogą podlegać przepisom o prywatności, takim jak RODO, co wymagałoby ścisłej zgody, ograniczenia celu i bezpieczeństwa. Regulatorzy rozważają także, czy ludzie powinni mieć prawo do rezygnacji ze śledzenia emocji w przestrzeni publicznej oraz prawo do niewyrażania zgody na ocenę przez automatyczne „wyniki” emocjonalne. Z drugiej strony, niektóre grupy branżowe dążą do ustanowienia standardów, które umożliwiłyby odpowiedzialne wykorzystanie AI do rozpoznawania emocji (na przykład IEEE analizowało wytyczne etyczne dla adaptacyjnych systemów reagujących na emocje). Jasne jest, że technologia wyprzedziła dotychczasowe regulacje, ale rok 2024 stanowi punkt zwrotny. Rządy zaczynają uznawać rozpoznawanie emocji za odrębną kategorię AI wymagającą nadzoru. W nadchodzących latach możemy spodziewać się kolejnych polityk próbujących wyznaczyć granice dotyczące tego, jak i gdzie te narzędzia mogą być używane – oraz wymusić odpowiedzialność na tych, którzy z nich korzystają. W końcu, jeśli system AI dokona oceny emocjonalnej, która komuś zaszkodzi (np. bezpodstawnie oznaczy go jako „wysokiego ryzyka”), kto ponosi odpowiedzialność? Te trudne pytania wciąż czekają na odpowiedzi.

Ostatecznie etyka sprowadza się do prostego pytania: czy tylko dlatego, że możemy próbować odczytywać emocje za pomocą AI, powinniśmy to robić? A jeśli tak, to na jakich warunkach? Zwolennicy wierzą, że istnieją humanitarne i korzystne zastosowania tej technologii (zwłaszcza za zgodą i z należytą ostrożnością), podczas gdy krytycy obawiają się, że sama koncepcja jest wadliwa i podatna na nadużycia. To prowadzi nas do ostatniej części, w której oddajemy głos ekspertom z obu stron tej debaty.

Perspektywy ekspertów

Ponieważ AI wykrywająca emocje znajduje się na skrzyżowaniu innowacji i kontrowersji, warto posłuchać, co mają do powiedzenia czołowi przedstawiciele tej dziedziny. Eksperci są podzieleni – niektórzy widzą w niej potencjał transformacyjny, inni apelują o daleko idącą ostrożność. Oto kilka perspektyw w ich własnych słowach:

• Optymiści i innowatorzy: Wielu pionierów komputerów afektywnych twierdzi, że wyposażenie maszyn w inteligencję emocjonalną może głęboko poprawić interakcje człowiek–maszyna. „Pomyśl o tym, jak wchodzisz w interakcje z innymi ludźmi; patrzysz na ich twarze, patrzysz na ich ciało i odpowiednio zmieniasz swoje zachowanie,” wyjaśnia Javier Hernandez, badacz z grupy Affective Computing w MIT. „Jak maszyna może skutecznie się komunikować, jeśli nie zna twojego stanu emocjonalnego?” mitsloan.mit.edu. Ta grupa uważa, że AI emocji może sprawić, że technologia będzie bardziej responsywna, spersonalizowana, a nawet współczująca. Rana el Kaliouby, współzałożycielka Affectiva i orędowniczka „humanizowania technologii”, podkreśla, że nasze emocje są kluczowe dla podejmowania decyzji i nawiązywania relacji. Wyobraża sobie AI jako wspierającego partnera: „To nie jest paradygmat człowiek kontra maszyna – to naprawdę maszyna wspomagająca człowieka,” mówi el Kaliouby, podkreślając, że AI powinna wzmacniać ludzkie możliwości, a nie je zastępować mitsloan.mit.edu. Jej zdaniem, jeśli wdrożymy AI we właściwy sposób, może ona na przykład pomóc kierowcom zachować bezpieczeństwo, lekarzom lepiej rozumieć pacjentów czy sprawić, że klienci poczują się wysłuchani. El Kaliouby z entuzjazmem podchodzi do wykorzystywania AI emocji w dobrym celu – często wspomina o projektach takich jak analiza emocji wspierająca dzieci z autyzmem czy wczesne wykrywanie problemów ze zdrowiem psychicznym. I pomimo obaw, zapytana, czy w ogóle powinniśmy mieć tę technologię, jej odpowiedź jest stanowczo twierdząca. „Zdecydowanie tak,” powiedziała w 2024 roku – ponieważ obok ryzyk, „AI oferuje niesamowite rozwiązania dla największych wyzwań ludzkości.” asisonline.org Jej stanowisko, podobnie jak wielu przedstawicieli branży, jest takie, że nie powinniśmy wylewać dziecka z kąpielą. Zamiast tego wzywają do tworzenia odpowiedzialnej, zorientowanej na człowieka AI emocji – z dobrowolnym udziałem, przejrzystością i różnorodnością – tak, aby korzyści (bezpieczniejsze drogi, lepsza opieka zdrowotna, bardziej angażująca edukacja itd.) mogły zostać zrealizowane. Jak ujmuje to el Kaliouby, „Każda branża jest transformowana … przez AI,” a AI emocji, jeśli zostanie dobrze wdrożona, „może sprawić, że te transformacje będą bardziej empatyczne.” asisonline.org Zwolennicy przyznają, że istnieją wyzwania, ale generalnie uważają, że można im zaradzić poprzez przemyślany projekt i politykę, a nie przez całkowite porzucenie tej technologii.
• Sceptycy i krytycy: Z drugiej strony, chór naukowców i etyków nawołuje, by zwolnić tempo lub nawet zatrzymać rozwój technologii rozpoznawania emocji, ostrzegając, że opiera się ona na wątpliwych podstawach naukowych i niesie ze sobą niedopuszczalne ryzyko. Już słyszeliśmy oparte na badaniach profesor Lisy Feldman Barrett sceptyczne podejście do możliwości wiarygodnego mapowania emocji na podstawie wyrazu twarzy. Barrett stanowczo obala wiele twierdzeń dostawców: „Większość firm wciąż twierdzi, że można spojrzeć na twarz i stwierdzić, czy ktoś jest zły czy smutny… To wyraźnie nie jest prawdą.” theguardian.com Jej obawa polega na tym, że bez względu na intencje, te systemy będą się mylić – a ludzie zostaną źle ocenieni. Inną głośną krytyczką jest Vidushi Marda z Article 19 (organizacji zajmującej się prawami cyfrowymi), która badała wdrożenia rozpoznawania emocji w Chinach i stwierdziła, że ta dziedzina jest „fundamentalnie oparta na nienaukowych założeniach” oraz że wdrażanie takich systemów na szeroką skalę jest „głęboko nieetyczne.” businessinsider.com Obrońcy prywatności, tacy jak Evan Selinger, nazwali rozpoznawanie emocji „najniebezpieczniejszą AI, o której nigdy nie słyszałeś”, argumentując, że może to prowadzić do nowych form dyskryminacji i manipulacji. I nie chodzi tylko o środowisko akademickie: nawet osoby z branży technologicznej mają wątpliwości. W wywiadzie dla TechCrunch Andrew Moore, były szef Google Cloud AI, ostrzegł, że AI rozumiejąca emocje jest „co najmniej dekadę od wiarygodności” i że nadużycia przed tym czasem mogą podważyć zaufanie do AI jako całości. Ci eksperci często zalecają surowe ograniczenia. ACLU posunęła się nawet do poparcia zakazów, a analityk polityczny Daniel Kahn Gillmor napisał: „Co najmniej, prawa ani byt nikogo nie powinny zależeć od emocjonalnych domysłów AI”. Z ich perspektywy potencjalne szkody – niesłuszne aresztowania, stronnicza rekrutacja, naruszenia prywatności psychicznej – przewyższają niepewne korzyści. Podkreślają też, że sami ludzie mają trudności z prawidłowym odczytywaniem emocji innych w różnych kulturach i kontekstach, więc oczekiwanie, że maszyna zrobi to lepiej, jest błędem. W istocie sceptycy nawołują społeczeństwo, by nacisnęło pauzę, najpierw zażądało solidnych dowodów i ram etycznych oraz pamiętało, że emocje są głęboko ludzkie – być może nie czymś, co chcielibyśmy, by maszyny analizowały.

Ciekawe jest to, że obie strony ostatecznie dążą do lepszej przyszłości, ale różnią się co do metody. Optymiści skupiają się na potencjalnych korzyściach (empatia w AI, poprawa dobrostanu), podczas gdy sceptycy koncentrują się na zapobieganiu szkodom (niesprawiedliwość, utrata prywatności). Są też umiarkowani, którzy dostrzegają potencjał tej technologii, ale nalegają na rygorystyczne zabezpieczenia. Na przykład Erik Brynjolfsson opowiada się za rozwojem AI rozpoznającej emocje z rozwagą, mówiąc, że „ważne jest, by pamiętać, że jeśli jest używana z rozwagą, ostateczne korzyści mogą i powinny przewyższać koszty”, ale od razu dodaje, że musi być „odpowiednia dla wszystkich ludzi” i świadoma kulturowo mitsloan.mit.edu. Ten złoty środek prawdopodobnie obejmuje silne regulacje, przejrzystość ze strony firm oraz dalsze badania nad dokładnością tych systemów.

Podsumowując, sztuczna inteligencja wykrywająca emocje znajduje się na fascynującym skrzyżowaniu technologii, psychologii i etyki. Jej zwolennicy wierzą, że może sprawić, iż nasze urządzenia i usługi będą znacznie lepiej dostosowane do naszych potrzeb – od samochodów, które nas uspokajają, po aplikacje, które rozpoznają, kiedy mamy trudności i oferują pomoc. Jej krytycy podnoszą uzasadnione obawy, że żadna SI nie powinna być terapeutą, sędzią ani szpiegiem – odczytując nasze uczucia w sposób, który może wprowadzać w błąd lub prowadzić do opresji. Prawda może zależeć od tego, jak zdecydujemy się jej używać. Na rok 2025 SI wykrywająca emocje już istnieje i się rozwija, ale jest też pod ścisłą obserwacją. Widzieliśmy realne korzyści w niektórych niszach (takich jak monitorowanie zdrowia psychicznego i adaptacyjna edukacja), ale także realny sprzeciw (nowe przepisy i zakazy w odpowiedzi na nadużycia).

W przyszłości społeczeństwo będzie musiało obrać ostrożną drogę: wymagać solidnych podstaw naukowych i sprawiedliwości w każdym narzędziu wykrywającym emocje, wyznaczać bezpieczne, prywatne przestrzenie wolne od emocjonalnej inwigilacji oraz demokratycznie decydować, gdzie przebiega granica między pomocną empatią a szkodliwą ingerencją. Jedno jest pewne: ta debata dopiero się zaczyna. SI może być coraz lepsza w rozpoznawaniu, czy jesteś grzeczny czy niegrzeczny – ale to od nas wszystkich zależy, czy ta potężna zdolność będzie wykorzystywana w sposób szanujący ludzką godność i poprawiający nasze życie, a nie je umniejszający.

Źródła:

• Gaudenz Boesch, „AI Emotion Recognition and Sentiment Analysis,” Viso Blog – viso.ai (10 października 2024) viso.ai
• Noor Al Mazrouei, „Emotion AI: Transforming Human-Machine Interaction,” TRENDS Research (17 lutego 2025) trendsresearch.org
• Meredith Somers, „Emotion AI, explained,” MIT Sloan (8 marca 2019) mitsloan.mit.edu
• Julie Bort, „’Emotion AI’ may be the next trend for business software, and that could be problematic,” TechCrunch (1 września 2024) techcrunch.com
• Will Knight, „Experts Say ‘Emotion Recognition’ Lacks Scientific Foundation,” ACLU (18 lipca 2019) aclu.org
• Oscar Holland, „Czy jesteś w 80% zły i w 2% smutny? Dlaczego ‘emocjonalna AI’ jest pełna problemów,” The Guardian (23 czerwca 2024) theguardian.com
• Valeria Vasquez i inni, „Zakaz technologii rozpoznawania emocji przez AI w miejscu pracy na mocy AI Act,” Wolters Kluwer – Global Workplace Law (luty 2025) legalblogs.wolterskluwer.com
• Cheryl Teh, „‘Każdy uśmiech, który udajesz’ — system rozpoznawania emocji AI może ocenić, jak ‘szczęśliwi’ są pracownicy w Chinach w biurze,” Business Insider (16 czerwca 2021) businessinsider.com
• Zespół badawczy AIMultiple, „Top 10+ przykładów i zastosowań emocjonalnej AI w 2025 roku,” AIMultiple (aktualizacja 2 czerwca 2025) research.aimultiple.com
• Sara Mosqueda, „El Kaliouby: Ludzie mogą wykorzystać AI, by ulepszyć świat,” Security Management Magazine – GSX Daily (24 września 2024) asisonline.org
• Dartmouth College, „Aplikacja na telefon wykorzystuje AI do wykrywania depresji na podstawie mimiki twarzy,” Dartmouth News (27 lutego 2024) home.dartmouth.edu