AI koja zna kako se osećate: Uspon tehnologije za detekciju emocija

Veštačka inteligencija više nije samo u vezi sa obradom brojeva ili prepoznavanjem lica – ona uči da čita kako se osećamo. Takzvana AI za detekciju emocija (poznata i kao Emocionalna AI ili afektivno računarstvo) koristi algoritme za analizu naših izraza lica, tona glasa, tekstualnih poruka, pa čak i telesnih signala kako bi zaključila ljudske emocije. Obećanje je primamljivo: intuitivnije aplikacije, empatični roboti i personalizovana iskustva koja reaguju na naše raspoloženje. Ali kako ova tehnologija prelazi iz istraživačkih laboratorija u radna mesta, škole i javne prostore, postavlja velika pitanja. Kako tačno rade ovi AI „čitači misli“? Gde se danas koriste? I zašto su neki stručnjaci jednako uzbuđeni zbog mogućnosti koliko su drugi zabrinuti zbog potencijalnih opasnosti? U ovom detaljnom izveštaju, istražićemo kako funkcioniše AI za detekciju emocija, primene u realnom svetu kroz različite industrije, najnovija dostignuća u 2024–2025. godini i etičke dileme koje izaziva – navodeći uvide stručnjaka i aktuelne činjenice tokom celog teksta.

Šta je AI za detekciju emocija i kako funkcioniše?

AI za detekciju emocija odnosi se na algoritme koji prepoznaju i tumače ljudske emocije iz različitih ulaznih podataka. Suštinski, radi se o tome da se mašinama da oblik emocionalne inteligencije. Istraživači ovo polje često nazivaju afektivno računarstvo. AI sistemi pokušavaju da „pročitaju“ osećanja kroz više kanala:

Analiza lica: Jedan od najčešćih pristupa je korišćenje računarskog vida za analizu izraza lica. Kamera snima sliku (ili video) lica osobe, a AI prvo detektuje lice i ključne tačke (oči, obrve, usta itd.). Zatim, koristeći duboko učenje (često konvolutivne neuronske mreže), analizira pokrete mišića ili „mikroizraze“ i klasifikuje izraz lica u kategoriju emocije viso.ai. Mnogi sistemi su obučeni da prepoznaju osnovne izraze kao što su sreća, tuga, bes, strah, iznenađenje, gađenje i neutralnost botpenguin.com. Na primer, nasmejana usta i zgužvane oči mogu biti označeni kao „srećan“, dok naborano čelo može biti „ljut“ – mada, kao što ćemo videti, nije uvek tako jednostavno.
Analiza tona glasa: Osim onoga što govorimo, kako govorimo može preneti emociju. Algoritmi za prepoznavanje emocija u govoru slušaju audio obrasce u govoru – stvari poput visine tona, jačine, tempa i boje glasa. AI modeli analiziraju ove vokalne karakteristike (intonaciju, naglasak, ritam itd.) kako bi zaključili da li osoba zvuči uzbuđeno, smireno, uznemireno i slično botpenguin.com. Na primer, drhtav, visok ton može ukazivati na strah ili bes, dok spor, monoton ton može sugerisati tugu ili umor. Neki sistemi čak prepoznaju određene reči ili verbalne signale (poput drhtavog „Dobro sam“) koji su povezani sa emocionalnim stanjima.
Analiza sentimenta teksta: Emocije se takođe izražavaju u pisanju. Veštačka inteligencija može da izvrši obradu prirodnog jezika (NLP) na tekstovima – od objava na društvenim mrežama do mejlova ili poruka u četu – kako bi detektovala sentiment. Tradicionalna analiza sentimenta klasifikuje tekst kao pozitivan, negativan ili neutralan. Novija emocionalna veštačka inteligencija ide dalje i identifikuje specifična osećanja iz teksta, posmatrajući izbor reči, kontekst i interpunkciju botpenguin.com. Na primer, „Presrećan/na sam!” bi se registrovalo kao veoma pozitivno (srećan/uzbuđen), dok bi „Osećam se povređeno i usamljeno…” moglo biti označeno kao tužno ili uznemireno. Veliki jezički modeli i specijalizovani klasifikatori koriste se za analizu emotivnog tona iza naših reči.
Ostali biometrijski signali: Neki napredni sistemi uključuju i fiziološke i bihejvioralne signale. Ovo može obuhvatiti govor tela (držanje, gestove), praćenje pokreta očiju (gde gledate i kako vam se zenice šire), otkucaje srca, provodljivost kože ili moždane talase putem nosivih uređaja. Ovi signali mogu ukazivati na stres ili uzbuđenje – npr. povišen puls i znojni dlanovi mogu ukazivati na anksioznost. U najsavremenijim istraživanjima, multimodalna emocionalna veštačka inteligencija kombinuje izraze lica, vokalne podatke i fiziološke podatke za potpuniju sliku trendsresearch.org. Na primer, AI za praćenje vozača u automobilu može koristiti kameru za posmatranje vašeg lica i senzor na volanu za praćenje otkucaja srca, tražeći znake pospanosti ili besa u vožnji.

Sve ove metode uključuju mašinsko učenje na velikim skupovima podataka o ljudskim emocionalnim izrazima. AI modeli se „treniraju” na primerima – slikama lica označenim emocijom, audio snimcima označenim raspoloženjem govornika itd. Vremenom, AI uči obrasce koji određene ulaze (određeni osmeh, ton glasa) povezuju sa verovatnim emocijama. To je u suštini prepoznavanje obrazaca: AI ne oseća ništa sama po sebi, već daje obrazovanu pretpostavku o našim osećanjima na osnovu signala koje šaljemo.

Važno je napomenuti da su trenutne AI za detekciju emocija obično ograničene na prepoznavanje nekoliko širokih kategorija emocija ili nivoa pobuđenosti. Ljudske emocije su nijansirane i zavise od konteksta, što ovaj zadatak čini veoma izazovnim za AI. Ipak, tehnologija se brzo unapređuje. Kombinovanjem računarskog vida, analize govora i NLP-a, današnja emocionalna AI može sa umerenom tačnošću da zaključi emocionalno stanje osobe – pod pravim uslovima. Kako jedan izveštaj objašnjava, integracija više tehnika (lice, glas, tekst) omogućava mašinama da tumače ljudske emocije „sa većom tačnošću”, čineći interakcije prirodnijim i responzivnijim trendsresearch.org. U narednim odeljcima pogledaćemo kako se ove sposobnosti primenjuju u stvarnom svetu i dokle su stigle do 2024–2025. godine.

Primena u stvarnom svetu kroz različite industrije

AI za prepoznavanje emocija je izašla iz laboratorije i ušla u razne industrije. Ovde su neke od najistaknutijih primena i slučajeva upotrebe po sektorima:

Zdravstvo i wellness: AI za emocije se testira kao alat za mentalno zdravlje i brigu o pacijentima. Na primer, istraživači su razvili aplikacije za pametne telefone koje prate lice i glas korisnika u potrazi za znacima depresije ili anksioznosti home.dartmouth.edu. Jedna studija iz 2024. godine predstavila je MoodCapture, aplikaciju koja koristi kameru telefona da otkrije rane simptome depresije analizirajući izraze lica korisnika svaki put kada otključaju telefon – tačno identifikujući promene raspoloženja sa oko 75% tačnosti u ispitivanjima home.dartmouth.edu. Terapeuti takođe istražuju AI koja sluša tokom savetodavnih sesija kako bi procenila emocionalno stanje pacijenta na osnovu tona glasa, potencijalno upozoravajući ako neko zvuči sve uznemirenije. U bolnicama, kamere za detekciju emocija mogu pratiti nivo bola ili stresa kod pacijenata kada medicinske sestre nisu prisutne. A za osobe sa autizmom, asistivna AI za emocije može pomoći u tumačenju izraza drugih – na primer, nosivi uređaj ili aplikacija na tabletu koja daje detetu sa autizmom poruke poput „Mama je srećna“ ili „Tata izgleda uznemireno“, pomažući im da nauče emocionalne signale mitsloan.mit.edu.
Marketing i korisničko iskustvo: Kompanije koriste emocionalnu veštačku inteligenciju kako bi dublje razumele potrošače. Oglašivači mogu testirati reklame ili promotivne video snimke sa panelima gledalaca koji su dali pristanak da budu snimani putem veb kamere; veštačka inteligencija zatim analizira izraze lica kadar po kadar da bi videla u kojim trenucima su se ljudi nasmejali, nasmejali naglas ili izgledali dosadno. Zapravo, oko 25% kompanija sa Fortune 500 liste koristilo je emocionalnu veštačku inteligenciju u istraživanju oglašavanja kako bi merili angažovanost publike mitsloan.mit.edu. Vodeća firma u ovoj oblasti, Affectiva (koju su osnovali naučnici sa MIT-a), omogućava brendovima da zabeleže podsvesne, „visceralne“ reakcije gledalaca na reklame i povežu ih sa stvarnim ponašanjem, kao što je da li će podeliti reklamu ili kupiti proizvod mitsloan.mit.edu. Osim reklama, trgovci istražuju kamere za detekciju emocija u prodavnicama kako bi procenili zadovoljstvo kupaca (da li vas je ta usluga ostavila nervoznim ili srećnim?). Na internetu, četbotovi opremljeni analizom sentimenta pokušavaju da prilagode svoje odgovore na osnovu raspoloženja korisnika – na primer, preusmeravajući na ljudskog agenta ako korisnik zvuči ljutito. Čak su i fizički bilbordi pokušali analitiku emocija: u Brazilu je interaktivni sistem reklama u metrou koristio kamere da klasifikuje izraze lica putnika (srećan, neutralan, iznenađen, nezadovoljan) i zatim menjao sadržaj reklame u realnom vremenu kako bi bolje odgovarao raspoloženju mase research.aimultiple.com.
Obrazovanje: Učionice i e-learning platforme eksperimentišu sa veštačkom inteligencijom kako bi procenile emocije i pažnju učenika. Cilj je da se stvore prilagodljiva okruženja za učenje. Na primer, jedna onlajn platforma za podučavanje u Indiji koristila je prepoznavanje emocija putem veb kamera učenika kako bi pratila angažovanost i umor tokom časova uživoresearch.aimultiple.com research.aimultiple.com. Sistem je pratio pokrete očiju i izraze lica kako bi proizveo „skorove pažnje“, pomažući nastavnicima da prepoznaju kada učenici gube fokus. U nekim visokotehnološkim učionicama, kamere su korišćene (kontroverzno) za skeniranje lica učenika u potrazi za znacima zbunjenosti ili dosade, kako bi nastavnici mogli da prilagode svoje lekcije legalblogs.wolterskluwer.com. Postoje čak i izveštaji iz Kine o školama koje testiraju kamere za prepoznavanje lica koje beleže emocionalna stanja učenika (poput sreće ili besa) tokom celog dana businessinsider.com. U teoriji, ovakvi alati bi mogli da personalizuju obrazovanje – tutorbot bi mogao da ponudi ohrabrenje ako primeti frustraciju – ali oni takođe otvaraju debate o nadzoru (više o tome kasnije).
Automobilska industrija: Proizvođači automobila ugrađuju AI za prepoznavanje emocija u vozila kako bi poboljšali bezbednost i iskustvo vožnje. Sistemi za praćenje vozača koriste kamere na kontrolnoj tabli da prate vaše lice i držanje tela, proveravajući pospanost ili ometenost. Ako AI primeti da vam kapci padaju ili da vam se držanje tela pogoršava (znaci umora), može da uključi alarm. Luksuzni brendovi idu korak dalje i pokušavaju da procene emocionalna stanja vozača: na primer, otkrivanje da li je vozač uznemiren ili ljut (bes na putu) i zatim intervenišu – možda smanjenjem jačine muzike ili čak ograničavanjem brzine automobila mitsloan.mit.edu. Affectiva, sada deo kompanije Smart Eye, ima AI platformu za automobile koja prati i vozača i putnike. Može da prepozna da li se vozač smeje ili svađa, ili da li su putnici anksiozni, i da u skladu s tim prilagodi podešavanja automobila (zamislite da automobil pojača bezbednosne sisteme ako oseti stres) mitsloan.mit.edu. U poluautonomnim automobilima, emocionalna AI može odlučiti da li ste previše ometeni da preuzmete kontrolu. Svi slučajevi upotrebe u automobilskoj industriji odnose se na korišćenje prepoznavanja emocija radi povećanja bezbednosti, udobnosti i personalizacije tokom vožnje.
Zabava i gejming: Zabava postaje interaktivnija zahvaljujući emocionalnoj veštačkoj inteligenciji. Programeri video igara su počeli da prave igre koje reaguju na emocije igrača. Značajan primer je „Nevermind“, psihološki triler koji koristi veb kameru igrača (ili biofidbek senzor) da detektuje stres – ako otkrije da se plašite, igra zapravo postaje izazovnija, ubacuje više strašnih elemenata, dok ako ostanete mirni, igra se olakšava research.aimultiple.com. Ovo stvara dinamično horor iskustvo koje se prilagođava vašem nivou straha. U filmu i televiziji, studiji testiraju praćenje lica na test publici kako bi videli emocionalne reakcije na scene (da li je preokret u zapletu zaista iznenadio gledaoce? Da li je komedija izazvala smeh?). Takođe se istražuje personalizovani sadržaj: zamislite striming servis koji može da koristi kameru vašeg laptopa da posmatra vaše lice i preporuči filmove koji odgovaraju vašem trenutnom raspoloženju (neki sajtovi za putovanja su čak pokušali da preporuče destinacije na osnovu izraza lica korisnika research.aimultiple.com). Iako su široko rasprostranjene preporuke sadržaja na osnovu „raspoloženja“ još uvek eksperimentalne, spajanje veštačke inteligencije i zabave obećava nove oblike imerzivnih, interaktivnih medija.
Pravo i bezbednost: Prepoznavanje emocija se razmatra za bezbednosne primene, mada je ovo najspornija oblast. Neke policijske uprave su razmatrale veštačku inteligenciju koja skenira uživo CCTV snimke ili snimke sa kamera na telu kako bi označila „sumnjivo“ ponašanje ili potencijalnu agresiju. Na primer, algoritmi mogu analizirati zvučne snimke zbog stresa ili besa kako bi identifikovali kada bi pozivalac na 911 ili neko u pritvoru mogao postati agresivan. Postoje „detektori agresije“ koji se nude za javnu bezbednost i koji slušaju ljutite tonove ili vikanje kako bi unapred upozorili obezbeđenje na moguće tuče. U Kini, kompanija Taigusys je razvila AI nadzorni sistem koji masovno prati lica zaposlenih u kancelarijama en masse i tvrdi da može da detektuje kako se svaka osoba oseća – da li je zaposleni srećan, neutralan, ljut ili pod stresom businessinsider.com. Sistem čak tvrdi da zna da li se lažno smeškate i generiše izveštaje o radnicima koji pokazuju previše „negativnih“ emocija, sugerišući da im je možda potrebna intervencija ili da su sumnjivi businessinsider.com. U zatvorima se slična tehnologija testira za praćenje emocionalnog stanja zatvorenika. Granična bezbednost u nekim zemljama je testirala AI detektore laži koji posmatraju mikro-ekspresije putnika u potrazi za „znacima prevare“. Policijske istrage eksperimentišu sa analizom glasa koja pokušava da utvrdi da li je osumnjičeni nervozan. Ipak, nijedna policijska služba se ne oslanja na ove alate kao jedini dokaz – čak i zagovornici kažu da treba da budu samo dopuna. Kao što ćemo diskutovati, stručnjaci ovde savetuju izuzetnu opreznost jer lažna očitavanja (npr. AI pogrešno označi nevinu osobu kao „ljutu“ ili „prevarantsku“) mogu imati ozbiljne posledice u kontekstu pravde i bezbednosti.

Kroz sve ove industrije, osnovna ideja je da, ako mašine mogu da razumeju naša osećanja, mogu da komuniciraju sa nama prirodnije i efikasnije. AI tutor koji prepozna frustraciju može da preformuliše lekciju. Bot za korisničku podršku koji čuje nestrpljenje u vašem glasu može odmah da pozove ljudskog menadžera. Automobil koji zna da ste umorni može da vas razbudi ili preuzme vožnju. Suština Emotion AI je da tehnologiju učini empatičnijom, prilagođavajući se ljudima umesto da tera ljude da se prilagođavaju mašinama trendsresearch.org. To je fascinantna granica – i brzo napreduje, što sledeći odeljak ilustruje najnovijim razvojem.

Najnovija dešavanja i vesti (2024–2025)

AI za prepoznavanje emocija je doživeo brz razvoj u poslednje dve godine, od tehničkih proboja do regulatornih prepreka. Evo nekih od najznačajnijih aktuelnih trendova i vesti:

Rastuće investicije i startapi: Poslovni svet je usmerio pažnju na emocionalnu veštačku inteligenciju. Industrijski analitičari izveštavaju da „emocionalna AI“ postaje vrući trend u poslovnom softveru, posebno kako kompanije uvode sve više četbotova i virtuelnih asistenata kojima je potrebna emocionalna svesnost techcrunch.com. Nedavno istraživanje PitchBook-a predviđa da će usvajanje emocionalne AI rasti kako bi interakcije sa AI bile sličnije ljudskim techcrunch.com. Rizični kapital se sliva u ovaj sektor: na primer, vodeća kompanija za konverzacionu AI, Uniphore, prikupila je više od $600 miliona (uključujući rundu od $400M u 2022. godini) za razvoj AI koja može da prepozna emocije korisnika tokom poziva za korisničku podršku techcrunch.com. Brojni startapi ulaze u ovu oblast – kompanije kao što su MorphCast, audEERING, Voicesense, SuperCEED, Siena AI, i druge razvijaju alate za analizu facijalnih i glasovnih signala na velikoj skali techcrunch.com. Tržišne prognoze odražavaju ovaj zamah: jedan izveštaj procenjuje da će globalno tržište za detekciju i prepoznavanje emocija porasti sa oko 3–4 milijarde dolara u 2024. na više od 7 milijardi u narednih pet godina technologyslegaledge.com, dok druga analiza predviđa skok čak do 173 milijarde dolara do 2031. godine (iako se takve procene razlikuju) research.aimultiple.com. Jasno je da mnoge kompanije vide komercijalni potencijal u AI koja može da proceni osećanja – bilo radi povećanja prodaje, poboljšanja korisničkog zadovoljstva ili unapređenja bezbednosti.
Nove tehnološke mogućnosti: Na polju istraživanja, veštačka inteligencija postaje sve bolja u razumevanju nijansiranih emocija. Upadljiv primer iz 2024. godine bio je projekat na Univerzitetu u Groningenu koji je obučavao veštačku inteligenciju da detektuje sarkazam u govornom jeziku theguardian.com. Sistem je treniran pomoću skriptovanih dijaloga iz sitkoma kao što su Friends i The Big Bang Theory, čime su istraživači naučili model da prepozna vokalne obrasce sarkastičnog govora (npr. preuveličan ton ili razvlačenje reči). Model je mogao da identifikuje sarkazam u audio zapisu sa oko 75% tačnosti theguardian.com. Ovo je značajno jer je sarkazam notorno težak za algoritme (a ponekad i za ljude!) da ga prepoznaju, a ipak je ključan za razumevanje pravih osećanja u komunikaciji. Napredak u ovakvim oblastima pokazuje da AI za emocije prelazi granice detekcije samo “srećan vs. tužan” ka složenijim društvenim signalima. Takođe, multimodalni modeli se poboljšavaju: sada imamo AI koji kombinuje tekst, glas i podatke o licu za kontekstualno svesnije očitavanje emocija. Kompanije poput Hume AI (osnovane od strane bivšeg istraživača iz Google-a) razvijaju empatične glasovne interfejse koji reaguju ne samo na šta govorite, već i na kako to govorite, sa ciljem da AI konverzacije učine emocionalno usklađenijim theguardian.com. Hume je čak osnovao etički odbor za usmeravanje razvoja “empatične AI” theguardian.com, priznajući potrebu za opreznim napretkom. Sa hardverske strane, kamere i senzorska tehnologija su sveprisutni i jeftini, što znači da je lakše nego ikada ugraditi mogućnosti za detekciju emocija u telefone, automobile i pametne kućne uređaje.
Glavno prihvatanje i kontroverze: Kako se AI za prepoznavanje emocija uvodi, tako nailazi i na određene prepreke. Jedan od najpoznatijih primera: gigant za video konferencije Zoom navodno je razmatrao dodavanje funkcija za detekciju emocija (poput obaveštavanja domaćina sastanka da li su učesnici angažovani ili ometeni) – ali nakon javne reakcije zbog privatnosti, Zoom je sredinom 2022. objavio da “nema planove” da implementira takav AI za praćenje emocija. Slično tome, platforma za zapošljavanje HireVue je počela da koristi AI za analizu izraza lica kandidata tokom video intervjua, ali je do 2021. izbacila komponentu za analizu lica zbog naučne kritike i zabrinutosti javnosti. Ovi incidenti postavljaju scenu za 2024, gde sama ideja prepoznavanja emocija u aplikacijama za radno mesto ili potrošače izaziva čuđenje (i to ne onu vrstu koju bi AI trebalo da prati). U vestima i dalje viđamo zabrinutost zbog zloupotrebe: na primer, izveštaji da kineske tehnološke kompanije primenjuju prepoznavanje emocija na zaposlenima izazvali su međunarodnu kritiku businessinsider.com. I dok neki prodavci reklamiraju “AI za detekciju laži” za bezbednost, stručnjaci su mnoge od ovih sistema razotkrili kao jedva bolje od slučajnosti.
Regulatorni potezi: Možda je najveći razvoj događaja u 2024. godini to što su vlade počele da intervenišu u oblasti emocionalne veštačke inteligencije. U maju 2024. godine, Evropska unija je finalizovala EU Zakon o veštačkoj inteligenciji, sveobuhvatan zakon za regulisanje veštačke inteligencije. Posebno je značajno što ovaj zakon zabranjuje upotrebu veštačke inteligencije za prepoznavanje emocija u realnom vremenu u određenim kontekstima kao „neprihvatljiv rizik“ za ljudska prava theguardian.com. Konkretno, EU će zabraniti AI sisteme koji tvrde da mogu da zaključe emocije ljudi na radnim mestima, u školama ili drugim javnim institucijama (uz uske izuzetke kao što su zdravstvo ili bezbednost) legalblogs.wolterskluwer.com. Zakonodavci EU su zaključili da je prepoznavanje emocija u takvim okruženjima invazivno i nepouzdano, i da može dovesti do nepravednih ishoda. (Napravili su razliku između AI koji samo identifikuje nečiji spoljašnji izraz – što bi moglo biti dozvoljeno – i AI koji zapravo tvrdi šta ta osoba oseća iznutra, što bi bilo zabranjeno theguardian.com.) Ovakav pravni stav, jedan od prvih te vrste, odražava rastući skepticizam među donosiocima odluka u vezi sa validnošću i etikom emocionalne AI. U SAD ne postoji savezna zabrana, ali neke jurisdikcije razmatraju ograničenja, a ACLU i druge grupe za građanska prava pozivaju na obustavu upotrebe prepoznavanja emocija u policiji i zapošljavanju aclu.org, businessinsider.com. Činjenica da su regulatori svrstali emocionalnu AI u istu kategoriju sa stvarima poput socijalnog bodovanja i suptilne manipulacije (takođe zabranjenih EU Zakonom) šalje snažnu poruku: 2025. i naredne godine verovatno će doneti strožu kontrolu i standarde za svaku AI koja tvrdi da može da čita naša osećanja.

Ukratko, protekla godina ili dve bile su ključne. AI za detekciju emocija je rasprostranjenija nego ikada, tiho ulazi u korisničku podršku, automobile i aplikacije – ali je i osporavanija nego ikada, jer stručnjaci i regulatori povlače ručnu. Kako tehnologija sazreva, očekujte još više debata o tome da li AI može zaista da razume ljudske emocije, i ako može, ko ima pravo da koristi tu moć. Ta pitanja nas vode pravo do sledeće teme: etička razmatranja.

Etička razmatranja i zabrinutosti

Uspon AI za prepoznavanje emocija izazvao je intenzivne etičke rasprave. Čitanje nečijih emocija nije isto što i očitavanje termometra – to zadire u lične, često privatne aspekte naših života. Evo ključnih zabrinutosti koje ističu stručnjaci i zagovornici:

Pouzdanost i naučna validnost: Osnovno pitanje je da li ovi sistemi zaista funkcionišu kako se tvrdi. Ljudske emocije su složene, zavise od konteksta i nisu uvek vidljive na površini. Psiholozi upozoravaju da ne postoji jednostavno jednoznačno povezivanje između izraza lica i unutrašnjeg osećanja. Osoba može da se smeje dok je tužna, ili da se mršti dok je skoncentrisana – izrazi se razlikuju među pojedincima i kulturama. Godine 2019, velika analiza više od 1.000 studija koju je vodila psihološkinja Lisa Feldman Barrett zaključila je da „emocionalno stanje osobe ne može se pouzdano zaključiti samo na osnovu pokreta lica“ aclu.org. Ona daje slikovit primer: „Mrštenje može, ali i ne mora biti izraz besa… ljudi se mršte kad su ljuti, ali i kad su zbunjeni ili čak kad ih muči gasovi!“aclu.org. Ukratko, kontekst je izuzetno važan za emocije, a veštačka inteligencija obično nema kontekst. Barrett i drugi tvrde da su današnji algoritmi veoma dobri u detektovanju pokreta mišića lica ili intonacije glasa, ali oni ne mogu zaista znati šta to emocionalno znači aclu.org. Kako je direktno rekla u jednom intervjuu, „Ne postoji automatsko prepoznavanje emocija. Najbolji algoritmi mogu da detektuju izraz lica, ali nisu opremljeni da zaključe šta on znači“ aclu.org. Ovaj skepticizam je široko rasprostranjen u naučnoj zajednici. Bez jasne, opšteprihvaćene definicije emocija čak i među psiholozima, izgradnja veštačke inteligencije koja ih identifikuje je na klimavim teorijskim osnovama theguardian.com. U praktičnom smislu, to povećava opasnost od pogrešnog tumačenja: ako AI pogrešno označi osobu kao „ljutu“ ili „obmanjujuću“ na osnovu pogrešno protumačenog znaka, to može dovesti do nepravednih posledica (da bude označena od strane obezbeđenja, odbijena na razgovoru za posao itd.). Jednostavno rečeno, kritičari smatraju da je trenutna tehnologija za prepoznavanje emocija u najboljem slučaju približna – a u najgorem digitalna frenologija (pseudo-nauka), posebno kada se koristi za procenu pojedinaca article19.org.
Pristrasnost i pravičnost: Kao i mnogi AI sistemi, algoritmi za detekciju emocija mogu odražavati, pa čak i pojačavati pristrasnosti prisutne u podacima na kojima su obučavani. Jedna od glavnih briga je kulturna i rasna pristrasnost. Ako je AI uglavnom obučen na, recimo, zapadnim subjektima koji pokazuju „knjiške” izraze lica, može pogrešno tumačiti ljude iz različitih etničkih ili kulturnih sredina. Postoje dokazi da se to već dešava. Studija iz 2023. godine otkrila je da neki komercijalni AI sistemi za prepoznavanje emocija dosledno ocenjuju izraze lica crnaca kao negativnije ili ljutitije u poređenju sa drugim grupama theguardian.com. Drugim rečima, neutralan izraz na licu crnca AI može protumačiti kao „ljut”, dok to ne bi učinio za belu osobu – zabrinjavajuća pristrasnost sa očiglednim posledicama za stvari poput bezbednosnih provera ili procena na radnom mestu theguardian.com. „Vaši algoritmi su dobri onoliko koliko i materijal za obuku,” primećuje Barrett. „Ako je materijal za obuku pristrasan, vi tu pristrasnost ugrađujete u kod.” theguardian.com. Kultura takođe utiče na to kako izražavamo emocije: osmeh može značiti različite stvari u različitim kontekstima, a gestovi ili tonovi nisu univerzalni. Erik Brinjolfson sa MIT-a upozorava da tehnologija za prepoznavanje emocija mora biti osetljiva na raznolikost: „Prepoznavanje emocija na licu Afroamerikanca može biti teško za mašinu obučenu na licima belaca. A gestovi ili intonacije u jednoj kulturi mogu značiti nešto sasvim drugo u drugoj” mitsloan.mit.edu. Ako se ove nijanse ne uzmu u obzir, tehnologija bi mogla sistematski pogrešno tumačiti ili dovoditi u nepovoljan položaj određene grupe – u suštini kodirajući predrasude pod izgovorom „čitanja emocija”. Pristrasnost nije vezana samo za demografiju; postoji i kontekstualna pristrasnost (npr. AI u bučnom okruženju može tumačiti povišene glasove kao ljutnju, iako je samo glasno). Obezbeđivanje pravičnosti u AI za emocije je ogroman izazov, i do sada mnogi sistemi nisu pokazali da jednako dobro funkcionišu za sve ljude.
Nadzor i privatnost: Veštačka inteligencija za prepoznavanje emocija često podrazumeva stalno praćenje izraza lica, glasa ili fizioloških signala ljudi – što očigledno izaziva zabrinutost za privatnost. Strah je da bi to moglo omogućiti novi nivo invazivnog nadzora, gde naši unutrašnji osećaji postaju podaci koji se mogu pratiti. Na primer, na radnom mestu zaposleni bi mogli da se osećaju kao da su pod emocionalnim mikroskopom, ocenjuju ih ne samo po učinku, već i po tome da li se dovoljno smeškaju ili zvuče dovoljno “entuzijastično.” Ovo nije naučna fantastika; to se već dešava na nekim mestima. Kineski sistem “osmehni se za ocenu” pomenut ranije je dobar primer – radnici se plaše da se mršte ili izgledaju umorno jer ih AI posmatra i prijavljuje “loš stav” šefovima businessinsider.com. Takve prakse stvaraju represivno okruženje i narušavaju ličnu autonomiju. Čak i van radnog mesta, zamislite javne kamere koje ne prepoznaju samo vaše lice, već vas označavaju kao “nervozne” ili “uznemirene” dok prolazite. Ti podaci mogu biti zloupotrebljeni za profilisanje. Za razliku od očitavanja termostata, očitavanje emocija može biti duboko manipulativno – ljudi često pokušavaju da prikriju svoja prava osećanja u javnosti iz dobrih razloga (privatnost, učtivost), a kada AI to razotkriva, deluje orvelovski. Zagovornici privatnosti ističu da ljudi nisu dali pristanak da im emocije analiziraju kamere u tržnim centrima ili policijski CCTV. Ipak, softver za prepoznavanje emocija se dodaje nekim sigurnosnim sistemima bez znanja javnosti. Tu je i pitanje bezbednosti podataka: emocionalni podaci (snimci lica, audio zapisi) su osetljive biometrijske informacije. Ako se prikupljaju i čuvaju, ko ih štiti i koliko dugo? Hakovanje ili curenje podataka o emocijama (na primer, snimci terapijskih seansi ili snimci kamera sa oznakom nečijeg raspoloženja) može biti veoma štetno. Ukratko, pretvaranje naših emocionalnih života u tokove podataka predstavlja “moćan novi oblik nadzora,” kako je to opisala jedna analiza Guardiana theguardian.com. Ova zabrinutost podstiče zahteve za strogim ograničenjima gde takvo praćenje može da se sprovodi.
Saglasnost i autonomija: Pitanje saglasnosti je usko povezano sa privatnošću. Da li bi ljudi trebalo da daju pristanak da bi veštačka inteligencija analizirala njihove emocije? Mnogi smatraju da – analiza emocija je toliko lična da zahteva izričitu dozvolu. Neke kompanije zaista primenjuju opt-in modele. Na primer, politika Affectiva-e za testiranje reklama je da snimaju i analiziraju samo gledaoce koji su dali saglasnost i bili informisani, i zabranjuju korišćenje tehnologije za tajni nadzor ili bilo kakvu identifikaciju pojedinaca mitsloan.mit.edu. Međutim, nisu svi ponuđači tako strogi, a u praksi zaposleni ili studenti možda neće imati osećaj da mogu da odbiju ako poslodavac ili škola uvede program za praćenje emocija (zamislite da vam na poslu narede da nosite narukvicu koja detektuje emocije). Ovo otvara pitanje prisile. Da li će radnici u budućnosti biti primorani da održavaju određeni emocionalni izraz (npr. da uvek zvuče „srećno“ tokom poziva) zato što ih AI posmatra? To zadire u pitanja ljudskog dostojanstva i slobode da osećamo bez analize. Sa etičkog stanovišta, mnogi smatraju da pojedinci moraju zadržati kontrolu nad sopstvenim emocionalnim podacima. Trebalo bi da imate pravo da zadržite svoje emocije za sebe, ili bar da kontrolišete ko/šta može da ih detektuje. Bez jasne saglasnosti, prepoznavanje emocija postaje neželjeno zadiranje u našu mentalnu privatnost – ono što neki naučnici nazivaju „mentalnim suverenitetom“. Ohrabruje to što novi zakon EU izričito zabranjuje AI za prepoznavanje emocija na radnim mestima i u školama bez obzira na saglasnost (zbog neravnoteže moći, prava dobrovoljna saglasnost je upitna) williamfry.com, legalblogs.wolterskluwer.com. To ukazuje na tendenciju ka zaštiti ljudi od pritiska da budu emocionalno transparentni. Kako se ova tehnologija širi, insistiranje na saglasnosti – i davanje ljudima mogućnosti da je isključe – može biti ključno za očuvanje lične autonomije.
Manipulacija i zloupotreba: Još jedna etička dimenzija je kako bi uvidi iz emocionalne veštačke inteligencije mogli biti korišćeni za uticanje na ljude ili njihovu eksploataciju. Emocije pokreću mnoge naše odluke, i ako kompanije ili politički akteri mogu da otkriju naša osećanja, mogli bi da prilagode poruke kako bi nas emocionalno pogodili. Videli smo niskotehnološku verziju ovoga u skandalu sa Cambridge Analytica, gde su Facebook podaci korišćeni za psihološko profilisanje birača i ciljanje reklama koje izazivaju emocionalne reakcije. Emocionalna veštačka inteligencija bi mogla višestruko da pojača takve taktike – u suštini omogućavajući “masovnu emocionalnu manipulaciju”. Kako upozorava Randi Williams iz Algorithmic Justice League, “Kada imamo veštačku inteligenciju koja zadire u najljudskije delove nas samih, postoji visok rizik da pojedinci budu izmanipulisani u komercijalne ili političke svrhe.” theguardian.com. Na primer, marketinška veštačka inteligencija može primetiti da ste jedne večeri pomalo neraspoloženi (što detektuju vaši pametni kućni uređaji), i aplikacija može trenutno da vam pošalje reklamu za hranu za utehu ili “retail therapy” baš u tom ranjivom trenutku. Ili, autoritarna vlada može koristiti prepoznavanje emocija tokom televizijskih govora: ako stanovništvo ne izgleda dovoljno oduševljeno, možda je vreme da se pojača propaganda ili istraže disidenti. Ovi scenariji zvuče distopijski, ali su upravo takve zloupotrebe koje stručnjaci žele da spreče sada, pre nego što se dogode. Čak i u blažim oblicima, emocionalno usmeravanje otvara etička pitanja – da li je u redu da video igra namerno pokušava da vas više uplaši kada zna da ste već uplašeni, kao u primeru horor igre? Neki bi rekli da je to u redu za zabavu; drugi brinu o psihološkom uticaju. Suština je da emocionalna veštačka inteligencija pruža novu polugu za uticanje na ljudsko ponašanje, i bez regulative ili etičkih ograničenja, ta poluga može biti upotrebljena u mračne svrhe (npr. “emocionalna manipulacija” je eksplicitno navedena kao zabranjena upotreba u etičkim smernicama Hume AI theguardian.com). Transparentnost je ključna: ako se emocionalni podaci koriste za uticanje na ishode (kao kada vas AI za zapošljavanje odbije jer smatra da vam je “nedostajala strast” na intervjuu), osoba bi to trebalo da zna i da ima mogućnost da to ospori.
Regulacija i odgovornost: S obzirom na sve ove zabrinutosti, sve su glasniji zahtevi za regulisanje AI sistema za detekciju emocija. Zabrana EU u određenim oblastima je jedan pristup – u suštini se kaže da su neke upotrebe zabranjene. Drugde, stručnjaci su predložili obaveznu rigoroznu validaciju i reviziju svih implementiranih AI sistema za emocije, kako bi se dokazalo da su tačni i nepristrasni (što je visok standard koji mnogi možda neće ispuniti). Organizacije poput ACLU i Article 19 zalagale su se za potpune moratorijume na prepoznavanje afekta u osetljivim oblastima, nazivajući ga naučno neutemeljenim i nespojivim sa ljudskim pravima article19.org, businessinsider.com. Drugi aspekt regulacije je zaštita podataka: pošto se emocionalni podaci mogu smatrati biometrijskim ili zdravstvenim podacima, mogli bi potpasti pod zakone o privatnosti poput GDPR-a, što bi zahtevalo strogu saglasnost, ograničenje svrhe i bezbednost. Regulatori takođe raspravljaju o tome da li bi ljudi trebalo da imaju pravo da odbiju praćenje emocija na javnim mestima i pravo da ne budu procenjivani putem automatizovanih „emocionalnih skorova“. S druge strane, neke industrijske grupe zalažu se za standarde koji bi omogućili odgovornu upotrebu AI za emocije (na primer, IEEE je razmatrao etičke smernice za adaptivne sisteme koji reaguju na emocije). Jasno je da je tehnologija do sada pretekla pravila, ali 2024. godina predstavlja prekretnicu. Vlade prepoznaju prepoznavanje emocija kao posebnu kategoriju AI koja zahteva nadzor. U narednim godinama možemo očekivati više politika koje pokušavaju da povuku granice oko toga kako i gde se ovi alati mogu koristiti – i da uvedu odgovornost za one koji ih koriste. Na kraju krajeva, ako AI sistem napravi emocionalnu procenu koja nekome naškodi (npr. označi ga kao „visok rizik“ bez osnova), ko je odgovoran? Na ova teška pitanja još uvek treba dati odgovore.

Na kraju, etika se svodi na jednostavan princip: samo zato što možemo pokušati da čitamo emocije pomoću AI, da li treba to da radimo? I ako treba, pod kojim uslovima? Pristalice veruju da postoje humani i korisni načini upotrebe ove tehnologije (posebno uz saglasnost i pažnju), dok se kritičari plaše da je sama osnova pogrešna i podložna zloupotrebama. To nas dovodi do poslednjeg dela, gde ćemo čuti direktno od stručnjaka sa obe strane ove debate.

Perspektive stručnjaka

Sa AI za detekciju emocija na raskršću inovacija i kontroverzi, korisno je čuti šta vodeći stručnjaci u ovoj oblasti imaju da kažu. Stručnjaci su podeljeni – neki vide transformativni potencijal, dok drugi pozivaju na krajnji oprez. Evo nekoliko njihovih stavova iz prve ruke:

Optimisti i inovatori: Mnogi pioniri afektivnog računarstva tvrde da obogaćivanje mašina emocionalnom inteligencijom može duboko poboljšati interakciju između ljudi i mašina. „Pomisli na način na koji komuniciraš sa drugim ljudima; gledaš im u lice, gledaš njihovo telo i menjaš svoju interakciju u skladu s tim,” objašnjava Javier Hernandez, istraživač u MIT-ovoj grupi za afektivno računarstvo. „Kako mašina može efikasno da komunicira ako ne zna tvoje emocionalno stanje?” mitsloan.mit.edu. Ova grupa veruje da veštačka inteligencija sa emocijama može učiniti tehnologiju odgovornijom, personalizovanijom, pa čak i saosećajnijom. Rana el Kaliouby, koja je suosnivač Affectiva-e i zagovornik „humanizacije tehnologije”, ističe da su naše emocije suština načina na koji donosimo odluke i povezujemo se. Ona vidi veštačku inteligenciju kao podržavajućeg partnera: „Paradigma nije čovek protiv mašine – zapravo je mašina ta koja unapređuje čoveka,” kaže el Kaliouby, naglašavajući da veštačka inteligencija treba da unapredi ljudske sposobnosti, a ne da ih zameni mitsloan.mit.edu. Po njenom mišljenju, ako pravilno primenimo veštačku inteligenciju, ona bi, na primer, mogla pomoći vozačima da ostanu bezbedni, lekarima da bolje razumeju pacijente ili korisnicima da se osećaju saslušano. El Kaliouby je entuzijasta kada je u pitanju upotreba emocionalne veštačke inteligencije za dobrobit – često ističe projekte kao što su korišćenje emocionalne analize za pomoć deci sa autizmom ili za rano otkrivanje problema mentalnog zdravlja. I uprkos zabrinutostima, kada su je pitali da li uopšte treba da imamo ovu tehnologiju, njen odgovor je odlučno da. „Apsolutno da,” rekla je 2024. godine – jer pored rizika, „veštačka inteligencija nudi neverovatna rešenja za najveće izazove čovečanstva.” asisonline.org Njen stav, kao i stav mnogih u industriji, jeste da ne treba baciti „dete s vodom”. Umesto toga, oni pozivaju na razvoj odgovorne, na čoveka usmerene emocionalne veštačke inteligencije – sa dizajnom koji podrazumeva pristanak, transparentnost i raznolikost – kako bi se ostvarile koristi (bezbedniji putevi, bolje zdravstvo, zanimljivije obrazovanje itd.). Kako el Kaliouby kaže, „Svaka industrija se transformiše … uz pomoć veštačke inteligencije,” a emocionalna veštačka inteligencija, ako se pravilno razvije, „mogla bi te transformacije učiniti saosećajnijim.” asisonline.org Zagovornici priznaju izazove, ali generalno smatraju da se oni mogu ublažiti promišljenim dizajnom i politikom, a ne potpunim odbacivanjem tehnologije.
Skeptici i kritičari: S druge strane, hor naučnika i etičara nas poziva da usporimo ili čak zaustavimo tehnologiju prepoznavanja emocija, upozoravajući da se ona zasniva na klimavoj nauci i nosi neprihvatljive rizike. Već smo čuli skepticizam profesorke Lise Feldman Barrett zasnovan na istraživanjima, da se izrazi lica ne mogu pouzdano povezati sa emocijama. Barrett otvoreno odbacuje tvrdnje mnogih proizvođača: „Većina kompanija i dalje tvrdi da možete pogledati lice i reći da li je neko ljut ili tužan… To očigledno nije slučaj.” theguardian.com Njena briga je da će, bez obzira na dobre namere, ovi sistemi pogrešno procenjivati – i ljudi će biti pogrešno ocenjeni. Još jedna glasna kritičarka, Vidushi Marda iz Article 19 (grupa za digitalna prava), koja je proučavala primenu prepoznavanja emocija u Kini, izjavila je da je ova oblast „fundamentalno zasnovana na nenačnim idejama” i da je primena takvih sistema u velikom obimu „duboko neetična.” businessinsider.com Zagovornici privatnosti poput Evan Selinger nazvali su prepoznavanje emocija „najopasnijom veštačkom inteligencijom za koju nikada niste čuli,” tvrdeći da može dovesti do novih oblika diskriminacije i manipulacije. I nisu samo akademici: čak i ljudi iz tehnološke industrije imaju sumnje. U intervjuu za TechCrunch, Andrew Moore, bivši šef Google Cloud AI, upozorio je da je pouzdano razumevanje emocija od strane AI „najmanje deceniju daleko” i da bi zloupotreba pre toga mogla narušiti poverenje u AI uopšte. Ovi stručnjaci često preporučuju stroga ograničenja. ACLU je otišao toliko daleko da je podržao zabrane, a politički analitičar Daniel Kahn Gillmor napisao je, „Najmanje što možemo učiniti jeste da ničija prava ili egzistencija ne zavise od AI nagađanja o emocijama”. Iz njihove perspektive, potencijalne štete – pogrešna hapšenja, pristrasno zapošljavanje, povrede mentalne privatnosti – prevazilaze neizvesne koristi. Takođe ističu da se i sami ljudi muče da pravilno pročitaju emocije drugih kroz različite kulture i kontekste, pa je očekivati da to može mašina – besmisleno. U suštini, skeptici pozivaju društvo da pritisne pauzu, najpre zahteva čvrste dokaze i etičke okvire, i zapamti da su emocije duboko ljudske – možda nešto što ne želimo da mašine analiziraju.

Zanimljivo je da oba tabora na kraju teže boljoj budućnosti, ali se razilaze u metodama. Optimisti se fokusiraju na potencijalne dobitke (empatija u AI, poboljšano blagostanje), dok se skeptici fokusiraju na sprečavanje štete (nepravda, gubitak privatnosti). Postoje i umereni između, koji priznaju potencijal tehnologije, ali insistiraju na rigoroznim merama zaštite. Na primer, Erik Brynjolfsson zalaže se za razvoj AI za emocije promišljeno, rekavši „važno je zapamtiti da kada se koristi promišljeno, krajnje koristi mogu i treba da budu veće od troškova”, ali odmah dodaje da mora biti „prikladno za sve ljude” i kulturno svesno mitsloan.mit.edu. Taj srednji put verovatno podrazumeva snažnu regulativu, transparentnost kompanija i kontinuirana istraživanja o tačnosti ovih sistema.

Zaključno, veštačka inteligencija koja detektuje emocije nalazi se na fascinantnom raskršću tehnologije, psihologije i etike. Njeni pristalice veruju da može učiniti naše uređaje i usluge mnogo više prilagođenim našim potrebama – od automobila koji nas umiruju do aplikacija koje znaju kada se borimo i nude pomoć. Njeni kritičari s pravom upozoravaju da nijedna veštačka inteligencija ne bi trebalo da bude terapeut, sudija ili špijun – čitajući naša osećanja na načine koji mogu dovesti u zabludu ili potlačiti. Istina će verovatno zavisiti od toga kako odlučimo da je koristimo. Od 2025. godine, AI za detekciju emocija je prisutan i napreduje, ali je i pod strogim nadzorom. Videli smo stvarne koristi u određenim nišama (poput praćenja mentalnog zdravlja i adaptivnog obrazovanja), ali i stvaran otpor (novi zakoni i zabrane kao odgovor na zloupotrebe).

U budućnosti, društvo će morati pažljivo da pronađe put: zahtevajući čvrstu naučnu osnovu i pravičnost u svim alatima za detekciju emocija, obezbeđujući sigurne privatne prostore bez emocionalnog nadzora i demokratski odlučujući gde je granica između korisne empatije i štetnog zadiranja u privatnost. Jedno je sigurno: ova debata tek počinje. Veštačka inteligencija možda postaje bolja u prepoznavanju da li ste nestašni ili dobri – ali na svima nama je da obezbedimo da se ova moćna sposobnost koristi na načine koji poštuju ljudsko dostojanstvo i unapređuju naše živote, a ne da ih umanjuju.

Izvori:

Gaudenz Boesch, “AI Emotion Recognition and Sentiment Analysis,” Viso Blog – viso.ai (10. oktobar 2024) viso.ai
Noor Al Mazrouei, “Emotion AI: Transforming Human-Machine Interaction,” TRENDS Research (17. februar 2025) trendsresearch.org
Meredith Somers, “Emotion AI, explained,” MIT Sloan (8. mart 2019) mitsloan.mit.edu
Julie Bort, “’Emotion AI’ may be the next trend for business software, and that could be problematic,” TechCrunch (1. septembar 2024) techcrunch.com
Will Knight, “Experts Say ‘Emotion Recognition’ Lacks Scientific Foundation,” ACLU (18. jul 2019) aclu.org
Oscar Holland, „Da li ste 80% besni i 2% tužni? Zašto je ‘emocionalna AI’ puna problema,“ The Guardian (23. jun 2024) theguardian.com
Valeria Vasquez i drugi, „Zabrana tehnologija za prepoznavanje emocija putem AI u radnom okruženju prema AI Aktu,“ Wolters Kluwer – Global Workplace Law (feb. 2025) legalblogs.wolterskluwer.com
Cheryl Teh, „‘Svaki osmeh koji lažiraš’ — sistem za prepoznavanje emocija putem AI može proceniti koliko su radnici u Kini ‘srećni’ u kancelariji,“ Business Insider (16. jun 2021) businessinsider.com
AIMultiple Research Team, „Top 10+ primera i slučajeva upotrebe emocionalne AI u 2025,“ AIMultiple (ažurirano 2. jun 2025) research.aimultiple.com
Sara Mosqueda, „El Kaliouby: Ljudi mogu iskoristiti AI za poboljšanje sveta,“ Security Management Magazine – GSX Daily (24. sept. 2024) asisonline.org
Dartmouth College, „Aplikacija za telefon koristi AI za otkrivanje depresije na osnovu izraza lica,“ Dartmouth News (27. feb. 2024) home.dartmouth.edu