Tunteesi Tietävä AI: Tunnetta Tunnistavan Teknologian Nousu

Tekoäly ei ole enää vain numeroiden murskaamista tai kasvojen tunnistamista – se opettelee lukemaan miten tunnemme itsemme. Niin sanottu tunteita tunnistava tekoäly (tunnetaan myös nimillä Emotion AI tai affektiivinen laskenta) käyttää algoritmeja analysoimaan ilmeitämme, äänensävyämme, tekstiviestejämme ja jopa kehon signaalejamme päätelläkseen ihmisten tunteita. Lupaus on houkutteleva: intuitiivisempia sovelluksia, empaattisia robotteja ja yksilöllisiä kokemuksia, jotka reagoivat mielialaamme. Mutta kun tämä teknologia siirtyy tutkimuslaboratorioista työpaikoille, kouluihin ja julkisiin tiloihin, se herättää suuria kysymyksiä. Miten nämä tekoälyn “mielenlukijat” oikeastaan toimivat? Missä niitä käytetään jo tänään? Ja miksi jotkut asiantuntijat ovat yhtä innoissaan mahdollisuuksista kuin toiset huolissaan riskeistä? Tässä syvällisessä raportissa tutkimme, miten tunteita tunnistava tekoäly toimii, sen käytännön sovelluksia eri toimialoilla, viimeisimpiä kehityksiä vuosina 2024–2025 sekä eettisiä huolia, joita se herättää – viitaten asiantuntijoiden näkemyksiin ja ajankohtaisiin faktoihin läpi tekstin.

Mitä on tunteita tunnistava tekoäly ja miten se toimii?

Tunteita tunnistavalla tekoälyllä tarkoitetaan algoritmeja, jotka tunnistavat ja tulkitsevat ihmisten tunteita erilaisista tietolähteistä. Kyse on pohjimmiltaan siitä, että koneille annetaan jonkinlainen tunneäly. Tutkijat kutsuvat tätä alaa usein nimellä affektiivinen laskenta. Tekoälyjärjestelmät yrittävät “lukea” tunteita monien kanavien kautta:

Kasvoanalyysi: Yksi yleisimmistä lähestymistavoista on käyttää konenäköä kasvonilmeiden analysointiin. Kamera tallentaa kuvan (tai videon) henkilön kasvoista, ja tekoäly tunnistaa ensin kasvot ja keskeiset kohdat (silmät, kulmakarvat, suu jne.). Sitten, syväoppimisen (usein konvoluutiohermoverkkojen) avulla, se tarkastelee lihasliikkeitä tai “mikroilmeitä” ja luokittelee ilmeen tunnetilaluokkaan viso.ai. Monet järjestelmät on koulutettu tunnistamaan perusilmeet, kuten ilo, suru, viha, pelko, yllätys, inho ja neutraalius botpenguin.com. Esimerkiksi hymyilevä suu ja siristyneet silmät voidaan merkitä “iloksi”, kun taas kurtistetut kulmat voivat tarkoittaa “vihaa” – vaikka, kuten myöhemmin näemme, asia ei ole aina näin yksinkertainen.
Äänen analyysi: Sen lisäksi, mitä sanomme, miten sanomme sen voi välittää tunteita. Puheentunnistuksen tunneanalyysi-algoritmit kuuntelevat puhujan äänen äänikuvioita – kuten sävelkorkeutta, voimakkuutta, rytmiä ja äänensävyä. Tekoälymallit analysoivat näitä ääniominaisuuksia (intonaatio, painotus, rytmi jne.) päätelläkseen, kuulostaako henkilö innostuneelta, rauhalliselta, järkyttyneeltä ja niin edelleen botpenguin.com. Esimerkiksi värisevä, korkea ääni voi viitata pelkoon tai vihaan, kun taas hidas, tasainen ääni voi kertoa surusta tai väsymyksestä. Jotkin järjestelmät tunnistavat jopa tiettyjä sanoja tai sanallisia vihjeitä (kuten epävarma “olen kunnossa”), jotka liittyvät tunnetiloihin.
Tekstin tunneanalyysi: Tunteita ilmaistaan myös kirjoitetussa muodossa. Tekoäly voi suorittaa luonnollisen kielen käsittelyä (NLP) teksteille – sosiaalisen median julkaisuista sähköposteihin tai chat-viesteihin – tunnistaakseen tunnesävyn. Perinteinen tunneanalyysi luokittelee tekstin positiiviseksi, negatiiviseksi tai neutraaliksi. Uudempi tunneäly menee pidemmälle ja tunnistaa tekstistä tarkempia tunteita tarkastelemalla sanavalintoja, kontekstia ja välimerkkejä botpenguin.com. Esimerkiksi “Olen aivan innoissani!” rekisteröityisi hyvin positiiviseksi (iloinen/innostunut), kun taas “Tunnen oloni niin loukatuksi ja yksinäiseksi…” saatettaisiin merkitä surulliseksi tai ahdistuneeksi. Suuria kielimalleja ja hienosäädettyjä luokittelijoita käytetään sanojen tunnepitoisuuden tulkitsemiseen.
Muut biometriset signaalit: Jotkin kehittyneet järjestelmät hyödyntävät myös fysiologisia ja käyttäytymiseen liittyviä signaaleja. Näitä voivat olla esimerkiksi kehon kieli (asento, eleet), katseenseuranta (mihin katsot ja miten pupillisi laajenevat), syke, ihon sähkönjohtavuus tai aivosähkökäyrä puettavien laitteiden avulla. Nämä signaalit voivat viitata stressiin tai innostukseen – esimerkiksi kohonnut syke ja hikoilevat kämmenet voivat kertoa ahdistuksesta. Huippututkimuksessa monimuotoinen tunneäly yhdistää kasvojen, äänen ja fysiologiset tiedot kokonaisvaltaisemman kuvan saamiseksi trendsresearch.org. Esimerkiksi auton kuljettajaa tarkkaileva tekoäly voi käyttää kameraa kasvojen seuraamiseen ja ohjauspyörän anturia sykkeen mittaamiseen, etsiessään väsymyksen tai raivon merkkejä.

Kaikki nämä menetelmät perustuvat koneoppimiseen suurilla ihmisten tunneilmaisujen aineistoilla. Tekoälymalleja “koulutetaan” esimerkeillä – tunteella merkityillä kasvojen kuvilla, puhujan mielialalla merkityillä ääninäytteillä jne. Ajan myötä tekoäly oppii kaavoja, jotka yhdistävät tietyt syötteet (tietynlainen hymy, äänensävy) todennäköisiin tunteisiin. Kyse on pohjimmiltaan kaavojen tunnistamisesta: tekoäly ei tunne itse mitään, vaan tekee valistuneen arvauksen tunteistamme antamiemme signaalien perusteella.

On tärkeää huomata, että nykyiset tunteita tunnistavat tekoälyt pystyvät yleensä tunnistamaan vain muutamia laajoja tunnetiloja tai vireystasoja. Ihmisen tunteet ovat vivahteikkaita ja tilannesidonnaisia, mikä tekee tästä hyvin haastavan tehtävän tekoälylle. Siitä huolimatta teknologia kehittyy nopeasti. Yhdistämällä konenäköä, puheanalyysiä ja NLP:tä tämän päivän tunneäly pystyy päättelemään henkilön tunnetilan kohtuullisella tarkkuudella – oikeissa olosuhteissa. Kuten eräässä raportissa todettiin, useiden tekniikoiden (kasvot, ääni, teksti) yhdistäminen mahdollistaa koneiden tulkita ihmisen tunteita “tarkemmin”, mikä tekee vuorovaikutuksesta luonnollisempaa ja reagoivampaa trendsresearch.org. Seuraavissa osioissa tarkastelemme, miten näitä kykyjä hyödynnetään tosielämässä ja kuinka pitkälle ne ovat kehittyneet vuosina 2024–2025.

Käytännön sovelluksia eri toimialoilla

Tunnereaktioiden tunnistamiseen perustuva tekoäly on siirtynyt laboratoriosta useille eri toimialoille. Tässä on joitakin merkittävimmistä sovelluksista ja käyttötapauksista toimialoittain:

Terveydenhuolto ja hyvinvointi: Tunnereaktioiden tekoälyä testataan työkaluna mielenterveyden ja potilashoidon tukena. Esimerkiksi tutkijat ovat kehittäneet älypuhelinsovelluksia, jotka seuraavat käyttäjän kasvoja ja ääntä masennuksen tai ahdistuksen merkkejä varten home.dartmouth.edu. Eräässä vuoden 2024 tutkimuksessa esiteltiin MoodCapture-sovellus, joka käyttää puhelimen kameraa havaitakseen masennuksen varhaisia oireita analysoimalla käyttäjän kasvonilmeitä aina, kun hän avaa puhelimensa – ja tunnisti mielialan muutokset kokeissa noin 75 %:n tarkkuudella home.dartmouth.edu. Terapeutit tutkivat myös tekoälyä, joka kuuntelee terapiaistuntojen aikana ja arvioi potilaan tunnetilaa äänensävystä – mahdollisesti hälyttäen, jos joku kuulostaa yhä ahdistuneemmalta. Sairaaloissa tunteita tunnistavat kamerat voivat seurata potilaiden kipu- tai stressitasoja silloin, kun hoitajia ei ole paikalla. Ja autismikirjon henkilöille avustava tunnereaktioiden tekoäly voi auttaa tulkitsemaan muiden ilmeitä – esimerkiksi puettava tai tablettisovellus, joka antaa autistiselle lapselle vihjeitä, kuten “Äiti on iloinen” tai “Isä näyttää ärtyneeltä”, auttaen oppimaan tunneilmaisuja mitsloan.mit.edu.
Markkinointi ja asiakaskokemus: Yritykset käyttävät tunneälyä ymmärtääkseen kuluttajia syvemmällä tasolla. Mainostajat voivat testata mainoksia tai tuotevideoita katselijapaneeleilla, jotka suostuvat tulemaan kuvatuksi verkkokameralla; tekoäly analysoi sitten kasvonilmeitä kuva kuvalta nähdäkseen, mitkä hetket saivat ihmiset hymyilemään, nauramaan tai näyttämään tylsistyneiltä. Itse asiassa noin 25 % Fortune 500 -yrityksistä on käyttänyt tunneälyä mainonnan tutkimuksessa mitatakseen yleisön sitoutumista mitsloan.mit.edu. Alan johtava yritys, Affectiva (jonka ovat perustaneet MIT:n tutkijat), antaa brändien tallentaa katsojien alitajuiset, “viskeraaliset” reaktiot mainoksiin ja yhdistää ne todelliseen käyttäytymiseen, kuten siihen, jakavatko he mainoksen tai ostavatko tuotteen mitsloan.mit.edu. Mainosten lisäksi jälleenmyyjät tutkivat tunneita tunnistavia kameroita myymälöissä arvioidakseen asiakastyytyväisyyttä (jäikö palvelutilanteesta ärtynyt vai iloinen olo?). Verkossa tunneanalyysillä varustetut chatbotit yrittävät mukauttaa vastauksiaan asiakkaan mielialan mukaan – esimerkiksi ohjaamalla keskustelun ihmisasiakaspalvelijalle, jos käyttäjä kuulostaa vihaiselta. Jopa fyysiset mainostaulut ovat kokeilleet tunneanalytiikkaa: Brasiliassa interaktiivinen metroasemamainosjärjestelmä käytti kamerasyötteitä luokitellakseen matkustajien ilmeitä (iloinen, neutraali, yllättynyt, tyytymätön) ja muutti sitten mainossisältöä reaaliajassa vastaamaan paremmin joukon tunnelmaa research.aimultiple.com.
Koulutus: Luokkahuoneet ja e-oppimisalustat kokeilevat tekoälyä arvioidakseen opiskelijoiden tunteita ja tarkkaavaisuutta. Tavoitteena on luoda reagoivia oppimisympäristöjä. Esimerkiksi intialainen verkkotutorointiyritys käytti tunteentunnistusta opiskelijoiden verkkokameroiden kautta seuratakseen sitoutumista ja väsymystä live-tuntien aikanaresearch.aimultiple.com research.aimultiple.com. Järjestelmä seurasi silmien liikkeitä ja kasvonilmeitä tuottaakseen “tarkkaavaisuuspisteitä”, joiden avulla opettajat pystyivät tunnistamaan, milloin opiskelijat menettivät keskittymiskykynsä. Joissakin huipputeknisissä luokkahuoneissa kameroita on käytetty (kiistanalaisesti) skannaamaan opiskelijoiden kasvoja hämmennyksen tai tylsistymisen merkkien varalta, jotta opettajat voivat mukauttaa opetustaan legalblogs.wolterskluwer.com. Kiinasta on jopa raportoitu kouluista, joissa on kokeiltu kasvojentunnistuskameroita, jotka kirjaavat opiskelijoiden tunnetiloja (kuten onnellisuutta tai vihaa) koko päivän ajan businessinsider.com. Teoriassa tällaiset työkalut voisivat yksilöllistää opetusta – tutorbotti saattaisi tarjota kannustusta, jos se havaitsee turhautumista – mutta ne herättävät myös keskustelua valvonnasta (lisää tästä myöhemmin).
Autoteollisuus: Autonvalmistajat sisällyttävät tunneälyä autoihin parantaakseen turvallisuutta ja ajokokemusta. Kuljettajaa tarkkailevat järjestelmät käyttävät kojelautaan asennettuja kameroita seuraamaan kasvoja ja asentoa, tarkistaen väsymyksen tai häiriintymisen merkkejä. Jos tekoäly havaitsee silmäluomien painuvan tai asennon lysähtävän (väsymyksen merkkejä), se voi antaa hälytyksen. Luksusmerkit menevät pidemmälle yrittäen arvioida kuljettajan tunnetilaa: esimerkiksi tunnistamalla, onko kuljettaja ärtynyt tai vihainen (tien raivo) ja puuttumalla tilanteeseen – esimerkiksi pehmentämällä musiikkia tai jopa rajoittamalla auton nopeutta mitsloan.mit.edu. Affectiva, joka on nyt osa Smart Eye -yhtiötä, on kehittänyt autoteollisuuden tekoäly-alustan, joka tarkkailee sekä kuljettajaa että matkustajia. Se voi tunnistaa, nauraako tai riiteleekö kuljettaja, tai ovatko matkustajat ahdistuneita, ja säätää auton asetuksia sen mukaan (kuvittele, että auto kiristää turvajärjestelmiä, jos se havaitsee stressiä) mitsloan.mit.edu. Puoliautomaattisissa autoissa tunneäly voi päättää, oletko liian hajamielinen ottamaan ohjausta. Autoteollisuuden käyttötapaukset liittyvät kaikki tunteentunnistuksen hyödyntämiseen turvallisuuden, mukavuuden ja yksilöllisyyden parantamiseksi tiellä.
Viihde ja pelaaminen: Viihteestä on tulossa vuorovaikutteisempaa tunteita tunnistavan tekoälyn ansiosta. Videopelien kehittäjät ovat alkaneet rakentaa pelejä, jotka reagoivat pelaajan tunteisiin. Merkittävä esimerkki on “Nevermind,” psykologinen trilleripeli, joka käyttää pelaajan verkkokameraa (tai biofeedback-anturia) stressin havaitsemiseen – jos peli huomaa, että alat pelästyä, siitä tulee oikeasti haastavampi ja se lisää pelottavia elementtejä, kun taas jos pysyt rauhallisena, peli helpottuu research.aimultiple.com. Tämä luo dynaamisen kauhukokemuksen, joka mukautuu pelkotasosi mukaan. Elokuvissa ja televisiossa studiot testaavat kasvojenseurantaohjelmia testikatsojilla nähdäkseen tunnevasteet kohtauksiin (yllättikö juonenkäänne katsojat oikeasti? Saitko komediasta naurut?). Lisäksi tutkitaan henkilökohtaistettua sisältöä: kuvittele suoratoistopalvelu, joka voi käyttää kannettavasi kameraa tarkkaillakseen kasvojasi ja suositella elokuvia, jotka sopivat tämänhetkiseen mielialaasi (jotkut matkailusivustot ovat jopa kokeilleet suositella kohteita käyttäjän ilmeen perusteella research.aimultiple.com). Vaikka laajamittaiset “mielialaan perustuvat” sisältösuositukset ovat vielä kokeiluasteella, tekoälyn ja viihteen yhdistyminen lupaa uusia, immersiivisiä ja vuorovaikutteisia median muotoja.
Lainvalvonta ja turvallisuus: Tunnereaktioiden tunnistusta harkitaan turvallisuussovelluksiin, vaikka tämä alue on kiistanalaisin. Jotkut poliisilaitokset ovat harkinneet tekoälyä, joka skannaa CCTV-kuvaa tai vartalokameran tallenteita “epäilyttävän” käyttäytymisen tai mahdollisen aggressiivisuuden havaitsemiseksi. Esimerkiksi algoritmit voivat analysoida äänitallenteita stressin tai vihan varalta tunnistaakseen, milloin hätänumeroon soittava tai säilössä oleva henkilö saattaa muuttua aggressiiviseksi. On olemassa “aggressiodetektoreita”, joita markkinoidaan yleisöturvallisuuteen ja jotka kuuntelevat vihaisia äänensävyjä tai huutoa varoittaakseen vartijoita mahdollisista tappelutilanteista. Kiinassa Taigusys-niminen yritys on kehittänyt tekoälyvalvontajärjestelmän, joka seuraa toimistotyöntekijöiden kasvoja en masse ja väittää tunnistavansa, miltä kukin henkilö tuntee – onko työntekijä iloinen, neutraali, vihainen vai stressaantunut businessinsider.com. Järjestelmä väittää jopa tunnistavansa, jos hymyilet väkisin, ja se laatii raportteja työntekijöistä, joilla on liikaa “negatiivisia” tunteita, vihjaten, että he saattavat tarvita tukea tai olla tekemässä jotain epäilyttävää businessinsider.com. Vankiloissa vastaavaa teknologiaa on testattu vankien tunnetilojen seuraamiseen. Rajaturvallisuuden kokeiluissa joissain maissa on testattu tekoälyvalheenpaljastimia, jotka tarkkailevat matkustajien mikroilmeitä “petoksen merkkejä” varten. Poliisin kuulusteluissa kokeillaan myös puheanalytiikkaa, joka yrittää selvittää, onko epäilty hermostunut. Kuitenkin, mikään poliisivoima ei käytä näitä työkaluja ainoana todisteena – jopa kannattajat sanovat, että niiden tulisi olla vain täydentäviä. Kuten tulemme käsittelemään, asiantuntijat kehottavat äärimmäiseen varovaisuuteen, koska virheelliset tulkinnat (esim. tekoäly merkitsee syyttömän henkilön “vihaiseksi” tai “petolliseksi”) voivat johtaa vakaviin seurauksiin oikeus- ja turvallisuustilanteissa.

Kaikilla näillä toimialoilla taustalla on ajatus siitä, että jos koneet ymmärtävät tunteitamme, ne voivat olla vuorovaikutuksessa kanssamme luonnollisemmin ja tehokkaammin. Tekoälyopettaja, joka aistii turhautumisen, voi muotoilla oppitunnin uudelleen. Asiakaspalvelubotti, joka kuulee äänestäsi kärsimättömyyttä, voi kutsua välittömästi paikalle ihmisen esimiehen. Auto, joka tietää sinun olevan väsynyt, voi piristää sinua tai ottaa ajamisen haltuunsa. Emotion AI:n tavoitteena on pohjimmiltaan tehdä teknologiasta empaattisempaa, mukautuen ihmisiin sen sijaan, että ihmiset joutuisivat mukautumaan koneisiin trendsresearch.org. Tämä on kiehtova rajapinta – ja se kehittyy nopeasti, kuten seuraava osio havainnollistaa uusimmilla kehityksillä.

Viimeisimmät kehitykset ja uutiset (2024–2025)

Tunteita aistiva tekoäly on kokenut nopeaa kehitystä viimeisen kahden vuoden aikana, teknisistä läpimurroista sääntelylliseen vastareaktioon. Tässä joitakin merkittäviä viimeaikaisia trendejä ja uutisia:

Kasvava sijoittaminen ja startupit: Liikemaailma on kiinnostunut tunne-AI:sta. Alan analyytikot raportoivat, että “emotion AI” on nouseva trendi yritysohjelmistoissa, erityisesti kun yritykset ottavat käyttöön yhä enemmän chatbotteja ja virtuaaliavustajia, jotka tarvitsevat tunneälyä techcrunch.com. Äskettäinen PitchBookin tutkimusraportti ennustaa, että tunne-AI:n käyttöönotto kasvaa, jotta vuorovaikutus tekoälyn kanssa olisi inhimillisempiä techcrunch.com. Pääomasijoituksia virtaa alalle: esimerkiksi johtava keskustelu-AI-yritys Uniphore on kerännyt yli $600 miljoonaa (mukaan lukien 400 miljoonan dollarin rahoituskierros vuonna 2022) kehittääkseen tekoälyä, joka osaa lukea asiakkaan tunteita palvelupuheluissa techcrunch.com. Lukuisat startupit tulevat alalle – yritykset kuten MorphCast, audEERING, Voicesense, SuperCEED, Siena AI, ja muut kehittävät työkaluja kasvojen ja äänen vihjeiden analysointiin laajassa mittakaavassa techcrunch.com. Markkinaennusteet heijastavat tätä vauhtia: erään raportin mukaan maailmanlaajuinen emotion detection and recognition market kasvaa noin 3–4 miljardista dollarista vuonna 2024 yli 7 miljardiin viidessä vuodessa technologyslegaledge.com, ja toisen analyysin mukaan kasvu voi olla jopa 173 miljardia dollaria vuoteen 2031 mennessä (vaikka arviot vaihtelevat) research.aimultiple.com. On selvää, että monet yritykset näkevät kaupallista potentiaalia tekoälyssä, joka osaa tulkita tunteita – olipa tavoitteena myynnin kasvattaminen, asiakastyytyväisyyden parantaminen tai turvallisuuden lisääminen.
Uudet teknologiset kyvyt: Tutkimuksen saralla tekoäly kehittyy yhä paremmaksi vivahteikkaiden tunteiden ymmärtämisessä. Silmiinpistävä esimerkki vuonna 2024 oli Groningenin yliopiston projekti, jossa tekoäly opetettiin tunnistamaan sarkasmi puhutusta kielestä theguardian.com. Syöttämällä järjestelmälle käsikirjoitettuja vuoropuheluja sitcom-sarjoista kuten Friends ja The Big Bang Theory, tutkijat opettivat sen tunnistamaan sarkastisen puheen äänimallit (esim. liioiteltu äänensävy tai venytetty ääntämys). Malli pystyi tunnistamaan sarkasmin äänestä noin 75 %:n tarkkuudella theguardian.com. Tämä on merkittävää, koska sarkasmin tunnistaminen on tunnetusti vaikeaa algoritmeille (ja joskus ihmisillekin!), mutta se on avain todellisen viestinnän tunnesävyn ymmärtämiseen. Edistysaskeleet tällaisilla alueilla osoittavat, että tunneälykkäät tekoälyt siirtyvät pelkästä “ilo vs. suru” -tunnistuksesta kohti monimutkaisempia sosiaalisia signaaleja. Samoin multimodaaliset mallit kehittyvät: näemme tekoälyä, joka yhdistää tekstiä, ääntä ja kasvodataa saadakseen kontekstuaalisemman tunteiden tulkinnan. Yritykset kuten Hume AI (jonka on perustanut entinen Google-tutkija) kehittävät empaattisia äänikäyttöliittymiä, jotka reagoivat paitsi siihen, mitä sanot, myös siihen, miten sanot sen, pyrkien tekemään tekoälykeskusteluista tunneherkempiä theguardian.com. Hume on jopa perustanut eettisen toimikunnan ohjaamaan “empaattisen tekoälyn” kehitystä theguardian.com, tunnustaen varovaisen etenemisen tarpeen. Laitteistopuolella kamera- ja anturiteknologia on kaikkialla ja halpaa, mikä tarkoittaa, että tunteiden tunnistamisen ominaisuuksien upottaminen puhelimiin, autoihin ja älykotilaitteisiin on helpompaa kuin koskaan.
Yleinen käyttöönotto ja kiistat: Kun tunneälyä hyödyntävä tekoäly yleistyy, se kohtaa myös esteitä. Yksi näkyvä esimerkki: videoneuvottelujätti Zoom harkitsi tiettävästi tunteiden tunnistamiseen perustuvien ominaisuuksien lisäämistä (kuten kokouksen järjestäjien informoimista siitä, ovatko osallistujat keskittyneitä vai hajamielisiä) – mutta julkisen yksityisyyshuolen vuoksi Zoom ilmoitti kesällä 2022, ettei sillä ole ”suunnitelmia” ottaa käyttöön tällaista tunteiden seurantaan perustuvaa tekoälyä. Samoin rekrytointialusta HireVue oli alkanut käyttää tekoälyä työnhakijoiden kasvonilmeiden analysointiin videohaastatteluissa, mutta vuonna 2021 se luopui kasvoanalyysista tieteellisen kritiikin ja julkisen huolen vuoksi. Nämä tapaukset luovat pohjan vuodelle 2024, jolloin pelkkä ajatus tunteiden tunnistamisesta työpaikka- tai kuluttajasovelluksissa herättää kulmakarvoja (eikä sellaisia, joita tekoälyn pitäisi seurata). Uutisissa näemme yhä huolia väärinkäytöstä: esimerkiksi raportit siitä, että kiinalaiset teknologiayritykset käyttävät tunteiden tunnistusta työntekijöihin, ovat herättäneet kansainvälistä kritiikkiä businessinsider.com. Ja vaikka jotkut toimittajat mainostavat ”valheenpaljastus-tekoälyä” turvallisuuteen, asiantuntijat ovat kumonneet monet näistä tuskin sattumaa paremmiksi.
Sääntelytoimet: Ehkä merkittävin kehitys vuonna 2024 on, että hallitukset ovat alkaneet puuttua tunteiden tunnistamiseen perustuvaan tekoälyyn. Toukokuussa 2024 Euroopan unioni viimeisteli EU:n tekoälyasetuksen, laajan lain tekoälyn sääntelystä. Merkittävää on, että tämä laki kieltää tekoälyn käytön reaaliaikaiseen tunteiden tunnistamiseen tietyissä yhteyksissä ”sietämättömänä riskinä” ihmisoikeuksille theguardian.com. Erityisesti EU kieltää tekoälyjärjestelmät, jotka väittävät pystyvänsä päättelemään ihmisten tunteita työpaikoilla, kouluissa tai muissa julkisissa laitoksissa (vain kapein poikkeuksin, kuten terveydenhuollossa tai turvallisuudessa) legalblogs.wolterskluwer.com. EU:n lainsäätäjät katsoivat, että tunteiden tunnistaminen tällaisissa ympäristöissä on tunkeilevaa ja epäluotettavaa, ja voi johtaa epäoikeudenmukaisiin lopputuloksiin. (He vetivät rajan tekoälyn välillä, joka yksinkertaisesti tunnistaa jonkun ulkoisen ilmeen – mikä saattaa olla sallittua – ja tekoälyn, joka väittää tietävänsä, mitä henkilö tuntee sisäisesti, mikä olisi kiellettyä theguardian.com.) Tämä oikeudellinen kanta, yksi ensimmäisistä laatuaan, heijastaa päättäjien kasvavaa skeptisyyttä tunteiden tunnistamiseen perustuvan tekoälyn pätevyyttä ja etiikkaa kohtaan. Yhdysvalloissa ei ole liittovaltiotason kieltoa, mutta jotkut lainkäyttöalueet harkitsevat rajoituksia, ja ACLU sekä muut kansalaisoikeusjärjestöt ovat vaatineet tunteiden tunnistamiseen perustuvan tekoälyn käytön keskeyttämistä poliisitoiminnassa ja työllistämisessä aclu.org, businessinsider.com. Se, että sääntelijät niputtivat tunteiden tunnistamiseen perustuvan tekoälyn samaan kategoriaan sosiaalisen pisteytyksen ja alitajuisten vaikutusyritysten kanssa (jotka myös EU:n asetus kieltää), lähettää vahvan viestin: vuodesta 2025 eteenpäin tullaan todennäköisesti näkemään tiukempaa valvontaa ja standardeja kaikelle tekoälylle, joka väittää pystyvänsä lukemaan tunteitamme.

Yhteenvetona voidaan todeta, että viime vuosi tai pari ovat olleet ratkaisevia. Tunteita tunnistava tekoäly on yleisempää kuin koskaan, se hiipii hiljaisesti asiakaspalveluun, autoihin ja sovelluksiin – ja on myös kiistanalaisempaa kuin koskaan, kun asiantuntijat ja sääntelijät painavat jarrua. Teknologian kehittyessä keskustelu siitä, voiko tekoäly todella ymmärtää ihmisten tunteita, ja jos voi, kuka saa käyttää tätä valtaa, tulee vain kiihtymään. Nämä kysymykset johdattavat meidät suoraan seuraavaan aiheeseen: eettisiin näkökulmiin.

Eettiset näkökulmat ja huolenaiheet

Tunteiden tunnistamiseen perustuvan tekoälyn nousu on herättänyt kiivasta eettistä keskustelua. Jonkun tunteiden lukeminen ei ole sama asia kuin lämpömittarin lukeminen – se ulottuu henkilökohtaisiin, usein yksityisiin elämämme osa-alueisiin. Tässä ovat keskeiset huolenaiheet, joita asiantuntijat ja puolestapuhujat nostavat esiin:

Luotettavuus ja tieteellinen pätevyys: Peruskysymys on, toimivatko nämä järjestelmät todella kuten väitetään. Ihmisten tunteet ovat monimutkaisia, kontekstisidonnaisia, eivätkä aina näy ulospäin. Psykologit varoittavat, että ei ole olemassa yksinkertaista yksi yhteen -vastaavuutta kasvonilmeen ja sisäisen tunteen välillä. Henkilö voi hymyillä ollessaan surullinen tai kurtistaa kulmiaan keskittyessään – ilmeet vaihtelevat yksilöittäin ja kulttuureittain. Vuonna 2019 psykologin Lisa Feldman Barrettin johtama laaja, yli 1 000 tutkimuksen katsaus totesi, että ”henkilön tunnetilaa ei voida luotettavasti päätellä pelkistä kasvonliikkeistä” aclu.org. Hän antaa elävän esimerkin: ”Kurtistuneet kasvot voivat olla tai olla olematta vihan ilmentymä… ihmiset kurtistavat kulmiaan ollessaan vihaisia, mutta myös ollessaan hämmentyneitä tai jopa ilmavaivoissa!”aclu.org. Lyhyesti sanottuna, kontekstilla on valtava merkitys tunteissa, eikä tekoälyllä yleensä ole kontekstia. Barrett ja muut väittävät, että nykyiset algoritmit ovat erittäin hyviä tunnistamaan kasvojen lihasliikkeitä tai äänenpainoja, mutta ne eivät voi todella tietää, mitä ne tunteiden kannalta merkitsevät aclu.org. Kuten hän suorasukaisesti sanoi eräälle haastattelijalle, ”Automaattista tunteentunnistusta ei ole olemassa. Parhaatkin algoritmit voivat tunnistaa kasvonilmeen, mutta ne eivät pysty päättelemään, mitä se tarkoittaa” aclu.org. Tämä skeptisyys on laajalle levinnyttä tiedeyhteisössä. Koska edes psykologien keskuudessa ei ole selkeää, yhteisesti hyväksyttyä määritelmää tunteille, tekoälyn rakentaminen niiden tunnistamiseen on teoreettisesti hataralla pohjalla theguardian.com. Käytännössä tämä lisää väärintulkinnan vaaraa: jos tekoäly leimaa henkilön väärin perustein ”vihaiseksi” tai ”petolliseksi”, se voi johtaa epäoikeudenmukaisiin seurauksiin (esim. turvatarkastuksessa kiinni jääminen, työhaastattelusta kieltäytyminen jne.). Yksinkertaisesti sanottuna kriitikot toteavat, että nykyinen tunteentunnistusteknologia on parhaimmillaankin vain arvio – ja pahimmillaan digitaalista frenologiaa (näennäistiedettä), erityisesti kun sitä käytetään yksilöiden arviointiin article19.org.
Vino ja oikeudenmukaisuus: Kuten monet muutkin tekoälyjärjestelmät, tunteiden tunnistamiseen tarkoitetut algoritmit voivat heijastaa ja jopa vahvistaa koulutusdatassaan olevia vinoumia. Yksi suurimmista huolenaiheista on kulttuurinen ja rodullinen vinouma. Jos tekoäly on koulutettu pääasiassa esimerkiksi länsimaisten henkilöiden ”oppikirjamaisilla” ilmeillä, se voi tulkita väärin muiden etnisten tai kulttuuristen taustojen ihmisiä. On näyttöä siitä, että näin tapahtuu jo nyt. Vuonna 2023 tehdyssä tutkimuksessa havaittiin, että jotkin kaupalliset tunteiden tunnistamiseen tarkoitetut tekoälyjärjestelmät arvioivat johdonmukaisesti mustien ihmisten kasvonilmeet negatiivisemmiksi tai vihaisemmaksi verrattuna muihin ryhmiin theguardian.com. Toisin sanoen, neutraali ilme mustan miehen kasvoilla saatetaan tekoälyn toimesta tulkita ”vihaiseksi”, vaikka samaa ei tapahtuisi valkoisen henkilön kohdalla – huolestuttava vinouma, jolla on ilmeisiä seurauksia esimerkiksi turvatarkastuksissa tai työpaikan arvioinneissa theguardian.com. “Algoritmisi ovat vain niin hyviä kuin koulutusmateriaalisi,” Barrett huomauttaa. “Jos koulutusmateriaalisi on vinoutunutta, koodaat tuon vinouman järjestelmään.” theguardian.com. Myös kulttuuri vaikuttaa siihen, miten ilmaisemme tunteita: hymy voi tarkoittaa eri asioita eri tilanteissa, eivätkä eleet tai äänensävyt ole universaaleja. MIT:n Erik Brynjolfsson varoittaa, että tunteiden tunnistusteknologian täytyy olla herkkä monimuotoisuudelle: “Tunteiden tunnistaminen afroamerikkalaisista kasvoista voi olla vaikeaa koneelle, joka on koulutettu valkoihoisten kasvoilla. Ja eleet tai äänenpainot yhdessä kulttuurissa voivat tarkoittaa jotain aivan muuta toisessa” mitsloan.mit.edu. Jos näitä vivahteita ei huomioida, teknologia voi järjestelmällisesti tulkita väärin tai asettaa tietyt ryhmät epäedulliseen asemaan – käytännössä koodaten ennakkoluuloja ”tunteiden lukemisen” varjolla. Vinouma ei liity vain demografiaan; on myös kontekstuaalista vinoumaa (esim. tekoäly meluisassa ympäristössä voi tulkita korotetut äänet vihaksi, vaikka kyse olisi vain kovasta äänestä). Oikeudenmukaisuuden varmistaminen tunteiden tunnistavassa tekoälyssä on valtava haaste, ja toistaiseksi monet järjestelmät eivät ole osoittaneet toimivansa yhtä hyvin kaikille ihmisille.
Valvonta ja yksityisyys: Tunteiden tunnistukseen perustuva tekoäly tarkoittaa usein jatkuvaa seurantaa ihmisten ilmeistä, äänistä tai fysiologisista signaaleista – mikä herättää ilmeisiä yksityisyyshuolia. Pelkona on, että tämä mahdollistaisi uudenlaisen tunkeilevan valvonnan tason, jossa sisäisistä tunteistamme tulee seurattavia datapisteitä. Esimerkiksi työpaikoilla työntekijät saattavat tuntea olevansa tunne-etsivän mikroskoopin alla, jolloin heitä arvioidaan paitsi suorituksen, myös sen perusteella, hymyilevätkö he tarpeeksi tai kuulostavatko riittävän “innostuneilta”. Tämä ei ole tieteisfiktiota; sitä tapahtuu jo joissakin paikoissa. Aiemmin mainittu kiinalainen “hymyile saadaksesi pisteitä” -järjestelmä on tästä hyvä esimerkki – työntekijät pelkäävät kurtistavansa kulmiaan tai näyttävänsä väsyneiltä, koska tekoäly tarkkailee ja raportoi “huonosta asenteesta” esimiehille businessinsider.com. Tällaiset käytännöt luovat ahdistavan ilmapiirin ja heikentävät henkilökohtaista itsemääräämisoikeutta. Myös työpaikan ulkopuolella voi kuvitella julkisia kameroita, jotka eivät vain tunnista kasvojasi vaan myös merkitsevät sinut “hermostuneeksi” tai “levottomaksi” ohikulkiessasi. Näitä tietoja voitaisiin käyttää väärin profilointiin. Toisin kuin termostaatin lukeminen, tunteiden lukeminen voi olla hyvin manipuloivaa – ihmiset yrittävät usein peittää todelliset tunteensa julkisesti hyvistä syistä (yksityisyys, kohteliaisuus), ja tekoälyn kyky paljastaa nämä tuntuu orwellilaiselta. Yksityisyyden puolustajat huomauttavat, ettei ihmisiltä ole pyydetty lupaa tunteidensa tarkkailuun ostoskeskusten kameroilla tai poliisin valvontakameroilla. Silti tunteiden tunnistusta sisältävää ohjelmistoa lisätään joihinkin turvajärjestelmiin ilman julkista tietoisuutta. On myös tietoturva-ongelma: tunteisiin liittyvät tiedot (kasvovideot, ääninauhoitukset) ovat arkaluonteista biometristä tietoa. Jos niitä kerätään ja tallennetaan, kuka niitä suojaa ja kuinka kauan? Tunteisiin liittyvän datan vuoto tai hakkerointi (esim. terapiaistuntojen nauhoitukset tai kamerakuvat, joihin on liitetty henkilön mieliala) voisi olla erittäin haitallista. Lyhyesti sanottuna, tunteidemme muuttaminen datavirraksi tarkoittaa “voimakasta uutta valvonnan muotoa,” kuten eräässä Guardianin analyysissä todettiin theguardian.com. Tämä huoli ajaa vaatimuksia tiukoille rajoituksille siitä, missä tällaista seurantaa saa tapahtua.
Suostumus ja autonomia: Yksityisyyteen liittyy läheisesti suostumuksen kysymys. Pitäisikö ihmisten joutua erikseen hyväksymään, että tekoäly analysoi heidän tunteitaan? Monet ovat sitä mieltä, että kyllä – tunteiden analysointi on niin henkilökohtaista, että se vaatii nimenomaisen luvan. Jotkut yritykset noudattavatkin opt-in-malleja. Esimerkiksi Affectivan mainostestauksen käytäntönä on tallentaa ja analysoida vain niiden katsojien reaktioita, jotka ovat antaneet suostumuksensa ja saaneet tiedon asiasta, ja he kieltävät teknologian käytön salaisessa valvonnassa tai yksilöiden tunnistamisessa mitsloan.mit.edu. Kaikki toimijat eivät kuitenkaan ole yhtä tiukkoja, ja käytännössä työntekijät tai opiskelijat eivät välttämättä koe voivansa kieltäytyä, jos työnantaja tai koulu määrää tunteiden seurantaa (kuvittele, että sinua käsketään käyttämään tunneanturia ranteessasi töissä). Tämä herättää pakottamisen huolia. Joudutaanko työntekijät tulevaisuudessa ylläpitämään tiettyä tunneilmettä (esim. kuulostamaan aina “iloiselta” puheluissa), koska tekoäly tarkkailee? Tämä liittyy ihmisarvon ja vapauden kysymyksiin – oikeuteen tuntea ilman analysointia. Eettisesti monet katsovat, että yksilöillä täytyy säilyä itsemääräämisoikeus omiin tunnedatoihinsa. Sinulla tulisi olla oikeus pitää tunteesi omana tietonasi tai ainakin päättää, kuka tai mikä saa ne havaita. Ilman selkeää suostumusta tunteiden tunnistus on ei-toivottu tunkeutuminen mielen yksityisyyteen – jotkut tutkijat kutsuvat tätä “mielen suvereniteetiksi”. On rohkaisevaa, että uusi EU-laki kieltää tunteiden tekoälyn käytön työpaikoilla ja kouluissa riippumatta suostumuksesta (koska valtasuhteiden vuoksi aito vapaaehtoinen suostumus on kyseenalaista) williamfry.com, legalblogs.wolterskluwer.com. Tämä viittaa siihen, että ihmisiä halutaan suojella painostukselta tunneavoimuuteen. Kun teknologia yleistyy, suostumuksen vaatiminen – ja mahdollisuus sammuttaa se – voi olla ratkaisevaa henkilökohtaisen autonomian säilyttämiseksi.
Manipulointi ja väärinkäyttö: Toinen eettinen ulottuvuus on, miten tunneälyn tuottamia oivalluksia saatetaan käyttää ihmisten vaikuttamiseen tai hyväksikäyttöön. Tunteet ohjaavat monia päätöksiämme, ja jos yritykset tai poliittiset toimijat pystyvät havaitsemaan tunteitamme, he voivat räätälöidä viestinsä laukaisemaan reaktioitamme. Näimme tästä matalateknologisen version Cambridge Analytica -skandaalissa, jossa Facebookin tietoja käytettiin äänestäjien psykologiseen profilointiin ja mainosten kohdentamiseen tunteisiin vetoavalla tavalla. Tunneäly voisi tehostaa tällaisia taktiikoita – käytännössä mahdollistaen ”tunteiden massamanipulaation”. Kuten Algorithmic Justice Leaguen Randi Williams varoittaa, ”Kun tekoäly pääsee käsiksi inhimillisimpään osaan meistä, on suuri riski, että yksilöitä manipuloidaan kaupallisen tai poliittisen hyödyn vuoksi.” theguardian.com. Esimerkiksi markkinointiin käytetty tekoäly saattaa huomata, että olet hieman alakuloinen tiettynä iltana (havaittu älykotilaitteidesi kautta), ja sovellus voi välittömästi lähettää mainoksen lohturuoasta tai ostoshetkestä juuri tuolla haavoittuvalla hetkellä. Tai autoritaarinen hallitus voisi käyttää tunteentunnistusta televisioiduissa puheissa: jos kansa ei näytä riittävän innostuneelta, ehkä propagandaa pitää lisätä tai epäilijöitä tutkia. Nämä skenaariot kuulostavat dystooppisilta, mutta juuri tällaisia väärinkäyttötapauksia asiantuntijat haluavat ehkäistä jo nyt, ennen kuin ne toteutuvat. Jopa lievemmät tunneohjailun muodot herättävät eettisiä kysymyksiä – onko oikein, että videopeli yrittää tarkoituksella pelotella sinua enemmän, kun se tietää, että olet jo peloissasi, kuten kauhupeliesimerkissä? Jotkut sanovat, että se on viihteen kannalta ok; toiset taas ovat huolissaan psykologisista vaikutuksista. Pohjimmiltaan tunneäly tarjoaa uuden vipuvarren ihmisten käyttäytymisen ohjaamiseen, ja ilman sääntelyä tai eettisiä suojarajoja tätä vipua voidaan käyttää synkkiin tarkoituksiin (esim. ”tunteiden manipulointi” on nimenomaisesti kielletty käyttötapaus Hume AI:n eettisissä ohjeissa theguardian.com). Läpinäkyvyys on avainasemassa: jos tunneperäisiä tietoja käytetään vaikuttamaan lopputuloksiin (kuten rekrytointitekoäly hylkää sinut, koska se ajattelee, että sinulta puuttui ”intoa” haastattelussa), henkilön tulisi tietää siitä ja voida kyseenalaistaa päätös.
Sääntely ja vastuullisuus: Kaikkien näiden huolien vuoksi vaatimukset tunteita tunnistavan tekoälyn sääntelystä kasvavat. EU:n kielto tietyillä alueilla on yksi lähestymistapa – käytännössä sanotaan, että jotkin käyttötarkoitukset ovat kiellettyjä. Muualla asiantuntijat ovat ehdottaneet, että kaikilta käyttöön otettavilta tunne-AI-järjestelmiltä vaadittaisiin tiukkaa validointia ja auditointia, jotta voidaan osoittaa niiden olevan tarkkoja ja puolueettomia (vaatimus, johon moni ei ehkä yllä). Järjestöt kuten ACLU ja Article 19 ovat vaatineet täyskieltoja tunneanalyysille herkissä yhteyksissä, kutsuen sitä epätieteelliseksi ja ihmisoikeuksien vastaiseksi article19.org, businessinsider.com. Toinen sääntelyn osa-alue on tietosuoja: koska tunneperäiset tiedot voidaan katsoa biometrisiksi tai terveyteen liittyviksi tiedoiksi, ne saattavat kuulua yksityisyyslakien, kuten GDPR:n, piiriin, mikä edellyttää tiukkaa suostumusta, käyttötarkoituksen rajaamista ja tietoturvaa. Sääntelijät keskustelevat myös siitä, pitäisikö ihmisillä olla oikeus kieltäytyä tunteiden seurannasta julkisilla paikoilla ja oikeus olla joutumatta automaattisen tunnepisteytyksen kohteeksi. Toisaalta jotkut alan ryhmät ajavat standardeja, jotka mahdollistaisivat tunne-AI:n vastuullisen käytön (esimerkiksi IEEE on pohtinut eettisiä ohjeita adaptiivisille tunnevasteisille järjestelmille). Selvää on, että teknologia on toistaiseksi edellä sääntöjä, mutta vuosi 2024 merkitsee käännekohtaa. Hallitukset tunnistavat tunteiden tunnistamisen omaksi tekoälyn kategoriakseen, joka vaatii valvontaa. Tulevina vuosina voimme odottaa lisää politiikkaa, jolla pyritään rajaamaan, miten ja missä näitä työkaluja saa käyttää – ja asettamaan vastuuseen ne, jotka niitä käyttävät. Loppujen lopuksi, jos tekoälyjärjestelmä tekee tunnearvion, joka vahingoittaa jotakuta (esim. leimaa hänet ”korkean riskin” henkilöksi ilman syytä), kuka on vastuussa? Näihin kinkkisiin kysymyksiin tarvitaan yhä vastauksia.

Lopulta etiikka tiivistyy yksinkertaiseen periaatteeseen: vain koska me voimme yrittää lukea tunteita tekoälyllä, pitäisikö meidän? Ja jos pitäisi, niin millä ehdoilla? Kannattajat uskovat, että teknologialle on inhimillisiä ja hyödyllisiä käyttötapoja (erityisesti suostumuksella ja huolellisuudella), kun taas kriitikot pelkäävät koko lähtökohdan olevan virheellinen ja altis väärinkäytöksille. Tämä vie meidät viimeiseen osioon, jossa kuulemme asiantuntijoiden näkemyksiä molemmilta puolilta.

Asiantuntijoiden näkemyksiä

Koska tunteita tunnistava tekoäly on innovaation ja kiistan risteyskohdassa, on valaisevaa kuulla, mitä alan johtavat äänet sanovat. Asiantuntijat ovat jakautuneita – jotkut näkevät mullistavaa potentiaalia, toiset vaativat äärimmäistä varovaisuutta. Tässä muutamia näkemyksiä heidän omin sanoin:

Optimistit ja innovaattorit: Monet affektiivisen laskennan edelläkävijät väittävät, että tunteellisen älykkyyden lisääminen koneisiin voi syvästi parantaa ihmisen ja koneen välistä vuorovaikutusta. “Ajattele, miten olet vuorovaikutuksessa muiden ihmisten kanssa; katsot heidän kasvojaan, katsot heidän kehoaan ja muutat vuorovaikutustasi sen mukaan,” selittää Javier Hernandez, MIT:n Affective Computing -ryhmän tutkija. “Miten kone voi viestiä tehokkaasti, jos se ei tiedä tunnetilaasi?” mitsloan.mit.edu. Tämä ryhmä uskoo, että tunneälyä hyödyntävä tekoäly voi tehdä teknologiasta reagoivampaa, yksilöllisempää ja jopa myötätuntoisempaa. Rana el Kaliouby, joka on Affectivan toinen perustaja ja “inhimillistä teknologiaa” puolustanut, huomauttaa, että tunteemme ovat keskeisiä päätöksenteossamme ja yhteyden luomisessa. Hän näkee tekoälyn tukevana kumppanina: “Paradigma ei ole ihminen vastaan kone – vaan kone täydentää ihmistä,” el Kaliouby sanoo ja korostaa, että tekoälyn tulisi vahvistaa ihmisen kykyjä, ei korvata niitä mitsloan.mit.edu. Hänen näkemyksensä mukaan, jos otamme tekoälyn käyttöön oikealla tavalla, se voisi esimerkiksi auttaa kuljettajia pysymään turvassa, auttaa lääkäreitä ymmärtämään potilaita tai auttaa asiakkaita tuntemaan itsensä kuulluiksi. El Kaliouby suhtautuu innostuneesti tunteisiin perustuvan tekoälyn hyödyntämiseen hyvään – hän mainitsee usein hankkeita, joissa tunteiden analyysiä käytetään autismin kirjon lasten tukemiseen tai mielenterveysongelmien varhaiseen tunnistamiseen. Ja huolista huolimatta, kun häneltä kysytään, pitäisikö meillä edes olla tätä teknologiaa, hänen vastauksensa on päättäväinen kyllä. “Ehdottomasti kyllä,” hän sanoi vuonna 2024 – koska riskien ohella “tekoäly tarjoaa hämmästyttäviä ratkaisuja ihmiskunnan suurimpiin haasteisiin.” asisonline.org Hänen ja monien alan toimijoiden kanta on, ettei pidä heittää lasta pesuveden mukana. Sen sijaan he vaativat vastuullisen, ihmiskeskeisen tunneälytekoälyn kehittämistä – vapaaehtoisuuteen perustuvilla ratkaisuilla, läpinäkyvyydellä ja monimuotoisuudella – jotta hyödyt (turvallisemmat tiet, parempi terveydenhuolto, innostavampi koulutus jne.) voidaan saavuttaa. Kuten el Kaliouby toteaa, “Jokainen toimiala muuttuu … tekoälyn myötä,” ja tunneälytekoäly, jos se tehdään oikein, “voi tehdä näistä muutoksista empaattisempia.” asisonline.org Kannattajat tunnistavat haasteet, mutta uskovat yleisesti, että ne voidaan ratkaista harkitulla suunnittelulla ja politiikalla, eikä teknologiaa tarvitse hylätä kokonaan.
Skeptikot ja kriitikot: Toisella puolella joukko tiedemiehiä ja eettisiä asiantuntijoita kehottaa hidastamaan tai jopa pysäyttämään tunteiden tunnistusteknologian kehityksen, varoittaen, että se perustuu heikkoon tieteeseen ja sisältää sietämättömiä riskejä. Olemme jo kuulleet professori Lisa Feldman Barrettin tutkimukseen perustuvasta skeptisyydestä, jonka mukaan kasvonilmeitä ei voida luotettavasti yhdistää tunteisiin. Barrett kumoaa suoraan monien toimittajien väitteet: “Useimmat yritykset väittävät yhä, että kasvoista voi nähdä, onko joku vihainen tai surullinen… Se ei selvästikään pidä paikkaansa.” theguardian.com Hänen huolensa on, että hyväntahtoisia tai ei, nämä järjestelmät epäonnistuvat – ja ihmisiä arvioidaan väärin. Toinen äänekäs kriitikko, Vidushi Marda Article 19:stä (digitaalisten oikeuksien ryhmä), joka on tutkinut tunteiden tunnistuksen käyttöönottoa Kiinassa, totesi, että ala on “perustavanlaatuisesti epätieteellisten ajatusten varassa” ja että tällaisten järjestelmien laajamittainen käyttöönotto on “syvästi epäeettistä.” businessinsider.com Yksityisyyden puolustajat kuten Evan Selinger ovat kutsuneet tunteiden tunnistusta “vaarallisimmaksi tekoälyksi, josta et ole koskaan kuullut,” väittäen, että se voi johtaa uusiin syrjinnän ja manipuloinnin muotoihin. Eivätkä epäilijät rajoitu akateemikoihin: jopa teknologia-alan sisäpiiriläisillä on epäilyksiä. Haastattelussa TechCrunchille Andrew Moore, entinen Google Cloud AI -johtaja, varoitti, että tekoälyn kyky ymmärtää tunteita on “vähintään vuosikymmenen päässä luotettavuudesta” ja että väärinkäyttö ennen sitä voi heikentää luottamusta tekoälyyn yleisesti. Nämä asiantuntijat suosittelevat usein tiukkoja rajoituksia. ACLU on mennyt niin pitkälle, että kannattaa täyskieltoja, ja politiikka-analyytikko Daniel Kahn Gillmor kirjoittaa, “Vähintäänkin kenenkään oikeudet tai toimeentulo eivät saisi olla tekoälyn tunnearvailun varassa”. Heidän näkökulmastaan mahdolliset haitat – väärät pidätykset, puolueellinen rekrytointi, mielen yksityisyyden loukkaukset – ylittävät epävarmat hyödyt. He myös korostavat, että ihmiset itsekin kamppailevat tulkitessaan toistensa tunteita oikein eri kulttuureissa ja tilanteissa, joten on turhaa odottaa koneen onnistuvan siinä. Pohjimmiltaan skeptikot kehottavat yhteiskuntaa painamaan taukoa, vaatimaan vankkoja todisteita ja eettisiä puitteita ensin sekä muistamaan, että tunteet ovat syvästi inhimillisiä – ehkä ei jotain, mitä haluamme koneiden analysoivan.

On mielenkiintoista, että molemmat leirit tavoittelevat lopulta parempaa tulevaisuutta, mutta eroavat keinoissa. Optimistit keskittyvät mahdollisiin hyötyihin (empatia tekoälyssä, hyvinvoinnin parantaminen), kun taas skeptikot keskittyvät haittojen ehkäisyyn (epäoikeudenmukaisuus, yksityisyyden menetys). On myös maltillisia väliinputoajia, jotka tunnustavat teknologian mahdollisuudet mutta vaativat tiukkoja suojatoimia. Esimerkiksi Erik Brynjolfsson puoltaa tunteiden tekoälyn kehittämistä harkiten, sanoen “on tärkeää muistaa, että kun sitä käytetään harkiten, lopullisten hyötyjen tulee ja pitää olla suuremmat kuin kustannusten”, mutta lisää heti, että sen on oltava “sopivaa kaikille ihmisille” ja kulttuurisesti tietoista mitsloan.mit.edu. Tämä keskitie sisältänee vahvaa sääntelyä, yritysten läpinäkyvyyttä ja jatkuvaa tutkimusta näiden järjestelmien tarkkuudesta.

Yhteenvetona, tunteita tunnistava tekoäly sijaitsee kiehtovassa risteyksessä teknologian, psykologian ja etiikan välillä. Sen kannattajat uskovat, että se voi tehdä laitteistamme ja palveluistamme paljon paremmin tarpeisiimme vastaavia – autoista, jotka rauhoittavat meitä, sovelluksiin, jotka huomaavat kun kamppailemme ja tarjoavat apua. Sen kriitikot nostavat esiin perusteltuja huolia siitä, ettei minkään tekoälyn tulisi toimia terapeutin, tuomarin tai vakoojan roolissa – tulkiten tunteitamme tavoilla, jotka voivat johtaa harhaan tai sortaa. Totuus saattaa riippua siitä, miten päätämme käyttää sitä. Vuonna 2025 tunteita tunnistava tekoäly on olemassa ja kehittyy, mutta myös tiukan tarkastelun alla. Olemme nähneet todellisia hyötyjä tietyillä aloilla (kuten mielenterveyden seurannassa ja mukautuvassa opetuksessa), mutta myös todellista vastustusta (uusia lakeja ja kieltoja väärinkäytösten seurauksena).

Jatkossa yhteiskunnan on kuljettava varovainen tie: vaadittava vankkaa tieteellistä pohjaa ja oikeudenmukaisuutta kaikissa tunteita tunnistavissa työkaluissa, luotava turvallisia yksityisiä tiloja, joissa ei ole tunnevalvontaa, ja päätettävä demokraattisesti, missä raja kulkee hyödyllisen empatian ja haitallisen tunkeutumisen välillä. Yksi asia on varma: tämä keskustelu on vasta alussa. Tekoäly saattaa tulla paremmaksi tietämään, oletko kiltti vai tuhma – mutta on meidän kaikkien vastuulla varmistaa, että tätä voimakasta kykyä käytetään tavoilla, jotka kunnioittavat ihmisarvoa ja parantavat elämäämme, eivätkä heikennä sitä.

Lähteet:

Gaudenz Boesch, “AI Emotion Recognition and Sentiment Analysis,” Viso Blog – viso.ai (10.10.2024) viso.ai
Noor Al Mazrouei, “Emotion AI: Transforming Human-Machine Interaction,” TRENDS Research (17.2.2025) trendsresearch.org
Meredith Somers, “Emotion AI, explained,” MIT Sloan (8.3.2019) mitsloan.mit.edu
Julie Bort, “’Emotion AI’ may be the next trend for business software, and that could be problematic,” TechCrunch (1.9.2024) techcrunch.com
Will Knight, “Experts Say ‘Emotion Recognition’ Lacks Scientific Foundation,” ACLU (18.7.2019) aclu.org
Oscar Holland, “Oletko 80 % vihainen ja 2 % surullinen? Miksi ‘emotionaalinen tekoäly’ on täynnä ongelmia,” The Guardian (23. kesäkuuta 2024) theguardian.com
Valeria Vasquez ja muut, “Tekoälyn tunteiden tunnistusteknologioiden kieltäminen työpaikalla AI-asetuksen nojalla,” Wolters Kluwer – Global Workplace Law (helmikuu 2025) legalblogs.wolterskluwer.com
Cheryl Teh, “‘Jokainen hymy jonka teeskentelet’ — tekoälyn tunteiden tunnistusjärjestelmä voi arvioida, kuinka ‘onnellisia’ Kiinan työntekijät ovat toimistossa,” Business Insider (16. kesäkuuta 2021) businessinsider.com
AIMultiple Research Team, “Yli 10 parasta emotionaalisen tekoälyn esimerkkiä ja käyttötapausta vuonna 2025,” AIMultiple (päivitetty 2. kesäkuuta 2025) research.aimultiple.com
Sara Mosqueda, “El Kaliouby: Ihmiset voivat hyödyntää tekoälyä parantaakseen maailmaa,” Security Management Magazine – GSX Daily (24. syyskuuta 2024) asisonline.org
Dartmouth College, “Puhelinsovellus käyttää tekoälyä masennuksen havaitsemiseen kasvonilmeistä,” Dartmouth News (27. helmikuuta 2024) home.dartmouth.edu