ШІ, що розпізнає ваші емоції: зростання технологій виявлення емоцій

Штучний інтелект більше не обмежується лише обробкою чисел чи розпізнаванням облич – він вчиться читати наші емоції. Так званий ШІ для розпізнавання емоцій (відомий також як Emotion AI або афективні обчислення) використовує алгоритми для аналізу наших виразів обличчя, тону голосу, текстових повідомлень і навіть тілесних сигналів, щоб визначити людські емоції. Обіцянка звучить привабливо: інтуїтивніші додатки, емпатичні роботи та персоналізований досвід, що реагує на наш настрій. Але коли ця технологія виходить із дослідницьких лабораторій у робочі місця, школи та громадські простори, виникають серйозні питання. Як саме працюють ці ШІ-«читачі думок»? Де їх використовують сьогодні? І чому одні експерти так захоплені можливостями, а інші – стурбовані ризиками? У цьому докладному звіті ми розглянемо, як працює ШІ для розпізнавання емоцій, реальні приклади застосування в різних галузях, останні розробки 2024–2025 років і етичні питання, які він викликає – наводячи експертні думки та актуальні факти протягом усього тексту.

Що таке ШІ для розпізнавання емоцій і як він працює?

ШІ для розпізнавання емоцій – це алгоритми, які розпізнають і інтерпретують людські емоції з різних типів даних. По суті, це спроба надати машинам певну емоційну інтелігентність. Дослідники часто називають цю галузь афективними обчисленнями. Системи ШІ намагаються «читати» почуття через декілька каналів:

• Аналіз обличчя: Один із найпоширеніших підходів – використання комп’ютерного зору для аналізу виразів обличчя. Камера фіксує зображення (або відео) обличчя людини, і ШІ спочатку визначає обличчя та ключові точки (очі, брови, рот тощо). Потім, використовуючи глибоке навчання (зазвичай згорткові нейронні мережі), він аналізує рухи м’язів або «мікровирази» і класифікує вираз обличчя за категоріями емоцій viso.ai. Багато систем навчені розпізнавати базові емоції, такі як радість, смуток, злість, страх, здивування, відразу та нейтральність botpenguin.com. Наприклад, усміхнений рот і примружені очі можуть бути позначені як «радість», а насуплені брови – як «злість», хоча, як ми побачимо, все не так просто.
• Аналіз тону голосу: Окрім того, що ми говоримо, як ми це говоримо, може передавати емоції. Алгоритми розпізнавання емоцій у мовленні аналізують аудіо-патерни у голосі мовця – такі як висота, гучність, ритм і тон. Моделі ШІ аналізують ці вокальні характеристики (інтонацію, наголос, ритм тощо), щоб визначити, чи звучить людина збудженою, спокійною, засмученою тощо botpenguin.com. Наприклад, тремтячий, високий тон може свідчити про страх або злість, а повільний, монотонний – про смуток або втому. Деякі системи навіть вловлюють окремі слова чи вербальні підказки (наприклад, тремтливе «Я в порядку»), які корелюють з емоційними станами.
• Аналіз сентименту тексту: Емоції також виражаються у письмовій формі. ШІ може виконувати обробку природної мови (NLP) для текстів – від постів у соцмережах до електронних листів чи чат-повідомлень – щоб виявити сентимент. Традиційний аналіз сентименту класифікує текст як позитивний, негативний або нейтральний. Новіші системи емоційного ШІ йдуть далі, визначаючи конкретні почуття у тексті, аналізуючи вибір слів, контекст і пунктуацію botpenguin.com. Наприклад, “Я просто у захваті!” буде визначено як дуже позитивне (радість/захоплення), тоді як “Мені так боляче і самотньо…” може бути позначено як сум чи стрес. Великі мовні моделі та спеціалізовані класифікатори використовуються для аналізу емоційного тону наших слів.
• Інші біометричні сигнали: Деякі передові системи також враховують фізіологічні та поведінкові сигнали. Це може включати мову тіла (поза, жести), відстеження погляду (куди ви дивитесь і як розширюються ваші зіниці), серцебиття, електропровідність шкіри або мозкові хвилі через носимі пристрої. Такі сигнали можуть вказувати на стрес чи збудження – наприклад, підвищене серцебиття і пітливість долонь можуть свідчити про тривогу. У найсучасніших дослідженнях мультимодальний емоційний ШІ поєднує мімічні, голосові та фізіологічні дані для повнішої картини trendsresearch.org. Наприклад, система моніторингу водія в авто може використовувати камеру для спостереження за вашим обличчям та сенсор у кермі для відстеження пульсу, шукаючи ознаки сонливості чи агресії на дорозі.

Усі ці методи передбачають машинне навчання на великих наборах даних людських емоційних проявів. Моделі ШІ “навчаються” на прикладах – зображеннях облич із підписаними емоціями, аудіозаписах із позначеним настроєм мовця тощо. З часом ШІ вивчає закономірності, які пов’язують певні вхідні дані (особливу посмішку, тон голосу) з імовірними емоціями. Це, по суті, розпізнавання шаблонів: сам ШІ не відчуває нічого, але робить обґрунтоване припущення про наші почуття на основі сигналів, які ми подаємо.

Варто зазначити, що сучасні ШІ для розпізнавання емоцій зазвичай обмежуються визначенням кількох основних емоційних категорій або рівнів збудження. Емоції людини є багатогранними й залежать від контексту, що робить це завдання дуже складним для ШІ. Проте технологія швидко вдосконалюється. Поєднуючи комп’ютерний зір, аналіз мовлення та NLP, сучасний емоційний ШІ може з помірною точністю визначати емоційний стан людини – за відповідних умов. Як зазначено в одному звіті, інтеграція кількох методик (обличчя, голос, текст) дозволяє машинам інтерпретувати людські емоції “з більшою точністю,” роблячи взаємодію природнішою та чутливішою trendsresearch.org. У наступних розділах ми розглянемо, як ці можливості застосовуються у реальному світі та як далеко вони просунулися станом на 2024–2025 роки.

Реальні застосування у різних галузях

AI для розпізнавання емоцій вийшов за межі лабораторій і впроваджується в різні галузі. Ось деякі з найбільш помітних застосувань і прикладів використання за секторами:

• Охорона здоров’я та добробут: AI для емоцій тестується як інструмент для психічного здоров’я та догляду за пацієнтами. Наприклад, дослідники розробили додатки для смартфонів, які відстежують обличчя та голос користувачів на ознаки депресії чи тривоги home.dartmouth.edu. Одне дослідження 2024 року представило MoodCapture — додаток, який використовує камеру телефону для виявлення ранніх симптомів депресії, аналізуючи вираз обличчя користувача щоразу, коли він розблоковує телефон, — ідентифікуючи зміни настрою з точністю близько 75% під час випробувань home.dartmouth.edu. Терапевти також досліджують AI, який слухає під час консультацій, щоб визначити емоційний стан пацієнта за тоном голосу, потенційно попереджаючи, якщо хтось звучить дедалі більш стурбовано. У лікарнях камери для розпізнавання емоцій можуть відстежувати рівень болю чи стресу у пацієнтів, коли медсестри відсутні. А для людей з аутизмом асистивний AI для емоцій може допомогти інтерпретувати вирази інших — наприклад, носимий пристрій або додаток на планшеті, який підказує дитині з аутизмом підписи на кшталт «Мама щаслива» або «Тато виглядає засмученим», допомагаючи їм навчатися емоційних сигналів mitsloan.mit.edu.
• Маркетинг і досвід клієнтів: Компанії використовують емоційний ШІ, щоб глибше зрозуміти споживачів. Рекламодавці можуть тестувати рекламні ролики або відео про продукти з групами глядачів, які погоджуються на запис через вебкамеру; ШІ потім аналізує мімічні реакції по кадрах, щоб побачити, які моменти викликали у людей посмішку, сміх або нудьгу. Насправді, близько 25% компаній зі списку Fortune 500 використовували емоційний ШІ в дослідженнях реклами для вимірювання залученості аудиторії mitsloan.mit.edu. Провідна компанія в цій сфері, Affectiva (заснована вченими MIT), дозволяє брендам фіксувати підсвідомі, «вісцеральні» реакції глядачів на рекламу і співвідносити їх із реальною поведінкою, наприклад, чи поділяться вони рекламою або куплять продукт mitsloan.mit.edu. Окрім реклами, ритейлери досліджують камери з розпізнаванням емоцій у магазинах, щоб оцінити задоволеність клієнтів (чи залишила вас взаємодія з сервісом роздратованим чи щасливим?). В онлайні чат-боти з аналізом настрою намагаються коригувати свої відповіді залежно від настрою клієнта – наприклад, передавати розмову людині-оператору, якщо користувач звучить роздратовано. Навіть фізичні білборди вже випробовували аналітику емоцій: у Бразилії інтерактивна система реклами в метро використовувала відеопотік із камер, щоб класифікувати вирази облич пасажирів (радісний, нейтральний, здивований, незадоволений) і потім змінювала рекламний контент у реальному часі, щоб краще відповідати настрою натовпу research.aimultiple.com.
• Освіта: Класи та платформи електронного навчання експериментують з ШІ для оцінки емоцій та уваги учнів. Мета — створити чутливе навчальне середовище. Наприклад, онлайн-репетиторська компанія в Індії використовувала розпізнавання емоцій через вебкамери учнів для відстеження залученості та втоми під час живих занятьresearch.aimultiple.comresearch.aimultiple.com. Система відстежувала рухи очей і міміку, щоб створювати “оцінки уваги”, допомагаючи вчителям визначати, коли учні втрачали концентрацію. У деяких високотехнологічних класах камери використовувалися (суперечливо) для сканування облич учнів на ознаки розгубленості чи нудьги, щоб вчителі могли коригувати свої уроки legalblogs.wolterskluwer.com. Є навіть повідомлення з Китаю про школи, які тестують камери з розпізнаванням облич, що фіксують емоційний стан учнів (наприклад, щастя чи злість) протягом дня businessinsider.com. Теоретично такі інструменти можуть персоналізувати освіту — наприклад, тьютор-бот може підбадьорити, якщо відчує розчарування, — але вони також викликають дискусії щодо нагляду (докладніше про це далі).
• Автомобільна галузь: Автовиробники впроваджують емоційний ШІ у транспортні засоби для підвищення безпеки та покращення досвіду водіння. Системи моніторингу водія використовують камери на панелі приладів для спостереження за обличчям і поставою, перевіряючи наявність сонливості чи відволікання. Якщо ШІ бачить, що у вас опускаються повіки або сутулиться постава (ознаки втоми), він може подати сигнал тривоги. Преміальні бренди йдуть далі, намагаючись оцінити емоційний стан водія: наприклад, визначити, чи водій засмучений або роздратований (дорожня агресія), і втрутитися — наприклад, приглушити музику або навіть обмежити швидкість авто mitsloan.mit.edu. Affectiva, яка тепер є частиною Smart Eye, має автомобільну AI платформу, що стежить і за водієм, і за пасажирами. Вона може визначити, чи водій сміється або свариться, чи пасажири тривожаться, і відповідно налаштувати параметри авто (уявіть, що машина посилює системи безпеки, якщо відчуває стрес) mitsloan.mit.edu. У напівавтономних авто емоційний ШІ може вирішити, чи ви занадто відволіклися, щоб взяти керування на себе. Усі ці приклади використання в автомобільній сфері спрямовані на підвищення безпеки, комфорту та персоналізації на дорозі за допомогою розпізнавання емоцій.
• Розваги та ігри: Розваги стають більш інтерактивними завдяки емоційному ШІ. Розробники відеоігор почали створювати ігри, які реагують на емоції гравця. Яскравий приклад — “Nevermind,” психологічний трилер, який використовує вебкамеру гравця (або біосенсор зворотного зв’язку) для виявлення стресу: якщо система відчуває, що ви лякаєтеся, гра стає складнішою, підкидаючи більше страшних моментів, а якщо ви залишаєтеся спокійними — гра полегшується research.aimultiple.com. Це створює динамічний досвід жахів, який підлаштовується під ваш рівень страху. У кіно та на телебаченні студії тестують відстеження обличчя на тестових глядачах, щоб побачити емоційні реакції на сцени (чи справді сюжетний поворот здивував глядачів? Чи викликала комедія сміх?). Також досліджується персоналізований контент: уявіть собі стрімінговий сервіс, який може використовувати камеру вашого ноутбука, щоб спостерігати за вашим обличчям і рекомендувати фільми, що відповідають вашому поточному настрою (деякі туристичні сайти навіть пробували рекомендувати напрямки подорожей на основі виразу обличчя користувача research.aimultiple.com). Хоча масові рекомендації контенту за “настроєм” поки що експериментальні, поєднання ШІ з розвагами обіцяє нові форми занурюючих, інтерактивних медіа.
• Правоохоронні органи та безпека: Розпізнавання емоцій розглядається для застосування у сфері безпеки, хоча це найбільш суперечлива сфера. Деякі поліцейські відділи розглядали можливість використання ШІ, який сканує прямі трансляції з камер спостереження або відео з бодікамер, щоб виявляти “підозрілу” поведінку чи потенційну агресію. Наприклад, алгоритми можуть аналізувати записи голосу на наявність стресу чи злості, щоб визначити, коли дзвонячий на 911 або затриманий може стати агресивним. Існують “детектори агресії”, які продаються для громадської безпеки й слухають злі тони чи крики, щоб попередити охорону про можливі бійки. У Китаї компанія Taigusys розробила систему ШІ для спостереження, яка масово відстежує обличчя співробітників в офісах en masse і стверджує, що може визначати, як почувається кожна людина — чи працівник щасливий, нейтральний, злий чи стресований businessinsider.com. Система навіть заявляє, що може визначити, чи ви підробляєте посмішку, і генерує звіти про працівників, які демонструють забагато “негативних” емоцій, натякаючи, що їм може знадобитися втручання або що вони можуть бути підозрілими businessinsider.com. У в’язницях подібні технології тестували для моніторингу емоційного стану ув’язнених. Прикордонна безпека в деяких країнах випробовувала ШІ-детектори брехні, які відстежують мікровирази мандрівників на “ознаки обману”. А під час поліцейських допитів експериментують із голосовою аналітикою, яка намагається визначити, чи підозрюваний нервує. Однак, жодна поліція не покладається на ці інструменти як на єдиний доказ — навіть прихильники вважають, що вони мають бути лише допоміжними. Як ми ще обговоримо, експерти закликають до крайньої обережності, оскільки хибні спрацьовування (наприклад, якщо ШІ помилково позначить невинну людину як “злу” чи “обманливу”) можуть мати серйозні наслідки у сфері правосуддя та безпеки.

У всіх цих галузях основна ідея полягає в тому, що якщо машини зможуть розуміти наші емоції, вони зможуть взаємодіяти з нами більш природно та ефективно. AI-репетитор, який відчуває роздратування, може перефразувати урок. Бот служби підтримки, який чує нетерпіння у вашому голосі, може негайно викликати людського менеджера. Автомобіль, який знає, що ви втомилися, може підбадьорити вас або взяти керування на себе. Emotion AI по суті прагне зробити технології більш емпатичними, пристосовуючись до людей замість того, щоб змушувати людей пристосовуватися до машин trendsresearch.org. Це захоплююча межа — і вона швидко розвивається, як показує наступний розділ з останніми досягненнями.

Останні досягнення та новини (2024–2025)

AI, що розпізнає емоції, зазнав стрімкого розвитку за останні два роки, від технічних проривів до регуляторного опору. Ось деякі з помітних останніх тенденцій та новин:

• Зростаючі інвестиції та стартапи: Бізнес-світ звертає увагу на емоційний ШІ. Аналітики галузі повідомляють, що “emotion AI” стає гарячим трендом у корпоративному програмному забезпеченні, особливо у зв’язку з тим, що компанії впроваджують все більше чат-ботів і віртуальних асистентів, яким потрібна емоційна обізнаність techcrunch.com. Недавній дослідницький звіт PitchBook прогнозує, що впровадження емоційного ШІ зростатиме, щоб зробити взаємодію з ШІ більш схожою на людську techcrunch.com. Венчурний капітал активно надходить у цей сектор: наприклад, провідна компанія у сфері розмовного ШІ, Uniphore, залучила понад $600 мільйонів (включаючи раунд у $400 млн у 2022 році) для розробки ШІ, який може зчитувати емоції клієнтів під час сервісних дзвінків techcrunch.com. У цю сферу входить багато стартапів – такі компанії, як MorphCast, audEERING, Voicesense, SuperCEED, Siena AI, та інші створюють інструменти для масштабного аналізу мімічних і голосових сигналів techcrunch.com. Прогнози ринку відображають цю динаміку: один із звітів оцінює, що світовий ринок emotion detection and recognition market зросте з приблизно $3–4 мільярдів у 2024 році до понад $7 мільярдів протягом п’яти років technologyslegaledge.com, а інший аналіз прогнозує стрибок аж до $173 мільярдів до 2031 року (хоча такі оцінки різняться) research.aimultiple.com. Очевидно, що багато компаній бачать комерційний потенціал у ШІ, який може визначати емоції – чи то для підвищення продажів, покращення задоволеності клієнтів, чи для підвищення безпеки.
• Нові технологічні можливості: У сфері досліджень ШІ стає все кращим у розумінні тонких емоцій. Яскравим прикладом у 2024 році став проєкт в Університеті Гронінгена, де навчили ШІ визначати сарказм у розмовній мові theguardian.com. Систему тренували на сценаріях діалогів із ситкомів, таких як Друзі та Теорія великого вибуху, щоб навчити її розпізнавати вокальні особливості саркастичної мови (наприклад, перебільшений тон або розтягування слів). Модель могла визначати сарказм в аудіо з точністю близько 75% theguardian.com. Це важливо, оскільки сарказм надзвичайно складно розпізнати алгоритмам (та іноді й людям!), але він є ключем до розуміння справжніх емоцій у спілкуванні. Прогрес у таких сферах свідчить, що емоційний ШІ виходить за межі простого розпізнавання “радість проти смутку” і рухається до складніших соціальних сигналів. Також удосконалюються мультимодальні моделі: ми бачимо ШІ, який поєднує текст, голос і міміку для більш контекстного визначення емоцій. Компанії на кшталт Hume AI (заснована колишнім дослідником Google) розробляють емпатичні голосові інтерфейси, які реагують не лише на що ви говорите, а й як ви це говорите, прагнучи зробити розмови з ШІ більш емоційно налаштованими theguardian.com. Hume навіть створила етичну раду для керування розробкою “емпатичного ШІ” theguardian.com, визнаючи необхідність обережного прогресу. З боку апаратного забезпечення, камери та сенсорні технології стали всюдисущими й дешевими, тож тепер простіше, ніж будь-коли, вбудовувати можливості розпізнавання емоцій у телефони, автомобілі та розумні домашні пристрої.
• Масове впровадження та суперечки: У міру розповсюдження емоційного ШІ він також стикається з певними перешкодами. Один із гучних прикладів: гігант відеоконференцій Zoom нібито розглядав можливість додати функції розпізнавання емоцій (наприклад, повідомляти організаторам зустрічей, чи учасники залучені або відволікаються), але після суспільного обурення щодо конфіденційності Zoom у середині 2022 року оголосив, що “не має планів” впроваджувати таку систему відстеження емоцій. Аналогічно, платформа для найму HireVue почала використовувати ШІ для аналізу міміки кандидатів під час відеоспівбесід, але до 2021 року відмовилася від цієї функції через наукову критику та занепокоєння громадськості. Ці випадки задали тон для 2024 року, коли сама ідея розпізнавання емоцій у робочих чи споживчих додатках викликає підозру (і це не ті брови, які мав би відстежувати ШІ). У новинах ми й надалі бачимо занепокоєння щодо зловживань: наприклад, повідомлення про те, що китайські технологічні компанії впроваджують розпізнавання емоцій для співробітників, викликали міжнародну критику businessinsider.com. І хоча деякі постачальники рекламують “ШІ для виявлення брехні” у сфері безпеки, експерти спростували багато з них як майже випадкові.
• Регуляторні кроки: Можливо, найважливішою подією 2024 року стало те, що уряди почали втручатися у сферу емоційного ШІ. У травні 2024 року Європейський Союз затвердив Закон ЄС про ШІ — масштабний закон для регулювання штучного інтелекту. Важливо, що цей закон забороняє використання ШІ для розпізнавання емоцій у реальному часі в певних контекстах, вважаючи це «неприйнятним ризиком» для прав людини theguardian.com. Зокрема, ЄС заборонить системи ШІ, які стверджують, що можуть визначати емоції людей на робочих місцях, у школах чи інших державних установах (з вузькими винятками, як-от охорона здоров’я чи безпека) legalblogs.wolterskluwer.com. Законодавці ЄС дійшли висновку, що розпізнавання емоцій у таких умовах є нав’язливим і ненадійним, а також може призвести до несправедливих наслідків. (Вони провели межу між ШІ, який просто ідентифікує зовнішній вираз людини — що може бути дозволено, — і тим, який фактично заявляє, що ця людина відчуває всередині, що буде заборонено theguardian.com.) Така правова позиція, одна з перших у світі, відображає зростаючий скептицизм політиків щодо достовірності та етики емоційного ШІ. У США немає федеральної заборони, але деякі юрисдикції розглядають можливість обмежень, а ACLU та інші правозахисні організації закликають призупинити використання розпізнавання емоцій у поліції та на роботі aclu.org, businessinsider.com. Той факт, що регулятори прирівняли емоційний ШІ до таких речей, як соціальне оцінювання та підсвідоме маніпулювання (які також заборонені Законом ЄС), є потужним сигналом: у 2025 році та надалі, ймовірно, буде посилено контроль і стандарти для будь-якого ШІ, який заявляє, що може зчитувати наші почуття.

Підсумовуючи, останній рік-два стали переломними. ШІ, що розпізнає емоції, поширений як ніколи, тихо проникає у сферу обслуговування клієнтів, автомобілі та додатки — і водночас викликає все більше суперечок, оскільки експерти й регулятори натискають на гальма. У міру розвитку цієї технології очікуйте ще більше дискусій про те, чи може ШІ дійсно розуміти людські емоції, і якщо так, то хто має право користуватися цією силою. Ці питання підводять нас до наступної теми: етичних міркувань.

Етичні міркування та занепокоєння

Поява ШІ для розпізнавання емоцій викликала гострі етичні дискусії. Зчитування емоцій людини — це не те саме, що зчитування показників термометра: це стосується особистих, часто приватних аспектів нашого життя. Ось основні питання, які піднімають експерти та правозахисники:

• Надійність і наукова обґрунтованість: Фундаментальне питання полягає в тому, чи дійсно ці системи працюють так, як заявлено. Людські емоції складні, залежать від контексту і не завжди помітні зовні. Психологи застерігають, що не існує простого однозначного зв’язку між виразом обличчя та внутрішнім почуттям. Людина може посміхатися, коли їй сумно, або хмуритися, коли вона зосереджена — вирази відрізняються у різних людей і культур. У 2019 році масштабний огляд понад 1 000 досліджень під керівництвом психологині Лізи Фельдман Барретт дійшов висновку, що «емоційний стан людини не можна надійно визначити лише за рухами обличчя» aclu.org. Вона наводить яскравий приклад: «Насуплене обличчя може бути або не бути виразом гніву… люди хмуряться, коли зляться, але також коли плутаються або навіть мають проблеми з травленням!»aclu.org. Коротко кажучи, контекст має величезне значення для емоцій, а ШІ зазвичай не має контексту. Барретт та інші стверджують, що сучасні алгоритми дуже добре розпізнають рухи м’язів обличчя або інтонації голосу, але вони не можуть по-справжньому знати, що це означає емоційно aclu.org. Як вона прямо сказала одному з інтерв’юерів, «Автоматичного розпізнавання емоцій не існує. Найкращі алгоритми можуть розпізнати вираз обличчя, але вони не здатні визначити, що він означає» aclu.org. Такий скептицизм широко поширений у науковій спільноті. Без чіткого, загальноприйнятого визначення емоцій навіть серед психологів, створення ШІ для їх ідентифікації має хитку теоретичну основу theguardian.com. На практиці це створює ризик неправильного тлумачення: якщо ШІ помилково позначить людину як «злу» або «нещиру» через неправильно розпізнаний сигнал, це може призвести до несправедливих наслідків (потрапляння під підозру служби безпеки, відмова у співбесіді тощо). Критики стверджують, що сучасні технології розпізнавання емоцій — у кращому разі приблизні, а в гіршому — цифрова френологія (псевдонаука), особливо коли їх використовують для оцінки окремих людей article19.org.
• Упередженість і справедливість: Як і багато інших систем ШІ, алгоритми розпізнавання емоцій можуть відображати й навіть підсилювати упередження, що містяться в їхніх навчальних даних. Одне з головних занепокоєнь — це культурна та расова упередженість. Якщо ШІ навчали переважно на, скажімо, західних суб’єктах із типовими виразами обличчя, він може неправильно тлумачити людей з інших етнічних чи культурних груп. Є докази, що це вже відбувається. Дослідження 2023 року показало, що деякі комерційні системи емоційного ШІ послідовно оцінювали вирази обличчя темношкірих людей як більш негативні або сердиті порівняно з іншими групами theguardian.com. Іншими словами, нейтральний вираз обличчя темношкірого чоловіка ШІ може інтерпретувати як «сердитий», тоді як для білошкірого так не зробить — тривожна упередженість із очевидними наслідками для, наприклад, перевірок безпеки чи оцінювання на роботі theguardian.com. «Ваші алгоритми настільки хороші, наскільки хороші навчальні матеріали», зазначає Барретт. «Якщо ваші навчальні матеріали упереджені, ви закріплюєте цю упередженість у коді». theguardian.com. Культура також впливає на те, як ми виражаємо емоції: посмішка може означати різне в різних контекстах, а жести чи інтонації не є універсальними. Ерік Бріньолфссон з MIT попереджає, що технологія розпізнавання емоцій має бути чутливою до різноманіття: «Розпізнавати емоції на обличчі афроамериканця складно для машини, навченої на обличчях європеоїдів. А жести чи інтонації в одній культурі можуть означати зовсім інше в іншій» mitsloan.mit.edu. Якщо ці нюанси не враховувати, технологія може систематично неправильно тлумачити або ставити в невигідне становище певні групи — фактично кодувати упередження під виглядом «зчитування емоцій». Упередженість стосується не лише демографії; існує також контекстуальна упередженість (наприклад, ШІ в шумному середовищі може сприймати підвищені голоси як злість, хоча це просто гучно). Забезпечити справедливість у емоційному ШІ — величезний виклик, і наразі багато систем не довели, що працюють однаково добре для всіх людей.
• Спостереження та конфіденційність: Emotion AI часто передбачає постійний моніторинг виразів обличчя, голосу або фізіологічних сигналів людей – що викликає очевидні питання щодо конфіденційності. Є побоювання, що це може призвести до нового рівня нав’язливого спостереження, коли наші внутрішні емоції стають відстежуваними даними. Наприклад, на робочих місцях працівники можуть відчувати, що вони перебувають під емоційним мікроскопом, і їх оцінюють не лише за результатами роботи, а й за тим, чи достатньо вони посміхаються або звучать “ентузіастично”. Це не наукова фантастика; це вже відбувається в деяких місцях. Згадана раніше китайська система “посміхнись, щоб отримати бал” – яскравий приклад: працівники бояться хмуритися або виглядати втомленими, бо за ними стежить ШІ і повідомить керівництву про “погане ставлення” businessinsider.com. Такі практики створюють гнітюче середовище та підривають особисту автономію. Навіть поза робочим місцем уявіть собі публічні камери, які не лише розпізнають ваше обличчя, а й позначають вас як “нервового” чи “збудженого”, коли ви проходите повз. Ці дані можуть бути використані для профілювання. На відміну від зчитування термостата, зчитування емоцій може бути глибоко маніпулятивним – люди часто намагаються приховати свої справжні почуття на публіці з поважних причин (конфіденційність, ввічливість), і коли ШІ розбирає це, це здається орвеллівським. Захисники конфіденційності зазначають, що люди не давали згоди на те, щоб їхні емоції аналізували камери в торгових центрах чи поліцейські CCTV. Проте програмне забезпечення для розпізнавання емоцій вже додають до деяких систем безпеки без відома громадськості. Є також питання безпеки даних: емоційні дані (відео облич, аудіозаписи голосу) – це чутлива біометрична інформація. Якщо її збирають і зберігають, хто її захищає і як довго? Злам або витік емоційних даних (наприклад, записи терапевтичних сесій чи відео з камер із позначенням настрою людини) може завдати серйозної шкоди. Коротко кажучи, перетворення нашого емоційного життя на потоки даних створює “потужну нову форму спостереження”, як зазначено в одному з аналізів Guardian theguardian.com. Це питання спонукає до закликів щодо суворих обмежень на місця, де таке спостереження може здійснюватися.
• Згода та автономія: Тісно пов’язане з приватністю питання згоди. Чи повинні люди давати згоду, щоб ШІ аналізував їхні емоції? Багато хто вважає, що так – емоційний аналіз настільки особистий, що вимагає явного дозволу. Деякі компанії дійсно дотримуються моделей opt-in. Наприклад, політика Affectiva щодо тестування реклами полягає в тому, щоб записувати й аналізувати лише тих глядачів, які дали згоду та були поінформовані, і вони забороняють використання цієї технології для прихованого спостереження чи будь-якої ідентифікації осіб mitsloan.mit.edu. Однак не всі постачальники настільки суворі, і на практиці працівники чи студенти можуть не відчувати, що можуть відмовитися, якщо роботодавець чи школа вимагає участі в програмі моніторингу емоцій (уявіть, що вам наказують носити на роботі браслет, який визначає емоції). Це викликає занепокоєння щодо примусу. Чи будуть працівників у майбутньому змушувати підтримувати певний емоційний стан (наприклад, завжди звучати “щасливо” під час дзвінків), бо за ними стежить ШІ? Це вже питання людської гідності та свободи відчувати без аналізу. З етичної точки зору багато хто стверджує, що люди повинні зберігати контроль над власними емоційними даними. Ви повинні мати право залишати свої емоції при собі або принаймні контролювати, хто/що може їх виявляти. Без чіткої згоди розпізнавання емоцій стає небажаним втручанням у наш ментальний простір – те, що деякі науковці називають “ментальним суверенітетом”. Обнадійливо, що новий закон ЄС прямо забороняє емоційний ШІ на робочих місцях і в школах незалежно від згоди (через дисбаланс влади справжня добровільна згода сумнівна) williamfry.com, legalblogs.wolterskluwer.com. Це свідчить про схильність до захисту людей від тиску до емоційної прозорості. У міру поширення цієї технології наполягання на згоді – і наданні людям можливості вимкнути її – може стати вирішальним для збереження особистої автономії.
• Маніпуляції та зловживання: Ще одним етичним аспектом є те, як отримані за допомогою емоційного ШІ інсайти можуть бути використані для впливу або експлуатації людей. Емоції значною мірою визначають наші рішення, і якщо компанії чи політичні діячі можуть виявляти наші почуття, вони можуть підлаштовувати повідомлення так, щоб зачепити наші слабкі місця. Ми вже бачили низькотехнологічну версію цього у скандалі з Cambridge Analytica, коли дані Facebook використовувалися для психологічного профілювання виборців і таргетування реклами з метою викликати емоційну реакцію. Емоційний ШІ може значно посилити такі тактики – фактично дозволяючи «масову емоційну маніпуляцію». Як застерігає Ренді Вільямс з Algorithmic Justice League, «Коли ШІ отримує доступ до найбільш людських частин нашої сутності, існує великий ризик, що людей будуть маніпулювати з комерційною чи політичною метою». theguardian.com. Наприклад, маркетинговий ШІ може помітити, що ви почуваєтеся пригніченим у певний вечір (визначено через ваші розумні домашні пристрої), і додаток миттєво покаже рекламу комфортної їжі чи шопінгу саме в цей вразливий момент. Або авторитарний уряд може використовувати розпізнавання емоцій під час телевізійних виступів: якщо населення виглядає недостатньо захопленим, можливо, настав час посилити пропаганду чи розслідувати інакодумців. Такі сценарії звучать як антиутопія, але саме такі випадки зловживання експерти хочуть попередити вже зараз, поки вони не стали реальністю. Навіть у м’якших формах емоційне підштовхування викликає етичні питання – чи нормально, якщо відеогра навмисно намагається налякати вас ще більше, коли вона знає, що ви вже налякані, як у прикладі з грою жахів? Дехто вважає, що це прийнятно для розваг; інші ж турбуються про психологічний вплив. Суть у тому, що емоційний ШІ дає новий важіль для впливу на людську поведінку, і без регулювання чи етичних обмежень цей важіль може бути використаний у темних цілях (наприклад, «емоційна маніпуляція» прямо зазначена як заборонений випадок використання в етичних принципах Hume AI theguardian.com). Важливою є прозорість: якщо емоційні дані використовуються для впливу на результати (наприклад, якщо ШІ для найму відмовляє вам, бо вважає, що вам бракувало «пристрасті» на співбесіді), людина повинна знати про це і мати можливість оскаржити рішення.
• Регулювання та підзвітність: З огляду на всі ці занепокоєння, дедалі частіше лунають заклики до регулювання емоційно-детектуючого ШІ. Заборона ЄС у певних сферах — це один із підходів, який по суті означає, що деякі способи використання є недопустимими. В інших місцях експерти пропонували вимагати ретельної валідації та аудиту будь-яких систем емоційного ШІ, які впроваджуються, щоб довести їхню точність і неупередженість (висока планка, яку багато хто може й не подолати). Організації, такі як ACLU та Article 19, виступали за повний мораторій на розпізнавання емоцій у чутливих сферах, називаючи це ненауковим і несумісним із правами людини article19.org, businessinsider.com. Ще один аспект регулювання — це захист даних: оскільки емоційні дані можуть вважатися біометричними або такими, що стосуються здоров’я, вони можуть підпадати під дію законів про конфіденційність, таких як GDPR, які вимагають суворої згоди, обмеження мети та безпеки. Регулятори також обговорюють, чи повинні люди мати право відмовитися від відстеження емоцій у публічних місцях і право не бути оціненими за допомогою автоматизованих “емоційних балів”. З іншого боку, деякі галузеві групи просувають стандарти, які дозволили б використовувати емоційний ШІ відповідально (наприклад, IEEE розглядала етичні настанови для адаптивних систем, що реагують на емоції). Очевидно, що технологія випередила правила, але 2024 рік є переломним моментом. Уряди визнають розпізнавання емоцій окремою категорією ШІ, яка потребує нагляду. У найближчі роки можна очікувати появи нових політик, які намагатимуться визначити межі того, як і де ці інструменти можуть використовуватися — і забезпечити підзвітність тих, хто їх застосовує. Адже якщо система ШІ робить емоційну оцінку, яка шкодить людині (наприклад, безпідставно позначає її як “високоризикову”), то хто несе відповідальність? На ці складні питання ще потрібно знайти відповіді.

Зрештою, етика зводиться до простого принципу: чи варто нам використовувати ШІ для розпізнавання емоцій лише тому, що ми можемо? І якщо так, то за яких умов? Прихильники вважають, що існують гуманні та корисні способи застосування цієї технології (особливо за наявності згоди та обережності), тоді як критики побоюються, що сама ідея є хибною та відкриває шлях до зловживань. Це підводить нас до фінального розділу — почути думки експертів з обох боків цієї дискусії.

Погляди експертів

Оскільки емоційно-детектуючий ШІ перебуває на перетині інновацій та суперечок, цікаво дізнатися, що кажуть провідні фахівці у цій сфері. Експерти розділилися — одні бачать у цьому трансформаційний потенціал, інші закликають до крайньої обережності. Ось кілька думок з перших вуст:

• Оптимісти та інноватори: Багато піонерів афективних обчислень стверджують, що наділення машин емоційним інтелектом може докорінно покращити взаємодію людини з машиною. «Згадайте, як ви взаємодієте з іншими людьми: ви дивитеся на їхні обличчя, на їхню мову тіла і відповідно змінюєте свою поведінку», пояснює Хав’єр Ернандес, дослідник з групи афективних обчислень MIT. «Як машина може ефективно спілкуватися, якщо вона не знає вашого емоційного стану?» mitsloan.mit.edu. Ця група вважає, що емоційний ШІ може зробити технології більш чутливими, персоналізованими і навіть співчутливими. Рана ель Каліубі, яка співзаснувала Affectiva і виступає за «олюднення технологій», зазначає, що наші емоції є основою того, як ми приймаємо рішення і встановлюємо зв’язки. Вона уявляє ШІ як підтримуючого партнера: «Парадигма — це не людина проти машини, а машина, що підсилює людину», каже ель Каліубі, підкреслюючи, що ШІ має посилювати людські можливості, а не замінювати їх mitsloan.mit.edu. На її думку, якщо ми впровадимо ШІ правильно, він, наприклад, може допомогти водіям залишатися в безпеці, допомогти лікарям краще розуміти пацієнтів або допомогти клієнтам відчути, що їх почули. Ель Каліубі з ентузіазмом ставиться до використання емоційного ШІ на благо — вона часто згадує проекти, як-от використання емоційного аналізу для допомоги дітям з аутизмом або для раннього виявлення проблем з психічним здоров’ям. І попри занепокоєння, коли її запитують, чи варто взагалі мати таку технологію, її відповідь — рішуче так. «Абсолютно так», сказала вона у 2024 році, адже поряд із ризиками «ШІ пропонує дивовижні рішення для найбільших викликів людства». asisonline.org Її позиція, як і багатьох у галузі, полягає в тому, що не варто виливати дитину разом із водою. Натомість вони закликають розробляти відповідальний, орієнтований на людину емоційний ШІ — з урахуванням добровільної участі, прозорості та різноманіття — щоб можна було реалізувати переваги (безпечніші дороги, краща медицина, цікавіша освіта тощо). Як каже ель Каліубі, «Кожна галузь трансформується … завдяки ШІ», і емоційний ШІ, якщо його зробити правильно, «може зробити ці трансформації більш емпатійними». asisonline.org Прихильники визнають наявність викликів, але загалом вважають, що їх можна подолати завдяки продуманому дизайну та політиці, а не повній відмові від технології.
• Скептики та критики: З іншого боку, хор науковців і етиків закликає нас сповільнити або навіть зупинити розвиток технологій розпізнавання емоцій, попереджаючи, що вони ґрунтуються на хиткій науці й несуть неприйнятні ризики. Ми вже чули про скептицизм професорки Лізи Фельдман Барретт, заснований на дослідженнях, щодо того, що мімічні вирази обличчя можна надійно співвіднести з емоціями. Барретт категорично спростовує багато тверджень постачальників: «Більшість компаній досі стверджують, що можна подивитися на обличчя й визначити, чи людина сердита або сумна… Це явно не так». theguardian.com Її турбує, що незалежно від намірів, ці системи можуть помилятися — і людей будуть неправильно оцінювати. Ще одна відома критикиня, Відуші Марда з Article 19 (група з цифрових прав), яка вивчала впровадження розпізнавання емоцій у Китаї, заявила, що ця сфера «фундаментально заснована на ненаукових ідеях» і що впровадження таких систем у великих масштабах є «глибоко неетичним». businessinsider.com Захисники приватності, такі як Еван Селінджер, назвали розпізнавання емоцій «найнебезпечнішим ШІ, про який ви ніколи не чули», стверджуючи, що це може призвести до нових форм дискримінації та маніпуляцій. І це не лише думка науковців: навіть інсайдери техноіндустрії мають сумніви. В інтерв’ю TechCrunch Ендрю Мур, колишній керівник Google Cloud AI, застеріг, що розуміння емоцій ШІ «принаймні за десятиліття від надійності», і що зловживання до цього часу може підірвати довіру до ШІ загалом. Ці експерти часто рекомендують суворі обмеження. ACLU навіть підтримала заборони, а аналітик з політики Даніель Кан Гілмор написав: «Щонайменше, нічиї права чи добробут не повинні залежати від емоційних здогадок ШІ». З їхньої точки зору, потенційна шкода — неправомірні арешти, упереджене працевлаштування, порушення ментальної приватності — переважає над сумнівними перевагами. Вони також підкреслюють, що навіть люди самі часто не можуть правильно зчитувати емоції одне одного через культурні та контекстуальні відмінності, тож очікувати цього від машини — марно. По суті, скептики закликають суспільство натиснути на паузу, спочатку вимагати переконливих доказів і етичних рамок, і пам’ятати, що емоції — це глибоко людське, можливо, не те, що ми хочемо, щоб машини аналізували.

Цікаво, що обидва табори зрештою прагнуть кращого майбутнього, але розходяться в методах. Оптимісти зосереджуються на потенційних здобутках (емпатія в ШІ, покращення добробуту), тоді як скептики — на запобіганні шкоді (несправедливість, втрата приватності). Є й помірковані, які визнають потенціал технології, але наполягають на жорстких запобіжниках. Наприклад, Ерік Бріньолфссон виступає за обдуману розробку емоційного ШІ, кажучи: «важливо пам’ятати, що коли це використовується обдумано, кінцеві переваги можуть і повинні перевищувати витрати», але одразу додає, що це має бути «прийнятним для всіх людей» і культурно чутливим mitsloan.mit.edu. Цей компроміс, ймовірно, передбачає жорстке регулювання, прозорість з боку компаній і подальші дослідження точності цих систем.

Підсумовуючи, штучний інтелект, що визначає емоції, знаходиться на захопливому перетині технологій, психології та етики. Його прихильники вважають, що він може зробити наші пристрої та сервіси значно чутливішими до наших потреб – від автомобілів, які заспокоюють нас, до додатків, що розпізнають, коли нам важко, і пропонують допомогу. Його критики справедливо застерігають, що жоден ШІ не повинен бути терапевтом, суддею чи шпигуном – зчитуючи наші почуття так, що це може ввести в оману або пригнічувати. Правда, ймовірно, залежить від того, як ми вирішимо це використовувати. Станом на 2025 рік, ШІ, що визначає емоції, вже існує і розвивається, але також перебуває під пильним контролем. Ми вже побачили реальні переваги в окремих нішах (наприклад, моніторинг психічного здоров’я та адаптивна освіта), а також реальний опір (нові закони та заборони у відповідь на зловживання).

У майбутньому суспільству доведеться обирати обережний шлях: вимагати науково обґрунтованих і справедливих інструментів для розпізнавання емоцій, створювати безпечні приватні простори без емоційного нагляду та демократично вирішувати, де проходить межа між корисною емпатією та шкідливим втручанням. Одне можна сказати напевно: ця дискусія лише починається. ШІ, можливо, стає кращим у визначенні, чи ви чемні чи не дуже – але саме від усіх нас залежить, щоб ця потужна можливість використовувалася так, щоб поважати людську гідність і покращувати наше життя, а не принижувати його.

Джерела:

• Gaudenz Boesch, “AI Emotion Recognition and Sentiment Analysis,” Viso Blog – viso.ai (10 жовтня 2024) viso.ai
• Noor Al Mazrouei, “Emotion AI: Transforming Human-Machine Interaction,” TRENDS Research (17 лютого 2025) trendsresearch.org
• Meredith Somers, “Emotion AI, explained,” MIT Sloan (8 березня 2019) mitsloan.mit.edu
• Julie Bort, “’Emotion AI’ may be the next trend for business software, and that could be problematic,” TechCrunch (1 вересня 2024) techcrunch.com
• Will Knight, “Experts Say ‘Emotion Recognition’ Lacks Scientific Foundation,” ACLU (18 липня 2019) aclu.org
Оскар Холланд, “Ви на 80% злі і на 2% сумні? Чому «емоційний ШІ» сповнений проблем,” The Guardian (23 червня 2024) theguardian.com
• Валерія Васкес та інші, “Заборона технологій розпізнавання емоцій ШІ на робочому місці згідно з AI Act,” Wolters Kluwer – Global Workplace Law (лютий 2025) legalblogs.wolterskluwer.com
• Шеріл Те, “‘Кожна фальшива посмішка’ — система розпізнавання емоцій ШІ може оцінити, наскільки «щасливі» працівники Китаю в офісі,” Business Insider (16 червня 2021) businessinsider.com
• Дослідницька команда AIMultiple, “Топ 10+ прикладів та кейсів використання емоційного ШІ у 2025 році,” AIMultiple (оновлено 2 червня 2025) research.aimultiple.com
• Сара Москеда, “Ель Каліубі: Люди можуть використовувати ШІ для покращення світу,” Security Management Magazine – GSX Daily (24 вересня 2024) asisonline.org
• Дартмутський коледж, “Додаток для телефону використовує ШІ для виявлення депресії за мімікою,” Dartmouth News (27 лютого 2024) home.dartmouth.edu