ИИ, который знает, что вы чувствуете: рост технологий распознавания эмоций

Искусственный интеллект больше не ограничивается только обработкой данных или распознаванием лиц — он учится читать наши чувства. Так называемый ИИ для распознавания эмоций (также известный как Emotion AI или аффективные вычисления) использует алгоритмы для анализа наших мимики, тона голоса, текстовых сообщений и даже сигналов тела, чтобы определить человеческие эмоции. Обещания заманчивы: более интуитивные приложения, эмпатичные роботы и персонализированные сервисы, реагирующие на наше настроение. Но по мере того как эта технология выходит из лабораторий в рабочие места, школы и общественные пространства, возникают серьёзные вопросы. Как именно работают эти ИИ-«чтецы мыслей»? Где их используют сегодня? И почему одни эксперты так же воодушевлены их возможностями, как другие обеспокоены их рисками? В этом подробном обзоре мы рассмотрим, как работает ИИ для распознавания эмоций, реальные примеры применения в различных отраслях, последние разработки 2024–2025 годов и этические вопросы, которые он вызывает — приводя мнения экспертов и актуальные факты на протяжении всего материала.

Что такое ИИ для распознавания эмоций и как он работает?

ИИ для распознавания эмоций — это алгоритмы, которые распознают и интерпретируют человеческие эмоции на основе различных входных данных. По сути, речь идёт о наделении машин эмоциональным интеллектом. Исследователи часто называют эту область аффективными вычислениями. Системы ИИ пытаются «читать» чувства через несколько каналов:

• Анализ лица: Один из самых распространённых подходов — использование компьютерного зрения для анализа мимики. Камера фиксирует изображение (или видео) лица человека, и ИИ сначала определяет лицо и ключевые точки (глаза, брови, рот и т.д.). Затем с помощью глубокого обучения (часто сверточных нейронных сетей) анализируются движения мышц или «микро-выражения» и классифицируется выражение лица по категориям эмоций viso.ai. Многие системы обучены распознавать базовые эмоции: радость, грусть, злость, страх, удивление, отвращение и нейтральность botpenguin.com. Например, улыбающийся рот и прищуренные глаза могут быть отмечены как «радость», а нахмуренные брови — как «злость», хотя, как мы увидим, всё не так просто.
• Анализ тона голоса: Помимо того, что мы говорим, как мы это говорим, тоже может передавать эмоции. Алгоритмы распознавания эмоций по речи анализируют аудиопоток голоса — такие параметры, как высота, громкость, темп и тон. Модели ИИ исследуют эти вокальные особенности (интонацию, акцент, ритм и т.д.), чтобы определить, звучит ли человек взволнованно, спокойно, расстроенно и т.п. botpenguin.com. Например, дрожащий, высокий голос может указывать на страх или злость, а медленный, монотонный — на грусть или усталость. Некоторые системы даже улавливают отдельные слова или вербальные сигналы (например, неуверенное «у меня всё хорошо»), которые связаны с определёнными эмоциональными состояниями.
• Анализ тональности текста: Эмоции также выражаются в письменной форме. ИИ может выполнять обработку естественного языка (NLP) для текстов — от постов в социальных сетях до электронных писем или сообщений в чатах — чтобы определить тональность. Традиционный анализ тональности классифицирует текст как положительный, отрицательный или нейтральный. Новейший эмоциональный ИИ идет дальше, определяя конкретные чувства по тексту, анализируя выбор слов, контекст и пунктуацию botpenguin.com. Например, «Я в полном восторге!» будет определено как очень положительное (радость/волнение), тогда как «Мне так больно и одиноко…» может быть отмечено как грусть или страдание. Крупные языковые модели и специализированные классификаторы используются для анализа эмоционального оттенка наших слов.
• Другие биометрические сигналы: Некоторые продвинутые системы также включают физиологические и поведенческие сигналы. Это может включать язык тела (поза, жесты), отслеживание взгляда (куда вы смотрите и как расширяются ваши зрачки), частоту сердечных сокращений, кожную проводимость или мозговые волны с помощью носимых устройств. Эти сигналы могут указывать на стресс или возбуждение — например, учащенное сердцебиение и потные ладони могут свидетельствовать о тревоге. В передовых исследованиях мультимодальный эмоциональный ИИ объединяет данные о лице, голосе и физиологии для более полной картины trendsresearch.org. Например, автомобильная система мониторинга водителя может использовать камеру для наблюдения за вашим лицом и датчик на руле для отслеживания частоты сердечных сокращений, чтобы выявлять признаки сонливости или агрессии на дороге.

Все эти методы включают машинное обучение на больших наборах данных человеческих эмоциональных выражений. Модели ИИ «обучаются» на примерах — изображениях лиц с пометками эмоций, аудиозаписях с пометками настроения говорящего и т.д. Со временем ИИ выявляет закономерности, связывающие определенные входные данные (особую улыбку, интонацию) с вероятными эмоциями. По сути, это распознавание шаблонов: сам ИИ не чувствует ничего, но делает обоснованное предположение о наших чувствах на основе сигналов, которые мы подаем.

Важно отметить, что современные ИИ для распознавания эмоций обычно ограничены определением лишь нескольких широких категорий эмоций или уровней возбуждения. Эмоции человека сложны и зависят от контекста, что делает эту задачу очень сложной для ИИ. Тем не менее, технология быстро совершенствуется. Благодаря объединению компьютерного зрения, анализа речи и NLP, современный эмоциональный ИИ может с умеренной точностью определять эмоциональное состояние человека — при подходящих условиях. Как отмечается в одном из отчетов, интеграция нескольких методов (лицо, голос, текст) позволяет машинам интерпретировать человеческие эмоции «с большей точностью», делая взаимодействие более естественным и отзывчивым trendsresearch.org. В следующих разделах мы рассмотрим, как эти возможности применяются в реальном мире и какого прогресса достигли к 2024–2025 годам.

Применение в реальных отраслях

AI для распознавания эмоций вышел за пределы лаборатории и применяется в различных отраслях. Вот некоторые из наиболее заметных применений и примеров использования по секторам:

• Здравоохранение и благополучие: AI для эмоций тестируется как инструмент для психического здоровья и ухода за пациентами. Например, исследователи разработали приложения для смартфонов, которые отслеживают лица и голос пользователей на признаки депрессии или тревожности home.dartmouth.edu. В одном исследовании 2024 года был представлен MoodCapture — приложение, использующее камеру телефона для выявления ранних симптомов депрессии путем анализа выражения лица пользователя каждый раз при разблокировке телефона — в ходе испытаний оно правильно определяло изменения настроения примерно с 75% точностью home.dartmouth.edu. Терапевты также исследуют возможности ИИ, который слушает во время консультаций, чтобы оценить эмоциональное состояние пациента по тону голоса, потенциально предупреждая, если кто-то звучит все более обеспокоенно. В больницах камеры, распознающие эмоции, могут отслеживать уровень боли или стресса у пациентов, когда медсестры отсутствуют. А для людей с аутизмом ассистивный AI для эмоций может помочь интерпретировать выражения других — например, носимое устройство или приложение на планшете, которое подсказывает ребенку с аутизмом такие фразы, как «Мама счастлива» или «Папа выглядит расстроенным», помогая им учиться распознавать эмоциональные сигналы mitsloan.mit.edu.
• Маркетинг и клиентский опыт: Компании используют эмоциональный ИИ, чтобы глубже понять потребителей. Рекламодатели могут тестировать рекламные ролики или видео о продуктах с группами зрителей, которые согласились на запись с помощью веб-камеры; затем ИИ анализирует мимику по кадрам, чтобы увидеть, в какие моменты люди улыбались, смеялись или выглядели скучающими. На самом деле, около 25% компаний из списка Fortune 500 использовали эмоциональный ИИ в рекламных исследованиях для измерения вовлеченности аудитории mitsloan.mit.edu. Ведущая компания в этой области, Affectiva (основанная учеными MIT), позволяет брендам фиксировать подсознательные, «висцеральные» реакции зрителей на рекламу и сопоставлять их с реальным поведением, например, поделятся ли они рекламой или купят продукт mitsloan.mit.edu. Помимо рекламы, ритейлеры исследуют возможность использования камер с определением эмоций в магазинах для оценки удовлетворенности клиентов (оставило ли обслуживание вас раздраженным или довольным?). В интернете чат-боты с анализом настроения пытаются корректировать свои ответы в зависимости от настроения клиента — например, переводить общение на человека, если пользователь звучит сердито. Даже физические билборды пробовали аналитику эмоций: в Бразилии интерактивная система рекламы в метро использовала видеопотоки с камер для классификации выражений лиц пассажиров (счастлив, нейтрален, удивлен, недоволен), а затем меняла рекламный контент в реальном времени, чтобы лучше соответствовать настроению толпы research.aimultiple.com.
• Образование: Классные комнаты и платформы электронного обучения экспериментируют с ИИ для оценки эмоций и внимания студентов. Цель — создать адаптивную образовательную среду. Например, онлайн-репетиторская компания в Индии использовала распознавание эмоций через веб-камеры студентов для отслеживания вовлечённости и усталости во время живых занятийresearch.aimultiple.comresearch.aimultiple.com. Система отслеживала движения глаз и мимику, чтобы формировать «оценки внимания», помогая учителям определять моменты потери концентрации у студентов. В некоторых высокотехнологичных классах камеры использовались (что вызвало споры) для сканирования лиц учеников на признаки замешательства или скуки, чтобы учителя могли корректировать свои уроки legalblogs.wolterskluwer.com. Есть даже сообщения из Китая о школах, которые тестируют камеры с распознаванием лиц, фиксирующие эмоциональное состояние учеников (например, счастье или злость) в течение дня businessinsider.com. Теоретически такие инструменты могут персонализировать обучение — например, тьютор-бот может подбодрить, если почувствует разочарование, — но они также вызывают споры о наблюдении (об этом позже).
• Автомобильная отрасль: Автопроизводители внедряют эмоциональный ИИ в автомобили для повышения безопасности и улучшения впечатлений от вождения. Системы мониторинга водителя используют камеры на приборной панели для наблюдения за лицом и осанкой, чтобы выявлять признаки сонливости или отвлечённости. Если ИИ замечает опущенные веки или сутулость (признаки усталости), он может подать сигнал тревоги. Премиальные бренды идут дальше, пытаясь определить эмоциональное состояние водителя: например, выявить, расстроен ли водитель или зол (дорожная ярость), и вмешаться — возможно, сделать музыку тише или даже ограничить скорость автомобиля mitsloan.mit.edu. Affectiva, теперь часть Smart Eye, имеет автомобильную ИИ платформу, которая следит как за водителем, так и за пассажирами. Она может определить, смеётся ли водитель или спорит, или тревожатся ли пассажиры, и соответственно настраивать параметры автомобиля (например, усилить системы безопасности, если ощущается стресс) mitsloan.mit.edu. В полуавтономных автомобилях эмоциональный ИИ может решить, слишком ли вы отвлечены, чтобы взять управление на себя. Все эти примеры использования в автомобильной отрасли связаны с применением распознавания эмоций для повышения безопасности, комфорта и персонализации в дороге.
• Развлечения и игры: Развлечения становятся более интерактивными благодаря эмоциональному ИИ. Разработчики видеоигр начали создавать игры, которые реагируют на эмоции игрока. Яркий пример — «Nevermind», психологический триллер, который использует веб-камеру игрока (или биосенсор) для обнаружения стресса — если система замечает, что вы пугаетесь, игра становится сложнее, добавляя больше пугающих моментов, а если вы спокойны, сложность снижается research.aimultiple.com. Это создает динамичный опыт ужасов, который подстраивается под ваш уровень страха. В кино и на телевидении студии тестируют отслеживание лиц на тестовой аудитории, чтобы увидеть эмоциональные реакции на сцены (действительно ли поворот сюжета удивил зрителей? Было ли смешно?). Также ведутся эксперименты с персонализированным контентом: представьте себе стриминговый сервис, который может использовать камеру вашего ноутбука, чтобы наблюдать за вашим лицом и рекомендовать фильмы, соответствующие вашему текущему настроению (некоторые туристические сайты даже пытались рекомендовать направления на основе выражения лица пользователя research.aimultiple.com). Хотя массовые рекомендации контента по «настроению» пока экспериментальны, слияние ИИ и развлечений обещает новые формы захватывающих, интерактивных медиа.
• Правоохранительные органы и безопасность: Распознавание эмоций рассматривается для применения в сфере безопасности, хотя это направление вызывает наибольшие споры. Некоторые полицейские департаменты рассматривали ИИ, который сканирует прямые трансляции с камер видеонаблюдения или записи с нагрудных камер, чтобы отмечать «подозрительное» поведение или возможную агрессию. Например, алгоритмы могут анализировать голосовые записи на наличие стресса или злости, чтобы определить, когда звонящий в 911 или задержанный может стать агрессивным. Существуют «детекторы агрессии», предлагаемые для общественной безопасности, которые слушают сердитые интонации или крики, чтобы заранее предупредить охрану о возможных драках. В Китае компания Taigusys разработала систему ИИ для наблюдения, которая массово отслеживает лица сотрудников в офисах en masse и утверждает, что может определять, что чувствует каждый человек — счастлив ли сотрудник, нейтрален, зол или испытывает стресс businessinsider.com. Система даже заявляет, что может определить, если вы фальшиво улыбаетесь, и формирует отчеты о работниках, которые слишком часто проявляют «негативные» эмоции, предполагая, что им может понадобиться вмешательство или что они замышляют что-то подозрительное businessinsider.com. В тюрьмах похожие технологии тестировались для мониторинга эмоционального состояния заключённых. На пограничном контроле в некоторых странах тестировали ИИ-детекторы лжи, которые отслеживают микровыражения путешественников на предмет «признаков обмана». В полицейских допросах экспериментируют с голосовой аналитикой, которая пытается определить, нервничает ли подозреваемый. Однако ни одна полиция не использует эти инструменты как единственное доказательство — даже сторонники считают, что они должны быть только вспомогательными. Как мы обсудим далее, эксперты призывают к крайней осторожности, потому что ложные срабатывания (например, если ИИ ошибочно пометит невиновного человека как «злого» или «обманщика») могут иметь серьезные последствия в сфере правосудия и безопасности.

Во всех этих отраслях основная идея заключается в том, что если машины смогут понимать наши эмоции, они смогут взаимодействовать с нами более естественно и эффективно. Репетитор с ИИ, который чувствует разочарование, может переформулировать урок. Бот службы поддержки, который слышит нетерпение в вашем голосе, может немедленно вызвать менеджера-человека. Автомобиль, который знает, что вы устали, может взбодрить вас или взять управление на себя. Emotion AI по сути стремится сделать технологии более эмпатичными, адаптируясь к человеку, а не заставляя человека адаптироваться к машинам trendsresearch.org. Это захватывающая граница — и она быстро развивается, как иллюстрирует следующий раздел с последними достижениями.

Последние достижения и новости (2024–2025)

Emotion-sensing AI за последние два года развивался стремительными темпами, от технических прорывов до регуляторного противодействия. Вот некоторые из заметных последних тенденций и новостей:

• Бурный рост инвестиций и стартапов: Деловой мир внимательно следит за развитием эмоционального ИИ. Отраслевые аналитики сообщают, что «эмоциональный ИИ» становится горячим трендом в корпоративном программном обеспечении, особенно по мере того, как компании внедряют всё больше чат-ботов и виртуальных ассистентов, которым необходима эмоциональная осведомлённость techcrunch.com. Недавний исследовательский отчёт PitchBook прогнозирует, что внедрение эмоционального ИИ будет расти, чтобы сделать взаимодействие с ИИ более похожим на человеческое techcrunch.com. Венчурный капитал активно поступает в этот сектор: например, ведущая компания в области разговорного ИИ Uniphore привлекла более $600 миллионов (включая раунд в $400 млн в 2022 году) для разработки ИИ, способного распознавать эмоции клиентов во время сервисных звонков techcrunch.com. В эту сферу входят многочисленные стартапы — такие компании, как MorphCast, audEERING, Voicesense, SuperCEED, Siena AI, и другие разрабатывают инструменты для масштабного анализа мимики и голосовых сигналов techcrunch.com. Рыночные прогнозы отражают этот импульс: по одному из отчётов, мировой рынок обнаружения и распознавания эмоций вырастет с примерно $3–4 млрд в 2024 году до более чем $7 млрд в течение пяти лет technologyslegaledge.com, а другой анализ прогнозирует скачок до $173 млрд к 2031 году (хотя такие оценки разнятся) research.aimultiple.com. Очевидно, что многие компании видят коммерческий потенциал в ИИ, способном определять чувства — будь то для увеличения продаж, повышения удовлетворённости клиентов или улучшения безопасности.
• Новые технологические возможности: В исследовательской сфере ИИ становится всё лучше в понимании тонких эмоций. Ярким примером в 2024 году стал проект в Университете Гронингена, где ИИ обучили распознавать сарказм в устной речи theguardian.com. Система обучалась на сценариях диалогов из ситкомов, таких как Друзья и Теория большого взрыва, чтобы распознавать голосовые паттерны саркастической речи (например, преувеличенный тон или растяжка слов). Модель могла определять сарказм в аудио с точностью около 75% theguardian.com. Это важно, потому что сарказм печально известен своей сложностью для алгоритмов (и иногда для людей!), но он ключевой для понимания истинных эмоций в коммуникации. Прогресс в таких областях показывает, что эмоциональный ИИ выходит за рамки простого определения “радость против грусти” и движется к более сложным социальным сигналам. Также совершенствуются мультимодальные модели: мы видим ИИ, который объединяет текст, голос и данные о мимике для более контекстуального распознавания эмоций. Компании, такие как Hume AI (основанная бывшим исследователем Google), разрабатывают эмпатические голосовые интерфейсы, которые реагируют не только на что вы говорите, но и как вы это говорите, стремясь сделать разговоры с ИИ более эмоционально чуткими theguardian.com. Hume даже создала этический совет для руководства разработкой “эмпатического ИИ” theguardian.com, признавая необходимость осторожного прогресса. Со стороны аппаратного обеспечения камеры и сенсоры стали повсеместными и дешевыми, что означает, что теперь проще, чем когда-либо, внедрять технологии распознавания эмоций в телефоны, автомобили и устройства умного дома.
• Массовое внедрение и споры: По мере распространения эмоционального ИИ он сталкивается и с определёнными препятствиями. Один из ярких примеров: видеоконференц-платформа Zoom якобы рассматривала возможность добавления функций распознавания эмоций (например, чтобы сообщать ведущим встреч, вовлечены ли участники или отвлечены), — но после общественного резонанса по поводу конфиденциальности Zoom в середине 2022 года объявила, что у неё «нет планов» внедрять такой ИИ для отслеживания эмоций. Аналогично, платформа для найма персонала HireVue начала использовать ИИ для анализа мимики соискателей на видеоинтервью, но к 2021 году отказалась от этого компонента из-за научной критики и общественного беспокойства. Эти случаи задали тон для 2024 года, когда сама идея распознавания эмоций в рабочих или потребительских приложениях вызывает подозрения (и это не те брови, которые должен отслеживать ИИ). В новостях продолжают появляться опасения по поводу злоупотреблений: например, сообщения о том, что китайские технологические компании используют распознавание эмоций для сотрудников, вызвали международную критику businessinsider.com. И хотя некоторые поставщики рекламируют «ИИ для выявления лжи» в целях безопасности, эксперты опровергли многие из них как едва ли превосходящие случайность.
• Регуляторные меры: Возможно, самым значимым событием 2024 года стало то, что правительства начали вмешиваться в сферу эмоционального ИИ. В мае 2024 года Европейский союз утвердил Закон ЕС об ИИ, всеобъемлющий закон о регулировании искусственного интеллекта. Примечательно, что этот закон запрещает использование ИИ для распознавания эмоций в реальном времени в определённых контекстах, считая это «недопустимым риском» для прав человека theguardian.com. В частности, ЕС запретит ИИ-системы, которые утверждают, что могут определять эмоции людей на рабочих местах, в школах или других государственных учреждениях (за исключением узких случаев, таких как здравоохранение или безопасность) legalblogs.wolterskluwer.com. Законодатели ЕС пришли к выводу, что распознавание эмоций в таких условиях является навязчивым и ненадёжным, а также может привести к несправедливым последствиям. (Они провели грань между ИИ, который просто определяет внешнее выражение человека — что может быть разрешено, — и ИИ, который заявляет, что знает, что человек чувствует внутри, что будет запрещено theguardian.com.) Эта правовая позиция, одна из первых в своём роде, отражает растущий скептицизм среди законодателей по поводу достоверности и этичности эмоционального ИИ. В США федерального запрета нет, но некоторые юрисдикции рассматривают ограничения, а ACLU и другие правозащитные организации призывают прекратить использование распознавания эмоций в полиции и на рабочем месте aclu.org, businessinsider.com. Тот факт, что регуляторы объединили эмоциональный ИИ с такими вещами, как социальное рейтингование и подсознательное манипулирование (также запрещённые законом ЕС), посылает чёткий сигнал: в 2025 году и далее, вероятно, появятся более строгие проверки и стандарты для любого ИИ, который заявляет, что может читать наши чувства.

В целом, прошедший год или два стали переломными. ИИ, распознающий эмоции, распространён как никогда ранее, незаметно проникая в клиентский сервис, автомобили и приложения — и одновременно вызывает всё больше споров, поскольку эксперты и регуляторы начинают сдерживать его развитие. По мере совершенствования технологии ожидайте ещё больше дискуссий о том, может ли ИИ действительно понимать человеческие эмоции и, если да, то кто получит такую власть. Эти вопросы подводят нас к следующей теме: этические аспекты.

Этические аспекты и опасения

Рост ИИ для распознавания эмоций вызвал ожесточённые этические дискуссии. Читать чьи-то эмоции — это не то же самое, что измерять температуру; это затрагивает личные, часто приватные стороны нашей жизни. Вот основные опасения, которые высказывают эксперты и правозащитники:

• Надежность и научная обоснованность: Фундаментальный вопрос заключается в том, действительно ли эти системы работают так, как заявлено. Человеческие эмоции сложны, зависят от контекста и не всегда видны на поверхности. Психологи предупреждают, что нет простой однозначной связи между выражением лица и внутренним чувством. Человек может улыбаться, когда ему грустно, или хмуриться, когда он сосредоточен — выражения различаются у разных людей и в разных культурах. В 2019 году масштабный обзор более 1000 исследований под руководством психолога Лизы Фельдман Барретт пришёл к выводу, что «эмоциональное состояние человека нельзя надёжно определить только по движениям лица» aclu.org. Она приводит яркий пример: «Хмурое лицо может быть, а может и не быть выражением злости… люди хмурятся, когда злятся, но также когда они озадачены или даже испытывают вздутие!»aclu.org. Короче говоря, контекст имеет огромное значение в эмоциях, а у ИИ обычно нет контекста. Барретт и другие утверждают, что современные алгоритмы очень хорошо распознают движения лицевых мышц или интонации голоса, но они не могут по-настоящему понять, что это значит с точки зрения эмоций aclu.org. Как она прямо сказала в одном интервью, «Не существует автоматического распознавания эмоций. Лучшие алгоритмы могут определить выражение лица, но они не способны понять, что оно означает» aclu.org. Этот скептицизм широко распространён в научном сообществе. Без чёткого, согласованного определения эмоций даже среди психологов, создание ИИ для их распознавания находится на шаткой теоретической основе theguardian.com. На практике это создаёт опасность неправильной интерпретации: если ИИ ошибочно пометит человека как «злого» или «обманщика» из-за неверно распознанного сигнала, это может привести к несправедливым последствиям (попасть под подозрение службы безопасности, отказ в собеседовании и т.д.). Проще говоря, критики считают, что современные технологии распознавания эмоций — в лучшем случае приближение, а в худшем — цифровая френология (лженаука), особенно когда их используют для оценки отдельных людей article19.org.
• Предвзятость и справедливость: Как и многие ИИ-системы, алгоритмы для распознавания эмоций могут отражать и даже усиливать предвзятость, присутствующую в их обучающих данных. Одна из главных проблем — это культурная и расовая предвзятость. Если ИИ в основном обучался на, скажем, западных испытуемых, демонстрирующих «классические» выражения, он может неправильно интерпретировать людей из других этнических или культурных групп. Есть доказательства, что это уже происходит. В исследовании 2023 года было установлено, что некоторые коммерческие системы эмоционального ИИ постоянно оценивали выражения лиц чернокожих людей как более негативные или злые по сравнению с другими группами theguardian.com. Другими словами, нейтральное выражение лица чернокожего мужчины ИИ может интерпретировать как «злое», тогда как у белого человека — нет; это тревожная предвзятость с очевидными последствиями для таких сфер, как проверки безопасности или оценки на рабочем месте theguardian.com. «Ваши алгоритмы настолько хороши, насколько хорош обучающий материал», отмечает Барретт. «Если ваш обучающий материал предвзят, вы закрепляете эту предвзятость в коде». theguardian.com. Культура также влияет на то, как мы выражаем эмоции: улыбка может означать разное в разных контекстах, а жесты или интонации не универсальны. Эрик Бриньолфссон из MIT предупреждает, что технология распознавания эмоций должна быть чувствительной к разнообразию: «Распознавать эмоции на лице афроамериканца сложно для машины, обученной на лицах европеоидов. А жесты или интонации в одной культуре могут означать нечто совершенно иное в другой» mitsloan.mit.edu. Если эти нюансы не учитывать, технология может систематически неправильно интерпретировать или ущемлять определённые группы — по сути, кодируя предрассудки под видом «чтения эмоций». Предвзятость — это не только про демографию; есть и контекстуальная предвзятость (например, ИИ в шумной обстановке может интерпретировать повышенные голоса как злость, хотя на самом деле просто громко). Обеспечение справедливости в эмоциональном ИИ — огромная задача, и пока что многие системы не смогли доказать, что работают одинаково хорошо для всех людей.
• Наблюдение и конфиденциальность: Emotion AI часто предполагает постоянный мониторинг выражений лиц, голосов или физиологических сигналов людей — что вызывает очевидные опасения по поводу конфиденциальности. Опасение заключается в том, что это может привести к новому уровню навязчивого наблюдения, когда наши внутренние эмоции становятся отслеживаемыми данными. Например, на рабочих местах сотрудники могут чувствовать, что находятся под эмоциональным микроскопом, и их оценивают не только по результатам работы, но и по тому, достаточно ли они улыбаются или звучат ли достаточно «восторженно». Это не научная фантастика; это уже происходит в некоторых местах. Упомянутая ранее китайская система «улыбнись, чтобы получить балл» — яркий пример: работники боятся хмуриться или выглядеть уставшими, потому что за ними следит ИИ и сообщит начальству о «плохом настрое» businessinsider.com. Такие практики создают гнетущую атмосферу и подрывают личную автономию. Даже вне рабочего места представьте себе уличные камеры, которые не только распознают ваше лицо, но и помечают вас как «нервного» или «взволнованного», когда вы проходите мимо. Эти данные могут быть использованы для профилирования. В отличие от чтения показаний термостата, чтение эмоций может быть глубоко манипулятивным — люди часто стараются скрыть свои истинные чувства на публике по уважительным причинам (конфиденциальность, вежливость), и когда ИИ начинает их разбирать, это кажется оруэлловским. Защитники конфиденциальности отмечают, что люди не давали согласия на то, чтобы их эмоции анализировались камерами в торговых центрах или полицейским видеонаблюдением. Тем не менее, программное обеспечение для распознавания эмоций уже добавляется в некоторые системы безопасности без ведома общественности. Есть также вопрос безопасности данных: эмоциональные данные (видео с лицами, аудиозаписи голосов) — это чувствительная биометрическая информация. Если она собирается и хранится, кто ее защищает и как долго? Взлом или утечка эмоциональных данных (например, записи терапевтических сессий или видеозаписи с пометками о чьем-то настроении) может нанести серьезный вред. Короче говоря, превращение нашей эмоциональной жизни в потоки данных представляет собой «мощную новую форму наблюдения», как выразился один из аналитиков Guardian theguardian.com. Эта проблема вызывает призывы к строгим ограничениям на то, где может происходить подобный мониторинг.
• Согласие и автономия: Вопрос согласия тесно связан с приватностью. Должны ли люди давать согласие на то, чтобы ИИ анализировал их эмоции? Многие считают, что да – эмоциональный анализ настолько личный, что требует явного разрешения. Некоторые компании действительно используют модели с предварительным согласием. Например, политика Affectiva для тестирования рекламы заключается в том, чтобы записывать и анализировать только тех зрителей, которые дали согласие и были проинформированы, а также запрещать использование технологии для скрытого наблюдения или идентификации людей mitsloan.mit.edu. Однако не все поставщики столь строги, и на практике сотрудники или студенты могут не чувствовать, что могут отказаться, если работодатель или учебное заведение требует участия в программе мониторинга эмоций (представьте, что вам говорят носить браслет, отслеживающий эмоции, на работе). Это вызывает опасения по поводу принуждения. Будут ли работники в будущем вынуждены поддерживать определённое эмоциональное выражение (например, всегда звучать «счастливо» в звонках), потому что за ними следит ИИ? Это уже затрагивает вопросы человеческого достоинства и свободы чувствовать без анализа. С этической точки зрения многие утверждают, что человек должен сохранять контроль над своими эмоциональными данными. У вас должно быть право держать свои эмоции при себе или, по крайней мере, контролировать, кто/что их распознаёт. Без явного согласия распознавание эмоций становится нежелательным вторжением в наше ментальное пространство – то, что некоторые учёные называют «ментальным суверенитетом». Обнадёживает, что новый закон ЕС прямо запрещает использование эмоционального ИИ на рабочих местах и в школах независимо от согласия (из-за дисбаланса власти истинное добровольное согласие сомнительно) williamfry.com, legalblogs.wolterskluwer.com. Это говорит о стремлении защитить людей от давления к эмоциональной прозрачности. По мере распространения этой технологии настаивание на согласии – и предоставление людям возможности отключить её – может стать ключевым для сохранения личной автономии.
• Манипуляция и злоупотребление: Еще одно этическое измерение — это то, как инсайты, полученные с помощью эмоционального ИИ, могут быть использованы для влияния на людей или их эксплуатации. Эмоции во многом определяют наши решения, и если компании или политические акторы могут распознавать наши чувства, они могут адаптировать сообщения, чтобы надавить на наши слабые места. Мы видели низкотехнологичную версию этого в скандале с Cambridge Analytica, когда данные Facebook использовались для психологического профилирования избирателей и таргетирования рекламы с целью вызвать эмоциональный отклик. Эмоциональный ИИ может значительно усилить такие тактики — по сути, позволяя «массовую эмоциональную манипуляцию». Как предупреждает Рэнди Уильямс из Algorithmic Justice League, «Когда у нас есть ИИ, который проникает в самые человеческие стороны нашей личности, существует высокий риск манипуляций людьми в коммерческих или политических целях». theguardian.com. Например, маркетинговый ИИ может заметить, что вы чувствуете себя немного подавленным в определенный вечер (определено через ваши устройства умного дома), и приложение мгновенно покажет рекламу утешительной еды или шопинга именно в этот уязвимый момент. Или авторитарное правительство может использовать распознавание эмоций во время телевизионных выступлений: если население выглядит недостаточно восторженно, возможно, пора усилить пропаганду или начать расследование в отношении инакомыслящих. Эти сценарии звучат как антиутопия, но именно такие случаи злоупотребления эксперты хотят предотвратить уже сейчас, пока они не стали реальностью. Даже в более мягких формах эмоциональное подталкивание вызывает этические вопросы — допустимо ли, чтобы видеоигра специально пыталась напугать вас сильнее, когда она знает, что вы уже напуганы, как в примере с хоррор-игрой? Кто-то скажет, что это нормально для развлечения; другие беспокоятся о психологических последствиях. Суть в том, что эмоциональный ИИ дает новый рычаг для воздействия на поведение человека, и без регулирования или этических ограничений этот рычаг может быть использован в опасных целях (например, «эмоциональная манипуляция» прямо указана как запрещенный сценарий использования в этических принципах Hume AI theguardian.com). Важна прозрачность: если эмоциональные данные используются для влияния на исход (например, если ИИ для найма отклоняет вашу кандидатуру, потому что считает, что вам не хватало «страсти» на собеседовании), человек должен знать об этом и иметь возможность оспорить решение.
• Регулирование и подотчетность: Учитывая все эти опасения, все чаще звучат призывы к регулированию ИИ, определяющего эмоции. Запрет ЕС в определённых сферах — один из подходов: по сути, говорится, что некоторые применения недопустимы. В других местах эксперты предлагают требовать строгую валидацию и аудит всех внедряемых систем эмоционального ИИ, чтобы доказать их точность и отсутствие предвзятости (высокая планка, которую многие могут не преодолеть). Такие организации, как ACLU и Article 19, выступают за полный мораторий на распознавание аффекта в чувствительных областях, называя это ненаучным и несовместимым с правами человека article19.org, businessinsider.com. Еще один аспект регулирования — защита данных: поскольку эмоциональные данные могут считаться биометрическими или относящимися к здоровью, они могут подпадать под действие законов о конфиденциальности, таких как GDPR, что требует строгого согласия, ограничения целей и безопасности. Регуляторы также обсуждают, должны ли люди иметь право отказаться от отслеживания эмоций в общественных местах и право не подвергаться оценке по автоматическим «эмоциональным баллам». С другой стороны, некоторые отраслевые группы выступают за стандарты, которые позволили бы использовать эмоциональный ИИ ответственно (например, IEEE разрабатывает этические рекомендации для адаптивных систем, реагирующих на эмоции). Ясно одно: технологии опережают правила, но 2024 год становится переломным моментом. Правительства признают распознавание эмоций отдельной категорией ИИ, требующей надзора. В ближайшие годы можно ожидать появления новых политик, которые будут устанавливать границы использования этих инструментов — и обеспечивать подотчетность их пользователей. Ведь если система ИИ делает эмоциональную оценку, которая вредит человеку (например, безосновательно помечает его как «высокорискового»), кто несет ответственность? На эти острые вопросы еще предстоит ответить.

В конечном счете, этика сводится к простому принципу: только потому, что мы можем пытаться считывать эмоции с помощью ИИ, стоит ли это делать? И если да, то на каких условиях? Сторонники считают, что у технологии есть гуманные и полезные применения (особенно при наличии согласия и осторожности), а критики опасаются, что сама идея ошибочна и уязвима для злоупотреблений. Это подводит нас к заключительному разделу — мнению экспертов с обеих сторон спора.

Мнения экспертов

Поскольку ИИ для распознавания эмоций находится на стыке инноваций и споров, важно услышать, что говорят ведущие специалисты в этой области. Мнения экспертов разделились — одни видят в этом преобразующий потенциал, другие призывают к крайней осторожности. Вот несколько точек зрения из первых уст:

• Оптимисты и инноваторы: Многие пионеры аффективных вычислений утверждают, что наделение машин эмоциональным интеллектом может значительно улучшить взаимодействие человека и машины. «Подумайте о том, как вы взаимодействуете с другими людьми: вы смотрите на их лица, на их тело и соответственно меняете свое поведение», объясняет Хавьер Эрнандес, исследователь из группы аффективных вычислений MIT. «Как машина может эффективно общаться, если она не знает вашего эмоционального состояния?» mitsloan.mit.edu. Эта группа считает, что эмоциональный ИИ может сделать технологии более отзывчивыми, персонализированными и даже сострадательными. Рана эль Калиуби, соучредитель Affectiva и сторонница «очеловечивания технологий», отмечает, что наши эмоции лежат в основе того, как мы принимаем решения и устанавливаем связи. Она видит ИИ как поддерживающего партнера: «Парадигма — это не человек против машины, а машина, дополняющая человека», говорит эль Калиуби, подчеркивая, что ИИ должен усиливать человеческие возможности, а не заменять их mitsloan.mit.edu. По ее мнению, если мы внедрим ИИ правильно, он, например, может помочь водителям оставаться в безопасности, врачам — лучше понимать пациентов, а клиентам — чувствовать, что их слышат. Эль Калиуби с энтузиазмом относится к использованию эмоционального ИИ во благо — она часто приводит в пример проекты по использованию эмоционального анализа для помощи детям с аутизмом или для раннего выявления проблем с психическим здоровьем. И несмотря на опасения, когда ее спрашивают, стоит ли вообще создавать такие технологии, ее ответ — решительное «да». «Безусловно, да», сказала она в 2024 году, потому что наряду с рисками «ИИ предлагает удивительные решения самых больших проблем человечества». asisonline.org Ее позиция, как и позиция многих в индустрии, заключается в том, что не стоит выплескивать ребенка вместе с водой. Вместо этого они призывают разрабатывать ответственный, ориентированный на человека эмоциональный ИИ — с учетом добровольного участия, прозрачности и разнообразия — чтобы можно было реализовать преимущества (более безопасные дороги, лучшее здравоохранение, более увлекательное образование и т.д.). Как говорит эль Калиуби, «Каждая отрасль трансформируется … с помощью ИИ», и эмоциональный ИИ, если все сделать правильно, «может сделать эти трансформации более эмпатичными». asisonline.org Сторонники признают существующие проблемы, но в целом считают, что их можно смягчить с помощью продуманного дизайна и политики, а не полного отказа от технологии.
• Скептики и критики: С другой стороны, хор ученых и этиков призывает нас замедлить или даже остановить развитие технологий распознавания эмоций, предупреждая, что они основаны на шаткой науке и несут неприемлемые риски. Мы уже слышали основанный на исследованиях скептицизм профессора Лизы Фельдман Барретт относительно того, что мимику можно надежно сопоставить с эмоциями. Барретт прямо опровергает многие заявления поставщиков: «Большинство компаний до сих пор утверждают, что можно посмотреть на лицо и определить, злится человек или грустит… Это явно не так». theguardian.com Ее беспокоит, что, независимо от намерений, эти системы будут ошибаться — и людей будут неправильно оценивать. Еще одна ярая критик, Видуши Марда из Article 19 (группа по цифровым правам), изучавшая внедрение распознавания эмоций в Китае, заявила, что эта область «фундаментально основана на ненаучных идеях» и что внедрение таких систем в широком масштабе «глубоко неэтично». businessinsider.com Защитники конфиденциальности, такие как Эван Селинджер, назвали распознавание эмоций «самым опасным ИИ, о котором вы никогда не слышали», утверждая, что это может привести к новым формам дискриминации и манипуляции. И это не только академики: даже представители технологической отрасли сомневаются. В интервью TechCrunch Эндрю Мур, бывший глава Google Cloud AI, предупредил, что понимание эмоций ИИ «по меньшей мере в десятке лет от надежности», и что злоупотребления до этого момента могут подорвать доверие к ИИ в целом. Эти эксперты часто рекомендуют строгие ограничения. ACLU зашел так далеко, что поддержал запреты, а аналитик по политике Даниэль Кан Гиллмор написал: «Как минимум, ничьи права или средства к существованию не должны зависеть от эмоциональных догадок ИИ». С их точки зрения, потенциальный вред — ошибочные аресты, предвзятый найм, нарушение ментальной приватности — перевешивает сомнительную пользу. Они также подчеркивают, что даже сами люди с трудом правильно читают эмоции друг друга через культуры и контексты, так что ожидать этого от машины — глупо. По сути, скептики призывают общество нажать на паузу, сначала потребовать убедительных доказательств и этических рамок и помнить, что эмоции — глубоко человеческое, возможно, не то, что мы хотим, чтобы машины анализировали.

Интересно, что обе стороны в конечном итоге стремятся к лучшему будущему, но расходятся в методах. Оптимисты сосредотачиваются на потенциальных выгодах (эмпатия в ИИ, улучшение благополучия), тогда как скептики — на предотвращении вреда (несправедливость, потеря приватности). Есть и умеренные, которые признают потенциал технологии, но настаивают на строгих мерах предосторожности. Например, Эрик Бриньолфссон выступает за развитие эмоционального ИИ осознанно, говоря: «Важно помнить, что при осознанном использовании конечная польза может и должна превышать издержки», но тут же добавляет, что это должно быть «подходящим для всех людей» и учитывать культурные особенности mitsloan.mit.edu. Такой компромисс, вероятно, предполагает жесткое регулирование, прозрачность со стороны компаний и продолжение исследований точности этих систем.

В заключение, искусственный интеллект, распознающий эмоции, находится на захватывающем пересечении технологий, психологии и этики. Его сторонники считают, что он может сделать наши устройства и сервисы гораздо более чуткими к нашим потребностям — от автомобилей, которые умеют нас успокаивать, до приложений, которые понимают, когда нам тяжело, и предлагают помощь. Его критики справедливо предупреждают, что ни один ИИ не должен становиться ни терапевтом, ни судьёй, ни шпионом — считывая наши чувства так, что это может ввести в заблуждение или привести к угнетению. Истина, возможно, зависит от того, как мы решим использовать эту технологию. На 2025 год ИИ, распознающий эмоции, уже здесь и развивается, но также находится под пристальным вниманием. Мы видим реальные преимущества в отдельных сферах (например, мониторинг психического здоровья и адаптивное обучение), а также реальное сопротивление (новые законы и запреты в ответ на злоупотребления).

В дальнейшем обществу предстоит пройти по тонкой грани: требовать научной обоснованности и справедливости от любых инструментов для распознавания эмоций, создавать безопасные личные пространства, свободные от эмоционального надзора, и демократически решать, где должна проходить граница между полезной эмпатией и вредным вторжением. Одно можно сказать точно: эта дискуссия только начинается. ИИ, возможно, становится лучше в определении, были ли вы «хорошим» или «плохим» — но именно от всех нас зависит, чтобы эта мощная возможность использовалась с уважением к человеческому достоинству и для улучшения нашей жизни, а не для её умаления.

Источники:

• Gaudenz Boesch, “AI Emotion Recognition and Sentiment Analysis,” Viso Blog – viso.ai (10 октября 2024) viso.ai
• Noor Al Mazrouei, “Emotion AI: Transforming Human-Machine Interaction,” TRENDS Research (17 февраля 2025) trendsresearch.org
• Meredith Somers, “Emotion AI, explained,” MIT Sloan (8 марта 2019) mitsloan.mit.edu
• Julie Bort, “’Emotion AI’ may be the next trend for business software, and that could be problematic,” TechCrunch (1 сентября 2024) techcrunch.com
• Will Knight, “Experts Say ‘Emotion Recognition’ Lacks Scientific Foundation,” ACLU (18 июля 2019) aclu.org
Оскар Холланд, «Вы злитесь на 80% и грустите на 2%? Почему “эмоциональный ИИ” сопряжён с проблемами», The Guardian (23 июня 2024) theguardian.com
• Валерия Васкес и другие, «Запрет технологий распознавания эмоций ИИ на рабочем месте согласно AI Act», Wolters Kluwer – Global Workplace Law (фев. 2025) legalblogs.wolterskluwer.com
• Шерил Тех, «“Каждая твоя фальшивая улыбка” — система распознавания эмоций на базе ИИ может оценить, насколько “счастливы” работники в офисах Китая», Business Insider (16 июня 2021) businessinsider.com
• Исследовательская группа AIMultiple, «10+ лучших примеров и кейсов использования эмоционального ИИ в 2025 году», AIMultiple (обновлено 2 июня 2025) research.aimultiple.com
• Сара Москеда, «Эль Калиуби: Люди могут использовать ИИ для улучшения мира», Security Management Magazine – GSX Daily (24 сентября 2024) asisonline.org
• Дартмутский колледж, «Мобильное приложение использует ИИ для выявления депрессии по мимике лица», Dartmouth News (27 февраля 2024) home.dartmouth.edu