Τεχνητή Νοημοσύνη που Ξέρει Πώς Νιώθετε: Η Άνοδος της Τεχνολογίας Ανίχνευσης Συναισθημάτων

Η τεχνητή νοημοσύνη δεν αφορά πλέον μόνο την επεξεργασία αριθμών ή την αναγνώριση προσώπων – μαθαίνει να διαβάζει πώς νιώθουμε. Η λεγόμενη AI ανίχνευσης συναισθημάτων (γνωστή και ως Emotion AI ή υπολογιστική συναισθημάτων) χρησιμοποιεί αλγορίθμους για να αναλύει τις εκφράσεις του προσώπου μας, τον τόνο της φωνής, τα μηνύματα κειμένου και ακόμη και τα σωματικά σήματα για να συμπεράνει τα ανθρώπινα συναισθήματα. Η υπόσχεση είναι δελεαστική: πιο διαισθητικές εφαρμογές, ρομπότ με ενσυναίσθηση και εξατομικευμένες εμπειρίες που ανταποκρίνονται στη διάθεσή μας. Όμως, καθώς αυτή η τεχνολογία μετακινείται από τα ερευνητικά εργαστήρια σε χώρους εργασίας, σχολεία και δημόσιους χώρους, εγείρει μεγάλα ερωτήματα. Πώς ακριβώς λειτουργούν αυτοί οι AI «αναγνώστες σκέψης»; Πού χρησιμοποιούνται σήμερα; Και γιατί κάποιοι ειδικοί είναι τόσο ενθουσιασμένοι με τις δυνατότητες όσο άλλοι ανησυχούν για τις παγίδες; Σε αυτήν την εις βάθος αναφορά, θα εξερευνήσουμε πώς λειτουργεί η AI ανίχνευσης συναισθημάτων, πραγματικές εφαρμογές σε διάφορους κλάδους, τις τελευταίες εξελίξεις το 2024–2025 και τα ηθικά ζητήματα που προκαλεί – παραθέτοντας απόψεις ειδικών και τρέχοντα γεγονότα σε όλη τη διάρκεια.

Τι είναι η AI ανίχνευσης συναισθημάτων και πώς λειτουργεί;

Η AI ανίχνευσης συναισθημάτων αναφέρεται σε αλγορίθμους που αναγνωρίζουν και ερμηνεύουν τα ανθρώπινα συναισθήματα από διάφορες εισόδους δεδομένων. Ουσιαστικά, πρόκειται για το να δώσουμε στις μηχανές μια μορφή συναισθηματικής νοημοσύνης. Οι ερευνητές συχνά αποκαλούν αυτό το πεδίο υπολογιστική συναισθημάτων. Τα συστήματα AI προσπαθούν να «διαβάσουν» τα συναισθήματα μέσω πολλαπλών καναλιών:

• Ανάλυση προσώπου: Μία από τις πιο συνηθισμένες προσεγγίσεις είναι η χρήση υπολογιστικής όρασης για την ανάλυση των εκφράσεων του προσώπου. Μια κάμερα καταγράφει μια εικόνα (ή βίντεο) του προσώπου ενός ατόμου και η AI εντοπίζει πρώτα το πρόσωπο και βασικά σημεία (μάτια, φρύδια, στόμα κ.λπ.). Στη συνέχεια, χρησιμοποιώντας βαθιά μάθηση (συχνά συνελικτικά νευρωνικά δίκτυα), εξετάζει τις κινήσεις των μυών ή τις «μικροεκφράσεις» και ταξινομεί την έκφραση του προσώπου σε μια κατηγορία συναισθήματος viso.ai. Πολλά συστήματα εκπαιδεύονται να αναγνωρίζουν βασικές εκφράσεις όπως χαρά, λύπη, θυμό, φόβο, έκπληξη, αηδία και ουδετερότητα botpenguin.com. Για παράδειγμα, ένα χαμογελαστό στόμα και μάτια που ζαρώνουν μπορεί να χαρακτηριστούν ως «χαρούμενα», ενώ ένα συνοφρυωμένο φρύδι μπορεί να είναι «θυμωμένο» – αν και, όπως θα δούμε, δεν είναι πάντα τόσο απλό.
• Ανάλυση τόνου φωνής: Πέρα από το τι λέμε, το πώς το λέμε μπορεί να μεταδώσει συναίσθημα. Οι αλγόριθμοι αναγνώρισης συναισθημάτων στην ομιλία ακούν τα ηχητικά μοτίβα στη φωνή ενός ομιλητή – όπως η τονικότητα, η ένταση, ο ρυθμός και ο τόνος. Τα μοντέλα AI αναλύουν αυτά τα φωνητικά χαρακτηριστικά (τονισμός, έμφαση, ρυθμός κ.λπ.) για να συμπεράνουν αν ένα άτομο ακούγεται ενθουσιασμένο, ήρεμο, αναστατωμένο κ.ο.κ. botpenguin.com. Για παράδειγμα, ένας τρεμάμενος, υψηλός τόνος μπορεί να υποδηλώνει φόβο ή θυμό, ενώ ένας αργός, επίπεδος τόνος μπορεί να υποδηλώνει λύπη ή κόπωση. Ορισμένα συστήματα εντοπίζουν ακόμη και συγκεκριμένες λέξεις ή λεκτικά σημάδια (όπως ένα τρεμάμενο «είμαι καλά») που συσχετίζονται με συναισθηματικές καταστάσεις.
• Ανάλυση Συναισθήματος Κειμένου: Τα συναισθήματα εκφράζονται επίσης και στο γραπτό λόγο. Η τεχνητή νοημοσύνη μπορεί να εκτελέσει επεξεργασία φυσικής γλώσσας (NLP) σε κείμενα – από αναρτήσεις στα μέσα κοινωνικής δικτύωσης μέχρι email ή μηνύματα συνομιλίας – για να ανιχνεύσει το συναίσθημα. Η παραδοσιακή ανάλυση συναισθήματος ταξινομεί το κείμενο ως θετικό, αρνητικό ή ουδέτερο. Η νεότερη emotion AI προχωρά παραπέρα, εντοπίζοντας συγκεκριμένα συναισθήματα από το κείμενο εξετάζοντας την επιλογή λέξεων, το πλαίσιο και τη στίξη botpenguin.com. Για παράδειγμα, το «Είμαι ενθουσιασμένος!» θα καταγραφεί ως πολύ θετικό (χαρούμενο/ενθουσιασμένο), ενώ το «Νιώθω τόσο πληγωμένος και μόνος…» μπορεί να επισημανθεί ως λυπημένο ή στενοχωρημένο. Μεγάλα γλωσσικά μοντέλα και εξειδικευμένοι ταξινομητές χρησιμοποιούνται για να αναλύσουν τον συναισθηματικό τόνο πίσω από τα λόγια μας.
• Άλλα Βιομετρικά Σήματα: Ορισμένα προηγμένα συστήματα ενσωματώνουν επίσης φυσιολογικά και συμπεριφορικά σήματα. Αυτό μπορεί να περιλαμβάνει γλώσσα του σώματος (στάση, χειρονομίες), ανίχνευση ματιών (πού κοιτάτε και πώς διαστέλλονται οι κόρες των ματιών σας), καρδιακό ρυθμό, αγωγιμότητα του δέρματος ή εγκεφαλικά κύματα μέσω wearables. Αυτά τα σήματα μπορούν να υποδηλώνουν στρες ή ενθουσιασμό – π.χ. αυξημένος καρδιακός ρυθμός και ιδρωμένες παλάμες μπορεί να δείχνουν άγχος. Σε πρωτοποριακή έρευνα, η πολυτροπική emotion AI συνδυάζει δεδομένα από πρόσωπο, φωνή και φυσιολογικά για μια πιο πλήρη εικόνα trendsresearch.org. Για παράδειγμα, το AI παρακολούθησης οδηγού ενός αυτοκινήτου μπορεί να χρησιμοποιεί κάμερα για να παρακολουθεί το πρόσωπό σας και αισθητήρα στο τιμόνι για να παρακολουθεί τον καρδιακό σας ρυθμό, αναζητώντας σημάδια υπνηλίας ή οργής στο δρόμο.

Όλες αυτές οι μέθοδοι περιλαμβάνουν μηχανική μάθηση σε μεγάλα σύνολα δεδομένων ανθρώπινων συναισθηματικών εκφράσεων. Τα μοντέλα AI «εκπαιδεύονται» σε παραδείγματα – εικόνες προσώπων με ετικέτα το συναίσθημα που εκφράζεται, ηχητικά αποσπάσματα με ετικέτα τη διάθεση του ομιλητή, κ.λπ. Με τον καιρό, η τεχνητή νοημοσύνη μαθαίνει μοτίβα που συσχετίζουν συγκεκριμένες εισόδους (ένα συγκεκριμένο χαμόγελο, έναν τόνο φωνής) με πιθανά συναισθήματα. Ουσιαστικά πρόκειται για αναγνώριση μοτίβων: η τεχνητή νοημοσύνη δεν νιώθει τίποτα η ίδια, αλλά κάνει μια τεκμηριωμένη εκτίμηση για τα συναισθήματά μας με βάση τα σήματα που εκπέμπουμε.

Είναι σημαντικό να σημειωθεί ότι οι τρέχουσες AI ανίχνευσης συναισθημάτων συνήθως περιορίζονται στην αναγνώριση μερικών ευρέων κατηγοριών συναισθημάτων ή επιπέδων διέγερσης. Τα ανθρώπινα συναισθήματα είναι πολύπλοκα και εξαρτώνται από το πλαίσιο, κάτι που καθιστά αυτό το έργο πολύ δύσκολο για την τεχνητή νοημοσύνη. Παρ’ όλα αυτά, η τεχνολογία βελτιώνεται ραγδαία. Συνδυάζοντας υπολογιστική όραση, ανάλυση ομιλίας και NLP, η σημερινή emotion AI μπορεί να συμπεράνει τη συναισθηματική κατάσταση ενός ατόμου με μέτρια ακρίβεια – υπό τις κατάλληλες συνθήκες. Όπως εξηγεί μια έκθεση, η ενσωμάτωση πολλαπλών τεχνικών (πρόσωπο, φωνή, κείμενο) επιτρέπει στις μηχανές να ερμηνεύουν τα ανθρώπινα συναισθήματα «με μεγαλύτερη ακρίβεια», κάνοντας τις αλληλεπιδράσεις να φαίνονται πιο φυσικές και άμεσες trendsresearch.org. Στις επόμενες ενότητες, θα δούμε πώς αυτές οι δυνατότητες εφαρμόζονται στον πραγματικό κόσμο και πόσο έχουν προχωρήσει μέχρι το 2024–2025.

Εφαρμογές στον Πραγματικό Κόσμο σε Διάφορους Κλάδους

Η τεχνητή νοημοσύνη αναγνώρισης συναισθημάτων έχει ξεπεράσει τα όρια του εργαστηρίου και έχει εισέλθει σε μια σειρά από βιομηχανίες. Εδώ είναι μερικές από τις πιο σημαντικές εφαρμογές και περιπτώσεις χρήσης ανά τομέα:

• Υγεία και Ευεξία: Η Emotion AI δοκιμάζεται ως εργαλείο για την ψυχική υγεία και τη φροντίδα ασθενών. Για παράδειγμα, ερευνητές έχουν αναπτύξει εφαρμογές για smartphone που παρακολουθούν τα πρόσωπα και τη φωνή των χρηστών για σημάδια κατάθλιψης ή άγχους home.dartmouth.edu. Μια μελέτη του 2024 παρουσίασε το MoodCapture, μια εφαρμογή που χρησιμοποιεί την κάμερα του τηλεφώνου για να ανιχνεύει πρώιμα συμπτώματα κατάθλιψης αναλύοντας τις εκφράσεις του προσώπου κάθε φορά που ο χρήστης ξεκλειδώνει το τηλέφωνό του – εντοπίζοντας σωστά τις αλλαγές διάθεσης με ακρίβεια περίπου 75% στις δοκιμές home.dartmouth.edu. Οι θεραπευτές επίσης εξερευνούν την τεχνητή νοημοσύνη που ακούει κατά τη διάρκεια συνεδριών συμβουλευτικής για να εκτιμήσει τη συναισθηματική κατάσταση του ασθενούς από τον τόνο της φωνής, ενδεχομένως ειδοποιώντας αν κάποιος ακούγεται όλο και πιο αγχωμένος. Σε νοσοκομεία, κάμερες ανίχνευσης συναισθημάτων μπορεί να παρακολουθούν τα επίπεδα πόνου ή στρες των ασθενών όταν οι νοσηλευτές δεν είναι παρόντες. Και για άτομα με αυτισμό, η υποστηρικτική Emotion AI μπορεί να βοηθήσει στην ερμηνεία των εκφράσεων των άλλων – για παράδειγμα, μια φορητή συσκευή ή εφαρμογή tablet που ειδοποιεί ένα παιδί με αυτισμό με ετικέτες όπως «Η μαμά είναι χαρούμενη» ή «Ο μπαμπάς φαίνεται στενοχωρημένος», βοηθώντας το να μάθει συναισθηματικά σημάδια mitsloan.mit.edu.
• Μάρκετινγκ και Εμπειρία Πελάτη: Οι εταιρείες χρησιμοποιούν το emotion AI για να κατανοήσουν τους καταναλωτές σε βαθύτερο επίπεδο. Οι διαφημιστές μπορούν να δοκιμάσουν διαφημιστικά σποτ ή βίντεο προϊόντων με πάνελ θεατών που συναινούν να καταγραφούν μέσω webcam· η AI στη συνέχεια αναλύει καρέ-καρέ τις εκφράσεις του προσώπου για να δει ποιες στιγμές έκαναν τους ανθρώπους να χαμογελάσουν, να γελάσουν ή να δείξουν βαριεστημένοι. Στην πραγματικότητα, περίπου το 25% των εταιρειών Fortune 500 έχουν χρησιμοποιήσει emotion AI σε έρευνα διαφήμισης για να μετρήσουν την εμπλοκή του κοινού mitsloan.mit.edu. Μια κορυφαία εταιρεία στον χώρο αυτό, η Affectiva (συνιδρυθείσα από επιστήμονες του MIT), επιτρέπει στα brands να καταγράφουν τις υποσυνείδητες, «σπλαχνικές» αντιδράσεις των θεατών στις διαφημίσεις και να τις συσχετίζουν με πραγματική συμπεριφορά, όπως το αν θα μοιραστούν τη διαφήμιση ή θα αγοράσουν το προϊόν mitsloan.mit.edu. Πέρα από τις διαφημίσεις, οι λιανοπωλητές εξερευνούν κάμερες ανίχνευσης συναισθημάτων στα καταστήματα για να εκτιμήσουν την ικανοποίηση των πελατών (άφησε η εξυπηρέτηση τον πελάτη εκνευρισμένο ή χαρούμενο;). Στο διαδίκτυο, chatbots εξοπλισμένα με ανάλυση συναισθήματος προσπαθούν να προσαρμόσουν τις απαντήσεις τους με βάση τη διάθεση του πελάτη – για παράδειγμα, να μεταφέρουν τη συνομιλία σε ανθρώπινο εκπρόσωπο αν ο χρήστης ακούγεται θυμωμένος. Ακόμα και φυσικές διαφημιστικές πινακίδες έχουν δοκιμάσει ανάλυση συναισθήματος: στη Βραζιλία, ένα διαδραστικό σύστημα διαφημίσεων στο μετρό χρησιμοποίησε κάμερες για να ταξινομήσει τις εκφράσεις των επιβατών (χαρούμενος, ουδέτερος, έκπληκτος, δυσαρεστημένος) και στη συνέχεια άλλαζε το περιεχόμενο της διαφήμισης σε πραγματικό χρόνο ώστε να ταιριάζει καλύτερα με τη διάθεση του πλήθους research.aimultiple.com.
• Εκπαίδευση: Οι αίθουσες διδασκαλίας και οι πλατφόρμες ηλεκτρονικής μάθησης πειραματίζονται με την τεχνητή νοημοσύνη για να αξιολογήσουν τα συναισθήματα και την προσοχή των μαθητών. Ο στόχος είναι η δημιουργία ευέλικτων μαθησιακών περιβαλλόντων. Για παράδειγμα, μια εταιρεία διαδικτυακής διδασκαλίας στην Ινδία χρησιμοποίησε αναγνώριση συναισθημάτων μέσω των webcams των μαθητών για να παρακολουθεί τη συμμετοχή και την κόπωση κατά τη διάρκεια ζωντανών μαθημάτωνresearch.aimultiple.comresearch.aimultiple.com. Το σύστημα παρακολουθούσε τις κινήσεις των ματιών και τις εκφράσεις του προσώπου για να παράγει “βαθμούς προσοχής”, βοηθώντας τους δασκάλους να εντοπίζουν πότε οι μαθητές χάνουν τη συγκέντρωσή τους. Σε ορισμένες υπερσύγχρονες αίθουσες, κάμερες έχουν χρησιμοποιηθεί (με αντιδράσεις) για να σαρώνουν τα πρόσωπα των μαθητών για σημάδια σύγχυσης ή ανίας, ώστε οι δάσκαλοι να προσαρμόζουν τα μαθήματά τους legalblogs.wolterskluwer.com. Υπάρχουν ακόμη και αναφορές από την Κίνα για σχολεία που δοκιμάζουν κάμερες αναγνώρισης προσώπου που καταγράφουν τη συναισθηματική κατάσταση των μαθητών (όπως χαρά ή θυμό) καθ’ όλη τη διάρκεια της ημέρας businessinsider.com. Θεωρητικά, τέτοια εργαλεία θα μπορούσαν να εξατομικεύσουν την εκπαίδευση – ένα tutorbot ίσως προσφέρει ενθάρρυνση αν ανιχνεύσει απογοήτευση – αλλά εγείρουν επίσης συζητήσεις για επιτήρηση (περισσότερα γι’ αυτό αργότερα).
• Αυτοκινητοβιομηχανία: Οι αυτοκινητοβιομηχανίες ενσωματώνουν την τεχνητή νοημοσύνη συναισθημάτων στα οχήματα για να βελτιώσουν την ασφάλεια και την οδηγική εμπειρία. Τα συστήματα παρακολούθησης οδηγού χρησιμοποιούν κάμερες στο ταμπλό για να παρακολουθούν το πρόσωπο και τη στάση σας, ελέγχοντας για υπνηλία ή απόσπαση προσοχής. Αν η τεχνητή νοημοσύνη δει τα βλέφαρά σας να πέφτουν ή τη στάση σας να χαλαρώνει (σημάδια κόπωσης), μπορεί να ηχήσει ειδοποίηση. Οι πολυτελείς μάρκες προχωρούν ακόμη περισσότερο προσπαθώντας να αξιολογήσουν τις συναισθηματικές καταστάσεις των οδηγών: για παράδειγμα, ανιχνεύοντας αν ο οδηγός είναι αναστατωμένος ή θυμωμένος (οργή στο δρόμο) και στη συνέχεια παρεμβαίνοντας – ίσως χαμηλώνοντας τη μουσική ή ακόμη και περιορίζοντας την ταχύτητα του αυτοκινήτου mitsloan.mit.edu. Η Affectiva, που πλέον ανήκει στη Smart Eye, διαθέτει μια πλατφόρμα τεχνητής νοημοσύνης για αυτοκίνητα που παρακολουθεί τόσο τον οδηγό όσο και τους επιβάτες. Μπορεί να καταλάβει αν ο οδηγός γελάει ή τσακώνεται, ή αν οι επιβάτες είναι αγχωμένοι, και να προσαρμόσει ανάλογα τις ρυθμίσεις του αυτοκινήτου (φανταστείτε το αυτοκίνητο να ενισχύει τα συστήματα ασφαλείας αν ανιχνεύσει στρες) mitsloan.mit.edu. Σε ημι-αυτόνομα αυτοκίνητα, η συναισθηματική τεχνητή νοημοσύνη μπορεί να αποφασίσει αν είστε πολύ αποσπασμένοι για να αναλάβετε τον έλεγχο. Οι εφαρμογές στην αυτοκινητοβιομηχανία αφορούν τη χρήση της αναγνώρισης συναισθημάτων για την ενίσχυση της ασφάλειας, της άνεσης και της εξατομίκευσης στο δρόμο.
• Ψυχαγωγία και Παιχνίδια: Η ψυχαγωγία γίνεται πιο διαδραστική χάρη στην AI συναισθημάτων. Οι προγραμματιστές βιντεοπαιχνιδιών έχουν αρχίσει να δημιουργούν παιχνίδια που ανταποκρίνονται στα συναισθήματα του παίκτη. Ένα αξιοσημείωτο παράδειγμα είναι το “Nevermind,” ένα ψυχολογικό θρίλερ που χρησιμοποιεί την κάμερα του παίκτη (ή έναν αισθητήρα βιοανάδρασης) για να ανιχνεύσει το άγχος – αν αντιληφθεί ότι φοβάστε, το παιχνίδι γίνεται πραγματικά πιο δύσκολο, προσθέτοντας περισσότερες τρομακτικές στιγμές, ενώ αν παραμείνετε ήρεμοι, το παιχνίδι χαλαρώνει research.aimultiple.com. Αυτό δημιουργεί μια δυναμική εμπειρία τρόμου που προσαρμόζεται στο επίπεδο του φόβου σας. Στον κινηματογράφο και την τηλεόραση, τα στούντιο δοκιμάζουν την παρακολούθηση προσώπου σε δοκιμαστικά κοινά για να δουν συναισθηματικές αντιδράσεις σε σκηνές (ξάφνιασε πραγματικά η ανατροπή της πλοκής τους θεατές; Προκάλεσε το χιούμορ γέλια;). Υπάρχει επίσης εξερεύνηση της εξατομικευμένης ψυχαγωγίας: φανταστείτε μια υπηρεσία streaming που μπορεί να χρησιμοποιήσει την κάμερα του laptop σας για να παρατηρήσει το πρόσωπό σας και να προτείνει ταινίες που ταιριάζουν στη διάθεσή σας (κάποιοι ταξιδιωτικοί ιστότοποι δοκίμασαν ακόμη και να προτείνουν προορισμούς με βάση την έκφραση του προσώπου του χρήστη research.aimultiple.com). Ενώ οι ευρείας κλίμακας προτάσεις περιεχομένου με βάση τη “διάθεση” παραμένουν πειραματικές, η σύγκλιση της AI με την ψυχαγωγία υπόσχεται νέες μορφές καθηλωτικών, διαδραστικών μέσων.
• Επιβολή Νόμου και Ασφάλεια: Η αναγνώριση συναισθημάτων εξετάζεται για εφαρμογές ασφαλείας, αν και αυτός ο τομέας είναι ο πιο αμφιλεγόμενος. Ορισμένα αστυνομικά τμήματα έχουν εξετάσει AI που σαρώνει ζωντανές ροές CCTV ή πλάνα από κάμερες σώματος για να επισημάνει “ύποπτη” συμπεριφορά ή πιθανή επιθετικότητα. Για παράδειγμα, αλγόριθμοι μπορούν να αναλύσουν ηχογραφήσεις φωνής για άγχος ή θυμό ώστε να εντοπίσουν πότε ένας καλών στο 911 ή κάποιος υπό κράτηση μπορεί να γίνει επιθετικός. Υπάρχουν “ανιχνευτές επιθετικότητας” που διατίθενται για τη δημόσια ασφάλεια και ακούν για θυμωμένους τόνους ή φωνές ώστε να προειδοποιήσουν έγκαιρα την ασφάλεια για καβγάδες. Στην Κίνα, μια εταιρεία που ονομάζεται Taigusys έχει αναπτύξει ένα σύστημα επιτήρησης AI που παρακολουθεί τα πρόσωπα των εργαζομένων σε γραφεία en masse και ισχυρίζεται ότι ανιχνεύει πώς αισθάνεται ο καθένας – αν ένας εργαζόμενος είναι χαρούμενος, ουδέτερος, θυμωμένος ή αγχωμένος businessinsider.com. Το σύστημα υποστηρίζει ακόμη ότι γνωρίζει αν προσποιείστε το χαμόγελο, και δημιουργεί αναφορές για εργαζόμενους που δείχνουν υπερβολικά πολλά “αρνητικά” συναισθήματα, υπονοώντας ότι μπορεί να χρειάζονται παρέμβαση ή να κάνουν κάτι ύποπτο businessinsider.com. Σε φυλακές, παρόμοια τεχνολογία έχει δοκιμαστεί για την παρακολούθηση της συναισθηματικής κατάστασης των κρατουμένων. Πιλοτικά προγράμματα συνοριακής ασφάλειας σε ορισμένες χώρες έχουν δοκιμάσει ανιχνευτές ψεύδους AI που παρακολουθούν τις μικροεκφράσεις των ταξιδιωτών για “σημάδια εξαπάτησης”. Και οι αστυνομικές ανακρίσεις πειραματίζονται με ανάλυση φωνής που προσπαθεί να διαπιστώσει αν ένας ύποπτος είναι νευρικός. Ωστόσο, καμία αστυνομική δύναμη δεν βασίζεται σε αυτά τα εργαλεία ως μοναδικό αποδεικτικό στοιχείο – ακόμη και οι υποστηρικτές λένε ότι πρέπει να χρησιμοποιούνται μόνο συμπληρωματικά. Όπως θα συζητήσουμε, οι ειδικοί συνιστούν μεγάλη προσοχή εδώ, επειδή λανθασμένες ενδείξεις (π.χ. αν μια AI επισημάνει λανθασμένα έναν αθώο ως “θυμωμένο” ή “παραπλανητικό”) μπορεί να έχουν σοβαρές συνέπειες σε θέματα δικαιοσύνης και ασφάλειας.

Σε όλους αυτούς τους κλάδους, η βασική ιδέα είναι ότι αν οι μηχανές μπορούν να κατανοήσουν τα συναισθήματά μας, μπορούν να αλληλεπιδρούν μαζί μας πιο φυσικά και αποτελεσματικά. Ένας εκπαιδευτικός AI που αντιλαμβάνεται την απογοήτευση μπορεί να διατυπώσει ξανά το μάθημα. Ένα bot εξυπηρέτησης πελατών που ακούει ανυπομονησία στη φωνή σας μπορεί να καλέσει άμεσα έναν ανθρώπινο υπεύθυνο. Ένα αυτοκίνητο που ξέρει ότι είστε κουρασμένοι μπορεί να σας τονώσει ή να αναλάβει την οδήγηση. Η Emotion AI ουσιαστικά στοχεύει να κάνει την τεχνολογία πιο ενσυναίσθητη, προσαρμοζόμενη στους ανθρώπους αντί να αναγκάζει τους ανθρώπους να προσαρμοστούν στις μηχανές trendsresearch.org. Είναι ένα συναρπαστικό σύνορο – και προοδεύει γρήγορα, όπως δείχνει η επόμενη ενότητα με τις πιο πρόσφατες εξελίξεις.

Τελευταίες Εξελίξεις και Νέα (2024–2025)

Η AI ανίχνευσης συναισθημάτων έχει γνωρίσει ραγδαία ανάπτυξη τα τελευταία δύο χρόνια, από τεχνικές ανακαλύψεις μέχρι ρυθμιστικές αντιδράσεις. Ακολουθούν ορισμένες από τις πιο αξιοσημείωτες πρόσφατες τάσεις και ειδήσεις:

• Αυξανόμενες Επενδύσεις και Νεοφυείς Επιχειρήσεις: Ο επιχειρηματικός κόσμος έχει στραμμένο το βλέμμα του στην συναισθηματική τεχνητή νοημοσύνη. Οι αναλυτές του κλάδου αναφέρουν ότι η «συναισθηματική ΤΝ» γίνεται μια καυτή τάση στο επιχειρηματικό λογισμικό, ειδικά καθώς οι εταιρείες αναπτύσσουν περισσότερα chatbots και εικονικούς βοηθούς που χρειάζονται συναισθηματική επίγνωση techcrunch.com. Μια πρόσφατη έκθεση της PitchBook προβλέπει ότι η υιοθέτηση της συναισθηματικής ΤΝ θα αυξηθεί ώστε οι αλληλεπιδράσεις με την ΤΝ να γίνουν πιο ανθρώπινες techcrunch.com. Το επιχειρηματικό κεφάλαιο ρέει σε αυτόν τον τομέα: για παράδειγμα, μια κορυφαία εταιρεία συνομιλιακής ΤΝ, η Uniphore, έχει συγκεντρώσει πάνω από $600 εκατομμύρια (συμπεριλαμβανομένου ενός γύρου $400 εκατ. το 2022) για να αναπτύξει ΤΝ που μπορεί να διαβάζει τα συναισθήματα των πελατών κατά τη διάρκεια κλήσεων εξυπηρέτησης techcrunch.com. Πολλές νεοφυείς επιχειρήσεις εισέρχονται στον χώρο – εταιρείες όπως οι MorphCast, audEERING, Voicesense, SuperCEED, Siena AI, και άλλες αναπτύσσουν εργαλεία για ανάλυση εκφράσεων προσώπου και φωνητικών ενδείξεων σε μεγάλη κλίμακα techcrunch.com. Οι προβλέψεις της αγοράς αντικατοπτρίζουν αυτή τη δυναμική: μια έκθεση εκτιμά ότι η παγκόσμια αγορά ανίχνευσης και αναγνώρισης συναισθημάτων θα αυξηθεί από περίπου $3–4 δισεκατομμύρια το 2024 σε πάνω από $7 δισεκατομμύρια μέσα σε πέντε χρόνια technologyslegaledge.com, ενώ μια άλλη ανάλυση προβλέπει άνοδο έως και $173 δισεκατομμύρια μέχρι το 2031 (αν και τέτοιες εκτιμήσεις διαφέρουν) research.aimultiple.com. Είναι σαφές ότι πολλές επιχειρήσεις βλέπουν εμπορικές προοπτικές σε ΤΝ που μπορεί να ανιχνεύει συναισθήματα – είτε για να αυξήσουν τις πωλήσεις, να βελτιώσουν την ικανοποίηση των πελατών ή να ενισχύσουν την ασφάλεια.
• Νέες Τεχνολογικές Δυνατότητες: Στο ερευνητικό μέτωπο, η τεχνητή νοημοσύνη γίνεται καλύτερη στην κατανόηση λεπτών συναισθημάτων. Ένα εντυπωσιακό παράδειγμα το 2024 ήταν ένα έργο στο Πανεπιστήμιο του Groningen που εκπαίδευσε μια τεχνητή νοημοσύνη να ανιχνεύει σαρκασμό στον προφορικό λόγο theguardian.com. Τροφοδοτώντας το σύστημα με διαλόγους από σενάρια σειρών όπως τα Friends και The Big Bang Theory, οι ερευνητές το δίδαξαν να αναγνωρίζει τα φωνητικά μοτίβα του σαρκαστικού λόγου (π.χ. υπερβολικός τόνος ή παρατεταμένη προφορά). Το μοντέλο μπορούσε να εντοπίσει σαρκασμό σε ηχητικό υλικό με ακρίβεια περίπου 75% theguardian.com. Αυτό είναι σημαντικό επειδή ο σαρκασμός είναι διαβόητα δύσκολος για τους αλγόριθμους (και μερικές φορές και για τους ανθρώπους!) να τον αντιληφθούν, ωστόσο είναι κλειδί για την κατανόηση της πραγματικής διάθεσης στην επικοινωνία. Η πρόοδος σε τέτοιους τομείς δείχνει ότι η συναισθηματική τεχνητή νοημοσύνη προχωρά πέρα από την απλή ανίχνευση «χαράς ή λύπης» προς πιο σύνθετα κοινωνικά σήματα. Παράλληλα, τα πολυτροπικά μοντέλα βελτιώνονται: βλέπουμε τεχνητή νοημοσύνη που συνδυάζει κείμενο, φωνή και δεδομένα προσώπου για μια πιο συνειδητή ως προς το πλαίσιο ανάγνωση συναισθημάτων. Εταιρείες όπως η Hume AI (που ιδρύθηκε από πρώην ερευνητή της Google) αναπτύσσουν φωνητικές διεπαφές με ενσυναίσθηση που ανταποκρίνονται όχι μόνο σε τι λες αλλά και πώς το λες, με στόχο να κάνουν τις συνομιλίες με τεχνητή νοημοσύνη να φαίνονται πιο συναισθηματικά ευθυγραμμισμένες theguardian.com. Η Hume έχει μάλιστα συστήσει και επιτροπή ηθικής για να καθοδηγεί την ανάπτυξη της «ενσυναισθητικής τεχνητής νοημοσύνης» theguardian.com, αναγνωρίζοντας την ανάγκη για προσεκτική πρόοδο. Στο κομμάτι του υλικού, η τεχνολογία καμερών και αισθητήρων είναι πανταχού παρούσα και φθηνή, πράγμα που σημαίνει ότι είναι πιο εύκολο από ποτέ να ενσωματωθούν δυνατότητες ανίχνευσης συναισθημάτων σε τηλέφωνα, αυτοκίνητα και έξυπνες οικιακές συσκευές.
Κυρίαρχη Υιοθέτηση & Αντιπαραθέσεις: Καθώς η AI συναισθημάτων αναπτύσσεται, συναντά επίσης ορισμένα εμπόδια. Ένα χαρακτηριστικό παράδειγμα: ο γίγαντας των βιντεοδιασκέψεων Zoom φέρεται να εξερεύνησε την προσθήκη λειτουργιών ανίχνευσης συναισθημάτων (όπως το να ενημερώνει τους διοργανωτές συναντήσεων αν οι συμμετέχοντες ήταν αφοσιωμένοι ή αφηρημένοι) – αλλά μετά από δημόσια κατακραυγή σχετικά με την ιδιωτικότητα, η Zoom ανακοίνωσε στα μέσα του 2022 ότι «δεν έχει σχέδια» να εφαρμόσει τέτοια AI ανίχνευσης συναισθημάτων. Παρομοίως, η πλατφόρμα προσλήψεων HireVue είχε ξεκινήσει να χρησιμοποιεί AI για να αναλύει τις εκφράσεις προσώπου των υποψηφίων σε βιντεοσυνεντεύξεις, αλλά μέχρι το 2021 εγκατέλειψε το στοιχείο ανάλυσης προσώπου λόγω επιστημονικής κριτικής και ανησυχιών του κοινού. Αυτά τα περιστατικά προετοιμάζουν το έδαφος για το 2024, όπου και μόνο η ιδέα της αναγνώρισης συναισθημάτων σε εφαρμογές εργασίας ή καταναλωτών προκαλεί υποψίες (και όχι το είδος που θα έπρεπε να παρακολουθεί μια AI). Στις ειδήσεις, συνεχίζουμε να βλέπουμε ανησυχίες για κακή χρήση: για παράδειγμα, αναφορές ότι κινεζικές τεχνολογικές εταιρείες εφαρμόζουν αναγνώριση συναισθημάτων σε εργαζόμενους έχουν προκαλέσει διεθνή κριτική businessinsider.com. Και ενώ κάποιοι προμηθευτές διαφημίζουν «AI ανίχνευσης ψεύδους» για λόγους ασφαλείας, οι ειδικοί έχουν καταρρίψει πολλά από αυτά ως λίγο καλύτερα από την τύχη.
• Ρυθμιστικές Κινήσεις: Ίσως η μεγαλύτερη εξέλιξη το 2024 είναι ότι οι κυβερνήσεις άρχισαν να παρεμβαίνουν στην AI συναισθημάτων. Τον Μάιο του 2024, η Ευρωπαϊκή Ένωση ολοκλήρωσε τον Νόμο για την Τεχνητή Νοημοσύνη της ΕΕ (EU AI Act), έναν σαρωτικό νόμο για τη ρύθμιση της τεχνητής νοημοσύνης. Αξιοσημείωτο είναι ότι αυτός ο νόμος απαγορεύει τη χρήση AI για αναγνώριση συναισθημάτων σε πραγματικό χρόνο σε ορισμένα περιβάλλοντα ως «απαράδεκτο κίνδυνο» για τα ανθρώπινα δικαιώματα theguardian.com. Συγκεκριμένα, η ΕΕ θα απαγορεύσει συστήματα AI που ισχυρίζονται ότι ανιχνεύουν τα συναισθήματα των ανθρώπων σε χώρους εργασίας, σχολεία ή άλλους δημόσιους φορείς (με μόνο στενές εξαιρέσεις όπως η υγεία ή η ασφάλεια) legalblogs.wolterskluwer.com. Οι νομοθέτες της ΕΕ κατέληξαν ότι η αναγνώριση συναισθημάτων σε τέτοια περιβάλλοντα είναι παρεμβατική και αναξιόπιστη, και θα μπορούσε να οδηγήσει σε άδικα αποτελέσματα. (Έκαναν διάκριση μεταξύ ενός AI που απλώς αναγνωρίζει την εξωτερική έκφραση κάποιου – κάτι που ίσως επιτρέπεται – και του να δηλώνει τι νιώθει εσωτερικά το άτομο, κάτι που θα απαγορεύεται theguardian.com.) Αυτή η νομική στάση, μία από τις πρώτες του είδους της, αντικατοπτρίζει την αυξανόμενη δυσπιστία των νομοθετών σχετικά με την εγκυρότητα και την ηθική της AI συναισθημάτων. Στις ΗΠΑ, δεν υπάρχει ομοσπονδιακή απαγόρευση, αλλά ορισμένες δικαιοδοσίες εξετάζουν περιορισμούς, και η ACLU και άλλες οργανώσεις πολιτικών δικαιωμάτων έχουν ζητήσει την παύση της χρήσης αναγνώρισης συναισθημάτων στην αστυνόμευση και την απασχόληση aclu.org, businessinsider.com. Το γεγονός ότι οι ρυθμιστικές αρχές κατέταξαν την AI συναισθημάτων μαζί με πρακτικές όπως η κοινωνική βαθμολόγηση και ο υποσυνείδητος χειρισμός (που επίσης απαγορεύονται από τον Νόμο της ΕΕ) στέλνει ένα ισχυρό μήνυμα: Το 2025 και μετά πιθανότατα θα δούμε αυστηρότερο έλεγχο και πρότυπα για κάθε AI που ισχυρίζεται ότι διαβάζει τα συναισθήματά μας.

Συνοψίζοντας, το τελευταίο έτος ή δύο ήταν καθοριστικά. Η AI που ανιχνεύει συναισθήματα είναι πιο διαδεδομένη από ποτέ, εισχωρώντας αθόρυβα στην εξυπηρέτηση πελατών, τα αυτοκίνητα και τις εφαρμογές – και επίσης πιο αμφισβητούμενη από ποτέ, με ειδικούς και ρυθμιστικές αρχές να πατούν φρένο. Καθώς η τεχνολογία ωριμάζει, αναμένεται να ακούσουμε ακόμη περισσότερες συζητήσεις για το αν η AI μπορεί να πραγματικά κατανοήσει τα ανθρώπινα συναισθήματα, και αν ναι, ποιος θα έχει το δικαίωμα να χρησιμοποιεί αυτή τη δύναμη. Αυτά τα ερωτήματα μας οδηγούν απευθείας στο επόμενο θέμα: τις ηθικές παραμέτρους.

Ηθικές Παράμετροι και Προβληματισμοί

Η άνοδος της AI αναγνώρισης συναισθημάτων έχει προκαλέσει έντονες ηθικές συζητήσεις. Η ανάγνωση των συναισθημάτων κάποιου δεν είναι σαν τη μέτρηση της θερμοκρασίας – εισχωρεί σε προσωπικές, συχνά ιδιωτικές πτυχές της ζωής μας. Ακολουθούν οι βασικοί προβληματισμοί που θέτουν ειδικοί και υπερασπιστές:

• Αξιοπιστία και Επιστημονική Εγκυρότητα: Ένα θεμελιώδες ζήτημα είναι αν αυτά τα συστήματα λειτουργούν πραγματικά όπως ισχυρίζονται. Τα ανθρώπινα συναισθήματα είναι πολύπλοκα, εξαρτώνται από το πλαίσιο και δεν είναι πάντα ορατά στην επιφάνεια. Οι ψυχολόγοι προειδοποιούν ότι δεν υπάρχει απλή αντιστοιχία ένα προς ένα μεταξύ μιας έκφρασης προσώπου και ενός εσωτερικού συναισθήματος. Ένα άτομο μπορεί να χαμογελάει όταν είναι λυπημένο ή να συνοφρυώνεται όταν συγκεντρώνεται – οι εκφράσεις διαφέρουν μεταξύ ατόμων και πολιτισμών. Το 2019, μια τεράστια ανασκόπηση πάνω από 1.000 μελετών με επικεφαλής την ψυχολόγο Lisa Feldman Barrett κατέληξε στο συμπέρασμα ότι «η συναισθηματική κατάσταση ενός ατόμου δεν μπορεί να συναχθεί με αξιοπιστία μόνο από τις κινήσεις του προσώπου» aclu.org. Δίνει ένα ζωντανό παράδειγμα: «Ένα συνοφρυωμένο πρόσωπο μπορεί ή δεν μπορεί να είναι έκφραση θυμού… οι άνθρωποι συνοφρυώνονται όταν είναι θυμωμένοι, αλλά και όταν είναι μπερδεμένοι ή ακόμα και όταν έχουν αέρια!»aclu.org. Με λίγα λόγια, το πλαίσιο έχει τεράστια σημασία στα συναισθήματα, και η τεχνητή νοημοσύνη συνήθως δεν έχει πλαίσιο. Η Barrett και άλλοι υποστηρίζουν ότι οι σημερινοί αλγόριθμοι είναι πολύ καλοί στο να ανιχνεύουν κινήσεις μυών του προσώπου ή τονισμό της φωνής, αλλά δεν μπορούν πραγματικά να γνωρίζουν τι σημαίνουν αυτά συναισθηματικά aclu.org. Όπως είπε ωμά σε έναν δημοσιογράφο, «Δεν υπάρχει αυτοματοποιημένη αναγνώριση συναισθημάτων. Οι καλύτεροι αλγόριθμοι μπορούν να ανιχνεύσουν μια έκφραση προσώπου, αλλά δεν είναι εξοπλισμένοι να συμπεράνουν τι σημαίνει» aclu.org. Αυτή η σκεπτικιστική στάση είναι διαδεδομένη στην επιστημονική κοινότητα. Χωρίς έναν σαφή, κοινά αποδεκτό ορισμό των συναισθημάτων ακόμη και μεταξύ των ψυχολόγων, η δημιουργία μιας τεχνητής νοημοσύνης για την αναγνώρισή τους βασίζεται σε ασταθές θεωρητικό έδαφος theguardian.com. Σε πρακτικό επίπεδο, αυτό αυξάνει τον κίνδυνο εσφαλμένης ερμηνείας: αν μια τεχνητή νοημοσύνη χαρακτηρίσει λανθασμένα κάποιον ως «θυμωμένο» ή «παραπλανητικό» με βάση ένα εσφαλμένα διαβασμένο στοιχείο, μπορεί να οδηγήσει σε άδικα αποτελέσματα (να επισημανθεί από την ασφάλεια, να του αρνηθούν συνέντευξη για δουλειά, κ.λπ.). Με απλά λόγια, οι επικριτές λένε ότι η τρέχουσα τεχνολογία αναγνώρισης συναισθημάτων είναι στην καλύτερη περίπτωση μια προσέγγιση – και στη χειρότερη ψηφιακή φρενολογία (ψευδοεπιστήμη), ειδικά όταν χρησιμοποιείται για να κρίνει άτομα article19.org.
• Μεροληψία και Δικαιοσύνη: Όπως πολλά συστήματα τεχνητής νοημοσύνης, οι αλγόριθμοι ανίχνευσης συναισθημάτων μπορούν να αντανακλούν και να ενισχύουν τις προκαταλήψεις που υπάρχουν στα δεδομένα εκπαίδευσής τους. Μία σημαντική ανησυχία είναι η πολιτισμική και φυλετική μεροληψία. Αν μια τεχνητή νοημοσύνη έχει εκπαιδευτεί κυρίως σε, για παράδειγμα, δυτικούς ανθρώπους που εκφράζουν τυπικές εκφράσεις, μπορεί να παρερμηνεύσει άτομα από διαφορετικά εθνοτικά ή πολιτισμικά υπόβαθρα. Υπάρχουν ενδείξεις ότι αυτό ήδη συμβαίνει. Μια μελέτη του 2023 διαπίστωσε ότι ορισμένα εμπορικά συστήματα AI συναισθημάτων βαθμολογούσαν σταθερά τις εκφράσεις προσώπου των μαύρων ανθρώπων ως πιο αρνητικές ή θυμωμένες σε σύγκριση με άλλες ομάδες theguardian.com. Με άλλα λόγια, μια ουδέτερη έκφραση στο πρόσωπο ενός μαύρου άνδρα μπορεί να ερμηνευτεί από την τεχνητή νοημοσύνη ως «θυμωμένη», ενώ δεν θα έκανε το ίδιο για έναν λευκό – μια ανησυχητική μεροληψία με προφανείς επιπτώσεις σε τομείς όπως οι έλεγχοι ασφαλείας ή οι αξιολογήσεις στον χώρο εργασίας theguardian.com. «Οι αλγόριθμοί σας είναι τόσο καλοί όσο το υλικό εκπαίδευσης», σημειώνει η Barrett. «Αν το υλικό εκπαίδευσής σας είναι μεροληπτικό, ενσωματώνετε αυτή τη μεροληψία στον κώδικα.» theguardian.com. Ο πολιτισμός επίσης επηρεάζει το πώς εκφράζουμε τα συναισθήματα: ένα χαμόγελο μπορεί να σημαίνει διαφορετικά πράγματα σε διαφορετικά πλαίσια, και οι χειρονομίες ή οι τόνοι δεν είναι καθολικοί. Ο Erik Brynjolfsson του MIT προειδοποιεί ότι η τεχνολογία αναγνώρισης συναισθημάτων πρέπει να είναι ευαίσθητη στη διαφορετικότητα: «Η αναγνώριση συναισθημάτων σε ένα αφροαμερικανικό πρόσωπο μπορεί να είναι δύσκολη για μια μηχανή που έχει εκπαιδευτεί σε λευκά πρόσωπα. Και οι χειρονομίες ή οι διακυμάνσεις της φωνής σε έναν πολιτισμό μπορεί να σημαίνουν κάτι πολύ διαφορετικό σε έναν άλλο» mitsloan.mit.edu. Αν αυτές οι αποχρώσεις δεν αντιμετωπιστούν, η τεχνολογία θα μπορούσε συστηματικά να παρερμηνεύει ή να μειονεκτεί ορισμένες ομάδες – ουσιαστικά κωδικοποιώντας προκατάληψη με το πρόσχημα της «ανάγνωσης συναισθημάτων». Η μεροληψία δεν αφορά μόνο τα δημογραφικά στοιχεία· υπάρχει επίσης και η μεροληψία του πλαισίου (π.χ. μια τεχνητή νοημοσύνη σε θορυβώδες περιβάλλον μπορεί να ερμηνεύσει τις δυνατές φωνές ως θυμό ενώ απλώς είναι δυνατές). Η διασφάλιση της δικαιοσύνης στην τεχνητή νοημοσύνη συναισθημάτων είναι μια τεράστια πρόκληση, και μέχρι στιγμής πολλά συστήματα δεν έχουν αποδείξει ότι λειτουργούν εξίσου καλά για όλους τους ανθρώπους.
• Επιτήρηση και Ιδιωτικότητα: Η Τεχνητή Νοημοσύνη Συναισθήματος συχνά περιλαμβάνει συνεχή παρακολούθηση των εκφράσεων, της φωνής ή των φυσιολογικών σημάτων των ανθρώπων – γεγονός που εγείρει προφανείς ανησυχίες για την ιδιωτικότητα. Ο φόβος είναι ότι θα μπορούσε να επιτρέψει ένα νέο επίπεδο παρεμβατικής επιτήρησης, όπου τα εσωτερικά μας συναισθήματα γίνονται ανιχνεύσιμα δεδομένα. Στους χώρους εργασίας, για παράδειγμα, οι εργαζόμενοι μπορεί να αισθάνονται ότι βρίσκονται κάτω από ένα συναισθηματικό μικροσκόπιο, κρινόμενοι όχι μόνο για την απόδοσή τους αλλά και για το αν χαμογελούν αρκετά ή αν ακούγονται αρκετά “ενθουσιώδεις”. Αυτό δεν είναι επιστημονική φαντασία· ήδη συμβαίνει σε ορισμένα μέρη. Το κινεζικό σύστημα “χαμογέλα για να βαθμολογηθείς” που αναφέρθηκε νωρίτερα είναι ένα χαρακτηριστικό παράδειγμα – οι εργαζόμενοι φοβούνται να κατσουφιάσουν ή να φανούν κουρασμένοι επειδή μια τεχνητή νοημοσύνη παρακολουθεί και θα αναφέρει “κακή στάση” στους προϊσταμένους businessinsider.com. Τέτοιες πρακτικές δημιουργούν ένα καταπιεστικό περιβάλλον και διαβρώνουν την προσωπική αυτονομία. Ακόμα και εκτός εργασιακού χώρου, φανταστείτε δημόσιες κάμερες που όχι μόνο αναγνωρίζουν το πρόσωπό σας αλλά σας χαρακτηρίζουν και ως “νευρικό” ή “ταραγμένο” καθώς περνάτε. Αυτά τα δεδομένα θα μπορούσαν να χρησιμοποιηθούν καταχρηστικά για προφίλ. Σε αντίθεση με την ανάγνωση ενός θερμοστάτη, η ανάγνωση συναισθημάτων μπορεί να είναι βαθιά χειριστική – οι άνθρωποι συχνά προσπαθούν να κρύψουν τα αληθινά τους συναισθήματα δημόσια για καλούς λόγους (ιδιωτικότητα, ευγένεια), και το να τα αποκαλύπτει η τεχνητή νοημοσύνη μοιάζει με Όργουελ. Οι υπέρμαχοι της ιδιωτικότητας επισημαίνουν ότι οι άνθρωποι δεν έχουν συναινέσει να εξετάζονται τα συναισθήματά τους από κάμερες εμπορικών κέντρων ή αστυνομικές CCTV. Ωστόσο, λογισμικό αναγνώρισης συναισθημάτων προστίθεται σε ορισμένα συστήματα ασφαλείας χωρίς δημόσια ενημέρωση. Υπάρχει επίσης το ζήτημα της ασφάλειας δεδομένων: τα συναισθηματικά δεδομένα (βίντεο προσώπων, ηχογραφήσεις φωνής) είναι ευαίσθητες βιομετρικές πληροφορίες. Αν συλλέγονται και αποθηκεύονται, ποιος τα προστατεύει και για πόσο; Μια παραβίαση ή διαρροή συναισθηματικών δεδομένων (π.χ. ηχογραφήσεις συνεδριών θεραπείας ή πλάνα από κάμερες με ετικέτα τη διάθεση κάποιου) θα μπορούσε να είναι εξαιρετικά επιβλαβής. Εν ολίγοις, η μετατροπή της συναισθηματικής μας ζωής σε ροές δεδομένων αποτελεί “μια ισχυρή νέα μορφή επιτήρησης,” όπως το έθεσε μια ανάλυση του Guardian theguardian.com. Αυτή η ανησυχία οδηγεί σε εκκλήσεις για αυστηρούς περιορισμούς σχετικά με το πού μπορεί να λαμβάνει χώρα τέτοια παρακολούθηση.
• Συναίνεση και Αυτονομία: Στενά συνδεδεμένο με την ιδιωτικότητα είναι το ζήτημα της συναίνεσης. Πρέπει οι άνθρωποι να επιλέγουν να συμμετέχουν για να αναλύει η ΤΝ τα συναισθήματά τους; Πολλοί υποστηρίζουν πως ναι – η ανάλυση συναισθημάτων είναι τόσο προσωπική που απαιτεί ρητή άδεια. Ορισμένες εταιρείες ακολουθούν μοντέλα opt-in. Για παράδειγμα, η πολιτική της Affectiva για δοκιμές διαφημίσεων είναι να καταγράφει και να αναλύει μόνο θεατές που έχουν συναινέσει και ενημερωθεί, και απαγορεύουν τη χρήση της τεχνολογίας για μυστική παρακολούθηση ή οποιαδήποτε ταυτοποίηση ατόμων mitsloan.mit.edu. Ωστόσο, δεν είναι όλοι οι πάροχοι τόσο αυστηροί, και στην πράξη οι εργαζόμενοι ή οι μαθητές μπορεί να μην αισθάνονται ότι μπορούν να αρνηθούν αν ένας εργοδότης ή ένα σχολείο επιβάλλει ένα πρόγραμμα παρακολούθησης συναισθημάτων (φανταστείτε να σας ζητούν να φοράτε ένα βραχιόλι ανίχνευσης συναισθημάτων στη δουλειά). Αυτό εγείρει ανησυχίες για εξαναγκασμό. Θα υποχρεωθούν οι εργαζόμενοι στο μέλλον να διατηρούν μια συγκεκριμένη συναισθηματική έκφραση (π.χ. να ακούγονται πάντα “χαρούμενοι” στις κλήσεις) επειδή η ΤΝ παρακολουθεί; Αυτό αγγίζει ζητήματα ανθρώπινης αξιοπρέπειας και ελευθερίας να νιώθεις χωρίς να αναλύεσαι. Ηθικά, πολλοί υποστηρίζουν ότι τα άτομα πρέπει να διατηρούν έλεγχο στα δικά τους συναισθηματικά δεδομένα. Πρέπει να έχεις το δικαίωμα να κρατάς τα συναισθήματά σου για τον εαυτό σου, ή τουλάχιστον να ελέγχεις ποιος/τι τα ανιχνεύει. Χωρίς σαφή συναίνεση, η αναγνώριση συναισθημάτων γίνεται ανεπιθύμητη εισβολή στην πνευματική μας ιδιωτικότητα – αυτό που κάποιοι μελετητές αποκαλούν “πνευματική κυριαρχία”. Είναι ενθαρρυντικό ότι ο νέος νόμος της ΕΕ απαγορεύει ρητά την ΤΝ συναισθημάτων σε χώρους εργασίας και σχολεία ανεξαρτήτως συναίνεσης (λόγω της ανισορροπίας ισχύος, η πραγματικά εθελοντική συναίνεση είναι αμφίβολη) williamfry.com, legalblogs.wolterskluwer.com. Αυτό δείχνει μια τάση προς την προστασία των ανθρώπων από το να πιέζονται σε συναισθηματική διαφάνεια. Καθώς αυτή η τεχνολογία εξαπλώνεται, η επιμονή στη συναίνεση – και η δυνατότητα στους ανθρώπους να την απενεργοποιούν – ίσως είναι καθοριστική για τη διατήρηση της προσωπικής αυτονομίας.
• Χειραγώγηση και Κατάχρηση: Μια άλλη ηθική διάσταση είναι το πώς τα ευρήματα από την τεχνητή νοημοσύνη συναισθημάτων μπορεί να χρησιμοποιηθούν για να επηρεάσουν ή να εκμεταλλευτούν ανθρώπους. Τα συναισθήματα καθοδηγούν πολλές από τις αποφάσεις μας, και αν εταιρείες ή πολιτικοί παράγοντες μπορούν να ανιχνεύσουν τα αισθήματά μας, ίσως προσαρμόσουν τα μηνύματά τους για να μας επηρεάσουν. Είδαμε μια χαμηλής τεχνολογίας εκδοχή αυτού στο σκάνδαλο Cambridge Analytica, όπου τα δεδομένα του Facebook χρησιμοποιήθηκαν για ψυχολογική ανάλυση ψηφοφόρων και στοχευμένες διαφημίσεις που προκαλούσαν συναισθηματικές αντιδράσεις. Η συναισθηματική τεχνητή νοημοσύνη θα μπορούσε να ενισχύσει τέτοιες τακτικές – ουσιαστικά επιτρέποντας «μαζική συναισθηματική χειραγώγηση». Όπως προειδοποιεί η Randi Williams της Algorithmic Justice League, «Όταν έχουμε τεχνητή νοημοσύνη που εισχωρεί στα πιο ανθρώπινα μέρη του εαυτού μας, υπάρχει υψηλός κίνδυνος τα άτομα να χειραγωγηθούν για εμπορικό ή πολιτικό όφελος.» theguardian.com. Για παράδειγμα, μια διαφημιστική τεχνητή νοημοσύνη μπορεί να παρατηρήσει ότι νιώθετε λίγο πεσμένοι ένα συγκεκριμένο βράδυ (ανιχνεύεται μέσω των έξυπνων οικιακών συσκευών σας), και μια εφαρμογή θα μπορούσε αμέσως να προωθήσει μια διαφήμιση για comfort food ή αγοραστική θεραπεία τη στιγμή της ευαλωτότητάς σας. Ή μια αυταρχική κυβέρνηση θα μπορούσε να χρησιμοποιήσει αναγνώριση συναισθημάτων σε τηλεοπτικές ομιλίες: αν ο πληθυσμός δεν φαίνεται αρκετά ενθουσιώδης, ίσως είναι ώρα να ενταθεί η προπαγάνδα ή να ερευνηθούν διαφωνούντες. Αυτά τα σενάρια ακούγονται δυστοπικά, αλλά είναι τα είδη περιπτώσεων κατάχρησης που οι ειδικοί θέλουν να αποτρέψουν τώρα, πριν συμβούν. Ακόμα και σε πιο ήπιες μορφές, η συναισθηματική ώθηση εγείρει ηθικά ερωτήματα – είναι εντάξει ένα βιντεοπαιχνίδι να προσπαθεί σκόπιμα να σας τρομάξει περισσότερο όταν ξέρει ότι φοβάστε, όπως στο παράδειγμα του παιχνιδιού τρόμου; Κάποιοι θα πουν ότι αυτό είναι εντάξει για ψυχαγωγία· άλλοι ανησυχούν για την ψυχολογική επίδραση. Το συμπέρασμα είναι ότι η συναισθηματική τεχνητή νοημοσύνη παρέχει έναν νέο μοχλό για να επηρεάσει την ανθρώπινη συμπεριφορά, και χωρίς κανονισμούς ή ηθικά όρια, αυτός ο μοχλός θα μπορούσε να χρησιμοποιηθεί με σκοτεινούς τρόπους (π.χ. η «συναισθηματική χειραγώγηση» αναφέρεται ρητά ως απαγορευμένη χρήση στις ηθικές κατευθυντήριες γραμμές της Hume AI theguardian.com). Η διαφάνεια είναι το κλειδί: αν τα συναισθηματικά δεδομένα χρησιμοποιούνται για να επηρεάσουν αποτελέσματα (όπως μια τεχνητή νοημοσύνη προσλήψεων που σας απορρίπτει επειδή θεωρεί ότι δεν είχατε «πάθος» σε μια συνέντευξη), το άτομο πρέπει να το γνωρίζει και να έχει τη δυνατότητα να το αμφισβητήσει.
• Ρύθμιση και Λογοδοσία: Δεδομένων όλων αυτών των ανησυχιών, αυξάνονται οι φωνές που ζητούν τη ρύθμιση της AI ανίχνευσης συναισθημάτων. Η απαγόρευση της ΕΕ σε ορισμένους τομείς είναι μια προσέγγιση – ουσιαστικά λέγοντας ότι κάποιες χρήσεις είναι εκτός ορίων. Αλλού, ειδικοί έχουν προτείνει να απαιτείται αυστηρή επικύρωση και έλεγχος για οποιοδήποτε σύστημα AI συναισθημάτων αναπτυχθεί, ώστε να αποδεικνύεται ότι είναι ακριβές και αμερόληπτο (ένας υψηλός πήχης που πολλοί ίσως να μην φτάσουν). Οργανισμοί όπως οι ACLU και Article 19 έχουν υποστηρίξει πλήρη μορατόριουμ στην αναγνώριση συναισθημάτων σε ευαίσθητους τομείς, χαρακτηρίζοντάς το αντιεπιστημονικό και ασύμβατο με τα ανθρώπινα δικαιώματα article19.org, businessinsider.com. Μια άλλη πτυχή της ρύθμισης είναι η προστασία δεδομένων: καθώς τα συναισθηματικά δεδομένα μπορούν να θεωρηθούν βιομετρικά ή σχετικά με την υγεία, μπορεί να υπάγονται σε νόμους περί απορρήτου όπως το GDPR, που απαιτούν αυστηρή συγκατάθεση, περιορισμό σκοπού και ασφάλεια. Οι ρυθμιστικές αρχές συζητούν επίσης αν οι άνθρωποι θα πρέπει να έχουν το δικαίωμα να εξαιρεθούν από την παρακολούθηση συναισθημάτων σε δημόσιους χώρους και το δικαίωμα να μην αξιολογούνται από αυτοματοποιημένες «βαθμολογίες» συναισθημάτων. Από την άλλη πλευρά, ορισμένες βιομηχανικές ομάδες πιέζουν για πρότυπα που θα επιτρέπουν την υπεύθυνη χρήση της AI συναισθημάτων (για παράδειγμα, το IEEE έχει εξετάσει ηθικές κατευθυντήριες γραμμές για προσαρμοστικά συστήματα που ανταποκρίνονται στα συναισθήματα). Είναι σαφές ότι η τεχνολογία έχει ξεπεράσει τους κανόνες μέχρι στιγμής, αλλά το 2024 σηματοδοτεί ένα σημείο καμπής. Οι κυβερνήσεις αναγνωρίζουν την αναγνώριση συναισθημάτων ως ξεχωριστή κατηγορία AI που χρειάζεται εποπτεία. Τα επόμενα χρόνια, αναμένεται να δούμε περισσότερες πολιτικές που θα προσπαθούν να χαράξουν όρια σχετικά με το πώς και πού μπορούν να χρησιμοποιηθούν αυτά τα εργαλεία – και να επιβάλλουν λογοδοσία σε όσους τα χρησιμοποιούν. Εξάλλου, αν ένα σύστημα AI κάνει μια συναισθηματική εκτίμηση που βλάπτει κάποιον (π.χ. τον χαρακτηρίζει «υψηλού κινδύνου» χωρίς λόγο), ποιος είναι υπεύθυνος; Αυτά τα δύσκολα ερωτήματα παραμένουν αναπάντητα.

Τελικά, η ηθική συνοψίζεται σε μια απλή αρχή: απλώς επειδή μπορούμε να προσπαθήσουμε να διαβάσουμε συναισθήματα με AI, πρέπει να το κάνουμε; Και αν ναι, υπό ποιες προϋποθέσεις; Οι υποστηρικτές πιστεύουν ότι υπάρχουν ανθρώπινες και ωφέλιμες χρήσεις για την τεχνολογία (ειδικά με συγκατάθεση και προσοχή), ενώ οι επικριτές ανησυχούν ότι το ίδιο το εγχείρημα είναι εσφαλμένο και επιρρεπές σε κατάχρηση. Αυτό μας φέρνει στην τελική μας ενότητα, όπου ακούμε απευθείας από ειδικούς και των δύο πλευρών της συζήτησης.

Απόψεις Ειδικών

Με την AI ανίχνευσης συναισθημάτων στο σταυροδρόμι καινοτομίας και διαμάχης, έχει ενδιαφέρον να ακούσουμε τι έχουν να πουν οι κορυφαίες φωνές του χώρου. Οι ειδικοί διχάζονται – κάποιοι βλέπουν μετασχηματιστικό δυναμικό, άλλοι ζητούν ακραία προσοχή. Ακολουθούν μερικές απόψεις με τα δικά τους λόγια:

• Αισιόδοξοι και Καινοτόμοι: Πολλοί πρωτοπόροι της συναισθηματικής υπολογιστικής υποστηρίζουν ότι η ενσωμάτωση της συναισθηματικής νοημοσύνης στις μηχανές μπορεί να βελτιώσει βαθιά την αλληλεπίδραση ανθρώπου–μηχανής. «Σκεφτείτε πώς αλληλεπιδράτε με άλλους ανθρώπους· κοιτάζετε τα πρόσωπά τους, το σώμα τους, και προσαρμόζετε ανάλογα την αλληλεπίδρασή σας», εξηγεί ο Javier Hernandez, ερευνητής στην ομάδα Affective Computing του MIT. «Πώς μπορεί μια μηχανή να επικοινωνήσει αποτελεσματικά αν δεν γνωρίζει τη συναισθηματική σας κατάσταση;» mitsloan.mit.edu. Αυτή η ομάδα πιστεύει ότι η συναισθηματική τεχνητή νοημοσύνη μπορεί να κάνει την τεχνολογία πιο ανταποκρινόμενη, εξατομικευμένη και ακόμη και συμπονετική. Η Rana el Kaliouby, που συνίδρυσε την Affectiva και έχει υποστηρίξει τη «νανθρώπιση της τεχνολογίας», επισημαίνει ότι τα συναισθήματά μας είναι βασικά για το πώς λαμβάνουμε αποφάσεις και συνδεόμαστε. Οραματίζεται την τεχνητή νοημοσύνη ως έναν υποστηρικτικό συνεργάτη: «Το παράδειγμα δεν είναι άνθρωπος εναντίον μηχανής – είναι πραγματικά η μηχανή που ενισχύει τον άνθρωπο», λέει η el Kaliouby, τονίζοντας ότι η τεχνητή νοημοσύνη πρέπει να ενισχύει τις ανθρώπινες ικανότητες, όχι να τις αντικαθιστά mitsloan.mit.edu. Κατά τη γνώμη της, αν χρησιμοποιήσουμε σωστά την τεχνητή νοημοσύνη, θα μπορούσε, για παράδειγμα, να βοηθήσει τους οδηγούς να παραμείνουν ασφαλείς, να βοηθήσει τους γιατρούς να κατανοήσουν τους ασθενείς ή να βοηθήσει τους πελάτες να νιώσουν ότι ακούγονται. Η el Kaliouby είναι ενθουσιώδης σχετικά με τη χρήση της συναισθηματικής τεχνητής νοημοσύνης για καλό – συχνά αναφέρει έργα όπως η χρήση συναισθηματικής ανάλυσης για να βοηθηθούν παιδιά με αυτισμό ή για την έγκαιρη ανίχνευση προβλημάτων ψυχικής υγείας. Και παρά τις ανησυχίες, όταν ρωτήθηκε αν θα έπρεπε καν να έχουμε αυτήν την τεχνολογία, η απάντησή της είναι ένα αποφασιστικό ναι. «Απολύτως ναι», είπε το 2024 – γιατί παράλληλα με τους κινδύνους, «η τεχνητή νοημοσύνη προσφέρει καταπληκτικές λύσεις στις μεγαλύτερες προκλήσεις της ανθρωπότητας.» asisonline.org Η στάση της, όπως και πολλών στον κλάδο, είναι ότι δεν πρέπει να πετάξουμε το μωρό μαζί με τα νερά του μπάνιου. Αντίθετα, ζητούν την ανάπτυξη υπεύθυνης, ανθρωποκεντρικής συναισθηματικής τεχνητής νοημοσύνης – με σχεδιασμό opt-in, διαφάνεια και ποικιλομορφία – ώστε τα οφέλη (ασφαλέστεροι δρόμοι, καλύτερη υγειονομική περίθαλψη, πιο ελκυστική εκπαίδευση κ.λπ.) να μπορούν να υλοποιηθούν. Όπως το θέτει η el Kaliouby, «Κάθε κλάδος μετασχηματίζεται … με την τεχνητή νοημοσύνη», και η συναισθηματική τεχνητή νοημοσύνη, αν γίνει σωστά, «θα μπορούσε να κάνει αυτούς τους μετασχηματισμούς πιο συμπονετικούς.» asisonline.org Οι υποστηρικτές αναγνωρίζουν τις προκλήσεις αλλά γενικά πιστεύουν ότι μπορούν να μετριαστούν μέσω προσεκτικού σχεδιασμού και πολιτικής, αντί να εγκαταλείψουμε εντελώς την τεχνολογία.
• Σκεπτικιστές και Κριτικοί: Από την άλλη πλευρά, μια χορωδία επιστημόνων και ηθικολόγων μας προτρέπει να επιβραδύνουμε ή ακόμα και να σταματήσουμε την τεχνολογία αναγνώρισης συναισθημάτων, προειδοποιώντας ότι βασίζεται σε επισφαλή επιστήμη και ενέχει απαράδεκτους κινδύνους. Ήδη έχουμε ακούσει τον σκεπτικισμό της καθηγήτριας Lisa Feldman Barrett, βασισμένο στην έρευνα, ότι οι εκφράσεις του προσώπου μπορούν να χαρτογραφηθούν με αξιοπιστία στα συναισθήματα. Η Barrett απορρίπτει κατηγορηματικά πολλούς από τους ισχυρισμούς των προμηθευτών: «Οι περισσότερες εταιρείες εξακολουθούν να ισχυρίζονται ότι μπορείς να κοιτάξεις ένα πρόσωπο και να καταλάβεις αν κάποιος είναι θυμωμένος ή λυπημένος… Αυτό προφανώς δεν ισχύει.» theguardian.com Η ανησυχία της είναι ότι, καλοπροαίρετα ή όχι, αυτά τα συστήματα θα αποτύχουν – και οι άνθρωποι θα κριθούν λανθασμένα. Μια άλλη έντονη κριτικός, η Vidushi Marda της Article 19 (μιας ομάδας για τα ψηφιακά δικαιώματα), που μελέτησε εφαρμογές αναγνώρισης συναισθημάτων στην Κίνα, δήλωσε ότι ο τομέας είναι «θεμελιωδώς ριζωμένος σε αντιεπιστημονικές ιδέες» και ότι η εφαρμογή τέτοιων συστημάτων σε μεγάλη κλίμακα είναι «βαθιά ανήθικη.» businessinsider.com Υποστηρικτές της ιδιωτικότητας όπως ο Evan Selinger έχουν χαρακτηρίσει την αναγνώριση συναισθημάτων «την πιο επικίνδυνη τεχνητή νοημοσύνη που δεν έχετε ακούσει ποτέ», υποστηρίζοντας ότι μπορεί να οδηγήσει σε νέες μορφές διακρίσεων και χειραγώγησης. Και δεν είναι μόνο οι ακαδημαϊκοί: ακόμα και άνθρωποι της τεχνολογίας έχουν αμφιβολίες. Σε συνέντευξή του στο TechCrunch, ο Andrew Moore, πρώην επικεφαλής AI του Google Cloud, προειδοποίησε ότι η κατανόηση των συναισθημάτων από την τεχνητή νοημοσύνη είναι «τουλάχιστον μια δεκαετία μακριά από την αξιοπιστία» και ότι η κακή χρήση πριν από τότε θα μπορούσε να διαβρώσει τη συνολική εμπιστοσύνη στην τεχνητή νοημοσύνη. Αυτοί οι ειδικοί συχνά προτείνουν αυστηρούς περιορισμούς. Η ACLU έχει φτάσει στο σημείο να υποστηρίζει απαγορεύσεις, με τον αναλυτή πολιτικής Daniel Kahn Gillmor να γράφει, «Τουλάχιστον, τα δικαιώματα ή τα προς το ζην κανενός δεν θα πρέπει να εξαρτώνται από τις συναισθηματικές εικασίες μιας τεχνητής νοημοσύνης». Από τη δική τους οπτική, οι πιθανοί κίνδυνοι – άδικες συλλήψεις, μεροληπτικές προσλήψεις, παραβιάσεις ψυχικής ιδιωτικότητας – υπερτερούν των αβέβαιων ωφελειών. Επισημαίνουν επίσης ότι και οι ίδιοι οι άνθρωποι δυσκολεύονται να διαβάσουν σωστά τα συναισθήματα των άλλων μεταξύ διαφορετικών πολιτισμών και πλαισίων, οπότε το να περιμένουμε από μια μηχανή να το κάνει είναι ανοησία. Ουσιαστικά, οι σκεπτικιστές προτρέπουν την κοινωνία να πατήσει παύση, να απαιτήσει ισχυρά αποδεικτικά στοιχεία και ηθικά πλαίσια πρώτα, και να θυμάται ότι τα συναισθήματα είναι βαθιά ανθρώπινα – ίσως όχι κάτι που θέλουμε να αναλύουν οι μηχανές.

Έχει ενδιαφέρον ότι και οι δύο πλευρές τελικά επιδιώκουν ένα καλύτερο μέλλον αλλά διαφέρουν στη μέθοδο. Οι αισιόδοξοι εστιάζουν στα πιθανά οφέλη (ενσυναίσθηση στην τεχνητή νοημοσύνη, βελτιωμένη ευημερία), ενώ οι σκεπτικιστές εστιάζουν στην αποτροπή βλαβών (αδικία, απώλεια ιδιωτικότητας). Υπάρχουν επίσης μετριοπαθείς ενδιάμεσοι, που αναγνωρίζουν την υπόσχεση της τεχνολογίας αλλά επιμένουν σε αυστηρές διασφαλίσεις. Για παράδειγμα, ο Erik Brynjolfsson υποστηρίζει την ανάπτυξη της συναισθηματικής τεχνητής νοημοσύνης με σκέψη, λέγοντας «αυτό που είναι σημαντικό να θυμόμαστε είναι ότι όταν χρησιμοποιείται με σκέψη, τα τελικά οφέλη μπορούν και πρέπει να είναι μεγαλύτερα από το κόστος», αλλά αμέσως προσθέτει ότι πρέπει να είναι «κατάλληλο για όλους τους ανθρώπους» και πολιτισμικά ευαίσθητο mitsloan.mit.edu. Αυτή η μέση οδός πιθανότατα περιλαμβάνει ισχυρή ρύθμιση, διαφάνεια από τις εταιρείες και συνεχή έρευνα για την ακρίβεια αυτών των συστημάτων.

Συμπερασματικά, η τεχνητή νοημοσύνη που ανιχνεύει συναισθήματα βρίσκεται σε μια συναρπαστική τομή τεχνολογίας, ψυχολογίας και ηθικής. Οι υποστηρικτές της πιστεύουν ότι μπορεί να κάνει τις συσκευές και τις υπηρεσίες μας πολύ πιο προσαρμοσμένες στις ανάγκες μας – από αυτοκίνητα που μας ηρεμούν μέχρι εφαρμογές που καταλαβαίνουν πότε δυσκολευόμαστε και προσφέρουν βοήθεια. Οι επικριτές της εκφράζουν βάσιμες ανησυχίες ότι καμία τεχνητή νοημοσύνη δεν θα έπρεπε να παίζει το ρόλο του θεραπευτή, του δικαστή ή του κατασκόπου – διαβάζοντας τα συναισθήματά μας με τρόπους που μπορεί να παραπλανήσουν ή να καταπιέσουν. Η αλήθεια ίσως εξαρτάται από το πώς θα επιλέξουμε να τη χρησιμοποιήσουμε. Από το 2025, η τεχνητή νοημοσύνη που ανιχνεύει συναισθήματα είναι εδώ και εξελίσσεται, αλλά και υπό στενή παρακολούθηση. Έχουμε δει πραγματικά οφέλη σε ορισμένες εξειδικευμένες χρήσεις (όπως η παρακολούθηση ψυχικής υγείας και η προσαρμοστική εκπαίδευση), αλλά και πραγματική αντίδραση (νέοι νόμοι και απαγορεύσεις ως απάντηση σε καταχρήσεις).

Στο εξής, η κοινωνία θα πρέπει να ακολουθήσει μια προσεκτική πορεία: να απαιτεί ισχυρή επιστημονική τεκμηρίωση και δικαιοσύνη σε κάθε εργαλείο ανίχνευσης συναισθημάτων, να διασφαλίζει ασφαλείς ιδιωτικούς χώρους απαλλαγμένους από συναισθηματική παρακολούθηση και να αποφασίζει δημοκρατικά πού θα μπει η γραμμή ανάμεσα στη χρήσιμη ενσυναίσθηση και την επιβλαβή εισβολή. Ένα είναι σίγουρο: αυτή η συζήτηση μόλις ξεκινά. Η τεχνητή νοημοσύνη ίσως γίνεται καλύτερη στο να ξέρει αν είσαι «καλός ή κακός» – αλλά εναπόκειται σε όλους εμάς να διασφαλίσουμε ότι αυτή η ισχυρή δυνατότητα θα χρησιμοποιηθεί με τρόπους που σέβονται την ανθρώπινη αξιοπρέπεια και βελτιώνουν τη ζωή μας, αντί να τη μειώνουν.

Πηγές:

• Gaudenz Boesch, “AI Emotion Recognition and Sentiment Analysis,” Viso Blog – viso.ai (10 Οκτωβρίου 2024) viso.ai
• Noor Al Mazrouei, “Emotion AI: Transforming Human-Machine Interaction,” TRENDS Research (17 Φεβρουαρίου 2025) trendsresearch.org
• Meredith Somers, “Emotion AI, explained,” MIT Sloan (8 Μαρτίου 2019) mitsloan.mit.edu
• Julie Bort, “’Emotion AI’ may be the next trend for business software, and that could be problematic,” TechCrunch (1 Σεπτεμβρίου 2024) techcrunch.com
• Will Knight, “Experts Say ‘Emotion Recognition’ Lacks Scientific Foundation,” ACLU (18 Ιουλίου 2019) aclu.org
Oscar Holland, «Είστε 80% θυμωμένοι και 2% λυπημένοι; Γιατί η ‘συναισθηματική ΤΝ’ είναι γεμάτη προβλήματα», The Guardian (23 Ιουνίου 2024) theguardian.com
• Valeria Vasquez και άλλοι, «Η απαγόρευση των τεχνολογιών αναγνώρισης συναισθημάτων ΤΝ στον χώρο εργασίας βάσει του AI Act», Wolters Kluwer – Global Workplace Law (Φεβ. 2025) legalblogs.wolterskluwer.com
• Cheryl Teh, «‘Κάθε χαμόγελο που προσποιείσαι’ — ένα σύστημα αναγνώρισης συναισθημάτων με ΤΝ μπορεί να αξιολογήσει πόσο ‘ευτυχισμένοι’ είναι οι εργαζόμενοι στην Κίνα στο γραφείο», Business Insider (16 Ιουνίου 2021) businessinsider.com
• AIMultiple Research Team, «Top 10+ Παραδείγματα & Χρήσεις Συναισθηματικής ΤΝ το 2025», AIMultiple (ενημερώθηκε 2 Ιουν. 2025) research.aimultiple.com
• Sara Mosqueda, «El Kaliouby: Οι άνθρωποι μπορούν να αξιοποιήσουν την ΤΝ για να βελτιώσουν τον κόσμο», Security Management Magazine – GSX Daily (24 Σεπτεμβρίου 2024) asisonline.org
• Dartmouth College, «Εφαρμογή κινητού χρησιμοποιεί ΤΝ για να ανιχνεύσει κατάθλιψη από εκφράσεις προσώπου», Dartmouth News (27 Φεβρουαρίου 2024) home.dartmouth.edu