Risiken und Vorteile von Emotion AI: 4 Tipps für einen verantwortungsvollen Umgang
Sharon Goldman
8 min read
Wir freuen uns, die Transform 2022 am 19. Juli und virtuell vom 20. bis 28. Juli wieder persönlich zu präsentieren. Nehmen Sie an aufschlussreichen Gesprächen und spannenden Networking-Möglichkeiten teil. Registrieren Sie sich heute!
In den letzten zwei Wochen sind die Emotionen rund um die Entwicklung und den Einsatz von Emotions-KI, die Technologien wie die sprachbasierte Emotionsanalyse und die Gesichtsausdruckerkennung auf Computer-Vision-Basis umfasst, hoch gestiegen.
Beispielsweise geriet die Videokonferenzplattform Zoom unter Beschuss, nachdem sie angekündigt hatte, dass sie bald emotionale KI-Funktionen in ihre verkaufsorientierten Produkte aufnehmen könnte. Eine gemeinnützige Interessenvertretung, Fight for the Future, veröffentlichte einen offenen Brief an das Unternehmen: Darin heißt es, dass das mögliche Angebot von Zoom einen „großen Bruch des Vertrauens der Benutzer“ darstellen würde, „von Natur aus voreingenommen“ und „ein Marketing-Gag“ sei.
Unterdessen arbeiten Intel und Classroom Technologies an Tools, die mithilfe von KI die Stimmung von Kindern in virtuellen Klassenzimmern erkennen. Dies hat zu einer Berichterstattung in den Medien mit unglücklichen Titeln wie „Emotion-Tracking Software Could Ding Your Kid for Look Bored in Math“ geführt.
Schließlich genießt Uniphore, ein Konversations-KI-Unternehmen mit Hauptsitz in Palo Alto, Kalifornien und Indien, den Status eines Einhorns, nachdem es bereits im Februar neue Finanzierungen in Höhe von 400 Millionen US-Dollar und eine Bewertung von 2,5 Milliarden US-Dollar angekündigt hatte. Im Januar 2021 erwarb das Unternehmen das Emotion Research Lab, das „fortschrittliche Gesichtsemotionserkennung und Eye-Tracking-Technologie verwendet, um Interaktionen über Video in Echtzeit zu erfassen und zu analysieren, um die Interaktion zwischen Menschen zu verbessern“. Im vergangenen Monat stellte es seine Q for Sales-Lösung vor, die „Computer Vision, Tonanalyse, automatische Spracherkennung und Verarbeitung natürlicher Sprache nutzt, um das gesamte emotionale Spektrum von Verkaufsgesprächen zu erfassen und Empfehlungen zu geben, um die Abschlussraten und die Leistung der Vertriebsteams zu steigern. ”
Aber der Informatiker und bekanntermaßen gefeuerte Googler Timnit Gebru, der im Dezember 2021 ein unabhängiges KI-Ethikforschungsinstitut gründete, war es kritisiert die Behauptungen von Uniphore auf Twitter. „Der Trend, Pseudowissenschaft in ‚KI-Systeme‘ einzubetten, ist so groß“, sagte sie.
Was bedeutet diese Art von Pushback für das Unternehmen? Wie können Unternehmen die Risiken und Vorteile einer Investition in Emotions-KI berechnen? Experten behaupten, dass die Technologie in bestimmten Anwendungsfällen nützlich sein kann, insbesondere wenn es darum geht, Kunden zu helfen und Verkäufer zu unterstützen.
Die Verpflichtung zur Transparenz ist der Schlüssel
Aber, fügen sie hinzu, eine Investition in emotionale KI erfordert eine Verpflichtung zur Transparenz. Unternehmen benötigen außerdem ein umfassendes Verständnis darüber, was die Tools können und was nicht, sowie eine sorgfältige Abwägung in Bezug auf potenzielle Verzerrungen, Datenschutz und ROI.
Die sich heute entwickelnden Emotions-KI-Technologien „fühlen sich vielleicht etwas invasiver an“, räumte Annette Zimmerman ein, eine VP-Analystin bei Gartner, die sich auf Emotions-KI spezialisiert hat. „Für das Unternehmen muss meiner Meinung nach Transparenz oberste Priorität haben.“ Im Dezember 2021 veröffentlichte Zimmerman einen Gartner Competitive Landscape-Bericht für den Emotions-KI-Bereich. Sie wies darauf hin, dass Unternehmen seit der Pandemie „versuchen, den Kundenerlebnissen mehr Empathie zu verleihen“.
Organisationen müssen jedoch auch sicher sein, dass die Technologie funktioniert und dass das System so trainiert ist, dass keine Voreingenommenheit eingeführt wird, sagte sie gegenüber VentureBeat. „Computer Vision ist zum Beispiel sehr gut darin, offensichtliche Emotionen wie Glück und tiefe Frustration zu erkennen“, erklärte sie. „Aber für subtilere Dinge wie Ironie oder leicht genervt versus sehr wütend muss das Modell trainiert werden, insbesondere in Bezug auf geografische und ethnische Unterschiede.“
Emotion AI könnte zu einem wichtigen Unterscheidungsmerkmal werden
Zimmerman, die Uniphore in ihrem Wettbewerbslandschaftsbericht hervorhob, schrieb, dass die Kombination von Computer Vision und sprachbasierter Emotionsanalyse „ein wichtiges Unterscheidungsmerkmal für das Unternehmen werden könnte“.
In einem per E-Mail an VentureBeat gesendeten Kommentar sagte Patrick Ehlen, VP of Artificial Intelligence bei Uniphore: „Es ist wichtig zu betonen, dass Meeting-Aufzeichnungen und Conversational Intelligence-Anwendungen in der heutigen Geschäftswelt zum Mainstream geworden sind.“ Die Absicht des Unternehmens mit Q for Sales, fuhr er fort, „ist es, virtuelle Meetings ansprechender, ausgewogener, interaktiver und wertvoller für alle Parteien zu machen.“
Es gibt ein paar Möglichkeiten, „wir stellen sicher, dass es keine Gruseligkeit gibt“, fügte er hinzu. „Wir bitten um Zustimmung, bevor der Anruf beginnt, wir erstellen keine Profile von Personen bei Anrufen und wir führen keine Gesichtserkennung oder Gesichtserkennung durch.“ Darüber hinaus, erklärte er, haben alle Teilnehmer die Wahl, sich zu Beginn jeder Videokonferenz mit vollständiger Zwei-Parteien-Zustimmung anzumelden, anstatt sich nur abzumelden.
Ehlen wollte auch „die Verwirrung darüber ansprechen, ob wir behaupten, eine KI entwickelt zu haben, die ‚Emotionen erkennt‘ oder etwas über die inneren emotionalen Zustände der Menschen weiß“. Das sei überhaupt nicht die Behauptung von Uniphore, sagte er: „Wir lesen vielmehr die Signale, die Menschen manchmal verwenden, um über ihre Emotionen zu kommunizieren, indem sie zum Beispiel Kombinationen aus Gesichtsausdrücken und Tonfall verwenden.“ Zum Beispiel, erklärte er, der Satz “Schöner Tag, nicht wahr?” „könnte eine Sache vermitteln, wenn man nur den Text für sich betrachtet, aber wenn er mit einem sarkastischen Tonfall und einem Augenrollen kommt, kommuniziert dies etwas anderes.“
Die KI-gesteuerte Emotionsanalyse wird immer ausgefeilter
Sentiment-Analysen für Text und Sprache gibt es schon seit Jahren: Jedes Mal, wenn Sie eine Kundendienstnummer oder ein Contact Center anrufen und beispielsweise hören „Dieser Anruf wird zur Qualitätssicherung aufgezeichnet“, erleben Sie etwas, das inzwischen hochentwickelt ist, KI -gesteuerte Gesprächsanalyse.
Zimmerman hob Cogito mit Sitz in Boston in Gartners Competitive Landscape als „Pionier in audiobasierter Emotions-KI-Technologie, die Echtzeit-Emotionsanalysen für die Unterstützung/das Coaching von Anrufagenten sowie die Überwachung des Stressniveaus bereitstellt.“ Das Unternehmen stellte dem US-Veteranenministerium zunächst KI-Lösungen zur Verfügung, um die Stimmen von Militärveteranen mit PTSD zu analysieren und festzustellen, ob sie sofortige Hilfe benötigen. Dann zogen sie in den Contact Center-Bereich mit einem KI-gesteuerten Stimmungsanalysesystem um, das Gespräche analysiert und Kundendienstmitarbeiter im Moment leitet.
„Wir bieten Echtzeit-Anleitung, um den Verlauf des Anrufs und den psychologischen Zustand des Anrufers zu verstehen“, sagt Josh Feast, CEO von Cogito. „Wie ist zum Beispiel die Erfahrung für die Gesprächspartner? Was sind Ermüdungsgrade? Wie ist Empfänglichkeit oder Motivation?“
Dann liefert die Lösung dem Agenten spezifische Hinweise und rät ihm möglicherweise, die Tonhöhe oder Geschwindigkeit des Gesprächs anzupassen. Oder es könnte anerkennen, dass die andere Partei verzweifelt ist. „Das bietet die Möglichkeit, Empathie zu zeigen“, sagte er.
Was Unternehmen wissen müssen, bevor sie in Emotions-KI investieren
- Schenken Sie der Emotions-KI C-Level-Aufmerksamkeit.
„Führungskräfte müssen wissen, dass Emotions-KI großartige Möglichkeiten und auch große Verantwortung bietet“, sagte Theresa Kushner, Data and Analytics Practice Lead bei NTT DATA Services. „Die Verwaltung dieser komplizierten KI-Algorithmen erfordert Aufmerksamkeit auf C-Ebene und kann nicht an Data Scientist-Teams oder Betriebspersonal delegiert werden. Sie müssen das Maß an Engagement verstehen, das die Implementierung und Operationalisierung einer umstrittenen Technologie wie Emotions-KI erfordert, und eng eingebunden werden, um sicherzustellen, dass sie nicht außer Kontrolle gerät.“
Wenn Sie mit verschiedenen Anbietern sprechen, stellen Sie sicher, dass sie den ROI wirklich demonstrieren, sagte Zimmerman: „Sie müssen den Nutzen einer Investition in diese spezielle Technologie verstehen – hilft sie mir, die Kundenzufriedenheit zu steigern? Oder hilft es mir, die Bindung zu erhöhen und die Abwanderung zu reduzieren?“ Ehlen von Uniphore fügte hinzu, dass Unternehmen auch nach einer Lösung suchen sollten, die einen sofortigen ROI bringen kann. „Lösungen in diesem Bereich sollten in der Lage sein, menschliche Interaktionen in Echtzeit zu erweitern und dann im Laufe der Zeit intelligenter und maßgeschneiderter zu werden“, erklärte er.
- Verstehen Sie den Algorithmus und die Datenerfassung.
Fragen zur Datenerfassung und Integration mit Lösungen anderer Anbieter sollten immer im Vordergrund stehen, sagte Kushner, während Unternehmen, wenn es speziell um emotionale KI geht, sicherstellen sollten, dass die Technologie keine ihrer ethischen Grenzen verletzt. „Erwägen Sie zu fragen, ob sie den KI-Algorithmus erklären können, der diese emotionale Reaktion erzeugt? Welche Daten verwenden sie für die emotionale Seite der Emotions-KI? Wie wird gesammelt? Was müssen wir sammeln, um diesen Datensatz anzureichern?“ Es ist auch wichtig, die tatsächlichen Fähigkeiten und Grenzen der Technologie zu verstehen, fügte Ehlen hinzu: „Ist es Single-Mode- oder Multi-Mode-KI? Siliert oder verschmolzen? Dies bestimmt den Grad an Kontext und Genauigkeit, den Sie schließlich ableiten können.“
- Implementieren Sie ein Test-and-Learn-Framework.
Heutzutage hat sich die Emotions-KI-Technologie so weit entwickelt, dass Organisationen groß angelegte Projekte durchführen. „Das erfordert ein sorgfältiges Nachdenken über das Änderungsmanagement, die Einrichtung eines Lenkungsausschusses und vor allem die Implementierung einer Art Test- und Lernrahmenwerk“, sagte Feast, was zu neuen Ideen für Anwendungsfälle führen kann. „Zum Beispiel haben wir Kunden, die unsere Technologie getestet haben, um Agenten in Echtzeit eine Anleitung zu geben, aber sie haben auch erkannt, dass sie damit signalisieren können, wenn Agenten müde werden und eine Pause brauchen.“
Abwägen der Risiken und Chancen von Emotions-KI
Laut Zimmerman von Gartner hat die Einführung der Emotion-KI-Technologie noch einen langen Weg vor sich, insbesondere wenn es um Big Tech geht. „Ich bin davon ausgegangen, dass angesichts einiger der technologischen Fortschritte, die Amazon enthüllt hat, und einiger Diskussionen, die Google geführt hat, dass viel mehr Geräte diese Funktionalität haben würden, aber sie können es nicht. Ich denke, aus technologischer Sicht könnten sie es tun, aber vielleicht sind es die Datenschutzprobleme.“
Auch Unternehmenskunden müssen die Chancen und Risiken von Emotions-KI abwägen. Kushner weist darauf hin, dass ein Unternehmen vielleicht denkt, dass es wissen möchte, wie ein Kunde wirklich über seine Interaktion mit einem Online-Callcenter denkt, und Emotions-KI-Technologie einsetzt, um dies herauszufinden. „Dies birgt jedoch die Gefahr, einen Kunden zu entfremden, wenn die Emotions-KI-Technologie die Gefühle des Kunden nicht angemessen wiedergibt und der Kundendienst auf eine Weise reagiert, die nicht der Emotion entspricht, die der Kunde ausgedrückt hat“, sagte sie.
Um das richtige Gleichgewicht zu finden, so Ehlen von Uniphore, müssen Anbieter und Kunden gleichermaßen auf Vertrauen bauen, das wiederum auf offener Kommunikation und Auswahl aufbaut. „Wir sprechen offen an, was unsere Lösung leisten kann, und sagen klar, was sie nicht kann“, sagte er. „Wir geben Kunden die Wahl, dieses Tool in ihre Engagements zu integrieren oder nicht. Für diejenigen, die sich anmelden, befolgen wir die Best Practices der Branche für Datenschutz und Datenschutz.“
Das Fazit, so Feast, ist, dass Unternehmen, um mit Emotions-KI erfolgreich zu sein, die Nutzung der Technologie zu einer Win-Win-Win-Situation machen müssen: „Bei jedem Anwendungsfall müssen sich Organisationen meiner Meinung nach fragen: Ist es gut für das Unternehmen? Ist es gut für die Mitarbeiter? Ist es gut für die Verbraucher?“
Die Mission von VentureBeat soll ein digitaler Marktplatz für technische Entscheidungsträger sein, um sich Wissen über transformative Unternehmenstechnologie anzueignen und Transaktionen durchzuführen. Erfahren Sie mehr über die Mitgliedschaft.
