Apple hat im Sommer 2026 eine Funktion für Siri vorgestellt, mit der Benutzer über Schieberegler die Sprechgeschwindigkeit und die Ausdrucksstärke der Stimme einstellen können. Damit lässt sich zumindest in gewissem Umfang beeinflussen, wie menschlich der Sprachassistent klingt. Diese Entwicklung erinnert an Arbeiten, die seit 2018 von Prof. Dr. Oliver Bendel und seinen Studenten im Rahmen des Moralmenüs (MOME) durchgeführt werden. Dieses ermöglicht es, ethisch relevante Eigenschaften und Verhaltensweisen von physischen Robotern und virtuellen Assistenten – etwa Chatbots und Sprachassistenten – individuell zu konfigurieren. Bekannt wurde der maschinenethische Ansatz insbesondere durch eine Designstudie von 2018 für den Saugroboter LADYBIRD (Designstudie 2014, Prototyp 2017) und einen Prototyp von 2022 für den Pflegeroboter Lio von F&P Robotics. Ebenfalls 2018 entstand eine Designstudie für ein MOME für virtuelle Assistenten wie Google Duplex, bei dem sich über einen Schieberegler festlegen ließ, ob der Assistent mit einer menschenähnlichen oder einer maschinenhaften Stimme sprechen sollte. Auch für den Chatbot MOBO wurde ein Moralmenü umgesetzt. Einzelne Wahlmöglichkeiten gehen auf frühere Projekte wie GOODBOT aus dem Jahr 2013 zurück, der im Gespräch immer wieder darauf hinwies, dass er lediglich eine Maschine ist. Die Ergebnisse dieser Arbeiten wurden unter anderem auf den Konferenzen Robophilosophy und ICSR sowie in wissenschaftlichen Artikeln und Büchern zur Maschinenethik vorgestellt. Bereits 2012 hatte Oliver Bendel in seinem Beitrag „Siri ist hier.“ auf mediensprache.net den Sprachassistenten von Apple aus linguistischer und ethischer Sicht untersucht. Dabei thematisierte er unter Bezugnahme auf Joseph Weizenbaum und ELIZA die Anthropomorphisierung von Computersystemen und die Möglichkeit emotionaler Beziehungen zwischen Mensch und Maschine. Zudem ordnete er Siri ausdrücklich als Gegenstand der Maschinenethik ein. Die späteren Arbeiten am Moralmenü knüpfen an solche Fragestellungen an und erweitern sie um konkrete Gestaltungsmöglichkeiten. Während Apple mit seiner neuen Funktion vor allem die Anpassung der Sprachausgabe an individuelle Vorlieben ermöglicht, verfolgt das Moralmenü einen umfassenderen Ansatz: Benutzer sollen selbst darüber entscheiden können, wie sich künstliche Systeme ihnen oder anderen gegenüber verhalten und in welchem Maße sie menschliche Eigenschaften nachahmen. Dies ist nicht zuletzt mit Blick auf die Anthropomorphisierung von KI-Systemen von Bedeutung. Eine bewusst maschinenhafte Stimme oder eine wiederkehrende Klarstellung des künstlichen Charakters kann dazu beitragen, die Illusion von Empfindungsfähigkeit und Bewusstsein zu reduzieren. Die neue Siri-Funktion zeigt, dass Gestaltungsmöglichkeiten, die im Rahmen der Maschinenethik seit Jahren untersucht werden, inzwischen auch bei kommerziellen Sprachassistenten an Bedeutung gewinnen.
Um das Jahr 2000 zählte NativeMinds zu den bedeutendsten Pionieren ambitionierter Chatbots und virtueller Assistenten und gehörte neben Artificial Life zu den technologischen Vorreitern der Branche. Das Unternehmen entwickelte sogenannte vReps (Virtual Representatives), also Avatare mit Dialogfunktion, die Kunden auf Unternehmenswebsites begrüßten, Fragen in natürlicher Sprache beantworteten und sie bei Support, Vertrieb oder Marketing unterstützten. Anders als viele einfache Chatbots jener Zeit verfügten die vReps über eine eigene Persönlichkeit, konnten den Gesprächskontext berücksichtigen und auf Wissensdatenbanken zugreifen. NativeMinds bezeichnete diese virtuellen Assistenten treffend als „Virtual Workforce for the Web“ – virtuelle Mitarbeiter, die rund um die Uhr verfügbar waren und menschlichen Kundendienst ergänzen oder ersetzen sollten. Auf der eigenen Website begrüßte Nicole die Besucher. Mit ihrer aufrechten Haltung und den in die Hüften gestützten Händen strahlte sie Selbstbewusstsein und Kompetenz aus. Zu den Kunden gehörten unter anderem Oracle, Ford und Nissan. Mit seiner Kombination aus Chatbot, Avatar und KI-gestütztem Kundenberater nahm NativeMinds viele Konzepte moderner KI-Agenten und Conversational-AI-Systeme vorweg. Nach dem Platzen der Dotcom-Blase wurde das Unternehmen 2004 von Verity übernommen, doch seine Technologie gilt bis heute als wichtiger Meilenstein in der Entwicklung intelligenter Dialogsysteme.
Abb.: Die Website von NativeMinds im Jahre 2000 ohne die Newsmeldungen in den rechteckigen Boxen
„Chatbots unterhalten sich mit Menschen und unterhalten sie, sie beraten Kunden und Interessenten auf Websites und in Instant-Messaging-Systemen, sie rufen hilfreiche Ressourcen auf und geben dazu Erläuterungen. Ihr Erfolg erklärt sich vor allem durch ihre natürlichsprachlichen Fähigkeiten und ihre Konstruktion als hilfreiches, sachkundiges oder lustiges Gegenüber. Der Beitrag erklärt, was Chatbots und Sprachassistenten sind, nennt Vor- und Nachteile ihres Einsatzes und stellt Produkte für die Kundenkommunikation und den Unterhaltungsbereich vor. Zudem geht er auf Projekte der Maschinenethik ein. Die meisten Chatbots verhalten sich nicht adäquat, wenn der Benutzer ihnen gegenüber Sorgen äußert. Moralische Maschinen als Dialogsysteme können eine Lösung sein.“ So der Abstract des Beitrags „Von Cor@ bis Mitsuku: Chatbots in der Kundenkommunikation und im Unterhaltungsbereich“ von Oliver Bendel, erschienen im Mai 2019 im „Handbuch Digitale Wirtschaft“ (Herausgeber: Tobias Kollmann). Er ist verfügbar auf SpringerLink.
Synthetische Stimmen kann man in vielfältiger Weise gestalten und anpassen. Man kann das Geschlecht vorgeben und das Alter, die Tonhöhe, die Klangfarbe und die Lautstärke variieren. Dafür steht zum Beispiel die Speech Synthesis Markup Language (SSML) zur Verfügung. Einige Befehle sind dafür geeignet, die Stimmen lebensechter zu machen. Selbst ein Flüstern kann man mit SSML inzwischen definieren, das ja nicht nur ein leises, sondern ein stimmloses Sprechen ist. Alexa wirkt damit noch menschlicher. Wie Google Duplex eindrucksvoll gezeigt hat, sind auch Pausen wichtig sowie Verzögerungslaute wie „Mmh“ und „Ähh“, also spezifische Sprechweisen. Die Einbindung von Kopf- und Körpergeräuschen könnte den Echtheitsgrad und die Überzeugungskraft weiter steigern. Wenn sich der virtuelle Assistent räuspert, wenn er die Nase hochzieht, die gar nicht vorhanden ist, dürfte kaum noch jemand denken, dass es sich um kein menschliches Gegenüber handelt. Ferner ist es möglich, Neben- und Hintergrundgeräusche zu integrieren. Übertreiben darf man es freilich nicht, und alle Geräusche müssen letztlich zusammenpassen.
