Apple hat im Sommer 2026 eine Funktion für Siri vorgestellt, mit der Benutzer über Schieberegler die Sprechgeschwindigkeit und die Ausdrucksstärke der Stimme einstellen können. Damit lässt sich zumindest in gewissem Umfang beeinflussen, wie menschlich der Sprachassistent klingt. Diese Entwicklung erinnert an Arbeiten, die seit 2018 von Prof. Dr. Oliver Bendel und seinen Studenten im Rahmen des Moralmenüs (MOME) durchgeführt werden. Dieses ermöglicht es, ethisch relevante Eigenschaften und Verhaltensweisen von physischen Robotern und virtuellen Assistenten – etwa Chatbots und Sprachassistenten – individuell zu konfigurieren. Bekannt wurde der maschinenethische Ansatz insbesondere durch eine Designstudie von 2018 für den Saugroboter LADYBIRD (Designstudie 2014, Prototyp 2017) und einen Prototyp von 2022 für den Pflegeroboter Lio von F&P Robotics. Ebenfalls 2018 entstand eine Designstudie für ein MOME für virtuelle Assistenten wie Google Duplex, bei dem sich über einen Schieberegler festlegen ließ, ob der Assistent mit einer menschenähnlichen oder einer maschinenhaften Stimme sprechen sollte. Auch für den Chatbot MOBO wurde ein Moralmenü umgesetzt. Einzelne Wahlmöglichkeiten gehen auf frühere Projekte wie GOODBOT aus dem Jahr 2013 zurück, der im Gespräch immer wieder darauf hinwies, dass er lediglich eine Maschine ist. Die Ergebnisse dieser Arbeiten wurden unter anderem auf den Konferenzen Robophilosophy und ICSR sowie in wissenschaftlichen Artikeln und Büchern zur Maschinenethik vorgestellt. Bereits 2012 hatte Oliver Bendel in seinem Beitrag „Siri ist hier.“ auf mediensprache.net den Sprachassistenten von Apple aus linguistischer und ethischer Sicht untersucht. Dabei thematisierte er unter Bezugnahme auf Joseph Weizenbaum und ELIZA die Anthropomorphisierung von Computersystemen und die Möglichkeit emotionaler Beziehungen zwischen Mensch und Maschine. Zudem ordnete er Siri ausdrücklich als Gegenstand der Maschinenethik ein. Die späteren Arbeiten am Moralmenü knüpfen an solche Fragestellungen an und erweitern sie um konkrete Gestaltungsmöglichkeiten. Während Apple mit seiner neuen Funktion vor allem die Anpassung der Sprachausgabe an individuelle Vorlieben ermöglicht, verfolgt das Moralmenü einen umfassenderen Ansatz: Benutzer sollen selbst darüber entscheiden können, wie sich künstliche Systeme ihnen oder anderen gegenüber verhalten und in welchem Maße sie menschliche Eigenschaften nachahmen. Dies ist nicht zuletzt mit Blick auf die Anthropomorphisierung von KI-Systemen von Bedeutung. Eine bewusst maschinenhafte Stimme oder eine wiederkehrende Klarstellung des künstlichen Charakters kann dazu beitragen, die Illusion von Empfindungsfähigkeit und Bewusstsein zu reduzieren. Die neue Siri-Funktion zeigt, dass Gestaltungsmöglichkeiten, die im Rahmen der Maschinenethik seit Jahren untersucht werden, inzwischen auch bei kommerziellen Sprachassistenten an Bedeutung gewinnen.
In der Zeitschrift Chip (6/2025), erschienen Anfang Mai 2025, findet sich unter dem Titel „Wenn Maschinen Gefühle haben“ ein dreiseitiges Interview mit Prof. Dr. Oliver Bendel. Der Technikphilosoph glaubt nicht, dass KI-Systeme jemals etwas empfinden und dass sie leiden können. Er glaubt nicht, dass sie jemals Glück empfinden können. In der Tierethik gehe man davon aus, dass etwas Rechte haben kann, wenn es empfinden und leiden kann – und das Glück müsse man unbedingt hinzunehmen. Ganz offensichtlich haben die meisten Tiere – so der Technikphilosoph, der sich in seinem Studium der Philosophie auch der Tierethik gewidmet hat – moralische Rechte. Und ganz offensichtlich haben KI-Systeme oder soziale Roboter keine. Er sieht nicht, wie sie mit generativer KI zum Empfinden und Leiden kommen könnten. Es existiere auch keinerlei Hinweis darauf, wenn man vom Marketing von Unternehmen und Evangelisten absehe. Seinem Interviewpartner Thomas Raukamp gegenüber hatte er ausgeführt: „Wenn eine Simulationsmaschine immer besser simuliert, bedeutet das nicht, dass sie plötzlich keine Simulationsmaschine mehr ist. Sie ist nur eine immer bessere Simulationsmaschine. Es gibt keinen Sprung zum Leben, es gibt keinen Sprung zum Bewusstsein, es gibt keinen Sprung zum Empfinden, Leiden und Glück. Sie verbleibt in der Simulation.“ Der Artikel ist in der Jubiläumsausgabe erschienen, der 555. Ausgabe der Zeitschrift, und kann am Kiosk oder über chip-shop.de bezogen werden.
Am 17. Dezember 2024 findet von 8 bis 9 Uhr wieder das Geriatrie-Seminar der Barmelweid-Akademie statt. Die Barmelweid ist nach eigenen Angaben die führende Spezial- und Rehabilitationsklinik der Nordwestschweiz. Prof. Dr. Oliver Bendel trägt über „Conversational Agents zur Erkennung von Problemen und zur Unterstützung von Personen“ vor. Dabei geht er sowohl auf Chatbots und Sprachassistenten als auch auf „embodied conversational agents“ wie bestimmte Pflegeroboter mit natürlichsprachlichen Fähigkeiten ein. Das übergeordnete Ziel der Seminarreihe ist laut Website, die neusten Ergebnisse aus Lehre und Forschung in die tägliche klinische Arbeit der Barmelweid einfließen zu lassen. Gleichzeitig wollen die Verantwortlichen die ethischen und managementbezogenen Aspekte nicht außer Acht lassen. Im Fokus stehen 2024 die Digitalisierung im Gesundheitswesen, das Delirium-Management und die geriatrische Onkologie. Weitere Informationen sind über die Website der Klinik erhältlich.
Abb.: Die Spezial- und Rehabilitationsklinik (Foto: Wikimedia, Voyager, CC BY-SA 3.0)
Am 18. Oktober 2024 war Prof. Dr. Oliver Bendel zu Gast beim NDR in Hamburg. Vom Hotel im Gebäude der Elbphilharmonie war er am Morgen zum Studio in der Rothenbaumchaussee gefahren. Er sprach mit dem Moderator Philipp Cavert über Beziehungen zu Chatbots, Sprachassistenten und sozialen Robotern. Der Technikphilosoph und Wirtschaftsinformatiker legte dar, dass diese Empathie und Emotionen zeigen, aber nicht im eigentlichen Sinne haben können. Die Benutzer reagieren wiederum mit Emotionen. Beziehungen dieser Art sind immer einseitig. Auf der anderen Seite ist nichts, was wirklich Interesse hat, was einen liebt oder hasst. Dennoch können Chatbots, Sprachassistenten und soziale Roboter in bestimmten Situationen helfen. So entwickelte Martin Spathelf unter der Betreuung von Oliver Bendel einen Sprachassistenten, der Astronauten auf einem Marsflug helfen könnte. Space Thea bewährte sich in sieben verschiedenen Szenarien und zeigte Empathie und Emotionen. Zusammen mit Tamara Siegmann untersuchte Oliver Bendel, ob man Roboter in Gefängnissen einsetzen kann und soll. Ein Befund war, dass sich Insassen soziale Roboter und Chatbots als Gesprächspartner wünschen. Mehr zum Gespräch – auf der Website betitelt mit „KI als Freund: Sinnvoll oder gefährlich?“ – findet sich über www.ndr.de/kultur/KI-als-virtueller-Freund-Sinnvoll-oder-gefaehrlich,ki312.html. Am Abend war Oliver Bendel dann im KörberHaus in Hamburg Bergedorf, wo er mit der ZDF-Moderatorin Jasmina Neudecker über dasselbe Thema diskutierte.
In der c’t 11/2023 ist der Artikel „Virtuelle Freunde? KI-Chatbots leisten Gesellschaft und wecken einseitige Gefühle“ erschienen. Arne Grävemeyer geht auf fünf Seiten auf das Thema ein. Befragt hat er dazu Prof. Dr. Oliver Bendel. Eine Frage war, ob solche Programme und Figuren – die Emotionen zeigen (ohne sie zu haben) und hervorrufen – sich als solche offenbaren sollten. Seine Antwort: „Aus ethischer Sicht würde ich das fordern. Man sollte wissen, ob man mit Menschen oder Maschinen kommuniziert. Unsere eigenen Emotionen sind ein wertvolles Gut. Wir entwickeln sie fast automatisch, wenn wir auf menschenähnliche Entitäten stoßen. Wir haben aber die Möglichkeit, die Emotionen zu begrenzen, wenn wir wissen, dass es sich um Programme und Maschinen handelt. Dazu gehört, dass wir diese abstellen und nicht ständig an sie denken, wenn sie nicht bei uns sind. Auch unsere Zeit ist ein kostbares Gut. Wir sollten selbst entscheiden, mit wem oder was wir sie verbringen.“ (c’t, 11/2023) Insgesamt wurden schriftlich und telefonisch etliche Fragen gestellt. Einige Antworten sind in den Artikel eingeflossen, der seit 5. Mai 2023 erhältlich ist.
„Conversational Agents (CAs) sind computerbasierte Dialogsysteme mit natürlichsprachlichen Fähigkeiten. Verwenden beide Seiten die Textform, liegen üblicherweise Chatbots oder Social Bots vor. Manche von diesen besitzen Sprachausgabe, wie Cor@ von der Deutschen Bank um die Jahrtausendwende. Nutzen beide Seiten gesprochene Sprache, handelt es sich üblicherweise um Sprachassistenten (auch Voice Assistants oder Voicebots genannt), die auf Smartphones, in Smartspeakers oder in Anwendungen des Smart Home vorkommen. Bekannte Beispiele sind Google Assistant, Siri und Alexa. Chatbots und Sprachassistenten kann man wiederum mit Avataren ergänzen oder in soziale Roboter wie Pepper oder NAO bzw. in Serviceroboter oder Industrieroboter integrieren …“ Mit diesen Worten beginnt ein neuer Beitrag im Gabler Wirtschaftslexikon von Prof. Dr. Oliver Bendel aus Zürich. In einem zweiten Abschnitt wird auf Entwicklung und Merkmale eingegangen, in einem dritten die ethische Perspektive eingenommen. Der Beitrag ist am 18. April 2023 erschienen und kann über wirtschaftslexikon.gabler.de/definition/conversational-agent-125248 aufgerufen werden.
Abb.: Cor@ stand um die Jahrtausendwende auf der Website der Deutschen Bank zur Verfügung
Chatbots und Sprachassistenten – sogenannte Conversational Agents – entstanden an der Hochschule für Wirtschaft FHNW von 2012 bis 2022 vor allem im Kontext der Maschinenethik und Sozialen Robotik. Prof. Dr. Oliver Bendel möchte sich nun verstärkt um tote, ausgestorbene und gefährdete Sprachen kümmern. @ve ist ein erster Versuch in dieser Richtung. Gewonnen werden konnte dafür im September 2022 der Entwickler Karim N’diaye. Er stellte am 17. November 2022 an der Hochschule die Zwischenergebnisse vor. Der Chatbot basiert auf GPT-3, einem Sprachmodell, das Deep Learning einsetzt, um natürlichsprachliche Fähigkeiten zu erlangen. Das neuronale Netzwerk weist etwa 175 Milliarden Parameter auf, was einen Rekord darstellt. Kombiniert mit einer Wissensdatenbank, welche Informationen über die lateinische Sprache enthält, kann @ve präzise Antworten auf Benutzeranfragen generieren. Mit ihr kann man also auf Lateinisch plaudern und etwas darüber erfahren. Weitere Projekte mit Chatbots und Sprachassistenten ab 2023 sollen sich gefährdeten und aussterbenden Sprachen widmen. Latein wird an vielen Schulen und Hochschulen gelehrt und immer noch für das eine oder andere Studium – etwa der Philosophie – vorausgesetzt respektive gewünscht. Mit „Romulus“ hat Sky Italia eine Serie in dieser toten Sprache produziert und sie damit ein Stück weit lebendig gemacht. In Deutschland ist sie auf Magenta TV mit Untertiteln zu sehen. Informationen zu @ve werden Ende Dezember 2022 über www.ave-bot.ch bereitgestellt.
Chatbots stehen auf Websites von Unternehmen bereit, um über Produkte und Dienstleistungen zu informieren. Einige dienen auch einfach der Unterhaltung und Entspannung. Kuki (früher Mitsuku) und Replika lernen dazu und erinnern sich an Aussagen der Benutzer. Manche Benutzer wenden den Chatbots und Sprachassistenten gegenüber verbale Gewalt an. Dies kann innerhalb von Rollenspielen passieren und als Ventil funktionieren. Man verbleibt innerhalb der Virtualität. Fragwürdig ist es, wenn die Realität in der Weise einbezogen wird, dass sich die Benutzer vor Freunden mit ihren Taten brüsten und sich ihr Verhalten in ihren Beziehungen verändert. Was die Beziehungen zu den Chatbots und Sprachassistenten anbetrifft, muss beachtet werden, dass sie einseitig sind. Die Softwareroboter zeigen Emotionen und Empathie, aber sie haben sie nicht. Sie scheinen sich für ihr Gegenüber zu interessieren, aber in Wirklichkeit ist da nichts, was sich interessieren könnte. Natürlich ist es wichtig, die Phantasie in der Realität wachzuhalten, und dies kann über Fiktionalität und Virtualität geschehen. Problematisch wird es jedoch, wenn dauerhaft die Grenzen verschwimmen und man den Chatbot oder Sprachassistenten für einen ernstzunehmenden Partner hält. Der österreichische Standard hat Oliver Bendel zu dieser Thematik interviewt. Der Beitrag mit dem Titel „Meine Freundin, der Roboter“ von Jakob Pallinger ist am 15. April 2022 erschienen (mit einer Onlineversion am Wochenende).
Abb.: Artificial Life entwickelte um die Jahrtausendwende verschiedene Chatbots
„Sprachassistenten sind natürlichsprachliche Dialogsysteme, die Anfragen der Benutzer beantworten und Aufgaben für sie erledigen, in privaten und wirtschaftlichen Zusammenhängen. Sie sind auf dem Smartphone ebenso zu finden wie im Smart Speaker, in Robotern ebenso wie in Fahrzeugen. Sie verstehen mit Hilfe von Natural Language Processing (NLP) gesprochene Sprache und wenden sie selbst an, unter Gebrauch eines Text-to-Speech-Systems. Auf die Stimme der Maschine (oder des Benutzers) zielt ‚Voicebot‘ (engl. ‚voicebot‘) oder ‚Voice Assistant‘ (engl. ‚voice assistant‘). ‚Virtueller Assistent‘ oder ‚Digitaler Assistent‘ wird als Überbegriff oder Synonym verwendet. Verwandtschaft besteht zu Chatbots, die oft textuell, manchmal auch auditiv umgesetzt sind und eine längere Tradition haben. Sie und Voicebots sind wiederum wie andere natürlichsprachliche Dialogsysteme Conversational Agents bzw. Conversational User Interfaces.“ Mit diesen Worten beginnt ein neuer Beitrag im Gabler Wirtschaftslexikon von Oliver Bendel. Er ersetzt seine Definition „Virtueller Assistent“ aus dem Jahre 2018 – diese bleibt aber in gekürzter Form erhalten. Am Ende wird auf Fragen der Ethik eingegangen. Der ganze Beitrag – erschienen ist er im Juli 2021 – kann über wirtschaftslexikon.gabler.de/definition/sprachassistent-123447 aufgerufen werden.
