Die Daimler und Benz Stiftung feierte am 24. Juli 2026 das Jubiläum ihres 40-jährigen Bestehens. Die Gäste strömten auf das Areal beim Carl-Benz-Haus in Ladenburg. Die Darstellerin Angela Pfenninger stieg als Bertha Benz in den Benz Patent-Motorwagen Nummer 3. Der Fotograf Jessen Oestergaard drückte ständig auf den Auslöser. Vorstand Prof. Dr. Lutz Gade ging in seinem Vortrag auf die Geschichte der Stiftung ein. Dabei hob er eine Tagung zur Roboterethik (und zur Maschinenethik) hervor, die am 24. November 2015 in Berlin stattgefunden hatte. Eingeladen hatten Cologne Center for Ethics, Rights, Economics and Social Sciences of Health (ceres) und Daimler und Benz Stiftung. Vor dem eigentlichen Programm mit Beginn um 10 Uhr wurde eine Pressekonferenz mit Prof. Dr. Eckard Minx, Prof. Dr. Christiane Woopen, Prof. Dr. Alin Albu-Schäffer und Prof. Dr. Oliver Bendel abgehalten. Im Karl-Storz-Besucher- und Schulungszentrum begann dann der wissenschaftliche Marathon. Minx begrüßte und eröffnete, Woopen führte ein, nicht in ihrer damaligen Funktion als Vorsitzende des Ethikrats, sondern als Leiterin von ceres. Die Grundlagen autonomer Systeme erklärte Albu-Schäffer in seinem Vortrag „Autonomie und Kognition für menschzentrierte Robotik“. Mit „Autonome Systeme und die Selbstbestimmung des Menschen“ war der nächste Komplex betitelt. „Roboterlernen ohne Grenzen?“ von Prof. Dr. Jochen Steil schuf weitere Grundlagen. Dann ging es tief in die Maschinenethik hinein. Bendel referierte über „Die Moral in der Maschine“, wobei er die Designstudien CLEANINGFISH und LADYBIRD und den Prototyp GOODBOT vorstellte, Prof. Dr. Catrin Misselhorn über „Maschinen mit Moral? Theoretische Grundlagen und eine Roadmap für autonome Assistenzsysteme in der Pflege“. Nach der Mittagspause waren Prof. Dr. Hartmut Hirsch-Kreinsen und Prof. Dr. Johannes Weyer an der Reihe. Prof. Dr. Norbert Lammert, damaliger Bundestagspräsident, sprach zur Rolle der Politik, wetterte gegen die Verwendung des Begriffs der Autonomie in den Technikwissenschaften und missverstand damit deren Autonomie bei der Begriffsbildung. Christiane Woopen rundete mit ihrem Schlusswort die Veranstaltung ab. Der Fotograf Matti Hillig war pausenlos umhergeeilt, um die schönsten Bilder einzufangen. All dies hatten diejenigen in Ladenburg wieder vor dem geistigen Auge, die vor elf Jahren in Berlin dabei gewesen waren und nun nach dem Vortrag von Gade begeistert applaudierten.
Abb.: Prof. Dr. Lutz Gade bei seinem Vortrag (Foto: Daimler und Benz Stiftung/Oestergaard)
IdiomVoice ist ein Forschungsprojekt zur Vermittlung des Rätoromanischen mithilfe von Chatbots. Die Projektleitung liegt bei Nadine Ganz von der FH Graubünden. Im Zentrum steht der regelbasierte Chatbot Lina, der Kindern das Idiom Sursilvan auf spielerische und alltagsnahe Weise näherbringen soll. Daneben gibt es Familienmitglieder, die mit Hilfe eines LLM umgesetzt werden. Die Hochschule für Wirtschaft FHNW bringt beratende Expertise sowie Arbeitspakete zur Didaktik und zur Maschinenethik ein. Dabei fließen Erfahrungen von Prof. Dr. Oliver Bendel aus der Forschung zu pädagogischen Agenten und aus der Entwicklung moralischer Chatbots ein. Auf seine Initiative entstand mit @llegra bereits 2023 der erste Chatbot für Rätoromanisch, und zwar für das Idiom Vallader. Im ersten Deliverable der Hochschule für Wirtschaft FHNW für IdiomVoice vom März 2025 wurde ein didaktisches Konzept für die Chatbots entwickelt. Im Mittelpunkt stehen motivierende Dialoge, Mikromissionen, unmittelbare Rückmeldungen und eine kindgerechte Gesprächsführung, die ohne Benutzerkonten auskommt und das Sprachlernen nachhaltig unterstützt. Das zweite Deliverable vom Juli 2026 bewertet das Guardrail-Konzept der LLM-basierten Personas aus maschinenethischer Sicht. Es entwickelt Empfehlungen für sichere und altersgerechte Dialoge sowie für ein ethisch begründetes Zusammenspiel der Reaktionen, damit die Chatbots pädagogisch sinnvoll und verantwortungsvoll handeln. Das Projekt soll im Herbst 2026 abgeschlossen und die Anwendung für die Öffentlichkeit frei verfügbar sein.
Oliver Bendel hat seit 2012 eine Reihe von Begriffen und Konzepten in die wissenschaftliche Diskussion eingeführt oder wesentlich geprägt, insbesondere in der Maschinenethik, der Sozialen Robotik und der Technikphilosophie. Die Münchhausen-Maschine (Munchausen Machine) bezeichnet eine unmoralische Maschine, die systematisch Unwahrheiten erzeugt oder verbreitet: Der LÜGENBOT (LIEBOT) ist eine konkrete Ausprägung davon. Er ist ein von Bendel konzipierter und prototypisch realisierter Chatbot, der systematisch lügt. Damit wurden die Möglichkeiten, Gefahren und ethischen Implikationen täuschender Dialogsysteme erforscht. Der umgekehrte Cyborg (Reversed Cyborg, Inverted Cyborg) beschreibt das Gegenstück zum klassischen Cyborg: Es werden keine technischen Strukturen in biologische eingefügt, sondern biologische in technische. „Robot Enhancement“ bezeichnet die gezielte Erweiterung und Verbesserung von Robotern durch zusätzliche sensorische, motorische, kognitive oder kommunikative Fähigkeiten und bildet das Gegenstück zum Human Enhancement. Ein Wearable Social Robot ist ein sozialer Roboter, der am Körper getragen oder an der Kleidung befestigt wird und seinen Benutzer durch Kommunikation, Assistenz oder soziale Interaktion im Alltag begleitet. Mit der mythomorphen Gestaltung beschreibt Bendel einen Gestaltungsansatz für Roboter, bei dem nicht Menschen oder Tiere, sondern Figuren aus Mythologie, Fantasy oder Science-Fiction als Vorbilder dienen. Die Animal-Machine Interaction (Tier-Maschine-Interaktion) bezeichnet ein von Bendel nicht erfundenes, aber geprägtes Forschungs- und Anwendungsfeld, das die Interaktion zwischen Tieren und Maschinen systematisch untersucht und dabei sowohl technische als auch ethische Fragestellungen berücksichtigt. Es geht vor allem um die Gestaltung von Maschinen, nicht um die Erforschung von Tieren, bis hin zur Entwicklung tierfreundlicher Maschinen. Dabei spielt auch die Maschinenethik eine Rolle. Die Stellvertretermaschine mit einer Stellvertretermoral ist ein Konzept der Maschinenethik, bei dem eine Maschine von Menschen vorgegebene moralische Regeln stellvertretend ausführt, ohne selbst über Bewusstsein oder Verantwortlichkeit zu verfügen. Weitere wichtige Ansätze in dieser Disziplin sind annotierte Entscheidungsbäume und Moralmenüs.
Abb.: Oliver Bendel in Windisch (Foto: Jork Weismann)
2017 begann das Projekt zum „Handbuch Maschinenethik“ (Hrsg. Oliver Bendel). Die Beiträge erschienen laufend, bis sie im Jahre 2019 gebündelt und gedruckt wurden. Das voluminöse Werk versammelt Beiträge der führenden Experten und Expertinnen in den Bereichen Maschinenethik, Roboterethik, Technikethik, Technikphilosophie sowie Roboterrecht. In gewisser Weise bildete es ein Gegenstück zur amerikanischen Forschung, die die Disziplin dominierte: Die meisten Autorinnen und Autoren (unter ihnen neben Oliver Bendel Julian Nida-Rümelin, Catrin Misselhorn, Eric Hilgendorf, Monika Simmler, Armin Grunwald, Matthias Scheutz, Janina Loh und Luís Moniz Pereira) stammen aus Europa und Asien. Der Herausgeber, der sich seit den 1990er-Jahren mit Informations- und Roboterethik beschäftigt und seit 2012 alleine oder mit seinen Studenten zahlreiche Konzepte und Prototypen zur Maschinenethik entwickelt hat, zeigt sich erfreut, dass im April 2026 die Viertelmillion an Accesses erreicht wurde. Inzwischen ist die Maschinenethik im Mainstream angekommen, wenn man an Alignment und Guardrails bei Large Language Models denkt. Das Buch kann über link.springer.com/book/10.1007/978-3-658-17483-5 erstanden bzw. heruntergeladen werden.
Zum zweiten Mal – wie bereits im Sommer 2021 – hält Prof. Dr. Oliver Bendel einen Vortrag für die VHS im Norden des Landkreises München e.V. Aus der Beschreibung: „Die technische Entwicklung bei autonomen oder teilautonomen Maschinen geht rasant voran. Mit ihr stellen sich ganz neue Fragen: Soll ein autonom fahrendes Auto moralische Entscheidungen treffen können, bspw. ob es im Falle einer unvermeidlichen Kollision eher die alte Frau oder das spielende Kind überfährt? Darf ein Pflegeroboter Sterbehilfe leisten? Sollten autonome Kampfroboter sich an Regeln halten? Müssen Sexroboter davor warnen, sich in sie zu verlieben? Sollten Roboter überhaupt menschenähnlich nachgebildet sein? Sich anfühlen wie ein Mensch? Eine Stimme haben wie ein Mensch? Können sie wirkliche Menschen ersetzen, Freund oder Freundin sein oder das zumindest simulieren? Wie verändern diese Maschinen unser soziales Leben, unser Leben im Alter beispielsweise oder unser Liebesleben? Welche Mensch-Maschine-Interaktionen können in Altersheimen sinnvoll sein und insbesondere demente Menschen unterstützen? Welche Anwendungen gibt es für kranke oder behinderte Menschen? Wo stehen wir aktuell bei der Entwicklung sozialer Roboter? Was kommt in den nächsten Jahren auf uns zu? Und warum beschäftigen sich gerade Philosophen mit dem Bau autonomer oder teilautonomer Maschinen?“ Der Vortrag findet online am 9. März 2026 statt. Weitere Informationen sind über die Website der VHS erhältlich.
Abb.: Soziale Roboter kann man mit anderen Figuren vergleichen (Foto: Jork Weismann)
Die Maschinenethik ist durch den Einsatz von großen Sprachmodellen, durch das Alignment in Form von Finetuning und das Moral Prompt Engineering, im Mainstream angekommen. Vor 15 Jahren galt sie als Orchideenfach. 2009 war „Moral Machines“ von Wendell Wallach und Colin Allen erschienen, 2011 „Machine Ethics“ von Susan L. Anderson und Michael Anderson. Im deutschsprachigen Raum gelten das „Handbuch Maschinenethik“ (ab 2017 in elektronischer Form, in gedruckter Form 2019, Springer VS) von Oliver Bendel und „Grundfragen der Maschinenethik“ (2018, Reclam) von Catrin Misselhorn als Standardwerke. Sie vertreten ähnliche Positionen, haben aber unterschiedliche Intentionen: Der Technikphilosoph will in erster Linie praktische Grundlagen schaffen, nämlich moralische Maschinen bauen, die Wissenschaftstheoretikerin theoretische Grundlagen erarbeiten. An der Hochschule für Wirtschaft FHNW lehrt Oliver Bendel seit 2010 Informationsethik mit Exkursen zur Roboterethik, etwa zur Frage: „Können Maschinen und Systeme Verantwortung tragen?“ (Foliensatz von 2010) … 2012 kam die Maschinenethik dazu, zunächst mit Beispielen wie dem Roboterauto-Problem, das sich vom Trolley-Problem ableitete. Oliver Bendel ließ eine Formel für autonome Autos entwickeln, die quantifizieren und qualifizieren konnte, wobei er darauf hinwies, dass sie beides nicht tun sollte. Im Foliensatz von 2013 heißt es unter der Überschrift „Die Moral der Maschinen“: „Die Ethik bezieht sich üblicherweise auf die Moral von Menschen, von Individuen und Gruppen, und in gewissem Sinne auf die Moral von Organisationen. Es kann in Abweichung davon auch um die Moral von Maschinen wie Agenten, Robotern und Drohnen gehen, also von mehr oder weniger autonomen Programmen und Systemen. Kann die Maschine mehr, als irgendeine Regel zu befolgen? Kann sie die Folgen ihres Handelns bedenken und in diesem Sinne verantwortlich agieren?“ Seine Antwort war, dass sie eine operationale und eine funktionale Moral anwenden bzw. entwickeln kann, im Rahmen von Pflicht- und Folgenethik, dass sie ein unvollständiges Subjekt der Moral bleibt, das kein Bewusstsein hat, keine echte Einsichtsfähigkeit und keinen freien Willen – und dass sie (wie er bereits 1997 in einer Arbeit festgestellt hatte) keine Verantwortung tragen kann. Die Maschinenethik kommt ins Spiel, sobald autonome oder teilautonome Maschinen vorhanden sind. Dennoch weist Oliver Bendel darauf hin, dass sie nicht für alle Bereiche geeignet ist. Er hat sich in seiner Arbeit seit 2012 auf Chatbots, Sprachassistenten und Haushaltsroboter fokussiert. Das „Handbuch Maschinenethik“ kann hier erstanden bzw. heruntergeladen werden.
Abb.: Oliver Bendel mit Miroka bei der ICSR 2025 in Neapel
Yps war ab 1975 viele Jahre lang das Kultheft für Kinder. Diese fieberten vor allem den Gimmicks entgegen, von denen sich einige bis heute im kollektiven Gedächtnis erhalten haben, etwa der Solarzeppelin, das Abenteuerzelt und die Maschine, mit deren Hilfe man eckige Eier macht. Auch Raumfahrt und Robotik waren immer wieder ein Thema. In Yps 385 (23.02.1983) fand man das Gimmick „Der Weltraum-Roboter GE 5P“ (in Zusammenarbeit mit Playmobil), in Yps 440 (21.03.1984) das Gimmick „Der Mars-Astronaut mit kompletter Weltraum-Ausrüstung“ (in Zusammenarbeit mit Playmobil). 2000 erschien die vorerst letzte Ausgabe. Aber man versuchte immer wieder, in den Markt zurückzukommen. Eine Ausgabe des Jahres 2016 wartete mit einem Schwerpunkt zu Robotern und Cyborgs auf. Auf Seite 20 fand sich ein Interview mit Oliver Bendel zu Robotik und Maschinenethik. Wie Egmont Ehapa Media im Mai 2025 verkündete, feiert man heuer ein halbes Jahrhundert Yps mit einer Jubiläumsausgabe, die am 4. September 2025 erscheint. In der Pressemitteilung heißt es: „Die Yps-Jubiläumsausgabe richtet sich an alle heute Erwachsenen, die mit Yps groß geworden sind und in Erinnerungen schwelgen wollen. Das Magazin unternimmt mit seinen Fans eine nostalgische Zeitreise in vergangene Kindertage und lässt klassische Yps-Comics wieder aufleben.“ (Pressemitteilung vom 6. Mai 2025) Natürlich liegen der Ausgabe, so der Verlag, ein neues Yps-Gimmick und ein weiteres Überraschungsextra bei.
Abb.: Ein fiktives Yps-Cover (Bild: ChatGPT/4o Image)
Prof. Dr. Oliver Bendel unterrichtet seit ca. 15 Jahren an der FHNW in Informationsethik, KI-Ethik, Roboterethik und Maschinenethik. Im neuen Studiengang Business AI an der Hochschule für Wirtschaft in Olten ist er verantwortlich für das Modul „Ethik und Technologiefolgenabschätzung“. Hier rückt die KI-Ethik in den Vordergrund, aber die Studenten und Studentinnen werden auch Anliegen der Roboterethik und Ansätze der Maschinenethik – darunter Annotated Decision Trees und Moral Prompt Engineering – kennenlernen. Und sie werden mit Hilfe der Informationsethik, einschließlich der Datenethik, die Herkünfte und Flüsse von Daten und Informationen analysieren und evaluieren und Bias-Diskussionen führen. Nicht zuletzt taucht man in die Technologiefolgenabschätzung ein (in Deutschland spricht man auch von Technikfolgenabschätzung). Oliver Bendel lehrt ansonsten im Modul „Ethik und Recht“ im Studiengang Wirtschaftsinformatik an der Hochschule für Wirtschaft FHNW in Olten (von ihm 2010 übernommen als „Informatik, Ethik und Gesellschaft“, später umbenannt in „Informationsethik“), im Modul „Recht und Ethik“ im Studiengang Geomatik an der Hochschule für Architektur, Bau und Geomatik FHNW in Muttenz sowie „Ethisches Reflektieren“ und „Ethisches Implementieren“ im Studiengang Data Science an der Hochschule für Technik FHNW in Brugg-Windisch. Sehr beliebt sind seine Wahlmodule zur Sozialen Robotik.
Abb.: In der Mensa der FHNW in Olten (Foto: Pati Grabowicz)
Bei der Jahrestagung des Instituts für Digitale Ethik (IDE) der Hochschule der Medien am 19. Juni 2024 – der IDEepolis 2024 – ging es um humanoide Roboter, soziale Roboter und Serviceroboter aller Art. Dabei war sozusagen die Maschinenethik des deutschsprachigen Raums fast vollständig vertreten, in Person des Technikphilosophen und Wirtschaftsinformatikers Prof. Dr. Oliver Bendel („Handbuch Maschinenethik“ – Springer VS) und der Philosophin Prof. Dr. Catrin Misselhorn („Grundfragen der Maschinenethik“ – Reclam). Beide veröffentlichen seit 2012 im Rahmen dieser Disziplin. Oliver Bendel hat seitdem auch zahlreiche Artefakte der Maschinenethik auf den Weg gebracht. Sein Vortrag trug den Titel „Es wird ein Mensch gemacht: Die Vision des universellen Roboters“. Dabei behandelte er am Rande moralische Maschinen ganz unterschiedlicher Art. Catrin Misselhorn ging auf „Künstliche Systeme zwischen Subjekten und Artefakten“ ein. Zudem referierten Prof. Dr. Armin Nassehi vom Institut für Soziologie der Ludwig-Maximilians-Universität München („Das Zusammenwirken von Mensch und Roboter aus soziologischer Perspektive“) und – zugeschaltet aus Japan – Prof. Dr. Christian Becker-Asano von der Hochschule der Medien („Roboter und Emotionen“).
Abb.: Oliver Bendel und Catrin Misselhorn bei der Podiumsdiskussion
Die Maschinenethik, die vor zehn Jahren oft noch als Kuriosität abgetan wurde, ist inzwischen Alltagsgeschäft. Sie ist etwa gefragt, wenn man bei Sprachmodellen bzw. Chatbots sogenannte Guardrails einzieht, über Alignment in der Form von Finetuning oder über Prompt Engineering. Wenn man GPTs erstellt, also „custom versions of ChatGPT“, wie Open AI sie nennt, hat man das „Instructions“-Feld für das Prompt Engineering zur Verfügung. Dort kann der Prompteur oder die Prompteuse bestimmte Vorgaben und Einschränkungen für den Chatbot erstellen. Dabei kann auf Dokumente verwiesen werden, die man hochgeladen hat. Genau dies macht Myriam Rellstab derzeit an der Hochschule für Wirtschaft FHNW im Rahmen ihrer Abschlussarbeit „Moral Prompt Engineering“, deren Zwischenergebnisse sie am 28. Mai 2024 vorgestellt hat. Als Prompteuse zähmt sie GPT-4o, mit Hilfe ihrer Anweisungen und – dies hatte der Initiator des Projekts, Prof. Dr. Oliver Bendel, vorgeschlagen – mit Hilfe von Netiquetten, die sie gesammelt und dem Chatbot zur Verfügung gestellt hat. Der Chatbot wird gezähmt, der Tiger zum Stubentiger, der ohne Gefahr etwa im Klassenzimmer eingesetzt werden kann. Nun ist es bei GPT-4o so, dass schon vorher Guardrails eingezogen wurden. Diese wurden einprogrammiert oder über Reinforcement Learning from Human Feedback gewonnen. Man macht also genaugenommen aus einem gezähmten Tiger einen Stubentiger. Bei bestimmten Open-Source-Sprachmodellen ist dies anders. Das wilde Tier muss erst einmal eingefangen und dann gezähmt werden. Und selbst dann kann es einen ernsthaft verletzen. Doch auch bei GPTs gibt es Tücken, und wie man weiß, können Stubentiger durchaus fauchen und kratzen. Im August liegen die Ergebnisse des Projekts vor. Bereits bei Data, einem Chatbot für den Studiengang Data Science an der Hochschule für Technik FHNW, war Moral Prompt Engineering angewandt worden.
Abb.: Die Prompteuse vor dem Tiger (Bild: Ideogram)
Seit 2012 sind auf Initiative von Oliver Bendel 25 Konzepte und Artefakte der Maschinenethik und der Sozialen Robotik entstanden, die eine Idee veranschaulichen oder die Umsetzung verdeutlichen sollen. Darunter sind Conversational Agents wie GOODBOT, LIEBOT, BESTBOT und SPACE THEA, die auf Konferenzen, in Journals und in den Medien vorgestellt wurden, und tierfreundliche Maschinen wie LADYBIRD und HAPPY HEDGEHOG, die in Büchern wie „Die Grundfragen der Maschinenethik“ von Catrin Misselhorn und auf indischen, chinesischen und amerikanischen Plattformen behandelt wurden. Zuletzt wurden zwei Chatbots für eine tote und eine gefährdete Sprache geschaffen, nämlich @ve (für Latein) und @llegra (für Vallader, ein Idiom des Rätoromanischen). Im Jahre 2024 wird das CAIBOT-Projekt fortgesetzt. In diesem soll ein Sprachmodell mit Hilfe von Prompt Engineering oder Finetuning in eine moralische Maschine verwandelt werden, nach dem Vorbild von Claude von Anthropic. Im Projekt „The Animal Whisperer“ soll eine App entwickelt werden, die die Körpersprache ausgewählter Tiere versteht und zusätzlich ihr Umfeld beurteilt, mit dem Ziel, Hinweise zum Umgang mit ihnen zu geben. Im Bereich der Maschinenethik dürften Oliver Bendel und seine wechselnden Teams zu den aktivsten Gruppen weltweit gehören.
Abb.: 25 Artefakte der Maschinenethik und Sozialen Robotik
Tobias Buess, Yvo Keller und Alexander Shanmugam haben im Herbstsemester 2023 Data entwickelt, einen Chatbot für den Studiengang Data Science an der Hochschule für Technik FHNW. Betreuer bei der sogenannten Challenge waren Fernando Benites, ein Computerlinguist, und Oliver Bendel, ein Maschinenethiker. Der Chatbot kann Fragen zum Studiengang beantworten und mit Hilfe seiner künstlichen Moral – umgesetzt mit Hilfe von Prompt Engineering – auf die Sorgen und Bedürfnisse der Benutzer eingehen. Dem Chatbot stehen folgende Informationen aus dem Studiengang zur Verfügung: Spaces-Inhalte (Spaces ist die In-formations- und Kommunikationsplattform des Studiengangs), Handbuch, Ausbildungskonzept, Modulübersicht und Studienreglement. Als Sprachmodell wurde u.a. Mistral 7B genutzt. Fernando Benites gehört – wie seine frühere Hochschule festgestellt hat – „zu den Besten seines Fachs“. Oliver Bendel erfand 2012 den GOODBOT, einen regelbasierten Chatbot, der dann 2013 von drei Studenten der Hochschule für Wirtschaft FHNW implementiert wurde. Er konnte Probleme des Benutzers erkennen und auf mehreren Stufen eskalieren, bis hin zur Herausgabe einer Notfallnummer. Tobias Buess, Yvo Keller und Alexander Shanmugam haben diese Idee aufgegriffen. Wenn der Benutzer sich als labil erweist, wird er von Data an die Psychologische Beratungsstelle FHNW oder an Die Dargebotene Hand verwiesen. Der Chatbot ist ein Prototyp und wird im Moment von Studierenden getestet. Die Abschlusspräsentation des Teams findet am 26. Januar 2024 statt.
Abb.: Data beantwortet eine Frage (Bild: DALL-E 3)
Oliver Bendel war ab 2012 einer der ersten Maschinenethiker in Europa und ist bis heute einer wenigen weltweit, die laufend Prototypen – sogenannte moralische Maschinen – erstellen und erforschen, vor allem Chatbots und Sprachassistenten sowie tierfreundliche Maschinen. Seine Beschäftigung mit Roboter- und Maschinenethik begann in den 1990er-Jahren, als er sich mit der Verantwortung und den Rechten und Pflichten von Systemen beschäftigte, auf der Grundlage der Arbeiten von William Bechtel und James H. Moor. Er ist bis heute der Überzeugung, dass Computer und Roboter keine Verantwortung tragen und keine Rechte und Pflichten haben können. Man kann ihnen lediglich Verpflichtungen auferlegen oder, noch schwächer ausgedrückt, Aufgaben geben, die sie als unsere Werkzeuge und Diener abzuarbeiten haben, und moralische Regeln, an die sie sich halten müssen – eben das ist die Aufgabe der Maschinenethik. Im Kundenmagazin ti&m special vom Januar 2024 ist ein Interview mit Oliver Bendel abgedruckt. Darin geht es um autonome Maschinen, von deren Einsatz er in manchen Bereichen abrät, und um die Disziplin der Maschinenethik. Der Beitrag mit dem Titel „In manchen Kontexten sollten wir keine autonomen Systeme einsetzen“ kann hier heruntergeladen oder über die Website des Unternehmens bezogen werden.
Luca Beutel, Betreiber des Podcasts „Inspirierend anders“, hat mit Prof. Dr. Oliver Bendel ein Interview zu KI und Robotik geführt. Die Aufnahme fand bereits im Sommer statt, auf Sendung ging man am 16. November 2023. Unter anderem drehte sich das Gespräch um Roboter als Subjekte und Objekte der Moral. Der Technikphilosoph aus Zürich hält nichts davon, Robotern moralische Rechte zuzugestehen. Er knüpft solche an Empfindungs- und Leidensfähigkeit bzw. Bewusstsein. Nach seiner Ansicht verläuft ein tiefer Graben zwischen Lebewesen und Dingen, und es sei gefährlich, diesen einebnen zu wollen. Auch von Pflichten möchte er nicht sprechen, höchstens von Verpflichtungen, die wir Robotern auferlegen, noch besser von Aufgaben, die sie erledigen müssen, unter Beachtung moralischer Regeln. Sogenannte moralische Maschinen sind neue, merkwürdige, unvollständige Subjekte der Moral. Sie haben kein Bewusstsein, keine Intuition, keine Empathie, keinen freien Willen, aber sie können – als autonome Maschinen alleingelassen in geschlossenen, halboffenen oder offenen Welten – verschiedene Optionen erwägen und eine von ihnen auswählen. Dies ist eine funktionale Moral, die allenfalls mit der Moral mit Fundamentalisten zu tun hat – aber im Robozän kann sie eine Bereicherung darstellen, vor allem wenn Maschinen auf Menschen oder Tiere treffen, etwa als soziale Roboter. Der Podcast kann über open.spotify.com/episode/4okY8VaLGMz0IVSLptgfaO?si=lArWhSfsQxyVwoFDiEXNtg aufgerufen werden.
Sebastian Albert ging laut einer Meldung von idw-online beim Bundeswettbewerb Künstliche Intelligenz (BWKI) als Sieger in der Sonderkategorie „Hardware“ hervor. „Angetreten als ‚Igelretter‘, entwickelte der 20-Jährige aus March bei Freiburg einen Algorithmus, der mit Hilfe eines Aufsatzes am Mähroboter Igel erkennt und diesen ausweicht. Er schützt sie so vor dem qualvollen Tod. Ausgezeichnet wurde das Projekt mit einem Geldpreis in Höhe von 750 Euro.“ (iwd-online, 13. November 2023) Damit hat der Nachwuchsforscher ein Projekt wiederholt, das Prof. Dr. Oliver Bendel von August 2019 bis Januar 2020 mit einem Team von drei Studenten und einer Studentin im Kontext der Maschinenethik durchführte. Der Wirtschaftsinformatiker und Technikphilosoph aus Zürich verfasste nach Abschluss zusammen mit Emanuel Graf und Kevin Bollier das Paper „The HAPPY HEDGEHOG Project“ und präsentierte es zusammen mit Emanuel Graf bei den AAAI 2021 Spring Symposia. Der Prototyp eines Mähroboters benutzt eine Wärmebildkamera und Machine Learning. Im ersten Schritt untersucht er seine Umgebung auf warme Objekte in einem bestimmten Temperaturbereich. Wenn er etwas gefunden hat, was zu einem Lebewesen passt, leitet er nähere Untersuchungen ein. Zu diesem Zweck wurde er mit Igelbildern trainiert. Stellt er fest, dass es sich um ein solches Tier handelt, unterbricht er seine Arbeit. HAPPY HEDGEHOG inspiriert seit seiner Erfindung Firmen und Forscher. Mehrere Medien haben seit 2021 über den tierfreundlichen Mähroboter berichtet, etwa der Beobachter und das Magazin der Schweizer Tierschutzes. Die Stuttgarter Zeitung berichtete am 8. November 2023 über den BWKI und erwähnte dabei auch das Original aus der Schweiz.
Abb.: Ein Igel mit einem Mähroboter (Bild: DALL-E 3)
Beim „Digital Ethics Summit“ am 14. September 2023 in Düsseldorf – keine Fachtagung, sondern eine populärwissenschaftliche und mediengetriebene Veranstaltung – trat u.a. der Germanist und Philosoph Richard David Precht auf. Er wird seitdem mit dem Satz „Wir verzeihen Maschinen nicht, was wir Menschen verzeihen müssen.“ zitiert. Dieser Gedanke tritt allerdings im Zusammenhang mit dem autonomen Fahren und in anderen Zusammenhängen seit über zehn Jahren in unterschiedlichen Varianten auf. Die Süddeutsche Zeitung zitiert den Rechtswissenschaftler Eric Hilgendorf im Mai 2012 mit den Worten „Menschen verzeiht man Fehler, Robotern nicht“. In einem Interview mit dem Informations- und Maschinenethiker Oliver Bendel aus dem Jahre 2016, ausgehend von humanoiden Robotern mit hoheitlichen Aufgaben, heißt es: „Eine Möglichkeit ist, dass die Maschinen eines Tages so verlässlich und intelligent werden, dass wir ihnen vertrauen. Eine andere Möglichkeit ist, dass sie wie wir Fehler machen, wir ihnen diese Fehler aber nicht verzeihen, nicht verzeihen können, weil es eben Maschinen sind.“ Im Artikel „Cloud am Steuer“ von 2014 wird er mit Blick auf autonome Autos mit den Worten zitiert: „Vielleicht würden die Menschen den Maschinen dann irgendwann auch mehr erlauben – und mehr verzeihen.“ In Artikeln und Interviews wies Oliver Bendel immer wieder darauf hin, dass man Menschen eher verzeiht als Maschinen und dass dies Folgen hat für die Akzeptanz des autonomen Fahrens, bei dem zwangsläufig Unfälle passieren. Eigentlich stammt die Diskussion aber aus den 1970er- und 1980er-Jahren. In seinem zweiten Studium in den 1990ern hat Oliver Bendel in einer Arbeit zur Informationsethik u.a. William Bechtel zitiert: „If we accept this result that some computers could be held responsible for their decisions if they were adaptable systems that learned to behave in particular ways in their environment, there will be conditions under which we will forgive them and not hold them responsible. These would be much the same as the circumstances under which we would cease to hold humans responsible.“ Schon damals hat sich Oliver Bendel dagegen verwahrt, dass Computer, KI-Systeme und Roboter Verantwortung übernehmen können.
Die Maschinenethik widmet sich maschineller oder künstlicher Moral bzw. moralischen Maschinen. Üblicherweise werden moralische Regeln in Maschinen gepflanzt, an die sich diese strikt halten. Seit einiger Zeit verwendet man auch Machine Learning, etwa im Kontext der Pflege. Die Maschine lernt aus ihren Erfahrungen bzw. aus den Daten und passt ihr Verhalten an. Unter dem Begriff der Constitutional AI erhält diese Richtung nun Auftrieb. Im Vordergrund stehen Sprachmodelle wie GPT-3 und GPT-4, die mit Leitlinien, Richtlinien und Gesetzen trainiert werden. An der Hochschule für Wirtschaft FHNW beginnt am 19. September 2023 das zweiteilige Projekt „CAIBOT: Der Chatbot, der auf Constitutional AI beruht“. Initiiert hat es Prof. Dr. Oliver Bendel, der seit vielen Jahren im Bereich der Maschinenethik forscht und mit seinen wechselnden Teams zahlreiche Prototypen gebaut hat. Für das Projekt konnte Cédric Rico Wespi gewonnen werden. Er wird im Rahmen seiner Bachelor Thesis Grundlagen zu Constitutional AI erarbeiten und vergleichbare Anwendungen studieren. Im zweiten Teil, den ein Entwickler übernimmt, wird der CAIBOT prototypisch implementiert. Die ersten Ergebnisse werden im Januar 2024 präsentiert.
In der FAZ vom 29. August 2023 ist Melanie Mühl im Gespräch mit Prof. Dr. Oliver Bendel. Auf einer knappen Seite, die im Feuilleton untergebracht ist, geht es um Chatbots, Sprachassistenten und soziale Roboter. Es geht um die Beziehungen mit ihnen, die immer einseitig bleiben, um Täuschung und Betrug, aber auch um die Freude, die man mit Artefakten haben kann. Natürlich dürfen Sprachmodelle wie GPT nicht fehlen, und mit Blick auf Sexroboter stellt Oliver Bendel fest, dass jene zu prüde für Dirty Talk sind. Man muss sie mit speziellem Material trainieren, um sie für dieses Geschäftsfeld zu erschließen. Und genau das machen Unternehmen wie RealDoll bzw. Realbotix seit Jahren. Wer 10.000 Dollar und mehr für Harmony ausgibt, will eben nicht nur Sex mit ihr haben, sondern auch eine (wie auch immer geartete) Beziehung mit ihr führen, und dafür braucht es Sprache. Der Artikel „Für Dirty Talk ist GPT zu prüde“ ist in der Printausgabe erschienen. Zudem steht der Artikel in der Onlineausgabe mit abweichendem Bildmaterial zur Verfügung.
Am 31. August 2023 findet in Zürich die Innocare 2023 statt. Bei dem Event zu Pflegerobotern sprechen Prof. Dr. Oliver Bendel, Sylvia Stocker, Alexander Pröll, Prof. Dr. David Matusiewicz, Beat Sommerhalder und Sari Wettstein. Partner der Veranstaltung sind United Robotics Group, Arabesque, Achermann und HPE Aruba Networks. Prof. Dr. Oliver Bendel geht in seiner 20-minütigen Eröffnungsrede auf Pflegeroboter aus Sicht von Informations- und Maschinenethik ein. Es werden die Ziele, Aufgaben und Merkmale von Pflegerobotern geklärt und Beispiele vorgestellt. Auf dieser Grundlage werden Überlegungen aus der Perspektive der Ethik angestellt. Am Ende soll deutlich werden, welche Robotertypen und Prototypen bzw. Produkte es gibt, welche Zwecke sie erfüllen, welche Funktionen sie übernehmen und welche Implikationen und Konsequenzen dies für den Einzelnen und die Gesellschaft hat. Pflegeroboter mögen zur persönlichen Autonomie beitragen und zugleich die informationelle Autonomie schwächen. Es ist wichtig, Serviceroboter und soziale Roboter im Gesundheitsbereich so zu gestalten, dass sie möglichst allen Anforderungen und Bedürfnissen gerecht werden und nützliche Werkzeuge für Pflegekräfte und Pflegebedürftige sind. Die Anmeldung erfolgt über inno-care.ch.
Abb.: Oliver Bendel mit Pepper (Foto: Sara Zarubica)
Das Schweizer Magazin Bref hat im Juni 2023 ein Interview mit Prof. Dr. Oliver Bendel abgedruckt. Es geht darin u.a. um künstliche Intelligenz, etwa um Sprachmodelle, die ChatGPT und Bildgeneratoren wie DALL-E zugrunde liegen – und eigenen Projekten wie @ve und @llegra. Mit diesen Chatbots sollen tote und gefährdete Sprachen wiederbelebt bzw. gerettet werden. In früheren Projekten pflanzten die Teams um Oliver Bendel den Chatbots im Kontext der Maschinenethik vor allem moralische Regeln ein. Gegen Ende des Interviews heißt es: „Wir sollten immer daran denken: Die KI ist ein Werkzeug. Wir haben es geschaffen und wir haben die Macht, es zu gestalten und zu kontrollieren. Als Maschinenethiker habe ich dafür gesorgt, dass unseren Chatbots moralische Regeln eingepflanzt werden, an die sie sich strikt halten. Sie erkennen Probleme des Benutzers, die wir vorausgesehen haben, verhalten sich ihm gegenüber moralisch adäquat und machen immer wieder deutlich, dass sie nur Maschinen sind. Das alles ist sehr verlässlich.“ Das Interview kann über brefmagazin.ch/artikel/der-digitale-graben-wird-durch-die-ganze-welt-gehen/ aufgerufen werden.
Abb.: Der Maschinenethiker Oliver Bendel (Foto: Shift/Louis Rafael)
Die Shift, eine Tagung zu Fragen von Informations-, Roboter- und KI-Ethik, fand am 20. April 2023 zum fünften Mal statt. Initiatorin und Organisatorin ist Cornelia Diethelm. Moderatorin war wieder Patrizia Laeri. Die Keynote hielt Prof. Dr. Oliver Bendel aus Zürich. Das Video dazu ist am 19. Mai 2023 erschienen. Oliver Bendel ging zunächst auf soziale Roboter ein und auf die Disziplinen Künstliche Intelligenz, Maschinenethik und Maschinelles Bewusstsein. Dann beschrieb er mehrere soziale Roboter, die auch als Serviceroboter im engeren Sinne eingesetzt werden. Auf dieser empirischen Basis stellte er ethische Überlegungen an. Am Ende behandelte er Sprachmodelle wie GPT-3 bzw. GPT-4 und PaLM-E. Er zeigte, wie soziale Roboter und Serviceroboter von diesen profitieren können, in ihrer Sprachfähigkeit und bei ihrer Wahrnehmung der Welt. Auch Ansätze der Maschinenethik waren ein Thema, von der Einpflanzung moralischer Regeln bis hin zur Nutzung von Moralmenüs. Das Video kann hier aufgerufen werden.
Abb.: Oliver Bendel bei der Shift (Foto: Shift/Louis Rafael)
Die Maschinenethik kennt ganz unterschiedliche Ansätze. Man kann moralische Regeln und Werte in Systeme und Maschinen einpflanzen. Sie können vom Entwickler stammen oder von einer Ethikkommission. Sie können auch in einem mehrstufigen Verfahren von verschiedenen Interessengruppen entwickelt worden sein. Die Maschinen halten sich strikt an die moralischen Regeln und Werte – dies ist der Normalfall und der Fall bei Maschinen wie GOODBOT, BESTBOT oder HAPPY HEDGEHOG – oder passen sie selbst an. Wenn sie sie selbst anpassen, kann Machine Learning zum Einsatz kommen. Eine Ergänzung der klassischen moralischen Maschinen ist das Moralmenü, das dem Benutzer oder Besitzer die Auswahl verschiedener Optionen erlaubt. Bei Sprachmodellen gibt es ebenfalls mehrere Umsetzungen. Dass sie bestimmte Prompts verweigern, wurde ihnen i.d.R. einprogrammiert. Dass sie in eine bestimmte Richtung tendieren, etwa was Atomkraft angeht, kann am Reinforcement Learning from Human Feedback (RLFH) liegen. Das Unternehmen Anthropic, gegründet von ehemaligen Open-AI-Mitarbeitern, trainiert laut The Verge seinen Chatbot Claude – der auf einem Sprachmodell basiert – mit Hilfe von ethischen Prinzipien. Es greift u.a. auf die Allgemeine Erklärung der Menschenrechte der Vereinten Nationen und die Nutzungsbedingungen von Apple zurück. Es handelt sich laut Mitgründer Jared Kaplan um Constitutional AI – im Grunde nichts anderes als eine spezifische Methode der Maschinenethik. Er gibt zur Auskunft: „The basic idea is that instead of asking a person to decide which response they prefer [with RLHF], you can ask a version of the large language model, ‚which response is more in accord with a given principle?'“ (The Verge, 9 May 2023) Im Paper „Constitutional AI: Harmlessness from AI Feedback“ erklärt eine Forschergruppe um Yuntao Bai: „We experiment with methods for training a harmless AI assistant through self-improvement, without any human labels identifying harmful outputs. The only human oversight is provided through a list of rules or principles, and so we refer to the method as ‚Constitutional AI‘. The process involves both a supervised learning and a reinforcement learning phase.“ Das Paper erwähnt Maschinenethik nicht einmal – aber diese Disziplin wird durch die Anwendung bei Sprachmodellen einen weiteren Aufschwung erleben.
Abb.: Anthropic sitzt in San Francisco (Foto: Stefanie Hauske)
