„‚ChatGPT‘ steht für ‚Chat‘ (dt. ‚Schwatz‘) und ‚Generative Pre-trained Transformer‘. Es handelt sich um einen Chatbot (bzw. ein System zum Produzieren von Content) von OpenAI, dem das Sprachmodell GPT-3.5 desselben Unternehmens zugrunde liegt. Die Trainingsdaten stammen u.a. aus Foren, Artikeln und Büchern sowie gesprochener Sprache. Benutzt wird eine spezielle Form von Machine Learning, nämlich Reinforcement Learning from Human Feedback (RLHF). Dabei sind Menschen involviert, die bestimmte Antworten für gut und richtig befinden. Mit ihrem Feedback wird ein Belohnungssystem trainiert, das wiederum den Chatbot trainiert.» Mit diesen Worten beginnt ein Beitrag von Prof. Dr. Oliver Bendel im Gabler Wirtschaftslexikon, der am 24. Januar 2023 erschienen ist. Es wird auf Entwicklung und Hintergrund eingegangen. Zudem wird die Perspektive der Ethik eingenommen. So wird der Chatbot zum ersten Mal als moralische Maschine bezeichnet und damit in die Nähe von GOODBOT und BESTBOT gerückt. Der Beitrag kann über wirtschaftslexikon.gabler.de/definition/chatgpt-124904 aufgerufen werden. Er wird in den nächsten Monaten immer wieder aktualisiert und erweitert.
„Boston Dynamics just released the latest demo of its humanoid robot, Atlas. The robot could already run and jump over complex terrain thanks to its feet. Now, the robot has hands, per se. These rudimentary grippers give the robot new life. Suddenly, instead of being an agile pack mule, the Atlas becomes something closer to a human, with the ability to pick up and drop off anything it can grab independently.“ (TechCrunch, January 18, 2023) This was reported by TechCrunch on January 18, 2023. Hands are actually very important for Atlas. The humanoid robot could now pick up or move heavy objects on a construction site. But it could also take care of trapped or injured animals in a nature park, freeing them or providing them with food and water. Such visions have been described by robot ethicist and machine ethicist Oliver Bendel for some time. A video released on January 18, 2023 shows the grippers picking up construction lumber and a nylon tool bag. „Next, the Atlas picks up a 2×8 and places it between two boxes to form a bridge. The Atlas then picks up a bag of tools and dashes over the bridge and through construction scaffolding. But the tool bag needs to go to the second level of the structure – something Atlas apparently realized and quickly throws the bag a considerable distance.“ (TechCrunch, January 18, 2023) At the end of the video, Atlas does a somersault and then extends its hand – its brand new hand – triumphantly.
Fig.: Atlas from Greek mythology at Frankfurt main station
Bereits 2020 wurde eine große Umfrage zu Umarmungsrobotern durchgeführt (HUGGIE Project I). Die Ergebnisse wurden von Leonie Stocker, Ümmühan Korucu und Oliver Bendel im Buchbeitrag „In den Armen der Maschine“ im Band „Soziale Roboter“ veröffentlicht. Im Sommer 2022 wurde an der Hochschule für Wirtschaft FHNW ein weiteres Projekt ausgeschrieben, das in Abgrenzung zum Vorgängerprojekt HUGGIE Project II genannt wurde. Es konnte ein vierköpfiges Team gewonnen werden, mit Andrea Puljic, Robin Heiz, Furkan Tömen und Ivan De Paola. Die Aufgabe lautete, einen Umarmungsroboter namens HUGGIE zu bauen und zu testen. Dabei sollte auf den Ergebnissen von HUGGIE Project I aufgesetzt werden. Insbesondere sollte eruiert werden, ob eine robotische Umarmung zum Wohlbefinden und zur Gesundheit beiträgt und ob Stimme, Vibration als Simulation des Herzschlags und Duft die Akzeptanz der Umarmung durch einen Roboter erhöhen. Damit wurden Hinweise aus der Befragung im HUGGIE Project I aufgenommen. Ferner fanden zum Vergleich Umarmungen mit einem Riesenplüschtier namens Teddy statt. Die Ergebnisse zeigen, dass Menschen von robotischen Umarmungen profitieren und sie dadurch ihr Wohlbefinden und ihre Gesundheit steigern können. Im Pretest fand sich dafür deutliche Evidenz, im Haupttest immer noch ausreichende. Einige haben aber bereits – wie HUGGIE Project I offenbarte – in ihrer Vorstellung eine Aversion gegen robotische Umarmungen, die wiederum einige auch in der Realität (HUGGIE Project II) zeigten. Wichtig sind Wärme und Weichheit von Körper und Armen. Dies belegte bereits die Forschung von Alexis E. Block und Katherine J. Kuchenbecker. Als weniger relevant erwiesen sich Stimme, Vibration und Duft. Allerdings gibt es deutliche Anzeichen dafür, dass eine weibliche Stimme die Akzeptanz erhöhen kann und daher in diesem Kontext weiter erforscht und angepasst werden muss. Die Erkenntnisse wurden in einem Paper zusammengefasst und bei einer internationalen Konferenz eingereicht.
Abb.: HUGGIE umarmt den Probanden, Teddy ruht sich aus (Foto: Furkan Tömen)
Am 19. Januar 2023 fand die Abschlusspräsentation zum Projekt @ve statt, das im September 2022 begonnen hatte. Der Chatbot läuft auf der Website www.ave-bot.ch und auf Telegram. Er basiert wie ChatGPT auf GPT-3 von OpenAI (bei @ve handelt es sich aber nicht um GPT-3.5, sondern um GPT-3.0). Initiiert hat das Projekt Prof. Dr. Oliver Bendel, der sich verstärkt toten, ausgestorbenen und gefährdeten Sprachen widmen will. Entwickelt wurde @ve von Karim N’diaye, der an der Hochschule für Wirtschaft FHNW Wirtschaftsinformatik studiert hat. Man kann sich mit ihr auf Lateinisch unterhalten, also in einer toten Sprache, die dadurch gewissermaßen lebendig wird, und ihr Fragen zur Grammatik stellen. Getestet wurde sie von einer einschlägigen Expertin. Ein Nutzen besteht laut Karim N’diaye darin, dass man rund um die Uhr auf Latein kommunizieren kann und dabei überlegen muss, was und wie man schreibt. Eine Gefahr sei, dass immer wieder Fehler in den Antworten enthalten sind. So ist zuweilen die Wortreihenfolge nicht korrekt. Zudem kann es sein, dass der Sinn verdreht wird. Dies kann bei einem menschlichen Lehrer freilich auch passieren, und der Lernende sollte in jedem Falle wachsam sein und nach Fehlern suchen. Ohne Zweifel ist @ve ein Tool, das mit Gewinn in den Lateinunterricht integriert werden kann. Dort können die Schüler berichten, was sie mit ihr zu Hause erlebt haben, und sie können mit ihr vor Ort alleine oder in der Gruppe, vom Lehrer begleitet, einen Schwatz halten. Ein Nachfolgeprojekt zu einer gefährdeten Sprache ist bereits ausgeschrieben.
„Bessere Texte im Handumdrehen“ – so ist DeepL Write betitelt. Und weiter: „Schreiben Sie klar, präzise und fehlerfrei“. Tatsächlich werden viele Rechtschreibfehler korrigiert. Es werden aber offenbar eigene Regeln angewandt. Sätze wie „Die Lektor*innen gehen ihrer ASrbeit nach.“ schreibt DeepL Write in „Die Lektor*innen gehen ihrer Arbeit nach.“ um. Immerhin wurde der Tippfehler erkannt. Den Rest kann und muss man beanstanden, denn im Wortinneren treten keine Sonderzeichen auf, wenn man von Bindestrichen absieht, mit denen man Wörter zu Komposita koppelt, und das Gendersternchen ist als Rechtschreibfehler zu werten. Als Alternative wird „Die Lektor*innen arbeiten.“ angezeigt. Auch hier ist das Gendersternchen nicht eliminiert – zudem ergibt sich eine Bedeutungsverschiebung. Aus „Ich besuche demnächst eine E-Learning Konferenz.“ macht das Tool den Satz „Ich werde demnächst an einer E-Learning-Konferenz teilnehmen.“ Damit wurde aus dem falschen Kompositum „E-Learning Konferenz“ das richtige „E-Learning-Konferenz“ – denn hier muss zwingend durchgekoppelt werden. In diesen Belangen ist die MS-Word-Rechtschreibprüfung sehr schwach, denn es werden von ihr regelmäßig falsch geschriebene Komposita vorgeschlagen (was DeepL Write zuweilen aber auch macht). Die Umformulierung an sich ist unnötig und sogar weniger elegant als das Original. DeepL Write wird Schülern und Studenten dabei helfen, bestimmte Rechtschreibfehler zu vermeiden. Es wird ihnen aber auch umständliche Sätze nahelegen. Und solange es sich nicht an die Regeln des Rechtschreibrats hält, ist der Nutzen begrenzt.
Abb.: Beim Schreiben mit dem und neben dem Computer
Im Studiengang Data Science an der Hochschule für Technik FHNW werden von den Studenten und Studentinnen u.a. Challenges und Mini-Challenges bewältigt. Eine Mini-Challenge, die von Prof. Dr. Oliver Bendel ausgeschrieben wurde, trägt den Titel „Ein Sprachassistent für Krisen und Katastrophen“. Pascal Berger hat die ca. vierzigjährige Julia konzipiert, die die Bewohner der Schweiz im Falle einer atomaren Katastrophe im Inland und im nahen Ausland dabei unterstützen soll, „sich zu beruhigen und entschlossen zu handeln“. Entsprechend gestaltet sich der Ablauf des Dialogs. Im ersten Teil soll sich Julia „kurz vorstellen“ und mit ruhiger Stimme darum bitten, „ruhig durchzuatmen“. Dabei sei es wichtig, dass in der Stimme eine gewisse Empathie zum Ausdruck kommt. Im zweiten Teil soll „der Voicebot versuchen, Verhaltensanweisungen an den Anwender weiterzugeben“. Julia spricht Schweizerdeutsch in einer Ausprägung, die z.B. auch Deutsche gut verstehen können. Für die Erstellung der Beispielsequenz nutzte der Student ttsfree.com. Unter „SELECT LANGUAGE AND REGIONS TO SPEECH“ wählte er „TTS Server 2“, unter „Language:“ die Nummer „62. German (Switzerland) – CH“ und dann „Leni“ als weibliche Stimme. „Voice Pitch“ und „Adjust Voice Speed“ wurden auf den Standardwerten „-50%“ und „-100%“ belassen. Die grundsätzlich nutzbaren SSML-Befehle wirkten sich kaum aus. Das Ergebnis kann hier angehört werden.
Bild hat Oliver Bendel zu sogenannten Replicas befragt, zu Kopien lebender oder verstorbener Personen. Nach ihm können folgende Komponenten vorhanden sein: 1. Die Person, um die es geht, etwa ein unheilbar Kranker, lässt sich in Aktion filmen, ähnlich wie im Falle der ABBAtare, bei denen man Motion Capture verwendet hat. Das kann Tage und Woche dauern. So erhält man Bilder, aus denen man (virtuelle, hier auch animierte) Avatare und Pseudohologramme (letztlich Projektionen) erzeugen kann, mitsamt der individuellen Bewegungen bzw. der individuellen Mimik und Gestik. 2. Es kann auch eine synthetische Kopie der jeweiligen Stimme erzeugt werden. Dies ist seit mehreren Jahren mit nur wenigen Minuten Aufnahmematerial möglich. Der Avatar spricht dann wie die kranke bzw. dann verstorbene Person, mit all den charakteristischen Eigenschaften ihrer Stimme. 3. Zudem wird persönliches Material eingelesen, etwa Briefe, E-Mails und Sprachnachrichten, und von einem KI-System verwertet. Dieses lernt, wie die Person sich schriftlich und mündlich ausdrückt, und kann der Replica diese Eigenschaften mitgeben. Zusätzlich kann der Kranke auch bestimmte Sequenzen einsprechen, um das Datenmaterial zu vervollständigen. Eine echte Replica nutzt KI, um aus diesen Daten zu lernen und Neues zu machen. 4. Der letzte Schritt, der aber von kaum einer Firma beschritten wird, ist die Anfertigung eines humanoiden Roboters – man würde hier von einem Androiden sprechen. Diese Anfertigung mit Silikonhaut und Motoren im Gesicht ist sehr teuer und letztlich noch weniger realistisch als der (virtuelle) Avatar. Diese und andere Antworten sind in den Artikel „Das ist dran am Zukunftsplausch mit den Toten“ von Peter Amenda eingeflossen, der am 16. Januar 2023 in der Onlineausgabe erschienen ist.
In London strömen die Fans seit Mai 2022 zur ABBA-Show Voyage und zu den darin auftretenden ABBAtaren. Manche sind 70, 80 Jahre alt und mit dem Rollator unterwegs. Andere sind jung und kennen ABBA vor allem über die Filme („Mamma Mia!“ von 2008 und „Mamma Mia! Here We Go Again“ von 2018). Man hat Agnetha, Björn, Anni-Frid und Benny wochenlang ihre Songs vortragen lassen und dabei ihre Bewegungen beim Tanzen und ihre Emotionen beim Singen erfasst. Vor allem hat man Motion Capture verwendet. Die Gesichter wurden anschließend digital verjüngt. Und offensichtlich auch die Körper, die zum Teil unnatürlich dünn wirken, vor allem die Beine der Frauen. Überhaupt verfügen diese über perfekte Figuren und Hintern, und sie beherrschen Moves, die modern wirken – man hat die Bewegungen junger Tänzer und Tänzerinnen hinzugenommen. Die Avatare erscheinen in der Mitte der Bühne. Man macht das in diesem Falle mit riesigen Bildschirmen, Spiegeln und anderen Hilfsmitteln. Die Avatare sollen aussehen wie Hologramme, also eine Präsenz im Raum haben. Es ist sozusagen keine physische Präsenz wie bei Robotern, sondern eine virtuelle. Die Wirkung der Show ist von Anfang an enorm. Das Publikum, das sich auf Dance Floor und Sitzreihen in der ABBA-Arena (engl. „ABBA Arena“) verteilt, jubelt, lacht und weint. Spätestens bei „Dancing Queen“ ist man im ekstatischen Tanz vereint. Reifere Frauen denken vielleicht an ihre vergangene Jugend, ältere Männer an ihre verflossene Jugendliebe. Überhaupt ging es immer wieder um Unsterblichkeit und Vergänglichkeit, um Sein und Schein – „to be or not to be“, wie Benny an einer Stelle deklamierte. Oliver Bendel veröffentlichte 2001 im „Lexikon der Wirtschaftsinformatik“ den Beitrag „Avatar“ und 2019 im Springer-Buch „AI Love You“ (2019) den Beitrag „Hologram Girl“ – wo die damals geplante ABBA-Show bereits erwähnt wird.
As part of the AAAI 2023 Spring Symposia in San Francisco, the symposium „Socially Responsible AI for Well-being“ is organized by Takashi Kido (Teikyo University, Japan) and Keiki Takadama (The University of Electro-Communications, Japan). The AAAI website states: „For our happiness, AI is not enough to be productive in exponential growth or economic/financial supremacies but should be socially responsible from the viewpoint of fairness, transparency, accountability, reliability, safety, privacy, and security. For example, AI diagnosis system should provide responsible results (e.g., a high-accuracy of diagnostics result with an understandable explanation) but the results should be socially accepted (e.g., data for AI (machine learning) should not be biased (i.e., the amount of data for learning should be equal among races and/or locations). Like this example, a decision of AI affects our well-being, which suggests the importance of discussing ‚What is socially responsible?‘ in several potential situations of well-being in the coming AI age.“ (Website AAAI) According to the organizers, the first perspective is „(Individually) Responsible AI“, which aims to clarify what kinds of mechanisms or issues should be taken into consideration to design Responsible AI for well-being. The second perspective is „Socially Responsible AI“, which aims to clarify what kinds of mechanisms or issues should be taken into consideration to implement social aspects in Responsible AI for well-being. More information via www.aaai.org/Symposia/Spring/sss23.php#ss09.
In January 2023, the Proceedings of Robophilosophy 2022 were published. Included is the paper „Robots in Policing“ by Oliver Bendel. From the abstract: „This article is devoted to the question of how robots are used in policing and what opportunities and risks arise in social terms. It begins by briefly explaining the characteristics of modern police work. It puts service robots and social robots in relation to each other and outlines relevant disciplines. The article also lists types of robots that are and could be relevant in the present context. It then gives examples from different countries of the use of robots in police work and security services. From these, it derives the central tasks of robots in this area and their most important technical features. A discussion from social, ethical, and technical perspectives seeks to provide clarity on how robots are changing the police as a social institution and with social actions and relationships, and what challenges need to be addressed.“ (Abstract) Robots in policing is a topic that has not received much attention. However, it is likely to become considerably more topical in the next few years. More information about the conference on cas.au.dk/en/robophilosophy/conferences/rpc2022.
Fig.: The conference poster at the University of Helsinki
Why is your baby crying? And what if artificial intelligence (AI) could answer that question for you? „If there was a flat little orb the size of a dessert plate that could tell you exactly what your baby needs in that moment? That’s what Q-bear is trying to do.“ (Mashable, January 3, 2023) That’s what tech magazine Mashable wrote in a recent article. At CES 2023, the Taiwanese company qbaby.ai demonstrated its AI-powered tool which aims to help parents resolve their needs in a more targeted way. „The soft silicone-covered device, which can be fitted in a crib or stroller, uses Q-bear’s patented tech to analyze a baby’s cries to determine one of four needs from its ‚discomfort index‘: hunger, a dirty diaper, sleepiness, and need for comfort. Q-bear’s translation comes within 10 seconds of a baby crying, and the company says it will become more accurate the more you use the device.“ (Mashable, January 3, 2023) Whether the tool really works remains to be seen – presumably, baby cries can be interpreted more easily than animal languages. Perhaps the use of the tool is ultimately counterproductive because parents forget to trust their own intuition. The article „CES 2023: The device that tells you why your baby is crying“ can be accessed via mashable.com/article/ces-2023-why-is-my-baby-crying.
In January 2023, the proceedings of Robophilosophy 2022 were published, under the title „Social Robots in Social Institutions“. „This book presents the Proceedings of Robophilosophy 2022, the 5th event in the biennial Robophilosophy conference series, held in Helsinki, Finland, from 16 to 19 August 2022. The theme of this edition of the conference was Social Robots in Social Institutions, and it featured international multidisciplinary research from the humanities, social sciences, Human-Robot Interaction, and social robotics. The 63 papers, 41 workshop papers and 5 posters included in this book are divided into 4 sections: plenaries, sessions, workshops and posters, with the 41 papers in the ‚Sessions‘ section grouped into 13 subdivisions including elderly care, healthcare, law, education and art, as well as ethics and religion. These papers explore the anticipated conceptual and practical changes which will come about in the course of introducing social robotics into public and private institutions, such as public services, legal systems, social and healthcare services, or educational institutions.“ (Website IOS Press) The proceedings contain the paper „Robots in Policing“ by Oliver Bendel and the poster „Tamagotchi on our couch: Are social robots perceived as pets?“ by Katharina Kühne, Melinda A. Jeglinski-Mende, and Oliver Bendel. More information via www.iospress.com/catalog/books/social-robots-in-social-institutions.
Seit 2012 sind auf Initiative von Oliver Bendel 21 Konzepte und Artefakte der Maschinenethik und der Sozialen Robotik entstanden, die eine Idee veranschaulichen oder die Umsetzung verdeutlichen sollen. Darunter sind Conversational Agents wie GOODBOT, LIEBOT, BESTBOT und SPACE THEA, die auf Konferenzen, in Journals und in den Medien vorgestellt wurden, und tierfreundliche Maschinen wie LADYBIRD und HAPPY HEDGEHOG, die in Büchern wie „Die Grundfragen der Maschinenethik“ von Catrin Misselhorn und auf indischen, chinesischen und amerikanischen Plattformen behandelt wurden. Die letzten Entwicklungen waren ein Konzept von Ali Yürekkirmaz für ein System mit Gesichtserkennung zur Identifizierung von Bären, das von den Teilnehmern der ACI 2022 in Newcastle upon Tyne diskutiert wurde, und das CARE-MOME, präsentiert von Oliver Bendel und Marc Heimann auf der ICSR 2022 in Florenz. Beide Proceedings erscheinen Anfang 2023. In den nächsten Tagen wird das Projekt mit @ve beendet, einem auf GPT-3 basierenden Chatbot für Latein. Man kann mit ihr in dieser toten Sprache plaudern, die dann ganz lebendig erscheint, und ihr auf Deutsch verschiedene Fragen, etwa zur Grammatik, stellen. Der Entwickler Karim N’diaye stellt das Projekt am 19. Januar 2023 an der Hochschule für Wirtschaft FHNW in kleiner Runde vor. In weiteren Projekten will man sich ausgestorbenen und gefährdeten Sprachen widmen. Eine aktualisierte Übersicht zu allen Artefakten ist auf informationsethik.net und maschinenethik.net zu finden.
Abb.: Die aktualisierte Übersicht zu den Artefakten
Das Sonntagsblatt hat mit Prof. Dr. Oliver Bendel ein Interview zu KI und Sozialer Robotik geführt. Unter anderem ging es um Roboter als Subjekte und Objekte der Moral. Der Informations- und Maschinenethiker hält nichts davon, Robotern moralische Rechte zuzugestehen. Er knüpft solche an Empfindungs- und Leidensfähigkeit bzw. Bewusstsein. Nach seiner Ansicht verläuft ein tiefer Graben zwischen Lebewesen und Dingen, und es sei gefährlich, diesen einebnen zu wollen. Auch von Pflichten möchte er nicht sprechen, höchstens von Verpflichtungen, die wir Robotern auferlegen, noch besser von Aufgaben, die sie erledigen müssen, unter Beachtung moralischer Regeln. Sogenannte moralische Maschinen sind neue, merkwürdige, unvollständige Subjekte der Moral. Sie haben kein Bewusstsein, keine Intuition, keine Empathie, keinen freien Willen, aber sie können – als autonome Maschinen alleingelassen in geschlossenen, halboffenen oder offenen Welten – verschiedene Optionen erwägen und eine von ihnen auswählen. Dies ist eine funktionale Moral, die allenfalls mit der Moral mit Fundamentalisten zu tun hat – aber im Robozän kann sie eine Bereicherung darstellen, vor allem wenn Maschinen auf Menschen oder Tiere treffen, etwa als soziale Roboter. Das Interview kann in schriftlicher Form über www.sonntagsblatt.de/artikel/maschinenethiker-oliver-bendel-gpt3-pflegeroboter nachgelesen werden. Zudem gibt es einen Podcast von 45 Minuten Länge.
Abb.: Oliver Bendel bei einem Dreh mit 3sat (Foto: Sara Zarubica)
The Association for the Advancement of Artificial Intelligence (AAAI) is pleased to present the AAAI 2023 Spring Symposia, to be held at the Hyatt Regency, San Francisco Airport, California, March 27-29. According to the organizers, Stanford University cannot act as host this time because of insufficient staff. Symposia of particular interest from a philosophical point of view are „AI Climate Tipping-Point Discovery“, „AI Trustworthiness Assessment“, „Computational Approaches to Scientific Discovery“, „Evaluation and Design of Generalist Systems (EDGeS): Challenges and methods for assessing the new generation of AI“, and „Socially Responsible AI for Well-being“. According to AAAI, symposia generally range from 40–75 participants each. „Participation will be open to active participants as well as other interested individuals on a first-come, first-served basis.“ (Website AAAI) Over the past decade, the conference has become one of the most important venues in the world for discussions on robot ethics, machine ethics, and AI ethics. It will be held again at History Corner from 2024. Further information via www.aaai.org/Symposia/Spring/sss23.php.
On December 13th, 2022, the hybrid workshop „Realization of Avatar-Symbiotic Society“ was held at the ICSR. It was organized by Dr. Takahiro Miyashita (ATR) and Prof. Dr. Takashi Yoshimi (Shibaura-IT). The description of the workshop was as follows: „This workshop aims at presenting the ongoing progress of the challenges on the Moonshot (MS) human-centered long-term R&D program. It will discuss by focusing on the goal 1 of the MS dealing with the future realization of an avatar-symbiotic society and cybernetic avatars (CAs). In the workshop, semi-autonomous tele-operated robots and CG agents are called CAs. The participants will discuss with speakers who are researchers related to CAs‘ technology about the avatar-symbiotic society which enables to freely and actively participate in society for every person.“ (Website ICSR) The first lecture entitled „Avatar and the future society“ was given by Prof. Dr. Hiroshi Ishiguro (Osaka University). He introduced Erica, Telenoid, and Hugvie, among others. Hugvie is a technically expandable doll that can be hugged. He also introduced his „Avatar Infrastructure“: „Anyone, including the elderly and people with disabilities, will be able to freely participate in various activities with abilities beyond ordinary people while expanding their physical, cognitive, and perceptual abilities using a large number of CAs.“ Prof. Dr. Oliver Bendel mentioned to Hiroshi Ishiguro that two of his former students, Nhi Tran Hoang Yen and Thang Hoang Vu from Ho Chi Minh City, interpreted his Hugvie as a female figure and designed a male figur (Gendering Hugvie) as part of a project on social robots. The roboticist from Osaka replied that his Hugvie doll had no gender, but noted the reception with interest. Other presentations with exciting discussions followed. More information on the conference via www.icsr2022.it.
After an hiatus of six years, Minding Animals will return, with a conference tentatively scheduled to be held 11 – 17 July, 2024. This was announced by the organizers in a message dated December 19, 2022. „Just like the postponed 2021 conference, Minding Animals 5 (MAC5) will be hosted by the Centre for Compassionate Conservation (CfCC) in the Transdisciplinary School at the University of Technology, Sydney (UTS).“ (Message from Minding Animals International) The organizers refer to the Minding Animals Bulletin 53 regarding the vision of the conference and the preparation of the authors. „We believe that the greatest threat posed to the planet, to all planetary life, human or nonhuman animal, plant or otherwise, including the current pandemic, is the intersection of animal agriculture and the climate crisis. Hence, the urgency and criticality of climate as the key theme.“ (Minding Animals Bulletin 53) Possible subtopics include „The biodiversity crisis and climate change“, „Rewilding and compassionate conservation“, „The animal industrial complex“, „Animals, the circular economy and sustainable food systems“, and „Animals in development and food sovereignty“.
„Beim Bluewashing handelt es sich um Marketingmaßnahmen, bei denen Unternehmen, Verbände und Verbünde mit Hilfe von moralisch und sozial verbrämten Kampagnen, Botschaften und Bekenntnissen ihr Image verbessern wollen. Der Begriff ist eine Anspielung auf das Corporate Design der UNO und ihren umstrittenen United Nations Global Compact, mit dem sich einige Firmen ‚reingewaschen‘ haben. Verwandt ist das Bluewashing mit dem Greenwashing.“ Mit diesen Worten beginnt ein neuer Beitrag im Wirtschaftslexikon von Springer Gabler, der am 5. Dezember 2022 erschienen ist. In einem nächsten Abschnitt wird näher auf den Zusammenhang zwischen Bluewashing und Greenwashing eingegangen. Im dritten Abschnitt heißt es: „Beim Bluewashing kann ein Missbrauch von ethischen Kodizes (die zu allgemein gehalten oder nicht überprüft werden) und sozialen Standards (die zu wenig streng formuliert sind) stattfinden. Dies schadet deren Ruf und konterkariert deren Zweck. Die Wirtschaftsethik hinterfragt Bluewashing und Greenwashing und unterbreitet in der Unternehmensethik Vorschläge für eine ernst gemeinte und widerspruchsfreie Corporate Social Responsibility (CSR).“ Der Beitrag von Oliver Bendel kann über wirtschaftslexikon.gabler.de/definition/bluewashing-124778 aufgerufen werden.
„Robot Enhancement ist die Erweiterung und damit einhergehende Veränderung oder Verbesserung des Roboters durch den Benutzer bzw. eine Firma, etwa in funktionaler, ästhetischer, ethischer oder ökonomischer Hinsicht. Das Wort wurde in Anlehnung an ‚Human Enhancement‘ und ‚Animal Enhancement‘ gebildet, und man kann damit sowohl das Arbeitsgebiet als auch den Gegenstand bezeichnen.“ Mit diesen Worten führte Prof. Dr. Oliver Bendel im Februar 2021 im Gabler Wirtschaftslexikon in das Robot Enhancement ein. In einem Beitrag für ICTkommunikation, der am 21. Mai 2021 erschienen ist, entwarf er dann das Arbeitsgebiet des Robot Enhancement und gab Beispiele für die Anwendung: Pepper von Aldebaran wird eingekleidet und mit Accessoires ausgestattet, wie der in Dubai als Polizeiroboter eingesetzte REEM von PAL Robotics. AIBO, ein Roboterhund von Sony, wird mit Fell überzogen. Damit ein Umarmungsroboter wie HUGGIE riecht, reibt man ihn mit Duftstoffen ein. Oder man überzieht einen Metall- oder Plastikkopf mit Silikonhaut oder verlängert vorhandene Gliedmaßen. Im Dezember 2022 ist bei Mentis das Buch „Mensch-Maschine-Interaktion: Konzeptionelle, soziale und ethische Implikationen neuer Mensch-Technik-Verhältnisse“ erschienen, herausgegeben von Orsolya Friedrich, Johanna Seifert und Sebastian Schleidgen. Darin enthalten ist ein Beitrag von Oliver Bendel mit dem Titel „Möglichkeiten und Herausforderungen des Robot Enhancement“. Es handelt sich um die bislang ausführlichste Abhandlung zu diesem Arbeitsgebiet und seinem Gegenstand. Weitere Informationen über www.mentis.de/edcollbook/title/61544.
Abb.: Der Roboter ARI von PAL Robotics bei der ICSR 2022
Raffael Schuppisser, stellvertretender Chefredakteur der Aargauer Zeitung, interviewte Prof. Dr. Oliver Bendel zu Chatbots, die auf Machine Learning basieren. Ihn interessierte u.a., warum LaMDA und ChatGPT so unterschiedliche Antworten geben, etwa auf die Frage, ob sie eine Person sind oder ein Bewusstsein haben. Der Informations- und Maschinenethiker erläuterte: „Chatbots dieser Art beruhen auf Sprachmodellen. Dazu gehören GPT-3 (im Falle von ChatGPT) und Language Model for Dialogue Applications (im Falle von LaMDA). Die Sprachmodelle unterscheiden sich voneinander. Zudem werden sie unterschiedlich trainiert. Daher reagieren sie unterschiedlich auf Anfragen. Sie können mit dem Chatbot beliebige Gespräche führen. Er wird immer anders antworten. Er ruft eben nicht einfach Aussagen aus einer Wissensbasis ab, sondern kreiert sie jeweils neu. Es ist möglich, dass man ihn so trainiert hat, dass er abstreitet, eine Person zu sein oder Bewusstsein zu haben. Die Menschen, die ihn trainiert haben, hätten dann solche Antworten für gut und richtig befunden. Mit ihrem Feedback wird ein Belohnungssystem trainiert, das wiederum den Chatbot trainiert. Man kann dieses Vorgehen auch mit einer Wissensbasis kombinieren, etwa wenn es darauf ankommt, dass der Chatbot auf eine Frage hin eine bestimmte Antwort gibt oder dieselbe Aussage wiederholt trifft. So ist es einem Erfinder eines Chatbots vielleicht wichtig, dass die Angaben zu seiner Person immer korrekt und konsistent sind und auch nicht zu viel verraten wird. Wir haben unseren GOODBOT von 2013 immer wieder betonen lassen, dass er nur eine Maschine ist. Das lief allein über die feste Programmierung. Wir haben damals kein maschinelles Lernen benutzt.“ Oliver Bendel führte in weiteren Antworten aus, dass Maschinen kein echtes Bewusstsein haben können und ein solches immer nur simulieren. Am 14. und 15. Dezember 2022 griffen 22 Schweizer Zeitungen die Ausführungen auf, neben der Aargauer Zeitung etwa das St. Galler Tagblatt und die Luzerner Zeitung.
On the morning of December 15, 2022, the session „Ethics, Gender & Trust in Social Robotics“ was held at ICSR 2022. Chairs were Giulia Perugia and Oliver Bendel. Dimitri Lacroix started the session with „I designed it, so I trust it: the influence of customization on psychological ownership and trust toward robots“. He showed that in line with the predictions of the authors, customization significantly increases psychological ownership and trust toward the robot. JeeLoo Liu gave a talk on the topic of „Human-in-the-Loop Ethical AI for Care Robots and Confucian Virtue Ethics“. She explicated how Confucian virtue ethics can respond to human expectations of what kind of virtuous care robots we want in our society. Jean Choi spoke about „Effects of Realistic Appearance and Consumer Gender on Pet Robot Adoption“. By adopting theories from marketing and consumer research, the authors hypothesized that pet robots with lifelike appearance would be preferred to pet robots with machinelike appearances. They also predicted that the positive effect of lifelike appearance would be reduced for female consumers. According to the researchers, the experimental results confirmed the formulated hypotheses. The last talk was „Ambivalent Stereotypes Towards Gendered Robots: The (Im)mutability of Bias Towards Female and Neutral Robots“ by Stefano Guidi. According to the team, the results disclosed that female robots activate paternalistic stereotypes, while male robots do not. Moreover, they reveal that the ambivalence of these stereotypes is stronger in men than in women. The analyses also showed that neutral robots activate paternalistic stereotypes in men and envious stereotypes in women. More information on the conference via www.icsr2022.it.
Fig.: JeeLoo Liu during her presentation (Photo: Marc Heimann)
Die ICSR ist neben der Robophilosophy die bedeutendste Konferenz zur Sozialen Robotik. Dieses Jahr war Florenz der Veranstaltungsort. Prof. Dr. Oliver Bendel und Marc Heimann waren mit ihrem Paper „The CARE-MOMO Project“ vertreten. Sie stellten es gleich am ersten Tag (13. Dezember 2022) beim Workshop „Robot Companionship: Applications and Challenges“ in einem Vortrag vor. Zudem hatten sie am Donnerstag (15. Dezember 2022) eine Posterpräsentation dazu. Das CARE-MOMO wurde von Marc Heimann an der Hochschule für Wirtschaft FHNW umgesetzt. Es soll den Assistenzroboter Lio von F&P Robotics erweitern. Es baut auf dem MOME von 2019/2020 auf, das auf der Robophilosophy präsentiert wurde. Mit Hilfe von Schiebereglern auf dem Display von Lio kann der Pflegebedürftige (bei Bedarf zusammen mit der Pflegekraft oder dem Angehörigen) seine Präferenzen wählen und so auf einfache Weise seine moralischen und sozialen Vorstellungen und grundsätzlichen Haltungen übertragen. Implementiert wurde ein Moralmenü, das die drei Bereiche „Soziales“, „Transparenz“ und „Funktionalität“ umfasst. Weitere Informationen zur Konferenz sind über www.icsr2022.it erhältlich.
