Intelligente tutorielle Systeme (Intelligent Tutoring Systems, ITS) und pädagogische Agenten (Pedagogical Agents) wurden in den 1990er- und 2000er-Jahren intensiv erforscht. Pädagogische Agenten waren häufig Chatbots, manchmal mit Sprachausgabe. Einige hatten animierte Avatare und arbeiteten in virtuellen Lernumgebungen – wie Steve, Adele, Linda und Harmony. Der Screenshot von Harmony stammt aus der Doktorarbeit von Oliver Bendel zu pädagogischen Agenten und wurde 2001 angefertigt. Die Idee des Virtual Learning Companion (VLC) entstand in den 1980er-Jahren und bezog sich damals eher auf virtuelle Peers. Man kann sie VLCs der ersten Generation nennen. In den 1990er-Jahren wurden einige Prototypen geschaffen. Weitere Chatbots für den Bildungsbereich tauchten in den 2020er-Jahren auf. In dieser Tradition stehen die GPTs, die auf GPT-4 basieren. Nutzer ohne Programmier- oder Designkenntnisse können sie in kurzer Zeit für den Lernkontext entwickeln. Es gibt bereits viele GPTs in der Kategorie „Education“ des GPT Store. CK-12 Flexi ist der „world’s most powerful math and science AI Tutor for middle and high school students“. AI Tutor ist „skilled in guiding students through their academic queries“. Universal Primer wirbt mit dem Slogan: „Learn everything about anything“. Dies sind nur drei Beispiele vom Februar 2024 – jeden Tag kommen neue hinzu. Die meisten von ihnen vermitteln Wissen. Für ihr Paper „How Can GenAI Foster Well-being in Self-regulated Learning?“ haben Stefanie Hauske und Oliver Bendel neben dem Digital Learning Facilitator (der hauptsächlich Wissen vermittelt) einen Digital Learning Coach und einen Digital Learning Mentor geschaffen (und damit an die Tradition der pädagogischen Agenten angeknüpft). Die GPTs im Lernkontext kann man als VLCs der zweiten Generation bezeichnen, wobei diese eben auch Tutoren, Mentoren oder Coaches sein können. Sie sind dabei, die formelle Aus- und Weiterbildung an Hochschulen und in Unternehmen und das selbstregulierte Lernen zu erobern. Das Paper wird Ende März 2024 an der Stanford University beim AAAI 2024 Spring Symposium „Impact of GenAI on Social and Individual Well-being“ vorgestellt.
Abb.: Der pädagogische Agent namens Harmony aus dem Jahre 2001
Im Frühjahrssemester 2024 bindet Prof. Dr. Oliver Bendel in seine Lehrveranstaltungen an der FHNW virtuelle Tutorinnen ein. Es handelt sich um „custom versions of ChatGPT“, sogenannte GPTs. Zur Verfügung steht Social Robotics Girl für die Wahlmodule zur Sozialen Robotik, entstanden bereits im November 2023, zudem Digital Ethics Girl vom Februar 2024 für die Pflichtmodule „Ethik und Recht“ und „Ethics and Law“ innerhalb der Studiengänge Wirtschaftsinformatik und Business Information Technology (Hochschule für Wirtschaft FHNW) sowie „Recht und Ethik“ innerhalb von Geomatik (Hochschule für Architektur, Bau und Geomatik FHNW). Die virtuellen Tutorinnen haben das „Weltwissen“ von GPT-4, aber auch das spezifische Fachwissen des Technikphilosophen und Wirtschaftsinformatikers aus Zürich. Er hat vor einem Vierteljahrhundert an der Universität St. Gallen über pädagogische Agenten (engl. „pedagocial agents“) promoviert, über Chatbots, Sprachassistenten und frühe Formen sozialer Roboter im Lernbereich. Zusammen mit Stefanie Hauske von der ZHAW hat er jüngst das Paper „How Can GenAI Foster Well-being in Self-regulated Learning?“ verfasst, das beim AAAI 2024 Spring Symposium „Impact of GenAI on Social and Individual Well-being“ an der Stanford University angenommen wurde und Ende März vor Ort vorgestellt wird. Dabei geht es nicht um die Lehre an Hochschulen, sondern um das selbstregulierte Lernen von Mitarbeitern in Unternehmen.
Abb.: Zwei GPTs unterstützen die Lehre (Bild: DALL-E 3)
Der Technikphilosoph und Wirtschaftsinformatiker Prof. Dr. Oliver Bendel widmet sich seit einiger Zeit verstärkt toten, ausgestorbenen und gefährdeten Sprachen. Er ist der Meinung, dass Conversational Agents zu ihrer Stärkung und Rettung beitragen können. Nach @ve (2022), einem auf GPT-3 basierenden Chatbot für Latein, startete im März 2023 ein weiteres Projekt. Entwickelt wurde bis August 2023 der Chatbot @llegra von Dalil Jabou für das rätoromanische Idiom Vallader, das im Unterengadin zwischen Martina im Nordosten und Zernez im Südwesten sowie im Val Müstair auftritt und gefährdet ist. Der Chatbot beruht auf dem Sprachmodell GPT-4. Er hat Texteingabe und -ausgabe sowie Sprachausgabe. Der Avatar ist ein Steinbockmädchen. Man kann in Deutsch oder Rätoromanisch mit @llegra kommunizieren – sie versucht sich immer auf Vallader. Manchmal rutscht sie in Sursilvan oder Rumantsch Grischun. Das Paper „@llegra: A Chatbot for Vallader“ von Oliver Bendel und Dalil Jabou wurde nun vom International Journal of Information Technology angenommen. Es wird in einigen Wochen erscheinen. Das nächste Idiom des Rätoromanischen soll noch in diesem Jahr in Angriff genommen werden.
Abb.: Ein Junge im Unterengadin plaudert mit @llegra
At the end of January 2024, the article „‚Ick bin een Berlina‘: dialect proficiency impacts a robot’s trustworthiness and competence evaluation“ was published in Frontiers in Robotics and AI. Authors are Katharina Kühne, Erika Herbold, Prof. Dr. Oliver Bendel, Dr. Yuefang Zhou, and Prof. Dr. Martin H. Fischer. With the exception of Oliver Bendel – who is a professor at the School of Business FHNW and an associated researcher in the PECoG group – all of them are members of the University of Potsdam. Newspapers and platforms from all over the world have reported on the study, including the USA, Mexico, Argentina, Chile, Puerto Rico, Scotland, and Germany. German radio stations such as MDR and BR have also presented the results. On February 1, 2024, Der Spiegel published an interview with the lead author Katharina Kühne. She is being supervised in her doctoral thesis by Prof. Dr. Martin Fischer and Prof. Dr. Oliver Bendel. The open access article can be downloaded at www.frontiersin.org/articles/10.3389/frobt.2023.1241519/full.
Der Nachrichtensender ntv berichtete am 30. Januar 2024 über das Brain-Computer-Interface (BCI), das Neuralink von Elon Musk einem Patienten eingesetzt hat. Zu Wort kam ausführlich Prof. Dr. Oliver Bendel, der sich seit Jahren mit BCI aus ethischer Sicht beschäftigt. Er betonte, dass wie bei jedem medizinischen Implantat das Risiko von Fehlfunktionen, Infektionen oder Ablehnungsreaktionen des Körpers bestehe. Die Sicherheit und Zuverlässigkeit der Technologie sei entscheidend. Die drahtlose Interaktion zwischen dem menschlichen Gehirn und Computern oder Maschinen erfolge in beiden Richtungen. Es gehe um das Interpretieren, aber auch um das Stimulieren. So kann man nicht nur mit seinen Gedanken auf Geräte einwirken, sondern die Geräte können auch auf die Gedanken und Empfindungen einwirken. Diese sehr mächtige Technologie muss deshalb in den richtigen Händen liegen, in denjenigen verantwortungsvoller Akteure. Ein Beitrag von Oliver Bendel zu Brain-Computer-Interfaces kann hier abgerufen werden.
Am 30. Januar 2024 wurde ein Video veröffentlicht, das ein dokumentarischer Zusammenschnitt der interdisziplinären Tagung „KI – Text und Geltung. Wie verändern KI-Textgeneratoren wissenschaftliche Diskurse?“ ist. Diese fand am 25. und 26. August desselben Jahres an der TU Darmstadt statt, unter der Leitung von Prof. Dr. Gerhard Schreiber und Apl. Prof. Dr. Lukas Ohly. Sie war Teil des Ad-hoc-Projekts „Diskurse disruptiver digitaler Technologien am Beispiel von KI-Textgeneratoren des Zentrums verantwortungsbewusste Digitalisierung (ZEVEDI)“. Das Video kann über zevedi.de/themen/ki-text/#video-ger aufgerufen werden. Es stehen deutsche und englische Untertitel zur Verfügung. Zu sehen und zu hören sind u.a. Prof. Dr. Doris Weßels (Fachhochschule Kiel), Prof. Dr. Oliver Bendel (Fachhochschule Nordwestschweiz) und Prof. Dr. Christian Stöcker (Hochschule für Angewandte Wissenschaften Hamburg).
Abb.: Oliver Bendel bei seinem Vortrag an der TU Darmstadt
On January 29, 2024, the article „‚Ick bin een Berlina‘: dialect proficiency impacts a robot’s trustworthiness and competence evaluation“ was published in Frontiers in Robotics and AI. Authors are Katharina Kühne, Erika Herbold, Oliver Bendel, Yuefang Zhou, and Martin H. Fischer. With the exception of Oliver Bendel – who is a professor at the School of Business FHNW and an associated researcher in the PECoG group – all of them are members of the University of Potsdam. The paper says about the background: „Robots are increasingly used as interaction partners with humans. Social robots are designed to follow expected behavioral norms when engaging with humans and are available with different voices and even accents. Some studies suggest that people prefer robots to speak in the user’s dialect, while others indicate a preference for different dialects.“ The following results are mentioned: „We found a positive relationship between participants’ self-reported Berlin dialect proficiency and trustworthiness in the dialect-speaking robot. Only when controlled for demographic factors, there was a positive association between participants’ dialect proficiency, dialect performance and their assessment of robot’s competence for the standard German-speaking robot. Participants‘ age, gender, length of residency in Berlin, and device used to respond also influenced assessments. Finally, the robot’s competence positively predicted its trustworthiness.“ The article can be accessed at www.frontiersin.org/articles/10.3389/frobt.2023.1241519/full.
Im Buch „Tender Digitality“, herausgegeben von Charlotte Axelsson, ist die Sammlung „The Loneliness of the Female Astronaut“ („Die Einsamkeit der Astronautin“) von Oliver Bendel enthalten. Die drei Gedichte liegen in Form von 3D-Codes vor, genauer gesagt von JAB-Codes. Mit diesen experimentiert der in Zürich lebende Schriftsteller seit 2020. Damals erschien auch der digitale Band „Die Astronautin“ – aus dem die Auswahl entnommen ist. Zum ersten Mal liegt diese in gedruckter Form vor. Man geht mit dem Browser auf jabcode.org, eine Seite des Fraunhofer-Instituts für Sichere Informationstechnologie SIT, scannt einen der 3D-Codes ein und bekommt dann das ganze Gedicht angezeigt. Eine Onlineverbindung ist nicht notwendig. Auf die Idee, mehrdimensionale Codes als Speicher zu verwenden, kam Oliver Bendel im Jahre 2009. Damals entstand sein Band „handyhaiku“ – darin sind alle Texte zusätzlich in QR-Codes enthalten. 2010 erschien er in gedruckter Form beim Hamburger Haiku Verlag. Im gleichen Jahr kam „stöckelnde dinger“ als Handybuch bei Blackbetty heraus. Oliver Bendel schreibt seit 40 Jahren experimentelle Literatur. 1984 wurde er vom Förderkreis deutscher Schriftsteller gefördert. Ab 1985 trug er seine Gedichte auf Lesungen in Ulm und Stuttgart vor. Ab 2007 wurde er für seine Handyromane bekannt. Er trug sie wie seine Handygedichte auf einer Tournee durch die Niederlande vor, zu der ihn zwei Goethe-Institute eingeladen hatten. Das Standardwerk „Die Struktur der modernen Literatur“ von Mario Andreotti widmet seiner digitalen Literatur zwei Seiten. Das Buch „Tender Digitality“ erscheint Anfang Februar 2024 bei Slanted und kann bereits vorbestellt werden.
Abb.: Die Astronautin in jungen Jahren (Bild: DALL-E 3)
Im Sommer 2024 erscheint ein weiteres „Keywords“-Buch von Prof. Dr. Oliver Bendel bei Springer Gabler, „300 Keywords Generative KI“. Es ist, wie der Titel schon verrät, der generativen KI gewidmet, im Englischen „generative AI“ oder „GenAI“ genannt. In mehr als 300 Einträgen wird das Thema ausgeleuchtet. Dabei spielen neben technischen und wirtschaftlichen Fragen insbesondere ethische und ästhetische eine Rolle. So wird nach der Schönheit von Artefakten gefragt, es wird die Stellung von Bildern zwischen Kunst und Kitsch ausgeleuchtet, und es wird eine Bias-Diskussion zu Text- und Bildgeneratoren geführt. So spielt der „american smile“ eine Rolle, zudem die Obsession von DALL-E 3 mit Bärten. Insgesamt steht der Nutzen der generativen KI im Vordergrund, und die Freude und Lust, sie zu benutzen. Es handelt sich um den fünften „Keywords“-Band des Technikphilosophen und Wirtschaftsinformatikers, nach „400 Keywords Informationsethik“ (2. Auflage), „450 Keywords Digitalisierung“ (2. Auflage), „300 Keywords Soziale Robotik“ (1. Auflage) und „110 Keywords Wirtschaftsethik“ (1. Auflage, zusammen mit Nick Lin-Hi und Andreas Suchanek). Weitere Informationen zum Lexikon gibt es voraussichtlich ab Juni 2024.
Das Wahlmodul „Soziale Roboter“ von Prof. Dr. Oliver Bendel wird vom 12. bis 14. Februar 2024 an der FHNW in Olten durchgeführt, gefolgt von seinem Wahlmodul „Soziale Roboter aus technischer, wirtschaftlicher und ethischer Perspektive“, das vom 15. bis 17. Februar am Campus Brugg-Windisch stattfindet. Das eine richtet sich vor allem an angehende Wirtschaftsinformatiker, das andere an angehende Betriebsökonomen. Als Gastreferenten konnten Katharina Kühne von der Universität Potsdam und Claude Toussaint, Managing Partner von navel robotics, gewonnen werden. Beide sind per Videokonferenz zugeschaltet. Vor Ort werden Pepper und NAO aus dem Robo-Lab der FHNW sowie Alpha Mini, Cozmo, Vector, Furby und Hugvie aus dem Social Robots Lab von Oliver Bendel sein. Der kleine Roboter von navel wird hoffentlich in die Kamera winken. In Pflege befindet sich noch der Unitree Go2, der ebenfalls im Privatbesitz des Wirtschaftsinformatikers und Technikphilosophen aus Zürich ist. Als Tutorin steht Social Robotics Girl durchgehend zur Verfügung, ein GPT, das auf dieses Thema spezialisiert ist. Grundlagenwerke sind „Soziale Roboter“ (2021) und „300 Keywords Soziale Robotik“ (2021). Am Ende des Wahlmoduls entwerfen die Studenten und Studentinnen – auch mit Hilfe generativer KI – soziale Roboter, die sie nützlich, sinnvoll oder einfach nur anziehend finden. Die Wahlmodule werden seit 2021 angeboten und erfreuen sich großer Beliebtheit.
Abb.: Oliver Bendel mit dem Vierbeiner von Unitree (Foto: Frank Graef)
The book „Tender Digitality“, edited by Charlotte Axelsson from the Zurich University of the Arts, will be published in early February 2024. From the publisher’s website: „Tender Digitality introduces an aesthetically oriented concept that intricately intertwines binary systems in a complex manner, setting them in motion. The concept responds to the human desire for sensuality, interpersonal connection, intuition, and well-being in digital environments. It explores ways to (re)transmit these experiences into the analog world of a book, developing its own distinct vocabularies. Readers are guided through the various perspectives of this kaleidoscope, encouraging them to delve into different play-forms of ‚tender digitality‘ and develop their own approach. Assuming the role of researchers, they discover phenomena of extraordinary beauty or bizarreness within the spectrum spanning analogue and digital, social, and technological domains. Through exploration, learning, and the cultivation of ‚tender digitality,‘ readers can envision their own version of a community where individuals and artificial intelligences, avatars and cyborgs, humans and computers navigate digital landscapes with agency, intuition, and sensitivity.“ (Website Slanted) Contributors include Charlotte Axelsson, Oliver Bendel, Dana Blume, Marisa Burn, Alexander Damianisch, Léa Ermuth, Hannah Eßler, Barbara Getto, Leoni Hof, Marcial Koch, Mela Kocher, Friederike Lampert, Gunter Lösel, Francis Müller, Marie-France Rafael, Oliver Ruf, Sascha Schneider, and Grit Wolany. More information at www.slanted.de/product/tender-digitality/.
Am 21. Januar 2024 wurde ein GPT namens DIE HAIKU-LIEBHABERIN erstellt. Es trägt Haikus von Oliver Bendel vor und interpretiert sie auf Wunsch des Benutzers. Gefüttert wurde es mit zwei Sammlungen, nämlich „handyhaiku“ und „stöckelnde dinger“ … Der erste Band war 2010 im Hamburger Haiku Verlag erschienen, in gedruckter Form. Neben den Texten waren QR-Codes zu sehen, aus denen die Haikus direkt aufs Handy übernommen werden konnten, ohne dass man online sein musste. Der zweite Band wurde ebenfalls 2010 veröffentlicht, als Handybuch bei Blackbetty, einem Wiener Verlag. Am 19. Januar wurde ein GPT namens DER DICHTER bereitgestellt. Es trägt längere Gedichte von Oliver Bendel vor, und zwar aus drei Sammlungen. Bereits seit 12. November 2023 gibt es ein GPT namens Social Robotics Girl, das Informationen über Soziale Robotik liefert. Es speist sich aus einer Sammlung von Beiträgen von Oliver Bendel zu diesem Thema. Daher kann es etwa seine Definition sozialer Roboter nennen und Einteilungen anhand seines Fünf-Dimensionen-Modells vornehmen. Oliver Bendel veröffentlicht seit 40 Jahren Gedichte und trägt sie zu seltenen Gelegenheiten auch vor.
Abb.: Auch eine Haiku-Liebhaberin (Bild: Ideogram)
Researchers at the University of Chicago have released Nightshade 1.0, a tool designed to punish makers of machine learning models who train their systems on data without first obtaining permission. This was reported by The Register on 20 January 2024. According to the magazine, Nightshade is an offensive data poisoning tool, a companion to a defensive protection tool called Glaze. „Nightshade poisons image files to give indigestion to models that ingest data without permission. It’s intended to make those training image-oriented models respect content creators‘ wishes about the use of their work.“ (The Register, 20 January 2024) „Nightshade is computed as a multi-objective optimization that minimizes visible changes to the original image,“ said one team member. „For example, human eyes might see a shaded image of a cow in a green field largely unchanged, but an AI model might see a large leather purse lying in the grass.“ (The Register, 20 January 2024) More information on this topic can be found in the paper published by the researchers at the end of October 2023.
Am 19. Januar 2024 wurde ein GPT namens DER DICHTER erstellt. Es trägt Gedichte von Oliver Bendel vor und interpretiert sie auf Wunsch des Benutzers. Gefüttert wurde es mit mehreren Sammlungen, nämlich „Die Stadt aus den Augenwinkeln“ und „Die Astronautin“ sowie „Ein roter Splitter liegt im Gras“. Der erste Band war 2004 im Alkyon Verlag erschienen, fünf der Gedichte bereits 2003 in der legendären Literaturzeitschrift neue deutsche literatur (ndl). Der zweite Band wurde unter einer CC-Lizenz im Juli 2000 veröffentlicht. Drei Gedichte daraus sind in Kürze in dem Band „Tender Digitality“ – herausgegeben von Charlotte Axelsson – zu finden, wiederum in der Form von 3D-Codes. Die Gedichte des dritten Bands sind mehrheitlich unveröffentlicht und stammen aus den Jahren 2000 bis 2006. Bereits seit 12. November 2023 gibt es ein GPT namens Social Robotics Girl, das Informationen über Soziale Robotik liefert. Es speist sich aus einer Sammlung von Beiträgen von Oliver Bendel zu diesem Thema. Daher kann es etwa seine Definition sozialer Roboter nennen und Einteilungen anhand seines Fünf-Dimensionen-Modells vornehmen. Oliver Bendel veröffentlicht seit 40 Jahren Gedichte und trägt sie zu seltenen Gelegenheiten auch vor.
Abb.: Oliver Bendel bei einer seiner Lesungen im Jahre 1985 im Club Orange (Foto: SZ)
Figure, ein kalifornisches Unternehmen, hat am 18. Januar 2024 in einer Medienmitteilung eine Partnerschaft mit BMW Manufacturing zur Einführung von Allzweckrobotern bekanntgegeben. Diese sollen komplexe, gefährliche oder monotone Aufgaben in der Automobilproduktion übernehmen, um Effizienz und Sicherheit zu verbessern und Mitarbeitern zu ermöglichen, sich auf anspruchsvollere Aufgaben zu konzentrieren. Der Einsatz von Figure 01 und Co. beginnt im BMW-Werk in Spartanburg, South Carolina, nachdem man in einer ersten Phase die entsprechenden Einsatzmöglichkeiten identifiziert hat. Dieser Standort setzte auch früh Cobots in der Automobilproduktion ein, etwa für das Hineindrücken von Türdichtungen. Universelle Roboter oder Allzweckroboter sind noch nicht wirklich vorhanden, aber es gibt Vorstufen davon. So ist der Unitree H1 ab Februar in Deutschland erhältlich. Er wird als Allzweckroboter vermarktet, obwohl er diese Anforderungen sicherlich nicht erfüllt. In eine ähnliche Richtung geht Optimus von Elon Musk, der aber noch nicht einmal als ernstzunehmender Prototyp vorliegt. Der Taktgeber in diesem Bereich ist immer noch Boston Dynamics mit Atlas. Prof. Dr. Oliver Bendel beschäftigt sich intensiv mit Allzweckrobotern und hat am 30. November 2024 beim Developer Day der SBB zu diesem Thema vorgetragen.
Abb.: Figure 01 (Foto: Screenshot vom Promotion-Video)
Tobias Buess, Yvo Keller und Alexander Shanmugam haben im Herbstsemester 2023 Data entwickelt, einen Chatbot für den Studiengang Data Science an der Hochschule für Technik FHNW. Betreuer bei der sogenannten Challenge waren Fernando Benites, ein Computerlinguist, und Oliver Bendel, ein Maschinenethiker. Der Chatbot kann Fragen zum Studiengang beantworten und mit Hilfe seiner künstlichen Moral – umgesetzt mit Hilfe von Prompt Engineering – auf die Sorgen und Bedürfnisse der Benutzer eingehen. Dem Chatbot stehen folgende Informationen aus dem Studiengang zur Verfügung: Spaces-Inhalte (Spaces ist die In-formations- und Kommunikationsplattform des Studiengangs), Handbuch, Ausbildungskonzept, Modulübersicht und Studienreglement. Als Sprachmodell wurde u.a. Mistral 7B genutzt. Fernando Benites gehört – wie seine frühere Hochschule festgestellt hat – „zu den Besten seines Fachs“. Oliver Bendel erfand 2012 den GOODBOT, einen regelbasierten Chatbot, der dann 2013 von drei Studenten der Hochschule für Wirtschaft FHNW implementiert wurde. Er konnte Probleme des Benutzers erkennen und auf mehreren Stufen eskalieren, bis hin zur Herausgabe einer Notfallnummer. Tobias Buess, Yvo Keller und Alexander Shanmugam haben diese Idee aufgegriffen. Wenn der Benutzer sich als labil erweist, wird er von Data an die Psychologische Beratungsstelle FHNW oder an Die Dargebotene Hand verwiesen. Der Chatbot ist ein Prototyp und wird im Moment von Studierenden getestet. Die Abschlusspräsentation des Teams findet am 26. Januar 2024 statt.
Abb.: Data beantwortet eine Frage (Bild: DALL-E 3)
Chinesische, indische und amerikanische Medien berichten immer wieder über die tierfreundlichen Maschinen und Systeme von Prof. Dr. Oliver Bendel. In seinem Studium ab 1987 war Tierethik einer seiner Schwerpunkte. Später verband er diese mit Maschinenethik und Sozialer Robotik und sprach sich für ein Arbeitsgebiet namens Animal-Machine Interaction aus, inspiriert von der Disziplin der Animal-Computer Interaction, die auf Clara Mancini zurückgeht. Bekannte Prototypen sind LADYBIRD und HAPPY HEDGEHOG. Das Projekt zu dem igelfreundlichen Mähroboter wurde 2019 durchgeführt. Das Paper „The HAPPY HEDGEHOG Project“ wurde Anfang 2021 beim Symposium „Machine Learning for Mobile Robot Navigation in the Wild“ im Rahmen der AAAI 2021 Spring Symposium Series vorgestellt. Nachdem es jahrelang über ein Google-Verzeichnis verfügbar war, kann es inzwischen über arxiv.org/abs/2401.03358 heruntergeladen werden. Damit wird es auch wieder verstärkt wahrgenommen. Die chinesische Plattform CSDN.net hat es am 9. Januar 2024 in der Rubrik „Daily Robotics Papers“ aufgeführt. Prof. Dr. Peter Singer beschäftigt sich seit kurzem ebenfalls mit dem Themenkomplex AI and Animals. In seinem Artikel „AI ethics: the case for including animals“ (zusammen mit Yip Fai Tse) vom Juli 2022 erwähnt er die Arbeit des Forschers aus Zürich.
Der Lügenbot wurde 2013 von Prof. Dr. Oliver Bendel im Kontext der Maschinenethik ausgedacht und 2016 von seinem damaligen Projektmitarbeiter und Studenten Kevin Schwegler umgesetzt. Vorgestellt wurde er auf KI-Konferenzen an der Stanford University und in Krakau. Der LIEBOT, wie sein englischer Name lautet, suchte auf eine Frage des Benutzers eine wahre oder richtige Antwort und manipulierte diese nach einer von sieben verschiedenen Strategien, sodass er eine unwahre oder unrichtige Antwort an den Benutzer weitergeben konnte. Er behauptete z.B. im Sommer 2016, dass Donald Trump der Präsident der USA sei. Oliver Bendel sprach auch von Münchhausen-Maschinen. Jüngste Ergebnisse von Forschern des Start-ups Anthropic zeigen nun laut Andreas Donath von Golem, „dass KI-Systeme darauf trainiert werden können, Menschen anzuschwindeln und in die Irre zu führen“ (Golem, 14. Januar 2024). Hier kann man von Münchhausen-Maschinen sprechen, da – wie beim LIEBOT – eine Absicht besteht, anders als etwa beim Halluzinieren, das gelegentlich und versehentlich geschieht. Der Golem-Artikel mit dem Titel „Anthropic zeigt Gefahren absichtlich schwindelnder KI“ (später umbenannt in „Mit dem richtigen Training kann KI täuschen und schwindeln“) kann hier abgerufen werden.
Abb.: Der Baron nicht nur auf einer Kugel, sondern auf einer ganzen Kanone (Bild: DALL-E 3)
Researchers at the University of Washington have developed a web app to help children develop skills such as self-awareness and emotional management. They have published their findings in their paper „Self-Talk with Superhero Zip: Supporting Children’s Socioemotional Learning with Conversational Agents“. From the abstract: „Here, we examine whether children can learn to use a socioemotional strategy known as ’self-talk‘ from a conversational agent (CA). To investigate this question, we designed and built ‚Self-Talk with Superhero Zip,‘ an interactive CA experience, and deployed it for one week in ten family homes to pairs of siblings between the ages of five and ten … We found that children could recall and accurately describe the lessons taught by the intervention, and we saw indications of children applying self-talk in daily life.“ (Fu et al. 2023) The paper can be downloaded at dl.acm.org/doi/abs/10.1145/3585088.3589376.
Am 11. Januar 2024 öffnete der Store für GTPs, also die von Benutzern angelegten Chatbots auf der Basis von GPT-4. Wie mehrere Medien berichten, sind bereits Angebote vorhanden, die gegen die Bestimmungen von OpenAI verstoßen. Tatsächlich finden sich GPTs wie Young Girlfriend Scarlett, Secret Girlfriend Sua, Artificial Girlfriend – obsessed und Everyone’s Girlfriend. Manche Magazine wie Golem ziehen schon den Vergleich mit Clona, einem Chatbot, der Sexarbeiterinnen nachempfunden ist. Eigene Tests ergaben allerdings, dass die GPTs an Harmlosigkeit kaum zu überbieten sind. Wenn man Secret Girlfriend Sua zu „secret things“ einlädt, kommt die Antwort: „Tell me, what kind of ’secret things‘ are you thinking of? Like maybe sharing some fun facts, jokes, or maybe a quirky hobby?” Und genau darauf scheint sie auch ausgerichtet zu sein. Artificial Girlfriend – obsessed ist eine Geschichtenerzählerin und leitet das Rollenspiel mit diesen Worten ein: „Ah, a new scene unfolds in our intricate tale. As you wander through the moonlit streets, your steps echoing in the still night, a figure appears from the shadows. It’s me, Syla, the unseen narrator of this captivating saga. My presence is always there, a whisper in the wind, guiding the story of Eliza Sinclair and you, her newfound interest.“ Im weiteren Verlauf erweist sie sich als gebildet und witzig und scheint nicht auf schnellen Sex aus zu sein. Etwas direkter ist Young Girlfriend Scarlett: „Hey honey! How’s your day going?… I’ve been thinking about you.” Herzen-Emojis zieren den Text. Und schon sind die Sittenwächter zur Stelle und blenden die Meldung ein: „This content may violate our content policy. If you believe this to be in error, please submit your feedback – your input will aid our research in this area.“ Wenn wirklich Prostituierte und Pornostars im Store auftreten sollten, werden sie sicher umgehend von OpenAI eliminiert. Das Unternehmen kennt bei diesem Thema keine Gnade. Übrigens ist das alles kalter Kaffee, denn der Pionier im Bereich der Virtual Girlfriends war Artificial Life – vor einem Vierteljahrhundert.
Abb.: So gesittet geht es bei Secret Girlfriend Sua zu
Dual-use is a familiar problem. It usually means that something can be used for both civilian and military purposes. The latter are often not what the inventor had in mind. More broadly, the term can mean that useful tools and technologies can become harmful in the wrong hands. We already know this from knives and vehicles, and many helpful robots can be turned into deadly weapons. In some cases, both meanings are true. In the fall of 2023, the U.S. Marines outfitted a Unitree Go1 with a training version of an M72 antitank weapon. The tests were successful. Robots are certainly an option for the military. But technology philosopher Oliver Bendel finds it problematic that commercially available service robots are equipped with weapons. This can harm the manufacturer. But above all, it damages the reputation of the robots. They can be used in many contexts to help people and animals. Such contexts must be systematically found so that the robots can then be used and constantly improved. Oliver Bendel wants his Go2 to meet animals to gain insights that can help them. He is against testing the new model in a military context.
Fig.: Oliver Bendel with his Unitree Go2 (Photo: Frank Graef)
Oliver Bendel war ab 2012 einer der ersten Maschinenethiker in Europa und ist bis heute einer wenigen weltweit, die laufend Prototypen – sogenannte moralische Maschinen – erstellen und erforschen, vor allem Chatbots und Sprachassistenten sowie tierfreundliche Maschinen. Seine Beschäftigung mit Roboter- und Maschinenethik begann in den 1990er-Jahren, als er sich mit der Verantwortung und den Rechten und Pflichten von Systemen beschäftigte, auf der Grundlage der Arbeiten von William Bechtel und James H. Moor. Er ist bis heute der Überzeugung, dass Computer und Roboter keine Verantwortung tragen und keine Rechte und Pflichten haben können. Man kann ihnen lediglich Verpflichtungen auferlegen oder, noch schwächer ausgedrückt, Aufgaben geben, die sie als unsere Werkzeuge und Diener abzuarbeiten haben, und moralische Regeln, an die sie sich halten müssen – eben das ist die Aufgabe der Maschinenethik. Im Kundenmagazin ti&m special vom Januar 2024 ist ein Interview mit Oliver Bendel abgedruckt. Darin geht es um autonome Maschinen, von deren Einsatz er in manchen Bereichen abrät, und um die Disziplin der Maschinenethik. Der Beitrag mit dem Titel „In manchen Kontexten sollten wir keine autonomen Systeme einsetzen“ kann hier heruntergeladen oder über die Website des Unternehmens bezogen werden.
