„Zur Employee Experience … gehören die Erlebnisse, Beobachtungen und Befindlichkeiten von Mitarbeitern in einer Organisation, mit den entsprechenden Interaktionen und Emotionen. Bei einem weiten Begriff kann man auch die Erfahrungen von Bewerbern dazurechnen. Die Customer Experience zielt auf die Wahrnehmung von Kunden, etwa in Bezug auf Produkte und Marken oder das Unternehmen insgesamt. Sie hängt in vielerlei Hinsicht mit der Employee Experience zusammen.“ Mit diesen Worten beginnt ein neuer Beitrag im Gabler Wirtschaftslexikon von Oliver Bendel. Im zweiten Abschnitt werden Beispiele und Merkmale genannt. So heißt es: „Zu einer positiven Employee Experience können Eigenständigkeit und Verantwortung im Berufsleben, Klarheit und Vollständigkeit von Abläufen, Respekt in der Zusammenarbeit, Gesundheit, Diversity und Inclusion, Intim- und Privatsphäre im Bürogebäude, Flexibilität in der Beschäftigung sowie berufliche und finanzielle Sicherheit beitragen.“ Der dritte Abschnitt widmet sich dem Employee Experience Management, der vierte der Perspektive der Wirtschaftsethik, speziell der Unternehmensethik. Der Beitrag ist am 10. Mai 2023 erschienen und kann über wirtschaftslexikon.gabler.de/definition/employee-experience-124947 abgerufen werden.
„Inspirierend anders“, der Podcast von Luca Beutel, ging vor kurzem in die Forschung. Für die ersten beiden Folgen hat der Mann mit dem Schnäuzer mit Prof. Dr. Oliver Bendel gesprochen. Der Technikphilosoph lebt in Zürich und arbeitet an mehreren Hochschulen der FHNW. Die erste Folge, ausgestrahlt seit dem 2. Mai 2023, heißt „#165 IAF – Die ultimative Maschine: Wie Robotik die Grenzen der Menschheit erweitert“. Oliver Bendel stellt darin die Grundlagen der Robotik dar und bringt diese in einen Zusammenhang mit der Künstlichen Intelligenz (KI). Ursprünglich wurden deren Gegenstände zusammengedacht. Dann haben sie sich aber getrennt entwickelt. Nun wachsen Roboter und KI-Systeme immer mehr zusammen. Am 9. Mai 2023 erschien die zweite Folge mit dem Titel „#167 IAF – Menschliche Bedürfnisse, robotische Lösungen: Die Zukunft der menschenähnlichen Roboter“. Darin geht es u.a. um ethische und ästhetische Fragen, die sich zu sozialen Robotern wie Pflegerobotern und Sexrobotern stellen. Auch die zweite Folge kann u.a. über Spotify aufgerufen werden.
Abb.: Oliver Bendel am Campus Brugg-Windisch (Foto: Dominic Büttner)
The CONVERSATIONS 2023, a two-day workshop on chatbot research, applications, and design, will take place at the University of Oslo, Norway. According to the CfP, contributions concerning applications of large language models such as the GPT family, are warmly welcome, as are contributions on applications combining information retrieval approaches and large language model approaches. Building on the results from previous six CONVERSATIONS workshops, the following topics are of particular interest: 1. Chatbot users and implications, 2. Chatbot user experience, design, and evaluation, 3. Chatbot frameworks and platforms, 4. Chatbots for collaboration, 5. Democratizing chatbots – chatbots for all, 6. Ethics and safety implications of chatbots and large language models, 7. Leveraging advances in AI technology and large language models. More information via 2023.conversations.ws.
„Researchers at Columbia Engineering have demonstrated a highly dexterous robot hand, one that combines an advanced sense of touch with motor learning algorithms in order to achieve a high level of dexterity.“ (Website Columbia Engineering, 28 April 2023) Columbia Engineering reported this on its website on April 28, 2023. The text goes on to say: „As a demonstration of skill, the team chose a difficult manipulation task: executing an arbitrarily large rotation of an unevenly shaped grasped object in hand while always maintaining the object in a stable, secure hold. This is a very difficult task because it requires constant repositioning of a subset of fingers, while the other fingers have to keep the object stable. Not only was the hand able to perform this task, but it also did it without any visual feedback whatsoever, based solely on touch sensing.“ (Website Columbia Engineering, 28 April 2023) „While our demonstration was on a proof-of-concept task, meant to illustrate the capabilities of the hand, we believe that this level of dexterity will open up entirely new applications for robotic manipulation in the real world“, said Matei Ciocarlie according to the website. He is the Associate Professor in the Departments of Mechanical Engineering and Computer Science who developed the hand together with his graduate student Gagan Khandate.
In einer Doktorarbeit an der Universität Potsdam wird seit 2023 untersucht, wie Muster aus der Mensch-Mensch-Interaktion auf die Mensch-Roboter-Interaktion übertragen werden. Die Doktorandin Katharina Kühne wird von Prof. Dr. Martin Fischer (Universität Potsdam) und Prof. Dr. Oliver Bendel (FHNW) betreut. Beide forschen u.a. zu sozialen Robotern und geben in der Arte-Dokumentation „Werden wir Roboter lieben?“ einen Einblick in ihre Arbeit. Die Betreuungsvereinbarung wurde dieser Tage unterzeichnet. Oliver Bendel ist seit Dezember 2021 assoziierter Forscher der PECoG-Gruppe an der Universität Potsdam. Er tauscht sich seit 2019 regelmäßig mit ihren Mitgliedern aus und hält Vorträge vor Ort. Zudem publiziert man zusammen. Seine Forschungsinteressen sind soziale Roboter (Perspektiven: Informationsethik, Roboterethik, Maschinenethik; Themen: Informationelle Autonomie, Verantwortung in Pflege und Therapie, Wohlbefinden beim Einsatz von Sexrobotern, Chatbots und Sprachassistenten mit simulierter Empathie, Entscheidungsbäume mit moralischen Annotationen, Moralmenüs), Serviceroboter (Perspektiven: Informationsethik, Roboterethik, Maschinenethik; Themen: Informationelle Autonomie, Verantwortung beim Einsatz im öffentlichen Raum, Entscheidungsbäume mit moralischen Annotationen, Moralmenüs) und tierfreundliche Maschinen (Perspektiven: Informationsethik, Maschinenethik, Tier-Maschine-Interaktion; Themen: Schutz von Haus- und Wildtieren beim Einsatz von Robotern und Autos, Gesichtserkennung für Bären und Wölfe). Weitere assoziierte Forscher und Forscherinnen sind über www.uni-potsdam.de/de/pecog/mitarbeiterinnen/assoziierte-forscher aufgeführt.
In der c’t 11/2023 ist der Artikel „Virtuelle Freunde? KI-Chatbots leisten Gesellschaft und wecken einseitige Gefühle“ erschienen. Arne Grävemeyer geht auf fünf Seiten auf das Thema ein. Befragt hat er dazu Prof. Dr. Oliver Bendel. Eine Frage war, ob solche Programme und Figuren – die Emotionen zeigen (ohne sie zu haben) und hervorrufen – sich als solche offenbaren sollten. Seine Antwort: „Aus ethischer Sicht würde ich das fordern. Man sollte wissen, ob man mit Menschen oder Maschinen kommuniziert. Unsere eigenen Emotionen sind ein wertvolles Gut. Wir entwickeln sie fast automatisch, wenn wir auf menschenähnliche Entitäten stoßen. Wir haben aber die Möglichkeit, die Emotionen zu begrenzen, wenn wir wissen, dass es sich um Programme und Maschinen handelt. Dazu gehört, dass wir diese abstellen und nicht ständig an sie denken, wenn sie nicht bei uns sind. Auch unsere Zeit ist ein kostbares Gut. Wir sollten selbst entscheiden, mit wem oder was wir sie verbringen.“ (c’t, 11/2023) Insgesamt wurden schriftlich und telefonisch etliche Fragen gestellt. Einige Antworten sind in den Artikel eingeflossen, der seit 5. Mai 2023 erhältlich ist.
„Manche Menschen gehen bereits romantische Beziehungen mit Chatbots ein. Künstliche Intelligenz simuliert Zuneigung und Trost. Kann man Gefühle einfach so programmieren?“ (Tagesspiegel, 3. Mai 2023) Dies fragt Max Tholl in einem Essay mit dem Titel „Wenn die KI den Partner ersetzt: Können Maschinen uns lieben?“ vom 3. Mai 2023. Zu Wort kommt mehrmals Prof. Dr. Oliver Bendel, der seit einem Vierteljahrhundert über Chatbots, Sprachassistenten und soziale Roboter schreibt und forscht. Er nähert sich dem Gegenstand mit einem Rückblick: „Innige Beziehungen zwischen Menschen und künstlichen Kreaturen haben eine lange Tradition in der Ideengeschichte, sagt der Philosoph und Wirtschaftsinformatiker Oliver Bendel. Sie finden sich schon in den mythologischen Erzählungen von Homer oder Ovid, später dann als Motiv in Science-Fiction-Geschichten.“ (Tagesspiegel, 3. Mai 2023) Der ganze Beitrag ist im Tagesspiegel hinter der Bezahlschranke zu finden und wird auch noch in der gedruckten Ausgabe erscheinen.
Seit einigen Jahren bauen Prof. Dr. Oliver Bendel und seine Teams tierfreundliche Roboter als Prototypen. 2014 wurde LADYBIRD konzipiert, 2017 implementiert. Der vereinfachte Prototyp eines Saugroboters erkannte (simulierte) Marienkäfer auf dem (realen) Boden und stellte zu ihrem (angenommenen) Schutz seinen Betrieb ein. 2019 wurde HAPPY HEDGEHOG (HHH) umgesetzt. Der hochentwickelte Prototyp eines Mähroboters erkannte (simulierte) Igel auf dem (simulierten) Rasen und stellte zu ihrem (angenommenen) Schutz seinen Betrieb ein. Beide Prototypen wurden bei den AAAI Spring Symposia vorgestellt, LADYBIRD 2017, HHH 2021. Ideen dieser Art werden mehr und mehr von der Wirtschaft übernommen. Berti Kolbow-Lehradt hat für Golem den Goat G1 getestet. Das chinesische Unternehmen verspricht, „dass der Robomäher anhand KI-geschulter Kameras Igel, Lieblingsblumen und auch den Weg kreuzende Menschen verschont“ (Golem, 4. Mai 2023). Bei HAPPY HEDGEHOG wurden eine Wärmebildkamera und Objekterkennung auf der Basis von Machine Learning verwendet. Beim Goat G1 beauftragt man per App-Funktion „die Kameras, speziell auf Igel, Katzen, Hunde und Schläuche zu achten, um diesen rechtzeitig auszuweichen“ (Golem, 4. Mai 2023). Bei den Testläufen des Magazins war das Ergebnis mit Igelattrappen aber unbefriedigend. „Eines von zwei Modellen überfährt der Goat G1 und lässt einen Scherbenhaufen zurück. Vor dem zweiten, etwas größeren und abweichend gefärbten Modell dreht er zumindest in den meisten Fällen rechtzeitig ab. Auf Anfrage erklärt Ecovacs, dass das KI-Training mit Igelbildern noch andauere und bisher nicht alle regionalen Varianten vollständig erfasst habe.“ (Golem, 4. Mai 2023) Wichtig ist insgesamt, dass die Industrie mit Blick auf den Einsatz von autonomen Maschinen erkannt hat, dass Tierschutz wichtig ist und man dies auch den Kunden vermitteln kann. Damit hat sich die (Vor-)Arbeit der Wissenschaft mehr als gelohnt.
Ein Forscherteam von der University of Texas hat ein neues Verfahren für Brain-Computer-Interfaces vorgestellt, mit dem die Vision des Gedankenlesens ein wenig näher rückt. Verwendet wird in der Studie – das ist ein entscheidender Punkt – ein Sprachmodell wie GPT, in Kombination mit Magnetresonanztomografie. Generell können solche Systeme im Moment allenfalls wahrscheinliche Phrasen vorschlagen. Sie machen noch viele Fehler. Diese dürften sich in Zukunft aber zum Teil beheben lassen. Von Bedeutung wären solche Verfahren für Schwerbehinderte, etwa Querschnittsgelähmte. Diese können über Brain-Computer-Interfaces bereits Geräte mit Gedanken steuern – in ein paar Jahren wären sie in der Lage, über Gedanken mit anderen zu kommunizieren. Interessiert werden auch Polizei, Geheimdienst und Verfassungsschutz sein. Selbst bei gegebenem Kooperationswillen kann es sich um einen Übergriff handeln. Ohne einen gegebenen Kooperationswillen, der im Moment noch Grundlage der Methode ist, kann es sich um psychische Gewalt handeln. Es wäre auf jeden Fall ein Eingriff in die Intim- und Privatsphäre. Der Mensch steht mit seinen Gedanken nackt vor den anderen da. Dies gilt insbesondere, aber nicht nur, bei sexuellen Vorstellungen. Ferner kann man evtl. auch an politische und moralische Überzeugungen oder an Passwörter herankommen. Die Studie zeigt, dass Sprachmodelle für alle möglichen Zwecke eingesetzt werden können und auch eingesetzt werden, bei den entsprechenden Chancen und Risiken. Die Nachrichtensendung 10 vor 10 im SRF hat dem Thema am 3. Mai 2023 einen Beitrag gewidmet. Darin kommen Prof. Dr. Lutz Jäncke (Universität Zürich), Dr. Ricardo Chavarriaga (ZHAW) und Prof. Dr. Oliver Bendel (FHNW) zu Wort. Der Artikel mitsamt dem Video kann über www.srf.ch/news/experiment-in-den-usa-gedanken-entschluesseln-dank-hirn-scans-und-ki abgerufen werden.
„Inspirierend anders“, der Podcast von Luca Beutel, geht in die Forschung. Für die ersten beiden Folgen hat der Mann mit dem Schnäuzer mit Prof. Dr. Oliver Bendel gesprochen. Der Technikphilosoph lebt in Zürich und arbeitet an mehreren Hochschulen der FHNW. Die erste Folge, ausgestrahlt seit dem 2. Mai 2023, heißt „#165 IAF – Die ultimative Maschine: Wie Robotik die Grenzen der Menschheit erweitert“. Oliver Bendel stellt darin die Grundlagen der Robotik dar und bringt diese in einen Zusammenhang mit der Künstlichen Intelligenz (KI). Ursprünglich wurden deren Gegenstände zusammengedacht. Dann haben sie sich aber getrennt entwickelt. Nun wachsen Roboter und KI-Systeme immer mehr zusammen. Eine Woche später erscheint die zweite Folge mit dem Titel „#167 IAF – Menschliche Bedürfnisse, robotische Lösungen: Die Zukunft der menschenähnlichen Roboter“. Darin geht es u.a. um ethische und ästhetische Fragen, die sich zu sozialen Robotern wie Pflegerobotern und Sexrobotern stellen. Die erste Folge kann u.a. über Spotify aufgerufen werden.
Abb.: Oliver Bendel am Campus Brugg-Windisch (Foto: Dominic Büttner)
Der Senioren Ratgeber (eigene Schreibweise) ist ein Partner der Apotheken Umschau (eigene Schreibweise). Im aktuellen Heft 5/2023 findet sich ein fünfseitiger Artikel über Roboter in der Pflege. Er beginnt mit Lio, dem Assistenzroboter von F&P Robotics, der seit Jahren in einer Kleinserie vorliegt und in mehreren Alten- und Pflegeheimen getestet wird. Zu Wort kommt mehrmals Prof. Dr. Oliver Bendel von der Hochschule für Wirtschaft FHNW, der seit 2016 in Kontakt mit dem Unternehmen ist, mit Mitarbeitern ein Paper zu Lio publiziert und zuletzt zusammen mit Marc Heimann ein Moralmodul (CARE-MOMO) entwickelt hat, das Lio erweitern kann. Inzwischen arbeitet das Schweizer Unternehmen mit weiteren Hochschulen wie der Fachhochschule Graubünden und der ETH Zürich zusammen … „Der Senioren Ratgeber begleitet ältere Menschen in ihrem Alltag. Hier finden Sie Tipps rund um Vorsorge, Ernährung, Bewegung, Reise, Partnerschaft und Pflege. Blättern Sie in der aktuellen Ausgabe des Senioren Ratgeber. Das komplette Magazin erhalten Sie in Ihrer Apotheke …“ (Website Senioren Ratgeber) Gemeint ist praktisch jede Apotheke in Deutschland. Eine Leseprobe ist jeweils über www.apotheken-umschau.de/unsere-marken/senioren-ratgeber/ erhältlich.
Im Juni 2023 kommt das Buch „Assistive Technologien, technische Rehabilitation und Unterstützte Kommunikation“, herausgegeben von Martin Groß, Birgit Hennig, Stefan Kappel und Frank Wallhoff, auf den Markt. Darin enthalten ist der Beitrag „Therapieroboter aus ethischer Sicht“ von Oliver Bendel. Aus dem Abstract: „Der vorliegende Beitrag geht auf Therapieroboter ein. Diese werden wie Pflegeroboter als soziale Roboter verstanden. Es werden die Ziele, Aufgaben und Merkmale geklärt, es werden Beispiele gegeben, sowohl aus der Psychotherapie als auch aus der Ergo- und Physiotherapie, die etwa der orthopädischen und sportmedizinischen Rehabilitation dienen können, und es findet eine Diskussion aus Sicht der klassischen Bereichsethiken und der Maschinenethik statt. Deutlich wird, dass manche Antworten bereits heute geliefert werden können, andere jedoch noch empirischer Forschung und analytischer Arbeit bedürfen. Nicht zuletzt hängen einige von der sich entwickelnden Praxis ab, etwa davon, welche Rolle der Therapeut und Betreuer in Zukunft spielt, welcher Art die Therapieroboter sind und welche Verbreitung sie haben.“ Das Buch erscheint bei Springer und ist über den Verlag oder eine beliebige Buchhandlung erhältlich.
Abb.: Alpha Mini beim Yoga im Büro von Oliver Bendel
From March 27-29, 2023, the AAAI 2023 Spring Symposia featured the symposium „Socially Responsible AI for Well-being“ by Takashi Kido (Teikyo University, Japan) and Keiki Takadama (The University of Electro-Communications, Japan). This time the venue was exceptionally not Stanford University, but the Hyatt Regency SFO Airport. On March 28, Prof. Dr. Oliver Bendel presented the paper „Increasing Well-being through Robotic Hugs“, written by himself, Andrea Puljic, Robin Heiz, Furkan Tömen, and Ivan De Paola. The paper has now been published as a preprint and can be downloaded via arxiv.org/abs/2304.14409. From the abstract: „This paper addresses the question of how to increase the acceptability of a robot hug and whether such a hug contributes to well-being. It combines the lead author’s own research with pioneering research by Alexis E. Block and Katherine J. Kuchenbecker. First, the basics of this area are laid out with particular attention to the work of the two scientists. The authors then present HUGGIE Project I, which largely consisted of an online survey with nearly 300 participants, followed by HUGGIE Project II, which involved building a hugging robot and testing it on 136 people. At the end, the results are linked to current research by Block and Kuchenbecker, who have equipped their hugging robot with artificial intelligence to better respond to the needs of subjects.“ More information on the conference via aaai.org/conference/spring-symposia/sss23/.
Fig.: Oliver Bendel during his talk (Photo: Lea Peier)
From March 27-29, 2023, the AAAI 2023 Spring Symposia featured the symposium „Socially Responsible AI for Well-being“ by Takashi Kido (Teikyo University, Japan) and Keiki Takadama (The University of Electro-Communications, Japan). This time the venue was exceptionally not Stanford University, but the Hyatt Regency SFO Airport. On March 28, Prof. Dr. Oliver Bendel and Lea Peier presented their paper „How Can Bar Robots Enhance the Well-being of Guests?“. The paper has now been published as a preprint and can be downloaded via arxiv.org/abs/2304.14410. From the abstract: „This paper addresses the question of how bar robots can contribute to the well-being of guests. It first develops the basics of service robots and social robots. It gives a brief overview of which gastronomy robots are on the market. It then presents examples of bar robots and describes two models used in Switzerland. A research project at the School of Business FHNW collected empirical data on them, which is used for this article. The authors then discuss how the robots could be improved to increase the well-being of customers and guests and better address their individual wishes and requirements. Artificial intelligence can play an important role in this. Finally, ethical and social problems in the use of bar robots are discussed and possible solutions are suggested to counter these.“ More information on the conference via aaai.org/conference/spring-symposia/sss23/.
Im Innovation Lab der Polizei Nordrhein-Westfalen testet man seit einer Weile den Einsatz von Spot, eines vierbeinigen Roboters von Boston Dynamics. Dieser erkundete u.a. ein ausgebranntes Haus in Essen. Mit Spot experimentiert auch die New Yorker Polizei, was immer wieder für Diskussionen sorgt. Baden-Württemberg („The Länd“) hat in diesen Tagen nachgezogen. Die offizielle Website des Landes zitiert Innenminister Thomas Strobel mit den Worten: „Laufroboter können sich in schwierigem Gelände und im urbanen Umfeld mit Hindernissen wie Treppen oder Absätzen sicher fortbewegen und sind schnell, unkompliziert und vielseitig einsetzbar. Sie sind schneller und verwischen am Tatort weniger Spuren als herkömmliche Roboter auf Rädern oder Ketten, wie sie beispielsweise unser Landeskriminalamt bereits einsetzt.“ (Baden-Württemberg, 28. April 2023) Spot wird neben anderen Systemen in dem Paper „Robots in Policing“ von Prof. Dr. Oliver Bendel thematisiert, das in den Proceedings „Social Robots in Social Institutions“ der Robophilosophy 2022 erschienen ist. Polizeiroboter und KI-Systeme sind auch Gegenstand des CAS Zukunftsorientierte Polizeiarbeit. Verantwortlich für diesen Teil ist wiederum Oliver Bendel.
In der Schweiz soll eine neue Hochschule für Informatik FHNW mit einem Standort in Brugg-Windisch und einem Standort nördlich des Jura (Basel-Landschaft und Basel-Stadt) gegründet werden. Sie soll ihren Studienbetrieb im Herbst 2025 aufnehmen und ab diesem Zeitpunkt die bestehenden Informatikstudiengänge der Hochschule für Technik FHNW übernehmen. In der Leistungsauftragsperiode 2025 – 2028 wird sie laut Plan weitere Aus- und Weiterbildungsangebote aufbauen sowie Forschungs- und Entwicklungsaktivitäten entfalten. Ziel der neuen Hochschule ist es, in der Nordwestschweiz die von Wirtschaft und Verwaltung benötigten Informatiker aus- und weiterzubilden. Die Studiengänge und -angebote der Hochschule für Wirtschaft FHNW in Wirtschaftsinformatik, Künstlicher Intelligenz und Robotik sind von dieser Neuerung nicht betroffen. Das Portfolio der HSW bleibt damit unverändert. Die Hochschule für Informatik FHNW wird die zehnte Hochschule unter dem Dach der Fachhochschule Nordwestschweiz sein. Berichtet haben über die Neugründung u.a. Nau und Inside IT.
Abb.: Informatik ist für unterschiedliche Branchen wichtig
Oasis war eine erfolgreiche britische Band, die 1991 gegründet und 2009 aufgelöst wurde. Mit Hilfe von künstlicher Intelligenz wurde sie nun wieder zum Leben erweckt. Das Projekt stammt von der Band Breezer. Sie nahm neue Lieder auf, die sie mit der KI-Stimme des Oasis-Frontmanns Liam Gallagher ergänzte. Dies berichtete Golem am 28. April 2023. Dabei wurde nach Angaben des Magazins das KI-System lediglich dafür eingesetzt, den Klang von Liam Gallaghers Stimme zu imitieren. Der Gesang samt den Modulationen stammt von einem anderen Sänger. „Das Ergebnis der KI-Bearbeitung, aber auch die Leistung der Musiker ist beeindruckend: Die Songs gehen ohne weiteres als Oasis-Songs der späten 1990er Jahre durch.“ (Golem, 28. April 2023) Das Album „AISIS – The Lost Tapes/Vol. 1“ kann u.a. über YouTube aufgerufen werden.
Am 26. Mai 2023 hält Prof. Dr. Oliver Bendel einen Gastvortrag beim scil-Modul „Dialogorientierte Lern- und Assistenzsysteme“ an der Universität St. Gallen. Der Titel lautet „Ethische Implikationen von ChatGPT“. Aus Sicht von Informations- und Maschinenethik werden verschiedene Überlegungen zu ChatGPT angestellt. Zunächst ist die Frage, woher die Daten für das zugrunde liegende Sprachmodell kommen und unter welchen Bedingungen das Reinforcement Learning from Human Feedback abläuft. Zudem dürfte relevant sein, welche Daten man beim Prompt preisgibt und welche Prompts auf welche Art und Weise zurückgewiesen werden. Ein weiteres Problemfeld ist das Halluzinieren der Sprachmodelle bzw. der darauf basierenden Anwendungen. Diese verdrehen Fakten und erfinden Referenzen. Nicht zuletzt ergeben sich für zahlreiche Anwendungsfelder wie Aus- und Weiterbildung besondere Herausforderungen … Mit Visual ChatGPT soll man über Texteingaben Bilder generieren und dann einzelne Elemente editieren können. Solche und andere Bildgeneratoren wie DALL-E, Stable Diffusion und Midjourney werfen wiederum zahlreiche ethische Fragen auf. GPT-3 und GPT-4 bzw. ChatGPT sind nicht nur für bzw. als Chatbots und Contentgeneratoren relevant, sondern auch für Industrie- und Serviceroboter. In diesem Bereich hat indes vor allem das Sprachmodell PaLM-E Aufmerksamkeit erregt. Indem Bilddaten und Daten zu Zuständen und Ereignissen integriert werden, werden Virtualität und Realität verbunden. Konkret kann der Benutzer mit Hilfe eines Prompts einem Roboter eine Anweisung geben, die dieser dann in seiner Umgebung ausführt, die er vorher beobachtet hat und weiter beobachtet. Dabei sind wiederum Herausforderungen vorhanden, etwa mit Blick auf Verlässlichkeit und Haftung. Oliver Bendel hat vor einem Vierteljahrhundert an der Universität St. Gallen gearbeitet – als Leiter des CC E-Learning – und geforscht, zu Conversational Agents und Embodied Conversational Agents in Lernumgebungen, sogenannten Pedagogical Agents. Weitere Informationen zum scil über www.scil.ch.
Abb.: Auch Pepper hat man schon mit ChatGPT verbunden (Foto: Sara Zarubica)
Am 9. April 2023 versammelten sich die Passagiere am Flughafen von San Francisco an einem der Gates, um auf das Boarding eines SWISS-Flugs zu warten. Für viele Schweizer und Deutsche ging es – mit dem Zielflughafen Zürich – zurück in die Heimat. Beim Boarding mussten alle vor ein Gesichtserkennungssystem treten und ihre biometrischen Merkmale erfassen lassen. Dies ersetzte das Vorzeigen der Bordkarte. Es gab keinen Hinweis der Airline oder einer Behörde auf eine Alternative. Eine Anfrage eines Betroffenen an SWISS, auf welcher rechtlichen Grundlage dies erfolgte, wurde wie folgt beantwortet: „Ich habe mir Ihren Fall durchgelesen und möchte Ihnen mitteilen, dass das Gesichtserkennungssystem nicht obligatorisch ist. Es wird immer ein Mitarbeiter im Dienst sein, der die Sicherheitskontrolle auch manuell durchführen kann. Wenn Sie das nächste Mal in eine solche Situation kommen und nicht durch das Gesichtserkennungssystem gehen möchten, können Sie jederzeit einen Mitarbeiter bitten, Sie manuell durch die Kontrolle zu begleiten.“ Der Hinweis, dass die Nutzung des Systems nicht obligatorisch ist, müsste allerdings vor Ort gegeben werden. Man ist beim Boarding eines Rückflugs unter einem gewissen Druck, befindet sich auf fremdem Boden – und sieht sich mit einer unerwarteten Situation konfrontiert. All dies nutzt das Unternehmen oder sein Partner – die US-amerikanische Behörde – offenbar aus. Auch zur Datenerfassung und -verwendung gab es keinerlei Informationen, weder vor noch nach dem Vorgang. Ohne Zweifel wird die informationelle Autonomie verletzt. Insgesamt findet der Einsatz eines problematischen Systems ohne ausdrückliche Zustimmung der Passagiere statt. Laut einem Artikel von 2021 hat man das Verfahren bereits seit längerer Zeit getestet. „Die Swiss bestätigt den Einsatz der Technologie. Zusammen mit dem Mutterkonzern, der Lufthansa-Gruppe, engagiere man sich für den Einsatz der biometrischen Gesichtsfelderkennung. … Beim Projekt in San Francisco handle es sich in erster Linie um einen ‚übergeordneten Grenzkontrollprozess‘ der US-Behörden … Die Swiss und die Lufthansa seien aber bei der Umsetzung begleitend involviert gewesen, um eine Schnittstelle im Abfertigungsprogramm herzustellen.“ (Luzerner Zeitung, 8. September 2021)
„Oliver Bendel antwortet im März auf eine Interviewanfrage aus San Francisco. Der Informationsethiker ist auf dem Weg an ein Symposium, wo er über Umarmungsroboter und Barroboter referieren wird. Vor einigen Jahren hat er an derselben Veranstaltung der renommierten Association for the Advancement of Artificial Intelligence (AAAI) annotierte Entscheidungsbäume für moralische Maschinen vorgestellt. Wenn sich Bendel nicht gerade auf einer seiner vielen wissenschaftlichen Reisen befindet, forscht er in beschaulicher Umgebung: Seit 2009 bekleidet der 55-Jährige eine Professur für Informationsethik, Maschinenethik und Soziale Robotik an der Fachhochschule Nordwestschweiz (FHNW) in Brugg-Windisch.“ (Inside IT, 24. April 2023) Mit diesen Worten beginnt ein Artikel von Thomas Schwandener, der am 24. April 2023 in Inside IT erschienen ist. Weiter heißt es: „In seiner Arbeit geht es um das Zusammenleben von sozialen Robotern und Menschen, um die Potenziale künstlicher Intelligenz, aber auch um ethische Folgefragen. Bendel ist eine Autorität auf seinem Gebiet. Er hat mehrere Standardwerke verfasst, spricht an internationalen Fachtagungen und trat mehrfach vor dem Deutschen Bundestag als Sachverständiger auf.“ (Inside IT, 24. April 2023) Es folgt ein längeres Interview, das am Rande der Shift geführt wurde. Darin weist der Informations- und Maschinenethiker auf die tiefe Kluft zwischen Menschen und Maschinen hin. Der ganze Artikel kann hier aufgerufen werden.
Abb.: Oliver Bendel bei der Shift (Foto: Shift/Louis Rafael)
Beim Privatsender M Le Média ist seit Anfang April 2023 der Avatar Jade als Wettermoderatorin zu sehen. Dies sorgt für Aufregung bei den Schweizer Medien und ihren Rezipienten. Allerdings ist die Idee, einen Avatar als Nachrichtensprecher oder für die Durchsage des Wetterberichts einzusetzen, nicht gerade neu. Die ersten Versuche gab es bereits vor einem Vierteljahrhundert. Im Lexikon der Wirtschaftsinformatik von Springer aus dem Jahre 2001 ist ein Beitrag von Oliver Bendel zum Begriff des Avatars abgedruckt, der diese Passagen enthält: „Avatare finden zum einen Verwendung in kollaborativ genutzten virtuellen Räumen wie Chats, Internet-Spielwelten (MUDs und MOOs), webbasierten Lern- und Arbeitsumgebungen und kommerziellen 3D-Anwendungen (Virtual Reality). Sie fungieren dort als sichtbare und teils auch bewegliche und manipulierbare Stellvertreter eines Benutzers.“ Sie können „zum anderen eine beliebige Figur mit bestimmten Funktionen repräsentieren“. „Solche Avatare treten – beispielsweise als Kundenberater und Nachrichtensprecher – im Internet auf oder bevölkern als Spielpartner und -gegner die Abenteuerwelten von Computerspielen. Sie haben häufig ein anthropomorphes Äußeres und eigenständige Verhaltensweisen oder sogar regelrechte Charaktere.“ Der Beitrag ist bereits im Jahre 2000 entstanden und eingereicht worden und verweist auf Beispiele um die Jahrtausendwende. Von daher haben Avatare dieser Art eine lange Tradition. Beeindruckend ist Jade trotzdem – sie wirkt sehr natürlich und sympathisch und scheint durchaus in der Lage, Sprecher aus Fleisch und Blut zu ersetzen.
Abb.: Jade bei ihrer Moderation am 20. April 2023 (Foto: M Le Média/YouTube)
Am 20. April 2023 fand die Shift statt, eine Tagung zu Fragen von Informationsethik, Roboterethik und KI-Ethik. Initiatorin und Organisatorin ist Cornelia Diethelm. Moderatorin war wieder Patrizia Laeri. Die Keynote hielt Prof. Dr. Oliver Bendel aus Zürich. Er ging zunächst auf soziale Roboter ein und auf die Disziplinen Künstliche Intelligenz, Maschinenethik und Maschinelles Bewusstsein. Dann beschrieb er mehrere soziale Roboter, die auch als Serviceroboter im engeren Sinne eingesetzt werden. Auf dieser empirischen Basis stellte er ethische Überlegungen an. Am Ende behandelte er Sprachmodelle wie GPT-3 bzw. GPT-4 und PaLM-E. Er zeigte, wie soziale Roboter und Serviceroboter von diesen profitieren können, in ihrer Sprachfähigkeit und bei ihrer Wahrnehmung der Welt. Auch Ansätze der Maschinenethik waren ein Thema, von der Einpflanzung moralischer Regeln bis hin zur Nutzung von Moralmenüs. Ein Panel zur Regulierung von KI durch die EU fand am Nachmittag statt. Dabei stach die Schweizer Informatikerin und Unternehmerin Bea Knecht hervor, die nicht nur enorme fachliche Expertise hatte, sondern auch herausragende Reflexionsfähigkeiten – und eine genaue und anschauliche Sprache. Weitere Informationen zur Shift über digitalresponsibility.ch/digitaleethikkonferenz/ …
Abb.: Oliver Bendel im Gespräch mit Patrizia Laeri (Foto: Shift/Louis Rafael)
