According to Mission Local, a policy proposal heading for Board of Supervisors approval next week would explicitly authorize San Francisco police to kill suspects using robots. It is the following wording that is causing discussion: “Robots will only be used as a deadly force option when risk of loss of life to members of the public or officers are imminent and outweigh any other force option available to SFPD.“ According to the local newspaper, this could mark a legal crossing of the Rubicon: „Robot use-of-force has never before been approved, nor has it ever been prohibited, in San Francisco.“ (Mission Local, 22 November 2022) Of what kind of arsenal are we talking, anyway? „The SFPD has 17 robots in its arsenal, 12 of which it describes as fully functional. According to police spokesperson Officer Robert Rueca, they have never been used to attack anyone. The robots are remote-controlled, and are typically used to investigate and defuse potential bombs or to surveil areas too awkward or dangerous for officers to access.“ (Mission Local, 22 November 2022) In August 2022, Oliver Bendel gave a talk about police robots at the Robophilosophy 2022 conference. The paper will be published in a few weeks.
Simone Luchetta vom Tages-Anzeiger hat Prof. Dr. Oliver Bendel zu Chatbots befragt. Eine Frage war, wie er den Einsatz von Chatbots in der Geschäftswelt bewerte und ob es welche gebe, die wirklich nützlich sind. Seine Antwort: „Nach der Jahrtausendwende gab es einen Boom bei Chatbots. Sie waren auf den Websites von Banken und Versicherungen und anderen Unternehmen zu finden. Damals konnten sie die Erwartungen nicht erfüllen. Dabei existierten ambitionierte Anwendungen wie Cor@ von der Deutschen Bank oder Anna von IKEA. Sie konnten den Benutzer beraten und Seiten aufrufen – und auch viele soziale Aspekte abdecken. Heute gibt es wieder einen Boom. Zahlreiche Unternehmen setzen Chatbots auf Websites oder in Apps ein, um Kundenanfragen automatisiert zu bearbeiten. Manche wickeln den Vorgang vollständig ab und machen das mehr oder weniger zufriedenstellend. Mir gefällt nicht, dass zuweilen nur bestimmte Kanäle wie WhatsApp bereitstehen. Ich benutze solche Dienste aus verschiedenen Gründen nicht. Viele Chatbots sind sinnvoll und hilfreich, unterhaltsam und lustig sowie einfach in der Bedienung. Wenn die gewünschten Informationen schnell übermittelt werden und diese richtig und nützlich sind, ist es den Benutzern meist egal, dass sie mit Maschinen und nicht mit Menschen kommunizieren. Mit Chatbots dieser Art können Unternehmen automatisieren und so einsparen. Zudem ist man damit rund um die Uhr ansprechbar. Einige Chatbots können aber auch heute die Erwartungen nicht erfüllen. Die Kunden oder die Bürger reagieren genervt. Sie wünschen sich einen menschlichen Kontakt. Und tatsächlich stellen manche Chatbots einen solchen her, sobald sie überfordert sind. Man spricht von hybriden Lösungen oder auch von Cyborgs. Ein Cyborg ist eine Kombination von Mensch und Technik. Normale Cyborgs sind biologische Strukturen, in die technische eingepasst werden. Umgekehrte Cyborgs sind technische Strukturen, in die biologische eingepasst werden. Bei Chatbots kann man beides realisieren – sicherlich überwiegen umgekehrte Cyborgs, denn die menschliche Arbeitskraft ist nachgelagert.“ Das Interview umfasste weitere Fragen und Antworten, auch zu Beziehungen mit Chatbots und Sprachassistenten und sozialen Robotern. Einige Aussagen sind in den Artikel „Meine unheimlich nette Freundin“ eingeflossen, der am 13. und 14. November 2022 in mehreren Schweizer Zeitungen erschienen ist, etwa im Tages-Anzeiger und in der Basler Zeitung. Er ist Teil eines aktuellen KI-Schwerpunkts der Tamedia-Gruppe.
Vom 7. bis zum 9. November 2022 fand an der Hochschule für Wirtschaft FHNW in Olten das Wahlmodul „Soziale Roboter“ statt. In die Wege geleitet und durchgeführt wurde es von Prof. Dr. Oliver Bendel. Fast 60 studentische Teilnehmer, durchgängig aus der Wirtschaftsinformatik (Basel, Olten und Brugg-Windisch), waren vor Ort. Der Informations- und Maschinenethiker führte in die Robotik und in die Soziale Robotik ein. Dann stellte er Überlegungen aus ethischer Sicht an und erläuterte die Zusammenhänge zwischen sozialen Robotern und Servicerobotern. Zudem waren tierfreundliche Maschinen ein Thema. Ein externer Vortrag stammte von Sara Zarubica, einer ausgebildeten Entwicklerin und studierten Wirtschaftsinformatikerin. Sie präsentierte ein auf Pepper basierendes Lernspiel, das sie 2022 im Rahmen ihrer Bachelorarbeit entwickelt hatte. Ein weiterer Vortrag wurde von Carolyn Hettinger gehalten, die an der Hochschule München ihre Bachelorarbeit über Paro aus Sicht der Akteur-Netzwerk-Theorie schreibt. An allen drei Tagen waren Pepper, NAO, Alpha Mini, Cozmo und Hugvie zugegen. Sie führten ihre Fähigkeiten vor und interagierten und kommunizierten mit den Anwesenden. Am letzten Tag konzipierten und illustrierten die Studenten und Studentinnen in Gruppenarbeiten zehn verschiedene soziale Roboter, die nützlich und sinnvoll sind und sich im Markt behaupten können. Das Wahlmodul wurde zum ersten Mal im November 2021 durchgeführt. Im Februar 2023 findet es bereits wieder statt, innerhalb der Betriebsökonomie in Brugg-Windisch.
Abb.: Sara Zarubica bei der Abschlusspräsentation ihrer Bachelorarbeit
„Der Mensch sieht sich mit immer schnelleren technischen und technologischen Entwicklungen konfrontiert. Daraus entstehen Fragen nach ethischer Orientierung innerhalb verschwimmender Grenzen zwischen Natur und Technik. Das neue Heft Amos international greift die Diskussion um die Digitalisierung mit ihren verschiedenen Facetten auf und untersucht Künstliche Intelligenz im Spannungsfeld zwischen Heilversprechen und apokalyptischen Warnungen.“ (Vorwort amos international, 2/2022) So lautet das Vorwort zu einem Schwerpunkt der Zeitschrift Amos international. Die Artikel stammen von Anna Maria Riedl, Bernhard Irrgang, Armin Grunwald, Katharina Klöcker, John Wyatt und Catrin Misselhorn. Claudia Schwarz führte ein Interview mit Oliver Bendel zur Frage der Verantwortung bei Maschinen und zu Roboter- und Maschinenethik. Der studierte Philosoph und promovierte Wirtschaftsinformatiker hält aus Prinzip keine Vorträge für religiöse Einrichtungen und schreibt keine Artikel für religiöse Zeitschriften. Er steht ihnen aber in Einzelfällen für Interviews zur Verfügung. Das Heft kann über www.amosinternational.de/magazine/issue-2022-3 aufgerufen werden.
Abb.: Oliver Bendel bei einem Dreh mit 3sat (Foto: Sara Zarubica)
The conference program for ACI’22 will be available in the course of November. In the meantime, the website lists the accepted papers in alphabetical order. Among them are the papers „A Face Recognition System for Bears: Protection for Animals and Humans in the Alps“ (Oliver Bendel and Ali Yürekkirmaz), „A Framework for Training Animals to Use Touchscreen Devices for Discrimination Tasks“ (Jennifer Cunha and Corinne Renguette), „Politicising Animal-Computer Interaction: an Approach to Political Engagement with Animal-Centred Design“ (Clara Mancini, Orit Hirsch-Matsioulas, and Daniel Metcalfe), and „TamagoPhone: A framework for augmenting artificial incubators to enable vocal interaction between bird parents and eggs“ (Rebecca Kleinberger, Megha Vemuri, Janelle Sands, Harpreet Sareen, Janet M. Baker). ACI2022 will take place 5-8 December 2022, hosted by Northumbria University, Newcastle upon Tyne, UK.
Fig.: The Gateshead Millennium Bridge between Gateshead and Newcastle upon Tyne
Vom 31. Mai bis zum 2. Juni 2022 fand die Learntec, die größte E-Learning-Messe und -Konferenz Europas, in Karlsruhe statt. Die erste Keynote hielt Prof. Dr. Oliver Bendel, der bereits 2001, 2003 und 2004 zu Gast gewesen war. Das Thema war „Kollegen, Freunde, Partner: Welche Versprechen soziale Roboter geben und welche sie halten“. Zunächst stellte der Informations- und Maschinenethiker aus Zürich im Rahmen der begrifflichen Arbeit sein Fünf-Dimensionen-Modell sozialer Roboter vor, das die Interaktion mit Lebewesen, die Kommunikation mit Lebewesen, die Nähe zu Lebewesen, die Abbildung von (Aspekten von) Lebewesen sowie – im Zentrum – den Nutzen für Lebewesen vorsieht. Mit Hilfe dieses Modells beschrieb er mehrere Produkte wie Alpha Mini, Cozmo, Pepper, NAO, P-Care, Reem und Harmony. Er fragte danach, wie es um die Zuverlässigkeit sozialer Roboter bestellt ist und welche Versprechen sie geben und halten (oder nicht halten). Eine kurze Diskussion rundete die einstündige Veranstaltung ab. Seit Ende Oktober 2022 steht ein Video mit dem Titel „Das war die LEARNTEC 2022!“ zur Verfügung, das wichtige Momente der E-Learning-Messe und -Konferenz einfängt, darunter auch die genannte Keynote.
Abb.: Oliver Bendel bei seiner Keynote (Foto: Learntec)
„Eine Künstliche Intelligenz, die nicht nur Arbeiten für uns erledigt, sondern mit der man sich unterhalten kann, mit der man in tiefe Gespräche eintauchen könnte, die nicht nur unsere Handlungen, sondern möglicherweise auch unsere sozialen Kontakte ersetzt, durch Isolation geplagte Menschen vom Gefühl der Einsamkeit befreit, die unseren Nöten und Sorgen zuhört, Ratschläge gibt, verständnisvoll tröstet, die sexuelle Wünsche erfüllt, lässt sich für viele nicht nur auf pragmatischer Ebene denken, sondern wirft ethische Fragen auf, nicht zuletzt die alte Frage nach der Bedeutung – und Ersetzbarkeit – des Individuums, der Humanität.“ (ByteCookie, 26. Oktober 2022) So ist es zu lesen in einem Artikel mit dem Titel „Über Staubsauger und One-Night-Stands“, der am 26. Oktober 2022 auf ByteCookie erschienen ist, einer Plattform für Freelancer. Zu Wort kommen u.a. Olga Levina, Professorin an der TH Brandenburg, Hans-Georg Dederer, Professor an der Universität Passau, und Oliver Bendel, Professor an der Hochschule für Wirtschaft FHNW. Die Plattform kann über www.bytecookie.net aufgerufen werden (es ist ein Login erforderlich).
„Sind Maschinen das Ende der Menschheit?“ So lautet der Titel eines Ende Oktober 2022 erschienenen Dossiers in der Zeitschrift „Der Pragmaticus“. Diese wurde u.a. vom Red-Bull-Chef Dietrich Mateschitz gegründet. Er ist vor kurzem gestorben, und es handelt sich um das erste Dossier, dessen Veröffentlichung er nicht mehr erlebt hat. Darin heißt es: „KI hat unser Leben bereits jetzt in vielerlei Hinsicht unter Kontrolle. Sie lesen diesen Text vielleicht auf einem Smartphone in der U-Bahn, und dank Google Maps wissen Sie schon, ob Sie den Anschlussbus nach Hause erreichen werden. Vielleicht sitzen Sie auch am Schreibtisch, ein desorientierter Staubsaugerroboter fährt schon wieder gegen den Sessel und reißt Sie aus dem Lesefluss, genervt sagen Sie: ‚Alexa, stopp!‘ KI hat es sich längst, oft unbemerkt, in unserem Alltag bequem gemacht, in Form von Smartphones, virtuellen Assistenten oder Saugrobotern.“ Zu Wort kommen u.a. Sepp Hochreiter, Professor für Machine Learning in Linz, und Georg Dorffner, Professor für KI an der Medizinischen Universität in Wien, zudem Oliver Bendel, Professor für Wirtschaftsinformatik und Ethik an der Hochschule für Wirtschaft FHNW. Maschinen sind, so seine Meinung, nicht das Ende der Menschheit, ganz im Gegenteil. Das Dossier kann über www.derpragmaticus.com/d/roboter/ aufgerufen werden.
Das WI-Update 2022 widmet sich am Freitag, 23. September 2022 der Disziplin der Künstlichen Intelligenz. Als Forschungsfeldleiter „GeoHealth Analytics“ an der FFHS in Zürich wird Dr. Joachim Steinwendner, so die Website der Veranstaltung, in den Themenbereich einleiten und über die Grundlagen der KI sprechen. Pascal Wyss zeige live anhand von praktischen Beispielen, wie KI-Systeme lernen und sich weiterentwickeln. Als Head of Artificial Intelligence & Automation bei der ti&m werde er auf die Frage, wohin sich die KI entwickelt, eine Antwort geben können. Prof. Dr. Oliver Bendel von der Hochschule für Wirtschaft FHNW stellt insbesondere ethische Überlegungen in Bezug auf soziale Roboter und Serviceroboter sowie integrierte künstliche Intelligenz an. So werden Chancen und Risiken der Gesichtserkennung sowie weiterer Technologien beleuchtet. Pascal Lamia wird, so die Website, über Cybersecurity referieren. Als Leiter Operative Cybersicherheit im NCSC sei er vertraut mit den aktuellen Bedrohungen und könne veranschaulichen, wie die Angreifer vorgehen. Die Fachtagung der Wirtschaftsinformatik findet in Zürich statt. Weitere Informationen über www.wi-update.ch.
Abb.: Oliver Bendel bei Dreharbeiten von 3sat (Foto: Sara Zarubica)
Animal-computer interaction (ACI) „is a rapidly growing field, which focuses on the interaction between animals and computing-enabled technology and for which the International Conference on Animal-Computer Interaction is the main convention venue“ (Website ACI2022). ACI2022 will take place 5-8 December 2022, hosted by Northumbria University, Newcastle upon Tyne, UK. The „Emerging Work“ track reflects early stage efforts that either: „1) will be of interest to the ACI community and likely to generate insightful, instructional, and/or spirited discussion, and/or 2) is early enough that it could benefit greatly from community feedback on direction, design, methods, etc.“ (Website ACI2022) In this track, the paper „A Face Recognition System for Bears: Protection for Animals and Humans in the Alps“ by Oliver Bendel and Ali Yürekkirmaz was accepted. It fits very well with this year’s conference theme, „Defining Tomorrow“. „The theme acknowledges the rapid growth in technology for animals with new products coming onto the market, normalising the use of technology in many human-animal relationships, and asks: where should we go next?“ (Website ACI2022)
Fig.: View of Newcastle upon Tyne (Photo: Rüdiger Schäfer )
On the first day of Robophilosophy 2022, Oliver Bendel presented his paper „Robots in Policing“ … From the abstract: „This article is devoted to the question of how robots are used in policing and what opportunities and risks arise in social terms. It begins by briefly explaining the characteristics of modern police work. It puts service robots and social robots in relation to each other and outlines relevant disciplines. The article also lists types of robots that are and could be relevant in the present context. It then gives examples from different countries of the use of robots in police work and security services. From these, it derives the central tasks of robots in this area and their most important technical features. A discussion from social, ethical, and technical perspectives seeks to provide clarity on how robots are changing the police as a social institution and with social actions and relationships, and what challenges need to be addressed.“ (Abstract) Robots in policing are a topic that has yet to receive much attention. However, it is likely to become considerably more topical in the next few years. More information about the conference on cas.au.dk/en/robophilosophy/conferences/rpc2022.
Fig.: A poster at the entrance of the University of Helsinki
Der Nachmittag des dritten Tags der Robophilosophy 2022 startete mit drei Sessions und einem Workshop. Session 17 („Social Norms and Roles II“) wurde bestritten von Jaime Banks („Breaking the Typecast? Moral Status and Trust in Robotic Moral Patients“, mit Kevin Koban und Brad Haggadone), Tom Coggins („Called Back on Stage: Dramaturgic Analysis, Domestic Social Robots, and Privacy“) sowie Keren Mazuz („Folding and Unfolding Human-Humanoid Robot Interactions: Through an Anthropological Analysis of Play“, mit Ryuji Yamazaki). Keren Mazuz ging auf den Telenoid ein, der aus der Forschung von Hiroshi Ishiguro bekannt ist (und der ein Vorgänger und Verwandter von Hugvie ist). Nach der Kaffeepause hielt Rachid Alami die unterhaltsame und reichhaltige Keynote „Decisional issues for Human-Robot Joint Action“. Er zeigte einen Ausschnitt aus dem Film „Modern Times“ (1936) von und mit Charlie Chaplin mit einem Fütterroboter, erwähnte Systeme und Konzepte wie BDI Systems, wobei die Abkürzung für „beliefs“, „desires“ und „intentions“ steht, und die Human-Robot Joint Action. Danach fuhr man mit dem Schiff zum Dinner auf das Suomenlinna Fortress Island.
Wir erleben seit den 1980er-Jahren eine Krise nach der anderen: Epidemien und Pandemien, von Menschen mitverursachte Naturkatastrophen, Unfälle mit Atomkraftwerken, Kriege vor der Haustür. Pflegekräfte, Reparatur- und Bergungsteams sind im Dauereinsatz und oft überlastet. Serviceroboter könnten uns viel Arbeit abnehmen. Das meinte jedenfalls der Ethiker und Wirtschaftsinformatiker Oliver Bendel aus Zürich in seinem Kommentar „Serviceroboter könnten uns helfen“ im Deutschlandfunk am 18. August 2022 in der Sendung „Politisches Feuilleton“. Dabei hält er nicht nur den Einsatz von kegel- und kistenförmigen Transport- und Sicherheitsrobotern für nützlich, sondern auch die Weiterentwicklung von animaloiden und humanoiden Modellen wie Spot und Atlas, die sich auf Beinen in schwierigem Gelände fortbewegen können. Zudem werden Wasser- und Unterwasserroboter immer wichtiger. Ergänzt wird das ganze System durch Drohnen, etwa Quadrokopter. Dass ein solches System überhaupt vorhanden und einsatzfähig ist, ist Aufgabe der Städte und Kommunen. Sie müssen sich Kohorten von Servicerobotern zulegen, die dann autonom unterwegs sind oder ferngesteuert werden. Die Audiodatei kann über www.deutschlandfunkkultur.de/krise-roboter-arbeitsteilung-100.html heruntergeladen werden.
Abb.: Oliver Bendel stellt bei einer Konferenz einen humanoiden Serviceroboter vor
Der zweite Tag der Konferenz wurde von einem Vortrag von Virginia Dignum über „Responsible AI: From Principles to Action“ eröffnet. Bis zum Lunch gab es vier parallele Sessions. Session 6 („Robots in Elderly Care“) umfasste die Talks von Migle Laukyte („Right to Robot or a Duty to Older Generations“) und Peter Remmers („Social Robots in Care Facilities“, zusammen mit Nele Fischer). Workshop 3 („ELSI of the Avatar Symbiotic Society“) wurde von Hiroshi Ishiguro mit „Realisation of the Avatar Symbiotic Society: The Concept and Technologies“ eröffnet. Anders als 2018 war er nicht vor Ort, sondern über Zoom zugeschaltet. Seine Vision ist, dass im Jahre 2050 viele Menschen einen oder mehrere Avatare besitzen, wobei er damit nicht virtuelle, sondern physische Repräsentanten meint. Der eine oder andere Teilnehmer fragte sich, warum er nicht seinen eigenen Avatar, den Geminoid, nach Helsinki geschickt hatte. Parallel fanden drei Sessions statt. In Session 7 („Relational Accounts“) stellte Miriam Gorr in „How We Respond to Robots and Whether It Matters Morally“ die Ansätze von John Danaher, Robert Sparrow and Mark Coeckelbergh zum moralischen Status von Maschinen auf den Prüfstand. Nach der Kaffeepause folgten zwei Workshops und zwei Sessions. In Session 10 („Robots in Healthcare II“) ging Iva Apostolova auf „The Significance of the Sense of Touch for the Use of Social Robots in Care Settings“ ein. Oliver Bendel wies in der Diskussionsrunde auf Umarmungsroboter, Liebespuppen und Sexroboter hin. Den Schlusspunkt bildete die Keynote „Socially Assistive Robotics – Methods and Implications for the Future of Work and Care“ von Maja Matarić. Sie kombiniert die Präsenz der Roboter und deren Funktionen mit Mixed Reality. Danach ging es in die nahegelegene City Hall, wo die Stadt Helsinki die Wissenschaftler empfing und umsorgte.
At the Robophilosophy conference 2018 in Vienna, Hiroshi Ishiguro gave a keynote, as did Guy Standing, Catelijne Muller, Oliver Bendel, and others. His personal presence, combined with provocative statements, inspired many attendees. In Helsinki in 2022, he joined online and gave a talk („Realization of the Avatar Symbiotic Society: The Concept and Technologies“) within the workshop „ELSI of the Avatar Symbiotic Society“. The workshop was announced on the website as follows: „We are currently promoting a project to develop (physical or virtual) avatar technology and to create a society where everyone can engage in various activities as they wish, beyond physical constraints, by using avatars. We are particularly concerned with enriching our communications, interactions, and relationships through avatars. However, this aim cannot be achieved by technology alone. We have to consider the ELSI (ethical, legal and social issues) concerning avatars as well. In this workshop, the speakers will introduce some of our technologies and then raise ethical and legal questions concerning avatars. Then we would like to discuss these issues with all the participants.“ (Website Robophilosophy) Further information via cas.au.dk/robophilosophy/conferences/rpc2022/program.
Fig.: Hiroshi Ishiguro and his ideas of the year 2050
On the first day (August 16, 2022) of the Robophilosophy conference, Katharina Kühne (University of Potsdam) presented a poster on a project she had carried out together with Melinda A. Jeglinski-Mende from the same university. Oliver Bendel (School of Business FHNW) was also involved in the margins. The paper is titled „Tamagotchi on our couch: Are social robots perceived as pets?“. The abstract states: „Although social robots increasingly enter our lives, it is not clear how they are perceived. Previous research indicates that there is a tendency to anthropomorphize social robots, at least in the Western culture. One of the most promising roles of robots in our society is companionship. Pets also fulfill this role, which gives their owners health and wellbeing benefits. In our study, we investigated if social robots can implicitly and explicitly be perceived as pets. In an online experiment, we measured implicit associations between pets and robots using pictures of robots and devices, as well as attributes denoting pet and non-pet features, in a Go/No-Go Association Task (GNAT). Further, we asked our participants to explicitly evaluate to what extent they perceive robots as pets and if robots could replace a real pet. Our findings show that implicitly, but not explicitly, social robots are perceived as pets.“ (Abstract) The conference program is available via cas.au.dk/robophilosophy/conferences/rpc2022/program.
Fig.: Katharina Kühne presents the poster in Helsinki
The impact of robotics and artificial intelligence on non-human animals has been researched by Oliver Bendel for several years. He has made it his task to complement the discipline of animal-computer interaction, which was founded by Clara Mancini, with the discipline of animal-machine interaction. His most recent paper is „Passive, Active, and Proactive Systems and Machines for the Protection and Preservation of Animals and Animal Species“, published February 25, 2022, in Frontiers of Animal Science. Also becoming active in this field now is the famous ethicist Peter Singer. Together with his co-author Yip Fai Tse, he published the article „AI ethics: the case for including animals“ in July 2022. From the abstract: „The ethics of artificial intelligence, or AI ethics, is a rapidly growing field, and rightly so. While the range of issues and groups of stakeholders concerned by the field of AI ethics is expanding, with speculation about whether it extends even to the machines themselves, there is a group of sentient beings who are also affected by AI, but are rarely mentioned within the field of AI ethics – the nonhuman animals. This paper seeks to explore the kinds of impact AI has on nonhuman animals, the severity of these impacts, and their moral implications. We hope that this paper will facilitate the development of a new field of philosophical and technical research regarding the impacts of AI on animals, namely, the ethics of AI as it affects nonhuman animals.“ (Peter Singer and Yip Fai Tse 2022) In the text, the authors write: „Of the hundreds of AI ethics related papers we reviewed in this project, we only found four that concern the impacts of AI on animals, in a general way, and discuss the relevant ethical implications. They are: ‚Towards animal-friendly machines‘ by Oliver Bendel, ‚AI Ethics and Value Alignment for Nonhuman Animals‘ by Soenke Ziesche, ‚Moral Consideration of Nonhumans in the Ethics of Artificial Intelligence‘ by Andrea Owe and Seth Baum and ‚Animals and AI. The role of animals in AI research and application – An overview and ethical evaluation‘ by Leonie Bossert and Thilo Hagendorf.“ (Peter Singer and Yip Fai Tse 2022) The article will certainly give the young disciplines a further boost.
An der Hochschule für Wirtschaft FHNW findet im Herbstsemester 2022 in Olten zum zweiten Mal das Wahlmodul „Soziale Roboter“ statt. Es steht Wirtschaftsinformatikern und Betriebsökonomen offen. Mit 54 Anmeldungen ist die Obergrenze von 60 fast erreicht. Dozent ist Prof. Dr. Oliver Bendel. Das Wahlmodul „Soziale Roboter“ klärt Grundbegriffe und -konzepte, stellt den Zusammenhang zwischen der Sozialen Robotik und anderen Disziplinen (Künstliche Intelligenz, Maschinenethik, Künstliches Bewusstsein) her, nennt Beispiele sozialer Roboter und geht auf Anwendungsgebiete sozialer Roboter ein. Die Studierenden lernen ausgewählte soziale Roboter kennen, auch im direkten Kontakt. Sie entwickeln Szenarien, die folgende Komponenten umfassen: Beschreibung eines fiktiven sozialen Roboters (Zeichnung, Produktbeschreibung), Skizze einer Organisation oder Situation, in der der Roboter eingesetzt wird (Organigramm, Firmenbeschreibung), Darstellung der Interaktion und Kommunikation sowie der Datenflüsse (Modellierung), Diskussion technischer, ethischer und rechtlicher Fragen. Die Ergebnisse werden in Gruppen im Plenum präsentiert. Im Frühjahrssemester 2023 wird in Brugg-Windisch für Betriebsökonomen zusätzlich das Wahlmodul „Soziale Roboter aus technischer, wirtschaftlicher und ethischer Perspektive“ angeboten.
Im Frühjahr 2008 stellte Oliver Bendel in seinem Artikel „Im Rachen des Thesaurus“, erschienen in Telepolis, „Beobachtungen zum Synonymwörterbuch von Microsoft“ an, also zu einem Softwareservice von MS Word. Als Synonym zu „dunkel“ wurde damals von dem US-amerikanischen Unternehmen „negerfarbig“ vorgeschlagen. Der Autor kam insgesamt zum Ergebnis: „Manche Wörter … veraltet, manche grenzwertig, manche falsch, manche Verbindungen nicht nachvollziehbar.“ Später traten Überlegungen zur Rechtschreibprüfung von MS Word hinzu. Diese schien mit der Zeit immer schlechter zu werden, womöglich weil man sich von einem seriösen Wörterbuch verabschiedete und sich auf künstliche Intelligenz verließ. Zu allen Zeiten fiel auf, dass wesentliche Prinzipien der deutschen Sprache nicht verstanden werden. So schlägt die Rechtschreibprüfung bei einem aktuellen Test vor, statt „Sexpuppen“ entweder „Sex puppen“ oder „Sex Puppen“ zu verwenden, statt „Fantasyfiguren“ „Fantasy Figuren“. Jedes Kind weiß, dass man deutsche Komposita zusammenschreibt bzw. durchkoppelt, sogar ein Kind, das in den USA oder in Japan vom „Donaudampfschifffahrtsgesellschaftskapitän“ gehört hat – der Techriese, eine der führenden KI-Firmen, weiß es nicht. Sein Ableger LinkedIn tut sich genauso schwer mit der deutschen Sprache. So liest man etwa: „Andere Mitglieder reagieren auf einen Beitrag eines:einer Kolleg:in“. Abgesehen davon, dass es sich hier um eine Fantasiesprache handelt, wird sie auch noch so benutzt, dass die Männer verschwinden. Aus dem „Kollegen“ wird der oder das „Kolleg“, was immer das bedeuten soll. Auf eine Beschwerde bei LinkedIn kommt eine Nachricht, die so beginnt: „Ich hoffe, diese Mail findet Sie in Ihrer gut Gesundheit. Mein Name ist Trupti und ich würde Ihnen heute gerne helfen.“ Aber Trupti kann leider nicht helfen, reiht nur Worthülse an Worthülse („Ich habe Ihren Vorschlag zur Überprüfung an unser Produktteam weitergeleitet. Wir suchen stets nach Möglichkeiten, die LinkedIn-Erfahrung zu verbessern und berücksichtigen dabei das Feedback unserer Nutzer …“) und setzt so die unselige Tradition von Microsoft im Umgang mit der deutschen Sprache fort.
Im Schweizer Monat (Ausgabe Juli/August 2022) erklärt Oliver Bendel, warum Maschinen keine Verantwortung im moralischen Sinne tragen können. Er geht vom Begriff der Verantwortung aus und auf Roboter und KI-Systeme ein und schreibt dann: „Wenn Verantwortung im definierten Sinne verstanden wird, können Maschinen keine Verantwortung tragen – nicht einmal autonome Maschinen, die sozusagen die technische Krone der menschlichen Schöpfung sind. Autonome Systeme können insbesondere nicht die Folgen ihres Tuns auf sich nehmen. Dies hängt damit zusammen, dass sie eben kein Bewusstsein, keine Einsichtsfähigkeit und keinen freien Willen haben. Übrigens können sie genauso wenig – anders als Tiere – moralische Rechte haben, wobei hier vor allem mit Empfindungs- und Leidensfähigkeit argumentiert wird.“ Die anderen Beiträge im Heft stammen von Konstantin Beck, Judith Bellaiche, Yannick Blättler, Christine Brand, Beat Brechbühl, Gerold Bührer, Baschi Dürr, Alexander Fink, Heinrich Fischer, Ronnie Grob, Allan Guggenbühl, Monika Hausammann, Ayaan Hirsi Ali, Melanie Häner, Alexandra Janssen, Joel Kotkin, Lukas Leuzinger, Christoph Luchsinger, Thomas Minder, Douglas Murray, Daniel Niklaus, Ahoi Polloi, Nicole Ruggle, Urs W. Schoettli, Anja Nora Schulthess, Thomas Sevcik, Michael Shellenberger, Vojin Saša Vukadinović und Tamara Wernli. Weitere Informationen sind über schweizermonat.ch/issue/ausgabe-1098-juli-august-2022/ erhältlich.
Abb.: Oliver Bendel mit Alpha Mini (Foto: Sara Zarubica)
On June 30, 2022, the paper „Should Social Robots in Retail Manipulate Customers?“ by Oliver Bendel and Liliana Margarida Dos Santos Alves was published on arxiv.org. It was presented at the AAAI 2022 Spring Symposium „How Fair is Fair? Achieving Wellbeing AI“ at Stanford University and came in third place in the Best Presentation Awards. From the abstract: „Against the backdrop of structural changes in the retail trade, social robots have found their way into retail stores and shopping malls in order to attract, welcome, and greet customers; to inform them, advise them, and persuade them to make a purchase. Salespeople often have a broad knowledge of their product and rely on offering competent and honest advice, whether it be on shoes, clothing, or kitchen appliances. However, some frequently use sales tricks to secure purchases. The question arises of how consulting and sales robots should “behave”. Should they behave like human advisors and salespeople, i.e., occasionally manipulate customers? Or should they be more honest and reliable than us? This article tries to answer these questions. After explaining the basics, it evaluates a study in this context and gives recommendations for companies that want to use consulting and sales robots. Ultimately, fair, honest, and trustworthy robots in retail are a win-win situation for all concerned.“ The paper will additionally be published in the proceedings volume of the symposium by the end of summer. It can be downloaded via arxiv.org/abs/2206.14571.
Fig.: Social robots with sales tricks (Photo: Daimler and Benz Foundation)
„Roboter in Pflege und Betreuung: einige halten das für den Ausweg aus der Versorgungskrise Pflegebedürftiger. Andere lehnen jegliche Form mit häufig eher emotionalen Begründungen ab. Tatsächlich steht ihr Einsatz fest. Die Frage ist: wann kommen sie zum Einsatz und in welchem Umfang?“ Mit diesen Worten beginnt ein Beitrag von Jochen Gust auf der Plattform Demenz im Krankenhaus vom 15. Juni 2022. Den Schlussteil bildet ein Interview mit Prof. Dr. Oliver Bendel, der Chancen und Risiken von Pflegerobotern und anderen Robotern in der Pflege beleuchtet. Seiner Ansicht nach sind diese keine Lösung des Problems des Pflegenotstands. Sie können aber gewisse Routinetätigkeiten abnehmen und in der Zukunft auch schwere, anstrengende Aufgaben, die Pflegekräfte überfordern und verschleißen. Letztlich fördern sie die persönliche Autonomie von Pflegebedürftigen und Pflegekräften und verletzen zugleich in einigen Fällen die informationelle Autonomie, indem sie Daten sammeln und weitergeben, ohne dass der Benutzer dies beeinflussen kann. Dabei könnte man sowohl organisatorische als auch technische Vorkehrungen treffen sowie in einer Patientenverfügung – eine solche wird im Interview angesprochen – grundlegende Punkte festlegen. Der Beitrag kann über demenz-im-krankenhaus.de/2022/06/15/roboter-in-pflege-und-betreuung-moeglichkeiten-und-grenzen/ aufgerufen werden.
