Chancen und Risiken von Stimm-, Sprach- und Gesichtserkennung

„TA-SWISS schreibt ein Projekt aus, um die Chancen und Risiken von Stimm-, Sprach- und Gesichtserkennung abzuschätzen.“ (Website TA-SWISS) So lautet die Aussage auf der Website der Schweizer Einrichtung für Technologiefolgenabschätzung. Im Vorfeld hatte ein Expertengremium (u.a. mit Prof. Dr. Oliver Bendel) getagt, um die Inhalte und Schwerpunkte einzukreisen. In der Ausschreibung heißt es: „Stimm-, Sprach- und Gesichtserkennung können unseren Alltag erleichtern und sicherer machen. Durch diese Technologien können wir unsere Geräte einfach entsperren (und damit vor Missbrauch schützen), Grenzübertritte reibungsloser gestalten und smarten Helfern Befehle erteilen. Gleichzeitig dringen diese Technologien in den öffentlichen und privaten Raum ein und erheben biometrische Daten, die uns nicht nur identifizieren, sondern möglicherweise auch Auskunft über unsere Emotionen, Persönlichkeit oder Krankheiten geben könnten.“ (Website TA-SWISS) Die Projektskizzen sind bis zum 9. Februar 2020 einzureichen. Weitere Informationen über www.ta-swiss.ch/en/projects/call-for-tenders/.

Abb.: Hier wohnt Alexa

Towards a Morality Markup Language

At the request of Prof. Dr. Oliver Bendel, a student at the School of Business FHNW, Alessandro Spadola, investigated in the context of machine ethics whether markup languages such as HTML, SSML and AIML can be used to transfer moral aspects to machines or websites and whether there is room for a new language that could be called Morality Markup Language (MOML). He presented his results in January 2020. From the management summary: „However, the idea that owners should be able to transmit their own personal morality has been explored by Bendel, who has proposed an open way of transferring morality to machines using a markup language. This research paper analyses whether a new markup language could be used to imbue machines with their owners‘ sense of morality. This work begins with an analysis how a markup language is structured, describes the current well-known markup languages and analyses their differences. In doing so, it reveals that the main difference between the well-known markup languages lies in the different goals they pursue which at the same time forms the subject, which is marked up. This thesis then examines the possibility of transferring personal morality with the current languages available and discusses whether there is a need for a further language for this purpose. As is shown, morality can only be transmitted with increased effort and the knowledge of human perception because it is only possible to transmit them by interacting with the senses of the people. The answer to the question of whether there is room for another markup language is ‚yes‘, since none of the languages analysed offer a simple way to transmit morality, and simplicity is a key factor in markup languages. Markup languages all have clear goals, but none have the goal of transferring and displaying morality. The language that could assume this task is ‚Morality Markup‘, and the present work describes how such a language might look.“ (Management Summary) The promising results are to be continued in the course of the year by another student in a bachelor thesis.

Fig.: Is there room for a MOML?

The Xenobots in our Bodies

In a paper published on 13 January 2020, researchers from the University of Vermont and Tufts University discuss computer-designed, novel organisms called Xenobots. Xenobots consist of skin and muscle cells. The skin cells stabilize the organisms, the muscle cells enable them to perform different activities. A nervous system is not present. An AI system calculates the optimal structure and ratio of the cells in relation to a specific function. The Xenobots are assembled according to the resulting construction plan. In fact, the cells appear to work together. They receive their energy from their embryonic resources – for this one must know that they were developed from stem cells from frog embryos. The researchers see different areas of application. One could build Xenobots that clean blood vessels, for example by removing plaque. However, this could also lead to dangers, because it will be easy to insert the biorobots into the bloodstream, but not so easy to remove them. However, there will also be ways to break down the cells.

Fig.: Injection of biorobots

9 Schieberegler, 18 Moralvorstellungen

Die Idee eines Moralmenüs (MOME) entstand 2018 im Kontext der Maschinenethik. Damit sollte es möglich sein, die Moral einer Person auf eine Maschine zu übertragen. Auf einem Display bekommt man verschiedene Verhaltensregeln angezeigt und kann diese über Schieberegler aktivieren oder deaktivieren. Oliver Bendel entwickelte zwei Designstudien, eine für einen tierfreundlichen Staubsaugroboter namens LADYBIRD, eine andere für einen Sprachassistenten wie Google Duplex. Ende 2018 schrieb er an der Hochschule für Wirtschaft FHNW ein Projekt aus. Drei Studenten – Ozan Firat, Levin Padayatty and Yusuf Or – implementierten von Juni 2019 bis Januar 2020 das MOME für einen Chatbot mit dem Namen MOBO. Der Benutzer macht Angaben zu seiner Person und aktiviert oder deaktiviert dann neun verschiedene Verhaltensregeln. MOBO gibt Komplimente oder gibt keine Komplimente, antwortet voller Vorurteile oder ohne Vorurteile, bedroht den Gesprächspartner oder bedroht ihn nicht. Dabei geht er auf jeden Benutzer individuell ein, nennt dessen Namen – und spricht ihn je nach Einstellung formell oder informell an. Ein Video zum MOBO-MOME ist hier abrufbar.

Abb.: Auch hier gibt es Schieberegler

Mein Freund, der Neon

Die Firma Neon greift mit ihren Neons ein altes Konzept auf, nämlich das der Avatare. Im Lexikon für Wirtschaftsinformatik unterschied Oliver Bendel vor zwanzig Jahren zwischen zwei verschiedenen Typen. Zum zweiten schrieb er: „Avatare können zum anderen eine beliebige Figur mit bestimmten Funktionen repräsentieren. Solche Avatare treten – beispielsweise als Kundenberater und Nachrichtensprecher – im Internet auf oder bevölkern als Spielpartner und -gegner die Abenteuerwelten von Computerspielen. Sie haben häufig ein anthropomorphes Äußeres und eigenständige Verhaltensweisen oder sogar regelrechte Charaktere …“ (Lexikon der Wirtschaftsinformatik, 2001) Genau diesen Typ greift nun die Firma auf, die zum Samsung-Konzern gehört und von Pranav Mistry gegründet wurde, wobei man freilich die heutigen Möglichkeiten nutzt. „Es handelt sich um virtuelle Figuren, die komplett am Computer erzeugt werden und quasi in Echtzeit autonom reagieren sollen; Mistry sprach von unter 20 Millisekunden Latenz.“ (Heise Online, 8. Januar 2019) Die Neons sollen Emotionen zeigen, wie auch einige soziale Roboter, die den Markt erobern, und damit Bindungen erleichtern und festigen. „Der KI-getriebene Charakter sei weder Sprachassistent a la Bixby noch eine Schnittstelle ins Internet. Es sei stattdessen ein Freund, der mehrere Sprachen spricht, neue Skills lernen und sich mit anderen Services verbinden kann, erklärte Mistry auf der CES.“ (Heise Online, 8. Januar 2019)

Abb.: Neons sollen Gefühle zeigen, die sie nicht haben

Der igelfreundliche Mähroboter

Zwischen Juni 2019 und Januar 2020 wurde an der Hochschule für Wirtschaft FHNW unter der Leitung von Oliver Bendel das Projekt HAPPY HEDGEHOG (HHH) durchgeführt. Die Studierenden Emanuel Graf, Kevin Bollier, Michel Beugger und Vay Lien Chang entwickelten im Kontext der Maschinenethik den Prototyp eines Mähroboters, der seine Arbeit einstellt, sobald er einen Igel entdeckt hat. HHH verfügt über eine Wärmebildkamera. Wenn er auf ein warmes Objekt stößt, wird dieses mittels Bilderkennung weiter untersucht. Nachts hilft eine oben angebrachte Lampe dabei. Nach dem Training mit hunderten Fotos kann HHH ziemlich treffsicher einen Igel identifizieren. Es ist nicht nur eine weitere moralische Maschine im Labor entstanden. Das Team liefert mit ihr auch einen Lösungsvorschlag für ein Problem, das in der Praxis häufig auftritt. Handelsübliche Mähroboter töten nämlich immer wieder Igelbabys in der Dunkelheit. HAPPY HEDGEHOG könnte dabei helfen, sie zu retten. Das Bild unterhalb des Beitrags zeigt ihn mit, das Video auf youtu.be/ijIQ8lBygME ohne Verkleidung. Der Roboter steht in der Tradition von LADYBIRD.

Abb.: HAPPY HEDGEHOG mit Verkleidung

A Moral Machine in an Immoral One

The book chapter „The BESTBOT Project“ by Oliver Bendel, David Studer and Bradley Richards was published on 31 December 2019. It is part of the 2nd edition of the „Handbuch Maschinenethik“, edited by Oliver Bendel. From the abstract: „The young discipline of machine ethics both studies and creates moral (or immoral) machines. The BESTBOT is a chatbot that recognizes problems and conditions of the user with the help of text analysis and facial recognition and reacts morally to them. It can be seen as a moral machine with some immoral implications. The BESTBOT has two direct predecessor projects, the GOODBOT and the LIEBOT. Both had room for improvement and advancement; thus, the BESTBOT project used their findings as a basis for its development and realization. Text analysis and facial recognition in combination with emotion recognition have proven to be powerful tools for problem identification and are part of the new prototype. The BESTBOT enriches machine ethics as a discipline and can solve problems in practice. At the same time, with new solutions of this kind come new problems, especially with regard to privacy and informational autonomy, which information ethics must deal with.“ (Abstract) The BESTBOT is an immoral machine in a moral one – or a moral machine in an immoral one, depending on the perspective. The book chapter can be downloaded from link.springer.com/referenceworkentry/10.1007/978-3-658-17484-2_32-1.

Fig.: A moral machine in an immoral one

Will Cozmo be Back?

According to The Robot Report, Anki’s little robots might be making a comeback. Digital Dream Labs in Pittsburgh acquired the patents, trademarks, and domain. The start-up company „is planning to revive and manufacture more units of each product in the following order: Overdrive, Cozmo, Vector“ (The Robot Report, 26 December 2019). Digital Dream Labs founder H. Jacob Hanchar told The Robot Report „the goal is to have all three products available for purchase for Christmas 2020“ (The Robot Report, 26 December 2019). The small robots belong to the best that the industry has produced. What is special about Cozmo is the many emotions it can show (but of course doesn’t have). It also has face recognition and a night vision device. The future of it and its siblings is not yet clear, as Digital Dream Labs has not purchased „physical assets and inventory“ (The Robot Report, 26 December 2019). Fans are waiting and hoping.

Fig.: Cute Cozmo

Living with Harmony

„Living with Harmony“ by Kino Coursey, Susan Pirzchalski, Matt McMullen, Guile Lindroth, and Yuri Furuushi is a book chapter of „AI Love You“ by Yuefang Zhou and Martin H. Fischer. From the abstract: „Existing personal assistants and agents are by design limited in their ability to form or encourage close personal bonds. The Harmony system is designed to be a customizable personal companion agent capable of close personal interaction via the user’s phone, virtual reality headset, as well as through a physical interactive android body. In this chapter, we will describe the history that led to Harmony’s creation, the unique challenges and the overall system design. We will also look at user reactions to the system and anticipated future developments.“ (Abstract) Other authors in the book are Jessica M. Szczuka, Melinda A. Mende, John Danaher, Giuseppe Lugano, Yuefang Zhou, Martin H. Fischer, and Oliver Bendel. Some of them met at the international workshop „Learning from Humanoid AI: Motivational, Social & Cognitive Perspectives“ at the University of Potsdam on 30 November and 1 December 2019.

Fig.: Harmony in Potsdam

What Do Men and Women See in Sex Robots?

The international workshop „Learning from Humanoid AI: Motivational, Social & Cognitive Perspectives“ took place from 30 November – 1 December 2019 at the University of Potsdam. Dr. Jessica Szczuka raised the question: „What do men and women see in sex robots?“ … Some sentences from the abstract: „What do we see when we look at a sexualized robot? The presentation will focus on first empirical results on the visual perception of sexualized robots but will also share some insights on whether women do perceive sexualized robots as a potential threat to an existing romantic relationship and their own self-concept. Both aspects, the visual perception but also the social perception are crucial in order to understand the role sexualized robots may have in our society. Moreover, the role of the human-likeness of sex robots will be discussed.“ (Website Workshop) In her talk, Szczuka demonstrated „empirical evidences on the visual perception of sexualized robots and their potential to evoke jealousy in women“. She confronted 848 heterosexual women with the statement „Imagine you found out that your partner had sex with a human-like or a machine-like sex robot.“ … The results „revealed dimensions in which the jealousy-related discomfort was higher for female competitors compared to the robotic ones (e.g., discomfort caused by the idea of sexual intercourse), whereas in others the robots evoked the same or higher levels of jealousy-related discomfort (e.g., discomfort caused by feelings of inadequacy, discomfort caused by shared emotional and time resources)“ (Szczuka and Krämer 2018).

Fig.: The head of Harmony

„Handbuch Maschinenethik“ erschienen

Nach drei Jahren ist ein ambitioniertes Projekt an sein vorläufiges Ende gekommen: Das „Handbuch Maschinenethik“ (Hrsg. Oliver Bendel) ist Mitte Oktober 2019 bei Springer erschienen. Es versammelt Beiträge der führenden Expertinnen und Experten in den Bereichen Maschinenethik, Roboterethik, Technikethik, Technikphilosophie sowie Roboterrecht. Im Moment kann es hier heruntergeladen werden: link.springer.com/book/10.1007/978-3-658-17483-5 … Es ist ein umfangreiches, ein vorzeigenswertes, ein einzigartiges Buch geworden. In gewisser Weise bildet es ein Gegenstück zur amerikanischen Forschung, die die Disziplin dominiert: Die meisten Autorinnen und Autoren stammen aus Europa und Asien. Der Herausgeber, der sich seit 20 Jahren mit Informations-, Roboter- und Maschinenethik beschäftigt und seit acht Jahren intensiv zur Maschinenethik forscht, ist voller Hoffnung, dass das Buch seinen Platz in der Standardliteratur zur Maschinenethik finden wird, wie „Moral Machines“ (2009) von Wendell Wallach und Colin Allen und „Machine Ethics“ (2011) von Michael und Susan Leigh Anderson, und wie „Programming Machine Ethics“ (2016) von Luís Moniz Pereira (mit Ari Saptawijaya) und „Grundfragen der Maschinenethik“ (2018) von Catrin Misselhorn – die beiden haben wesentlich zum „Handbuch Maschinenethik“ beigetragen. In den nächsten Tagen wird das Buch mit seinen 23 Kapiteln und 469 Seiten zum Verkauf über die Springer-Website bereitgestellt und auch als Printversion angeboten.

Abb.: Das „Handbuch Maschinenethik“

Handbuch „Mensch-Maschine-Interaktion“

Kevin Liggieri und Oliver Müller sind die Herausgeber von „Mensch-Maschine-Interaktion“, einem „Handbuch zu Geschichte – Kultur – Ethik“, wie der Untertitel verrät. Aus der Verlagsinfo: „Das Handbuch bietet einen Überblick über die technischen, historischen, sozialen, medialen, kulturwissenschaftlichen und technikphilosophischen Dimensionen verschiedener Typen von Mensch-Maschine-Interaktion sowie über deren ethische Implikationen. Dabei werden zum einen wissenshistorische Analysen der Diskurse in Philosophie, Literatur und Technik sowie ihrer medialen, apparativen und literalen Praktiken von ca. 1870 bis in die Gegenwart verfolgt (Historischer Teil). Zum anderen wird das komplexe Verhältnis von Menschen und Maschinen anhand von zentralen Begriffs- und Problemfeldern dargestellt und kritisch befragt (Systematischer Teil).“ Der Beitrag von Oliver Bendel trägt den Titel „Die Maschinenethik als neues interdisziplinäres Forschungsfeld“. Das Buch ist bei Metzler erschienen und kann über www.springer.com/de/book/9783476026804 bestellt werden.

Abb.: Eine Mensch-Maschine-Interaktion

Roboter im Kampf gegen Plastikmüll

Die Verschmutzung der Gewässer durch Plastik ist ein Thema, das seit ein paar Jahren ständig in den Medien zu finden ist. Bereits 2015 wurde an der Hochschule für Technik FHNW und der Hochschule für Wirtschaft FHNW untersucht, ob ein Roboterfisch – in der Art des CLEANINGFISH (2014) von Oliver Bendel – eine Lösung sein könnte. 2018 wurde von dem Informations- und Maschinenethiker eine weitere Arbeit vergeben, mit dem Auftrag, mehrere bestehende oder geplante Projekte zu untersuchen, die sich der Meeresverschmutzung annehmen. Als Grundlage der Abschlussarbeit im Studiengang EUT von Rolf Stucki diente „eine Literaturrecherche zum aktuellen Stand der Plastikproblematik weltweit und deren Auswirkungen, aber auch zu den Eigenschaften und Vorzügen von Kunststoffen“ (Management Summary). „Zusätzlich wurden Interviews mit Vertreterinnen und Vertretern der Projekte geführt. Um die internen Unternehmensfaktoren (Stärken, Schwächen) und externen Umweltfaktoren (Chancen, Risiken) zu beurteilen, wurden anhand der Antworten und der Recherche SWOT-Analysen erstellt.“ (Management Summary) Die Resultate zeigen laut Stucki, dass die meisten Projekte finanziell abhängig sind von Sponsoren und Geldgebern. Zwei von ihnen seien außerdem in der Konzeptphase; sie sollten mittelfristig die technische und finanzielle Machbarkeit nachweisen. Mit Blick auf das soziale Engagement lasse sich sagen, dass alle sechs Projekte sehr aktiv sind. Ein Plakat zeigt einen Vergleich (die Fotos wurden für die Publikation in diesem Blog verfremdet). Als Roboter sticht WasteShark aus den Ansätzen heraus. Er ist sozusagen der CLEANINGFISH, der Realität geworden ist.

Abb.: Die Vermüllung der Meere

New Platform about Robophilosophy

Robophilosophy or robot philosophy is a field of philosophy that deals with robots (hardware and software robots) as well as with enhancement options such as artificial intelligence. It is not only about the practice and history of development, but also the history of ideas, starting with the works of Homer and Ovid up to science fiction books and movies. Disciplines such as epistemology, ontology, aesthetics and ethics, including information and machine ethics, are involved. The new platform robophilosophy.com was founded in July 2019 by Oliver Bendel. He invited several authors to write with him about robophilosophy, robot law, information ethics, machine ethics, robotics, and artificial intelligence. All of them have a relevant background. Oliver Bendel studied philosophy as well as information science and made his doctoral thesis about anthropomorphic software agents. He has been researching in the fields of information ethics and machine ethics for years.

Fig.: All about robophilosophy

Tierfreundliche Maschinen

Parallel zu seiner Arbeit in der Maschinenethik versucht Oliver Bendel, die Tier-Maschine-Interaktion (AMI) als Disziplin zu etablieren. Er war sehr beeindruckt von Clara Mancinis Beitrag „Animal-Computer Interaction (ACI): A Manifesto“ zur Interaktion zwischen Tier und Computer. In seiner AMI-Forschung beschäftigt er sich hauptsächlich mit Robotern und Geräten und deren Verhalten gegenüber Tieren. Es gibt nicht nur moralische Fragen, sondern auch Fragen zur Gestaltung der äußeren Erscheinung und zur Sprechfähigkeit. Der allgemeine Hintergrund für seine Überlegungen ist, dass sich immer mehr Maschinen und Tiere in geschlossenen, halboffenen und offenen Welten treffen. Er ist der Ansicht, dass teilautonome und autonome Systeme Regeln haben sollten, damit sie Tiere gut behandeln. Sie sollten sie nicht stören, erschrecken, verletzen oder töten. Beispiele sind Spielzeugroboter, Haushaltsroboter, Serviceroboter in Einkaufszentren und Landwirtschaftsroboter. Die Medien haben mehrere Artikel zu seiner Forschung zu tierfreundlichen Maschinen gebracht, zuletzt Zeitschriften in den USA und in China.

Abb.: Auch Giraffen sollten ihre Ruhe haben, beispielsweise vor Drohnen

Die gute, alte Zeit bei Google Maps

Auf Google Maps trägt Riva del Garda den Namen Reiff. Die Habsburger nannten die Stadt so. Aber ein Reiff am Gartsee kennt heute niemand mehr. Teplice war 1895 bis 1918 und 1918 bis 1945 Teplitz-Schönau. Google Maps benutzt die Bezeichnung immer noch. Die Frage ist, ob damit ein politisches Statement verbunden ist. Am rechten Rand dürfte man sich auf jeden Fall über solche Namen freuen. Diese sind bei dem Kartendienst keineswegs eine Ausnahme. Bei einem virtuellen Spaziergang im Veltlin (Valtellina) stößt man laufend auf sie. Morbegno ist Morbend, Sondrio Sünders. Worms ist immerhin wieder Bormio geworden. Vielleicht hat ein Benutzer protestiert. Auch das Elsass ist natürlich eine Fundgrube. Mulhouse ist Mülhausen – dieser Name ist dort freilich noch allgegenwärtig. Doch zurück nach Tschechien, nach Karlsbad, weiter nach Marienbad, Pilsen und Klattau. Und dann wieder hoch, bis Adolfsgrün. Bei Google ist, warum auch immer, die Zeit stehengeblieben.

Abb.: Teplice heißt wieder Teplitz-Schönau

Das vermessene Tier

„Wissenschaftler wollen Tiere weltweit mit Sensoren und Sendern ausstatten, um ihre Wanderungen und Lebensgewohnheiten besser kennenzulernen. Die Daten werden zur ISS gefunkt und von dort auf die Erde zu den Forschern. Am 10. Juli geht das System, eine Kooperation von DLR und Roskosmos, in Betrieb.“ Dies meldete Golem am 10. Juli 2019 mit Blick auf das Projekt ICARUS („International Cooperation for Animal Research Using Space“). Die Tiere werden mit einem kleinen Kästchen ausgestattet, in dem sich mehrere Sensoren befinden: „GPS für die Positionsbestimmung, ein Beschleunigungsmesser, um das Verhalten eines Tieres zu beobachten, ein Magnetometer, um die Ausrichtung relativ zum Magnetfeld der Erde zu erfassen, Sensoren, die den Luftdruck, die Feuchtigkeit und die Temperatur messen.“ (Golem, 10. Juli 2019) Ein Foto zeigt einen Storch, der einen recht großen Apparat auf sich trägt – es fragt sich, was die Tiere dabei empfinden und ob sie darunter leiden. Hier können Tiermedizin, Tierethik, Tier-Computer-Interaktion und Tier-Maschine-Interaktion versuchen, Antworten zu finden. Nach Golem geht es den Forschern darum, Neues über das Verhalten zu lernen: „Welche Tiere wandern? Welche Routen nehmen sie? Wo machen sie Rast? Wo suchen sie nach Nahrung? Wie orientieren sie sich? Wo und warum sterben sie? Davon erhoffen sie sich auch weitergehende Erkenntnisse, etwa über die Verbreitung von Pflanzen oder Krankheiten durch wandernde Tiere.“ (Golem, 10. Juli 2019) Ein anderes Projekt in diesem Zusammenhang wurde hier geschildert. Ob ICARUS einen Höhenflug erleben kann oder einen Absturz erleben muss, wird sich zeigen.

Abb.: Auch Störche sind betroffen

Roboter, Empathie und Emotionen

„Roboter, Empathie und Emotionen“ – dieses Forschungsprojekt hatte die Einrichtung für Technologiefolgenabschätzung der Schweiz, die TA-SWISS, vor einiger Zeit ausgeschrieben. Den Zuschlag hat ein Konsortium von FHNW, ZHAW und Universität St. Gallen erhalten. Der Antragsteller, Prof. Dr. Hartmut Schulze von der Hochschule für Angewandte Psychologie FHNW, deckt die Psychologie ab. Der Co-Antragsteller, Prof. Dr. Oliver Bendel von der Hochschule für Wirtschaft FHNW, nimmt die Perspektive von Informations-, Roboter- und Maschinenethik ein, die Co-Antragstellerin, Prof. Dr. Maria Schubert von der ZHAW, die der Pflegewissenschaft. Die TA-SWISS stellte auf ihrer Website fest: „Welchen Einfluss haben Roboter … auf unsere Gesellschaft und auf die Personen, die mit ihnen interagieren? Sind Roboter vielleicht eher Spitzel als Vertraute? … Was erwarten wir von diesen Maschinen beziehungsweise was dürfen wir effektiv von ihnen erwarten? Zahlreiche soziologische, psychologische, wirtschaftliche, philosophische und rechtliche Fragen im Zusammenhang mit dem gegenwärtigen und künftigen Einsatz und Potenzial der Roboter sind noch offen.“ (Website TA-SWISS) Das Kick-off-Meeting mit einer hochkarätig besetzten Begleitgruppe fand am 26. Juni 2019 in Bern statt.

Abb.: Beim Berliner Kolloquium (Foto: Daimler und Benz Stiftung)

Er lehrt Roboter Moral

„Bei einer ersten Begegnung vor fünf Jahren wirkte Oliver Bendel ziemlich abgefahren. Damals skizzierte er eine Zukunft, in der Technologien auf der Kontaktlinse oder unter der Haut stecken und Kriminelle eben jemandem eine Hand abhacken, um sich mit dem implantierten Chip Zugang zu einem Gebäude zu verschaffen. Er erzählte von einer Welt voller virtuellen Assistenten und Roboter, von seinem Staubsauger mit Moral, den er bauen wollte. Es klang nach Science-Fiction.“ (NZZ, 14. Juni 2019) Im Frühjahr 2019 hat Melanie Keim den Informations- und Maschinenethiker nochmals getroffen, im Lichthof der Universität Zürich. Sie findet ihn immer noch abgefahren. Aber sie hält in ihrem Artikel „Er lehrt Roboter Moral“ für die NZZ fest, dass seine Themen – zu denen er seit zwanzig Jahren forscht – im Mainstream angekommen sind. Inzwischen wurde LADYBIRD, der tierfreundliche Saugroboter, als Prototyp gebaut, und der LIEBOT, der systematisch lügen konnte, ist Geschichte. Dieser erklärte im Sommer 2016, dass Donald Trump der Präsident der USA sei. Warum er dies tat, wird in mehreren Papers und auf mehreren Slides erklärt, die u.a. über www.oliverbendel.net und www.maschinenethik.net heruntergeladen werden können. Nur soviel sei verraten: Es wird sozusagen Pingpong mit Yahoo gespielt. Der Artikel vom 22. Juni 2019 steht als PDF zur Verfügung. Zusätzlich gibt es eine Onlineversion.

Abb.: Auch Mähroboter kann man moralisieren

Oxford-Institut für Ethik und KI

„Die britische Elite-Universität Oxford hat eine Spende in Höhe von 150 Millionen Pfund (rund 168 Millionen Euro) von US-Milliardär Stephen A. Schwarzman erhalten.“ (SPON, 19. Juni 2019)  Mit der höchsten Einzelspende in der Geschichte der Hochschule solle das „Stephen A. Schwarzman Centre“ für Geisteswissenschaften entstehen. Dies meldete der Spiegel am 19. Juni 2019. Weiter heißt es: „In dem Gebäude sollen unter anderem die Fakultäten für … Geschichts- und Sprachwissenschaften, Philosophie, Musik und Theologie zusammengelegt werden. Rund ein Viertel aller Oxford-Studenten sind in diesen Fächern eingeschrieben. Zusätzlich soll dort ein neues Institut für Ethik im Umgang mit Künstlicher Intelligenz entstehen, wie die Universität mitteilte.“ (SPON, 19. Juni 2019) Der Schwerpunkt scheint auf Informations- und Roboterethik zu liegen. Schwarzman selbst sagte laut Spiegel, Universitäten müssten dabei helfen, ethische Grundsätze für den schnellen technologischen Wandel zu entwickeln. Über die Herkunft der Mittel wird debattiert. Weitere Informationen über www.spiegel.de/lebenundlernen/uni/oxford-elite-uni-erhaelt-150-millionen-pfund-spende-a-1273161.html.

Abb.: An der University of Oxford

Das MOME-Projekt startet

An der Hochschule für Wirtschaft FHNW entsteht zwischen Juni 2019 und Januar 2020 das siebte Artefakt der Maschinenethik. Ideen- und Auftraggeber ist Prof. Dr. Oliver Bendel. Die Maschinenethik bringt moralische und unmoralische Maschinen hervor, derzeit als Konzepte, Simulationen oder Prototypen. Die maschinelle Moral ist überwiegend fest verankert, über Prinzipien bzw. Metaregeln sowie Regeln. Die Maschinen sind damit zu bestimmten Aktionen in der Lage, zu anderen nicht. Ein Ansatz, der eine gewisse Flexibilität verheißt, ist das Moralmenü (kurz MOME). Über dieses überträgt der Besitzer oder Benutzer seine eigene Moral, seine Vorstellungen und Überzeugungen zu Gut und Böse, seine Wertmaßstäbe, seine Verhaltensregeln auf die Maschine. Diese agiert und reagiert so, wie er dies auch tun würde, und zwar im Detail. Er trifft womöglich auf bestimmte Voreinstellungen, hat aber eine gewisse Freiheit, diese zu verändern oder neue Standardeinstellungen festzulegen. Im Projekt wird ein MOME prototypisch implementiert, das auf ein bereits bestehendes oder ein im Projekt entwickeltes System zugreift.

Abb.: Ein MOME für LADYBIRD

Ein Mähroboter, der Igel glücklich macht

An der Hochschule für Wirtschaft FHNW entsteht zwischen Juni 2019 und Januar 2020 das sechste Artefakt der Maschinenethik. Ideengeber und Auftraggeber ist Prof. Dr. Oliver Bendel. In der Tier-Maschine-Interaktion geht es um Design, Evaluierung und Implementierung von (in der Regel höherentwickelten bzw. komplexeren) Maschinen und Computersystemen, mit denen Tiere interagieren und kommunizieren und die mit Tieren interagieren und kommunizieren. Die Maschinenethik bezieht sich bisher vor allem auf Menschen, kann aber auch bei Tieren dienlich sein. Sie versucht moralische Maschinen zu konzipieren und mit Hilfe weiterer Disziplinen wie Informatik und KI bzw. Robotik zu implementieren. Ziel des Projekts ist die detaillierte Beschreibung und prototypische Umsetzung eines tierfreundlichen Serviceroboters, genauer gesagt eines Mähroboters, genannt HAPPY HEDGEHOG (HHH). Dieser soll mit Hilfe von Sensoren und moralischen Regeln vor allem Igel (auch und insbesondere Jungtiere) erkennen und geeignete Maßnahmen einleiten (Unterbruch der Arbeit, Vertreiben des Igels, Information des Besitzers). Das Projekt hat Ähnlichkeiten mit einem anderen Projekt, das früher durchgeführt wurde, nämlich LADYBIRD. Dieses Mal soll aber mehr auf vorhandene Geräte, Plattformen und Software gesetzt werden. Als erstes Artefakt entstand an der Hochschule der GOODBOT – im Jahre 2013.

Abb.: Ein gewöhnlicher Mähroboter