„Unter der Fahrzeughaube menschelt es nur marginal“ – so ein Titel in der Frankfurter Allgemeinen vom 5. Juni 2019. Der Untertitel lautet: „Öffentliche Veranstaltung zum autonomen Fahren: Warum die Visionen von Straßen voller selbständig fahrender Autos in Frage gestellt werden“. Bei der Veranstaltung „KI & Autonomes Fahren“ am 13. Mai 2019 im Max-Planck-Institut für intelligente Systeme, um die es in dem Artikel geht, war der Hörsaal mit seinen 400 Plätzen gut gefüllt. Vier Experten für Künstliche Intelligenz, Robotik, Neurowissenschaft bzw. Moralphilosophie referierten und diskutierten. Die Reihe „Gehirn der Zukunft“, die den Rahmen bildete, wird von der Gemeinnützigen Hertie-Stiftung getragen. Zunächst sprachen Dr. Emanuela Bernsmann von der Gemeinnützigen Hertie-Stiftung und Dr. Katherine J. Kuchenbecker vom Max-Planck-Institut für intelligente Systeme ein Grußwort. Dann trugen Prof. Dr. Oliver Bendel (Hochschule für Wirtschaft FHNW), Dr. Corinna Bernarding (Universität des Saarlandes), Prof. Dr. Andreas Geiger (Max-Planck-Institut für intelligente Systeme) und Dr. Sebastian Söhner (Porsche AG) vor. Oliver Bendel sieht autonomes Fahren vor allem auf Autobahnen, zumindest im Falle von PKW (bei Bussen und Shuttles kann man Tricks anwenden, die das weitgehend unfallfreie Fahren im Stadtverkehr erlauben). Er hält es für möglich, dass es im von manchen Seiten propagierten Maße gar nicht kommt, dass es sich um eine Blase handelt, die irgendwann platzt – in diesem Sinne wird der Informations- und Maschinenethiker auch von der FAZ wiedergegeben. Übrig bleiben vielleicht am Ende weiterentwickelte oder neuartige Fahrerassistenzsysteme. Und das ist immerhin etwas.
Abb.: Im Inneren eines SmartShuttle der Schweizerischen Post
An der Hochschule für Wirtschaft FHNW entsteht zwischen Juni 2019 und Januar 2020 das sechste Artefakt der Maschinenethik. Ideengeber und Auftraggeber ist Prof. Dr. Oliver Bendel. In der Tier-Maschine-Interaktion geht es um Design, Evaluierung und Implementierung von (in der Regel höherentwickelten bzw. komplexeren) Maschinen und Computersystemen, mit denen Tiere interagieren und kommunizieren und die mit Tieren interagieren und kommunizieren. Die Maschinenethik bezieht sich bisher vor allem auf Menschen, kann aber auch bei Tieren dienlich sein. Sie versucht moralische Maschinen zu konzipieren und mit Hilfe weiterer Disziplinen wie Informatik und KI bzw. Robotik zu implementieren. Ziel des Projekts ist die detaillierte Beschreibung und prototypische Umsetzung eines tierfreundlichen Serviceroboters, genauer gesagt eines Mähroboters, genannt HAPPY HEDGEHOG (HHH). Dieser soll mit Hilfe von Sensoren und moralischen Regeln vor allem Igel (auch und insbesondere Jungtiere) erkennen und geeignete Maßnahmen einleiten (Unterbruch der Arbeit, Vertreiben des Igels, Information des Besitzers). Das Projekt hat Ähnlichkeiten mit einem anderen Projekt, das früher durchgeführt wurde, nämlich LADYBIRD. Dieses Mal soll aber mehr auf vorhandene Geräte, Plattformen und Software gesetzt werden. Als erstes Artefakt entstand an der Hochschule der GOODBOT – im Jahre 2013.
„San Francisco, am nördlichen Ende des Silicon Valley, ist das technologische Herz Amerikas. Apple, Google und Facebook haben ihre Büros nur wenige Kilometer entfernt von der Metropole. Hier wird entwickelt, was die Welt verändert. Hier wird die Zukunft zur Gegenwart. Und hier wurde soeben ein Gesetz beschlossen, das genauso prägend sein könnte wie all die technologischen Errungenschaften der letzten Dekade: San Francisco verbietet Technologie zur Gesichtserkennung für Polizei und Behörden. Überwachungskameras sind zwar erlaubt, aber Software, die Gesichter erkennt und mit Datenbanken abgleicht, ist nicht zugelassen.“ (SaW, 25. Mai 2019) So beginnt ein Artikel von Raffael Schuppisser mit dem Titel „Damit Menschen nicht zu Nummern werden“, der am 25. Mai 2019 in der Schweiz am Wochenende erschienen ist. Zu Wort kommt Oliver Bendel, der die Chancen und Risiken der Gesichtserkennung erforscht und vor Anwendungen im privaten und öffentlichen Raum warnt. Das Verbot in San Francisco, von dem „der Flughafen und der Hafen“ (SaW, 25. Mai 2019) ausgenommen sind, begrüßt er ausdrücklich. Der Artikel kann hier als PDF heruntergeladen werden.
Prof. Dr. Susan L. Anderson, one of the most famous machine ethicists in the world, attended the 23rd Berlin Colloquium. She summarized her talk („Developing Ethics for Eldercare Robots“) in the brochure of the event with regard to the technology of care robots as follows: „Ideally, we would like eldercare robots to be able make correct ethical decisions on their own. This poses many challenges for machine ethicists. There are those who claim that ethics cannot be computed, that ethics is subjective, and/or that it makes no sense to speak of a robot as being an ethical agent. I argue to the contrary, maintaining that it is possible to represent numerically the ethical dilemmas with which an eldercare robot might be presented; and the robot could be given an ethical principle, derived from cases where ethicists agree as to the correct answer, to compute which of the possible actions it could perform at a given moment in time is the best one. It can also explain why it did what it did, if challenged. The robot will not be a full ethical agent, lacking some qualities of human agents; but it is all we need, and even desire.“ Susan L. Anderson had been invited by Prof. Dr. Oliver Bendel, who is himself a machine ethicist.
Fig.: Susan L. Anderson together with Michael Anderson (photo: Daimler and Benz Foundation)
Prof. Dr. Michael Anderson, one of the most famous machine ethicists in the world, attended the 23rd Berlin Colloquium. He summarized his presentation („An Ethical Care Robot“) in the brochure of the event with regard to the technology of care robots as follows: As with any technology, „its advantages need to be tempered with its possible disadvantages such as fewer employment opportunities and patient isolation“. „Further, given the intimate nature of this technology, it is of paramount importance that it behaves in an ethical manner towards its users. To insure ethical behavior from such technology, we maintain that its actions should be guided by a set of ethical values. As it is unrealistic to expect those with the expertise necessary to develop such technology will be equally competent in its ethical dimensions, we also maintain that this set of values be abstracted from a consensus of ethicists. To this end, we propose a case-supported, principle-based behavior paradigm where behavior of autonomous machines is directed by domain-specific ethical principles abstracted from the judgements of ethicists on simple, agreed upon cases. As ethics entails more than simply not taking improper action but choosing the best action in a given situation, we advocate that every action a care robot takes be determined by such ethical principles. As transparency will be important in such systems, ethical principles and the cases from which they have been derived have the added benefit of serving as support for why a particular action was chosen over another. To show the feasibility of the proposed paradigm, we have developed a principle in the domain of elder care and instantiated it in a SoftBank Robotics NAO robot situated in a simulated eldercare environment.“ Michael Anderson had been invited by Prof. Dr. Oliver Bendel, who is himself a machine ethicist.
Fig.: Michael Anderson in Berlin (photo: Daimler and Benz Foundation)
Den Eröffnungsvortrag beim 23. Berliner Kolloquium hielt Prof. Dr. Oliver Bendel. Der Informations- und Maschinenethiker widmete sich den ethischen und rechtlichen Herausforderungen, die der Einsatz von Pflegerobotern nach sich zieht. Diese liegen mehrheitlich als Prototypen vor. Allmählich kommen auch ernstzunehmende Produkte auf den Markt. Pflegeroboter übernehmen jetzt und künftig ganz unterschiedliche Aufgaben. Eine ethische und rechtliche Einordnung, die nicht im Ungefähren verbleibt, sollte nach Bendel ausgehen von konkreten Prototypen und Produkten, konkreten Aufgaben und Anwendungsgebieten, konkreten Rollen und Berufen und etablierten Begriffen. Beispiele für Prototypen und Produkte, die auf Assistenzfunktionen fokussieren, sind Pepper, Care-O-bot, Robear, Lio und P-Care. Prof. Dr. Oliver Bendel beschrieb sie und kam u.a. zum Schluss, dass sie tendenziell die persönliche Autonomie von Pflegebedürftigen stärken, sofern sie adäquat umgesetzt sind, sowie tendenziell die informationelle Autonomie von Pflegebedürftigen und -kräften gefährden. Nach dem Ethiker sprach der Japanologe Prof. Dr. Florian Coulmas.
Abb.: Der wissenschaftliche Leiter bei seinem Eröffnungsvortrag (Foto: Daimler und Benz Stiftung)
Prof. Dr. Armin Grunwald, einer der bekanntesten Technikphilosophen Europas, hielt am 22. Mai 2019 beim 23. Berliner Kolloquium – nach Prof. Dr. Oliver Bendel und Prof. Dr. Florian Coulmas – einen Vortrag mit dem Titel „Pflegeroboter und der Deutsche Bundestag: Zur Zukunft technisch assistierter Pflege“. Der technische Fortschritt in der Robotik scheint, so Grunwald, wie gerufen‚ um den viel beschworenen Pflegenotstand zu lindern. So einfach sei es jedoch nicht. „Vielfach ist darauf hingewiesen worden, dass professionelle Pflege – und so auch die damit verbundene Techniknutzung – in kulturelle, institutionelle und soziale Kontexte eingebettet ist, die sich stetig verändern. Politisch-institutionelle, kulturelle und ethische Fragen sind nicht vom Einsatz technischer Innovationen zu trennen, die zur Bewältigung des demografischen Wandels beitragen sollen.“ (Abstract) Auf der Basis einer aktuellen Studie erklärte Prof. Dr. Armin Grunwald, warum sich der Deutsche Bundestag für Pflegerobotik interessiert, wie entsprechende wissenschaftliche Politikberatung erfolgt, welche Herausforderungen in Bezug auf integrative Technikgestaltung entstehen und wie eine Balance zwischen menschlicher und technischer Autonomie zu erreichen ist.
Abb.: Keller (Moderator), Grunwald, Coulmas und Bendel (Foto: Daimler und Benz Stiftung)
Der international bekannte Japanologe Prof. Dr. Florian Coulmas hielt am 22. Mai 2019 beim 23. Berliner Kolloquium den ersten Vortrag („Von Kintarō bis Erica“) nach dem Einführungsvortrag von Prof. Dr. Oliver Bendel. Aus dem Ankündigungstext der Broschüre: „Das Wort ‚Roboter‘, mit dem der tschechische Schriftsteller Karel Čapek im Jahr 1920 in seinem Theaterstück R.U.R. (Rossumovi Univerzální Roboti) eine menschenähnliche Kunstfigur benannte und damit wesentlich zu seiner weltweiten Verbreitung beitrug, existiert auch im Japanischen. Bedeutet es dort jedoch dasselbe wie in anderen Sprachen? Diese Frage bietet uns einen Ansatzpunkt, um mögliche kulturelle Unterschiede im Umgang mit Maschinen auszuloten, die insbesondere in den reichsten und höchstentwickelten Ländern in immer mehr Lebensbereiche eindringen bzw. zur Unterstützung menschlicher Tätigkeiten herangezogen werden. Ein Blick in die japanische Technikgeschichte soll zeigen, dass es sich dabei nicht um semantische Spitzfindigkeiten handelt, sondern dass unser Verhältnis zu Dingen und ihrer Bedeutung für die menschliche Existenz kulturhistorische und gesellschaftliche Aspekte birgt. Dieser Vortrag versucht Antworten zu geben, ob sich diese Aspekte auch beim Einsatz mechanischer und elektronischer Hilfsmittel in der Kranken- und Altenpflege bemerkbar machen.“ Mehrere Medien berichteten über das Berliner Kolloquium, beispielsweise Neues Deutschland.
Abb.: Coulmas, Ishiguro und Erica (Foto: Daimler und Benz Stiftung)
Für die Broschüre der Daimler und Benz Stiftung zum 23. Berliner Kolloquium fand ein Shooting statt. Im Mittelpunkt stand ein Pflegeroboter der neuesten Generation, P-Care von F&P Robotics und ZRFN Robotics, der in China in einer Kleinserie vorliegt. Er ist menschen- oder tierähnlich, hat Kopf, Augen und zwei Arme. Er unterstützt Pflegekräfte und -bedürftige mit Handreichungen und sozialen Eigenschaften, kann das Gegenüber anschauen und verfügt über gestische und natürlichsprachliche Fähigkeiten. Mittels Rollen ist eine freie Bewegung im Raum möglich. Lautsprecher, Richtmikrofon und Kameras gehören zur Ausstattung. Mit Hilfe von Gesichtserkennung können Patienten identifiziert werden. P-Care und Lio sind im Grunde umgebaute, erweiterte und mit einer mobilen Plattform versehene Co-Robots. Diese finden sich hauptsächlich in Produktion und Logistik. Sie kooperieren bzw. kollaborieren mit Menschen, wobei sie ihnen ausgesprochen nahekommen und die Tätigkeiten ineinandergreifen können. Es spricht einiges dafür, dass Pflegeroboter in dieser Tradition den Markteintritt schaffen werden.
Am 22. Mai 2019 fand das 23. Berliner Kolloquium der Daimler und Benz Stiftung statt. Es widmete sich Pflegerobotern, nicht nur aus den bekannten, sondern auch aus neuartigen Perspektiven. So hatte der wissenschaftliche Leiter, Prof. Dr. Oliver Bendel, zwei der bekanntesten Maschinenethiker der Welt eingeladen, Prof. Dr. Michael Anderson und Prof. Dr. Susan L. Anderson. Zusammen mit Vincent Berenz hatten sie einen Nao-Roboter mit einer Reihe von Werten programmiert, die sein Verhalten bestimmen und gleichzeitig einer Person in einer simulierten Einrichtung der Altenpflege helfen. Ein Beitrag dazu erschien vor einiger Zeit in den Proceedings of the IEEE. Zum ersten Mal trugen sie die Ergebnisse aus diesem Projekt vor einem europäischen Publikum vor, und ihre insgesamt einstündige Präsentation mit der anschließenden zwanzigminütigen Diskussion kann als eine Sternstunde der Maschinenethik gelten. Mit dabei waren weitere international bekannte Wissenschaftlerinnen und Wissenschaftler, etwa der Japanexperte Florian Coulmas. Er ging auf Artefakte aus Japan ein und relativierte die häufig gehörte Behauptung, die Japaner hielten alle Dinge für beseelt. Mehrere Medien berichteten über das Berliner Kolloquium, beispielsweise Neues Deutschland.
Abb.: Die Andersons beim Berliner Kolloquium (Foto: Daimler und Benz Stiftung)
„Forscher arbeiten an Maschinen, die Menschen versorgen können“ – so lautet der Titel eines Beitrags von Sina Horsthemke in der Schwäbischen Zeitung vom 26. Mai 2019 (in einer Variante heißt er „Ein Roboter reicht die Tasse“). Es handelt sich um eine verkürzte Version eines Beitrags aus dem Magazin Focus-Gesundheit. Um Pflegeroboter geht es in dem bebilderten Artikel, und zu Wort kommen u.a. Dr.-Ing. Alexander Dietrich (Leiter des „Smile“-Projekts am DLR in Oberpfaffenhofen bei München) und Prof. Dr. oec. HSG Oliver Bendel (Informations- und Maschinenethiker sowie Wirtschaftsinformatiker an der Hochschule für Wirtschaft FHNW in Brugg-Windisch). Der Beitrag kann über www.schwaebische.de aufgerufen werden. Das Thema der Pflegeroboter erregt seit wenigen Jahren große Aufmerksamkeit. Am 22. Mai 2019 veranstaltete die Daimler und Benz Stiftung einen Kongress dazu, das Berliner Kolloquium, mit Oliver Bendel als wissenschaftlichem Leiter. Er hatte bereits 2017 den Ladenburger Diskurs wissenschaftlich verantwortet, in Zusammenarbeit mit der gleichen Stiftung.
„Als erste Stadt in den USA hat San Francisco den Einsatz von Gesichtserkennung durch Behörden verboten.“ (SPON, 15. Mai 2019) Dies meldet SPIEGEL ONLINE am 15. Mai 2019. „Die Gefahr, dass solche Technologien die Bürgerrechte verletzen können, überwiege die behaupteten Vorteile bei Weitem, entschied der Stadtrat der kalifornischen Metropole …“ (SPON, 15. Mai 2019) Der Einsatz von Gesichtserkennung drohe rassistische Ungerechtigkeit zu verschärfen und bedrohe „unsere Möglichkeit, frei von ständiger Beobachtung durch die Regierung zu leben“, heißt es laut SPON in dem Beschluss. „Die städtische Polizei und andere städtische Behörden dürfen gemäß der Entscheidung keinerlei Gesichtserkennungstechnologie erwerben, besitzen oder nutzen. Flughäfen oder andere von den Bundesbehörden betriebene Einrichtungen sind von dem Verbot ausgenommen. Kritiker argumentieren, Systeme zur Gesichtserkennung bedeuteten einen starken Eingriff in die Privatsphäre. Zudem drohe die Gefahr, dass Unschuldige fälschlich als Straftäter identifiziert werden könnten. Die US-Bürgerrechtsorganisation ACLU warnt, mit der Technologie könne die Öffentlichkeit wahllos und ohne konkreten Verdacht oder Anhaltspunkt flächendeckend überwacht werden.“ (SPON, 15. Mai 2019) Bei den AAAI Spring Symposia an der Stanford University war Gesichtserkennung immer wieder ein Thema gewesen.
Using an interdisciplinary approach, the book „AI love you“ explores the emerging topics and rapid technological developments of robotics and artificial intelligence through the lens of the evolving role of sex robots, and how they should best be designed to serve human needs. „An international panel of authors provides the most up-to-date, evidence-based empirical research on the potential sexual applications of artificial intelligence. Early chapters discuss the objections to sexual activity with robots while also providing a counterargument to each objection. Subsequent chapters present the implications of robot sex as well as the security and data privacy issues associated with sexual interactions with artificial intelligence.“ (Information by Springer) Topics featured in this book include: the Sexual Interaction Illusion Model, the personal companion system, Harmony, designed by Realbotix, an exposition of the challenges of personal data control and protection when dealing with artificial intelligence, and the current and future technological possibilities of projecting three-dimensional holograms. Oliver Bendel is the author of the contribution to the latter topic, entitled „Hologram Girl“. The book is edited by Yuefang Zhou and Martin H. Fischer and will be published in summer 2019. More information via www.springer.com/gp/book/9783030197339.
Fig.: A talk by Oliver Bendel (photo: Meret Buser)
Vier Experten für Künstliche Intelligenz, Robotik, Neurowissenschaft bzw. Moralphilosophie referierten und diskutierten am 13. Mai 2019 im Max-Planck-Institut für intelligente Systeme. Die Reihe „Gehirn der Zukunft“, die den Rahmen bildete, wird von der Gemeinnützigen Hertie-Stiftung getragen. Bei der Veranstaltung „KI & Autonomes Fahren“ war der Hörsaal mit seinen 400 Plätzen gut gefüllt. Zunächst sprachen Dr. Emanuela Bernsmann von der Gemeinnützigen Hertie-Stiftung und Dr. Katherine J. Kuchenbecker vom Max-Planck-Institut für intelligente Systeme ein Grußwort. Dann trugen Prof. Dr. Oliver Bendel (Hochschule für Wirtschaft FHNW), Dr. Corinna Bernarding (Universität des Saarlandes), Prof. Dr. Andreas Geiger (Max-Planck-Institut für intelligente Systeme) und Dr. Sebastian Söhner (Porsche AG) vor. Die Podiumsdiskussion moderierte Dr. Marco Dettweiler von der Frankfurter Allgemeinen Zeitung. Über die Veranstaltung berichteten mehrere Zeitungen, etwa die Stuttgarter Zeitung („Müssen Porsche-Fahrer künftig ins Reservat?“) und der General-Anzeiger Reutlingen („Autonomes Fahren: Im Stau Zeit für sich gewinnen“). Weitere Informationen über www.ghst.de/ki-autonomesfahren/.
„Chatbots unterhalten sich mit Menschen und unterhalten sie, sie beraten Kunden und Interessenten auf Websites und in Instant-Messaging-Systemen, sie rufen hilfreiche Ressourcen auf und geben dazu Erläuterungen. Ihr Erfolg erklärt sich vor allem durch ihre natürlichsprachlichen Fähigkeiten und ihre Konstruktion als hilfreiches, sachkundiges oder lustiges Gegenüber. Der Beitrag erklärt, was Chatbots und Sprachassistenten sind, nennt Vor- und Nachteile ihres Einsatzes und stellt Produkte für die Kundenkommunikation und den Unterhaltungsbereich vor. Zudem geht er auf Projekte der Maschinenethik ein. Die meisten Chatbots verhalten sich nicht adäquat, wenn der Benutzer ihnen gegenüber Sorgen äußert. Moralische Maschinen als Dialogsysteme können eine Lösung sein.“ So der Abstract des Beitrags „Von Cor@ bis Mitsuku: Chatbots in der Kundenkommunikation und im Unterhaltungsbereich“ von Oliver Bendel, erschienen im Mai 2019 im „Handbuch Digitale Wirtschaft“ (Herausgeber: Tobias Kollmann). Er ist verfügbar auf SpringerLink.
„Der zunehmende Einsatz von Künstlicher Intelligenz (KI) ist ein wesentliches Merkmal der digitalen Transformation von Gesellschaft und Wirtschaft und hat Folgen für unser Privat- und Arbeitsleben. Die Schweiz spielt auf diesem Gebiet heute in Forschung und Entwicklung weltweit eine bedeutende Rolle.“ (Website BAKOM, 9. Mai 2019) Der Bundesrat hat laut BAKOM eine interne Arbeitsgruppe eingesetzt, die bis zum Herbst 2019 eine Übersicht über bestehende Maßnahmen, eine Einschätzung zu neuen Handlungsfeldern sowie Überlegungen zu einem transparenten und verantwortungsvollen Einsatz von künstlicher Intelligenz erarbeitet. Dazu gehört auch, Experten zu konsultieren und ihre Positionen öffentlich zu machen. „Wir fragen bei Prof. Dr. Oliver Bendel nach, was Ethik und künstliche Intelligenz miteinander zu tun haben.“ Das Interview mit ihm ist am 9. Mai 2019 auf der Plattform Dialog Digitale Schweiz erschienen. Es kann über www.digitaldialog.swiss/de/dialog/kuenstliche-intelligenz-als-disziplin-zwischen-ingenieurskunst-und-kunst abgerufen werden.
Der CHI-2019-Workshop „Conversational Agents: Acting on the Wave of Research and Development“ (Glasgow, 5. Mai 2019) brachte Expertinnen und Experten aus der ganzen Welt zusammen, die Grundlagen zu Chatbots und Sprachassistenten erarbeiten und diese in unterschiedlicher Weise umsetzen. Dabei waren auch Unternehmen wie Microsoft, Mozilla und Salesforce. Herausgegriffen seien nur drei Papers von ca. 20 angenommenen (ca. 40 waren eingereicht worden). Das Thema von Fabia Catania (Politecnico di Milano) waren „Conversational Technologies Supporting Social Inclusion“. „Comparing Data from Chatbot and Web Surveys“ lautete der Titel des Papers von Soomin Kim, Seoul National University. Oliver Bendel (School of Business FHNW) präsentierte drei zwischen 2013 und 2018 in der Disziplin der Maschinenethik entwickelte Chatbots, nämlich GOODBOT, LIEBOT und BESTBOT („Chatbots as Moral and Immoral Machines“). Am 6. Mai eröffnete ein Dudelsackspieler die an die 35 Workshops anschließende viertägige Konferenz mit fast 4000 Teilnehmerinnen und Teilnehmern. Dr. Aleks Krotoski, Pillowfort Productions, hielt die erste Keynote. Eine der Paper Sessions am Vormittag widmete sich dem Thema „Values and Design“. Insgesamt waren sowohl die klassischen Bereichsethiken als auch die Maschinenethik auf der Konferenz vertreten. Weitere Informationen über convagents.org (Link nicht mehr gültig) und chi2019.acm.org.
Abb.: Dudelsackspieler bei der CHI 2019 in Glasgow
Am 8. April 2019 startete an der Hochschule für Wirtschaft FHNW das E-MOMA-Projekt. „E“ steht für „Enhancing“, „MOMA“ für „Moral Machine“. Wenig verfolgt wird in der Maschinenethik bisher der Ansatz, dass die Maschine selbst die Moral weiterentwickelt, etwa indem sie die Regeln adaptiert oder priorisiert, mit Hilfe von Machine Learning, speziell auch Deep Learning. Michael Anderson, Susan Leigh Anderson und Vincent Berenz haben einen NAO-Roboter mit Methoden des Machine Learning moralisch erweitert. Ein Beitrag dazu erschien vor einiger Zeit in den Proceedings of the IEEE. Im E-MOMA-Projekt soll eine eigene Implementierung entstehen, die diese Ansätze fortführt. Dabei können z.B. neuronale Netzwerke verwendet werden. Es bietet sich die Implementierung eines Chatbots an, aber auch die Modifizierung von Hardwarerobotern ist möglich. Letztlich geht es darum, eine moralische Maschine in die Welt zu bringen, die ihre Moral anpasst und weiterentwickelt, je nach Situation bzw. je nach eingegebenen Daten. Es ist das fünfte Artefakt der Maschinenethik, das nach Ideen, Skizzen und Vorgaben von Prof. Dr. Oliver Bendel entsteht. Das erste war der GOODBOT von 2013.
Karl Strittmatter schreibt in seinem Artikel „Die Schweiz ist schier atemberaubend naiv“ im Tages-Anzeiger vom 27. April 2019, Ueli Maurer und der Bund ließen sich von China in das Projekt der Neuen Seidenstraße einbinden und fielen damit „auf die Tricks einer Diktatur herein“ (Tages-Anzeiger, 27. April 2019). Der Chinaexperte war für die Süddeutsche Zeitung zunächst ab 1997 (acht Jahre lang) und dann wieder von 2012 bis 2018 Korrespondent in Peking. Sein aktuelles Buch ist „Die Neuerfindung der Diktatur – Wie China den digitalen Überwachungsstaat aufbaut und uns damit herausfordert“. Darin beschreibt er u.a. das Sozialkreditsystem, das sich der Möglichkeiten künstlicher Intelligenz bedient. Auch auf die Neue Seidenstraße geht er ein. In seinem Artikel bemerkt er: „Die KP möchte Einfluss nehmen, setzt dafür viel Geld und eine immer aggressivere Diplomatie ein – im Menschenrechtsrat in Genf ebenso wie an unseren Universitäten, in unseren Medien, gegenüber unseren Politikern.“ (Tages-Anzeiger, 27. April 2019) Auch Befürworter des Projekts gibt es, die die wirtschaftlichen Vorteile herausstreichen. Der Beitrag „Neue Seidenstraße“ im Gabler Wirtschaftslexikon wurde von Oliver Bendel verfasst und ist am 30. April 2019 erschienen. Er kann über wirtschaftslexikon.gabler.de/definition/neue-seidenstrasse-100610 abgerufen werden.
Seit sieben Jahren besteht informationsethik.net, seit sechs Jahren maschinenethik.net. Beide Blogs werden von Oliver Bendel privat betrieben. Er stellt seine Arbeit zu Informations- und Maschinenethik vor, verweist auf Artikel über seine Arbeit und greift Nachrichten auf, die seine Leserinnen und Leser interessieren könnten. Trotz verschiedener Angebote sind die Blogs bis heute werbefrei geblieben, wenn man von Hinweisen auf eigene Bücher und Buchbeiträge sowie Veranstaltungen absieht. Auch Artikel- und Produktplatzierungen wurden generell abgelehnt. Bei informationsethik.net sind über 700 Beiträge erschienen, bei maschinenethik.net ca. 550. Es werden viele eigene Bilder verwendet, dazu Fotos und Grafiken von Pixabay und Unsplash. Auf den statischen Seiten gibt es mehrere Ressourcen, etwa eine Expertenliste, ein Literaturverzeichnis und ein Lexikon. Bei maschinenethik.net werden sogenannte Designstudien von moralischen Maschinen veröffentlicht. Mehrere davon wurden realisiert – man findet sie in der Rubrik zu den Prototypen.
Abb.: Ein Plakat zu einer Veranstaltung, über die maschinenethik.net berichtet hatte
Adrian Lobe befragte im April 2019 Oliver Bendel unter anderem dazu, ob menschlicher Kontakt in einer automatisierten Gesellschaft zum Luxusgut werden könnte. Laut dem Informations- und Maschinenethiker ist es für IT-und Robotik-Unternehmen ein Milliardengeschäft, Software- und Hardwareroboter in den Markt zu bringen. Es ist in ihrem Interesse, wenn möglichst viele Einrichtungen und Personen die Produkte kaufen und von ihnen abhängig sind. Zugleich werden künftig Einrichtungen aller Art aus Kostengründen vermehrt Software- und Hardwareroboter einsetzen. Vermutlich wird es, so der Ethiker, so sein, dass vor allem der, der es sich leisten kann, sich dagegen wehren bzw. unabhängig bleiben kann. Man kauft einen Lehrer für die Kinder, eine Pflegekraft für sich selbst. Er betonte, dass es noch nicht so weit ist. Pflegeroboter sind als Prototypen vorhanden und auf die Pflegekraft angewiesen. Aber der Markt wird sich entwickeln, und es wird Systeme und Geräte für alle Bedürfnisse geben. Die Bedürfnisse selbst sind eine weitere Triebkraft. Wer einsam ist, lässt sich eher mit virtuellen Assistenten und mechanischen Apparaten ein. Das ist auch eine Sache des geringsten Widerstands, so der Ethiker. „Der Software- oder Hardwareroboter ist sofort für mich da, er wendet sich mir zu, er spricht mit mir. Ich muss ihn nicht überzeugen, nicht um ihn werben. Ich muss nichts tun, um seine Freundschaft zu erhalten, außer man programmiert Roboter, die dieses Spiel treiben.“ Der Artikel mit dem Titel „Roboter für die Armen“ ist am 23. April 2019 in der Berliner Zeitung erschienen und enthält mehrere Aussagen von Oliver Bendel.
Abb.: Werden nur noch Reiche sich Menschen leisten können?
„Persönliche Kaufempfehlungen, medizinische Diagnosen, selbstfahrende Autos, Börsenhandel oder Online-Marketing: Ohne Data Science wäre das nicht möglich. Daten sind der neue Rohstoff der Wirtschaft. Als Data Scientist können Sie aus der wachsenden Datenmenge relevantes Wissen destillieren, Muster erkennen und Anomalien identifizieren. Data Scientists schaffen die Grundlage dafür, dass aus den vorhandenen Daten die richtigen Schlüsse gezogen werden.“ So heißt es auf der Website des neuen Studiengangs Data Science an der Hochschule für Technik FHNW. Das Ausbildungskonzept ist innovativ und experimentell. Es fokussiert auf Kompetenzen. Die Studierenden werden mit Challenges konfrontiert, die sie selbst ausgestalten müssen, etwa indem sie Forschungsfragen stellen und Entwicklungsziele stecken. Auch Informationsethik und Maschinenethik – verantwortet von Prof. Dr. Oliver Bendel – werden eine Rolle spielen. Weitere Informationen über www.fhnw.ch/de/studium/technik/data-science/ausbildungskonzept-data-science.
Abb.: Der Campus Brugg-Windisch (Foto: WEISSWERT C. Morin & M. Indermaur)
