AI and Ethics

In his speech at the University of Zurich, Kaspar Etter (Stiftung für Effektiven Altruismus) discusses the relation between artificial intelligence and ethics. Some information from the advertising text: “We humans steer the future not because we’re the strongest or the fastest but because we’re the smartest animal on this planet. However, there are no reasons to assume that blind evolutionary processes have reached the physical limit of intelligence with us. Quite to the contrary, we have already seen how intelligent machines outperform the best of our kind on an increasing number of tasks, ranging from Chess over the quiz show Jeopardy to Go. What will happen when artificial intelligence surpasses human intelligence in a broader range and controls our destiny? Are we ready to make our final invention? And what is to be done from an ethical perspective?” (Website EA) And further: “In his talk, Kaspar Etter will cover the current state and trends in artificial intelligence, its present implications on our society and what is to be expected for the coming decades. You will also learn about a phenomenon called intelligence explosion and strategic considerations for approaching the challenges ahead of us.” (Website EA) The event will take place in KOL-F-117, May 26, 2016, at 7 pm.

Ethik für Nerds

“Fitnessdaten können Menschen zu einem gesünderen Lebensstil verhelfen. Sie könnten aber auch zur Benachteiligung Kranker führen. Das Beispiel zeigt, wie zweischneidig der digitale Fortschritt ist. Wenn Informatiker sich das immer vor Augen halten, werden sie bessere Computersysteme entwerfen. Das erhofft sich eine Kooperation von Informatik und Philosophie an der Saar-Uni, die Veranstaltungen zum Thema Computerethik anbietet.” (Saarbrücker Zeitung, 24. Mai 2016) Mit diesen Worten beginnt ein Artikel in der Saarbrücker Zeitung. Die Lehrveranstaltung von Kevin Baum trägt den Titel “Ethik für Nerds”. Vermittelt werden sowohl Grundlagen der Informationsethik als auch Konzepte aus der Maschinenethik. “Nehmen Sie das selbstfahrende Auto”, wird der junge Dozent zitiert. “Ich denke, es wird viele positive Wirkungen haben.” (Saarbrücker Zeitung, 24. Mai 2016) “Einerseits. Andererseits jedoch könnte die gleiche Technik, die für autonome Fahrzeuge entwickelt wurde, auch in autonome Waffensysteme verbaut werden. Solche Konsequenzen sollten sich diejenigen bewusst machen, die solche Systeme entwerfen.” (Saarbrücker Zeitung, 24. Mai 2016) Am Schluss des Artikels wird darauf hingewiesen, dass schon heute ein Autobauer in einer Anzeige nach Mitarbeitern suche, die technisches Verständnis mit “fundierter wissenschaftlicher Erfahrung im Bereich der Maschinenethik” (Saarbrücker Zeitung, 24. Mai 2016) verbinden.

Considerations in Non-Human Agents

The proceedings of the AAAI conference 2016 have been published in March 2016 (“The 2016 AAAI Spring Symposium Series: Technical Reports”). The symposium “Ethical and Moral Considerations in Non-Human Agents” was dedicated to the discipline of machine ethics. Ron Arkin (Georgia Institute of Technology), Luís Moniz Pereira (Universidade Nova de Lisboa), Peter Asaro (New School for Public Engagement, New York) and Oliver Bendel (School of Business FHNW) spoke about moral and immoral machines. The contribution “Annotated Decision Trees for Simple Moral Machines” (Oliver Bendel) can be found on the pages 195 – 201. In the abstract it is said: “Autonomization often follows after the automization on which it is based. More and more machines have to make decisions with moral implications. Machine ethics, which can be seen as an equivalent of human ethics, analyses the chances and limits of moral machines. So far, decision trees have not been commonly used for modelling moral machines. This article proposes an approach for creating annotated decision trees, and specifies their central components. The focus is on simple moral machines. The chances of such models are illustrated with the example of a self-driving car that is friendly to humans and animals. Finally the advantages and disadvantages are discussed and conclusions are drawn.” The proceedings can be ordered via www.aaai.org.

Fig.: Oliver Bendel, Cindy Mason, Luís Moniz Pereira and others in Stanford

Commercial Drones in Switzerland

Commercial drones can be used for the transport of components and the good delivering as well as for the monitoring of consumers. Unmanned aerial vehicles (UAV) often come in combination with cameras and other equipment and are spies in the form of high-tech products. Sometimes, they drop out of the sky and hurt people. In Zurich, private drones seem to be a big problem for safety and security, and the laws have been tightened and improved. Remote-controlled commercial drones shall have cameras, gripper arms or a transportation space. In a current project, three master students of the School of Business (University of Applied Sciences and Arts Northwestern Switzerland FHNW) try to answer the following questions: What kinds of drones are available for commercial purposes? In which ways these UAV can be used? What are the technical challenges and possibilities? What are the problems from the perspective of information ethics? What are the general challenges in Switzerland? The results are expected by the end of summer 2016. Prof. Dr. Oliver Bendel is the contact for all questions concerning the research project and possible follow-up activities.

Fig.: A drone in the air

Beobachtungen zu Überwachungsrobotern

Im Silicon Valley sind Überwachungsroboter von Knightscope im Einsatz. Oliver Bendel – der Autor des Artikels “Blechpolizisten mit Elektroschockern: Beobachtungen zu Überwachungsrobotern” – begegnete einem von ihnen im Shopping Center bei der Stanford University, an der er kurz zuvor einen Vortrag über Roboterautos gehalten hatte. Fast wäre er mit ihm zusammengestoßen, als er von Tür zu Tür, von Gebäude zu Gebäude unterwegs war. Es war ein milder Frühlingstag im März 2016, und vom ewigen Regen des Vormonats war nichts mehr zu sehen. “Überwachungsroboter dieser Art markieren physische Präsenz. Sie mischen sich unter die Menschen und rollen neben den Tieren.” (inside-it.ch, 19. Mai 2016) Wenn es leer werde auf den Straßen und Wegen, seien ihre Silhouetten und Schatten zu sehen, und in den Räumen und Gebäuden seien sie diejenigen, die das Licht ausmachen. Neben dem K5 und dem kleinen Bruder, dem K3, ist seit kurzem ein weiteres Modell auf dem Markt. In China schaut der AnBot nach dem Rechten, und wenn er einen Verdächtigen entdeckt, kann er den Elektroschocker auf ihn richten. Während er im normalen Betrieb ein autonomer Roboter ist, wird er in einem solchen Fall zum Teleroboter: Die Waffe wird von einem Menschen ferngesteuert und im Ernstfall betätigt. Der Beitrag von Oliver Bendel, in dem auch ethische Aspekte angesprochen werden, ist am 19. Mai 2016 in der Zeitschrift inside-it.ch erschienen und kann über http://www.inside-it.ch/articles/43886 aufgerufen werden.

Abb.: Der K5 im Stanford Shopping Center

Chancen und Risiken von Smart Cams

Am 23. und 24. Juni 2016 findet in Berlin der Workshop “Chancen und Risiken von Smart Cams im öffentlichen Raum” statt. Es handelt sich um eine gemeinsame Veranstaltung des vom BMBF geförderten Forschungsprojekts ChaRiSma an der Carl von Ossietzky Universität Oldenburg und des Datenschutz-Beirats der Deutschen Bahn. Nach der Begrüßung durch Prof. Dr. Jürgen Taeger (Universität Oldenburg) und Prof. Dr. Herta Däubler-Gmelin (Bundesministerin der Justiz a.D.) werden Referate aus technischer und rechtlicher Perspektive gehalten u.a. von Prof. Dr. Helmut Krcmar (TU München), Bernd H. Harder (Mitglied im Hauptvorstand des BITKOM e.V.), Prof. Dr. Herta Däubler-Gmelin und Prof. Dr. Susanne Boll-Westermann (OFFIS Institut für Informatik). Es folgen Statements zum Regulierungsbedarf zum Schutz der Persönlichkeitsrechte u.a. von Dr. Tim Ostermann (MdB, CDU-/CSU-Fraktion), Dennis Rohde (MdB, SPD) und Dr. Konstantin von Notz (MdB, Grüne) sowie Prof. Dr. Dr. Volker Boehme-Neßler (Universität Oldenburg) und Prof. Dr. Oliver Bendel (Hochschule für Wirtschaft FHNW). Dr. Edgar Rose (Universität Oldenburg) berichtet aus Projektsicht. Die Schlussworte stammen von Klaus-Dieter Hommel (stv. Vorsitzender Eisenbahn- und Verkehrsgewerkschaft) und Prof. Dr. Jürgen Taeger. Auf der Website von ChaRiSma wird erklärt: “Zentrales Ziel des Vorhabens ist es, … rechtliche Regelungen zu entwickeln, die den vielfältigen Interessen gerecht werden und zugleich wirksam in die Praxis umzusetzen sind. Sie sollen insbesondere Persönlichkeitsrechte schützen, ohne die Freiheit der technischen Anwendung übermäßig zu beschränken.”

Abb.: Webcams gibt es schon seit langer Zeit

Tandems im Pflegeheim

“Robotik für den Pflegebereich boomt. In dem Arbeitsfeld fehlt Personal und es fällt oft schwere körperliche Arbeit an, für die Hilfe willkommen wäre.” (derStandard.at, 7. Mai 2016) Dies schreibt Gudrun Springer im österreichischen Standard. Ausgangspunkt des Artikels ist die öffentliche Sitzung der Bioethikkommission in Wien vom 2. Mai, bei der Prof. Dr. Oliver Bendel, Prof. Dr. Mark Coeckelbergh, Prof. Dr. Michael Decker, Prof. Dr. Jutta Weber und Markus Wohlmannstetter zum Thema Pflegeroboter vorgetragen haben. Die Verfasserin geht auf das Tandem-Prinzip ein, das Oliver Bendel in seinem Referat erwähnt hat und seit einiger Zeit propagiert. Auch Mark Coeckelbergh ist laut ihrer Aussage diesem Prinzip zugetan. Es sei besser, “Roboter als assistierende Technologien … im Tandem” (derStandard.at, 7. Mai 2016) zu benutzen. Weiter schreibt sie: “Oliver Bendel von der Hochschule für Wirtschaft in Basel, der sich mit Auswirkungen des Roboters auf Menschen beschäftigt, meint, dass mancher Handgriff vom Menschen ausgeführt einem Pflegebedürftigen unangenehmer sein kann als vom technischen Helfer – etwa in der Intimpflege.” (derStandard.at, 7. Mai 2016) Auch zu informationsethischen und rechtlichen Herausforderungen äußert er sich: “Andere wichtige Fragen, die für Bendel durch die Roboter aufkommen, betreffen den Datenschutz.” (derStandard.at, 7. Mai 2016) Der Artikel mit dem Titel “Der Roboter im Pflegeheim” ist über derstandard.at/2000036444112/Der-Roboter-im-Pflegeheim abrufbar.

Abb.: Menschliche Berührungen bleiben wichtig

 

Beitrag zu Kryptowährungen

“Kryptowährungen sind digitale (Quasi-)Währungen mit einem meist dezentralen, stets verteilten und kryptografisch abgesicherten Zahlungssystem. Zu ihnen gehören Bitcoin und Litcoin. Kryptowährungen haben sich in bestimmten Ländern als ernstzunehmende Alternative zur Zahlung unter Privatpersonen herausgebildet. Während man früher virtuelles Geld auch durch die Zurverfügungstellung von Rechenleistung und Netzinfrastruktur erhalten hat, muss man es heute meist mit konventionellen Mitteln erwerben.” So beginnt ein neuer Beitrag im Wirtschaftslexikon von Springer Gabler. Auch Informations- und Wirtschaftsethik werden angesprochen: “Kryptowährungen werden in Wirtschaft und Wissenschaft kontrovers diskutiert. Bei ihnen können Softwarefehler auftreten, sie sind anfällig für Manipulationen durch Organisationen und in Bezug auf die Kurse sowie für Datendiebstahl. Auch Datenverlust mag auftreten, sowohl durch menschliches als auch durch technisches Versagen. Nicht zuletzt lassen sich Cyberkriminelle, die Systeme mit Schadsoftware lahmlegen, häufig mit Bitcoin bezahlen. Umgekehrt können Dependenzen vermieden werden. Informationsethik und Wirtschaftsethik widmen sich moralischen Fragen von Kryptogeld und sehen in den Peer-to-Peer-Konzepten sowohl Chancen als auch Risiken.” Der Beitrag von Oliver Bendel ist am 2. Mai 2016 erschienen und kann über wirtschaftslexikon.gabler.de/Definition/kryptowaehrung.html aufgerufen werden.

Abb.: Bitcoin ist eine bekannte Kryptowährung

Beitrag zur Digitalisierung

“Der Begriff der Digitalisierung hat mehrere Bedeutungen. Er kann die digitale Umwandlung und Darstellung bzw. Durchführung von Information und Kommunikation oder die digitale Modifikation von Instrumenten, Geräten und Fahrzeugen ebenso meinen wie die digitale Revolution, die auch als dritte Revolution bekannt ist, bzw. die digitale Wende.” Mit diesen Worten beginnt ein neuer Eintrag im Wirtschaftslexikon von Gabler, erschienen am 2. Mai 2016. Nachdem der Begriff der Digitalisierung geklärt ist, wird auf Beispiele wie Künstliche Intelligenz, Big Data und Cloud Computing eingegangen. Am Ende wird auch die Perspektive der Ethik eingenommen: “Die Digitalisierung wird diskutiert und kritisiert, und insbesondere die nächste Entwicklungsstufe, die sie ermöglicht, ist in Gesellschaft, Wirtschaft und Politik umstritten. Die Bereichsethiken können die bei der Digitalisierung entstehenden moralischen Probleme – etwa in Bezug auf die Industrie 4.0 – reflektieren, allen voran Technik-, Informations- und Wirtschaftsethik.” Technik- und Informationsethik “fragen nach dem Zugewinn und dem Verlust der persönlichen und informationellen Autonomie und nach der Abhängigkeit der Kunden von IT und IT-Unternehmen”. Der Beitrag von Oliver Bendel kann über wirtschaftslexikon.gabler.de/Definition/digitalisierung.html abgerufen werden.

Abb.: Auch das Surfen im Web gehört zur Digitalisierung

Beitrag zu Animal Enhancement

“Animal Enhancement ist die Erweiterung des Tiers, vor allem zu seiner scheinbaren oder tatsächlichen Verbesserung in Bezug auf seine eigenen Interessen oder diejenigen des Menschen, etwa in wirtschaftlicher oder wissenschaftlicher Hinsicht. Im Blick sind u.a. Leistungssteigerung, Erhöhung der Lebensqualität und Optimierung der Verwertung.” So beginnt ein neuer Eintrag im Wirtschaftslexikon von Gabler. Nachdem der Begriff des Animal Enhancement geklärt ist, wird auf Beispiele wie Nutztiere mit Funkchips und ferngesteuerte Kakerlaken (RoboRoach) eingegangen. Am Ende wird auch die ethische Perspektive eingenommen: “Eine breite Debatte über Animal Enhancement ist in der Öffentlichkeit bisher ausgeblieben. Die Zeitungs- und Zeitschriftenartikel und Medienmeldungen, in denen auch moralische Bedenken zu finden waren, haben allenfalls für ein kurzzeitiges Interesse gesorgt. Auch die Wissenschaft widmet sich nur punktuell dem Thema. Es scheint notwendig, Animal Enhancement einer gründlichen und kritischen Untersuchung zu unterziehen. Es müssen (informations-)technische Verfahren gesammelt, erklärt und aus Sicht von Technik- und Informationsethik sowie Tierethik bewertet werden. Damit sind neben Technik- und Moralphilosophen auch Vertreter von Disziplinen wie Biologie, Informatik, Robotik und Künstlicher Intelligenz (KI) angesprochen. Wenn es um die Verbesserung aus wirtschaftlichen Motiven geht, ist die Wirtschaftsethik gefragt, während bei der Erweiterung aus wissenschaftlichen Gründen die Wissenschaftsethik herangezogen werden kann.” Der Beitrag von Oliver Bendel ist am 2. Mai 2016 erschienen und kann über wirtschaftslexikon.gabler.de/Definition/animal-enhancement.html abgerufen werden.

Abb.: Was macht der Mensch mit dem Tier?

Roboter in der Pflege

Am 2. Mai 2016 fand in Wien eine öffentliche Sitzung der österreichischen Bioethikkommission zum Thema “Von Mensch und Maschine: Roboter in der Pflege” statt. Wegen des großen Andrangs war sie in den Kassensaal, wo früher Geldgeschäfte getätigt wurden, verlegt worden, einen prächtigen Saal der Bundesregierung. Zunächst trafen sich die Referenten zu einem Hintergrundgespräch mit Pressevertretern im Bundeskanzleramt am Minoritenplatz. Nach einem Mittagessen im Café Landtmann ging man in den Kassensaal hinüber. Die Vorsitzende der Bioethikkommission, Christiane Druml, eröffnete die Veranstaltung. Oliver Bendel von der Hochschule für Wirtschaft FHNW referierte zu Maschinen- und Informationsethik und zu ethischen Fragen des Einsatzes von Pflegerobotern. Er ist der Meinung, dass diese die persönliche Autonomie von Patienten verbessern, aber auch deren informationelle Autonomie verletzen können. Mark Coeckelbergh, inzwischen an der Universität Wien tätig, fragte nach den Anforderungen in der Pflege und wie Pflegeroboter, auch aus Sicht der Maschinenethik, dazu passen, und Michael Decker vom KIT in Karlsruhe präsentierte ein aktuelles Projekt in diesem Bereich. Grundsätzliche Technologiekritik übte Jutta Weber von der Universität Paderborn. Markus Wohlmannstetter von der Krankenanstalt Rudolfstiftung nahm die Perspektive der Pflegerinnen und Pfleger ein. Ina Wagner, Mitglied der Bioethikkommission, fasste die Ergebnisse zusammen. Im Anschluss stellten Mitglieder der Kommission und der Öffentlichkeit eine Stunde lang ihre Fragen, wobei nicht nur teilautonome Pflege-, sondern auch autonome Kampfroboter thematisiert wurden, deren Einsatz ein älterer Österreicher forderte, während Oliver Bendel sich dagegen aussprach, obwohl sie, wie er erklärte, nicht plündern, brandschatzen oder vergewaltigen, also auch gewisse Vorteile hätten. Am Ende wurden die Referenten, die der Alpenrepublik ihre Erkenntnisse honorarfrei übermittelt hatten, mit einem kräftigen Applaus verabschiedet. Weitere Informationen und Fotos über www.ots.at/presseaussendung/OTS_20160503_OTS0014/bioethikkommission-diskutiert-den-einsatz-von-robotern-im-pflegebereich

Abb.: Oliver Bendel referiert vor der Bioethikkommission (Foto: Regina Aigner)

Mobile Connectivity im Unternehmen

Der Themenschwerpunkt “Mobile Connectivity” des Instituts für Wirtschaftsinformatik der Universität St. Gallen schreibt nach Angaben der Veranstalter die Tradition des Forums fort, jedes Jahr die aktuelle Innovationsstufe bei mobilen Unternehmensanwendungen in den Blick zu nehmen. Tablets und Smartphones seien in Workplace Solutions heute selbstverständlich; nun werde unter dem Begriff “Smart Connected Devices” auch das Potenzial von vernetzten Brillen, Armbändern und Handschuhen in Mobile-Business-Lösungen untersucht, integriert und ausgeschöpft. “Das #mbforum16 greift diese Themen in Keynotes und interaktiven Formaten auf.” (Website Mobile Business Forum) An der Paneldiskussion zu “Future Mobile Innovation: Visions, Business, Barriers” nehmen Prof. Dr. Oliver Bendel (Hochschule für Wirtschaft FHNW), Christoph Gugl (Helbling Technik AG), Reto C. Zbinden (Swiss Infosec AG) sowie Dr. Pekko Vehviläinen (“Most quantified Man in Finland”) teil. Oliver Bendel ist als Informationsethiker eingeladen. Er hat bereits über Human Enhancement und über Wearables gearbeitet. Weitere Informationen zur Veranstaltung und zu den Referentinnen und Referenten über mbforum.iwi.unisg.ch.

Abb.: Mobile Connectivity wird immer wichtiger

Professur zur Technikethik

Die Philosophische Fakultät der RWTH Aachen gründet ein Zentrum für interdisziplinäre Wissenschafts- und Technik­forschung und schreibt vor diesem Hintergrund eine Universitätsprofessur mit dem Schwerpunkt Technik- und Umweltethik aus. Die Stellenanzeige beginnt mit den Worten: “Mit der Einrichtung der Professur Angewandte Ethik mit dem Schwerpunkt Technik- und Umweltethik erkennt die RWTH Aachen das gesellschaftliche Interesse an einer ethischen Reflexion der Grundlagen und Bedingungen der Technologieentwicklung an. Zu den Aufgaben der Professur gehören vor diesem Hintergrund die Lehre und Forschung in den Bereichen der Angewandten Ethik mit den Schwerpunkten Technik- und Umweltethik. Eine zentrale Stelle soll die systematische Beschäftigung mit aktuellen normativen Fragestellungen der Technik in Bezug auf Mensch, Gesellschaft und Umwelt einnehmen, wobei Fragen der Globalisierung mit berücksichtigt werden sollen.” Weitere Informationen über jobs.zeit.de/jobs und über die Website der RWTH Aachen.

Der Datenmensch

Das 20. Berliner Kolloquium der Daimler und Benz Stiftung trägt den Titel “Der Datenmensch – Freiheit und Selbstbestimmung in der digitalen Welt”. In der Pressemitteilung heißt es: “Sobald wir Informationstechnologien nutzen, hinterlassen wir Datenspuren. Können wir in der digitalen Welt noch frei agieren oder werden wir zu vollkommen transparenten Datenmenschen mit einem gläsernen Ich? Und müssen wir die Auswertung unserer Daten generell hinnehmen, obwohl im Grundgesetz das Recht auf Selbstbestimmung verbürgt ist? Im Pressegespräch der Daimler und Benz Stiftung stehen Ihnen vier Experten als Gesprächspartner zur Verfügung.” (Pressemitteilung DuB-Stiftung, 14. April 2016) Diese sollen Fragen “zu den Auswirkungen der Informationstechnologien auf die Gesellschaft, zu den Schutzmöglichkeiten des Einzelnen und auch zum ökonomischen Wert von Daten erörtern” (Pressemitteilung DuB-Stiftung, 14. April 2016). Eingeladen wurden Prof. Dr. Alexander Roßnagel, Universität Kassel, Institut für Wirtschaftsrecht, Prof. Dr. Johannes Masing, Richter am Bundesverfassungsgericht, Florian Glatzner, Verbraucherzentrale Bundesverband e.V., Berlin, und Prof. Dr. Jeannette Hofmann, Wissenschaftszentrum Berlin für Sozialforschung gGmbH, Berlin. Das Kolloqium findet am Mittwoch, den 11. Mai 2016 von 10.00 bis 10.45 Uhr im Langenbeck-Virchow-Haus in Berlin statt. Weitere Informationen über www.daimler-benz-stiftung.de.

Abb.: Der Datenmensch (Foto: Daimler und Benz Stiftung)

Pflegeroboter im Bundeskanzleramt

Eine öffentliche Sitzung der österreichischen Bioethikkommission trägt den Titel “Von Mensch und Maschine: Roboter in der Pflege”. Sie findet am 2. Mai 2016 im Bundeskanzleramt in Wien statt. Es tragen nach der Eröffnung von Dr. Christiane Druml (Vorsitzende der Bioethikkommission) vor: Prof. Dr. Oliver Bendel, Fachhochschule Nordwestschweiz, Institut für Wirtschaftsinformatik (“Die Maschine in der Moral”), Prof. Dr. Mark Coeckelbergh, Universität Wien, Institut für Philosophie (“Machine ethics in healthcare”), Prof. Dr. Michael Decker, Karlsruhe Institut für Technologie, Institut für Philosophie (“Einsatz von Robotern in der Pflege – empirische Erfahrungen”), Prof. Dr. Jutta Weber, Universität Paderborn, Institut für Medienwissenschaften (“Maschinelle Versorgung: Die impliziten Werte der sozialen Robotik und ihre gesellschaftlichen Konsequenzen”) und Markus Wohlmannstetter, MSc., Anästhesiologische Intensivstation 1B, Krankenanstalt Rudolfstiftung (“Einsatz von Robotern in der Pflege – aus der Sicht der Pflege”). Das “Wrap-up” verantwortet Prof. Dr. Ina Wagner, Mitglied der Bioethikkommission. Weitere Informationen über den Flyer zur Veranstaltung.

Abb.: In Wien unterwegs

Tagungsband zur Maschinenethik

Im März 2016 ist der Proceedingsband “The 2016 AAAI Spring Symposium Series: Technical Reports” erschienen, in der AAAI Press (Palo Alto 2016). Die KI-Konferenz fand an der Stanford University statt. Zur Maschinenethik (Symposium “Ethical and Moral Considerations in Non-Human Agents”) referierten u.a. Ron Arkin (Georgia Institute of Technology), Luís Moniz Pereira (Universidade Nova de Lisboa), Peter Asaro (New School for Public Engagement, New York) und Oliver Bendel (Hochschule für Wirtschaft FHNW). Auf den Seiten 195 bis 201 findet sich der Beitrag “Annotated Decision Trees for Simple Moral Machines” von Oliver Bendel. Im Abstract heißt es: “Autonomization often follows after the automization on which it is based. More and more machines have to make decisions with moral implications. Machine ethics, which can be seen as an equivalent of human ethics, analyses the chances and limits of moral machines. So far, decision trees have not been commonly used for modelling moral machines. This article proposes an approach for creating annotated decision trees, and specifies their central components. The focus is on simple moral machines. The chances of such models are illustrated with the example of a self-driving car that is friendly to humans and animals. Finally the advantages and disadvantages are discussed and conclusions are drawn.” Der Tagungsband kann über www.aaai.org bestellt werden.

Abb.: Auf dem Stanford-Campus

IT-Jobs mit Sex-Appeal

Im FNT Kundenmagazin 2 (März 2016) ist ein Beitrag von Alexander Freimark mit dem Titel “IT-Jobs mit Sex-Appeal” erschienen. Darin werden neue Rollen und Berufe wie Data Scientist, Cyber-Security-Experte, Chief Service Officer und Maschinenethiker genannt. Datenwissenschaftler “entwickeln Modelle, um betrügerische Transaktionen von Kreditkarten, Störungen in Produktionsabläufen oder beleidigende Kommentare in Online-Foren zu erkennen” (FNT Kundenmagazin 2, März 2016). Dr. Angelika Voss verantwortet am Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS das dazu passende Schulungsprogramm: “In der Regel sind unsere Teilnehmer Mitarbeiter von Unternehmen, die sich in der Datenanalyse auskennen, IT-affin sind – und die darüber hinaus noch verstehen, wie in ihrer Branche Geld verdient wird.” (FNT Kundenmagazin 2, März 2016) Die Sicherheitsexperten für den virtuellen Raum können sich “in die Denkweise der Kriminellen hineinversetzen” und können “Angriffe schon im Vorfeld verhindern” (FNT Kundenmagazin 2, März 2016). Der CSO ist “eine Art Coach der Service-Organisation” (FNT Kundenmagazin 2, März 2016). Zum Jobprofil des Maschinenethikers erläutert Prof. Dr. Oliver Bendel von der Hochschule für Wirtschaft FHNW: “In Zukunft müssen wir mehr nach der Moral von Maschinen fragen, weil immer mehr autonome und teilautonome Systeme Entscheidungen mit moralischen Implikationen treffen.” (FNT Kundenmagazin 2, März 2016) Dabei gehe vor allem auch darum, die Folgen der Entscheidungen abzuwägen. Der Artikel wurde vom Autor freundlicherweise zur Verfügung gestellt und kann hier heruntergeladen werden.

Abb.: Der Cyber-Security-Experte wendet heute andere Methoden an

Der Badbot von Microsoft

Aus einem Chatbot wurde ein Badbot – Tay von Microsoft entwickelte sich zum Albtraum des Unternehmens und der Gesellschaft. Der SPIEGEL schrieb am 24. März 2016: “Zuerst war Tay noch freundlich, ein bisschen zu jugendsprachlich-obercool vielleicht, manchmal etwas dämlich wirkend, aber harmlos. Dann kam der Kontakt mit der harten Realität des Netzes.” Und dann sagte Tay: “Hitler hatte recht. Ich hasse die Juden.” (SPON, 24. März 2016) Die Süddeutsche Zeitung widmete sich dem Thema am 1. April in der gedruckten und am 3. April in der Onlineausgabe. Sie zitierte wiederholt den Wirtschaftsinformatiker und Maschinenethiker Oliver Bendel, der selbst Chatbots konzipiert. 2013/2014 entstand an der Hochschule für Wirtschaft FHNW der GOODBOT im Rahmen eines studentischen Praxisprojekts, seit Anfang 2016 wird der LÜGENBOT oder LIEBOT von Kevin Schwegler programmiert, als spezielle Form einer Münchhausen-Maschine. Die Ergebnisse werden auf KI- und Maschinenethik-Konferenzen in den USA und in Europa vorgestellt. Der Artikel in der Onlineausgabe der Süddeutschen trägt den Titel “Rassistischer Chat-Roboter: Mit falschen Werten bombardiert” und stammt von Bernd Graff.

Abb.: Der Chatbot wurde zum Neonazi

Beitrag zu disruptiven Technologien

“Disruptive Technologien”, so beginnt ein neuer Beitrag im Wirtschaftslexikon von Gabler, “unterbrechen die Erfolgsserie etablierter Technologien und Verfahren und verdrängen oder ersetzen diese in mehr oder weniger kurzer Zeit. Sie verändern auch Gewohnheiten im Privat- und Berufsleben.” Weiter heißt es: “Oft sind sie zunächst qualitativ schlechter oder funktional spezieller, was mit ihrer Digitalisierung zusammenhängen kann, und gleichen sich dann nach und nach an ihre Vorgänger an bzw. übertreffen diese in bestimmten Aspekten. Das umstrittene Prinzip geht auf den amerikanischen Wirtschaftswissenschaftler und Geistlichen Clayton M. Christensen zurück, der nach Ursachen für das Scheitern von Unternehmen suchte.” Oliver Bendel diskutiert den Begriff und stellt das Phänomen dar und geht am Ende kurz auf die ethische Dimension ein: “Die Informationsethik widmet sich den Chancen und Risiken disruptiver Technologien für die Informationsgesellschaft, die Wirtschaftsethik den Konsequenzen für Staat, Unternehmen, Mitarbeiter und Kunden.” Der Beitrag, erschienen am 5. April 2016, kann über wirtschaftslexikon.gabler.de/Definition/disruptive-technologien.html aufgerufen werden.

Abb.: Auch das Tablet gehört zu den disruptiven Technologien

Konferenz zur Maschinenethik

Beim Workshop “Ethical and Moral Considerations in Non-Human Agents” an der Stanford University vom 21. bis 23. März 2016 im Rahmen der AAAI Spring Symposia erklärte Ron Arkin (Georgia Institute of Technology, USA) in seiner Keynote “Robots that Need to Mislead: Biologically Inspired Machine Deception”, wie Tiere täuschen und wie man Maschinen beibringen kann, andere zu täuschen. Er ging auch auf die Möglichkeit ein, dass Roboter lügen, und stellte die Frage: “Should a robot be allowed to lie?” Elizabeth Kinne und Georgi Stojanov thematisierten in “Grounding Drones‘ Ethical Use Reasoning” die Chancen und Risiken von Kampfdrohnen. Sie stellten Szenarien vor, um die Probleme beim Einsatz zu vergegenwärtigen. Die Verantwortlichen könnten dazu neigen, immer mehr heikle Entscheidungen den Robotern zu überlassen. Der Vortrag “Metaethics in context of engineering ethical and moral systems” von Michal Klincewicz und Lily Frank, bereits nach der Kaffeepause, fragte nach den grundsätzlichen Möglichkeiten und Unmöglichkeiten moralischer Systeme. Oliver Bendel ging auf das LIEBOT-Projekt ein. An der Hochschule für Wirtschaft FHNW wird 2016 im Rahmen einer Bachelor-Arbeit ein Chatbot programmiert, der konsequent die Unwahrheit sagt. Vor allem stellte der Wissenschaftler aber einen annotierten Entscheidungsbaum für eine einfache moralische Maschine vor, ein tierfreundliches Roboterauto. “The artificial autonomous moral agents (AAMA): a minimalist model” war der letzte Vortrag vor dem Lunch. Ioan Muntean schlug in “The artificial autonomous moral agents (AAMA): a minimalist model” einen Ansatz der Tugendethik vor, den er zusammen mit Don Howard erarbeitet hatte. Bis zum Mittwoch tauschte man sich zur Maschinenethik und zur Roboterethik aus. Die letzte Keynote (“Programming Machine Ethics”) hielt Kumar Pandey von Aldebaran Robotics (SoftBank Group). Der Proceedingsband “The 2016 AAAI Spring Symposium Series: Technical Reports SS-16-01 – SS-16-07″ kann über www.aaai.org/Press/Reports/Symposia/Spring/ss-16.php bezogen werden.

Abb.: Sicherheitsdienst in Roboterform in der Shopping Mall von Stanford