Schlagworte: Maschinenethik

Berliner Kolloquium zu Robotern in der Pflege

Prof. Dr. Oliver Bendel aus Zürich ist der wissenschaftliche Leiter des nächsten Berliner Kolloquiums. “Experten aus Wissenschaft, Wirtschaft und Politik treffen sich einmal pro Jahr in der Hauptstadt für einen ganzen Tag zum etablierten Berliner Kolloquium der Daimler und Benz Stiftung. Die Themenkomplexe werden von der Stiftung vorgegeben. Sie reichen von aktuellen Fragestellungen der Mensch-Maschine-Schnittstelle, der Molekularmedizin, der Neuro- und Kulturwissenschaften über die Psychologie, Ökologie, Urbanistik und Informatik bis hin zu Kommunikations- und Managemententwicklungen.” (Website Daimler und Benz Stiftung) Im Mai 2019 geht es um “Roboter in der Pflege”. Oliver Bendel hat als Informations- und Maschinenethiker zu diesem Thema zahlreiche Vorträge gehalten und Artikel verfasst sowie den letztjährigen Ladenburger Diskurs mit diesem Fokus veranstaltet. Im Spätherbst 2018 kommt das von ihm herausgegebene Springer-Buch “Pflegeroboter” heraus, das Beiträge renommierter Wissenschaftlerinnen und Wissenschaftler aus Österreich, Deutschland, der Schweiz und UK enthält. Informationen zur Daimler und Benz Stiftung sind über www.daimler-benz-stiftung.de/ verfügbar.

Abb.: In der Kuppel des Reichstags

Die Moral der Roboter

In der neuen Ausgabe der Zeitschrift cooperativ (2/18) widmet man sich der Frage, ob Roboter Moral brauchen. Oliver Bendel zeigt seit einigen Jahren, wie maschinelle Moral entsteht, aus der Maschinenethik heraus, in Zusammenarbeit mit Künstlicher Intelligenz und Robotik. Ob Roboter Moral brauchen, muss von Fall zu Fall entschieden werden. Es bieten sich Stellvertretermaschinen mit einer Stellvertretermoral an, die der Besitzer oder Benutzer mit Hilfe eines Moralmenüs erzeugen kann, mit einer gewissen Freiheit, die auf der einen Seite von Voreinstellungen, auf der anderen Seite von Verordnungen und Gesetzen eingeschränkt wird. Stellvertretermaschinen dieser Art können in geschlossenen oder halboffenen Umgebungen unterwegs sein, etwa als Staubsaugerroboter im Haushalt oder als Sicherheitsroboter auf dem Betriebsgelände. Oliver Bendel kommt in dem Beitrag von Hermann Fritzl ebenso zu Wort wie Matthias Scheutz von der Tufts University School of Engineering und Bertram F. Malle von der Brown University. Der Artikel mit dem Titel “Brauchen Roboter Moral?” kann über issuu.com/cooperativ_oegv/docs/cooperativ_02_18_web aufgerufen werden. Zudem steht er hier als PDF zur Verfügung.

Abb.: Elektro hat noch keine Moral

Google Duplex gibt sich zu erkennen

“Google hat ein neues Video seines telefonierenden Sprachassistenten veröffentlicht. Die … Funktion namens Duplex identifiziert sich jetzt eindeutig am Anfang eines Telefonats.” (Golem, 29. Juni 2018) Damit ist bei Google Duplex die erste der “10 Regeln für gute Maschinen” umgesetzt, die sich vor allem auf virtuelle Assistenten und Bots beziehen: “Ich, die Maschine, mache deutlich, dass ich eine Maschine bin.” Zudem wird die erste Funktion des Moralmenüs für Sprachassistenten berücksichtigt, als Voreinstellung, die sich nicht aushebeln lässt. Diese entspricht der Voreinstellung von LADYBIRD, der niemals Marienkäfer tötet. Golem schreibt weiter: “Damit unterscheidet sich die Funktion merklich von dem auf der I/O 2018 gezeigten Beispiel. Dort hatte der Assistant am Telefon keine Anstalten gemacht, sich als solcher zu erkennen zu geben.” Dies hatte für Kritik gesorgt. “Dabei spielten auch ethische Grundsätze eine Rolle: Ist es vertretbar, einen Menschen darüber im Unklaren zu lassen, dass er mit einem Computer spricht? Google hatte nach dem Aufkommen der Kritik versichert, dass sich Duplex eindeutig als nicht-menschlicher Gesprächspartner zu erkennen geben solle.” (Golem, 29. Juni 2018)

Abb.: Wer ist dran?

Mit Robotern gegen Plastikvermüllung

Die Gewässer auf der ganzen Welt sind hochgradig belastet. Vordergründig wirken manche sauber, und im Vergleich zu den 60er- und 70er-Jahren wurden in den westlichen Ländern in Bezug auf bestimmte Schadstoffe erhebliche Fortschritte erzielt. Allerdings hat zum Beispiel der Anteil von Kunststoffen stark zugenommen. Fische, Wasservögel und andere Lebewesen nehmen die Partikel auf und scheiden sie verändert aus. Auch der Mensch hat immer öfter Petflaschen auf seinem Speiseplan, durchaus unfreiwillig und mit nicht absehbaren gesundheitlichen Folgen. Es gibt unterschiedliche Strategien, Konzepte und Technologien gegen die Plastikverschmutzung und -vermüllung von Gewässern. In einem Projekt an der Hochschule für Wirtschaft FHNW, betreut von Oliver Bendel, soll erfasst werden, welche Verfahren in der Schweiz und auf der ganzen Welt üblich und möglich sind, um Gewässer von Kunststoff und anderen Schadstoffen zu befreien, von künstlichen Inseln, Schiffen mit Netzen bis hin zu Robotern. Bereits 2015 wurde das CLEANINGFISH-Projekt durchgeführt. Schwärme von Robotern könnten, so die Idee, rund um die Uhr Flüsse und Seen durchstreifen, die Plastikteilchen schlucken und an Stationen deponieren. Sie könnten auch Gegenstände am Grund des Bodens, wohin man mit üblichen Verfahren meist nicht vorzudringen vermag, einsammeln und abschleppen. Die Studie hatte festgehalten, dass der CLEANINGFISH einige Probleme lösen, andere aber schaffen könnte. Das neue Projekt mit dem Titel “Wie kann der Kampf gegen Plastikvermüllung und -verschmutzung von Gewässern gewonnen werden?” soll im September 2018 starten.

Abb.: Der CLEANINGFISH in Aktion

Bücher zur Ethik der Informationstechnik

Ariane Rüdiger hat in der iX 05/2018 die Bücher “300 Keywords Informationsethik: Grundwissen aus Computer-, Netz- und Neue-Medien-Ethik sowie Maschinenethik” und “3TH1CS – Die Ethik der digitalen Zeit” rezensiert: “Wer Literatur zum Einstieg in die Recherche zu Fragen rund um die Ethik der Informationstechnik sucht, kann beispielsweise auf die zwei folgenden Publikationen zurückgreifen. Sie befassen sich mit grundlegenden Debatten und Begriffen aus diesem weiten Feld. Zum einen das kurz und präzise gefasste Handbuch ’300 Keywords Informationsethik’ von Oliver Bendel, einem Vordenker der Roboterethik, der sich als Dozent für Wirtschaftsinformatik, Wirtschafts- und Informationsethik … seit Langem mit diesen Themen befasst. Das Handbuch beschreibt kurz und leicht verständlich, manchmal auch amüsant, alphabetisch geordnet und oft garniert mit praktischen, greifbaren Beispielen, was bestimmte informationsethische Begriffe in der Fachdiskussion genau bedeuten. Das reicht von Roboterethik bis zur informationellen Notwehr und von virtueller Realität bis zu Social-Media-Richtlinien. Bendel macht nicht den Fehler, seine Auffassungen zu bestimmten ethischen Fragen als allgemeinverbindlich zu erklären, sondern erwähnt stets auch abweichende Meinungen, was das broschierte Buch zu einer guten Grundlage für Diskussionen macht. Dazu trägt auch der übersichtliche Umfang bei. Wer einzelne Themen vertiefen möchte, über die gerade intensiv diskutiert wird, findet in der Veröffentlichung ’3TH1CS – Die Ethik der digitalen Zeit’ eine interessante, vielseitige und teilweise durchaus unterhaltsame Lektüre.” (iX, 05/2018)

Abb.: Die Rezension in der iX (Quelle: iX)

Über die Rechte von Robotern

Der Artikel “Haben Roboter Rechte?” von Oliver Bendel aus der Zeitschrift Edison (Ausgabe 2/2018) kann hier heruntergeladen werden. Die zuständige Disziplin für diese Frage ist die Roboterethik (bzw. die Roboterphilosophie). Während sich die Maschinenethik auf die maschinelle Moral und damit allenfalls verbundene Pflichten oder Verpflichtungen konzentriert, interessiert sich die Roboterethik auch für moralische Rechte von Maschinen, insbesondere von Robotern. Schon vor Jahrzehnten hat man über diese Frage nachgedacht, doch in letzter Zeit gibt es diesbezügliche Überlegungen und Forderungen, denen man als Ethiker etwas entgegensetzen muss. Denn Oliver Bendel ist der Meinung, dass Roboter keine Rechte haben, haben werden und haben sollen. In seinen Ausführungen zieht er Vergleiche mit Menschen, Tieren und Pflanzen (Tiere haben Rechte, Pflanzen nicht). Er erwähnt in “Haben Roboter Rechte?” auch Sophia, den humanoiden Roboter, dem in Saudi-Arabien die Staatsbürgerschaft verliehen wurde. Ihr wird in Edison zudem ein eigener Beitrag gewidmet.

Abb.: Haben Roboter Rechte?

SRF 2 Kultur zu Erotik 4.0

“Erotik 4.0 – Gedankenspiel Sexroboter” lautet der Titel einer Sendung bei SRF 2 Kultur, die am 13. Juni 2018 ab 9 Uhr ausgestrahlt wird. “In Dortmund gibt es ein Sexpuppen-Bordell, in Barcelona sogar schon ein Sexroboter-Bordell. Der Roboterphilosoph Oliver Bendel findet diese Entwicklung gefährlich. Denn noch wissen wir nicht, welche Folgen Sexroboter für uns Menschen haben, die empirische Forschung fehlt noch.” (Website SRF) Er spricht sich nicht gegen die Entwicklung aus, sondern ist eben dafür, Forschung in diesem Bereich zu betreiben und die Anwendung genau im Auge zu behalten. In der “Kontext”-Sendung geht es zunächst um Harmony. “Wer ist sie und was kann sie?” Dann wird die Frage gestellt: “Wie soll der Sexroboter aussehen?” Oliver Bendel denkt laut über das Aussehen von Sexrobotern abseits der Stereotype nach. Schließlich findet ein “Gedankenspiel” statt, und KI-Experte und Schachmeister David Levy, Roboterethikerin Kathleen Richardson und Roboterphilosoph Oliver Bendel kommen zu Wort. Weitere Informationen über www.srf.ch/sendungen/kontext/erotik-4-0-gedankenspiel-sexroboter.

Abb.: Wer ist sie und was kann sie?

Angela Merkel trifft KI-Experten

Die Deutsche Welle war Ende Mai 2018 im Gespräch mit Oliver Bendel. Anlass war ein Treffen zwischen Angela Merkel und Experten für Künstliche Intelligenz. Der Informations- und Maschinenethiker empfiehlt eine Unterscheidung zwischen Forschung und Entwicklung auf der einen Seite und Anwendung auf der anderen. Er ist für die Freiheit der Forschung. Für ihn endet sie erst da, wo die Freiheit und Unversehrtheit von anderen beginnt, von Menschen und Tieren. Dagegen muss man nach seiner Ansicht die eine oder andere Anwendung von KI bereits jetzt einschränken, etwa dann, wenn Massenüberwachung stattfindet. Die Deutsche Welle über sich selbst auf ihrer Website: “Die Deutsche Welle (DW) ist der Auslandssender Deutschlands. In journalistischer Unabhängigkeit vermitteln wir ein umfassendes Deutschlandbild, stellen weltweite Ereignisse und Entwicklungen aus europäischer Perspektive dar, greifen deutsche und andere Sichtweisen auf. So fördern wir das Verständnis zwischen den Kulturen und Völkern. Zugleich schaffen wir einen Zugang zur deutschen Sprache.” (Website Deutsche Welle) Das Interview kann über www.dw.com/de/jetzt-machen-wir-gro%C3%9Fartige-spr%C3%BCnge/a-43964092 aufgerufen werden.

Abb.: Das Bundeskanzleramt

Handbuch zur Maschinenethik erscheint

Seit Ende 2016 sitzen renommierte Wissenschaftlerinnen und Wissenschaftler an Beiträgen für das “Handbuch Maschinenethik” von Springer. Ende 2018 soll das gedruckte Werk erscheinen. Herausgeber ist der Informations- und Maschinenethiker und Roboterphilosoph Oliver Bendel. Die ersten Beiträge wurden im Frühjahr 2018 in elektronischer Form publiziert. Mit dabei sind etwa Luís Moniz Pereira, einer der bekanntesten Maschinenethiker der Welt, und Roboterethikerin Janina Loh, die mit Mark Coeckelbergh zusammenarbeitet. Ein Beitrag der Stuttgarter Philosophin Catrin Misselhorn, die ebenfalls einen hervorragenden Ruf in der Disziplin hat, kommt in wenigen Tagen heraus. In ein paar Monaten folgen Julian Nida-Rümelin und Eric Hilgendorf, um nur zwei weitere Namen zu nennen. Der Philosoph war einst Kulturstaatsminister, und der Roboterrechtler fehlt bei kaum einer Debatte über autonome Autos und künstliche Intelligenz. Eine Übersicht über die Beiträge, die laufend elektronisch veröffentlicht werden, findet sich über link.springer.com/referencework/10.1007/978-3-658-17484-2 … Oliver Bendel wird selbst mit sechs Beiträgen vertreten sein, vor allem zu Artefakten der Maschinenethik, also zu konkreten Umsetzungen. Er hat sich in mehreren Büchern und in über 100 Artikeln und Buchbeiträgen der Maschinenethik und den moralischen Maschinen gewidmet.

Abb.: Was ist Maschinenethik?

Co-Robots in der Moral

Die Konferenz “Smarte Maschinen im Einsatz – Künstliche Intelligenz in der Produktion” fand am 15. Mai 2018 am Fraunhofer-Institut für Produktionstechnik und Automatisierung IPA in Stuttgart statt. Schirmherrin war Dr. Nicole Hoffmeister-Kraut MdL (Ministerin für Wirtschaft, Arbeit und Wohnungsbau des Landes Baden-Württemberg). Prof. Dr. Oliver Bendel bildete mit seinem Vortrag über “Co-Robots aus Sicht von Informations- und Maschinenethik” den Schlusspunkt der Veranstaltung. Der schweizerischen SonntagsZeitung, deren Wissenschaftsredakteur angereist war, stand er Rede und Antwort. Das Interview wurde am 20. Mai 2018 als zentraler Bestandteil eines Einseiters veröffentlicht, der hier heruntergeladen werden kann. Vor allem geht es um Co-Robots aus Sicht der Ethik. Am Ende wird auch Kapitalismuskritik geäußert. Oliver Bendel ist für eine Reichensteuer und für ein bedingungsloses Grundeinkommen. Die Robotersteuer muss nach seiner Ansicht diskutiert werden, hat aber mehr Nach- als Vorteile.

Abb.: Beitrag in der SonntagsZeitung

Das ROBOPROF-Projekt

Im Frühjahr 2014 fragte Oliver Bendel bei der Gebert Rüf Stiftung nach, ob sie das ROBOPROF-Projekt finanzieren würde. “Dieses Projekt soll untersuchen, ob und wann ein relativ einfach, aber programmiertechnisch und allgemeintechnisch erweiterbarer Roboter als Avatar in der Lehre fungieren kann. Der Roboter kann die Studierenden ansprechen, sie beobachten, er kann den Beamer bedienen etc. Es spielen technische Fragen (Bewegung, Interaktion) ebenso eine Rolle wie Akzeptanzfragen. Und es spielen moralische Fragen eine Rolle: Behandelt man über den Avatar die Studierenden anders, und wird man als Professor anders behandelt? Im Projekt wird ein käuflicher, erweiterbarer Roboter eingesetzt. Es sollen Erkenntnisse für den Lehrbetrieb in der Schweiz resultieren.” (Projektskizze) Die Stiftung lehnte ab, weil das Projekt nicht mehr in ihr Portfolio passe. Inzwischen werden Roboter an verschiedenen Orten als Lehrer und Assistenten eingesetzt, etwa in Schulen in Singapur. Auch Hiroshi Ishiguro nimmt seinen Geminoid in den Unterricht mit. Nun will die FHNW erste Erfahrungen in diesem Bereich sammeln und schreibt eine Teilzeitstelle aus. “Die Entwicklung und forschungs­basierte Erprobung von Lehr-/Lernszenarien, in denen Roboter in der Hoch­schul­lehre und Weiterbildung zum Einsatz kommen, wird im Zentrum Ihrer Auf­gaben stehen.” (Stellenanzeige)

Virtuelle Assistenten

“Ein virtueller Assistent ist ein Dialogsystem, das Anfragen der Benutzer beantwortet und Aufgaben für sie erledigt, in privaten und wirtschaftlichen Zusammenhängen. Er ist auf dem Smartphone ebenso zu finden wie in Unterhaltungsgeräten und in Fahrzeugen.” Mit diesen Worten beginnt ein am 15. Mai 2018 erschienener Beitrag von Oliver Bendel im Wirtschaftslexikon von Gabler Springer. Erwähnt werden virtuelle Assistenten bzw. Sprachassistenten wie Siri, Cortana, Google Assistant (auch im Zusammenhang mit Google Duplex) und Alexa. Am Ende heißt es: “Mit Systemen wie Google Duplex kehren sich die Verhältnisse in gewisser Hinsicht um. Man nimmt einen Anruf entgegen, kommuniziert wie gewohnt, hat aber vielleicht, ohne es zu wissen, einen Computer am Apparat, keinen Menschen. Für Chatbots wurde bereits früh vorgeschlagen, dass diese klarmachen sollen, dass sie keine Menschen sind. Möglich ist es zudem, die Stimme roboterhaft klingen zu lassen, sodass kaum Verwechslungsgefahr besteht. Dies sind Themen für Informationsethik, Roboterethik und Maschinenethik und allgemein Roboterphilosophie.” (Gabler Wirtschaftslexikon) Der Beitrag kann über wirtschaftslexikon.gabler.de/definition/virtueller-assistent-99509 aufgerufen werden.

Abb.: Wer ist dran?

Konferenz bei Heidelberg zu Pflegerobotern

“Pflegeroboter, so die Idee für die Zukunft, unterstützen oder ersetzen menschliche Pflegekräfte bzw. Betreuerinnen und Betreuer. Sie bringen und reichen Kranken und Alten benötigte Nahrungsmittel oder Medikamente, helfen ihnen beim Hinlegen und Aufrichten oder alarmieren den Notdienst. Beispiele für Prototypen mit solchen Fähigkeiten sind die Roboter Jaco, Cody, Robear, Twendy-One und Hobbit. Bei der Entwicklung maschineller Pflegesysteme sind derzeit vor allem Deutschland und Japan führend. Zu diesem aktuellen Thema fand der Ladenburger Diskurs ‘Pflegeroboter’ statt, den der Informations- und Maschinenethiker Prof. Dr. Oliver Bendel von der Hochschule für Wirtschaft der Fachhochschule Nordwestschweiz leitete.” So beginnt der Beitrag auf den Seiten 26 und 27 im Jahresbericht 2017 der Daimler und Benz Stiftung, der im Frühjahr 2018 erschienen ist. Die Konferenz wurde vom 12. bis 13. September 2017 im Carl-Benz-Haus in Ladenburg bei Heidelberg durchgeführt. Bereits am 11. September traf man sich zum Abendessen. Der Jahresbericht kann über www.daimler-benz-stiftung.de/cms/images/dbs-bilder/publikationen/Jahresbericht-2017.pdf heruntergeladen werden. Der Herausgeberband erscheint im Spätsommer 2018 bei Springer (Open Access).

Abb.: Vor dem Carl-Benz-Haus (Foto: Daimler und Benz Stiftung/Dorn)

The Chatbot that Uses Face Recognition

Machine ethics researches the morality of semiautonomous and autonomous machines. The School of Business at the University of Applied Sciences and Arts Northwestern Switzerland FHNW realized a project for implementation of a prototype called GOODBOT, a novelty chatbot and a simple moral machine. One of its meta rules was it should not lie unless not lying would hurt the user. It was a stand-alone solution, not linked with other systems and not internet- or web-based. In the LIEBOT project, the mentioned meta rule was reversed. This web-based chatbot, implemented in 2016, could lie systematically. It was an example of a simple immoral machine. A follow-up project in 2018 is going to develop the BESTBOT, considering the restrictions of the GOODBOT and the opportunities of the LIEBOT. The aim is to develop a machine that can detect problems of users of all kinds and can react in an adequate way. To achieve this, it will use approaches of face recognition. The paper “From GOODBOT to BESTBOT” describes the preconditions and findings of the GOODBOT project and the results of the LIEBOT project and outlines the subsequent BESTBOT project. A reflection from the perspective of information ethics is included. Oliver Bendel presented his paper on 27 March 2018 at Stanford University (“AI and Society: Ethics, Safety and Trustworthiness in Intelligent Agents”, AAAI 2018 Spring Symposium Series). The PDF is available here.

Ethik und KI in Kalifornien

Die Technical Reports des AAAI 2018 Spring Symposium “AI and Society: Ethics, Safety and Trustworthiness in Intelligent Agents” sind Ende April 2018 erschienen. Zum Download stehen u.a. bereit “From GOODBOT to BESTBOT” (Oliver Bendel), “The Uncanny Return of Physiognomy” (Oliver Bendel), “The Heart of the Matter: Patient Autonomy as a Model for the Wellbeing of Technology Users” (Emanuelle Burton et al.), “Trustworthiness and Safety for Intelligent Ethical Logical Agents via Interval Temporal Logic and Runtime Self-Checking” (Stefania Costantin et al.), “Ethical Considerations for AI Researchers” (Kyle Dent), “Interactive Agent that Understands the User” (Piotr Gmytrasiewicz et al.), “Toward Beneficial Human-Level AI … and Beyond” (Philip C. Jackson Jr.), “Towards Provably Moral AI Agents in Bottom-Up Learning Frameworks” (Nolan P. Shaw et al.), “An Architecture for a Military AI System with Ethical Rules” (Yetian Wang et al.) und “Architecting a Human-Like Emotion-Driven Conscious Moral Mind for Value Alignment and AGI Safety” (Mark R. Waser et al.). Das Symposium fand vom 26. bis zum 28. März 2018 an der Stanford University statt. Für die Maschinenethik wie auch für Informationsethik und Roboterethik ist die Konferenzreihe seit Jahren eine der wichtigsten Plattformen weltweit.

Abb.: Eine Skulptur in San Francisco

Der Blick der Schweiz auf die Maschinenethik

In seiner Keynote auf der “Minds Mastering Machines” in Köln am 25. April 2018 hat Oliver Bendel die Teilnehmerinnen und Teilnehmer auf eine Reise mitgenommen, u.a. nach Prag, Krakau, Stanford, Fort Lauderdale und Wien. Auf Konferenzen, die dort stattfanden, präsentierte er in den letzten Jahren Konzepte und Artefakte der Maschinenethik. In Prag waren es das Roboterauto-Problem und die dazugehörige quantifizierende und qualifizierende Formel, die 2012 entwickelt wurden, in Stanford ab 2016 ein tierfreundliches Auto, ein tierfreundlicher Staubsaugerroboter und gute und böse Chatbots. In Krakau diskutierte er mit Ron Arkin vom Georgia Tech auf dem Podium, ob man betrügerische Roboter bauen darf. Eine Teilnehmerin der Konferenz, Shirin Glander, protokollierte in Köln mit und twitterte das Ergebnis über @ShirinGlander … Sie hat in ihrer Zeichnung sozusagen den Blick der Schweiz auf die Maschinenethik eingefangen. “Die Minds Mastering Machines wendet sich mit ihrem technischen Fokus an Softwareentwickler und -architekten, Data Scientists, Projekt- und Teamleiter sowie Forscher.” (Website MMM)

Abb.: Die Zeichnung von Shirin Glander

Diskussion um die elektronische Person

Haben Roboter Rechte bzw. soll man sie mit Rechten ausstatten? Die eine Frage ist ethisch, die andere rechtlich deutbar. Oliver Bendel hält als Ethiker nichts von Rechten für Roboter. Dies können weder empfinden noch leiden, sie haben kein Bewusstsein, sie sind keine echten Personen, aber auch keine echten Lebewesen. Im Zivilrecht kann man, so seine Meinung, ohne weiteres eine elektronische Person konstruieren, die man verklagen kann und die dann haften muss (etwa über ein Budget, das sie hat, oder einen Fonds, mit dem sie verbunden ist). Einerseits ist das die Lösung für das Problem, dass sich in vielen Fällen kaum mehr eindeutig verantwortliche natürliche oder juristische Personen ausmachen lassen. Andererseits eben nicht, denn woher sollte das Geld kommen – wenn nicht von natürlichen und juristischen Personen, die mit dem Roboter in irgendeiner Verbindung stehen? Und bei selbstlernenden Systemen wie Tay wird es vollends kompliziert, wobei dieser Fall ins Strafrechtliche hineinreicht. Eine Gruppe von KI-Forschern, Philosophen, Theologen und Rechtswissenschaftlern hat sich in einem offenen Brief gegen die Schaffung des Status einer elektronischen Person gewandt, wie eine Arbeitsgruppe des Europäischen Parlaments sie dieses Jahr vorgeschlagen hat. Der Artikel “Streit um Rechte von Robotern” stellt die unterschiedlichen Positionen dar. Er ist am 21. April 2018 in der Aargauer Zeitung erschienen und kann über www.aargauerzeitung.ch/leben/forschung-technik/streit-um-rechte-von-robotern-wer-haftet-wenn-etwas-schief-geht-132457958 aufgerufen werden.

Abb.: Braucht es eine elektronische Person?

Die Rechte von Sophia

Haben Roboter Rechte? Dieser Frage geht Oliver Bendel in der Zeitschrift Edison nach, in der Ausgabe 2/2018. Die zuständige Disziplin ist die Roboterethik (bzw. die Roboterphilosophie). Während sich die Maschinenethik auf die maschinelle Moral und damit allenfalls verbundene Pflichten oder Verpflichtungen konzentriert, interessiert sich die Roboterethik auch für moralische Rechte von Maschinen, insbesondere von Robotern. Schon vor Jahrzehnten hat man über diese Frage nachgedacht, doch in letzter Zeit gibt es diesbezügliche Überlegungen und Forderungen, denen man als Ethiker etwas entgegensetzen muss. Denn Oliver Bendel ist der Meinung, dass Roboter keine Rechte haben, haben werden und haben sollen. In seinen Ausführungen zieht er Vergleiche mit Menschen, Tieren und Pflanzen (Tiere haben Rechte, Pflanzen nicht). Er erwähnt in “Haben Roboter Rechte?” auch Sophia, den humanoiden Roboter, dem in Saudi-Arabien die Staatsbürgerschaft verliehen wurde. Ihr wird in Edison auch ein eigener Beitrag gewidmet. Das Magazin kann über edison-magazin.handelsblatt.com/epaper/13.04.2018 bestellt werden.

Abb.: Haben Roboter Rechte?

Cult of the Machine

An extraordinary exhibition is currently taking place at the de Young Museum in San Francisco. The title “Cult of the Machine” indicates what it is all about: “Characterized by highly structured, geometric compositions with smooth surfaces, linear qualities, and lucid forms, Precisionism – a style that emerged in America in the teens and flourished during the 1920s and 1930s – reconciled realism with abstraction, and wed European art movements, such as Purism, Cubism, and Futurism, to American subject matter to create a streamlined, ‘machined’ aesthetic with themes ranging from the urban and industrial to the pastoral. The tensions and ambivalences about industrialization expressed in works by the Precisionists are particularly fascinating and relevant to a contemporary audience in the midst of a Fourth Industrial Revolution, in which robots are replacing human labor for various functions, underscoring many of the same excitements and concerns about modernization that existed nearly one hundred years ago.” (Website de Young Museum) The exhibition will run from 24 March to 12 August 2018. Further information is available via deyoung.famsf.org/exhibitions/cult-machine.

Fig.: The exhibition sign

AI and Society IV

Nach dem Mittagessen spannte Oliver Bendel beim Symposium “AI and Society” den Bogen “From GOODBOT to BESTBOT”. Sein BESTBOT-Projekt, das GOODBOT und LIEBOT zusammenführt, startete eine Woche vorher an der School of Business FHNW (der mit der Implementierung beauftragte Student ist David Studer). Der BESTBOT, ein Artefakt der Maschinenethik, soll Probleme des Benutzers auch über Gesichtserkennung identifizieren, was wiederum Probleme für den Benutzer schafft, die ebenfalls diskutiert werden sollen, und zwar aus Sicht der Informationsethik. “Toward Beneficial Human-Level AI … and Beyond” thematisierte maschinelles Bewusstsein und “superintelligence” und das TalaMind-Projekt. Philip Jackson betonte, dieses “will help to achieve beneficial human-level AI and superintelligence” schneller und besser als andere Methoden. Andrew Williams sprach über “The Potential Social Impact of the Artificial Intelligence Divide”. Er fragte nach den Vorurteilen und Verzerrungen, die über KI verstärkt werden. Bei der abschließenden Diskussionsrunde war ein Thema der Zusammenhang zwischen natürlicher Sprache und menschlicher und maschineller Moral, ein anderes die Entwicklung des Arbeitsmarkts angesichts der Übernahme von Arbeit durch KI-Systeme und Roboter.

Abb.: Palmen an der Stanford University