Schlagworte: Robot Ethics

Understanding AI & Us

The international workshop “Understanding AI & Us” will take place in Berlin (Alexander von Humboldt Institute for Internet and Society) on 30 June 2018. It is hosted by Joanna Bryson (MIT), Janina Loh (University of Vienna), Stefan Ullrich (Weizenbaum Institute Berlin) and Christian Djeffal (IoT and Government, Berlin). Birgit Beck, Oliver Bendel and Pak-Hang Wong are invited to the panel on the ethical challenges of artificial intelligence. The aim of the workshop is to bring together experts from the field of research reflecting on AI. The event is funded by the Volkswagen Foundation (VolkswagenStiftung). The project “Understanding AI & Us” furthers and deepens the understanding of artificial intelligence (AI) in an interdisciplinary way. “This is done in order to improve the ways in which AI-systems are invented, designed, developed, and criticised.” (Invitation letter) “In order to achieve this, we form a group that merges different abilities, competences and methods. The aim is to provide space for innovative and out-of-the-box-thinking that would be difficult to pursue in ordinary academic discourse in our respective disciplines. We are seeking ways to merge different disciplinary epistemological standpoints in order to increase our understanding of the development of AI and its impact upon society.” (Invitation letter)

Fig.: The Humboldt Box in Berlin

Intimate Relationships with Robots

In a few days the book “Love and Sex with Robots”, edited by David Levy and Adrian D. Cheok, will be published. From the information on the Springer website: “This book constitutes the refereed proceedings of the Third International Conference on Love and Sex with Robots, LSR 2017, held in December 2017, in London, UK. The 12 revised papers presented together with 2 keynotes were carefully reviewed and selected from a total of 83 submissions. One of the biggest challenges of the Love and Sex with Robots conference is to engage a wider scientific community in the discussions of the multifaceted topic, which has only recently established itself as an academic research topic within, but not limited to, the disciplines of artificial intelligence, human-computer interaction, robotics, biomedical science and robot ethics etc.” Included are contributions by Oliver Bendel (“SSML for Sex Robots”), Sophie Wennerscheid (“Posthuman desire in robotics and science fiction”) and Dr. Rebekah Rousi (“Lying cheating robots – robots and infidelity”). The book can be pre-ordered via Already on the market is the book with the same title, which contains the contributions of the LSR 2016 at Goldsmiths.

Fig.: The cover of the new book (photo: Springer)

Machine Ethics in Florida

A special session “Formalising Robot Ethics” takes place within the ISAIM conference in Fort Lauderdale (3 to 5 January 2018). The program is now available and can be viewed on “Practical Challenges in Explicit Ethical Machine Reasoning” is a talk by Louise Dennis and Michael Fischer, “Contextual Deontic Cognitive Event Calculi for Ethically Correct Robots” a contribution of Selmer Bringsjord, Naveen Sundar G., Bertram Malle and Matthias Scheutz. Oliver Bendel will present “Selected Prototypes of Moral Machines”. A few words from the summary: “The GOODBOT is a chatbot that responds morally adequate to problems of the users. It’s based on the Verbot engine. The LIEBOT can lie systematically, using seven different strategies. It was written in Java, whereby AIML was used. LADYBIRD is an animal-friendly robot vacuum cleaner that spares ladybirds and other insects. In this case, an annotated decision tree was translated into Java. The BESTBOT should be even better than the GOODBOT.”

Fig.: Machine Ethics in Fort Lauderdale

Cyber-Human Systems

In these days, the Hasler Foundation presents the new research program “Cyber-Human Systems”, with a budget of 5 millions Swiss francs. Some information from the website: “Computing plays an ever increasing role in all aspects of our life. As a consequence, society and information technology continuously interact and influence each other in a complex process. In this context, cyber-human system research investigates the increasingly coupled relationship between humans and computing with the broad goal of advancing human capabilities. Novel models, methods, theories and technological innovations in information technology are developed to increase our understanding of this new class of computing systems and to exploit their large economical and societal potential.” (Website Hasler) The text continues: “Research in cyber-human systems addresses specifically all aspects close to the interface between humans and information technology. It is concerned with novel computing platforms such as wearable, textile-integrated and mobile devices or even person-embedded sensors and computers. The research also explores systems that interact with users through multiple modalities such as new interaction techniques, computer displays and even brain-machine interfaces. Algorithmic aspects in cyber-human systems concentrate on local data processing in smart devices at the network edge rather than sending all data to the cloud for processing.” According to a press release, research subjects include interfaces between digital and human world, computing like machine learning at the edge and analysis of economic and societal consequences. More information via

Fig.: A cyborg girl

Assistenzsysteme helfen Tieren

Am 9. Oktober 2014 ist der Artikel “Advanced Driver Assistance Systems and Animals” von Oliver Bendel in der Zeitschrift Künstliche Intelligenz erschienen. Im Abstract heißt es: “Advanced driver assistance systems are widely used. Some support and inform the driver. Others relieve him or her of certain tasks – and transform the human-guided system into a semi-autonomous one. For some years also fully autonomous systems have been on the roads, so-called self-driving cars, as prototypes of companies and within research projects. From the perspective of ethics – both of the special fields of ethics like animal ethics, information ethics and technology ethics and of machine ethics which can be understood as a counterpart to human ethics – advanced driver assistance systems raise various questions. The aim of this paper is to derive suggestions from animal ethics and other disciplines for the improvement and development of the systems. The basis are literature analysis and own classifications and considerations. The result is that there are many possibilities to expand existing systems and to develop new functions in the context with the aim to reduce the number of animal victims.” Der Artikel kann über bezogen werden.

Abb.: Die Katze unter dem Auto

Roboterethik im Gabler Wirtschaftslexikon

Im Gabler Wirtschaftslexikon wird seit 3. Juli 2013 die Roboterethik definiert. Diese kann man sowohl der Maschinen- als auch der Menschenethik zuordnen. In der Roboterethik werde danach gefragt, ob ein Roboter ein Subjekt der Moral sein und wie man diese implementieren kann. Auch der Roboter als Objekt der Moral sowie sein Einfluss auf Menschen sei von Belang. Oliver Bendel erklärt in seinem Beitrag den Begriff der Roboterethik, nimmt die Perspektive der Robotik ein, erwähnt die Robotergesetze von Asimov und gibt eine Einschätzung der Disziplin und einen Ausblick auf ihre weitere Entwicklung. Der Beitrag ist direkt über abrufbar. Er wurde dem Sachgebiet “Grundlagen der Wirtschaftsinformatik” zugewiesen. Für das Gabler Wirtschaftslexikon schreiben nach eigenen Angaben über “150 Experten aus Wissenschaft und Praxis”. Mehr als “25.000 Stichwörter stehen kostenlos” bereit.

Weder Wahrheits- noch Lügenmaschinen?

Das Buch “Können Roboter lügen?” von Raúl Rojas enthält “Essays zur Robotik und Künstlichen Intelligenz”, die von 2011 bis 2013 in der Online-Zeitschrift Telepolis erschienen sind. Rojas ist Professor für Künstliche Intelligenz an der Freien Universität Berlin. Im Kontext der Maschinenethik (und der Roboterethik) ist vor allem der dritte Teil interessant. Im Vorwort heißt es: “Der dritte Teil über Robotik und KI gibt einen Einblick in die Arbeit, die in den letzten Jahren auf diesem Gebiet geleistet worden ist. Wir wären froh, mit Robotern die Eleganz eines Insekts bei der Bewältigung von Hindernissen zu erreichen. Wir können aber schon heute kleine und große Roboter – z.B. autonome Fahrzeuge – mit kognitiven Architekturen ausstatten, die eine effiziente und nützliche Funktionalität erlauben. Die Kapitel über Roboter, die lügen, bzw. über das Watson-System zeigen die zwei Seiten der Medaille: Wie weit die künstliche Intelligenz gekommen ist und wie weit entfernt sie doch noch vom Ziel bleibt.” Rojas gelangt zum Schluss: “Roboter kennen die Wahrheit nicht, deswegen können sie nicht lügen.” Das Buch wurde Ende Mai 2013 im Heise Zeitschriften Verlag veröffentlicht und ist u.a. in der Kindle-Edition erhältlich.

Neue Plattform zur Maschinenethik

Die Plattform wurde im Frühjahr 2013 gegründet und ist der Maschinenethik und speziell auch der Roboterethik und der Algorithmenethik gewidmet. Im Glossar zur Informationsethik von Oliver Bendel heißt es: “Die Maschinenethik (‘Machine Ethics’) hat die Moral von Maschinen zum Gegenstand, vor allem von (teil-)autonomen Systemen wie Agenten, Robotern, Drohnen, Computern im automatisierten Handel und selbstständig fahrenden Autos. Sie kann innerhalb von Informations- und Technikethik eingeordnet oder als Pendant zur Menschenethik angesehen werden.” Kern der Plattform ist ein Blog mit Nachrichten zu Veranstaltungen, Diskussionen, Publikationen und Entwicklungen. Zwei Twitter-Walls bringen die deutsch- und englischsprachigen Tweets zum Thema. Ein Literaturverzeichnis rundet das Angebot ab. Die USA, Kanada, Australien, Japan und Holland forschen intensiv im Bereich der Maschinenethik. Auch aus den deutschsprachigen Ländern sollten Beiträge kommen. Zudem sollten neben KI und Philosophie weitere Disziplinen wie die Wirtschaftsinformatik beitragen.