Schlagworte: AI

KI im Google-Magazin

“Künstliche Intelligenz” ist der Titel der aktuellen Aufbruch-Ausgabe, die im Herbst 2018 erschienen ist. Das Google-Magazin ist seit wenigen Jahren auf dem Markt und wird von einer Agentur der Süddeutschen Zeitung produziert. Es liegt mehreren Zeitungen und Zeitschriften bei, etwa dem Spiegel (Ausgabe vom 14. Oktober 2018). In der Rubrik “Sorgen und Fragen” kommen Fernanda Viégas (Co-Leiterin der Google-Initiative “People + AI Research”), Prof. Dr. John-Dylan Haynes (Hirnforscher am Bernstein Center für Computational Neuroscience), Prof. Dr. Oliver Bendel (Informations- und Maschinenethiker an der Hochschule für Wirtschaft FHNW) und Prof. Dr. Kathrin Möslein (Wirtschaftsinformatikerin an der Friedrich-Alexander-Universität Nürnberg) zu Wort. Das Interview mit Oliver Bendel kann mit freundlicher Genehmigung der Münchner Agentur hier heruntergeladen werden.

Abb.: Bei Google im Silicon Valley

AI love you

Unter der Überschrift “AI love you” berichtete die Süddeutsche Zeitung am 29. September 2018 über den zunehmenden Gebrauch von Liebespuppen und die Weiterentwicklung von Sexrobotern. Vorausgegangen war ein einstündiges Interview mit Oliver Bendel, der als Informations- und Maschinenethiker dieses Phänomen erforscht. Der Journalist und er trafen sich im Münchner Excelsior am Hauptbahnhof und reisten von dort in Gedanken nach Dortmund, wo sich das Bordoll befindet, und nach Barcelona und Moskau. Auch in der Schweiz, erzählte der Ethiker, legt sich das eine oder andere Etablissement eine Liebespuppe zu. So weit wie das Bordoll, wo es keine Menschen mehr gibt, die Besitzerin und die Kunden ausgenommen, treibt es aber noch niemand. Im Bordoll interessieren sich die meist jungen Männer auch für Fantasyfiguren, für Elfen und Manga- und Animemädchen. So etwas muss erforscht werden, wie auch die Frage, ob man Liebespuppen in Pflege und Therapie einsetzen kann. Dieser Frage widmet sich wiederum ein aktueller Beitrag von Oliver Bendel in der IT for Health. Der Beitrag in der Süddeutschen kann hier kostenpflichtig abgerufen werden.

Abb.: Eine Liebespuppe

Wenn Algorithmen den Menschen diskriminieren

Das Handelsblatt titelt am 26. August 2018 mit den Worten “Wenn Algorithmen den Menschen diskriminieren”. Im Teaser des Beitrags von Hannah Steinharter und Michael Maisch heißt es: “Die Finanzbranche setzt enorme Hoffnungen auf die künstliche Intelligenz. Aber die Herrschaft der Maschinen führt zu ernsten ethischen Problemen.” Und im Haupttext: “Künstliche Intelligenz (KI) rechnet in der Finanzbranche nicht nur Versicherungsbeiträge aus. Mithilfe von Algorithmen überprüfen Banken und andere Finanzdienstleister die Kreditwürdigkeit ihrer Kunden, forschen nach Betrug und automatisieren quasi jeden Geschäftsbereich – von der Vermögensverwaltung bis zur Kontoeröffnung.” (Handelblatt, 26. August 2018) Befragt wurden zu dem Thema u.a. Raúl Rojas aus Berlin und Oliver Bendel aus Zürich. Der Artikel kann über www.handelsblatt.com/finanzen/banken-versicherungen/kuenstliche-intelligenz-wenn-algorithmen-den-menschen-diskriminieren/22949674.html abgerufen werden.

Abb.: Bekomme ich Kredit?

Understanding AI & Us

The international workshop “Understanding AI & Us” will take place in Berlin (Alexander von Humboldt Institute for Internet and Society) on 30 June 2018. It is hosted by Joanna Bryson (MIT), Janina Loh (University of Vienna), Stefan Ullrich (Weizenbaum Institute Berlin) and Christian Djeffal (IoT and Government, Berlin). Birgit Beck, Oliver Bendel and Pak-Hang Wong are invited to the panel on the ethical challenges of artificial intelligence. The aim of the workshop is to bring together experts from the field of research reflecting on AI. The event is funded by the Volkswagen Foundation (VolkswagenStiftung). The project “Understanding AI & Us” furthers and deepens the understanding of artificial intelligence (AI) in an interdisciplinary way. “This is done in order to improve the ways in which AI-systems are invented, designed, developed, and criticised.” (Invitation letter) “In order to achieve this, we form a group that merges different abilities, competences and methods. The aim is to provide space for innovative and out-of-the-box-thinking that would be difficult to pursue in ordinary academic discourse in our respective disciplines. We are seeking ways to merge different disciplinary epistemological standpoints in order to increase our understanding of the development of AI and its impact upon society.” (Invitation letter)

Fig.: The Humboldt Box in Berlin

Ethik und KI in Kalifornien

Die Technical Reports des AAAI 2018 Spring Symposium “AI and Society: Ethics, Safety and Trustworthiness in Intelligent Agents” sind Ende April 2018 erschienen. Zum Download stehen u.a. bereit “From GOODBOT to BESTBOT” (Oliver Bendel), “The Uncanny Return of Physiognomy” (Oliver Bendel), “The Heart of the Matter: Patient Autonomy as a Model for the Wellbeing of Technology Users” (Emanuelle Burton et al.), “Trustworthiness and Safety for Intelligent Ethical Logical Agents via Interval Temporal Logic and Runtime Self-Checking” (Stefania Costantin et al.), “Ethical Considerations for AI Researchers” (Kyle Dent), “Interactive Agent that Understands the User” (Piotr Gmytrasiewicz et al.), “Toward Beneficial Human-Level AI … and Beyond” (Philip C. Jackson Jr.), “Towards Provably Moral AI Agents in Bottom-Up Learning Frameworks” (Nolan P. Shaw et al.), “An Architecture for a Military AI System with Ethical Rules” (Yetian Wang et al.) und “Architecting a Human-Like Emotion-Driven Conscious Moral Mind for Value Alignment and AGI Safety” (Mark R. Waser et al.). Das Symposium fand vom 26. bis zum 28. März 2018 an der Stanford University statt. Für die Maschinenethik wie auch für Informationsethik und Roboterethik ist die Konferenzreihe seit Jahren eine der wichtigsten Plattformen weltweit.

Abb.: Eine Skulptur in San Francisco

Videos zur Handelsblatt-Jahrestagung

Am Rande der Handelsblatt-Jahrestagung “Strategisches IT-Management” (15. bis 17. Januar 2018 in München) wurden Interviews mit den Vortragenden geführt und aufgezeichnet. Am zweiten Tag hatte zuerst Prof. Dr.-Ing. habil. Alois C. Knoll (Lehrstuhlinhaber für Echtzeitsysteme und Robotik, Technische Universität München) zum Human-Brain-Projekt der EU referiert, danach Dr. Martin Hofmann, Group CIO, Volkswagen AG über “Augmented Intelligence: AI in enterprise context”. Prof. Dr. oec. HSG Oliver Bendel (Professor für Wirtschaftsinformatik, Informationsethik und Maschinenethik, Hochschule für Wirtschaft FHNW) war auf “Die Ethik als Partnerin von Robotik und KI” eingegangen. Im Video erläutert er, was Maschinenethik ist. Auf dem Panel hatten er, Prof. Dr.-Ing. habil. Alois C. Knoll, Prof. Dr. Dr. Eric Hilgendorf (Leiter der Forschungsstelle RobotRecht, Julius-Maximilians-Universität Würzburg) und Dr. Ole Wintermann (Senior-Projektleiter, Co-Founder, Blogger, Bertelsmann Stiftung) zum Thema “Sind intelligente Maschinen und Roboter die besseren Menschen?” diskutiert. Auch dazu steht ein Video zur Verfügung. Alle Videos finden sich über veranstaltungen.handelsblatt.com/it-jahrestagung/videos-2018/.

Abb.: Oliver Bendel bei seinem Vortrag (Foto: Handelsblatt)

AI and Society IV

Nach dem Mittagessen spannte Oliver Bendel beim Symposium “AI and Society” den Bogen “From GOODBOT to BESTBOT”. Sein BESTBOT-Projekt, das GOODBOT und LIEBOT zusammenführt, startete eine Woche vorher an der School of Business FHNW (der mit der Implementierung beauftragte Student ist David Studer). Der BESTBOT, ein Artefakt der Maschinenethik, soll Probleme des Benutzers auch über Gesichtserkennung identifizieren, was wiederum Probleme für den Benutzer schafft, die ebenfalls diskutiert werden sollen, und zwar aus Sicht der Informationsethik. “Toward Beneficial Human-Level AI … and Beyond” thematisierte maschinelles Bewusstsein und “superintelligence” und das TalaMind-Projekt. Philip Jackson betonte, dieses “will help to achieve beneficial human-level AI and superintelligence” schneller und besser als andere Methoden. Andrew Williams sprach über “The Potential Social Impact of the Artificial Intelligence Divide”. Er fragte nach den Vorurteilen und Verzerrungen, die über KI verstärkt werden. Bei der abschließenden Diskussionsrunde war ein Thema der Zusammenhang zwischen natürlicher Sprache und menschlicher und maschineller Moral, ein anderes die Entwicklung des Arbeitsmarkts angesichts der Übernahme von Arbeit durch KI-Systeme und Roboter.

Abb.: Palmen an der Stanford University

Programme of AAAI Spring Symposium

The tentative schedule of AAAI 2018 Spring Symposium on AI and Society at Stanford University (26 – 28 March 2018) has been published. On Tuesday Emma Brunskill from Stanford University, Philip C. Jackson (“Toward Beneficial Human-Level AI … and Beyond”) and Andrew Williams (“The Potential Social Impact of the Artificial Intelligence Divide”) will give a lecture. Oliver Bendel will have two talks, one on “The Uncanny Return of Physiognomy” and one on “From GOODBOT to BESTBOT”. From the description on the website: “Artificial Intelligence has become a major player in today’s society and that has inevitably generated a proliferation of thoughts and sentiments on several of the  related issues. Many, for example, have felt the need to voice, in different ways and through different channels, their concerns on: possible undesirable outcomes caused by artificial agents, the morality of their use in specific sectors, such as the military, and the impact they will have on the labor market. The goal of this symposium is to gather a diverse group of researchers from many disciplines and to ignite a scientific discussion on this topic.” (AAAI website)

Fig.: On the campus of Stanford University

Über Wonder Woman und Fat Man

Was haben Wonder Woman und ein Lügendetektor gemeinsam? Warum schämen wir uns für andere Menschen? Kann die Sonne erlöschen? Wer war Mata Hari? Die Fragen bei “Beat the Prof” auf ZEIT ONLINE sind immer anregend, die Antworten oft verblüffend. Im Mai 2017 wurde ein neues Quiz freigeschaltet, und zwar zur Künstlichen Intelligenz. Die Fragen und Antworten erarbeitete der Informations- und Maschinenethiker Oliver Bendel, der in Zürich lebt und in Basel, Olten und Windisch an der Hochschule für Wirtschaft FHNW arbeitet. Enthalten ist u.a. eine Frage zum Fetter-Mann-Problem. Der bedauernswerte Unbeteiligte werde von einer Brücke auf ein Gleis gestoßen. Aber warum? Antwort 1: “Er wird getötet, damit andere auf dem Gleis überleben.” Antwort 2: “Er wird heruntergeschubst, damit die Brücke nicht einstürzt.” Antwort 3: “Er wird getötet, damit das Fetter-Mann-Problem entsteht.” Das Quiz kann über www.zeit.de/campus/2017-05/beat-the-prof-ethik-kuenstliche-intelligenz aufgerufen werden.

Abb.: Wonder Woman beim Schminken

Initiative zu Robotik und Digitalisierung

Der Bundesminister für Verkehr, Innovation und Technologie von Österreich startet eine Initiative zu Robotik und Digitalisierung. Zur grundsätzlichen Förderung heißt es in einer Information von 2016: “Das Infrastrukturministerium (bmvit) investiert jährlich rund 500 Millionen Euro in die Förderung der angewandten Forschung in Österreich. 185 Millionen Euro stehen für F&E im Bereich von Industrie 4.0 zur Verfügung. Davon fließen rund 100 Millionen Euro in die Material- und Produktionsforschung in der Sachgüterindustrie.” (Information bmvit) Die Schwerpunkte liegen dabei auf Entwicklungen in der Robotik, von intelligenten Materialien und Rohstoffen sowie von innovativen Sensorik-Systemen. “Weitere 85 Millionen Euro werden für Innovationen auf dem Gebiet der Informations- und Kommunikationstechnologie (IKT) aufgewendet.” Der Fokus ist gerichtet “auf Weiterentwicklungen intelligenter Systeme für automatisiertes Fahren, Machine Learning, Sicherheit und Interoperabilität …” (Information bmvit). Zur Vorbereitung der genannten neuen Initiative werden am 23. und 24. Mai 2017 in Wien “High Level Sounding Boards” durchgeführt. In kleiner Runde werden – so ein Schreiben aus dem Ministerium – inhaltliche Abgrenzungen, spezifische Herausforderungen und notwendige Politikmaßnahmen zu Robotik und Digitalisierung diskutiert. Eingeladen sind auch Experten aus dem Ausland, etwa Oliver Bendel von der Hochschule für Wirtschaft FHNW.

Abb.: Auch um automatisiertes Fahren könnte es in der Initiative gehen

Künstliche Intelligenz bei der Deutschen Telekom

“We love AI” nennt sich ein neues Angebot der Deutschen Telekom im World Wide Web, das sich ganz der Künstlichen Intelligenz widmet. Jan Hofmann begrüßt die Besucher: “Wir sind überzeugt, dass künstliche Intelligenz nicht nur den Kundenservice verändern wird, sondern unsere gesamte Industrie – jede Industrie, unsere Gesellschaft und unser tägliches Leben.” (Website We love AI) Eines der ersten Interviews wurde mit dem Informations- und Maschinenethiker Oliver Bendel geführt. Er untersucht die Möglichkeit maschineller Moral und baut einfache moralische Maschinen als Artefakte, die er dann wiederum untersucht. Zu seinem neuesten Projekt innerhalb der Maschinenethik, das einen tierfreundlichen Saugroboter namens LADYBIRD zum Ziel hat, sagt er: “Mir geht es um das Prinzip. Mir geht es darum, zu zeigen, dass solche tierfreundlichen Maschinen möglich sind. Dass man zum Beispiel Entscheidungsbäume benutzen kann, um solche Maschinen zu bauen. In diese Entscheidungsbäume kann man moralische Begründungen einbeziehen. Das mit Ladybird ist ein sehr anschauliches Beispiel. Wir bauen eine Maschine, die bestimmte Farbsensoren hat, die über Muster- und Bilderkennung verfügt und tatsächlich den Marienkäfer erkennt und verschont. Ich will das Prinzip verdeutlichen: Es ist möglich, eine Maschine zu bauen, die bestimmten ethischen Modellen und moralischen Regeln folgt.” Das ganze Interview kann über www.we-love.ai/de/blog/post/Interview-OliverBendel.html aufgerufen werden.

Abb.: Die Telekom liebt KI

AI and Ethics

In his speech at the University of Zurich, Kaspar Etter (Stiftung für Effektiven Altruismus) discusses the relation between artificial intelligence and ethics. Some information from the advertising text: “We humans steer the future not because we’re the strongest or the fastest but because we’re the smartest animal on this planet. However, there are no reasons to assume that blind evolutionary processes have reached the physical limit of intelligence with us. Quite to the contrary, we have already seen how intelligent machines outperform the best of our kind on an increasing number of tasks, ranging from Chess over the quiz show Jeopardy to Go. What will happen when artificial intelligence surpasses human intelligence in a broader range and controls our destiny? Are we ready to make our final invention? And what is to be done from an ethical perspective?” (Website EA) The text continues: “In his talk, Kaspar Etter will cover the current state and trends in artificial intelligence, its present implications on our society and what is to be expected for the coming decades. You will also learn about a phenomenon called intelligence explosion and strategic considerations for approaching the challenges ahead of us.” (Website EA) The event will take place in KOL-F-117, May 26, 2016, at 7 pm.

KI und Ethik

In Austin (Texas, USA) finden vom 25. bis 26. Januar 2015 die “Workshops at the Twenty-Ninth AAAI Conference on Artificial Intelligence (AAAI-15)” statt. Auf der Website werden zum “W01 – AI and Ethics” mediale Aussagen wie “Artificial Intelligence Is Changing the World, and Humankind Must Adapt” und “Physicist Louis Del Monte believes that by 2045 machines will threaten human survival” zitiert. Vor diesem Hintergrund heißt es: “The goal of this workshop is to provide a forum to discuss the ethical questions implicit in such headlines, which go to the centre of the quest to build AI systems with potentially super-human intelligence.” Es werden sowohl informations- und technikethische als auch maschinenethische Bereiche behandelt, z.B. “AI as a threat to or saviour for humanity”, “Safeguards necessary within AI research”, “Autonomous agents in the military”, “Autonomous agents in commerce and other domains” und “Mechanisms to ensure moral behaviours in AI systems”. Weitere Informationen sind über www.aaai.org/Workshops/ws15workshops.php erhältlich.

Towards a Machine Ethics

Am 15. März 2013 trägt Oliver Bendel bei der European TA Conference in Prag zum Thema “Towards a Machine Ethics” vor. Das Abstract, das im Frühjahr im Tagungsband veröffentlicht wird, hebt mit den Worten an: “There is an increasing use of autonomous machines such as agents, chatbots, algorithmic trading computers, robots of different stripes and unmanned ground or air vehicles. They populate the modern world like legendary figures and artificial creatures in Greek mythology – with the main difference being that they are real in the narrow sense of the word. Some are only partially autonomous (acting under human command) while others are completely autonomous within their area of action. A genuinely autonomous machine should be able to act in a moral way, able to make decisions that are good for humans, animals and the environment. But what does it mean for machines to behave morally? Should they learn moral rules? Should they evaluate the consequences of their acts? Or should they become a virtuous character, following Aristotle? How is it possible to implement the classical normative models of ethics and is there a need for new ones?” Der erste, zweite und dritte Abschnitt des Beitrags wird knapp zusammengefasst; dann wird auf den vierten eingegangen: “Fourthly, the paper tries to answer the question if and how it is possible to implement the classical normative models of ethics and which models should be preferred. Seven important normative approaches are described and estimated relating to their suitability for machine processing. Then the focus shifts to duty-based ethics, ethics of responsibility and virtue ethics that seem to be serious candidates. With a short technical analysis it can be shown that they fit to machine processing, apart from some limitations. The most promising approach may be the combination of the selected normative models. It is not only similar in the ‘normal’ human ethics, but also an opportunity to balance out weaknesses of the autonomous machines and to allow them alternatives. In addition, other methods like orientation on reference persons and social media evaluation could be used.” Am Ende werden Wichtigkeit und Schwierigkeit des jungen Forschungsgebiets der Maschinenethik gleichermaßen betont und persönliche und allgemeine Einschätzungen gegeben.