In Artikel 50 „Transparenzverpflichtungen für Anbieter und Betreiber von bestimmten KI-Systemen“ des EU Artificial Intelligence Act (EU AI Act) heißt es: „Die Anbieter stellen sicher, dass KI-Systeme, die für eine direkte Interaktion mit natürlichen Personen bestimmt sind, so konzipiert und entwickelt werden, dass die betreffenden natürlichen Personen darüber informiert werden, dass sie mit einem KI-System interagieren, es sei denn, dies ist aus der Sicht einer natürlichen Person, die unter Berücksichtigung der Umstände und des Nutzungskontexts angemessen informiert, aufmerksam und umsichtig ist, offensichtlich.“ Zu diesem Thema war das Europäische Parlament bereits zehn Jahre zuvor von Oliver Bendel beraten worden. In seinem Vortrag „Moral and Immoral Machines – Moralische und unmoralische Maschinen“ bei der Veranstaltung „Merging of man and machine: questions of ethics in dealing with emerging technology“ am 8. September 2016 in Brüssel stellte er GOODBOT vor, einen von ihm 2013 im Rahmen der Maschinenethik initiierten Chatbot, der über mehrere Eskalationsstufen verfügte und wiederholt deutlich machte, dass es sich lediglich um eine Maschine handelte. Im Teil „Ethics & Society“ kamen zudem Enno Park, Dana Lewis, Yvonne Hofstetter und Constanze Kurz zu Wort. Auf der Konferenz der Arbeitsgruppe „Digital Europe“ zum Thema Robotik am 8. November 2017 sprach Bendel zudem online über damit zusammenhängende Fragen der Maschinenethik. Im Zusammenhang mit einem Pflegeroboter warf er die Frage auf: „Should the robot make clear that it’s just a machine?“ („Sollte der Roboter deutlich machen, dass er nur eine Maschine ist?“). Die in Artikel 50 festgelegten Transparenzpflichten traten am 2. August 2026 in Kraft.
Abb.: Oliver Bendel beim Hearing in Brüssel (Foto: Sebastian Raible)
Das Europäische KI-Büro (The European AI Office) wurde im Februar 2024 eingerichtet. Auf der Website der Europäischen Kommission heißt es: „The European AI Office will be the centre of AI expertise across the EU. It will play a key role in implementing the AI Act – especially for general-purpose AI – foster the development and use of trustworthy AI, and international cooperation.“ (European Commission, 22. Februar 2024) Und weiter: „The European AI Office will support the development and use of trustworthy AI, while protecting against AI risks. The AI Office was established within the European Commission as the centre of AI expertise and forms the foundation for a single European AI governance system.“ (European Commission, 22. Februar 2024) Die EU will nach eigenen Angaben dafür sorgen, dass KI sicher und vertrauenswürdig ist. Der AI Act sei der weltweit erste umfassende Rechtsrahmen für KI, der die Gesundheit, die Sicherheit und die Grundrechte der Menschen garantiert und den Unternehmen in den 27 Mitgliedstaaten Rechtssicherheit bietet.
Abb.: Ein mit der Kamera des Unitree Go2 verfertigtes, invertiertes Foto
„EU plant erstmals Regeln für Roboter“ – so der Titel eines Beitrags auf EurActiv von Daniel Mützel vom 10. Januar 2017. Im Teaser heißt es: „Am Donnerstag entscheidet der Rechtsausschuss des Europäischen Parlaments über einen Resolutionsentwurf, der den Einsatz ziviler Roboter reglementieren soll. Der Text könnte die Grundlage für die ersten europäischen Robotergesetze werden.“ (Website EurActiv) Bereits im Sommer 2016 hat Oliver Bendel von der Hochschule für Wirtschaft FHNW auf Bitte eines Abgeordneten den Entwurf in seiner damaligen Fassung im Detail kommentiert. In seiner Zusammenfassung schrieb er: „Die Robotertypen sind sehr unterschiedlich und müssen auseinandergehalten werden. Im Speziellen vermisse ich auch die Unterscheidung zwischen Hardware- und Softwarerobotern. Wichtig ist auch die Unterscheidung zwischen dem, was bereits der Fall ist, und dem, was vielleicht oder wahrscheinlich der Fall sein wird. Bewusstsein bei Robotern halte ich für Science-Fiction.“ Für den Artikel wurden Oliver Bendel und Eric Hilgendorf von der Universität Würzburg, Experte für Roboterrecht, zu den Auswirkungen des Einsatzes von Industrie- und Servicerobotern befragt. Er kann über www.euractiv.de/section/innovation/news/eu-plant-erstmals-regeln-fuer-roboter aufgerufen werden.
Automatisierte Maschinen und (teil-)autonome Systeme verbreiten sich immer mehr. Zugleich verschmelzen Menschen und Maschinen, Menschen vermessen sich bei Aktivitäten (Quantified Self), zeichnen ihr Leben auf (Lifelogging), ergänzen und verbessern Körper und Geist und werden zu Cyborgs. Das Europäische Parlament in Brüssel widmet sich diesen Entwicklungen am 8. September 2016 von 9.30 bis 13.00 Uhr. Titel der Veranstaltung, zu der Jan Philipp Albrecht einlädt, ist „Merging of man and machines: questions of ethics in dealing with emerging“. Der Newsletter DIGITAL AGENDA wartet mit folgenden Informationen auf: „The Working Group Green Robotics would like to invite you to a public hearing on ‚Merging of man and machines: questions of ethics in dealing with emerging technology‘. With this and further discussions we would like to develop a position on how society should respond to questions like How will our lives and our society change with the increasing fusion with modern technology? What role have politics and law in this context? Is there a need for regulation and if so, how? How can human rights be addressed?“ Im Track „Ethics & Society: Examples of how our lives, values and society will change“ sprechen drei Expertinnen und Experten zu den genannten Themen, nämlich Yvonne Hofstetter (Direktorin der Teramark Technologies GmbH), Prof. Dr. Oliver Bendel (Professor an der Hochschule für Wirtschaft FHNW) und Constanze Kurz (Sprecherin des CCC). Der Track „Politics & Law: Examples of how we do/can debate and regulate this field“ wird bestritten von Juho Heikkilä (Bereichsleiter bei DG Connect) und Dr. Hielke Hijmans (Special Advisor at the Offices of the European Data Protection Supervisor). Zwei weitere Vortragende sind Enno Park (Vorsitzender von Cyborgs e.V.) und Dana Lewis (Unternehmensgründerin).
Abb.: Organische und technische Strukturen finden zueinander
