Der 28. März 2023 war der zweite Tag des Symposiums „Socially Responsible AI for Well-being“ im Rahmen der AAAI 2023 Spring Symposia. Veranstaltungsort ist normalerweise die Stanford University. Aus personellen Gründen wurde die Konferenz in diesem Jahr ins Hyatt Regency in San Francisco verlegt. Prof. Dr. Oliver Bendel von der Hochschule für Wirtschaft FHNW stellte am Morgen das Paper „Increasing Well-being through Robotic Hugs“ vor, das von ihm, Andrea Puljic, Robin Heiz, Furkan Tömen und Ivan De Paola verfasst wurde. Das Team hatte einen Umarmungsroboter namens HUGGIE gebaut und an über 130 Probanden getestet. Danach hielten Lea Peier und er ihren Vortrag „How Can Bar Robots Enhance the Well-being of Guests?“. Sie gingen auf zwei Barroboter ein, die in der Schweiz im Betrieb sind bzw. waren. Lea Peier hatte im Rahmen ihrer Abschlussarbeit an der Hochschule für Wirtschaft FHNW die wohl erste empirische Untersuchung zu Barrobotern durchgeführt. Beide Vorträge weckten das Interesse der Zuhörer, die vor allem aus Japan und den USA stammten. Informationen zur Konferenz sind über aaai.org/conference/spring-symposia/sss23/ erhältlich.
Am 27. März 2023 begann das Symposium „Socially Responsible AI for Well-being“ im Rahmen der AAAI 2023 Spring Symposium Series. Die traditionsreiche Konferenz wurde ausnahmsweise von der Stanford University ins Hyatt Regency SFO Airport verlegt. In seinem Eröffnungsvortrag erklärte Takashi Kido, einer der beiden Organisatoren, was Responsible AI ist, und erwähnte die Begriffe „Accountability“, „Responsibility“ und „Transparency“. Der Fokus des Symposiums ist Well-being und Fairness. Takashi Kido erwähnte den Vortrag „Should Social Robots in Retail Manipulate Customers?“ von Prof. Dr. Oliver Bendel beim Symposium „How Fair is Fair? Achieving Wellbeing AI“ von 2022, der auf dem gleichnamigen Paper von Oliver Bendel und Liliana Alves beruhte. Er leitete dann über zum Begriff “Socially Responsible AI“, wobei er folgende Diskussion benutzte: „Socially Responsible AI is about human responsibility for the development of intelligent systems along fundamental human principles and values, to ensure human flourishing and well-being in a sustainable world, considering for humans and AI ideal relationships“. Am Ende durften auch Überlegungen zu ChatGPT nicht fehlen. Es schloss sich eine intensive Diskussion über den Chatbot an, der zugleich ein Contentgenerator ist. Das Faszinierende ist, dass dieses Thema Laien und Experten gleichermaßen aufwühlt. Informationen zur Konferenz sind über aaai.org/conference/spring-symposia/sss23/ erhältlich.
„Robotainment ist Unterhaltung (Entertainment) mit Hilfe von Robotern, meist sozialen Robotern. Diese singen, tanzen, machen Kampfkunst und stehen für intime und sexuelle Handlungen zur Verfügung. NAO, Pepper und Alpha Mini beherrschen Kung Fu oder Tai Chi. Cozmo singt und ahmt Tiere nach. Harmony ist ein durch Film und Fernsehen bekannt gewordener Sexroboter und wird auch von der Wissenschaft erforscht. Nicht zuletzt sind soziale Roboter auf dem Markt, die Tiere anregen oder aufregen und für deren ausreichende Bewegung sorgen.“ Mit diesen Worten beginnt ein neuer Beitrag im Gabler Wirtschaftslexikon von Prof. Dr. Oliver Bendel aus Zürich. In einem zweiten Abschnitt wird auf die Ideen- und Entwicklungsgeschichte der künstlichen Kreatur von der Antike bis zur Renaissance eingegangen und das Phänomen des Robotainments daraus hergeleitet. Dabei spielt nicht nur der westliche Kulturkreis eine Rolle: „In chinesischen Geschichten aus dem 6. Jahrhundert taucht ein Mann aus Holz auf, der sich dreht, singt und tanzt, und eine Frau aus Holz, deren Schönheit ohnegleichen ist.“ Im dritten Abschnitt wird die Perspektive der Ethik eingenommen, unter besonderer Berücksichtigung der Roboterethik. Der Beitrag ist am 24. März 2023 erschienen und kann über wirtschaftslexikon.gabler.de/definition/robotainment-125138 aufgerufen werden.
From March 27-29, 2023, the AAAI 2023 Spring Symposia will feature the symposium „Socially Responsible AI for Well-being“ by Takashi Kido (Teikyo University, Japan) and Keiki Takadama (The University of Electro-Communications, Japan). The venue is usually Stanford University. For staffing reasons, this year the conference will be held at the Hyatt Regency in San Francisco. On March 28, Prof. Dr. Oliver Bendel will present the paper „Increasing Well-being through Robotic Hugs“, written by himself, Andrea Puljic, Robin Heiz, Furkan Tömen, and Ivan De Paola. From the abstract: „This paper addresses the question of how to increase the acceptability of a robot hug and whether such a hug contributes to well-being. It combines the lead author’s own research with pioneering research by Alexis E. Block and Katherine J. Kuchenbecker. First, the basics of this area are laid out with particular attention to the work of the two scientists. The authors then present HUGGIE Project I, which largely consisted of an online survey with nearly 300 participants, followed by HUGGIE Project II, which involved building a hugging robot and testing it on 136 people. At the end, the results are linked to current research by Block and Kuchenbecker, who have equipped their hugging robot with artificial intelligence to better respond to the needs of subjects.“ More information via aaai.org/conference/spring-symposia/sss23/.
Fig.: HUGGIE, Teddy, and the team (without Oliver Bendel)
From March 27-29, 2023, the AAAI 2023 Spring Symposia will feature the symposium „Socially Responsible AI for Well-being“ by Takashi Kido (Teikyo University, Japan) and Keiki Takadama (The University of Electro-Communications, Japan). The venue is usually Stanford University. For staffing reasons, this year the conference will be held at the Hyatt Regency in San Francisco. On March 28, Prof. Dr. Oliver Bendel and Lea Peier will present their paper „How Can Bar Robots Enhance the Well-being of Guests?“. From the abstract: „This paper addresses the question of how bar robots can contribute to the well-being of guests. It first develops the basics of service robots and social robots. It gives a brief overview of which gastronomy robots are on the market. It then presents examples of bar robots and describes two models used in Switzerland. A research project at the School of Business FHNW collected empirical data on them, which is used for this article. The authors then discuss how the robots could be improved to increase the well-being of customers and guests and better address their individual wishes and requirements. Artificial intelligence can play an important role in this. Finally, ethical and social problems in the use of bar robots are discussed and possible solutions are suggested to counter these.“ More information via aaai.org/conference/spring-symposia/sss23/.
Der Maschinenethik sind in der Technischen Rundschau 3/2023 ganze vier Seiten gewidmet. Den Kern bilden ein Beitrag von Prof. Dr. Oliver Bendel und ein Interview mit ihm. Der Informations- und Maschinenethiker hatte sich in den 1990er-Jahren mit der Frage nach der Verantwortung von Maschinen beschäftigt und war zum Schluss gekommen, dass diese weder Verantwortung tragen noch zur Verantwortung gezogen werden können. Zudem interessierte er sich dafür, ob Maschinen Pflichten haben können, was er verneint – stattdessen spricht er in einem schwachen Sinne von Verpflichtungen oder von Aufgaben. Ab 2012 widmete er sich dann der Begründung einer funktionalen Moral von Maschinen. Maschinen können nach seiner Meinung keinen guten oder bösen Willen haben, kein Bewusstsein, keine Intuition und keine Empathie. Man kann ihnen aber moralische Regeln beibringen, an die sie sich strikt halten oder die sie selbst abändern und anpassen. Ab 2013 wurden von ihm zahlreiche Prototypen der Maschinenethik entwickelt. Die Disziplin hat auch im Zusammenhang mit generativer KI an Bedeutung gewonnen. Das E-Paper des Hefts kann über epaper.technische-rundschau.ch/?/shelf/ aufgerufen werden. Der Beitrag steht als PDF zur Verfügung.
Zeynep Karagöz (Robotel Türkiye) will give a talk on March 20, 2023 on the topic „How to make a difference: Free 3D printed devices for earthquake victims“. She graduated from MSÜ – Architecture and co-founded KOMA Architecture in 2001. With Robotel Türkiye, „she started making 3D printed mechanical hands for children with hand deformation who do not have access to prosthetics“ (Website Orient-Institut Istanbul). On 6 February 2023, a M7.8 earthquake struck southern and central Turkey as well as northern and western Syria. In her talk, Zeynep Karagöz will focus on the efforts of her NGO in the Turkish earthquake region. Her information text states: „This lecture offers an opportunity to learn more about our work at Robotel Türkiye, which I am heading, in providing free 3D-printed prostheses for children who lack access to such devices. I will focus the impact it has had on the lives of those we serve. Our primary focus has been on providing mechanical hands, arms, and fingers to children, although we have also served adults upon request. However, recent events have led us to extend our services to include shoulder mechanisms, adult models, and orthotic prosthesis devices. … I will discuss the impact of our work in the region and the urgent need for volunteers and financial support to continue our efforts.“ (Website Orient-Institut Istanbul) The event is sponsored by Orient-Institut Istanbul, NYU Center for Disability Studies, and Humboldt-Universität zu Berlin. Registration for the webinar is available here.
Der Zukunftsrat des deutschen Bundeskanzlers Olaf Scholz hat im Dezember 2022 Impulse für den Innovationsstandort Deutschland diskutiert. Man war sich laut Bundesministerium für Bildung und Forschung (BMBF) einig, dass die Robotik hohe Potenziale bietet und die Beherrschung der damit zusammenhängenden Technologien auch eine Frage der Wettbewerbsfähigkeit sowie der technologischen Souveränität ist. Man will nun zwei zentrale Handlungsempfehlungen des Zukunftsrats zur Robotik, nämlich „Spitzenforschung und Transfer stärken“ und „Talente gewinnen“, umsetzen. Um dies zu erreichen, lud das BMBF ausgewiesene Experten zu einem Fachgespräch ein, das am 27. März 2023 in Bonn stattfindet. Es gilt, Themen für Schwerpunkte in der Forschung und Ansätze zur Gewinnung von Spitzenkräften zu entwickeln. Auch Prof. Dr. Oliver Bendel, Philosoph und Wirtschaftsinformatiker aus Zürich, wurde angefragt. Da er zur gleichen Zeit in San Francisco bei den AAAI Spring Symposia zwei Vorträge hält (einen zu Barrobotern, zusammen mit Lea Peier, einen anderen zu Umarmungsrobotern), wurde er vom BMBF gebeten, seinen Input schriftlich zu formulieren. Auf sechs Seiten ging er auf Potenziale von Basistechnologien, die Integration von Robotern in komplexe Strukturen, aktuelle Forschungsfragen in der Robotik sowie Vertrauenswürdigkeit im Kontext robotischer Systeme ein. Sein Fokus lag dabei auf Servicerobotern und sozialen Robotern. Das Dokument liegt dem BMBF seit 15. März 2023 vor und wird beim Fachgespräch vor Ort ausgehändigt.
Abb.: Oliver Bendel bei einem Dreh mit 3sat (Foto: Sara Zarubica)
GPT-4 was launched by OpenAI on March 14, 2023. „GPT-4 is a large multimodal model (accepting image and text inputs, emitting text outputs) that, while less capable than humans in many real-world scenarios, exhibits human-level performance on various professional and academic benchmarks.“ (Website OpenAI) On its website, the company explains the multimodal options in more detail: „GPT-4 can accept a prompt of text and images, which – parallel to the text-only setting – lets the user specify any vision or language task. Specifically, it generates text outputs (natural language, code, etc.) given inputs consisting of interspersed text and images.“ (Website OpenAI) The example that OpenAI gives is impressive. An image with multiple panels was uploaded. The prompt is: „What is funny about this image? Describe it panel by panel“. This is exactly what GPT-4 does and then comes to the conclusion: „The humor in this image comes from the absurdity of plugging a large, outdated VGA connector into a small, modern smartphone charging port.“ (Website OpenAI) The technical report is available via cdn.openai.com/papers/gpt-4.pdf.
„Ein Prompt ist bei generativer KI (Generative AI) ein Input des Benutzers, zu dem das System einen Output erzeugt. Ein textbasierter Prompt kann Wörter, Buchstaben, Sonderzeichen, Zahlen und Links enthalten. Um das gewünschte Ergebnis zu bekommen, muss der Prompt möglichst eindeutig und umfassend sein. Ein einfaches Beispiel im Falle von Bildgeneratoren ist ‚3 junge Frauen vor einem See, fotorealistisch‘, wobei der erste Teil den Inhalt angibt, der zweite den Stil. Wenn Dialoge vorgesehen sind, wie bei Textgeneratoren wie ChatGPT und Bildgeneratoren wie Visual ChatGPT, kann mehrmals eine Eingabe erfolgen, um das Ergebnis anzupassen. Auch das Verweisen auf Bilder ist möglich. Zuweilen sind negative Prompts erlaubt, die etwas ausschließen.“ Mit diesen Worten beginnt ein neuer Beitrag im Gabler Wirtschaftslexikon, erschienen am 14. März 2023. In den folgenden Absätzen wird auf Prompt Engineering und Prompt-Plattformen eingegangen. Am Ende wird die Perspektive der Ethik eingenommen: „Dass generative KI bestimmte Anfragen ablehnt, aus moralischen, rechtlichen oder ideologischen Gründen, ist Thema von Informationsethik und Medienethik. Rechtsethik, Rechtswissenschaft und Rechtsprechung untersuchen, inwieweit Prompts schützenswertes geistiges Eigentum darstellen.“ Der Beitrag von Oliver Bendel kann über wirtschaftslexikon.gabler.de/definition/prompt-125087 abgerufen werden.
Abb.: Midjourney generiert ein Bild mit drei jungen Frauen vor einem See
Forscher von Microsoft arbeiten an einer neuen Anwendung auf der Basis von ChatGPT und Lösungen wie Stable Diffusion. Mit Visual ChatGPT soll man man über Texteingaben Bilder generieren und dann einzelne Elemente editieren können. In ihrem Paper „Visual ChatGPT: Talking, Drawing and Editing with Visual Foundation Models“ schreiben Chenfei Wu und seine Mitautoren: „We build a system called Visual ChatGPT, incorporating different Visual Foundation Models, to enable the user to interact with ChatGPT by 1) sending and receiving not only languages but also images 2) providing complex visual questions or visual editing instructions that require the collaboration of multiple AI models with multi-steps“ – und, nicht zu vergessen: „3) providing feedback and asking for corrected results“ (Wu et al. 2023). Beispielsweise lässt man mit einem entsprechenden Prompt das Bild einer Landschaft erstellen, mit blauem Himmel, Hügeln, Wiesen, Blumen und Bäumen. Dann weist man Visual ChatGPT mit einem weiteren Prompt an, die Hügel flacher zu machen und den Himmel abendlicher und bewölkter. Zudem kann man das Programm fragen, welche Farbe die Blumen haben, und diese mit einem weiteren Prompt einfärben. Ein letzter Prompt lässt die Bäume herbstlicher erscheinen. Das Paper kann über arxiv.org heruntergeladen werden.
Forscher von Google und der TU Berlin haben am 6. März 2023 ein verkörpertes, multimodales Sprachmodell mit dem Namen PaLM-E vorgestellt, das virtuelle und physische Welt verbindet. So kann man per Spracheingabe einen Haushaltsroboter steuern und ihn dazu bringen, bestimmte Gegenstände zu holen oder andere Tätigkeiten zu verrichten. Der Prompt kann dabei vom Benutzer spontan aus seiner eigenen Beobachtung der Umwelt abgeleitet werden. Die Idee der PaLM-E-Architektur besteht laut Projektwebsite darin, kontinuierliche, verkörperte Beobachtungen wie Bilder, Zustandseinschätzungen oder andere Sensormodalitäten in den Spracheinbettungsraum eines vortrainierten Sprachmodells zu integrieren. Im Beispielvideo lautet die Instruktion in deutscher Übersetzung: „Bring mir die Reischips aus der Schublade“. Golem schreibt in einem Artikel: „Dazu analysiert Palm-E die Daten der Roboterkamera, ohne dass eine vorverarbeitete Szenendarstellung erforderlich ist. Damit entfällt die Notwendigkeit, dass ein Mensch die Daten vorverarbeitet oder kommentiert, was eine autonomere Robotersteuerung ermöglicht.“ (Golem, 10. März 2023) Im Video fährt der Roboter – ein Roboterarm auf einer mobilen Plattform, ganz ähnlich wie Lio – zur Schublade und entnimmt ihr die Packung. In dem Paper „ChatGPT for Robotics: Design Principles and Model Abilities“ von Microsoft-Forschern wird eine ähnliche Strategie verfolgt, wobei ChatGPT verwendet wird, das wiederum auf GPT-3 basiert. Allerdings handelt es sich um einen indirekten Ansatz, bei dem Code generiert wird. Das Paper zu PaLM-E kann hier heruntergeladen werden.
Alpha Mini ist ein sozialer Roboter, der sich durch geringe Größe (und damit gute Transportfähigkeit) und weitgehende natürlichsprachliche und motorische Fähigkeiten auszeichnet. Er kann im Schulunterricht eingesetzt werden, sowohl als Lehrer und Tutor als auch als Tool, mit dem man programmiert. Am 8. März 2023 startete an der Hochschule für Wirtschaft FHNW das Projekt „Little Teacher“, in dem Alpha Mini eine Hauptrolle spielt. Initiator ist Prof. Dr. Oliver Bendel, der seit einem Vierteljahrhundert über Conversational Agents und soziale Roboter forscht. Andrin Allemann trägt im Rahmen seiner Abschlussarbeit zum Projekt bei. Alpha Mini soll in eine Lernumgebung integriert werden und mit anderen Komponenten wie einem Display interagieren und kommunizieren können. Er soll mit Hilfe von Bildern und Texten einfachen Lernstoff vermitteln und die Kinder durch gestisches und mimisches Feedback motivieren. Es handelt sich also um einen kleinen Lehrer mit großen Möglichkeiten. Grundsätzlich soll er sich an das neue schweizerische Bundesgesetz über den Datenschutz (Neues Datenschutzgesetz, nDSG) halten. Das Projekt dauert bis August 2023. Die Ergebnisse werden im Anschluss daran veröffentlicht.
Im Rahmen des Themenwochenendes „Wenn der Mensch zur Maschine wird“ fanden am 5. März 2023 am Zentrum Paul Klee zur Ausstellung „Paul Klee. Vom Rausch der Technik“ zwei Gespräche statt. „Cyborgs – die besseren Menschen?“ war der Titel des ersten, zwischen Prof. Dr. Oliver Bendel (Wirtschaftsinformatiker und Technikphilosoph) und Fabienne Eggelhöfer (Chefkuratorin). Das zweite mit dem Titel „Siri spricht über Klee“ führte Jane Mumford (Kabarettistin, Komikerin, Musikerin und Illustratorin) mit dem Sprachassistenten von Apple. Sie bezog auch ChatGPT ein, wobei die Stimme von einem Schauspieler geliehen wurde. Im Zusammenhang mit dem System von OpenAI stellte sie drei Haikus aus dem Band „Dass es nur Kunst war, verdeckte die Kunst“ von Oliver Bendel vor. Mit Hilfe geeigneter Prompts hatte er ChatGPT erstaunliche Ergebnisse entlockt. Das Publikum spendete nach beiden Gesprächen lautstarken Applaus.
„Das CAS Zukunftsorientierte Polizeiarbeit vermittelt das notwendige Wissen und Verständnis, um die moderne Polizeiarbeit in ihrer Komplexität zu erfassen und mitzugestalten, die sich wandelnden Anforderungen an den Berufsalltag mitzutragen und jederzeit professionell handeln zu können. Es legt die Basis zum Verständnis der heutigen digitalen Komponenten im Beruf und bereitet die Absolventinnen und Absolventen auf die digitale Zukunft vor. Es behandelt die Auswirkungen der Digitalisierung auf die Polizeiarbeit und die polizeiliche Selbstreflexion. Die Teilnehmerinnen reflektieren Veränderungen, die sich für das Verständnis von Kriminalität im digitalen Raum ergeben.“ So lautet die Beschreibung der Weiterbildung an der Hochschule für Wirtschaft FHNW, die am 3. März 2023 gestartet ist. Prof. Dr. Oliver Bendel verantwortet die Kurse „Sicherheit und Überwachung“ und „Künstliche Intelligenz“. Es wird u.a. auf Überwachungssysteme eingegangen, nicht zuletzt auf Überwachungsroboter, und eine ethische Reflexion vorgenommen. Auch digitale Selbstverteidigung wird ein Thema sein. Im August 2022 trug der Informations- und Maschinenethiker auf der Robophilosophy 2022 über Polizeiroboter vor. Sein Beitrag „Robots in Policing“ ist Ende des Jahres im Proceedingsband „Social Robots in Social Institutions“ erschienen. Weitere Informationen zum CAS über https://www.fhnw.ch/de/weiterbildung/wirtschaft/cas-zukunftsorientierte-polizeiarbeit.
Abb.: Bei der Robophilosophy 2022 (Foto: Robophilosophy)
Am 2. März 2023 startete der 3sat-Abend Wissen hoch 2 zu KI und Robotik um 18.30 Uhr mit NANO. Oliver Bendel wurde mit folgenden Worten vorgestellt: „Im beschaulichen schweizerischen Brugg-Windisch forscht einer der wichtigsten Robotikexperten und Maschinenethiker, Prof. Oliver Bendel, Autor diverser Standardwerke, Sachverständiger für den deutschen Bundestag, Roboterfan.“ Ebenfalls im Interview mit der Sendung war Jonas Andrulis von Aleph Alpha, einem deutschen KI-Unternehmen. Nach der Tagesschau – ab 20.15 Uhr – wurde die Dokumentation „Mein Avatar und ich“ gezeigt. Ingolf Baur war u.a. zu Oliver Bendel nach Brugg-Windisch, zu Daniele Pucci nach Genua und zu Matt McMullen nach Kalifornien bzw. Nevada gereist. Ein ehemaliger Google-Ingenieur, der in LaMDA fälschlicherweise Bewusstsein vermutete, war online zugeschaltet. Den Abschluss bildete ab 21.00 Uhr eine Talkrunde bei Gerd Scobel mit Oliver Bendel, Doris Weßels (Fachhochschule Kiel) und Kristian Kersting (TU Darmstadt). Die Sprache kam auch auf den kleinen Haiku-Band „Dass es nur Kunst war, verdeckte die Kunst“ von Oliver Bendel. Produziert wurde er mit Hilfe von ChatGPT. Abgedruckt sind die Inputs (Prompts) und Outputs (hier die Haikus). Der Informations- und Maschinenethiker äußerte die Meinung, dass KI imstande ist, Schönheit zu produzieren. Nach dreieinhalb Stunden war der Abend, der viele herausragende Bilder und Geschichten lieferte, vorbei.
Abb.: Oliver Bendel bringt NAO zum Dreh (Foto: Sara Zarubica)
Adrian Lobe stellte einige Fragen an Oliver Bendel, die sich auf Generative AI bezogen. Im Fokus waren KI-basierte Bildgeneratoren, die inzwischen fotorealistische Abbildungen erschaffen können. Solche legte der Journalist dem in Zürich lebenden Professor vor und wollte von ihm wissen, wie er diese Retortenmenschen aus ethischer Sicht bewertet. Die Antwort begann mit den folgenden Worten: „Es spricht zunächst nichts dagegen, mit Hilfe von KI-basierten Bildgeneratoren fiktive Frauen und Männer zu erschaffen, also Avatare oder Hologramme. Man schadet niemandem, wenn die Bilder auf dem Bildschirm oder in einem Gerät erscheinen. Problematischer sind Deep Fakes, die reale Personen teilweise oder gesamthaft abbilden. Sie können die Menschenwürde verletzen, vor allem bei sexuellen Darstellungen. Aus ästhetischer Sicht ist es interessant, Menschen auf die Welt zu bringen, die man selbst schön findet, die man aber weder in den Medien noch im Alltag antrifft. Es wird ein Mensch gemacht, hat Wagner in ‚Faust II‘ ausgerufen, als Mephistopheles zu ihm getreten ist. Allerdings war es nur ein kleiner Homunkulus. Nun kann man seinen Traum verwirklichen und eine realistische Figur nach seinen Wünschen kreieren. Das ist auch aus ethischer Sicht relevant – denn es kann zu einem guten, erfüllten Leben beitragen. Vielleicht werden einem bestimmte Wünsche auch erst klar. Man versteht besser, was man will und was man nicht will, was man schön findet und was nicht. Man lernt sich besser kennen und kann auch anderen mitteilen, was man will und schön findet. Nur werden sich nicht alle Wünsche erfüllen lassen. Und eine Partnerschaft ist auch kein Wunschkonzert.“ Es folgten durchaus kritische Anmerkungen zur Praxis des Bildergenerierens sowie weitere Antworten auf weitere Fragen. Einzelne Statements wurden in den Artikel „Sieht unheimlich echt aus!“ (auch: „Unheimlich echt!“) übernommen, der am 27. Februar 2023 in ca. 20 Schweizer Zeitungen erschienen ist, etwa in der Aargauer Zeitung, in der Luzerner Zeitung und im St. Galler Tagblatt, und auf den in der Folge etwa bei 20 Minuten Bezug genommen wurde.
Am 2. März 2023 sind Prof. Dr. Doris Weßels (Fachhochschule Kiel), Prof. Dr. Oliver Bendel (Hochschule für Wirtschaft FHNW) und Prof. Dr. Kristian Kersting (TU Darmstadt) zu Gast bei Gerd Scobel. Die Sendung dreht sich um ChatGPT und das zugrundeliegende GPT-3. Aufgezeichnet wurde sie am Abend des 28. Februar 2023 im Studio in Köln. Erläutert werden die technologischen Grundlagen und die gesellschaftlichen Auswirkungen. Doris Weßels erwähnt die Veränderungen, die sich an den Hochschulen ergeben, und spricht sich gegen ein Verbot des Programms aus. Oliver Bendel geht darauf ein, dass sich die Kompetenzen der Studenten und Studentinnen verschieben. Sie nehmen den automatisch generierten Content und redigieren und strukturieren ihn. Die Sprache kommt auch auf den kleinen Haiku-Band „Dass es nur Kunst war, verdeckte die Kunst“ von Oliver Bendel. Produziert wurde er mit Hilfe von ChatGPT. Abgedruckt sind die Inputs (Prompts) und Outputs (hier die Haikus). Der Informations- und Maschinenethiker ist der Überzeugung, dass KI imstande ist, Schönheit zu produzieren. Weitere Informationen über www.3sat.de/wissen/scobel/scobel—kulturschock-durch-ki-100.html.
„Generative KI (‚KI‘ steht für ‚künstliche Intelligenz‘) ist ein Sammelbegriff für KI-basierte Systeme, mit denen auf scheinbar professionelle und kreative Weise alle möglichen Ergebnisse produziert werden können, etwa Bilder, Video, Audio, Text, Code, 3D-Modelle und Simulationen. Menschliche Fertigkeiten sollen erreicht oder übertroffen werden. Generative KI kann Schüler, Studenten, Lehrkräfte, Büromitarbeiter, Politiker, Künstler und Wissenschaftler unterstützen und Bestandteil von komplexeren Systemen sein. Man spricht auch, dem englischen Wort folgend, von Generative AI, wobei ‚AI‘ die Abkürzung für ‚Artificial Intelligence‘ ist.“ Mit diesen Worten beginnt ein Beitrag, der am 22. Februar 2023 im Gabler Wirtschaftslexikon erschienen ist. Es werden Informationen zu Entwicklung und Hintergrund sowie einige Beispiele für Anwendungen gegeben. Am Ende wird die Perspektive der Ethik eingenommen, unter besonderer Berücksichtigung der Informationsethik. Der Beitrag von Oliver Bendel kann über wirtschaftslexikon.gabler.de/definition/generative-ki-124952 abgerufen werden.
Abb.: Midjourney generiert ein Bild einer Schnorchlerin im Meer
Wie Golem am 25. Februar 2023 meldete, hat Meta das Sprachmodell LLaMA angekündigt. Dieses soll in Konkurrenz zu GPT-3 von OpenAI (ChatGPT) und LaMDA von Google (Bard) treten. „LLaMA ist nach Angaben von Meta für die Erstellung von Texten, die Führung von Chat-Gesprächen, die Zusammenfassung von schriftlichen Materialien und für komplexere Aufgaben wie das Lösen von mathematischen Problemen oder die Vorhersage von Proteinstrukturen geeignet. Das Modell wurde von Metas Fundamental AI Research Team entwickelt.“ (Golem, 25. Februar 2023) Das neue Sprachmodell werde derzeit nicht bei Plattformen wie Facebook oder Instagram verwendet. „Stattdessen solle es ausschließlich auf KI spezialisierten Forschern zur Verfügung gestellt werden, um diese bei ihrer Arbeit zu unterstützen.“ (Golem, 25. Februar 2023) Der Artikel „Facebook steigt in den KI-Markt ein“ kann hier abgerufen werden.
Einige Banken erlauben beim Kontozugang die Authentifizierung durch die Stimme des Kunden. Dazu gehört z.B. PostFinance in der Schweiz. Auf der Website heißt es: „Im Kontaktcenter von PostFinance können wir Sie anhand Ihrer Stimme authentifizieren. Nachdem wir einmalig von Ihnen einen Stimmabdruck angelegt haben, erkennen wir Sie bei allen folgenden Anrufen anhand Ihrer Stimme. Das unterstützt die Sicherheit und spart Zeit.“ (Website PostFinance) Seit einigen Jahren kann man mit wenigen Minuten der Aufnahme einer individuellen Stimme eine synthetische Stimme generieren und sie beliebige Inhalte sagen lassen. Auch die Sprechweise wird imitiert. Dafür stehen kostenpflichtige und kostenlose KI-Tools zur Verfügung. Auch bei Sprachassistenten verbreitet sich die Funktion – man denke etwa an Bixby von Samsung. Oliver Bendel veröffentlichte im Juli 2017 in AI & Society seinen Artikel „The Synthetization of Human Voices“ und beschrieb genau solche Verfahren. Joseph Cox berichtete in seinem Artikel „How I Broke Into a Bank Account With an AI-Generated Voice“ (Vice, 23. Februar 2023), dass er erfolgreich das System ausgetrickst hat: „I couldn’t believe it – it had worked. I had used an AI-powered replica of a voice to break into a bank account. After that, I had access to the account information, including balances and a list of recent transactions and transfers.“ (Vice, 23. Februar 2023) Fingerabdruck und Iriserkennung zur Authentifizierung sind seit längerer Zeit problembehaftet. Inzwischen sollte man sich auch den Einsatz seiner Stimme gut überlegen.
Abb.: Die eigene Stimme kann schnell synthetisiert werden
The Korean company Samsung Electronics announced new updates to its voice assistant Bixby that are designed to improve user experience, performance, and capabilities of the intelligent assistant and platform. One of the most interesting innovations concerns the voice of the users. According to Samsung, they „can personalize their Bixby Text Call voice“. „Using the new Bixby Custom Voice Creator, users can record different sentences for Bixby to analyze and create an AI generated copy of their voice and tone. Currently available in Korean, this generated voice is planned to be compatible with other Samsung apps beyond phone calls“ (Samsung, 22 February 2023). As early as 2017, Oliver Bendel wrote with respect to Adobe VoCo: „Today, just a few minutes of samples are enough to be able to imitate a speaker convincingly in all kinds of statements.“ In his article „The synthetization of human voices“, published in AI & Society, he also made ethical considerations. Now there seems to be a recognized market for such applications and they are being rolled out more widely.
