Amazon’s Alexa can perform actions on her own based on previous instructions from the user without asking beforehand. Until now, the voicebot always asked before it did anything. Now it has hunches, which is what Amazon calls the function. On its website, the company writes: „Managing your home’s energy usage is easier than ever, with the Alexa energy dashboard. It works with a variety of smart lights, plugs, switches, water heaters, thermostats, TVs and Echo devices. Once you connect your devices to Alexa, you can start tracking the energy they use, right in the Alexa app. Plus, try an exciting new Hunches feature that can help you save energy without even thinking about it. Now, if Alexa has a hunch that you forgot to turn off a light and no one is home or everyone went to bed, Alexa can automatically turn it off for you. It’s a smart and convenient way to help your home be kinder to the world around it. Every device, every home, and every day counts. Let’s make a difference, together. Amazon is committed to building a sustainable business for our customers and the planet.“ (Website Amazon) It will be interesting to see how often Alexa is right with her hunches and how often she is wrong.
„Amazon gibt intime Alexa-Sprachdateien preis“, meldete Heise News. „Die Sprachaufzeichnungen stammen hörbar aus der Intimsphäre fremder Personen, beispielsweise aus Wohnzimmer, Schlafzimmer und Bad.“ (Heise News, 20. Dezember 2018) In „Die Spione im eigenen Haus“ von Oliver Bendel, erschienen in „Wissen – Macht – Meinung: Demokratie und Digitalisierung“ (2018), heißt es: „Sobald die Geräte in Situationen und Umgebungen benutzt werden, die als vertraut und geschützt eingestuft werden, wie es bei Kommunikations- und Transaktionsgeräten wie Echo (und mit Einschränkungen bei Smartphone und Notebook) der Normalfall ist, tauchen weitere Risiken für Privatheit, Intimsphäre und Datenschutz auf … In nicht- oder teilöffentlichen Räumen spricht man anders, teilt man etwas anderes mit, hat man Privat- und Betriebsgeheimnisse, und die Diskrepanz zwischen dem Vermögen der Geräte, die permanent etwas aufnehmen, abspeichern und weitergeben können, und dem Bedürfnis nach Privatsphäre, Persönlichkeitsschutz und Geheimhaltung ist groß. Das Eindringen in den Bereich der Sexualität kann als besonders gravierend angesehen werden – man denke nur, auf der stimmlichen Ebene, an das Stöhnen oder, auf der semantischen Ebene, an Kosewörter oder … Dirty Talk.“ Das Buch ist direkt bei Velbrück (und nicht nur bei Amazon) erhältlich. Die Texte der Autoren wurden gegendert, aus einer Ideologie heraus (Meinung) und auch gegen ihren Willen (Macht). Totalitarismus statt Demokratie, könnte man sagen. Bereits 2015 ist von Oliver Bendel „Der kleine Lauschangriff: Auditive Systeme aus Sicht der Ethik“ in Telepolis erschienen, wo ebenfalls auf Echo und Alexa eingegangen wurde.
Abb.: Schlafende (Foto eines „sleep“-Bilds von Gottfried Helnwein)
„Amazon spricht von einer ‚unwahrscheinlichen‘ Verkettung von Ereignissen: Ein Paar aus den USA berichtet, ihr Alexa-Lautsprecher habe ein Gespräch in seiner Wohnung aufgenommen und dann ungefragt an einen Kontakt im Adressbuch verschickt.“ (SPON, 25. Mai 2018) In Wirklichkeit ist diese Verkettung von Ereignissen gar nicht so unwahrscheinlich. Es fängt an beim Codewort. Oliver Bendel hat 2015 in seinem Artikel „Der kleine Lauschangriff: Auditive Systeme aus Sicht der Ethik“ für Telepolis geschrieben: „Das Codewort ist der nicht ganz ungebräuchliche Mädchenname ‚Alexa‘.“ Dass man das System versehentlich aktivieren kann, weil man diesen Namen (oder ein ähnliches Wort) sagt, war jederzeit klar. Was dann kam, hat man schon bei verschiedenen Konferenzen beobachtet. Wenn der Redner dort Alexa oder Google Assistant erwähnt, setzen sich im Zuschauerraum mehrere Smartphones in Betrieb. Die Assistenten werden durch die Begriffe aufgeweckt und werten die Rede laufend aus. Dann beginnen sie selbst zu sprechen. Und warten auf Aussagen, die sie als Anweisungen verstehen. Es kann sich alles Mögliche daraus ergeben. Alexa hat eben ein Privatgespräch aufgezeichnet und verschickt. Zum Glück ging es nur um „Holzfußböden“ (SPON, 25. Mai 2018).
„Die gefährlichsten Trends der Digitalisierung“ – so der Titel eines Beitrags in der Handelszeitung vom 12. Dezember 2016. Er beginnt mit den Worten: „Stille Zuhörer und Algorithmen, die Menschen bewerten. Wenn künstliche Intelligenz in die falschen Hände gerät, wie weit ist es dann noch bis zum Desaster? Ein Überblick über beunruhigende Ideen.“ Zitiert wird mehrmals Oliver Bendel, Informations- und Maschinenethiker an der Hochschule für Wirtschaft FHNW. „Stephen Hawking und Elon Musk sprechen seit Jahren davon, dass künstliche Intelligenz für die Menschheit zum Desaster werden kann. Tesla-Chef Musk nennt dies die zentrale Frage unserer Zeit: Dass wir einen klugen, bewussten Umgang mit schlauen Maschinen finden. Geht das überhaupt? Oliver Bendel ist da wenig optimistisch.“ (Handelszeitung, 12. Dezember 2016) Er schätzt die Vorteile moderner Technologien und entwickelt selbst sogenannte moralische Maschinen. Für problematisch hält er vor allem das Potenzial mancher Technologien in Bezug auf Überwachung und Ausbeutung. Hello Barbie, Echo von Amazon – gerade im auditiven Bereich ereignet sich eine regelrechte Explosion, die noch Ohrenschmerzen bereiten könnte. Und andere Schmerzen ebenso. Der Beitrag kann hier abgerufen werden.
Abb.: Manche Barbie-Puppen können gucken und horchen
Nadja Röll vom SRF hat mit Oliver Bendel von der Hochschule für Wirtschaft FHNW am 7. Oktober 2016 ein Interview zur „Partnership on Artificial Intelligence to Benefit People and Society“ geführt. Fünf IT-Konzerne haben angekündigt, dass sie ihre Forschung im Bereich der Künstlichen Intelligenz (KI) bündeln und Leitplanken für Mensch und Maschine entwickeln wollen, nämlich Google, Amazon, Facebook, IBM und Microsoft. Es fehlen bislang Apple sowie die von Elon Musk geleitete Non-Profit-Organisation namens OpenAI. Gerade letzterer würde man sowohl eine gesellschafts- und benutzerbezogene Reflexion der Chancen und Risiken von Robotik und eine Erstellung von Moralkodizes für die Entwicklung von Robotern (Informationsethik und Roboterethik) als auch eine zielführende Integration von Entscheidungsmechanismen in die Maschinen (Maschinenethik) zutrauen. Im Interview mit dem Schweizer Fernsehen schreibt Oliver Bendel den Unternehmen sowohl Sachverständigkeit als auch Schnelligkeit zu. Allerdings ist er skeptisch, ob sie sich selbst beschneiden werden: Künstliche Intelligenz hängt, etwa im Deep Learning, mit Big Data zusammen, und als Datenkonzerne werden Google, Amazon und Co. nicht vom Datensammeln lassen, auch wenn es gegen Persönlichkeitsrechte verstößt. Der Beitrag kann über www.srf.ch/kultur/wissen/wenn-google-die-moral-von-maschinen-festlegt-gibt-es-probleme aufgerufen werden.
Ein Artikel zum Einsatz von Robotern und zur Robotersteuer findet sich in der ZEIT vom 21. Juli 2016. Er beginnt mit diesen Worten: „Burckhardt, Mitte 20, ein großer schmaler Mann mit schwarz gefärbten langen Haaren und Piercings, steht an einem Freitagmittag vor dem Haupteingang der Leipziger Messe und verteilt weiß-rote Handzettel.“ (DIE ZEIT, 21. Juli 2016) Der Picker von Amazon sagt: „Wir lassen uns von den Maschinen nicht verdrängen! Wenn immer mehr Roboter eingesetzt werden, sind wir bald alle arbeitslos.“ (DIE ZEIT, 21. Juli 2016) Auf seinen Flugblättern steht, so die ZEIT: „Ich bin kein Roboter!“ Die Sprache kommt auch auf die Idee der Robotersteuer. Schon seit den 70er-Jahren wird die Maschinensteuer diskutiert, und die Maschinen, die im Moment am meisten Angst verursachen und Abwehr hervorrufen, sind die Roboter. Der Technikphilosoph und Wirtschaftsinformatiker Oliver Bendel, der ebenfalls zu Wort kommt, sieht die Chancen und Risiken einer Robotersteuer. Einerseits kann sie, zum Beispiel gekoppelt an das klassische Sozialsystem oder das bedingungslose Grundeinkommen, zu einer gerechten Verteilung von Gewinnen beitragen. Andererseits kann sie den technologischen Fortschritt hemmen, der nach einer Übergangszeit auch zur menschlichen Entwicklung beitragen mag, zur Befreiung von der Bürde der Arbeit. Ein Grundproblem ist nach seiner Ansicht, welche Arbeit welcher Roboter besteuert werden soll. Der Artikel mit dem Titel „Ab zum Finanzamt, Kollege!“ füllt Seite 23 im Wirtschaftsteil der deutschen Wochenzeitung.
Abb.: Die Arbeit dieses Mähroboters muss wohl nicht besteuert werden
Immer mehr Geräte, Produkte und Dienste haben ein Mikrofon bzw. Spracheingabe und -ausgabe. Im Beitrag „Auditive Systeme im Wohn- und Arbeitsbereich: Big Brother hört mit“ wird auf ihre Funktionen eingegangen und gezeigt, dass ein Risiko vorhanden und Vorsicht geboten ist. Oliver Bendel lässt ihn mit den Worten beginnen: „Im Kinderzimmer wird es eng. Neben dem guten alten Teddybär und neben Hello Kitty als Puppe steht oder liegt Hello Barbie. Anders als ihre plüschigen und niedlichen Freunde und Freundinnen ist sie intelligent. Künstlich intelligent, aber immerhin. Sie versteht und hört mit.“ Am Ende heißt es: „Man kann versuchen, auf bestimmte Geräte und Maschinen zu verzichten, und man kann mit Abwehrsystemen gegen diese vorgehen. Der Einzelne wird allerdings dem Ansturm der Möglichkeiten ausgeliefert sein. Deshalb braucht es ethische Überlegungen – vor allem aus Medien-, Technik- und Informationsethik heraus – und rechtliche Konsequenzen.“ Der Artikel ist am 19. Oktober 2015 in der Zeitschrift ICTkommunikation erschienen und über ictk.ch/inhalt/auditive-systeme-im-wohn-und-arbeitsbereich-big-brother-h%C3%B6rt-mit aufrufbar.
Das gesprochene Wort ist seit jeher Objekt der Begierde, nicht erst seit dem Kalten Krieg und der Arbeit des Ministeriums für Staatssicherheit der DDR, von der Bevölkerung auch „Horch und Guck“ genannt. Das lautlose Anschleichen und hemmungslose Mitlauschen gehört in jeden Indianerfilm und in jede Intrige. Während „Guck“ aus der Ethik heraus recht umfassend behandelt wurde, bedarf „Horch“ noch eines genaueren Hinsehens bzw. -hörens, gerade im 21. Jahrhundert, und nicht nur in Bezug auf Staatsapparate, Strafverfolgungsbehörden und Nachrichtendienste, sondern auch und insbesondere in Bezug auf Privatpersonen und Unternehmen, die sozusagen den kleinen Lauschangriff erproben. Sprach- und Tonsysteme erobern die Welt, sei es in Form von Lautsprechersäulen, intelligenten Fernsehern, Mobilgeräten wie Smartphones und Tablets und darauf installierten Assistenten, intelligentem Spielzeug sowie Datenbrillen und Drohnen, die Mikrofone besitzen. Die Ethik, ob Informations- oder Technikethik, kann Probleme wie den Verlust der informationellen und persönlichen Autonomie identifizieren. Der Artikel „Der kleine Lauschangriff“ von Oliver Bendel bietet einen Überblick über auditive Systeme im Alltagsleben, die zur Überwachung geeignet sind, und geht auf Fragen der Ethik ein. Er ist am 5. Juli 2015 in Telepolis erschienen und kann über www.heise.de/tp/artikel/45/45319/1.html aufgerufen werden.
