„Im Kinderzimmer wird es eng. Neben dem guten alten Teddybär und neben Hello Kitty als Puppe steht oder liegt Hello Barbie. Anders als ihre plüschigen und niedlichen Freunde und Freundinnen ist sie intelligent. Künstlich intelligent, aber immerhin.“ Mit diesen Worten beginnt ein Artikel von Prof. Dr. Oliver Bendel, erschienen am 21. Oktober 2015 unter dem Titel „Auditive Systeme im Wohn- und Arbeitsbereich: Big Brother hört mit“. Teddybär ist hier wie Hello Kitty und Hello Barbie ein Eigenname in einer Aufzählung – ansonsten könnte man auch von dem Teddybären sprechen, der in einem Kinderzimmer ist. Der Film „Barbie“ von Greta Gerwig lenkte im Sommer 2023 die Aufmerksamkeit der Öffentlichkeit auf die Mattel-Puppe. Ein paar Szenen kann man als ikonisch bezeichnen, darunter gleich die erste. Kleine Mädchen spielen mit pausbäckigen Babypuppen, bis die übergroße, superschlanke Barbie die Bühne betritt. Sie sind erst paralysiert – und zerstören dann ihre mit einem Schlag altmodisch gewordenen Puppen. Dies ist eine Reminiszenz an den Anfang von „2001: Odyssee im Weltraum“ von Stanley Kubrick, wo nach dem Erscheinen eines Monolithen ein Vormensch mit einem Knochen ein Skelett zertrümmert und damit als Werkzeug und Waffe verwendet – eine Bewusstseinsveränderung und der Beginn einer neuen Zeit. Es wäre vielleicht besser, wenn sie Hello Barbie zerstören würden, die mit ihrer Spracherkennung zur Spionin im Kinderzimmer wird. Der Film führt mehrere missglückte Modelle vor, u.a. Sugar Daddy Ken und Video Barbie. Sie wurden nach und nach aus dem Sortiment entfernt. Hello Barbie ist immer noch auf dem Markt.
„Das CAS Zukunftsorientierte Polizeiarbeit vermittelt das notwendige Wissen und Verständnis, um die moderne Polizeiarbeit in ihrer Komplexität zu erfassen und mitzugestalten, die sich wandelnden Anforderungen an den Berufsalltag mitzutragen und jederzeit professionell handeln zu können. Es legt die Basis zum Verständnis der heutigen digitalen Komponenten im Beruf und bereitet die Absolventinnen und Absolventen auf die digitale Zukunft vor. Es behandelt die Auswirkungen der Digitalisierung auf die Polizeiarbeit und die polizeiliche Selbstreflexion. Die Teilnehmerinnen reflektieren Veränderungen, die sich für das Verständnis von Kriminalität im digitalen Raum ergeben.“ So lautet die Beschreibung der Weiterbildung an der Hochschule für Wirtschaft FHNW, die am 3. März 2023 gestartet ist. Prof. Dr. Oliver Bendel verantwortet die Kurse „Sicherheit und Überwachung“ und „Künstliche Intelligenz“. Es wird u.a. auf Überwachungssysteme eingegangen, nicht zuletzt auf Überwachungsroboter, und eine ethische Reflexion vorgenommen. Auch digitale Selbstverteidigung wird ein Thema sein. Im August 2022 trug der Informations- und Maschinenethiker auf der Robophilosophy 2022 über Polizeiroboter vor. Sein Beitrag „Robots in Policing“ ist Ende des Jahres im Proceedingsband „Social Robots in Social Institutions“ erschienen. Weitere Informationen zum CAS über https://www.fhnw.ch/de/weiterbildung/wirtschaft/cas-zukunftsorientierte-polizeiarbeit.
Abb.: Bei der Robophilosophy 2022 (Foto: Robophilosophy)
Im Herbst 2020 erscheint das von Oliver Everling herausgegebene Buch „Social Credit Rating“ im Springer-Verlag. Aus der Verlagsinformation: „Social Credit Ratings sind das Ergebnis von Sozialkreditsystemen. Diese umfassen auf verschiedene Datenbanken zugreifende, online betriebene Rating- oder Scoringsysteme, bei denen beispielsweise die Kreditwürdigkeit, das Strafregister und das soziale und gesellschaftliche Verhalten von Personen oder Organisationen wie Unternehmen oder Nichtregierungsorganisationen zur Klassifizierung ihrer Reputation verwendet werden.“ (Information Springer) Einer der über 20 Beiträge im Buch stammt von Prof. Dr. Oliver Bendel. Das Sozialkreditsystem in China, über das er schreibt, ist ein im Test bzw. in den Anfängen befindliches Überwachungs-, Erfassungs- und Bewertungssystem zur Angleichung des Verhaltens der Bürger, Behörden und Firmen von China an die moralischen, sozialen, rechtlichen, wirtschaftlichen und politischen Anforderungen der Kommunistischen Partei. „Zwischen Konfuzius und Orwell“ sieht er es angesiedelt, und so lautet auch das Motto, das er für den Beitrag gewählt hat. Weitere Informationen zum Buch über www.springer.com/de/book/9783658296520#aboutBook.
Das Sozialkreditsystem, mit dem die Partei die Bevölkerung von China überwachen und maßregeln will, ist in Europa auf massive Kritik gestoßen. Nun wurde bekannt, dass die chinesische Regierung ausländische Touristen mit einer Anwendung ausforscht, „die bei der Einreise auf dem Handy installiert wird“. Die App greift auf Informationen auf dem Smartphone zu, etwa auf Kontakte, Kalender, SMS, Standort oder Anruflisten, und „überträgt diese an einen Computer der Grenzpolizei“ (SZ, 2. Juli 2019). Außerdem sucht sie laut der Süddeutschen Zeitung auf dem Handy nach Dateien, die aus Sicht der chinesischen Regierung verdächtig sind – dazu gehörten Pamphlete von Islamisten, aber auch harmlose religiöse Inhalte sowie Dateien mit Bezügen zu Taiwan oder Tibet. Betroffen seien Reisende, die im Westen über den Landweg in die chinesischen Provinz Xinjiang einreisen. Über die Überwachung von Touristen berichteten am 2. Juli mehrere Medien. Journalisten der Süddeutschen, des NDR und mehrerer weiterer Medien sowie IT-Experten ist es offenbar gelungen, die Software zu entschlüsseln. Zur Operation „Honigbiene“ und mit Blick auf ihre Story schreibt die SZ: „Die Grenzpolizei fällt über das Smartphone her, eine App saugt dann viele private Informationen ab. Eine Recherche aus einem beispiellosen Überwachungsstaat.“ (SZ, 2. Juli 2019)
Microsoft gehört zu den führenden Unternehmen im Bereich der Gesichtserkennung. Man hat in den letzten Jahren mächtige Systeme geschaffen, die man in Displays mit Kameras integrieren oder an Chatbots ankoppeln kann – der BESTBOT ist ein Beispiel dafür. Nun hat das Unternehmen vor Gesichtserkennung gewarnt und nach dem Gesetz gerufen. Das ist nicht merkwürdig, sondern folgerichtig. Man hat eine Technologie entwickelt und ihre Chancen und Risiken untersucht. Man hat erkannt, dass Diskriminierung, Zerstörung der Privatsphäre und staatliche Totalüberwachung drohen. Es ist wichtig, zwischen Forschung und Entwicklung auf der einen und Anwendung auf der anderen Seite zu unterscheiden. Manchmal muss man eine Technologie auf die Welt bringen und dann im Einsatz beschränken, bis hin zum Verbot auf bestimmten Gebieten. Der Einschätzung des Konzerns mag eine ethische Reflexion vorausgegangen sein, vielleicht auch nur eine moralische Diskussion (der Spiegel wirft dem Konzern gar vor, sich zum Moralwächter aufzuschwingen). Wichtig ist aber, dass man dabei nicht stehenbleibt (und Microsoft ruft gerade nicht nach der Moral). Denn die Ethik vermag selten Probleme zu lösen. In diesem Fall braucht es weniger Ethik, mehr Recht.
iPal ist der kleine große Bruder, im Aussehen zwischen Mensch und Affe. Es gibt ihn blau sowie pinkfarben mit spitzen Ohren, also auch als kleine große Schwester. Der Roboter wird vom Hersteller AvatarMind als Familienmitglied, Spielkamerad, Babysitter und vor allem als Erziehungsperson und Lehrkraft gesehen. Er hat natürlichsprachliche Fähigkeiten und ein Tablet in seiner Brust, auf dem Lernprogramme laufen. Er soll die soziale Entwicklung unterstützen und das Interesse an Wissenschaft und Technologie wecken. Laut Website macht iPal Bildung für Kinder lustig und attraktiv. Er kann tanzen, Geschichten erzählen, Spiele spielen und die Bewegung fördern. Über ihn kann man mit Freunden chatten, Videos teilen und sich mit dem Internet und sozialen Medien verbinden. Eltern sind in der Lage, iPal fernzusteuern und den Fortschritt, die Sicherheit und die Aktivitäten ihres Sprösslings auf ihrem Smartphone oder auf dem Desktop von jedem Ort aus und zu jeder Zeit zu überwachen. In seinem Nebenberuf ist iPal für Alte und Kranke da und kontrolliert z.B. die Medikamenteneinnahme. iPal verstößt gegen die UN-Kinderrechtskonvention. Konkret wird durch den beschriebenen Gebrauch der Eltern das Recht auf Privatsphäre missachtet. Es ist ferner nicht auszuschließen, dass sich das Unternehmen oder dessen Partner und der Staat bestimmte persönliche Daten der Familie beschaffen.
Die Zeitschrift International Review of Information Ethics hat ihren Call for Papers zu „Ethics of Big Data“ veröffentlicht. Darin heißt es: „This issue of IRIE attempts to explore the political, social, and ethical dimensions of big data.“ (Website IRIE) Mögliche Themen sind u.a. „Big data and emerging regimes of mass surveillance“, „Big data and mass marketing“, „Big data and mass communication“, „Big data and counter-terrorism, policing and national security“ und „Online privacy“. Gastherausgeber sind Prof. Dr. Klaus Wiegerling, Dr. Michael Nerukar und Christian Wadephul vom Institut für Technikfolgenabschätzung und Systemanalyse (ITAS) am Karlsruher Institut für Technologie (KIT). An Michael Nerukar können auch Fragen gerichtet werden (michael.nerurkar@kit.edu). Die Deadline für Extended Abstracts ist der 30. September 2015. Weitere Informationen über i-r-i-e.net/call_for_papers.htm.
Ende 2015 erscheint ein neues Springer-Lexikon mit dem Titel „300 Keywords Informationsethik“. Oliver Bendel, Wirtschaftsinformatiker, Informationsethiker und Maschinenethiker, hat das ganze Werk verfasst. Dadurch handelt es sich um ein Nachschlagewerk aus einem Guss, was eine Seltenheit und eine Besonderheit ist. Manche der Begriffe werden kurz und knapp erklärt, andere seitenlang. Nach der Lektüre ist man umfassend in die Bereichsethik eingeführt, die auch mit dem Begriff der digitalen Ethik umrissen wird und der man Computerethik, Netzethik und Neue-Medien-Ethik zuordnen kann. Und auch die Maschinenethik und die Roboterethik sind einem nicht mehr fremd. Natürlich lernt der Leser den Big Brother (und den Little Brother) kennen, und es kommt ihm die Filter Bubble entgegengeschwebt. Gespannt sein darf man auf den Cyberhedonismus, den Sexroboter und den Wutbürger. Weitere Informationen sind im Herbst bei Springer erhältlich.
„Serviceroboter sind in etlichen Ausführungen erhältlich. Haushalts- und Gartenroboter erobern die Wohnviertel, Pflege- und Therapieroboter die Krankenhäuser und Altenheime. Sie unterstützen und sie überwachen uns. Und sie ersetzen uns allmählich.“ Mit diesen Worten beginnnt der Artikel „Die Roboter sind unter uns“ von Oliver Bendel in der Netzwoche vom 3. Dezember 2014. In der letzten Ausgabe des Jahres dreht es sich um die Trends des Jahres 2015. Als Wirtschaftsinformatiker und Ethiker sieht Oliver Bendel durchaus positive Aspekte von Jaco, Qrio und Pepper – und natürlich von LADYBIRD, einem Saugroboter, der keine Krabbeltiere tötet. Als Informationsethiker weist er aber eben auch darauf hin, dass die „künstlichen Kreaturen“ uns überwachen: „Wenn sie mit Sensoren ausgestattet sind, wenn sie über Intelligenz und Erinnerungsvermögen verfügen, werden sie nach und nach zu allwissenden Begleitern.“ Entsprechend ist die Informationsethik zur Reflexion der Probleme gefragt. Und die Maschinenethik, um die Serviceroboter in moralische Maschinen zu verwandeln. Der Artikel ist hier kostenlos zu beziehen.
Dieser Tag ist der 11. Februar 2014, zumindest nach dem Wunsch der Organisatoren. Auf ihrer Website stellen sie mit Hilfe von Zitaten einige Fakten zusammen. Die NSA „has secretly broken into the main communications links that connect Yahoo and Google data centers around the world“ (The New York Times). Und: Die NSA „is harvesting hundreds of millions of contact lists from personal e-mail and instant messaging accounts around the world“ (Washington Post). Und so weiter. Was kann man tun? Auf der Website ist zu lesen: „Governments worldwide need to know that mass surveillance, like that conducted by the NSA, is always a violation of our inalienable human rights. Over the past year, more than 360 organizations in over 70 countries have come together to support the International Principles on the Application of Human Rights to Communications Surveillance. These thirteen Principles establish the human rights obligations of any government conducting surveillance. They are the core of an international movement to compel all states to stop the mass spying of the innocent. The Principles are already being used in national campaigns and international pressure to reign in spies including the NSA.“ Vielleicht sollte es keinen Tag, sondern ein Jahrhundert des digitalen Widerstands und des digitalen Ungehorsams geben.
TA-SWISS hat sich an informationsethik.net gewandt mit der Bitte, auf ein EU-finanziertes Forschungsprojekt (SurPRISE: Surveillance, Privacy and Security) hinzuweisen. 300 Personen in der Schweiz haben die Möglichkeit, an einem sogenannten Diskussionsforum zum Thema „Sicherheitstechnologien, Überwachung und Privatsphäre“ teilzunehmen. „Im Zentrum des Interesses steht, wie die Bürgerinnen und Bürger in neun Ländern Europas auf Überwachungstechnologien reagieren. Sind sie, wie in politischen Debatten gerne unterstellt wird, tatsächlich bereit, für ein Mehr an Sicherheit ein Weniger an Privatsphäre in Kauf zu nehmen? Welche Sicherheitsmassnahmen erachten sie als akzeptabel in einem demokratischen Staat und welche nicht?“ (Zitat aus der Mitteilung) Geplant seien je eine ganztägige Gesprächsrunde (10 – 16 Uhr) in der Deutschschweiz (Zürich, 8. März 2014), in der Romandie (Grandson, 22. März 2014) und im Tessin (29. März 2014). Die Reisespesen werden übernommen, für Verpflegung ist gesorgt, und alle Teilnehmenden erhalten eine kleine Entschädigung. Weitere Informationen und Anmeldung: www.ta-swiss.ch. Anmeldefrist: 31. Januar 2014.
Wissenschaftlerinnen und Wissenschaftler aus Australien, Deutschland, Holland, Kanada, Japan, der Schweiz und vielen anderen Ländern protestieren mit einem Aufruf, der von Nico van Eijk, Beate Roessler, Frederik Zuiderveen Borgesius und Manon Oostveen (University of Amsterdam) initiiert wurde, gegen die Massenüberwachung durch die Geheimdienste. Auf der Website www.academicsagainstsurveillance.net heißt es: „The right to privacy is a fundamental right.“ Und weiter: „Without privacy people cannot freely express their opinions or seek and receive information. Moreover, mass surveillance turns the presumption of innocence into a presumption of guilt.“ Die Unterzeichner des Aufrufs – unter ihnen sind auch Informations-, Technik- und Maschinenethiker wie Andrew Adams, Oliver Bendel, Kai Kimppa und Matthijs Pontier – fordern die Regierungen zum Handeln auf, wobei klare Forderungen gestellt werden.
