Chinesische, indische und amerikanische Medien berichten immer wieder über die tierfreundlichen Maschinen und Systeme von Prof. Dr. Oliver Bendel. In seinem Studium ab 1987 war Tierethik einer seiner Schwerpunkte. Später verband er diese mit Maschinenethik und Sozialer Robotik und sprach sich für ein Arbeitsgebiet namens Animal-Machine Interaction aus, inspiriert von der Disziplin der Animal-Computer Interaction, die auf Clara Mancini zurückgeht. Bekannte Prototypen sind LADYBIRD und HAPPY HEDGEHOG. Das Projekt zu dem igelfreundlichen Mähroboter wurde 2019 durchgeführt. Das Paper „The HAPPY HEDGEHOG Project“ wurde Anfang 2021 beim Symposium „Machine Learning for Mobile Robot Navigation in the Wild“ im Rahmen der AAAI 2021 Spring Symposium Series vorgestellt. Nachdem es jahrelang über ein Google-Verzeichnis verfügbar war, kann es inzwischen über arxiv.org/abs/2401.03358 heruntergeladen werden. Damit wird es auch wieder verstärkt wahrgenommen. Die chinesische Plattform CSDN.net hat es am 9. Januar 2024 in der Rubrik „Daily Robotics Papers“ aufgeführt. Prof. Dr. Peter Singer beschäftigt sich seit kurzem ebenfalls mit dem Themenkomplex AI and Animals. In seinem Artikel „AI ethics: the case for including animals“ (zusammen mit Yip Fai Tse) vom Juli 2022 erwähnt er die Arbeit des Forschers aus Zürich.
Im Newsletter CHINAHIRN vom 30. Dezember 2020 findet sich eine Rezension des Buchs „Social Credit Rating“ (Hrsg. Oliver Everling), das Ende 2020 herausgekommen ist. Eingegangen wird vor allem auf das Sozialkreditsystem, wie es in China geplant ist und vorbereitet wird. Wolfgang Hirn, der den Newsletter betreibt, schreibt: „Es kommen Praktiker und Wissenschaftler, Chinesen und Deutsche zu Wort. Sie vertreten keine Einheitsmeinung. Im Gegenteil: Es ist eine kontroverse Diskussion in Buchform, teilweise sehr abstrakt und wissenschaftlich … Für den China-Interessierten sind die Artikel aus chinesischer Sicht von Wu Jingmei … und Dai Xin interessant. Lesenswert aus deutscher Sicht die Beiträge von Katika Kühnreich, Oliver Bendel, Theresa Krause/Doris Fischer, Thomas Solbach und Tim A. Fongern.“ (Newsletter CHINAHIRN, 30. Dezember 2020) Hinzuzufügen ist, dass sich auch die Einlassung von Theo Sommer lohnt, des ehemaligen ZEIT-Chefredakteurs und -Herausgebers.
Der ehemalige Chefredakteur und Herausgeber der ZEIT, Theo Sommer, hat für das Buch „Social Credit Rating“ (Hrsg. Oliver Everling) einen Beitrag – Titel: „Überwachungsstaat China“ – zum Sozialkreditsystem in China geschrieben. Aus dem Abstract: „Die Kommunistische Partei Chinas (KPCh) ist darauf aus, das Verhalten und die Gesinnung der Bürger nach den Vorgaben der Führung gleichzuschalten. Wichtigster Hebel dabei ist das geplante Sozialkreditsystem – eine von Algorithmen gesteuerte Maschinerie, die Bürger, Unternehmen, Institutionen und Behörden überwacht, bewertet und, je nachdem, belohnt oder bestraft. Anders als in der deutschen Schufa geht es dabei nicht nur um Bonitätsauskünfte über Kreditverträge und Zahlungsverhalten, sondern um sämtliche Daten. Das System ist als ‚Totalitarismus im digitalen Gewand‘ beschrieben worden. Bundeskanzlerin Angela Merkel soll dazu gesagt haben, George Orwell’s ‚1984‘ sei im Vergleich dazu nur ein ‚laues Lüftchen‘. Das SKS stellt auch die ausländischen Unternehmen in China vor große Herausforderungen.“ Weitere Beiträge zum Sozialkreditsystem gibt es von Oliver Bendel und Marianne von Blomberg. Das Buch kann über SpringerLink heruntergeladen werden.
Ende November 2020 ist das Buch „Social Credit Rating“ (Hrsg. Oliver Everling) erschienen. Enthalten ist ein Beitrag von Oliver Bendel mit dem Titel „Das Sozialkreditsystem in China aus ethischer Sicht“. Aus dem Abstract: „Das Sozialkreditsystem ist ein im Test bzw. in den Anfängen befindliches Überwachungs-, Erfassungs- und Bewertungssystem zur Angleichung des Verhaltens der Bürger, Behörden und Firmen von China an die moralischen, sozialen, rechtlichen, wirtschaftlichen und politischen Anforderungen der Kommunistischen Partei (KP). Es findet, so der Plan, ein permanentes Rating und Scoring mit Blick auf die Lebenssituation, das Sozialverhalten oder Verwaltungs- und Wirtschaftsaktivitäten statt. Der vorliegende Beitrag skizziert die Diskussion über das Sozialkreditsystem in den westlichen Medien und zwischen den Experten in China. Ausgehend von Grundannahmen, die von der Planung und Projektierung abgeleitet sind, werden Überlegungen aus der Perspektive der Ethik angestellt, und zwar mit Blick auf die betroffenen Bürgerinnen und Bürger. Die Anwendung des Systems auf Unternehmen spielt im vorliegenden Beitrag keine Rolle. Der Befund ist, dass eine bestimmte Umsetzung des Sozialkreditsystems die Lebensqualität heben, aber auch die Persönlichkeitsrechte und die Menschenrechte verletzen kann.“ Das Buch kann über SpringerLink heruntergeladen werden.
Abb.: Das Sozialkreditsystem hat mit Spielifizierung zu tun
Das Sozialkreditsystem, mit dem die Partei die Bevölkerung von China überwachen und maßregeln will, ist in Europa auf massive Kritik gestoßen. Nun wurde bekannt, dass die chinesische Regierung ausländische Touristen mit einer Anwendung ausforscht, „die bei der Einreise auf dem Handy installiert wird“. Die App greift auf Informationen auf dem Smartphone zu, etwa auf Kontakte, Kalender, SMS, Standort oder Anruflisten, und „überträgt diese an einen Computer der Grenzpolizei“ (SZ, 2. Juli 2019). Außerdem sucht sie laut der Süddeutschen Zeitung auf dem Handy nach Dateien, die aus Sicht der chinesischen Regierung verdächtig sind – dazu gehörten Pamphlete von Islamisten, aber auch harmlose religiöse Inhalte sowie Dateien mit Bezügen zu Taiwan oder Tibet. Betroffen seien Reisende, die im Westen über den Landweg in die chinesischen Provinz Xinjiang einreisen. Über die Überwachung von Touristen berichteten am 2. Juli mehrere Medien. Journalisten der Süddeutschen, des NDR und mehrerer weiterer Medien sowie IT-Experten ist es offenbar gelungen, die Software zu entschlüsseln. Zur Operation „Honigbiene“ und mit Blick auf ihre Story schreibt die SZ: „Die Grenzpolizei fällt über das Smartphone her, eine App saugt dann viele private Informationen ab. Eine Recherche aus einem beispiellosen Überwachungsstaat.“ (SZ, 2. Juli 2019)
Karl Strittmatter schreibt in seinem Artikel „Die Schweiz ist schier atemberaubend naiv“ im Tages-Anzeiger vom 27. April 2019, Ueli Maurer und der Bund ließen sich von China in das Projekt der Neuen Seidenstraße einbinden und fielen damit „auf die Tricks einer Diktatur herein“ (Tages-Anzeiger, 27. April 2019). Der Chinaexperte war für die Süddeutsche Zeitung zunächst ab 1997 (acht Jahre lang) und dann wieder von 2012 bis 2018 Korrespondent in Peking. Sein aktuelles Buch ist „Die Neuerfindung der Diktatur – Wie China den digitalen Überwachungsstaat aufbaut und uns damit herausfordert“. Darin beschreibt er u.a. das Sozialkreditsystem, das sich der Möglichkeiten künstlicher Intelligenz bedient. Auch auf die Neue Seidenstraße geht er ein. In seinem Artikel bemerkt er: „Die KP möchte Einfluss nehmen, setzt dafür viel Geld und eine immer aggressivere Diplomatie ein – im Menschenrechtsrat in Genf ebenso wie an unseren Universitäten, in unseren Medien, gegenüber unseren Politikern.“ (Tages-Anzeiger, 27. April 2019) Auch Befürworter des Projekts gibt es, die die wirtschaftlichen Vorteile herausstreichen. Der Beitrag „Neue Seidenstraße“ im Gabler Wirtschaftslexikon wurde von Oliver Bendel verfasst und ist am 30. April 2019 erschienen. Er kann über wirtschaftslexikon.gabler.de/definition/neue-seidenstrasse-100610 abgerufen werden.
„Das Sozialkreditsystem (engl. „social credit system“) ist ein elektronisches Überwachungs-, Erfassungs- und Bewertungssystem zur Harmonisierung des Verhaltens der Bürger, Behörden und Firmen von China mit den moralischen, sozialen, rechtlichen, wirtschaftlichen und politischen Ansprüchen der dortigen Kommunistischen Partei (KP). Es findet ein permanentes Rating und Scoring („citizen score“ bzw. „social scoring“) mit Blick auf die Lebenssituation, das Sozialverhalten oder Verwaltungs- und Wirtschaftsaktivitäten statt. Dabei werden vernetzte Datenbanken sowie Bild- und Tonsysteme in Verbindung mit Big-Data-Analysen und Methoden der Künstlichen Intelligenz eingesetzt.“ So beginnt ein Beitrag von Oliver Bendel, erschienen am 19. November 2018 im Wirtschaftslexikon von Springer Gabler. Gegen Ende kommt der Roboterphilosoph zu folgendem Befund: „Das Sozialkreditsystem kann als Automatisierung des Totalitarismus gelten. Es führt zu einer völligen Unterwerfung unter die Vorstellungen und Vorgaben von Staat und Gesellschaft.“ Ganz am Schluss wird die Perspektive der Ethik eingenommen. Der Beitrag kann über wirtschaftslexikon.gabler.de/definition/sozialkreditsystem-100567 aufgerufen werden.
Vom Deutschen Bundestag, genauer gesagt vom Ausschuss Digitale Agenda, wurde Oliver Bendel im Vorfeld der Anhörung vom 22. Juni 2016 als Sachverständiger zu seiner Meinung zur Rolle von Deutschland bei der Entwicklung von Robotern befragt. Er hat dazu u.a. ausgeführt: „In Deutschland sind wichtige Robotikunternehmen angesiedelt, wie Krones und KUKA, weiterhin solche Unternehmen, die integrierende Elemente anbieten, sowie solche, die erfolgreich traditionelle Produkte in Roboter verwandeln, etwa Staubsauger oder Automobile. Zudem hat es wichtige Forschungseinrichtungen, die die Disziplin der Künstlichen Intelligenz vertreten.“ Mit Blick auf KUKA und bestimmte Start-ups führte er aus: „Es ist wichtig, dass Know-how im Land bzw. in Europa bleibt und führende Robotikunternehmen nicht verkauft werden. Die Forschung zur Robotik, auch zur sozialen Robotik, ist auszubauen. Robotik muss zudem noch interdisziplinärer werden. Psychologie, Philosophie und andere Disziplinen, die beitragen können, sind an den Hochschulen zu stärken und in den Curricula zu erweitern. In Europa kann, vor dem Hintergrund der Aufklärung, des Humanismus und einer einflussreichen Tradition der philosophischen Reflexion, ein eigener Zugang zur Robotik geschaffen werden, der nicht technikzentriert, sondern menschen- und tierbezogen ist.“ In den Medien wird in diesen Tagen über eine Übernahme von KUKA durch den chinesischen Konzern Midea berichtet. Die Anhörung kann über www.bundestag.de/dokumente/textarchiv/2016/kw25-pa-digitale-agenda/427996 aufgerufen werden.
Abb.: Ein KUKA-Roboter (Foto: Wikimedia, Scailyna, CC BY-SA 4.0)
