Am 18. Oktober 2024 war Prof. Dr. Oliver Bendel zu Gast beim NDR in Hamburg. Vom Hotel im Gebäude der Elbphilharmonie war er am Morgen zum Studio in der Rothenbaumchaussee gefahren. Er sprach mit dem Moderator Philipp Cavert über Beziehungen zu Chatbots, Sprachassistenten und sozialen Robotern. Der Technikphilosoph und Wirtschaftsinformatiker legte dar, dass diese Empathie und Emotionen zeigen, aber nicht im eigentlichen Sinne haben können. Die Benutzer reagieren wiederum mit Emotionen. Beziehungen dieser Art sind immer einseitig. Auf der anderen Seite ist nichts, was wirklich Interesse hat, was einen liebt oder hasst. Dennoch können Chatbots, Sprachassistenten und soziale Roboter in bestimmten Situationen helfen. So entwickelte Martin Spathelf unter der Betreuung von Oliver Bendel einen Sprachassistenten, der Astronauten auf einem Marsflug helfen könnte. Space Thea bewährte sich in sieben verschiedenen Szenarien und zeigte Empathie und Emotionen. Zusammen mit Tamara Siegmann untersuchte Oliver Bendel, ob man Roboter in Gefängnissen einsetzen kann und soll. Ein Befund war, dass sich Insassen soziale Roboter und Chatbots als Gesprächspartner wünschen. Mehr zum Gespräch – auf der Website betitelt mit „KI als Freund: Sinnvoll oder gefährlich?“ – findet sich über www.ndr.de/kultur/KI-als-virtueller-Freund-Sinnvoll-oder-gefaehrlich,ki312.html. Am Abend war Oliver Bendel dann im KörberHaus in Hamburg Bergedorf, wo er mit der ZDF-Moderatorin Jasmina Neudecker über dasselbe Thema diskutierte.
Ein österreichisches Produktions- und Fernsehteam hat Ende 2021 und Anfang 2022 für ORF 2 einen Film über Roboter und insbesondere soziale Roboter gedreht. Die Sendung mit dem Namen „Der neue Gott“ wird im Januar oder Februar 2022 ausgestrahlt. Ein Teil der Dreharbeiten fand am 8. November 2021 an der Hochschule für Wirtschaft FHNW in Olten statt. Der Informations- und Maschinenethiker Prof. Dr. Oliver Bendel und seine ehemalige Masterstudentin Liliana Margarida Dos Santos Alves standen Rede und Antwort zur Sozialen Robotik, zur Roboterethik und zur Maschinenethik. Sie demonstrierten Roboter und Artefakte wie Cozmo, Hugvie, QTrobot, Pepper und NAO. Ebenfalls gefilmt wurden Studentinnen und Studenten des Wahlmoduls „Soziale Roboter“. Oliver Bendel glaubt weder an alte noch an neue Götter. Für ihn sind soziale Roboter in technischer und gestalterischer Hinsicht reizvoll. Es gilt, sie zu entwickeln, einzusetzen und zu testen. Manche von ihnen wird man brauchen, andere nicht. Der Trailer kann über vimeo.com/665951498 aufgerufen werden.
Abb.: Oliver Bendel im Trailer (Foto: Langbein & Partner)
Roboter in der Pflege und speziell Pflegeroboter sind ein Thema, das in den letzten Jahren enorm an Aufmerksamkeit gewonnen hat. Um Chancen und Risiken bewerten und ethische Überlegungen anstellen zu können, müssen die existierenden Systeme im Detail gekannt werden. Darüber hinaus ist es wichtig, den Kontext zu verstehen. Im Moment werden Pflegeroboter in Alten- und Pflegeheimen getestet, etwa in der Schweiz, in Deutschland und in Skandinavien. Pflegebedürftige und -kräfte sollen unterstützt werden. Es gibt kein Projekt und kein Szenario, in dem die Pflegeroboter die Pflegekräfte verdrängen sollen. Die Pflegebedürftigen können – darauf deuten die ersten Erfahrungen hin – persönliche Autonomie gewinnen und zugleich informationelle Autonomie verlieren. Es gilt demnach, Pflegeroboter zu bauen, die Intim- und Privatsphäre wahren. Michael Früh, CFO der Firma F&P Robotics, und Prof. Dr. Oliver Bendel, Informations- und Maschinenethiker, haben mit dem Chefredakteur von medAmbiente, Matthias Erler, gesprochen. Herausgekommen ist ein mehrseitiges Interview mit Fotos und Abbildungen. Das ganz Heft kann hier heruntergeladen werden.
Abb.: Lio mit Flasche (Foto: Daimler und Benz Stiftung)
Die WELT führte Ende Juni 2020 ein Interview mit Oliver Bendel über Sexroboter und Liebespuppen. Es ging insbesondere um deren natürlichsprachliche Fähigkeiten. Gerade Besitzer und Benutzer, die eine Beziehung führen wollen, sind an Gesprächen aller Art interessiert, über Gott und Welt und im Sinne von Dirty Talk. Firmen wie RealDoll bzw. Realbotix gehen hier sehr weit. Harmony beispielsweise kann sich stundenlang in ziemlich überzeugender Weise mit ihren Partnern unterhalten. Experimentiert wird mit GPT-2, aber auch mit anderen Sprachmodellen. Auf dieses Thema geht Kino Coursey, KI-Chef von Realbotix, in seinem Beitrag „Speaking with Harmony“ für das im Oktober erscheinende Buch „Maschinenliebe“ aus dem Springer-Verlag ein. Das Interview mit Oliver Bendel ist am 11. Juli 2020 in der gedruckten Ausgabe der WELT erschienen, unter dem Titel „Intelligente Sexroboter sind begehrte Gesprächspartner“ (bereits am Tag zuvor in der elektronischen, unter dem Titel „Was Sexpuppen können“ …). Zudem steht eine englische Version – „Intelligent sex robots are sought-after dialogue partners“ – zur Verfügung.
Abb.: Harmony mit ihrem Erfinder (Foto: Realbotix)
Raffael Schuppisser, stellvertretender Chefredakteur und Leiter Kultur, Leben & Wissen von az Nordwestschweiz bzw. Schweiz am Wochenende, sprach Ende Oktober 2019 mit Oliver Bendel über Maschinenethik. Das Ergebnis wurde am 3. Dezember 2019 in zahlreichen Schweizer Medien publiziert, darunter Aargauer Zeitung und Basellandschaftliche Zeitung. In der Limmattaler Zeitung wurde die kritische Haltung des Informations- und Maschinenethikers zu autonomen Autos herausgestellt. Oliver Bendel sieht diese vor allem auf der Autobahn, nicht in der Stadt. Er rät dazu, sie nicht über Leben und Tod von Menschen entscheiden zu lassen. Moralisieren kann man sie aber mit Blick auf Tiere. In der Neuen Luzerner Zeitung wurde thematisiert, dass Oliver Bendel gegenwärtige moralische Maschinen als kleine Fundamentalisten ansieht – weil sie sich sklavisch an Regeln halten. Dies ist keinesfalls zu ihrem Nachteil und auch nicht zum Nachteil der Umwelt, in der sie sich bewegen – was man bei menschlichen Fundamentalisten nicht gerade behaupten kann. In Watson wird auf die Rolle der Maschinenethik bei Sexrobotern hingewiesen. Die Disziplin kann dabei mithelfen, diese im Sinne der Benutzer zu gestalten. Vorschläge dazu hat Oliver Bendel wiederholt gemacht, etwa 2016 auf der Konferenz „Love and Sex with Robots“ am Goldsmiths in London. Der Artikel in Watson kann über www.watson.ch/!197665855? abgerufen werden.
Abb.: Oliver Bendel im Gespräch mit dem GEO-Chefredakteur (Foto: Körber-Stiftung/Claudia Höhne)
Das PSD-Magazin bringt in der aktuellen Ausgabe einen Artikel zu Digitalisierung und Robotik mit Statements von Prof. Dr. Oliver Bendel und ein Interview von Katja Stricker mit dem Informations- und Maschinenethiker. Am Anfang des Artikels heißt es: „Die Welt steht an der Schwelle eines neuen Zeitalters. Sie ordnet sich neu – in digitalen Netzwerken. Die globale Konnektivität stößt einen massiven gesellschaftlichen Wandel an und verändert unser Leben grundlegend. Denn die Grenzen zwischen digitalen und physischen Inhalten verschwimmen.“ (PSD-Magazin) Das Interview mit Oliver Bendel dreht sich u.a. um Pflegeroboter. Der Ethiker aus Zürich betont die Chancen, aber auch die Risiken. Insbesondere erklärt er, dass mobile Roboter als Spione gelten können. Sie haben Kameras und Sensoren, um ihre Umwelt zu erfassen, durch die sie sich bewegen, und diese Daten können auch – gerade im Bereich von Pflege und Betreuung – in problematischer Weise verwendet werden. Artikel und Interview können hier heruntergeladen werden.
Das Wissenschaftsjahr 2019 widmet sich der Künstlichen Intelligenz. In diesem Kontext führte Vision Kino ein Interview mit dem Informations- und Maschinenethiker Oliver Bendel. Zuerst wurde er danach gefragt, welche Themen im Zusammenspiel von Künstlicher Intelligenz und Ethik er aktuell für besonders wichtig hält. Er antwortete: „In der Informationsethik ist das Thema Überwachung im Augenblick sehr zentral, hier insbesondere Gesichts- und Emotionserkennung. Sehr problematisch wird es, wenn das mit der so genannten Physiognomik kombiniert wird, einer Pseudowissenschaft. Beispielsweise will man aus Gesichtsmerkmalen und -ausdrücken kriminelle Absichten ableiten.“ Später ging es dann um Fragen der Verantwortung. Nach Oliver Bendel kann ein Computer oder Roboter keine Verantwortung tragen, höchstens in einem sehr rudimentären Sinne, indem er eine Aufgabe übernimmt. Es ergibt nach ihm auch keinen Sinn, ihn in moralischer Hinsicht zur Verantwortung zu ziehen. Das Interview kann über wissenschaftsjahr-2019.visionkino.de/thematisches-unterrichtsmodul-zum-thema-kuenstliche-intelligenz/arbeitsmaterialien-zum-film/b-13-maschinen-koennen-keine-verantwortung-tragen-interview-mit-oliver-bendel/ nachgelesen werden.
Die Apotheken Umschau widmet sich in ihrer aktuellen Ausgabe, erschienen am 1. November 2018, dem Einsatz von Robotern in der Pflege. In einem ganzseitigen Interview kommt Prof. Dr. Oliver Bendel zu Wort. Er befürwortet den Einsatz von Robotern in Pflege und Betreuung, wenn es der Pflegekraft und dem Patienten bzw. Pflegebedürftigen hilft. Das Hauptproblem sieht er im Eingriff in Privat- und Intimsphäre. Bestimmte Serviceroboter und bestimmte Pflegeroboter sind nach seiner Ansicht mobile Spione. Im Heft ebenfalls zu Wort kommt Prof. Dr.-Ing. Sami Haddadin von der TU München, der demnächst zweiarmige Roboter in der Praxis testen will. Solche Roboter kennt man von ABB (YuMi) und von F&P Robotics (P-Care). „Wer sich über gesundheitliche und medizinische Themen bestens informieren will, greift gerne zur Apotheken Umschau. Mit monatlich 9,2 Millionen verkauften Exemplaren und knapp 20 Millionen Lesern ist das Magazin eine Klasse für sich. 89 Prozent der deutschsprachigen Bevölkerung über 14 Jahre kennen es, knapp 29 Prozent lesen es.“ (Website Apotheken Umschau) Der Beitrag kann mit freundlicher Genehmigung der Apotheken Umschau hier heruntergeladen werden.
Im Ausschuss „Digitale Agenda“ im Deutschen Bundestag, so ein Artikel auf detektor.fm vom 23. Juni 2016, diskutierten Experten „über die Folgen der Automatisierung und Digitalisierung“. Der Sender aus Leipzig stellte die Frage: „Worauf müssen sich Gesellschaft und Wirtschaft einstellen?“ (Website detektor.fm, 23. Juni 2016) Antworten lieferte Oliver Bendel, der am Tag zuvor im Reichstag als Sachverständiger fungiert hatte, per Telefon. Bereits im Vorfeld war er auf einen umfangreichen Fragenkatalog eingegangen. Unter anderem hielt er fest: „Für die Arbeitnehmenden, die ersetzt werden, ist Sorge zu tragen. Wer dazu in der Lage und willens ist, soll umgeschult werden, wobei staatliche Fördermaßnahmen ausgebaut werden können. Es ist darüber nachzudenken, wie hoch der Anteil von Robotern in einem Betrieb sein darf. Vielleicht braucht es eine Roboterquote. Wenn Gewinne mit einer hohen Zahl an Robotern, aber einer geringen Zahl an Arbeitnehmern erwirtschaftet werden, sind sie an die Gesellschaft zu verteilen. Möglichkeiten dazu sind ein bedingungsloses Grundeinkommen oder ein bedingungsloses Grundeigentum.“ Insgesamt hat Oliver Bendel aus der Perspektive der Informations-, Technik- und Wirtschaftsethik, aber auch der Maschinenethik argumentiert. Der erwähnte Artikel ist mitsamt dem Podcast auf detektor.fm/wirtschaft/ausschuss-digitale-agenda zu finden.
Abb.: Kein Roboter, sondern eine Figur aus Silber im Schloss Charlottenburg
Ein vierteiliges Interview mit dem Maschinenethiker und Wirtschaftsinformatiker Oliver Bendel ist am 31. Mai 2016 in Telepolis erschienen. Es geht um autonome Autos, um neuartige Chatbots wie den GOODBOT und um tierfreundliche Saugroboter wie LADYBIRD. Es geht um die Forschung in der Schweiz und in den USA und das Zusammenleben mit den Maschinen. Zum Verkehr der Zukunft sagt Bendel: „Was also tun? Ich rate hartnäckig dazu, bestimmte Maschinen in offenen Welten nicht auf uns loszulassen. Es sind vermutlich tragfähige Kompromisse möglich. Man kann autonome Autos in den Städten verbieten und zwischen den Städten fahren lassen, auf bestimmten Spuren, wobei der Spurwechsel meist gut beherrscht wird, zu bestimmten Uhrzeiten, mit bestimmten Geschwindigkeiten. Eventuell auch im Entenmarsch, ein Auto fährt voran, die anderen bilden eine Kette wie die Küken hinter der Mutter. Projekte dieser Art hat es gegeben. Bei einer solchen Entflechtung des Verkehrs sind diejenigen beruhigt, die dem autonomen Auto misstrauen, und es werden kaum Unfälle mit konventionellen Fahrzeugen auftreten.“ (Telepolis, 31. Mai 2016) Der Beitrag mit dem Titel „Über die Moral der Maschinen und eine programmierte Ethik“ kann über www.heise.de/tp/artikel/48/48387/1.html abgerufen werden.
Für „Der Sonntag“ vom 13. März 2016 hat René Zipperlen den Wirtschaftsinformatiker und Maschinenethiker Oliver Bendel von der Hochschule für Wirtschaft FHNW interviewt. Sein Interesse gilt u.a. der Situation, die sich niemand wünscht: „Was ist, wenn ein autonomes Auto einen Unfall baut?“ Der Wissenschaftler führt aus: „Es klingt paradox: Für den Menschen stellt sich womöglich keine moralische Frage, weil alles viel zu schnell geht. Bei der Maschine entsteht aber vielleicht eine moralische Situation, weil sie andere Möglichkeiten nutzen kann als nur Reflexe, sie kann aufgrund einer Vielzahl von Beobachtungen und Bewertungen blitzschnell entscheiden, ob sie weiterfährt, ausweicht oder bremst.“ (Der Sonntag, 13. März 2016) Eine andere Frage ist: „Würden Sie die Autonomie von Fahrzeugen ab einem gewissen Punkt begrenzen?“ Die Antwort lautet: „Ich bin für hybride Autos, bei denen wir noch selbst eingreifen können. Google will Lenkrad und Pedal entfernen. Das halte ich für einen Fehler, denn es macht uns ohnmächtig. Ich wäre durchaus dafür, das autonome Auto zwischen Städten verkehren zu lassen, auf geraden Strecken wie der Autobahn.“ (Der Sonntag, 13. März 2016) Zipperlen: „Und im Stadtverkehr?“ Bendel: „Würde ich es im Moment verbieten. Städte sind zu kompliziert.“ (Der Sonntag, 13. März 2016) Der ganze Beitrag mit dem Titel „Die Moral der Roboter“ kann hier heruntergeladen werden.
„Was wird aus dem Bildungsideal Selbstständigkeit in einer Welt der digitalen Überwachung? Ein Gespräch mit dem Informationsethiker Rafael Capurro über Erziehung zur Freiheit im Zeitalter der Kontrolle.“ (FAZ, 28. März 2015) So der Teaser zu einem Interview, das unter dem Titel „Schwimmen im digitalen Chaos“ in der FAZ erschienen ist. Es geht zunächst um E-Learning. Capurro führt aus: „Man müsste die Anbieter von Lernsoftware in den Unterricht holen. Man könnte sie im Gespräch mit der Klasse erklären lassen, was sie tun. Was mit den Daten der Schüler passiert.“ Später fragt der Interviewer: „Wir kennen den Rat, Daten, deren Gebrauch wir nciht [!] einsehen, bewusst falsch anzugeben. Sollte man auch Kindern dazu raten?“ Der Informationsethiker antwortet, es gehe letztlich um die Frage: „Was ist eine Lüge im digitalen Zeitalter?“ Zuletzt fordert Capurro, dass „wir allgemeine Regeln für die Schiffahrt [!] im Internet entwickeln“. „Ohne solche ethischen und rechtlichen Regeln bleiben die digitalen Ozeane ein gefährliches Medium für alle, die sich von der Küste entfernen.“ Ansätze dafür gab es in der Vergangenheit mit der klassischen Netiquette und mit der Netiquette 2.0. Das ganze Interview ist über www.faz.net verfügbar.
