„Sind Maschinen das Ende der Menschheit?“ So lautet der Titel eines Ende Oktober bis Anfang November 2022 erschienenen Dossiers in der Zeitschrift „Der Pragmaticus“. Diese wurde u.a. vom Red-Bull-Chef Dietrich Mateschitz gegründet. Er ist vor kurzem gestorben, und es handelt sich um das erste Dossier, dessen Veröffentlichung er nicht mehr erlebt hat. Enthalten ist ein Beitrag von Prof. Dr. oec. HSG Oliver Bendel mit dem Titel „Brauchen Computer eine Moral?“ … Im Teaser der Redaktion ist zu lesen: „In Form von Chatbots, Rasenrobotern und autonomen Autos sind die Computer heute überall. Je mehr die Maschinen können, umso dringlicher scheint es, ihnen unter Einbezug der Ethik Regeln zu geben.“ Der Artikel des Informations- und Maschinenethikers aus Zürich ist am 1. November 2022 freigeschaltet worden und kann über www.derpragmaticus.com/r/maschinenethik/ aufgerufen werden.
„Seit jeher werden moralische Kategorien und die Regelwerke der Marktwirtschaft in einem Zug erwähnt und immer wieder in ihrem explosiven Konfliktfeld diskutiert. Die Moral liegt in den Spiel-Regeln, und der Wettbewerb findet in den Spiel-Zügen statt, würde man sagen. Doch welche Moral? Und wer oder was setzt diese Regeln in einer inzwischen digitalen Welt, in der Menschen und Produkte der künstlichen Intelligenz mehr und mehr miteinander verknüpft sind?“ (Website Ö1) Mit diesen Worten beginnt die Beschreibung eines Radiobeitrags von Katrin Mackowski, dessen vier Teile an vier aufeinanderfolgenden Tagen (16. bis 19. Dezember 2019) im Radiokolleg von Ö1 unter dem Titel „Markt und Moral“ gesendet werden. Zu Wort kommen u.a. Dr. Margit Schratzenstaller-Altzinger, Prof. Dr. Wilfried Altzinger, Prof. Dr. Mathias Binswanger und – vor allem in der dritten Folge – Prof. Dr. Oliver Bendel. Weitere Infos über oe1.orf.at/programm/20191216#582319.
Abb.: Wie verändert sich die Moral in einer digitalen Welt? (Foto: Stefanie Hauske)
Die Journalistin Heike Henzmann hat im Rahmen der Serie „Walk and Talk“ für die Zeitschrift aktuelle technik (at) ein langes Gespräch mit dem Wirtschaftsinformatiker und Maschinenethiker Oliver Bendel geführt. Der erste Teil des Interviews ist im Juni 2016 erschienen und auf maschinenethik.net besprochen worden. Der zweite Teil mit dem Titel „Aufhalten lassen wir uns nicht.“ liegt seit dem 14. Juli vor und kann hier heruntergeladen werden. In dem Gespräch ging es, wie bereits ausgeführt, um Maschinenethik, Informationsethik und Technologiefolgenabschätzung sowie um Moral und Ethik im Allgemeinen. Zur Maschinenethik führt Oliver Bendel aus: „Die Maschinenethik begreife ich als Gestaltungsdisziplin, die Informationsethik als Reflexionsdisziplin. Die Maschinenethik ist die Disziplin, die die Moral der Maschine zum Thema hat. Die Moral des Menschen wird anders als in der Menschenethik nur nebenbei betrachtet, als Mittel zum Zweck. Eine menschliche Moral ist sehr viel besser als eine maschinelle Moral. Der maschinellen Moral fehlt einiges. Die Maschine kann aber mindestens eine so gute Moral haben wie der menschliche Fundamentalist.“ (at, 7/2016) Diese These wird im Folgenden näher beleuchtet und begründet. Neben dem Text finden sich in beiden Beiträgen viele Fotos, aufgenommen bei miesestem Regenwetter und bester Diskutierlaune.
Abb.: Beim Flanieren und Diskutieren in Zürich (Foto: aktuelle technik)
„Schwarmintelligenz (im Sinne der kollektiven Intelligenz von Menschen, nicht von Agenten oder Robotern) meint den gezielten Einsatz von Fähigkeiten von Individuen und der Macht der Masse zur Lösung von Problemen und Bewältigung von Anforderungen. Beispielsweise werden Doktorarbeiten über Wikis von Benutzern daraufhin überprüft, ob sie Plagiate darstellen, oder virtuelle Friedhöfe mit Bildern von Grabsteinen und Informationen zu den Toten bestückt.“ Mit diesen Worten beginnt ein neuer Eintrag im Wirtschaftslexikon von Gabler. Autor ist der Informations- und Maschinenethiker und Wirtschaftsinformatiker Oliver Bendel. Er hat in den letzten Jahren über 50 Artikel für das größte Nachschlagewerk für Wirtschaft im deutschsprachigen Raum erstellt, viele davon aus der Ethik heraus oder die Disziplin berücksichtigend. So schließt er denn auch mit den Worten: „Die Informationsethik wirft die Frage auf, wie sich die Intelligenz des Schwarms und die Moral der Benutzer zueinander verhalten und ob die Schwarmintelligenz von Dritten genutzt werden soll und darf.“ Der Beitrag ist am 4. August 2015 erschienen und kann über die Adresse wirtschaftslexikon.gabler.de/Definition/schwarmintelligenz.html abgerufen werden.
Was ist Informationsethik? Eine Antwort auf diese Frage gibt ein neuer Beitrag in der Enzyklopädie der Wirtschaftsinformatik. Diese wird von den Professorinnen und Professoren Karl Kurbel, Jörg Becker, Norbert Gronau, Elmar Sinz und Leena Suhl herausgegeben und ist nach eigenen Angaben ein umfassendes Nachschlagewerk, das wesentliche Begriffe aus der Wirtschaftsinformatik erläutert und für alle online frei zugänglich ist. Die 7. Auflage vom Herbst 2013 enthält ca. 1000 Einträge, darunter über 600 Stichwortartikel. Der neue Artikel von Oliver Bendel hebt mit den Worten an: „Die Informationsethik, zu der man Computer-, Netz- und Neue-Medien-Ethik zählen kann, hat die Moral (in) der Informationsgesellschaft zum Gegenstand. Sie untersucht, wie wir uns, Informations- und Kommunikationstechnologien und neue Medien anbietend und nutzend, in moralischer Hinsicht verhalten respektive verhalten sollen.“ Und er schließt mit der wichtigen Erkenntnis: „Man kann Informationsethik und Technikfolgenabschätzung … innerhalb der Wirtschaftsinformatik betreiben, etwa in dem Sinne, dass man sie in die Lehre integriert oder interdisziplinäre Teams und Gruppen aufbaut.“
In einem Interview mit der TAZ vom 10. August 2013 spricht Yvonne Hofstetter auch über die Moral von Algorithmen. Die Geschäftsführerin der Teramark Technologies GmbH wird gefragt: „Algorithmen sind im Grunde Roboter. Gibt es für sie eine Ethik?“ Sie antwortet: „Die Technologen beschäftigen sich mit diesen Fragen. Welche Ethik, welche Moralvorstellungen brauchen wir? Was kann man in die Maschinen hinein programmieren? Aus der philosophischen Ecke, also von denen, die sich mit gesellschaftlichen Entwicklungen beschäftigen, kommt hingegen nichts oder wenig. Die Philosophie sieht offenbar noch nicht, dass eine Sturzwelle an intelligenten Technologien auf uns zurollt.“ Nun ist die Maschinenethik in den USA, in Kanada, Australien, Japan und Holland eine weit entwickelte Disziplin, zu der KI-Experten genauso beitragen wie Philosophen. Die Informationsethik, die sich auf die moralischen Implikationen des Einsatzes von Informations- und Kommunikationstechnologien bezieht, ist gar eine traditionsreiche Disziplin, auch in Bezug auf Algorithmen und Maschinen. Es ist aber in der Tat so, dass im deutschsprachigen Raum erheblicher Nachholbedarf besteht, dass die Ethik von Lobbyorganisationen bekämpft und von Kirchen missbraucht wird. Grundsätzlich muss man unterscheiden zwischen der Maschinenethik (begriffen als Pendant zur Menschenethik) und der Informationsethik, die Computer-, Netz- und Neue-Medien-Ethik umfasst. Beide sind wichtig, wobei die eine eher technologiegestaltend, die andere eher problemanalysierend und lebensgestaltend unterwegs ist und in gewisser Weise gilt: Die Informationsethik löst die Probleme, die die Maschinenethik verursacht.
Ein Artikel in der UnternehmerZeitung vom 2. Juli 2013 geht auf das GOODBOT-Projekt ein, das im Juni 2013 an der Hochschule für Wirtschaft FHNW gestartet ist. Der „moralische Chatbot“ soll auch auf Selbstmorddrohungen oder Ankündigungen von Amokläufen adäquat reagieren und überhaupt ein angenehmer Zeitgenosse (und trotzdem kein Langweiler) sein. Es werden sieben Regeln genannt, die „hinsichtlich seiner Akte und Sprechakte gegenüber dem Benutzer“ gelten sollen. Dazu gehört auch eine Transparenzregel: „Der GOODBOT macht dem Benutzer klar, dass er eine Maschine ist.“ (Regel 1) Und eine Regel zur Beobachtung: „Der GOODBOT ist kein Spitzel und wertet Gespräche mit dem Benutzer nicht aus.“ (Regel 6) Für das Projekt wurden verschiedene konzeptionelle Vorleistungen wie der Regelkatalog erbracht. Von Juni 2013 bis Januar 2014 arbeiten sich drei Studierende der Hochschule in die Maschinenethik und die Roboterethik ein und entwickeln einen Prototyp. Initiator und Leiter des Projekts ist der Philosoph und Wirtschaftsinformatiker Oliver Bendel. Der Artikel ist in der siebten Ausgabe der UnternehmerZeitung auf den Seiten 30 und 31 zu finden.
Heidrun Becker, Mandy Scheermesser, Michael Früh, Yvonne Treusch, Holger Auerbach, Richard Alexander Hüppi, Flurina Meier sind die Autorinnen und Autoren der Studie „Robotik in Betreuung und Gesundheitsversorgung“, die 2013 im vdf Hochschulverlag herausgekommen ist. Herausgeber ist die TA-SWISS, das „Zentrum für Technologiefolgen-Abschätzung“ der Schweiz, das in Bern angesiedelt ist. In der Zusammenfassung heißt es: „Die vorliegende Studie erhebt den Ist-Stand und Makrotrends zu Robotik in Betreuung und Gesundheitsversorgung. Sie ermittelt Chancen und Risiken im Hinblick auf einen technisch machbaren, wirtschaftlich realisierbaren und ethisch wünschenswerten Einsatz von Robotik im Gesundheitswesen und formuliert auf dieser Grundlage Empfehlungen für Politiker und andere Entscheidungsträger.“ Die Autorinnen und Autoren kommen zu dem Schluss: „Bislang existiert kein universell akzeptiertes Set von ethischen Prinzipien für den Einsatz von Robotik in Betreuung und Gesundheitsversorgung. Ethische Werte wie Autonomie, Schutz vor Schaden, Fürsorge und Gerechtigkeit sind aber auch auf den Einsatz von Robotik anzuwenden.“ Die Studie kann über die Website www.ta-swiss.ch heruntergeladen werden.
Viele Benutzer mögen Chatbots auf Websites und unterhalten sich gerne mit ihnen. Dabei spielen Produkte und Dienstleistungen meist eine untergeordnete Rolle. Man will das virtuelle Gegenüber ausfragen, mit ihm flirten, es necken und reizen. Wenn man in Schwierigkeiten steckt, will man eine Antwort erhalten, die einen nicht noch mehr entmutigt und verstört. Die meisten Bots sind in dieser Hinsicht völlig überfordert. Auf Selbstmorddrohungen oder Ankündigungen von Amokläufen reagieren sie inadäquat. In einem Projekt an der Hochschule für Wirtschaft der Fachhochschule Nordwestschweiz FHNW wird unter der Leitung von Oliver Bendel eine moralische Maschine besonderer Art, nämlich ein sogenannter GOODBOT, konzipiert und prototypisch implementiert. Zunächst werden theoretische Grundlagen im Kontext der Maschinenethik erarbeitet. Es interessiert unter anderem, welche normativen Modelle maschinell verarbeitbar sind. Dann werden ausgewählte Chatbots auf Websites sowie Sprachassistenten wie Siri analysiert und verglichen sowie Erkenntnisse zu Systemen solcher Art gewonnen. Ein vorhandener Regelkatalog soll daraufhin überprüft werden, ob er in einem regelbasierten System umgesetzt bzw. wie er angepasst werden kann. Nicht nur Top-down-, sondern auch Bottom-up-Ansätze sollen erwogen werden. Zudem ist relevant, inwieweit soziale Medien und leibhaftige Menschen moralische Referenzpunkte bilden können. Das Projekt hat im Juni 2013 begonnen. Informationen zum Initiator und Projektleiter über www.fhnw.ch/personen/oliver-bendel.
Die Schweizerische Akademie der Technischen Wissenschaften (SATW) hat eine „Themenplattform Ethik“ aufgesetzt, die über www.satw.ch/organisation/tpf zu erreichen ist (Link nicht mehr gültig). Auf der Website heißt es zur grundsätzlichen Motivation: „Die SATW befasst sich mit den Wechselwirkungen zwischen den technischen Wissenschaften, der Gesellschaft und der Umwelt. Es ist ihre Aufgabe, durch sachliche Informationen Ängste und Unsicherheiten in der Gesellschaft abzubauen und durch eine Erörterung von Chancen und Risiken von neuen Technologien einen Beitrag zu einer breiten, ethischen Diskussion zu leisten.“ Es werden zwei allgemeine Ziele formuliert: Zum einen sollen die Auszubildenden im technisch-naturwissenschaftlichen Bereich über Kenntnisse in Ethik verfügen, zum anderen die Entscheidungsträger in Wirtschaft und Politik „für ethisches Handeln“ sensibilisiert werden. Die Leitung obliegt Dr. Tony Kaiser, der bei der ALSTOM (Schweiz) AG „verantwortlich für die langfristigen Technologieprogramme im Kraftwerksbereich“ (Website ETHZ) ist.
Der Deutsche Ethikrat hat seit 16. Oktober 2012 einen Eintrag im Gabler Wirtschaftslexikon. Die Kurzerklärung lautet: „Der Deutsche Ethikrat widmet sich u.a. moralischen, gesellschaftlichen, medizinischen und rechtlichen Fragen sowie nach eigener Aussage den voraussichtlichen Folgen für Individuum und Gesellschaft, die sich insbesondere auf dem Gebiet der Lebenswissenschaften und ihrer Anwendung auf den Menschen ergeben.“ Es folgen eine längere allgemeine Erklärung, Angaben zu Ursprung und Geschichte und zu Zusammensetzung und Ansatz. Es wird deutlich gemacht, dass man sich im Ethikrat nicht nur auf eine wissenschaftliche, philosophische Ethik, sondern auch eine theonome Ethik beruft. Insofern verlässt man immer wieder das System der rationalen Begründungen. Der Beitrag von Oliver Bendel ist direkt über wirtschaftslexikon.gabler.de/Definition/deutscher-ethikrat.html abrufbar. Er wurde dem Sachgebiet „Grundlagen der Wirtschaftsethik“ zugewiesen. Für das Gabler Wirtschaftslexikon schreiben nach eigenen Angaben über „150 Experten aus Wissenschaft und Praxis“. Mehr als „25.000 Stichwörter stehen kostenlos“ bereit.
Die ZEIT AKADEMIE bietet ein „DVD-Seminar Ethik“ an. Kein Philosoph erörtert die „ethischen Grundfragen“, sondern ein Theologe. „Lernen Sie in 16 Vorlesungen die wichtigsten Begriffe und Positionen der Ethik praxisnah, anschaulich und im aktuellen Kontext kennen!“ (Werbetext der ZEIT AKADEMIE auf der Website) Die siebte Lektion trägt den Titel: „Informationszeitalter: Beherrschen uns die Medien?“ Obwohl Wolfgang Huber als Theologe vorgestellt wird, könnte der Leser und Kunde meinen, es handle sich um eine wissenschaftliche, eine philosophische Ethik, die hier betrieben wird. Es ist aber vom Ansatz her eine theonome Ethik, also eine Ethik, die sich auf eine göttliche Instanz bezieht. Die philosophische Ethik sucht nach Otfried Höffe „auf methodischem Weg … u. ohne letzte Berufung auf politische u. religiöse Autoritäten … oder auf das von alters her Gewohnte u. Bewährte allgemeingültige Aussagen über das gute u. gerechte Handeln“ (Höffe, Lexikon der Ethik, Eintrag Ethik). Es besteht, trotz des gemeinsamen Gegenstands der Moral, eine unüberbrückbare Kluft zwischen der theonomen und der philosophischen Ethik. In seiner Rezension „Die Dialektik der Ethik“ im Online-Magazin diesseits.de spricht Oskar Y. Martin die Kluft im konkreten Fall in deutlichen Worten an: Hubers „religiös motivierte Vorlesung“ sei „im Gewand eines neutralen Ethik-Seminars auf den Markt gebracht“ worden (diesseits.de, 1. September 2012). Und damit erweisen ZEIT AKADEMIE, Wolfgang Huber und die ihn interviewende Elisabeth von Thadden der wissenschaftlichen Ethik einen Bärendienst.
Die Bereichsethiken existieren seit Jahren und Jahrzehnten vor sich hin. Die Informationsethik hat sich, für viele unbemerkt, in ihre Mitte geschoben. Das hat auch Konsequenzen für die Medizinethik – und damit für das Gesundheitswesen überhaupt. In seinem Artikel entwirft Oliver Bendel – auch mit Hilfe seines “Ethik-Dekagons” – ein neues Bild der Bereichsethiken. Am Beispiel der Medizinethik zeigt er Abhängigkeiten und Möglichkeiten auf. Er plädiert dafür, dass die Experten in der angewandten Ethik in Zukunft enger zusammenarbeiten. Der Artikel „Die Medizin in der Moral der Informationsgesellschaft“ ist Ende Juni 2012 in der Zeitschrift IT for Health erschienen (Nummer 3, S. 17 – 18); bereits seit Ende April 2012 ist die Online-Version erhältlich. Zudem ist ein PDF verfügbar.
Abb.: Die Medizin in der Moral der Informationsgesellschaft
Die Nerds bestimmen den Lauf der Welt. Sie sitzen seit langem in den Kellern und seit kurzem im Parlament. Sie wurden jahrzehntelang schlecht behandelt. Und jetzt rächen sie sich. Sie machen uns abhängig, sie machen uns verrückt, mit ihren Prozessen, Technologien und Systemen, sie machen uns überglücklich, mit ihrer Software, ihren Geräten. Man kann das alles so hinnehmen, kann sich mitreißen lassen, mitmachen, ein Zahnrädchen im Getriebe sein. Und man kann Fragen stellen, etwa aus der Perspektive der Informationsethik. Was tun wir in unserer hochtechnisierten Welt, in moralischer Hinsicht, und was wollen und sollen wir tun? Was ist mit unserer Autonomie, was ist mit unserer Verantwortung, was ist mit unserem Menschsein im Angesicht der Maschinen? Fragen kann man auch stellen in Bezug auf die Aus- und Weiterbildung. Werden die Informatiker und Wirtschaftsinformatiker in adäquater Weise ausgebildet? Arbeiten sie in genügender und gleichberechtigter Weise mit Geistes- und Sozialwissenschaftlern zusammen? Und wissen sie immer, was sie tun, welche Folgen ihr Handeln hat, für sich, für uns, in ihrem Land, auf der ganzen Welt? Viele Fragen stellt das Buch „Die Rache der Nerds“ von Oliver Bendel, und nur einige kann und will es beantworten. Die Leserinnen und Leser sind aufgerufen, weiter nachzudenken – und ihren Teil zu einer lebenswerten Informationsgesellschaft beizutragen. „Die Rache der Nerds“ erscheint im September 2012 im Verlag UVK. Auf der Website www.die-rache-der-nerds.de werden laufend Informationen zum Buch bereitgestellt. Weitere Informationen gibt es auf der Website des Verlags.
Der 384 v. u. Z. geborene Aristoteles ist einer der Väter der Ethik. Die Glückseligkeit im Diesseits war sein Ideal. Heute finden wir Bereichsethiken wie Informationsethik, Wirtschaftsethik, Politikethik und Medizinethik vor. Die Informationsethik untersucht die moralischen Implikationen des Einsatzes von Informations- und Kommunikationstechnologien und neuen Medien. Ihre Methoden und Inhalte können auch für Unternehmen nützlich sein. Der Artikel „Eine Frage der Moral“ von Oliver Bendel erklärt, was Informationsethik im deskriptiven bzw. empirischen und im normativen Sinne ist und wie Unternehmen die Inhalte und Methoden gebrauchen, aber auch missbrauchen können. Er ist im Juni 2012 in der UnternehmerZeitung erschienen und steht auch als PDF zur Verfügung.
