Die Berliner Zeitung titelte am 10. September 2024 mit den Worten „Moderne Maschinenstürmer: Wütende Menschen attackieren Roboter“. Im Teaser des Artikels heißt es: „Im 19. Jahrhundert zerstörten Arbeiter Webstühle in Fabriken. Heute werden Lieferroboter und Robotaxis angegriffen. Wiederholt sich die Geschichte?“ Der Artikel, der von der dpa geliefert wurde, bezieht sich auf Brian Merchant, der in seinem Buch „Blood in the Machine“ (2024) den historischen Bogen zwischen den Maschinenstürmern von damals und den Aufständen gegen Big Tech von heute gespannt habe und darin Parallelen erkenne: „So wie die Weber im 19. Jahrhundert Angst davor hatten, von Maschinen ersetzt zu werden, hätten heute die Uber-Fahrer und Amazon-Lagerarbeiter Angst, von einem Roboter ersetzt zu werden.“ (Berliner Zeitung, 10. September 2024) Die Parallelen wurden allerdings schon viele Jahre vorher beschrieben, etwa in dem Artikel „Die Maschinenstürmer des Informationszeitalters“ von Oliver Bendel. Darin geht es freilich weniger um die Angst, seine Arbeit zu verlieren, sondern eher um die Angst, sein Leben zu verlieren, etwa durch eine maschinelle Entscheidung im Straßenverkehr. Sein Leben oder das Leben seiner Freunde und Angehörigen. Der Technikphilosoph schreibt an einer Stelle: „Das Roboterauto greift das Leben direkt an. Die Neoautonomen schlagen zurück. Sie werfen Steine von Brücken, hacken sich in Systeme. Sie sind nicht unbedingt technikfeindlich, so wie es der frühere Maschinenstürmer nicht unbedingt war. Sie sind lediglich gegen diese Form der Technik. Auf Parkplätzen demolieren sie Autos und zünden sie an. Ihr Zorn richtet sich auch gegen die Verkehrs-, Sicherheits- und Kommunikationssysteme, das Internet der Dinge.“ (ICTkommunikation, 5. März 2015)
„Neue Angriffstechnik stört Lidar, Radar und Kameras zugleich“ – so lautet der Titel eines Artikels, der am 7. Juni 2024 in Golem erschienen ist. „Ein Forscherteam hat eine neue Angriffsmethode entwickelt, die auf einfachen Mitteln wie einer dünnen Metallfolie, etwas Farbe und einem Stück Pappe basiert. Mit ihr lassen sich Sensoren autonomer Kraftfahrzeuge gezielt stören und Unfälle provozieren.“ (Golem, 7. Juni 2024) Das Magazin schreibt weiter: „Die Forscher konnten im Rahmen ihrer Experimente zeigen, dass sich ein fremdes Auto durch ihren Angriff fortwährend vor dem Erkennungssystem eines autonomen Fahrzeugs verbergen lässt.“ (Golem, 7. Juni 2024) In einem Artikel für ICTkommunikation vom 6. März 2018 hatte Oliver Bendel zehn Möglichkeiten vorgestellt, wie man Sensoren von aussen attackieren kann. Im seinem Auftrag untersuchte M. Hashem Birahjakli im Jahre 2020 im Rahmen seiner Abschlussarbeit weitere mögliche Angriffe auf selbstfahrende Autos. „The results of the work suggest that every 14-year-old girl could disable a self-driving car.“ Natürlich auch jeder vierzehnjährige Junge, wenn er vergleichbares Equipment mit sich führt.
„Die Webseite Techspot und der Guardian berichten, dass eine Gruppe von Verkehrsaktivisten mit dem Namen Safe Street Rebel in San Francisco eine lustige Art des Protestes gefunden hat, um autonom fahrende Autos von Waymo und Cruise außer Gefecht zu setzen: Sie setzen ihnen einfach Verkehrshütchen auf die Motorhaube.“ (Golem, 14. Juli 2023) Dies schrieb Golem am 14. Juli 2023. Prof. Dr. Oliver Bendel weist seit mehreren Jahren darauf hin, dass automatische und autonome Autos auf einfache Weise lahmgelegt werden können. Am 6. März 2018 fragte er in einem Artikel in einer Schweizer IT-Zeitschrift: „Scheitert autonomes Fahren an manipulierten Sensoren?“ … Eine Abschlussarbeit seines Studenten M. Hashem Birahjakli hat dann Methoden und Mittel systematisch zusammengestellt und untersucht. In einem Blogpost dazu heißt es: „The results of the work suggest that every 14-year-old girl or boy could disable a self-driving car. So far, hacking has been seen as the greatest threat to autonomous driving. But while not everyone can hack, almost everyone carries chewing gum or lipstick. The automotive industry should consider this threat seriously.“ Der Betreiber Waymo reagiert hilflos auf die Aktionen: „Ein Pressesprecher betonte, die Verkehrshütchenaktion zeuge von mangelndem Verständnis dafür, wie autonome Fahrzeuge funktionierten, und seien Vandalismus.“ (Golem, 14. Juli 2023) Tatsächlich wissen die Aktivisten sehr wohl, wie autonome Fahrzeuge funktionieren. Und genau das ist das Problem.
Abb.: So verwendet man Verkehrshütchen normalerweise
Die junge Schweizerin Nathalie Matter hat für Kanal K einen hörenswerten einstündigen Radiobeitrag zum Thema „Crash“ gemacht. Gesendet wurde er am 1. April 2020. Es geht um etwas andere Zugänge zu Autounfällen. Zu Wort kommen u.a. der Kultur- und Medienwissenschaftler Johannes Binotto, der Markenberater Petter Glassen, der Fotograf Raffael Waldner und der Informations- und Maschinenethiker Oliver Bendel. Es ist ein Mosaik an Ideen, Thesen und Analysen geworden, das neugierig macht auf das, was in der „Sendung über Mensch-Auto-Beziehungen“ mit dem Titel „Mensch, Auto!“ noch kommen mag. Man lernt, dass Autounfälle auch erotisch und ästhetisch gedeutet werden können. Man versteht, dass wir mit autonomen Autos vielleicht nicht gut umgehen können, dass wir uns an sie anpassen müssen und sie nicht wirklich hassen können, wenn Unfälle passieren. „Kanal K ist das Musik-, Community- und Ausbildungsradio im Raum Aargau/Solothurn und erreicht 35’000 Hörerinnen und Hörer. Das Programm hebt sich thematisch, kulturell und musikalisch von den kommerziellen Radios ab.“ (Website Kanal K) Weitere Informationen über www.kanalk.ch.
Raffael Schuppisser, stellvertretender Chefredakteur und Leiter Kultur, Leben & Wissen von az Nordwestschweiz bzw. Schweiz am Wochenende, sprach Ende Oktober 2019 mit Oliver Bendel über Maschinenethik. Das Ergebnis wurde am 3. Dezember 2019 in zahlreichen Schweizer Medien publiziert, darunter Aargauer Zeitung und Basellandschaftliche Zeitung. In der Limmattaler Zeitung wurde die kritische Haltung des Informations- und Maschinenethikers zu autonomen Autos herausgestellt. Oliver Bendel sieht diese vor allem auf der Autobahn, nicht in der Stadt. Er rät dazu, sie nicht über Leben und Tod von Menschen entscheiden zu lassen. Moralisieren kann man sie aber mit Blick auf Tiere. In der Neuen Luzerner Zeitung wurde thematisiert, dass Oliver Bendel gegenwärtige moralische Maschinen als kleine Fundamentalisten ansieht – weil sie sich sklavisch an Regeln halten. Dies ist keinesfalls zu ihrem Nachteil und auch nicht zum Nachteil der Umwelt, in der sie sich bewegen – was man bei menschlichen Fundamentalisten nicht gerade behaupten kann. In Watson wird auf die Rolle der Maschinenethik bei Sexrobotern hingewiesen. Die Disziplin kann dabei mithelfen, diese im Sinne der Benutzer zu gestalten. Vorschläge dazu hat Oliver Bendel wiederholt gemacht, etwa 2016 auf der Konferenz „Love and Sex with Robots“ am Goldsmiths in London. Der Artikel in Watson kann über www.watson.ch/!197665855? abgerufen werden.
Abb.: Oliver Bendel im Gespräch mit dem GEO-Chefredakteur (Foto: Körber-Stiftung/Claudia Höhne)
„Die Digitalisierung hat längst alle Bereiche unseres Lebens durchdrungen und macht auch vor dem menschlichen Gehirn nicht Halt. Die neuen Möglichkeiten bringen Visionen von großen Entwicklungen in Wirtschaft, Forschung und natürlich auch der Hirnforschung mit sich, gleichzeitig gibt es weitreichende Diskussionen, ob alle möglich erscheinenden Entwicklungen ethisch vertretbar sind. Neuronale Netze, künstliche Intelligenz (KI), autonome Systeme – die Digitalisierung ist angewiesen auf neurowissenschaftliche Erkenntnisse. Neurowissenschaftler wiederum versprechen sich neue Wege für Forschung und Behandlung durch die rasanten Fortschritte der Digitalisierung.“ (Website GHS) Gemeinsam mit der Frankfurter Allgemeinen Zeitung veranstaltet die Gemeinnützige Hertie-Stiftung diese Reihe, die laut Eigenaussage in Übersichtsvorträgen, Podiumsdiskussionen und Gesprächen in hochkarätiger Besetzung das „Gehirn der Zukunft“ umkreist. Bei der Veranstaltung „KI & Autonomes Fahren“ am 13. Mai 2019 tragen Prof. Dr. Oliver Bendel (Hochschule für Wirtschaft FHNW), Dr. Corinna Bernarding (Universität des Saarlandes), Prof. Dr. Andreas Geiger (Max-Planck-Institut für intelligente Systeme) und Dr. Sebastian Söhner (Porsche AG) über automatisches und autonomes Fahren vor und diskutieren auf dem Podium miteinander. Weitere Informationen über www.ghst.de/gehirn/erforschen/veranstaltungen/#c11097.
„Der automatisierte Verkehr fasziniert und irritiert. Die Meinungen gehen auseinander, auf den Plätzen, auf den Podien, in den Medien. Ich bin überzeugt, dass das autonome Auto nichts in den Innenstädten verloren hat. Zu viele Dinge, Lebewesen und Ereignisse, die es zu beurteilen hat, zu viele Situationen, in denen Kommunikation gefragt ist, ein Handzeichen, ein Blickkontakt. Der hoch- und vollautomatische bzw. autonome PKW gehört auf die Autobahn. Dort trägt er dazu bei, die Zahl der Unfälle zu reduzieren. Und gerät kaum in Situationen, in denen er moralische Urteile fällen und z.B. zwischen menschlichen Opfern entscheiden müsste.“ (ICTkommunikation, 22. März 2018) In den Städten sollten nach der Meinung von Oliver Bendel keine autonomen Autos fahren, aber autonome Busse und Shuttles, mit geringer Geschwindigkeit, auf virtuellen Schienen bzw. auf speziellen Spuren. Der Gastbeitrag „Im smarten Shuttle unterwegs“ des Informations- und Maschinenethikers für die ICTkommunikation ist am 22. März 2018 erschienen und kann über ictk.ch/inhalt/im-smarten-shuttle-unterwegs aufgerufen werden.
Moderne Autos verfügen über zahlreiche Sensoren, je nach Einordnung und Zählweise zwischen 40 und 200. Die einen sind aktiv, die anderen sind passiv, einige richten sich nach innen, einige nach außen. Beim teil-, hoch- und vollautomatisierten Fahren und bei autonomen Autos spielen vor allem Sensoren eine Rolle, mit deren Hilfe die Umgebung erfasst, untersucht und bewertet wird. Dazu gehören Ultraschallsensoren, Radar- und Lidarsysteme, Infrarotkameras und 2D- und 3D-Kameras. Weil sich diese Sensoren nach außen richten, kann man sie von außen auch physisch manipulieren. Dies ist eine Gefahr, die bisher nur wenig thematisiert wurde. Man bemerkte durchaus, dass Fahrzeuge sich optisch täuschen lassen, dass sie mit Signalen attackiert oder dass ihre Signale gestört werden können, ganz abgesehen von klassischen Hackingmethoden. Aber man vernachlässigte, was mit einfachen Mitteln möglich ist. Der Beitrag „Scheitert autonomes Fahren an manipulierten Sensoren?“ von Oliver Bendel beleuchtet diese Gefahr. Er ist am 6. März 2018 in der ICTkommunikation erschienen und kann über ictk.ch/inhalt/scheitert-autonomes-fahren-manipulierten-sensoren abgerufen werden.
„Die zunehmende Digitalisierung hat das Potenzial, die Schweizer Verkehrslandschaft in den kommenden Jahren umfassend zu verändern. Durch automatisiertes und vernetztes Fahren verspricht die intelligente Mobilität gesteigerte Verkehrseffizienz, effektiver genutzte Infrastrukturen und mehr Verkehrssicherheit.“ Doch die „automatisierte Mobilität“ verlange auch eine entsprechende (Daten-)Infrastruktur und „Anpassungen der Regulierungen“ – und „wirft Fragen zu Ethik und Datenschutz auf“ (Website TA-SWISS). So beginnt die Information zu einer neuen Ausschreibung von TA-SWISS. Im Vorfeld hatte die Einrichtung, die Entscheidungsgrundlagen für Parlament und Bundesrat erarbeitet, mehrere Experten nach Bern eingeladen und sich von ihnen beraten lassen, unter ihnen der Ethiker und Wirtschaftsinformatiker Oliver Bendel (Hochschule für Wirtschaft FHNW) und der Jurist Herbert Zech (Universität Basel). Den vollständigen Ausschreibungstext und die -unterlagen findet man über www.ta-swiss.ch. Offerten können bis 31. März 2018 eingereicht werden.
ver.di (Fachbereich Verkehr) lädt ein zur „ÖPNV Betriebs- und Personalrätekonferenz“ vom 23. – 24. November 2017 in Berlin. Am ersten Tag referieren u.a. Dr. Norbert Huchler, ISF München („ÖPNV 4.0: Auswirkungen auf Arbeitsbedingungen und Beispiele aus der Praxis“), Stefan Roebrocks, Betriebsratsvorsitzender ASEAG Aachen („Praxisbeispiel automatisierter Busverkehr“) und Prof. Dr. Oliver Bendel, Hochschule für Wirtschaft FHNW („Sollten autonome Fahrzeuge moralische Maschinen sein? Wer entscheidet in der Zukunft?“). „Im Fachbereich Verkehr arbeiten die Spezialistinnen und Spezialisten des Transportsektors. Sie kümmern sich um alle anstehenden Fragen. Egal, ob es um die Interessen der Beschäftigten des öffentlichen Straßenpersonenverkehrs, der Binnenschifffahrt, der Seeschifffahrt, bei Taxiunternehmen, in privaten Busbetrieben, bei Eisenbahnunternehmen (außer DB AG), der Flughafen- und Verkehrsfluggesellschaften sowie der See- und Binnenhäfen geht.“ (Website ver.di) Weitere Informationen über verkehr.verdi.de.
PostAuto verfolgt mit dem SmartShuttle, das seit 2016 fahrerlos in Sion unterwegs ist, eher einen Google- als einen Tesla-Ansatz. Die Strecken werden mit Hilfe von Lidar und 3D-Lidarkarten abgefahren. Auch über Kameras verfügt das SmartShuttle. Auf dem Podium sitzen beim Movimento 2017 Prof. Dr. Oliver Bendel (Professor für Wirtschaftsinformatik, Informationsethik und Maschinenethik an der Hochschule für Wirtschaft FHNW), Tim Cole (Autor, Blogger und Redner) und Prof. Dr. Roland Siegwart (Professor für Autonome Systeme an der ETH Zürich). Die Moderation obliegt Urs Bloch (Mediensprecher bei PostAuto Schweiz, vormals Redaktor bei der NZZ). Auf der Website www.postauto.ch/de/movimento sind folgende Informationen zu finden: „Überraschend, informativ, vernetzend: Am 30. November 2017 wird Ihnen das Movimento von PostAuto von 09.00 bis 14.30 Uhr neue Impulse geben und Sie gut unterhalten.“ Die Gäste aus der Mobilitätsbranche der ganzen Schweiz können sich im Berner Westside angeregt austauschen. „Sei dies über die Mobilität oder über andere Themen, sei dies bei Kaffee und Gipfeli oder beim Lunch.“ (Website PostAuto)
Am 6. und 7. September 2017 treffen in der City-Garage in St. Gallen bei zwei VIP-Abenden ganz unterschiedliche Menschen aufeinander, nämlich Salomé Kora, Stephan Altrichter, Ly-Ling Vilaysane und Oliver Bendel. Salomé Kora, 23 Jahre alt, ist eine Sprinterin und Staffelläuferin. Mit der 4-mal-100-Meter-Staffel stellte sie 2016 einen neuen Schweizer Rekord auf. Stephan Altrichter wurde 2010 Chef von Porsche Schweiz. Zuvor leitete er u.a. die Mercedes-Benz-Niederlassung in New York. Ly-Ling Vilaysane ist Modedesignerin in St. Gallen. Sie pendelt zwischen Schweiz, Österreich, Ungarn und Frankreich. Oliver Bendel ist Technikphilosoph und forscht vor allem in der Informationsethik und in der Maschinenethik. Er denkt sich moralische Maschinen nicht nur aus, sondern baut sie auch. Befragt werden die vier Personen auf dem Podium von Linda Fäh, Miss Schweiz von 2009. Sie singt und moderiert seit mehreren Jahren. Ein Thema wird die Maschinenethik sein, konkret die Frage, ob autonome Autos moralische Regeln befolgen und ob sie qualifizieren oder quantifizieren sollten.
Nele Würzbach von Noizz.de hat mit Oliver Bendel ein Interview zu autonomen Autos geführt, das am 5. Juni 2017 in dem Magazin aus Berlin veröffentlicht wurde. Eine Frage lautete, ob wir eines Tages während der Fahrt schlafen können. Die Antwort des Informations- und Maschinenethikers lautete: „Wenn wir das teil- und hochautomatisierte Fahren hinter uns gelassen haben und zum vollautomatisierten bzw. autonomen Fahren gekommen sind, können wir in der Tat während der Fahrt schlafen. Das Innenleben des Autos müsste entsprechend gestaltet werden, es bräuchte Liegesitze, verdunkelbare Scheiben etc. Es bräuchte zudem Konzepte für Gefahrensituationen. Vom Tiefschlaf bis zur vollen Denk- und Urteilsfähigkeit kann es eine Weile dauern. Ich denke, dass diese Vision bei PKW frühestens in zehn Jahren umgesetzt werden kann, und auch nur auf der Autobahn. Es sind übrigens nicht nur technische, sondern ebenso psychologische Aspekte zu bedenken. Man müsste ein Zutrauen zu den Fahrzeugen fassen, das dem Zutrauen zu Flugzeugen entspricht. Man müsste lernen, in einer Situation zu schlafen, die bisher unsere höchste Aufmerksamkeit beansprucht hat.“ Der Beitrag mit dem Titel „Kann man bald am Steuer schlafen?“ – davon, dass es auch künftig noch ein Steuer gibt, kann ausgegangen werden – kann hier aufgerufen werden.
„Während das Auto sicher ans Ziel fährt, drehen die Insassen in den Lounge-Chairs gemütlich die Sitze zu den Mitfahrern, unterhalten sich, schreiben E-Mails oder lesen ein Buch. Solche Versprechen mit Bildern erster Prototypen der Automobile der Zukunft werden derzeit von der Autoindustrie und Entwicklern wie Elon Musk verbreitet.“ Mit diesen Worten beginnt ein Beitrag auf „Die Debatte“ vom 11. Mai 2017, verfasst von Nico Dannenberger. Zitiert wird u.a. Oliver Bendel: „Der Stadtverkehr ist für autonome PKW, die eine normale Geschwindigkeit haben, kaum zu bewältigen.“ Und: „Es sollte gar keinen ausschließlich autonomen Verkehr geben. Er lässt sich kaum in die Praxis umsetzen. Es wird immer Hybride brauchen.“ Auch Prof. Dr. Raul Rojas, Leiter des Dahlem Center for Intelligent Systems an der FU Berlin, kommt zu Wort, sowohl im Text als auch in einem Video. Der Beitrag zur technischen Dimension kann über www.die-debatte.org/autonomes-fahren-technische-dimension/ nachgelesen werden. In einem weiteren Beitrag zur rechtlichen Dimension werden u.a. Alexander Dobrindt und Philip Slusallek zitiert.
Der Internationale Auto-Salon Genf ist eine der wichtigsten Fachmessen im Bereich der Mobilität. Er findet immer im März in Le Grand-Saconnex im Kanton Genf statt. Im Jahre 1907 musste man nach Zürich ausweichen, weil man im Westen im zunehmenden Autoverkehr eine Gefahr für Fußgänger sah und sich eine feindliche Stimmung verbreitete. Im Vorfeld des Auto-Salons 2017 wurden verschiedene Experten zum hoch- und vollautomatisierten Fahren befragt. Die Netzwoche widmete diesem ihren Schwerpunkt in der Ausgabe 4/2017 und ließ Frank M. Rinderknecht von Rinspeed und Oliver Bendel von der Hochschule für Wirtschaft FHNW zu Wort kommen. Die beiden hatten sich im Juli 2016 persönlich getroffen. Man sprach im Büro von Frank M. Rinderknecht in Zumikon über intelligente Autos und besuchte zusammen die Werkstatt, in der es von futuristischen Fahrzeugen nur so wimmelt. Das Gespräch wurde von RED, dem Magazin der Schweizer Börse SIX, aufgezeichnet und veröffentlicht. In der Netzwoche drückt der Visionär aufs Gas, der Ethiker steigt in die Bremsen. Beide sind der Meinung, dass das autonome Fahren Potenzial hat. Bendel sieht es aber nur auf den Autobahnen, nicht in den Ballungsgebieten, wo Fußgänger, Fahrradfahrer und Fahrzeuge aufeinander treffen. Er hat nicht die Angst, die man vor 110 Jahren in Genf hatte, warnt aber vor Situationen, in denen Autos nicht nur als Objekte, sondern auch als Subjekte in Unfälle verwickelt sind. Der Artikel kann hier als PDF heruntergeladen werden.
PostAuto gehört beim hochautomatisierten Fahren zu den führenden Unternehmen auf der Welt. Der technische Leiter Ramon Mueller gewährte Prof. Dr. Oliver Bendel von der FHNW und einer kleinen Gruppe von Studierenden am 3. März 2017 einen tiefen Einblick in den Betrieb des SmartShuttle. Man verfolgt eher einen Google- als einen Tesla-Ansatz. Die Strecken werden mit Hilfe von Lidar und Lidarkarten abgefahren. Auch über Kameras verfügt das SmartShuttle. Auf einer neuen, kleinen Teststrecke in Bern wurden die Gäste auf den virtuellen Schienen von Haltestelle zu Haltestelle kutschiert. Bei Personen auf der Fahrbahn wurde in ca. zwei Metern Abstand gehalten. Auch bei plötzlich auftauchenden Hindernissen konnte rechtzeitig gebremst werden. Im Fahrzeug befinden sich Schalter für Notbremsungen, die von allen Passagieren gedrückt werden können. Im Pilotbetrieb in Sion im Wallis ist bei jeder Fahrt ein Begleiter zugegen. Laut einer Umfrage würden die meisten Menschen aber auch ohne ihn mitfahren. Das Shuttle navigiert in Sion an einer Stelle durch eine enge Gasse, die ein Fahrer kaum bewältigen könnte. Im Mischbetrieb mit Fußgängern und Fahrradfahrern fährt es durchschnittlich nur noch 5,7 km/h schnell. Schneeflocken werden mit Hilfe von speziellen Algorithmen „entfernt“. Nach zwei Stunden war die exklusive Vorführung in Bern vorbei, mit der die PostAuto AG ihren Willen zur Bürgernähe und zum Dialog mit der Wissenschaft demonstrierte.
In der Februarausgabe von P.M. Magazin ist ein langes Interview mit Oliver Bendel abgedruckt. Am 9. September trafen sich der Redakteur Rüdiger Barth und der Wissenschaftler auf dem Campus Brugg-Windisch der FHNW und sprachen über Maschinenethik, Künstliche Intelligenz und Robotik. P.M. ist eine populärwissenschaftliche Zeitschrift und hat eine Auflage von ca. 163.000 Exemplaren. Der Titel des sechsseitigen Beitrags – neben dem Interview finden sich noch Informationen zu Oliver Bendel und zu den Robotikgesetzen von Isaac Asimov – lautet „Ich würde das Auto ein bisschen dumm lassen“. Der Informationsethiker und Maschinenethiker kann sich vorstellen, dass Autos klug genug sind, für bestimmte Tiere zu bremsen, wenn die Luft rein ist, sie aber zu dumm dafür sind, Menschen zu qualifizieren, auf ihre Eigenschaften zu schauen, um sie dann bei einem Unfall zu verschonen oder nicht zu verschonen, was man wiederum als klug bezeichnen könnte, da es keine befriedigenden Lösungen für solche Entscheidungen gibt. Auch das Quantifizieren ist, zumindest bei kleinen Zahlen, nicht angemessen. Warum sollte jemand getötet werden, nur weil zwei Passanten in der Nähe stehen? Kaum jemand würde das akzeptieren, der Betroffene nicht, die Familie nicht, die Freunde nicht. Die zwei Passanten wären natürlich aufgeschlossener für solche Abwägungen, aber auch nur, wenn sie zusammen unterwegs sind und nicht alleine, was wiederum die Ungerechtigkeit zeigt. Solche Gedankenspiele dürfen nicht mit der Wirklichkeit verwechselt werden. Sie sind aber ein klassisches Mittel, um Grundannahmen und Widersprüche zu erkennen und am Ende die Wirklichkeit auch gestalten zu können.
Abb.: Künstliche Intelligenz und maschinelle Moral
SRF3 Input bringt am 2. Oktober 2016 kurz nach 20 Uhr den Beitrag „Menschmaschine: Wenn Gedanken den Computer steuern und umgekehrt“. „Heute können wir Computergames mit der Kraft der Gedanken spielen. Die Schnittstelle zwischen Hirn und Computer ermöglicht es auch gelähmten Menschen, Dinge wieder selbst in die Hand zu nehmen. Nur, wohin führt das?“ (Website SRF) Zu Wort kommt u.a. Kevin Warwick, Deputy Vice-Chancellor für Forschung an der Coventry University. „Prior that he was Professor of Cybernetics at The University of Reading, England. His research areas are artificial intelligence, control, robotics and biomedical engineering.“ (Website Warwick) Zu Wort kommt auch Prof. Dr. Oliver Bendel von der Hochschule für Wirtschaft FHNW, der mit der Journalistin und Moderatorin Sabine Meyer im Gespräch war. Sie unterhielten sich auf dem Campus Brugg-Windisch über autonome Autos und Waffen sowie über Chancen und Risiken von Gedankensteuerung und -lesen. Die Input-Macher seien, so die Website, Grubenarbeiter. „Sie graben sich in einem Thema fest. Bringen Fakten ans Tageslicht. Schälen den Kern der Sache heraus. Tragen Meinungen zusammen. Bilden Stimmungen ab. Fördern Analysen zutage.“ (Website Input) Weitere Informationen über www.srf.ch/sendungen/input.
In der neuen Ausgabe von RED, dem Magazin der Schweizer Börse SIX, sind Frank M. Rinderknecht von Rinspeed und Prof. Dr. Oliver Bendel von der Hochschule für Wirtschaft FHNW im Gespräch. Bereits im Juli 2016 traf man sich in der Werkstatt in Zumikon, in der es von futuristischen Fahrzeugen nur so wimmelt. Man stieg in diese hinein und aus diesen wieder heraus – und rollte zusammen die mächtigen Räder. Die Bilder dazu findet man in dem vierseitigen Beitrag mit dem Titel „Wie viel Mensch soll in der Maschine stecken?“. Iris Kuhn-Spogat fragte im Büroraum bei Kaffee und Wasser nach autonomen Autos, maschinellen Entscheidungen und verrückten Erfindungen. Ihre Gesprächspartner waren sich in vielen Dingen einig. Man liebt das Spielerische, Verrückte, man versucht das scheinbar Unmögliche, bei der Entwicklung von Roboterautos und Amphibienfahrzeugen sowie von guten und bösen Chatbots. SIX und Rinspeed haben schon mehrmals zusammengearbeitet. Ein Video – abrufbar über six.swiss/rinspeed – gibt Einblicke, nicht zuletzt in die Werkstatt. Auch Oliver Bendel und die Finanzexperten haben sich bereits einmal getroffen, bei seinem Vortrag über Maschinenethik an der Börse in Zürich. Der Beitrag wurde von den Verantwortlichen freundlicherweise zur Verfügung gestellt und kann als PDF heruntergeladen werden.
Im ARD-Mittagsmagazin vom 27. Juli 2016 stand Oliver Bendel als Technikphilosoph und Maschinenethiker der Moderatorin Hannelore Fischer Rede und Antwort. Zuvor war ein Film zum automatisierten Fahren gebracht worden. Der Bundesverkehrsminister Alexander Dobrindt ist sozusagen auf der Überholspur und lässt Bedenken, so ist es manchen der Stimmen zu entnehmen, die zu hören sind, weit hinter sich. Womöglich wird „wahrnehmungsbereit“, enthalten in der aktuellen Gesetzesvorlage, sogar Begriff des Jahres – der Interpretationsspielraum ist auf jeden Fall nicht weniger groß als die Bedenken. Der Fahrer soll wahrnehmungsbereit sein, wenn er sich auf das Autoauto verlässt, und weil er dieses voll nutzen will, wird er es nur eingeschränkt sein. In seinen Antworten versucht Oliver Bendel zu vermitteln. Er hat nichts gegen automatisiertes Fahren, ist aber der Meinung, dass es in erster Linie auf der Autobahn stattfinden soll, in der „natürlichen Umgebung“ des Automobils. Städte seien zu komplex; während die Maschine dort in zahlreiche Unfälle verwickelt sein und die eine oder andere falsche (u.U. auch in moralischer Hinsicht schlechte) Entscheidung durch sie getroffen wird, ergeht es ihr auf der Autobahn, wenn es sich nicht gerade um einen amerikanischen Highway mit Wendemöglichkeit handelt, ganz anders, ist sie in ihrem Element, und die seltenen Unfälle – viele kann das Auto vermeiden helfen – wird die Gesellschaft verschmerzen können. Er ist ebenso wie Alexander Dobrindt der Meinung, dass automatische und autonome Autos nicht Menschen qualifizieren sollen, hält aber auch das Quantifizieren für nur bedingt tauglich. Eine befriedigende Lösung, die von der Ethikkommission, die vom Bundesverkehrsminister eingesetzt wird, erarbeitet werden könnte, sieht er im Moment nicht. Weitere Informationen über www.daserste.de/information/politik-weltgeschehen/mittagsmagazin/index.html; dort kann auch einige Wochen lang der Podcast aufgerufen werden.
Raffael Schuppisser von der Aargauer Zeitung war am 1. Juli 2016 im Gespräch mit dem Wirtschaftsinformatiker und Maschinenethiker Oliver Bendel. Thema war der Unfall des Tesla Model S in den USA bei aktiviertem Autopilot. Der Insasse war dabei ums Leben gekommen. Ein Sattelschlepper war über eine Kreuzung auf dem Highway, über welche die Richtung gewechselt werden kann, senkrecht zum PKW geraten, der die weiße Fläche für den Himmel oder ein Schild gehalten hat und unvermindert weitergefahren ist. „Eine Schwachstelle ist die Kamera. Diese lässt sich leicht täuschen.“ (Aargauer Zeitung, 2. Juli 2016) Die Verwechslung begünstigt hat ein ungünstiger Winkel. Der Wissenschaftler rät dazu, in den nächsten Jahren weitere Tests und Experimente zu machen, die Ergebnisse der optischen Sensoren gegenprüfen und hoch- und vollautomatisierte bzw. autonome Autos vorrangig auf Autobahnen ohne Wendemöglichkeiten verkehren zu lassen. Der Artikel vom 2. Juli kann über www.aargauerzeitung.ch/leben/forschung-technik/maschinen-ethiker-analysiert-toedlichen-unfall-die-technik-ist-noch-nicht-so-weit-130397988 aufgerufen werden; zudem ist er am 2. Juli in der gedruckten Ausgabe erschienen.
In der Berlin-Brandenburgischen Akademie der Wissenschaften am Gendarmenmarkt fand am 14. Juni 2016 das DVR-Forum „Automatisiertes Fahren und Ethik“ statt. Der Untertitel „Welche Entscheidungen wollen wir Maschinen überlassen?“ deutete den Schwerpunkt an. An der Podiumsdiskussion nahmen Prof. Dr. Oliver Bendel (Hochschule für Wirtschaft FHNW), Prof. Dr. Dr. Eric Hilgendorf (Universität Würzburg), Prof. Dr. Jürgen Leohold (Volkswagen AG), Prof. Dr. Volker Lüdemann (Hochschule Osnabrück) und Prof. Klaus Kompaß (BMW Group) teil. Es moderierte Monika Jones von der Deutschen Welle. Bendel sprach sich dafür aus, die Roboterautos auf der Autobahn fahren zu lassen. Innenstädte seien in den nächsten Jahren kaum beherrschbar. Als Maschinenethiker sieht er nur geringe Chancen, dass befriedigende Regeln und Formeln in Bezug auf Tod und Leben von menschlichen Verkehrsteilnehmern entwickelt werden. Seine Forschung konzentriert sich daher darauf, dass Haus- und Wildtieren mit Hilfe von Fahrerassistenzsystemen und Roboterautos geholfen wird. Hilgendorf wies darauf hin, dass ein utilitaristisches Durchzählen in manchen Fällen durchaus vom Recht gedeckt sei. Lüdemann problematisierte Roboterautos als Datenkraken. Kompaß und Leohold sprachen aus der Perspektive der deutschen Automobilindustrie, die – wie mehrere Diskutanten bemerkten – unter immer mehr Druck aus dem Silicon Valley gerät. Dieses geriet zum Sinnbild des Wandels in der Branche und war mit einem Mal in Berlins Mitte. Weitere Informationen über www.tag-der-verkehrssicherheit.de.
