In ihrer Strategie 2035 hat die FHNW drei Zukunftsfelder definiert, nämlich New Work, Future Health und Zero Emission. Prof. Dr. Oliver Bendel hielt am 6. Mai 2024 in Olten vor dem Fachhochschulrat einen Vortrag zum Thema „Robotik und New Work“. „Der Fachhochschulrat trägt die strategische Führungsverantwortung und übt die Aufsicht über die FHNW aus. Er regelt die Organisation der FHNW und überwacht die Qualität der Leistungen der FHNW.“ (Website FHNW) Prof. Dr. Oliver Bendel erklärte zunächst das Konzept von New Work und ging dann auf neue Entwicklungen in Robotik und Künstlicher Intelligenz ein. Am Ende formulierte er Fragen, die sich mit Blick auf New Work stellen. Kern des Vortrags war die Vorstellung von Vierbeinern wie Spot und Unitree Go2 sowie Zweibeinern wie Unitree H1, Figure 01 und Atlas in seiner elektrischen Version. Vorgestellt wurden die Merkmale und Einsatzbereiche. Die genannten Zweibeiner können als Vorstufen zu universalen Robotern oder Allzweckrobotern gelten. Sie werden von den Firmen als „general-purpose robots“ oder „all-purpose robots“ vermarktet, ohne schon für alle Zwecke geeignet zu sein. Der Vortrag stieß auf reges Interesse und mündete in eine angeregte Diskussion.
Abb.: Der Vortrag fand am Campus Olten statt (Foto: Pati Grabowicz)
Am 26. April 2024 hält Prof. Dr. Oliver Bendel den Gastvortrag „Ethische Implikationen von ChatGPT und Co.“ beim scil-Modul „KI-Grundlagen“ an der Universität St. Gallen. Er stellt – wie schon vor einem Jahr – aus Sicht von Informations- und Maschinenethik verschiedene Überlegungen zu ChatGPT und DALL-E an. Zunächst ist die Frage, woher die Daten für das zugrunde liegende Sprachmodell kommen und unter welchen Bedingungen das Reinforcement Learning from Human Feedback abläuft. Zudem dürfte relevant sein, welche Daten man beim Prompt preisgibt und welche Prompts auf welche Art und Weise zurückgewiesen werden. Ein weiteres Problemfeld ist das Halluzinieren der Sprachmodelle bzw. der darauf basierenden Anwendungen. Diese verdrehen Fakten und erfinden Referenzen. Nicht zuletzt ergeben sich für zahlreiche Anwendungsfelder wie Aus- und Weiterbildung besondere Herausforderungen. So kann man GPTs als Virtual Learning Companions schnell und einfach erstellen, aber es ergeben sich dabei u.a. Urheberrechtsfragen. Die Sprachmodelle sind indes nicht nur für bzw. als Chatbots und Contentgeneratoren relevant, sondern auch für Industrie- und Serviceroboter. In diesem Bereich haben das Sprachmodell PaLM-E sowie ein mit GPT-4 verbundener Figure 01 Aufmerksamkeit erregt. Mehr als beim letzten Vortrag geht Oliver Bendel im Zusammenhang mit Bildgeneratoren neben ethischen Fragen auf ästhetische ein, die man wiederum mit ethischen zusammenbringen kann, etwa das Phänomen des „american smile“ oder die Dominanz der Schönheit. Oliver Bendel hat vor einem Vierteljahrhundert an der Universität St. Gallen zu sogenannten Pedagogical Agents geforscht, die man heute in ihrer Mehrheit wiederum als Virtual Learning Companions bezeichnen würde. Weitere Informationen zum scil über www.scil.ch.
Abb.: So stellt sich DALL-E 3 männliche Professoren vor – stets mit Bart
Douglas „Doug“ Bruce Lenat was an American AI researcher and founder and CEO of Cycorp, Inc. in Austin, Texas. He died in 2023 at the age of 72. Not long before, he had participated in the AAAI Spring Symposia. In a touching speech, Edward „Ed“ Albert Feigenbaum remembered his friend and colleague on the afternoon of 26 March 2024 at the symposium „Empowering Machine Learning and Large Language Models with Domain and Commonsense Knowledge (AAAI-MAKE 2024)“. He is a famous American computer scientist who is considered the father of expert systems. Andreas Martin from the FHNW School of Business created the framework in a sensitive manner. He also called up a video that had never been posted online and that most of the audience had never seen before. It showed Doug Lenat giving an online lecture. Back in 1983, he had come to the opinion that heuristics lead to a dead end because a program mostly learns new things that are similar to what it already knows. His conclusion was that the first step was to make it’s knowledge base as large as possible. This led to the Cyc project, which aimed to capture the general knowledge of an average adult. Both Ed Feigenbaum and Doug Lenat proved to be critics of large language models at the event. More information about the AAAI 2024 Spring Symposia is available here.
Fig.: Edward Feigenbaum during his speech at Stanford University
The AAAI 2024 Spring Symposium Series will take place from March 25-27, 2024 at Stanford University. There are eight symposia in total. One of them is „Impact of GenAI on Social and Individual Well-being“. It will be hosted by Takashi Kido (Teikyo University, Japan) and Keiki Takadama (The University of Electro-Communications, Japan). The announcement text states: „Generative AI (GenAI) presents significant opportunities and challenges in the realms of individ-ual and societal well-being. While its benefits in fields like healthcare, arts, and education are vast, it also necessitates careful consideration of ethics, privacy, fairness, and security.“ The first version of the program was published in mid-March. Minor changes may still be made. On the afternoon of the first day, the following presentations will take place within the topic „Generative AI: Well-being and Learning“: „How Can Generative AI Enhance the Well-being of Blind?“ (Oliver Bendel), „How Can GenAI Foster Well-being in Self-regulated Learning?“ (Stefanie Hauske and Oliver Bendel), „Sleep Stage Estimation by Introduction of Sleep Domain Knowledge to AI: Towards Personalized Sleep Counseling System with GenAI“ (Iko Nakari and Keiki Takadama), and „Personalized Image Generation Through Swiping“ (Yuto Nakashima). Further information on this symposium is available here.
Intelligente tutorielle Systeme (Intelligent Tutoring Systems, ITS) und pädagogische Agenten (Pedagogical Agents) wurden in den 1990er- und 2000er-Jahren intensiv erforscht. Pädagogische Agenten waren häufig Chatbots, manchmal mit Sprachausgabe. Einige hatten animierte Avatare und arbeiteten in virtuellen Lernumgebungen – wie Steve, Adele, Linda und Harmony. Der Screenshot von Harmony stammt aus der Doktorarbeit von Oliver Bendel zu pädagogischen Agenten und wurde 2001 angefertigt. Die Idee des Virtual Learning Companion (VLC) entstand in den 1980er-Jahren und bezog sich damals eher auf virtuelle Peers. Man kann sie VLCs der ersten Generation nennen. In den 1990er-Jahren wurden einige Prototypen geschaffen. Weitere Chatbots für den Bildungsbereich tauchten in den 2020er-Jahren auf. In dieser Tradition stehen die GPTs, die auf GPT-4 basieren. Nutzer ohne Programmier- oder Designkenntnisse können sie in kurzer Zeit für den Lernkontext entwickeln. Es gibt bereits viele GPTs in der Kategorie „Education“ des GPT Store. CK-12 Flexi ist der „world’s most powerful math and science AI Tutor for middle and high school students“. AI Tutor ist „skilled in guiding students through their academic queries“. Universal Primer wirbt mit dem Slogan: „Learn everything about anything“. Dies sind nur drei Beispiele vom Februar 2024 – jeden Tag kommen neue hinzu. Die meisten von ihnen vermitteln Wissen. Für ihr Paper „How Can GenAI Foster Well-being in Self-regulated Learning?“ haben Stefanie Hauske und Oliver Bendel neben dem Digital Learning Facilitator (der hauptsächlich Wissen vermittelt) einen Digital Learning Coach und einen Digital Learning Mentor geschaffen (und damit an die Tradition der pädagogischen Agenten angeknüpft). Die GPTs im Lernkontext kann man als VLCs der zweiten Generation bezeichnen, wobei diese eben auch Tutoren, Mentoren oder Coaches sein können. Sie sind dabei, die formelle Aus- und Weiterbildung an Hochschulen und in Unternehmen und das selbstregulierte Lernen zu erobern. Das Paper wird Ende März 2024 an der Stanford University beim AAAI 2024 Spring Symposium „Impact of GenAI on Social and Individual Well-being“ vorgestellt.
Abb.: Der pädagogische Agent namens Harmony aus dem Jahre 2001
Am 30. Januar 2024 wurde ein Video veröffentlicht, das ein dokumentarischer Zusammenschnitt der interdisziplinären Tagung „KI – Text und Geltung. Wie verändern KI-Textgeneratoren wissenschaftliche Diskurse?“ ist. Diese fand am 25. und 26. August desselben Jahres an der TU Darmstadt statt, unter der Leitung von Prof. Dr. Gerhard Schreiber und Apl. Prof. Dr. Lukas Ohly. Sie war Teil des Ad-hoc-Projekts „Diskurse disruptiver digitaler Technologien am Beispiel von KI-Textgeneratoren des Zentrums verantwortungsbewusste Digitalisierung (ZEVEDI)“. Das Video kann über zevedi.de/themen/ki-text/#video-ger aufgerufen werden. Es stehen deutsche und englische Untertitel zur Verfügung. Zu sehen und zu hören sind u.a. Prof. Dr. Doris Weßels (Fachhochschule Kiel), Prof. Dr. Oliver Bendel (Fachhochschule Nordwestschweiz) und Prof. Dr. Christian Stöcker (Hochschule für Angewandte Wissenschaften Hamburg).
Abb.: Oliver Bendel bei seinem Vortrag an der TU Darmstadt
Das Wahlmodul „Soziale Roboter“ von Prof. Dr. Oliver Bendel wird vom 12. bis 14. Februar 2024 an der FHNW in Olten durchgeführt, gefolgt von seinem Wahlmodul „Soziale Roboter aus technischer, wirtschaftlicher und ethischer Perspektive“, das vom 15. bis 17. Februar am Campus Brugg-Windisch stattfindet. Das eine richtet sich vor allem an angehende Wirtschaftsinformatiker, das andere an angehende Betriebsökonomen. Als Gastreferenten konnten Katharina Kühne von der Universität Potsdam und Claude Toussaint, Managing Partner von navel robotics, gewonnen werden. Beide sind per Videokonferenz zugeschaltet. Vor Ort werden Pepper und NAO aus dem Robo-Lab der FHNW sowie Alpha Mini, Cozmo, Vector, Furby und Hugvie aus dem Social Robots Lab von Oliver Bendel sein. Der kleine Roboter von navel wird hoffentlich in die Kamera winken. In Pflege befindet sich noch der Unitree Go2, der ebenfalls im Privatbesitz des Wirtschaftsinformatikers und Technikphilosophen aus Zürich ist. Als Tutorin steht Social Robotics Girl durchgehend zur Verfügung, ein GPT, das auf dieses Thema spezialisiert ist. Grundlagenwerke sind „Soziale Roboter“ (2021) und „300 Keywords Soziale Robotik“ (2021). Am Ende des Wahlmoduls entwerfen die Studenten und Studentinnen – auch mit Hilfe generativer KI – soziale Roboter, die sie nützlich, sinnvoll oder einfach nur anziehend finden. Die Wahlmodule werden seit 2021 angeboten und erfreuen sich großer Beliebtheit.
Abb.: Oliver Bendel mit dem Vierbeiner von Unitree (Foto: Frank Graef)
At the AAAI 2024 Spring Symposium „Impact of GenAI on Social and Individual Well-being“ the paper „How Can Generative AI Enhance the Well-being of the Blind?“ by Oliver Bendel was accepted. In his paper, the information systems specialist and technology philosopher from Zurich discusses the GPT-4-based Be My AI feature of the Be My Eyes app. He presents his own tests with the app and discusses it from an ethical perspective. The feature is one of the most important inventions in recent years for blind and visually impaired people. It allows them to describe and categorize their surroundings without outside help. However, it is troubling that the app refuses to show some objects, including famous works of art that depict nudity. This disenfranchises people because of the moral sensitivities and economic considerations of the developers. Oliver Bendel will present the paper at Stanford University on March 25-27. It is his ninth consecutive appearance at the AAAI Spring Symposia, which this time consists of eight symposia on artificial intelligence.
Fig.: The app answers the question of which tie goes with a gray suit
Die ICSR 2023 endete mit einer dreistündigen Bootsfahrt durch die Bucht von Doha. An der Corniche lagern hunderte alte Holzboote, und für den Social Event war ein besonders schönes ausgesucht worden. Es gab ein Dinner und eine Playlist, bei der jeder ein Lied seines Landes angeben konnte. Für Deutschland war „Du hast den Farbfilm vergessen“ von Nina Hagen am Start. Dann wurden Hits aus Indien, Sri Lanka, Bosnien, Italien, Japan etc. gespielt. Die Wissenschaftler und Wissenschaftlerinnen kannten kein Halten mehr und verwandelten das Boot in eine Tanzfläche. Hooman Samani erstellte zwischendurch ein Datenset mit den grundlegenden Emotionen, die auch von sozialen Robotern simuliert werden. Das dazugehörige Video kann unter der Bezeichnung „ICSR 2023 Doha Emotion Dataset“ über www.youtube.com/watch?v=91VWd4MU7ck abgerufen werden. Die ICSR 2023 fand vom 3. bis 7. Dezember 2023 in Qatar statt. Sie gehört neben der Robophilosophy zu den wichtigsten Konferenzen für Soziale Robotik weltweit. Das Programm der Konferenz kann hier heruntergeladen werden. Weitere Informationen über icsr23.qa.
Abb.: Die Gruppe auf dem Boot (Foto: Hooman Samani)
Am 6. Dezember 2023 fand im Rahmen der ICSR 2023 die Nachmittagssession „Social Robots as Advanced Educational Tools“ statt. Chairs waren Amol Deshmukh (für John-John Cabibihan) und Oliver Bendel. Rachel Love (Monash University) trug zum Thema „Teachable Robots Learn What to Say: Improving Child Engagement during Teaching Interaction“ vor. „Enhancing Hand Hygiene Practices through a Social Robot-Assisted Intervention in a Rural School in India“ war das Projekt von Amol Deshmukh (University of Glasgow). Xiaoxuan Hei (Institut Polytechnique de Paris) widmete sich dem Thema „Evaluating Students‘ Experiences in Hybrid Learning Environments: A Comparative Analysis of Kubi and Double Telepresence Robots“. Oliver Bendel (School of Business FHNW) stellte das Paper „Alpha Mini as a Learning Partner in the Classroom“ vor, das er zusammen mit Andrin Allemann geschrieben hatte. Das Programm der Konferenz kann hier heruntergeladen werden. Weitere Informationen über icsr23.qa.
Abb.: Oliver Bendel bei seinem Vortrag (Foto: Amol Deshmukh)
Am 3. Dezember 2023 wurde – zusammen mit zwei anderen Konferenzen – die 15th International Conference on Social Robotics (ICSR 2023) feierlich eröffnet. Sie findet bis zum 7. Dezember 2023 in Qatar statt und gehört neben der Robophilosophy zu den wichtigsten Konferenzen für Soziale Robotik weltweit. Sie steht dieses Mal unter der Schirmherrschaft des Premierministers und Außenministers von Qatar, Sheikh Mohammed bin Abdulrahman bin Jassim Al Thani. Nach mehreren Vorträgen wurde ein Promofilm gezeigt, in dem auch Prof. Dr. John-John Cabibihan zu sehen war. Er bildet zusammen mit Dr. Abdulaziz Al Ali den General Chair der Konferenz. Am Mittwoch wird er zusammen mit Prof. Dr. Bendel der Chair der Session „Social Robots as Advanced Educational Tools“ sein. Der Technikphilosoph aus Zürich hat selbst zwei Papers bei der Konferenz, eines mit Sara Zarubica (Erstautorin), zu dem es ein Poster gibt, eines mit Andrin Allemann (Zweitautor), das er in einem Vortrag vorstellt. Das Programm der Konferenz kann hier heruntergeladen werden. Weitere Informationen über icsr23.qa.
The new YouTube channel „GW Animal Law Program“ went online at the end of November 2023. It collects lectures and recordings on animal law and ethics. Some of them are from the online event „Artificial Intelligence & Animals“, which took place on 16 September 2023. The speakers were Prof. Dr. Oliver Bendel (FHNW University of Applied Sciences Northwestern Switzerland), Yip Fai Tse (University Center for Human Values, Center for Information Technology Policy, Princeton University), and Sam Tucker (CEO VegCatalyst, AI-Powered Marketing, Melbourne). Other videos include „Tokitae, Reflections on a Life: Evolving Science & the Need for Better Laws“ by Kathy Hessler, „Alternative Pathways for Challenging Corporate Humanewashing“ by Brooke Dekolf, and „World Aquatic Animal Day 2023: Alternatives to the Use of Aquatic Animals“ by Amy P. Wilson. In his talk, Oliver Bendel presents the basics and prototypes of animal-computer interaction and animal-machine interaction, including his own projects in the field of machine ethics. The YouTube channel can be accessed at www.youtube.com/@GWAnimalLawProgram/featured.
Die ICSR 2023 findet vom 3. bis 7. Dezember 2023 in Qatar statt und gehört neben der Robophilosophy zu den wichtigsten Konferenzen für Soziale Robotik weltweit. Die Hochschule für Wirtschaft FHNW ist mit zwei Papers vertreten. Das Thema der diesjährigen Konferenz lautet „Mensch-Roboter-Zusammenarbeit: See, Luft, Land, Weltraum und Cyberspace“ („Human-Robot Collaboration: Sea, Air, Land, Space and Cyberspace“). Das erste („Pepper as a Learning Partner in a Children’s Hospital“) gehört zum Bereich „Land“ und stammt von Sara Zarubica und Oliver Bendel. Es wird Teil der Posterpräsentationen sein. Das zweite („Alpha Mini as a Learning Partner in the Classroom“) – ebenfalls dem Bereich „Land“ zugeordnet – stammt von Oliver Bendel und Andrin Allemann. Es wird von Oliver Bendel vor dem Auditorium vorgetragen. Die Vorbereitungen laufen an der Hochschule für Wirtschaft FHNW auf Hochtouren. Die Proofs der beiden Papers wurden korrigiert (die Proceedings erscheinen in Kürze bei Springer), das Poster für die Präsentation erstellt. Oliver Bendel wird von der Konferenz in mehreren Beiträgen berichten. Weitere Informationen zur Konferenz sind über icsr23.qa verfügbar.
Beim Developer Day 2023 der SBB hält Prof. Dr. Oliver Bendel eine Keynote mit dem Titel „Die universelle Maschine: Fortschritte in Robotik, Künstlicher Intelligenz, Maschinenethik und Maschinellem Bewusstsein“. In Robotik und Künstlicher Intelligenz (KI) gibt es gegenwärtig enorme Fortschritte. Auch die Maschinenethik und das Maschinelle Bewusstsein – die man der KI zurechnen, aber auch als eigenständige Disziplinen betrachten kann – entwickeln sich mit hohem Tempo weiter. Die Keynote von Prof. Dr. Oliver Bendel stellt die Fortschritte in den Vordergrund und behandelt jeweils hervorstechende und eindrückliche Beispiele. Bei der Robotik werden etwa Bewegungsarten und Gestaltungsformen ins Auge gefasst. Bei Künstlicher Intelligenz, Maschinenethik und Maschinellem Bewusstsein geht der Wirtschaftsinformatiker und Technikphilosoph aus Zürich auf Sprachmodelle und ihre unterschiedlichen Implikationen ein. Am Ende wird alles zu einer universellen Maschine zusammengefügt, die es noch nicht gibt, die aber bereits am Horizont erscheint. Der Developer Day findet am 30. November 2023 im Centre Loewenberg in Murten bei Bern statt. Weitere Informationen über devday23.event.sbb.ch/.
In der Serie „Dialog im Museum“ referiert Prof. Dr. Kerstin Göpfrich (Zentrum für Molekulare Biologie der Universität Heidelberg und Max-Planck-Institut für medizinische Forschung) am 23. November 2023 zum Thema „Puzzle des Lebens? Wie der Bau künstlicher Zellen unser Leben verändern wird“. Auf der Website der Daimler und Benz Stiftung ist zu lesen: „Die Entstehung von Leben auf der Erde beweist, dass belebte Materie aus unbelebten Bausteinen entstehen kann. Ist es möglich, diesen Prozess auch künstlich im Labor nachzuvollziehen? Können einzelne Moleküle tatsächlich zu einer künstlichen lebenden Zelle zusammengesetzt werden? Was lange Zeit Gegenstand philosophischer Spekulationen war, ist heute durch Experimente zugänglich. Es ist möglich, einzelne Bestandteile von Zellen zu entwerfen und in zellähnliche Kompartimente einzuschließen. Ein lebendiges ‚Modellsystem‘ zu konstruieren – diese Vision scheint erreichbar und verleiht der archaischen Frage ‚Was ist Leben?‘ eine neue Bedeutung. In ihrem Vortrag wird Frau Göpfrich erläutern, wie eine synthetische Modellzelle die Wissenschaft und zugleich unser Verständnis vom Leben verändern kann. Mit künstlichen Zellen eröffnen sich Wege, die die Produktion von Wirkstoffen und Materialien grundlegend revolutionieren. So könnten künstliche Zellen als Mikroroboter agieren, kranke Zellen ersetzen oder als programmierbare Arzneistoffträger dienen.“ (Website DBS) Wer nicht vor Ort im Mercedes-Benz-Museum in Stuttgart sein kann, hat die Möglichkeit, über youtube.com/live/18Eo7WiH2Xk dem Vortrag zu folgen und Fragen an die Referentin zu stellen. Weitere Informationen über die Website der Stiftung.
Abb.: So stellt sich DALL-E 3 eine menschliche Zelle vor
Pflegeroboter können als Serviceroboter und in vielen Fällen auch als soziale Roboter begriffen werden. Im Vortrag von Prof. Dr. Oliver Bendel bei der Innocare 2023 am 31. August 2023 im „Careum Auditorium“ in Zürich wurden die Ziele, Aufgaben und Merkmale geklärt, mehrere Prototypen und Produkte vorgestellt und, davon ausgehend, Überlegungen aus der Perspektive der Ethik angestellt. Pflegeroboter mögen zur persönlichen Autonomie beitragen und zugleich die informationelle Autonomie schwächen. Es ist wichtig, Serviceroboter und soziale Roboter im Gesundheitsbereich so zu gestalten, dass sie möglichst allen Anforderungen und Bedürfnissen gerecht werden und nützliche Werkzeuge für Pflegekräfte und Pflegebedürftige sind. Dabei können nicht zuletzt Disziplinen wie die Maschinenethik helfen. Am Ende seines Vortrags ging Oliver Bendel auf das Moralmodul ein, das im Kontext dieser Disziplin entstanden ist. Es nutzt ein Moralmenü, mit dem man über Schieberegler das Verhalten des Roboters beeinflussen kann. Die Version für Pflegeroboter wurde 2022 von Marc Heimann implementiert. Partner der Innocare 2023 waren United Robotics Group (URG), Arabesque, Achermann und HPE Aruba Networks.
Abb.: Oliver Bendel bei der Innocare 2023 (Foto: Nici Jost)
Die Tagung „KI – Text und Geltung. Wie verändern KI-Textgeneratoren wissenschaftliche Diskurse?“ findet am 25. und 26. August 2023 an der TU Darmstadt statt. Prof. Dr. Oliver Bendel referiert am ersten Tag zum Thema „KI-basierte Textgeneratoren aus Sicht von Informationsethik und Maschinenethik“. Dabei ist die Informationsethik – zusammen mit anderen Bereichsethiken – die Disziplin, die sich Künstlicher Intelligenz, Maschinenethik und Maschinellem Bewusstsein zuwendet. Die Maschinenethik, die von ihr betrachtet wird, arbeitet inzwischen auch mit Sprachmodellen wie GPT, etwa im Zusammenhang mit Constitutional AI. Oliver Bendel versteht sie eher technisch, zwischen Philosophie und Informatik bzw. Robotik angesiedelt, mit deutlicher Nähe zu den letzteren Disziplinen. Aber natürlich ist sie auch selbst eine Perspektive, die zur ethischen Reflexion beitragen kann, etwa wenn sie danach fragt, ob sich Maschinen als solche zu erkennen geben oder wie sie bei Dilemmata entscheiden sollen. Das Programm kann hier abgerufen werden.
Abb.: Auch Pepper wurde schon mit ChatGPT verbunden
Am 31. August 2023 findet in Zürich die Innocare 2023 statt. Bei dem Event zu Pflegerobotern sprechen Prof. Dr. Oliver Bendel, Sylvia Stocker, Alexander Pröll, Prof. Dr. David Matusiewicz, Beat Sommerhalder und Sari Wettstein. Partner der Veranstaltung sind United Robotics Group, Arabesque, Achermann und HPE Aruba Networks. Prof. Dr. Oliver Bendel geht in seiner 20-minütigen Eröffnungsrede auf Pflegeroboter aus Sicht von Informations- und Maschinenethik ein. Es werden die Ziele, Aufgaben und Merkmale von Pflegerobotern geklärt und Beispiele vorgestellt. Auf dieser Grundlage werden Überlegungen aus der Perspektive der Ethik angestellt. Am Ende soll deutlich werden, welche Robotertypen und Prototypen bzw. Produkte es gibt, welche Zwecke sie erfüllen, welche Funktionen sie übernehmen und welche Implikationen und Konsequenzen dies für den Einzelnen und die Gesellschaft hat. Pflegeroboter mögen zur persönlichen Autonomie beitragen und zugleich die informationelle Autonomie schwächen. Es ist wichtig, Serviceroboter und soziale Roboter im Gesundheitsbereich so zu gestalten, dass sie möglichst allen Anforderungen und Bedürfnissen gerecht werden und nützliche Werkzeuge für Pflegekräfte und Pflegebedürftige sind. Die Anmeldung erfolgt über inno-care.ch.
Abb.: Oliver Bendel mit Pepper (Foto: Sara Zarubica)
Am 13. Juli 2023 tagte der Stiftungsrat der Daimler und Benz Stiftung im Carl-Benz-Haus in Ladenburg. Als Wissenschaftler mit dabei waren Prof. Dr. Hartmut Hillmer (Universität Kassel), Prof. Dr. Ralf Poscher (Max-Planck-Institut zur Erforschung von Kriminalität, Sicherheit und Recht) und – als Informations- und Maschinenethiker – Prof. Dr. Oliver Bendel (Hochschule für Wirtschaft FHNW). Den Vorsitz hatte Renata Jungo Brüngger (Mitglied des Vorstands der Mercedes-Benz Group AG) inne. Am Abend hielt Korinna Hennig (Norddeutscher Rundfunk) – bekanntgeworden durch ihre Podcasts mit Prof. Dr. Christian Drosten – in Heidelberg den Vortrag „‚Schuld und Lüge‘ – Wissenschaftskommunikation und Vertrauen in Krisenzeiten“. Zudem wurde Dr.-Ing. Maren Scheel der Bertha-Benz-Preis 2023 verliehen, für ihre Doktorarbeit „Experimental Nonlinear Modal Analysis – Method development with particular focus on nonlinear damping“. „Sie hat ein innovatives Messverfahren entwickelt, mit dem gefährliche Schwingungen bei zusammengesetzten Strukturen – etwa bei Leichtbauteilen – vorhergesagt werden können. Die neue Methode eignet sich insbesondere für die Anwendung in der Luftfahrt, der Energieindustrie und im Automobilbau.“ (Website Daimler und Benz Stiftung) Den Vorstand der Stiftung bilden Prof. Dr. Julia Arlinghaus (Fraunhofer-Institut für Fabrikbetrieb und -automatisierung) und Prof. Dr. Lutz H. Gade (Universität Heidelberg). Geschäftsführer ist Dr. Jörg Klein.
Abb.: Beim Berliner Kolloquium 2019 (Foto: Daimler und Benz Stiftung)
Am 20. Juni 2023 hält Prof. Dr. Oliver Bendel einen Onlinevortrag für LeLa, das Lernlabor Hochschuldidaktik für Digital Skills, ein Kooperationsprojekt der fünf Zürcher Hochschulen ETH Zürich, PHZH, UZH, ZHAW und ZHdK. „Ethische Implikationen generativer KI“ sind das Thema. Zunächst klärt der Technikphilosoph den Begriff der generativen KI (engl. „generative AI“). Dann stellt er aus Sicht von Informations- und Maschinenethik verschiedene Überlegungen zu diesem Bereich an, wobei er vor allem auf ChatGPT fokussiert. So ist die Frage, woher die Daten für das zugrunde liegende Sprachmodell kommen und unter welchen Bedingungen das Reinforcement Learning from Human Feedback abläuft. Zudem dürfte relevant sein, welche Daten man beim Prompt preisgibt und welche Prompts auf welche Art und Weise zurückgewiesen werden. Ein weiteres Problemfeld ist das Halluzinieren der Sprachmodelle bzw. der darauf basierenden Anwendungen. Diese verdrehen Fakten und erfinden Referenzen. Mit Visual ChatGPT soll man über Texteingaben Bilder generieren und dann einzelne Elemente editieren können. Solche und andere Bildgeneratoren wie DALL-E, Stable Diffusion und Midjourney werfen wiederum zahlreiche ethische Fragen auf. GPT-3 und GPT-4 bzw. ChatGPT sind nicht nur für bzw. als Chatbots und Contentgeneratoren relevant, sondern auch für Industrie- und Serviceroboter. In diesem Bereich hat indes vor allem das Sprachmodell PaLM-E Aufmerksamkeit erregt. Indem Bilddaten und Daten zu Zuständen und Ereignissen integriert werden, werden Virtualität und Realität verbunden. Konkret kann der Benutzer mit Hilfe eines Prompts einem Roboter eine Anweisung geben, die dieser dann in seiner Umgebung ausführt, die er vorher beobachtet hat und weiter beobachtet. Dabei sind wiederum Herausforderungen vorhanden, etwa mit Blick auf Verlässlichkeit und Haftung. Weitere Informationen zur Reihe „AI or what the ChatGPT“ über dizh.ch/event/was-sind-die-ethische-implikationen-generativer-ki/.
Abb.: Mit Midjourney erstelltes Bild einer Schnorchlerin
Die Shift, eine Tagung zu Fragen von Informations-, Roboter- und KI-Ethik, fand am 20. April 2023 zum fünften Mal statt. Initiatorin und Organisatorin ist Cornelia Diethelm. Moderatorin war wieder Patrizia Laeri. Die Keynote hielt Prof. Dr. Oliver Bendel aus Zürich. Das Video dazu ist am 19. Mai 2023 erschienen. Oliver Bendel ging zunächst auf soziale Roboter ein und auf die Disziplinen Künstliche Intelligenz, Maschinenethik und Maschinelles Bewusstsein. Dann beschrieb er mehrere soziale Roboter, die auch als Serviceroboter im engeren Sinne eingesetzt werden. Auf dieser empirischen Basis stellte er ethische Überlegungen an. Am Ende behandelte er Sprachmodelle wie GPT-3 bzw. GPT-4 und PaLM-E. Er zeigte, wie soziale Roboter und Serviceroboter von diesen profitieren können, in ihrer Sprachfähigkeit und bei ihrer Wahrnehmung der Welt. Auch Ansätze der Maschinenethik waren ein Thema, von der Einpflanzung moralischer Regeln bis hin zur Nutzung von Moralmenüs. Das Video kann hier aufgerufen werden.
Abb.: Oliver Bendel bei der Shift (Foto: Shift/Louis Rafael)
On 5 June 2023, Prof. Dr. Oliver Bendel will give a talk on „Care robots from an ethical perspective“ at the Institute of Ethics, History and Humanities (iEH2) of the University of Geneva. The event will take place in room A04.2910 (CMU). Care and therapy robots can be understood as service robots and in many cases also as social robots. In the talk by Professor Dr. Oliver Bendel from Zurich, the goals, tasks, and characteristics will be clarified and, based on this, considerations will be made from the perspective of ethics. In the end, it should become clear which types of robots and prototypes or products exist in the healthcare sector, what purposes they serve, what functions they assume, and what implications and consequences this has for individuals and society. Care robots may contribute to personal autonomy while weakening informational autonomy. Therapy robots may enhance personal performance and satisfaction, but in individual cases they may also violate human dignity. It is important to design service robots and social robots in the healthcare sector in such a way that they meet as many requirements and needs as possible and are useful tools for caregivers and those in need of care. Disciplines such as machine ethics can help in this regard. Prof. Dr. Oliver Bendel is the editor of several relevant standard works, including „Pflegeroboter“ („Care Robots“, 2018) and „Soziale Roboter“ („Social Robots“, 2021). He has also advised the German Bundestag on this topic. More information via www.unige.ch/medecine/ieh2/fr/la-une/prochain-colloque-ieh2/.
Fig.: Bendel as scientific director of the 23rd Berlin Colloquium (Photo: Daimler und Benz Stiftung)
