Human-Compatible AI for Well-being

Three Bachelor students from the new FHNW School of Computer Science gave a presentation at the AAAI 2025 Spring Symposia. Şahan Hatemo, Christof Weickhardt, and Luca Gisler were on site in San Francisco on April 1, 2025 and presented the paper “Revisiting the Trolley Problem for AI: Stereotypes and Biases in Large Language Models and their Impact on Ethical Decision-Making” at the symposium “Human-Compatible AI for Well-being: Harnessing Potential of GenAI for AI-Powered Science”. Prof. Dr. Oliver Bendel from the FHNW School of Business, the fourth author, gave them feedback on the paper and located the project in the discipline of machine ethics. Şahan Hatemo also presented the paper “Miss Tammy as a Use Case for Moral Prompt Engineering” by Myriam Rellstab and Oliver Bendel, who were unable to be in San Francisco. For the technology philosopher, the chatbot is an implementation of machine ethics methods in the field of Large Language Models (LLMs). He speaks of moral prompt engineering, by which he means the combination of prompt engineering and, where appropriate, retrieval augmented generation (RAG). The proceedings of the AAAI 2025 Spring Symposia will be published shortly.

Fig.: The participants of the symposium

Elective Module „Soziale Roboter“

The elective module „Soziale Roboter“ („Social Robots“) by Prof. Dr. Oliver Bendel will be held again from April 15 to 17, 2025 at the FHNW in Olten. It is primarily aimed at prospective information systems specialists, but prospective business economists can also take part. Dr. Amol Deshmukh has been invited as a guest speaker. He previously worked for the University of Glasgow and now conducts research at ETH Zurich. In his lecture, he will present the findings from his paper „Leveraging Social Robots to Promote Hand Hygiene: A Cross-Cultural and Socio-Economic Study of Children in Diverse School Settings“. Unitree Go2, Alpha Mini, Cozmo, Vector, Aibi, Furby and Booboo from Oliver Bendel’s private Social Robots Lab will also be on site. Social Robotics Girl, a so-called GPT who specializes in this topic, will be available as a tutor throughout the event. Basic works are „Soziale Roboter“ (2021) and „300 Keywords Soziale Robotik“ (2021). At the end of the elective module, students design social robots – also with the help of generative AI – that they find useful, meaningful, or simply attractive. The elective modules have been offered since 2021 and are very popular.

Abb.: Oliver Bendel bei einem Wahlmodul mit NAO

Serviceroboter aus technischer und ethischer Perspektive

Prof. Dr. Oliver Bendel hält am 10. April 2025 bei der Veranstaltung „Wenn Roboter zu Kollegen werden: Wer arbeitet in der Produktion von morgen?“ im MAC Museum Art & Cars in Singen einen Vortrag mit dem Titel „Serviceroboter im Praxiseinsatz: Zwischen smarter Innovation und ethischer Verantwortung“. Serviceroboter haben sich als Reinigungs-, Transport- und Sicherheitsroboter verbreitet. Als Saug- und Wischroboter sind sie im Haushalt, am Flughafen und auf der Hotelanlage anzutreffen. Als Transportroboter fahren sie in der Fabrik und in Lagerhallen umher, verkehren im Restaurant zwischen Buffet und Küche oder bringen in Städten die Bestellungen zum Kunden. Als Sicherheitsroboter bewachen sie Betriebsgelände und Gleisanlagen. In der Form sozialer Roboter beraten und bedienen sie uns in Shopping Malls oder unterhalten unsere Kinder, während wir einkaufen. Vor der Tür stehen universelle Roboter, menschenähnliche Maschinen, die morgens in Produktion und Logistik helfen, nachmittags den Garten umgraben und abends mit uns Tennis spielen. Verbunden werden sie mit großen Weltmodellen (World Foundation Models, WFMs) und multimodalen großen Sprachmodellen (Multimodal Large Language Models, MLLMs), die ihr Training, ihre Steuerung und ihre Wahrnehmung ermöglichen bzw. verbessern. Der Vortrag stellt Anwendungsfälle der genannten Art vor, ordnet sie aus technischer und ethischer Perspektive ein und wirft einen Blick in die Zukunft. Die Veranstaltung findet im Rahmen des Projekts TIM (Transformation – Innovation – Mobilität) statt, das durch das Bundesministerium für Wirtschaft und Klimaschutz gefördert wird. Weitere Informationen sind in Kürze über cyberlago.net verfügbar.

Abb.: Oliver Bendel bei einem Vortrag im Mercedes-Benz Museum in Stuttgart (Foto: Daimler und Benz Stiftung)

The Countdown to the ICSR 2025 has Begun

The ICSR is one of the leading conferences for social robotics worldwide. The 17th edition will take place from 10 to 12 September 2025 in Naples, Italy. The deadline for the full paper submission is approaching. Papers should consist of 11 pages of body text plus references as appropriate. The most important conferences dates are: Full Paper Submission: March 28th, 2025; Full Paper Notification: May 9th, 2025; Camera-ready: June 30th, 2025; Paper Presentation Days at ICSR’25: September 11th and 12th, 2025. All dates are also listed on the website. „The conference theme, ‚Emotivation at the Core: Empowering Social Robots to Inspire and Connect,‘ highlights the essential role of ‘Emotivation’ in social robotics. Emotivation captures the synergy between emotion and motivation, where emotions trigger and sustain motivation during interactions. In social robotics, this concept is key to building trust, fostering empathy, and supporting decision-making by enabling robots to respond sensitively to human emotions, inspiring engagement and action.“ (Website ICSR) Participants will meet for two days at the Parthenope University of Naples and for the third day at the Città della Scienza conference center. All buildings and rooms are also listed on the website.

Fig.: Castel dell’Ovo in Naples (Photo: ICSR)

Podcast zum Vortrag zu GenAI von Oliver Bendel

Der Podcast zum Vortrag „Generative KI und das Wahre, Gute und Schöne“ von Prof. Dr. Oliver Bendel aus der Reihe „Dialog im Museum“ der Daimler und Benz Stiftung ist seit dem 18. Februar 2025 verfügbar. Die Grußworte waren von Renata Jungo Brüngger (Vorstandsmitglied der Mercedes-Benz Group AG) und Prof. Dr. Lutz H. Gade (Vorstand der Daimler und Benz Stiftung) gekommen. Eineinhalb Stunden lang hatte Oliver Bendel am 11. Februar 2025 im architektonisch bemerkenswerten Mercedes-Benz Museum Projekte und Prototypen mit generativer KI vorgestellt, die er nach der Trias des Wahren, Guten und Schönen geordnet hatte. Jeder Abschnitt wurde eingeleitet mit Beispielen aus der Ideengeschichte der künstlichen Kreatur, die der Technikphilosoph und Wirtschaftsinformatiker sowohl in Vorlesungen der letzten 20 Jahre als auch in seinem Roman „Künstliche Kreaturen“ (2008) thematisiert hat. Den Podcast kann man über die Website der Daimler und Benz Stiftung oder direkt über youtu.be/QkGmpkkLVX4?si=jYfpSwlAFlKpGIpk aufrufen.

Abb.: Oliver Bendel bei seinem Vortrag (Foto: Daimler und Benz Stiftung)

Soziale Roboter aus technischer, wirtschaftlicher und ethischer Perspektive I

Seit 2021 führt Oliver Bendel an der Hochschule für Wirtschaft FHNW seine Wahlmodule zur Sozialen Robotik durch, inzwischen dreimal im Jahr. Vom 13. bis zum 15. Februar 2025 fand am Campus Brugg-Windisch die Veranstaltung unter dem Titel „Soziale Roboter aus technischer, wirtschaftlicher und ethischer Perspektive“ statt. Am ersten Tag  legte der Technikphilosoph und Wirtschaftsinformatiker die Grundlagen. Er ging vor allem auf die Disziplin der Robotik ein. Zudem fanden erste Vorführungen von Robotern statt, nämlich von AIBI und Booboo. AIBI gehört zu den Wearable Social Robots und war zum ersten Mal dabei. Booboo wird auch „king of the planet Lonely“ genannt und erfreut mit seinem weichen Fell und seinen angenehmen Tönen nicht nur Einsame. Er hatte bereits Bekanntschaft mit Studenten gemacht – vor allem mit Studentinnen, denn die männlichen Studenten trauen sich weniger, mit ihm zu kuscheln. Anwesend sind vor allem Betriebsökonomen (Frauen und Männer), aber auch Wirtschaftsinformatiker (zwei Frauen) und KI-Studenten (zwei Männer und eine Frau). Zurate gezogen wurde einmal Social Robotics Girl, die virtuelle Assistentin von Oliver Bendel, die Definitionen von Robotik und Sozialer Robotik lieferte. Den Abschluss bildete ein Vortrag von Nicolas Lluis Araya über kAIxo, den Chatbot für Baskisch, den er im Auftrag von Oliver Bendel entwickelt hatte.

Abb.: Oliver Bendel mit AIBI

Generative KI beim „Dialog im Museum“

Die renommierte Reihe „Dialog im Museum“ der Daimler und Benz Stiftung startete im neuen Jahr am 11. Februar 2025 mit einem Vortrag von Prof. Dr. Oliver Bendel über „Generative KI und das Wahre, Gute und Schöne“. Die Grußworte kamen von Renata Jungo Brüngger, Vorstandsmitglied der Mercedes-Benz Group AG (Integrität, Governance & Nachhaltigkeit), und Prof. Dr. Lutz H. Gade, Lehrstuhlinhaber für Anorganische Chemie an der Universität Heidelberg und – zusammen mit Prof. Dr. Julia Arlinghaus – Vorstand der Daimler und Benz Stiftung. Der Saal im architektonisch bemerkenswerten Mercedes-Benz Museum war bis auf den letzten Platz besetzt. Eineinhalb Stunden lang stellte Oliver Bendel aus Zürich Projekte und Prototypen mit generativer KI vor, die er nach der Trias des Wahren, Guten und Schönen geordnet hatte. Jeder Abschnitt wurde eingeleitet mit Beispielen aus der Ideengeschichte der künstlichen Kreatur, die Oliver Bendel sowohl in Vorlesungen der letzten 20 Jahre als auch in seinem Roman „Künstliche Kreaturen“ (2008) thematisiert hat. Es schloss sich ein Apéro Riche an, wie man in der Schweiz sagen würde, ein Umtrunk mit (recht üppigen) Häppchen. Bis 22.30 Uhr dauerten die intensiven Diskussionen an, bis man aus dem Museum entlassen wurde. Weitere Informationen sind über die Website der Stiftung verfügbar.

Abb.: Oliver Bendel zu Beginn seines Vortrags (Foto: Daimler und Benz Stiftung)

This was the ICSR 2022 in Florence, Italy

ICSR is one of the leading conferences for social robotics worldwide. The 17th edition will take place from 10 to 12 September 2025 in Naples, Italy. Participants will meet for two days at the Parthenope University of Naples and for the third day at the Città della Scienza conference center. In 2022, the conference took place in Florence, Italy. Scientists from all over the world met at the Camera di Commercio di Firenze. Dozens of robots were exhibited in the spacious inner courtyard, including the then new ARI from PAL Robotics. Lectures and workshops were held in the rooms on the sides. The conference website of ICSR 2025 is online since January: icsr2025.eu.

Fig.: ARI from PAL Robotics in Florence

KI für das Management

Am 23. und 24. Januar 2025 findet auf dem Campus Brugg-Windisch das Bootcamp „Artificial Intelligence for Management“ statt. Auf der Website des Instituts für Business Engineering der Hochschule für Technik FHNW wird ausgeführt, dass die Teilnehmer „lernen, die Potenziale und Herausforderungen der künstlichen Intelligenz (KI) im unternehmerischen Kontext zu erkennen“. „Sie erlangen die notwendigen Fähigkeiten, um AI-Projekte zu initiieren und mit den Projekten sowohl technische als auch geschäftliche Ziele zu erreichen. Zudem wird das Verständnis für die ethischen und rechtlichen Rahmenbedingungen vermittelt.“ (Website Hochschule für Technik) Für die ethischen Fragestellungen ist wieder – wie schon im November 2024 – Prof. Dr. Oliver Bendel zuständig. Er hat sich schon vor Jahrzehnten auf soziale Roboter und KI-Systeme spezialisiert. Sein Vortrag beim Bootcamp trägt den Titel „Generative KI aus ethischer Sicht“. Ansprechpartner für die zweitägige Weiterbildung sind Corinne Schuler und Prof. Dr. Adrian Specker.

Abb.: Weiterbildung auf dem Campus Brugg-Windisch (Foto: Pati Grabowicz)

People of Animal-Computer Interaction 2024

The International Conference on Animal-Computer Interaction (ACI) took place at the University of Glasgow from December 2 to 5, 2024. Clara Mancini and Fiona French are among the pillars of the ACI. Clara Mancini, PhD, is professor of animal-computer interaction (ACI) and founding director of the Open University ACI Laboratory. Her work explores the interaction between animals and technology, and the nexus between technology, animal well-being and justice, and human-animal relationships. Her research spans the theory, methodology, practice, and ethics of designing animal-centered interactive systems for and with animals to contribute to a more just and inclusive multispecies society. She is a co-founder of the ACI and has been promoting animal-centered research and design across disciplines for over a decade, organizing numerous scientific events and serving on various scientific committees. Dr. Fiona French is an associate professor in the School of Computing and Digital Media of the London Metropolitan University. She is course leader for the BSc Games Programming and a Fellow of the Higher Education Academy (FHEA). Her research interests are in the area of animal-computer interaction. Prof. Dr. Oliver Bendel attended the ACI International Conference 2022 and 2024. He has been conducting research in the field of animal-computer interaction and animal-machine interaction since 2012. Dr. Ilyena Hirskyj-Douglas (University of Glasgow) was the host of ACI 2024.

Fig.: Clara Mancini, Fiona French, and Oliver Bendel at the reception of the ACI 2024 (Photo: Jonathan Traynor)

Conversational Agents zur Erkennung von Problemen und zur Unterstützung von Personen

Am 17. Dezember 2024 findet von 8 bis 9 Uhr wieder das Geriatrie-Seminar der Barmelweid-Akademie statt. Die Barmelweid ist nach eigenen Angaben die führende Spezial- und Rehabilitationsklinik der Nordwestschweiz. Prof. Dr. Oliver Bendel trägt über „Conversational Agents zur Erkennung von Problemen und zur Unterstützung von Personen“ vor. Dabei geht er sowohl auf Chatbots und Sprachassistenten als auch auf „embodied conversational agents“ wie bestimmte Pflegeroboter mit natürlichsprachlichen Fähigkeiten ein. Das übergeordnete Ziel der Seminarreihe ist laut Website, die neusten Ergebnisse aus Lehre und Forschung in die tägliche klinische Arbeit der Barmelweid einfließen zu lassen. Gleichzeitig wollen die Verantwortlichen die ethischen und managementbezogenen Aspekte nicht außer Acht lassen. Im Fokus stehen 2024 die Digitalisierung im Gesundheitswesen, das Delirium-Management und die geriatrische Onkologie. Weitere Informationen sind über die Website der Klinik erhältlich.

Abb.: Die Spezial- und Rehabilitationsklinik (Foto: Wikimedia, Voyager, CC BY-SA 3.0)

Award for „The Animal Whisperer Project“

„The Animal Whisperer Project“ by Oliver Bendel (FHNW School of Business) and Nick Zbinden (FHNW School of Business) won the Honourable Mention Short Paper Award at the 2024 ACI Conference. From the abstract: „Generative AI has become widespread since 2022. Technical advancements have resulted in multimodal large language models and other AI models that generate, analyze, and evaluate texts, images, and sounds. Such capabilities can be helpful in encounters between humans and animals. For example, apps with generative AI on a smartphone can be used to assess the body language and behavior of animals – e.g., during a walk or hike – and provide a recommendation for human behavior. It is often useful to take into account the animal’s environment and situation. The apps can help people to avert approaches and attacks, and thus also protect animals. In ‚The Animal Whisperer Project‘, three apps were developed as prototypes based on the multimodal large language model GPT-4 from OpenAI from the beginning to mid-2024. Three specific GPTs resulted: the Cow Whisperer, the Horse Whisperer, and the Dog Whisperer. All three showed impressive capabilities after the first prompt engineering. These were improved by implementing information from expert interviews and adding labeled images of animals and other materials. AI-based apps for interpreting body language, behavior, and the overall situation can apparently be created today, without much effort, in a low-budget project. However, turning them into products would certainly raise questions, such as liability in the event of accidents.“ The proceedings are available here.

Fig.: Nick Zbinden and Oliver Bendel with the Honourable Mention Short Paper Award

Start of the ACI 2024

The International Conference on Animal-Computer Interaction (ACI) started on December 2, 2024 at the University of Glasgow. The lectures will take place on the last two days. The ACI “is the leading venue in the rapidly expanding field of ACI”. “Initially held as a one-day affiliated event, since 2016 it has become a three- or four-day independent event and has been attracting a growing number of participants and contributors from diverse backgrounds.” (Website ACI) ACI’s roots lie in the theoretical, methodological and ethical foundations and values that have informed interaction design for decades. “Growing out of this fertile ground, ACI’s theoretical and methodological scope has since been expanding to include all forms of animals’ interaction with computing systems and all aspects of animal-centred computing, resulting in an increasing variety of applications.” (Website ACI) After the welcome address by Ilyena Hirskyj-Douglas (University of Glasgow) on the morning of 4 December 2024, Amanda Seed (School of Psychology and Neuroscience, University of St Andrews) gave her opening keynote entitled „What kind of mind do primates have?“.

Fig.: Ilyena Hirskyj-Douglas welcomes the participants

17th International Conference on Social Robotics to be Held in Naples

The 17th International Conference on Social Robotics will again bring together researchers and practitioners working on human-robot interaction and the integration of social robots into society. ICSR 2025 will be held in Naples, Italy in September. Mariacarla Staffa from the Università degli Studi di Napoli ‚Parthenope‘ made this announcement at the ICSR 2024 in Odense. The institution is one of the state universities in the metropolitan region. Parthenope has been the city goddess of Naples since ancient times and is a poetic term for the city. With the help of a promotional video, the researcher drew attention to the numerous sights in the city and the surrounding area. World-famous are archaeological sites such as Pompeii and sights such as the Amalfi Coast. The active volcano Vesuvius is located in the Gulf of Naples, nine kilometres from the city. Italy is one of the most important countries in the world for social robotics. The ICSR had already taken place there in 2022, in Florence to be precise. Naples will certainly also be an outstanding host.

Fig.: Vesuvius volcano and the Gulf of Naples

Keynote bei der KI & Robotics4Retail-Konferenz

Am 25. September 2024 war der erste Tag der KI & Robotics4Retail-Konferenz 2024 in Bonn. Sie ist Teil des „ECR Tag 2024“, der im World Conference Center stattfindet. „Zahlreiche Praxisvorträge geben einen Einblick in die momentan wichtigsten KI- und Robotics-Themen im Handel und liefern wichtige Anregungen für Projekte im eigenen Unternehmen“ – so heißt es auf der Website. Die Keynote hielt Prof. Dr. Oliver Bendel zum Thema „Serviceroboter aus technischer, ökonomischer und ethischer Perspektive“. Aus der Beschreibung: „Serviceroboter haben sich als Reinigungs-, Transport- und Sicherheitsroboter verbreitet. Als Saug- und Wischroboter sind sie im Haushalt, am Flughafen und auf der Hotelanlage anzutreffen. Als Transportroboter fahren sie in der Fabrik und in Lagerhallen umher, verkehren im Restaurant zwischen Buffet und Küche oder bringen in Städten die Bestellungen zum Kunden. In der Form sozialer Roboter beraten und bedienen sie uns in Shopping Malls oder unterhalten unsere Kinder, während wir einkaufen. Vor der Tür stehen universelle Roboter, menschenähnliche Maschinen, die morgens in Produktion und Logistik helfen, nachmittags den Garten umgraben und abends mit uns Tennis spielen. Verbunden werden sie mit multimodalen Sprachmodellen, die ihre Steuerung und Wahrnehmung ermöglichen bzw. verbessern. Der Vortrag stellt Anwendungsfälle der genannten Art vor, ordnet sie aus technischer, wirtschaftlicher und ethischer Perspektive ein und wirft einen Blick in die Zukunft.“ Weitere Informationen über www.robotics-konferenz.de.

Abb.: Oliver Bendel bei seiner Keynote (Foto: EHI Retail Institute)

Serviceroboter aus technischer, ökonomischer und ethischer Perspektive

Bei der KI & Robotics4Retail-Konferenz 2024 in Bonn hält Prof. Dr. Oliver Bendel am 25. September 2024 die Keynote zum Thema „Serviceroboter aus technischer, ökonomischer und ethischer Perspektive“. Aus der Vorankündigung: „Serviceroboter haben sich als Reinigungs-, Transport- und Sicherheitsroboter verbreitet. Als Saug- und Wischroboter sind sie im Haushalt, am Flughafen und auf der Hotelanlage anzutreffen. Als Transportroboter fahren sie in der Fabrik und in Lagerhallen umher, verkehren im Restaurant zwischen Buffet und Küche oder bringen in Städten die Bestellungen zum Kunden. In der Form sozialer Roboter beraten und bedienen sie uns in Shopping Malls oder unterhalten unsere Kinder, während wir einkaufen. Vor der Tür stehen universelle Roboter, menschenähnliche Maschinen, die morgens in Produktion und Logistik helfen, nachmittags den Garten umgraben und abends mit uns Tennis spielen. Verbunden werden sie mit multimodalen Sprachmodellen, die ihre Steuerung und Wahrnehmung ermöglichen bzw. verbessern. Der Vortrag stellt Anwendungsfälle der genannten Art vor, ordnet sie aus technischer, wirtschaftlicher und ethischer Perspektive ein und wirft einen Blick in die Zukunft.“ Weitere Informationen über www.robotics-konferenz.de.

Abb.: Auch bei der IDEepolis – rechts Bendel, links Zöllner – ging es um Serviceroboter (Foto: Aaron Kubach)

The Traditional AI Conference Moves Again

On 27 August 2024, AAAI announced the continuation of the AAAI Spring Symposium Series, to be held March 31 – April 2, 2025, at San Francisco Airport Marriott Waterfront in Burlingame, CA. The Call for Proposals for the Spring Symposium Series is available on the Spring Symposium Series website. According to the organizers, proposals are due October 4, 2024, and early submissions are encouraged. „The Spring Symposium Series is an annual set of meetings run in parallel at a common site. It is designed to bring colleagues together in an intimate forum while at the same time providing a significant gathering point for the AI community.“ (Website AAAI) The traditional conference will therefore not be held at Stanford University in 2025 – as it was in 2023. It returned there in 2024 to the delight of all participants. The Covid-19 pandemic had hit the conference hard before. The AAAI can only be advised to return to Stanford in 2026. Only there will the conference live up to its promise.

Fig.: In 2024 at Stanford University

Talk by Oliver Bendel at Robophilosophy 2024

On the fourth day of Robophilosophy 2024, Oliver Bendel, Professor at the FHNW School of Business, gave a talk entitled „The Universal Robot of the 21st Century“. From the abstract: „Developments in several areas of computer science, robotics, and social robotics make it seem likely that a universal robot will be available for the mass market in the foreseeable future. Large language models for communication, perception, and control play a central role in this. This article briefly outlines the developments in the various areas and uses them to create the overall image of the universal robot. It then discusses the associated challenges from an ethical and social science perspective. It can be said that the universal robot will bring with it new possibilities and will perhaps be one of the most powerful human tools in physical space. At the same time, numerous problems are foreseeable, individual, social, and ecological.“ (Website Robophilosophy 2024) This was followed by an intensive plenary discussion on the design and usefulness of universal robots. In an individual discussion, Oliver Bendel suggested designing universal robots like early humans or apes. They can move on all fours, but can also stand up on two legs if the situation requires it. This would at least solve some of the safety problems posed by bipeds.

Fig.: Oliver Bendel after his talk (Photo: Katharina Kühne)

Talk by Katharina Kühne at Robophilosophy 2024

On the third day of Robophilosophy 2024, Katharina Kühne, doctoral student at the University of Potsdam, gave a talk entitled „Robots at Arm’s Length – Unveiling the Dynamics of Interpersonal Distance Preferences in Human-Robot Interactions“. From the abstract: „In social interactions, interpersonal distance influences relationships, provides protection, and regulates arousal. Despite the intuitive nature of adopting specific distances, little is known about comfortable interpersonal distances with social robots. The talk reports on a study where 66 participants saw individuals standing face-to-face with a robot at different distances and pressed a button when seeing a woman or a man. In line with the negativity bias hypothesis, suggesting quicker reaction times to negative stimuli, participants showed a preference for increased distances, resulting in longer reaction times. Human-likeness of robots moderated the link between distance and arousal. The most human-like robot was less liked and evoked higher arousal. These findings potentially have implications for designing social robots and optimizing interactions, particularly in educational or medical contexts.“ (Website Robophilosophy 2024) The researcher’s presentation refers to the paper “Robots at arm’s length: Unveiling the dynamics of interpersonal distance preferences in human-robot interactions” by Katharina Kühne, Laura M. Zimmer, Melina Jeglinski-Mende, Oliver Bendel, Yuefang Zhou, and Martin Fischer. It will be published in autumn or winter 2024.

Fig.: Katharina Kühne after her talk

Workshop „The Social Significance of Human Effort“

The third day of Robophilosophy 2024 featured numerous presentations and several workshops. The workshop „The Social Significance of Human Effort – What Are the Parameters For Positive Human-Robot Interaction In the Context of Industry 5.0?“ was organized by the renowned Sant’Anna School of Advanced Studies (Pisa, Italy). The moderators were Professors Alberto Pirni and Paolo Dario as well as Oliver Bendel from the FHNW School of Business. They also presented, as did other participants such as Nicola Vitiello, Leonardo Massantini, Danica Kragic Jensfelt, and Margherita Pugnaletto. From the workshop abstract: „This workshop aims to develop a roadmap for understanding the impact of robotics on human employment within the context of Industry 5.0. The workshop explores key factors in this transition, including the risks and benefits of digital automation, ethical considerations regarding worker skills and well-being, and protective measures for workers and consumers. Focusing on the theme of sociocultural risks: devaluation of human labor, the workshop aims to reflect on traditional notions of work, productivity, and the value of human labor in the era of advancing robotics and automation. It challenges the concept of labor devaluation, assesses its impact on worker recognition and efficiency, and questions meritocratic paradigms. To facilitate interdisciplinary dialogue, the workshop engages philosophers and engineers in addressing ethical dilemmas in technology development. It explores the social significance of human effort and movement when interacting with autonomous robots and occupational exoskeletons. By examining these technologies‘ adaptability and role in human-machine interaction, especially in workplaces, the workshop intends to contribute to discussions on technological advances and their societal implications.“ (Website Robophilosophy 2024)

Fig.: Alberto Pirni and Paolo Dario

Keynote Speech by Wendell Wallach

On the first day of Robophilosophy 2024, Wendell Wallach, one of the fathers of machine ethics, gave a keynote speech entitled „Re-envisioning Ethics: From Moral Machine to Extensive Regulation“. From the abstract: „Have we been underestimating the socio-technical challenges posed by ro(bot)s – physical systems and virtual bots? Many of the complexities inherent in managing intelligent systems can not be adequately met by scientific innovation, existing ethical constraints, or weak regulations forged by legislatures under the capture of the AI oligopoly.  In spite of naive future projections, the science we have, and are likely to have in the near future, will not produce AI systems capable of making even satisfactory choices in complex situations where uncertainty reigns, multiple values converge, and the information available is inadequate to project meaningful consequences for various courses of action. AI will pose safety and security risks far beyond those being addressed by the pittance of investment presently directed to build trustworthy systems. Scientific humility is needed. Ethics must be reenvisioned and empowered to work through the plethora of socio-technical obstacles and trials ahead. A vast infrastruture to ensure AI safety will be required.“ (Website Robophilosophy 2024) Wendell Wallach went far beyond these hints and gave an overview of the advances and setbacks in machine ethics and AI ethics in recent decades.

Fig.: Wendell Wallach during his keynote speech

Es wird ein Mensch gemacht

In seiner Keynote „Es wird ein Mensch gemacht: Die Vision des universellen Roboters“ bei der IDEepolis am 19. Juni 2024 an der Hochschule der Medien ging Prof. Dr. Oliver Bendel auf universelle Roboter ein. Er begann mit einem Zitat aus „Faust II“ und stellte dann die Fortschritte in den Bereichen vor, die für den Bau eines Serviceroboters der Zukunft notwendig sind. Er kam zu folgenden Schlussfolgerungen: „Ein Serviceroboter als universelle Maschine kann an Schulen und Hochschulen, im Büro, in der Fabrik, im Hoch- und Tiefbau, im Haushalt und in der Freizeit eingesetzt werden. Er kann Sachverhalte erläutern und darstellen, Blumen gießen, am Fließband stehen, Gleisarbeiten durchführen, die Spülmaschine ein- und ausräumen und den Hund Gassi führen. Er kann als Gesprächspartner ebenso dienen wie als Sportpartner oder Liebespartner. Die humanoide Gestaltung erlaubt dem Roboter, sich überall dort zu bewegen, wo wir uns selbst auch bewegen. Zugleich kann er übermenschliche Fähigkeiten haben, schneller sein als wir, stärker, robuster. Er kann mit Sensoren ausgestattet werden, die weit über die Leistungsfähigkeit unserer Sinne hinausgehen. Damit könnte er zum Partner werden, der unser Überleben sichert in einer zunehmend gefährlichen und feindlichen Umwelt, aber auch zum Gegner, der sich gegen uns wendet.“ Nach Oliver Bendel können Digit, Atlas, Figure 01, H1, G1 und andere Modelle als Vorstufen von universellen Robotern aufgefasst werden. Es ist nach seiner Ansicht wichtig, sie in geschlossenen oder halboffenen Welten wie Fabriken zu erproben, bevor man sie in offene Welten entlässt. Die Jahrestagung wurde von Prof. Dr. Petra Grimm und Prof. Dr. Oliver Zöllner durchgeführt. Das Programm ist hier abrufbar.

Abb.: Oliver Bendel bei seiner Keynote (Foto: Aaron Kubach)