On February 19, 2024, the article „@llegra: a chatbot for Vallader“ by Oliver Bendel and Dalil Jabou was published in the International Journal of Information Technology. From the abstract: „Extinct and endangered languages have been preserved primarily through audio conservation and the collection and digitization of scripts and have been promoted through targeted language acquisition efforts. Another possibility would be to build conversational agents like chatbots or voice assistants that can master these languages. This would provide an artificial, active conversational partner which has knowledge of the vocabulary and grammar and allows one to learn with it in a different way. The chatbot, @llegra, with which one can communicate in the Rhaeto-Romanic idiom Vallader was developed in 2023 based on GPT-4. It can process and output text and has voice output. It was additionally equipped with a manually created knowledge base. After laying the conceptual groundwork, this paper presents the preparation and implementation of the project. In addition, it summarizes the tests that native speakers conducted with the chatbot. A critical discussion elaborates advantages and disadvantages. @llegra could be a new tool for teaching and learning Vallader in a memorable and entertaining way through dialog. It not only masters the idiom, but also has extensive knowledge about the Lower Engadine, that is, the area where Vallader is spoken. In conclusion, it is argued that conversational agents are an innovative approach to promoting and preserving languages.“ Oliver Bendel has been increasingly focusing on dead, extinct and endangered languages for some time. He believes that conversational agents can help to strengthen and save them.
Im Februar 2024 ist das Buch „Paarbeziehung im 21. Jahrhundert“ bei Kohlhammer erschienen. Herausgeber sind Prof. Dr. Christian Roesler und Prof. Dr. Sonja Bröning. Im Buch enthalten ist der Beitrag „Überlegungen zu Zweier- und Dreierbeziehungen mit Liebespuppen und Sexrobotern“ von Prof. Dr. Oliver Bendel. Er fragt darin, ob Zweier- und Dreierbeziehungen mit Liebespuppen, Sexrobotern und umgekehrten Cyborgs möglich und welcher Art sie gegebenenfalls sind. Um dies zu klären, werden zunächst Merkmale von Zweier- und Dreierbeziehungen erarbeitet sowie die Merkmale und Funktionen der genannten Artefakte sowie ihr Gebrauch erklärt. Anschließend führt der Autor die Charakteristik der Zweierbeziehungen, am Rande auch der Dreierbeziehungen, und die Praxis der Liebespuppen, Sexroboter und umgekehrten Cyborgs zusammen und diskutiert die Ergebnisse. Am Ende widmet er sich in aller Kürze der Realität der Beziehungen. Weitere Informationen über https://www.kohlhammer.de.
Am 8. Februar 2024 fand die Vernissage zum Buch „Tender Digitality“ (herausgegeben von Charlotte Axelsson) an der Zürcher Kunsthochschule statt. Enthalten darin ist die Sammlung „The Loneliness of the Female Astronaut“. Es handelt sich um drei Gedichte aus dem Buch „Die Astronautin“, das im Jahre 2000 erschienen ist. Alle Texte sind in 3D-Codes enthalten, sogenannten JAB-Codes, die eine Entwicklung des Fraunhofer-Instituts für Sichere Informationstechnologie SIT sind. Am 9. Februar kam die 2. Auflage heraus, mit einem neuen Cover und zusätzlichen Informationen zum Werk des Autors. Informationen zu weiteren Projekten von Oliver Bendel aus Wissenschaft und Kunst sind verfügbar über www.oliverbendel.net, www.informationsethik.net, www.maschinenethik.net und www.robophilosophy.com … Auf www.oliverbendel.net/publikationen2.html sind auch seine literarischen Werke aufgeführt. Einige davon kann man kostenlos herunterladen, da die Verlage inzwischen aufgelöst wurden oder weil es sich um Open-Access-Projekte handelt. Andere müssen im Buchhandel bzw. auf Amazon erstanden werden.
Abb.: Das Cover des Buchs zeigt die Astronautin in jungen Jahren
Intelligente tutorielle Systeme (Intelligent Tutoring Systems, ITS) und pädagogische Agenten (Pedagogical Agents) wurden in den 1990er- und 2000er-Jahren intensiv erforscht. Pädagogische Agenten waren häufig Chatbots, manchmal mit Sprachausgabe. Einige hatten animierte Avatare und arbeiteten in virtuellen Lernumgebungen – wie Steve, Adele, Linda und Harmony. Der Screenshot von Harmony stammt aus der Doktorarbeit von Oliver Bendel zu pädagogischen Agenten und wurde 2001 angefertigt. Die Idee des Virtual Learning Companion (VLC) entstand in den 1980er-Jahren und bezog sich damals eher auf virtuelle Peers. Man kann sie VLCs der ersten Generation nennen. In den 1990er-Jahren wurden einige Prototypen geschaffen. Weitere Chatbots für den Bildungsbereich tauchten in den 2020er-Jahren auf. In dieser Tradition stehen die GPTs, die auf GPT-4 basieren. Nutzer ohne Programmier- oder Designkenntnisse können sie in kurzer Zeit für den Lernkontext entwickeln. Es gibt bereits viele GPTs in der Kategorie „Education“ des GPT Store. CK-12 Flexi ist der „world’s most powerful math and science AI Tutor for middle and high school students“. AI Tutor ist „skilled in guiding students through their academic queries“. Universal Primer wirbt mit dem Slogan: „Learn everything about anything“. Dies sind nur drei Beispiele vom Februar 2024 – jeden Tag kommen neue hinzu. Die meisten von ihnen vermitteln Wissen. Für ihr Paper „How Can GenAI Foster Well-being in Self-regulated Learning?“ haben Stefanie Hauske und Oliver Bendel neben dem Digital Learning Facilitator (der hauptsächlich Wissen vermittelt) einen Digital Learning Coach und einen Digital Learning Mentor geschaffen (und damit an die Tradition der pädagogischen Agenten angeknüpft). Die GPTs im Lernkontext kann man als VLCs der zweiten Generation bezeichnen, wobei diese eben auch Tutoren, Mentoren oder Coaches sein können. Sie sind dabei, die formelle Aus- und Weiterbildung an Hochschulen und in Unternehmen und das selbstregulierte Lernen zu erobern. Das Paper wird Ende März 2024 an der Stanford University beim AAAI 2024 Spring Symposium „Impact of GenAI on Social and Individual Well-being“ vorgestellt.
Abb.: Der pädagogische Agent namens Harmony aus dem Jahre 2001
Der Technikphilosoph und Wirtschaftsinformatiker Prof. Dr. Oliver Bendel widmet sich seit einiger Zeit verstärkt toten, ausgestorbenen und gefährdeten Sprachen. Er ist der Meinung, dass Conversational Agents zu ihrer Stärkung und Rettung beitragen können. Nach @ve (2022), einem auf GPT-3 basierenden Chatbot für Latein, startete im März 2023 ein weiteres Projekt. Entwickelt wurde bis August 2023 der Chatbot @llegra von Dalil Jabou für das rätoromanische Idiom Vallader, das im Unterengadin zwischen Martina im Nordosten und Zernez im Südwesten sowie im Val Müstair auftritt und gefährdet ist. Der Chatbot beruht auf dem Sprachmodell GPT-4. Er hat Texteingabe und -ausgabe sowie Sprachausgabe. Der Avatar ist ein Steinbockmädchen. Man kann in Deutsch oder Rätoromanisch mit @llegra kommunizieren – sie versucht sich immer auf Vallader. Manchmal rutscht sie in Sursilvan oder Rumantsch Grischun. Das Paper „@llegra: A Chatbot for Vallader“ von Oliver Bendel und Dalil Jabou wurde nun vom International Journal of Information Technology angenommen. Es wird in einigen Wochen erscheinen. Das nächste Idiom des Rätoromanischen soll noch in diesem Jahr in Angriff genommen werden.
Abb.: Ein Junge im Unterengadin plaudert mit @llegra
At the end of January 2024, the article „‚Ick bin een Berlina‘: dialect proficiency impacts a robot’s trustworthiness and competence evaluation“ was published in Frontiers in Robotics and AI. Authors are Katharina Kühne, Erika Herbold, Prof. Dr. Oliver Bendel, Dr. Yuefang Zhou, and Prof. Dr. Martin H. Fischer. With the exception of Oliver Bendel – who is a professor at the School of Business FHNW and an associated researcher in the PECoG group – all of them are members of the University of Potsdam. Newspapers and platforms from all over the world have reported on the study, including the USA, Mexico, Argentina, Chile, Puerto Rico, Scotland, and Germany. German radio stations such as MDR and BR have also presented the results. On February 1, 2024, Der Spiegel published an interview with the lead author Katharina Kühne. She is being supervised in her doctoral thesis by Prof. Dr. Martin Fischer and Prof. Dr. Oliver Bendel. The open access article can be downloaded at www.frontiersin.org/articles/10.3389/frobt.2023.1241519/full.
Der Nachrichtensender ntv berichtete am 30. Januar 2024 über das Brain-Computer-Interface (BCI), das Neuralink von Elon Musk einem Patienten eingesetzt hat. Zu Wort kam ausführlich Prof. Dr. Oliver Bendel, der sich seit Jahren mit BCI aus ethischer Sicht beschäftigt. Er betonte, dass wie bei jedem medizinischen Implantat das Risiko von Fehlfunktionen, Infektionen oder Ablehnungsreaktionen des Körpers bestehe. Die Sicherheit und Zuverlässigkeit der Technologie sei entscheidend. Die drahtlose Interaktion zwischen dem menschlichen Gehirn und Computern oder Maschinen erfolge in beiden Richtungen. Es gehe um das Interpretieren, aber auch um das Stimulieren. So kann man nicht nur mit seinen Gedanken auf Geräte einwirken, sondern die Geräte können auch auf die Gedanken und Empfindungen einwirken. Diese sehr mächtige Technologie muss deshalb in den richtigen Händen liegen, in denjenigen verantwortungsvoller Akteure. Ein Beitrag von Oliver Bendel zu Brain-Computer-Interfaces kann hier abgerufen werden.
On January 29, 2024, the article „‚Ick bin een Berlina‘: dialect proficiency impacts a robot’s trustworthiness and competence evaluation“ was published in Frontiers in Robotics and AI. Authors are Katharina Kühne, Erika Herbold, Oliver Bendel, Yuefang Zhou, and Martin H. Fischer. With the exception of Oliver Bendel – who is a professor at the School of Business FHNW and an associated researcher in the PECoG group – all of them are members of the University of Potsdam. The paper says about the background: „Robots are increasingly used as interaction partners with humans. Social robots are designed to follow expected behavioral norms when engaging with humans and are available with different voices and even accents. Some studies suggest that people prefer robots to speak in the user’s dialect, while others indicate a preference for different dialects.“ The following results are mentioned: „We found a positive relationship between participants’ self-reported Berlin dialect proficiency and trustworthiness in the dialect-speaking robot. Only when controlled for demographic factors, there was a positive association between participants’ dialect proficiency, dialect performance and their assessment of robot’s competence for the standard German-speaking robot. Participants‘ age, gender, length of residency in Berlin, and device used to respond also influenced assessments. Finally, the robot’s competence positively predicted its trustworthiness.“ The article can be accessed at www.frontiersin.org/articles/10.3389/frobt.2023.1241519/full.
Im Buch „Tender Digitality“, herausgegeben von Charlotte Axelsson, ist die Sammlung „The Loneliness of the Female Astronaut“ („Die Einsamkeit der Astronautin“) von Oliver Bendel enthalten. Die drei Gedichte liegen in Form von 3D-Codes vor, genauer gesagt von JAB-Codes. Mit diesen experimentiert der in Zürich lebende Schriftsteller seit 2020. Damals erschien auch der digitale Band „Die Astronautin“ – aus dem die Auswahl entnommen ist. Zum ersten Mal liegt diese in gedruckter Form vor. Man geht mit dem Browser auf jabcode.org, eine Seite des Fraunhofer-Instituts für Sichere Informationstechnologie SIT, scannt einen der 3D-Codes ein und bekommt dann das ganze Gedicht angezeigt. Eine Onlineverbindung ist nicht notwendig. Auf die Idee, mehrdimensionale Codes als Speicher zu verwenden, kam Oliver Bendel im Jahre 2009. Damals entstand sein Band „handyhaiku“ – darin sind alle Texte zusätzlich in QR-Codes enthalten. 2010 erschien er in gedruckter Form beim Hamburger Haiku Verlag. Im gleichen Jahr kam „stöckelnde dinger“ als Handybuch bei Blackbetty heraus. Oliver Bendel schreibt seit 40 Jahren experimentelle Literatur. 1984 wurde er vom Förderkreis deutscher Schriftsteller gefördert. Ab 1985 trug er seine Gedichte auf Lesungen in Ulm und Stuttgart vor. Ab 2007 wurde er für seine Handyromane bekannt. Er trug sie wie seine Handygedichte auf einer Tournee durch die Niederlande vor, zu der ihn zwei Goethe-Institute eingeladen hatten. Das Standardwerk „Die Struktur der modernen Literatur“ von Mario Andreotti widmet seiner digitalen Literatur zwei Seiten. Das Buch „Tender Digitality“ erscheint Anfang Februar 2024 bei Slanted und kann bereits vorbestellt werden.
Abb.: Die Astronautin in jungen Jahren (Bild: DALL-E 3)
Im Sommer 2024 erscheint ein weiteres „Keywords“-Buch von Prof. Dr. Oliver Bendel bei Springer Gabler, „300 Keywords Generative KI“. Es ist, wie der Titel schon verrät, der generativen KI gewidmet, im Englischen „generative AI“ oder „GenAI“ genannt. In mehr als 300 Einträgen wird das Thema ausgeleuchtet. Dabei spielen neben technischen und wirtschaftlichen Fragen insbesondere ethische und ästhetische eine Rolle. So wird nach der Schönheit von Artefakten gefragt, es wird die Stellung von Bildern zwischen Kunst und Kitsch ausgeleuchtet, und es wird eine Bias-Diskussion zu Text- und Bildgeneratoren geführt. So spielt der „american smile“ eine Rolle, zudem die Obsession von DALL-E 3 mit Bärten. Insgesamt steht der Nutzen der generativen KI im Vordergrund, und die Freude und Lust, sie zu benutzen. Es handelt sich um den fünften „Keywords“-Band des Technikphilosophen und Wirtschaftsinformatikers, nach „400 Keywords Informationsethik“ (2. Auflage), „450 Keywords Digitalisierung“ (2. Auflage), „300 Keywords Soziale Robotik“ (1. Auflage) und „110 Keywords Wirtschaftsethik“ (1. Auflage, zusammen mit Nick Lin-Hi und Andreas Suchanek). Weitere Informationen zum Lexikon gibt es voraussichtlich ab Juni 2024.
The book „Tender Digitality“, edited by Charlotte Axelsson from the Zurich University of the Arts, will be published in early February 2024. From the publisher’s website: „Tender Digitality introduces an aesthetically oriented concept that intricately intertwines binary systems in a complex manner, setting them in motion. The concept responds to the human desire for sensuality, interpersonal connection, intuition, and well-being in digital environments. It explores ways to (re)transmit these experiences into the analog world of a book, developing its own distinct vocabularies. Readers are guided through the various perspectives of this kaleidoscope, encouraging them to delve into different play-forms of ‚tender digitality‘ and develop their own approach. Assuming the role of researchers, they discover phenomena of extraordinary beauty or bizarreness within the spectrum spanning analogue and digital, social, and technological domains. Through exploration, learning, and the cultivation of ‚tender digitality,‘ readers can envision their own version of a community where individuals and artificial intelligences, avatars and cyborgs, humans and computers navigate digital landscapes with agency, intuition, and sensitivity.“ (Website Slanted) Contributors include Charlotte Axelsson, Oliver Bendel, Dana Blume, Marisa Burn, Alexander Damianisch, Léa Ermuth, Hannah Eßler, Barbara Getto, Leoni Hof, Marcial Koch, Mela Kocher, Friederike Lampert, Gunter Lösel, Francis Müller, Marie-France Rafael, Oliver Ruf, Sascha Schneider, and Grit Wolany. More information at www.slanted.de/product/tender-digitality/.
Am 21. Januar 2024 wurde ein GPT namens DIE HAIKU-LIEBHABERIN erstellt. Es trägt Haikus von Oliver Bendel vor und interpretiert sie auf Wunsch des Benutzers. Gefüttert wurde es mit zwei Sammlungen, nämlich „handyhaiku“ und „stöckelnde dinger“ … Der erste Band war 2010 im Hamburger Haiku Verlag erschienen, in gedruckter Form. Neben den Texten waren QR-Codes zu sehen, aus denen die Haikus direkt aufs Handy übernommen werden konnten, ohne dass man online sein musste. Der zweite Band wurde ebenfalls 2010 veröffentlicht, als Handybuch bei Blackbetty, einem Wiener Verlag. Am 19. Januar wurde ein GPT namens DER DICHTER bereitgestellt. Es trägt längere Gedichte von Oliver Bendel vor, und zwar aus drei Sammlungen. Bereits seit 12. November 2023 gibt es ein GPT namens Social Robotics Girl, das Informationen über Soziale Robotik liefert. Es speist sich aus einer Sammlung von Beiträgen von Oliver Bendel zu diesem Thema. Daher kann es etwa seine Definition sozialer Roboter nennen und Einteilungen anhand seines Fünf-Dimensionen-Modells vornehmen. Oliver Bendel veröffentlicht seit 40 Jahren Gedichte und trägt sie zu seltenen Gelegenheiten auch vor.
Abb.: Auch eine Haiku-Liebhaberin (Bild: Ideogram)
Researchers at the University of Chicago have released Nightshade 1.0, a tool designed to punish makers of machine learning models who train their systems on data without first obtaining permission. This was reported by The Register on 20 January 2024. According to the magazine, Nightshade is an offensive data poisoning tool, a companion to a defensive protection tool called Glaze. „Nightshade poisons image files to give indigestion to models that ingest data without permission. It’s intended to make those training image-oriented models respect content creators‘ wishes about the use of their work.“ (The Register, 20 January 2024) „Nightshade is computed as a multi-objective optimization that minimizes visible changes to the original image,“ said one team member. „For example, human eyes might see a shaded image of a cow in a green field largely unchanged, but an AI model might see a large leather purse lying in the grass.“ (The Register, 20 January 2024) More information on this topic can be found in the paper published by the researchers at the end of October 2023.
Am 19. Januar 2024 wurde ein GPT namens DER DICHTER erstellt. Es trägt Gedichte von Oliver Bendel vor und interpretiert sie auf Wunsch des Benutzers. Gefüttert wurde es mit mehreren Sammlungen, nämlich „Die Stadt aus den Augenwinkeln“ und „Die Astronautin“ sowie „Ein roter Splitter liegt im Gras“. Der erste Band war 2004 im Alkyon Verlag erschienen, fünf der Gedichte bereits 2003 in der legendären Literaturzeitschrift neue deutsche literatur (ndl). Der zweite Band wurde unter einer CC-Lizenz im Juli 2000 veröffentlicht. Drei Gedichte daraus sind in Kürze in dem Band „Tender Digitality“ – herausgegeben von Charlotte Axelsson – zu finden, wiederum in der Form von 3D-Codes. Die Gedichte des dritten Bands sind mehrheitlich unveröffentlicht und stammen aus den Jahren 2000 bis 2006. Bereits seit 12. November 2023 gibt es ein GPT namens Social Robotics Girl, das Informationen über Soziale Robotik liefert. Es speist sich aus einer Sammlung von Beiträgen von Oliver Bendel zu diesem Thema. Daher kann es etwa seine Definition sozialer Roboter nennen und Einteilungen anhand seines Fünf-Dimensionen-Modells vornehmen. Oliver Bendel veröffentlicht seit 40 Jahren Gedichte und trägt sie zu seltenen Gelegenheiten auch vor.
Abb.: Oliver Bendel bei einer seiner Lesungen im Jahre 1985 im Club Orange (Foto: SZ)
Tobias Buess, Yvo Keller und Alexander Shanmugam haben im Herbstsemester 2023 Data entwickelt, einen Chatbot für den Studiengang Data Science an der Hochschule für Technik FHNW. Betreuer bei der sogenannten Challenge waren Fernando Benites, ein Computerlinguist, und Oliver Bendel, ein Maschinenethiker. Der Chatbot kann Fragen zum Studiengang beantworten und mit Hilfe seiner künstlichen Moral – umgesetzt mit Hilfe von Prompt Engineering – auf die Sorgen und Bedürfnisse der Benutzer eingehen. Dem Chatbot stehen folgende Informationen aus dem Studiengang zur Verfügung: Spaces-Inhalte (Spaces ist die In-formations- und Kommunikationsplattform des Studiengangs), Handbuch, Ausbildungskonzept, Modulübersicht und Studienreglement. Als Sprachmodell wurde u.a. Mistral 7B genutzt. Fernando Benites gehört – wie seine frühere Hochschule festgestellt hat – „zu den Besten seines Fachs“. Oliver Bendel erfand 2012 den GOODBOT, einen regelbasierten Chatbot, der dann 2013 von drei Studenten der Hochschule für Wirtschaft FHNW implementiert wurde. Er konnte Probleme des Benutzers erkennen und auf mehreren Stufen eskalieren, bis hin zur Herausgabe einer Notfallnummer. Tobias Buess, Yvo Keller und Alexander Shanmugam haben diese Idee aufgegriffen. Wenn der Benutzer sich als labil erweist, wird er von Data an die Psychologische Beratungsstelle FHNW oder an Die Dargebotene Hand verwiesen. Der Chatbot ist ein Prototyp und wird im Moment von Studierenden getestet. Die Abschlusspräsentation des Teams findet am 26. Januar 2024 statt.
Abb.: Data beantwortet eine Frage (Bild: DALL-E 3)
Chinesische, indische und amerikanische Medien berichten immer wieder über die tierfreundlichen Maschinen und Systeme von Prof. Dr. Oliver Bendel. In seinem Studium ab 1987 war Tierethik einer seiner Schwerpunkte. Später verband er diese mit Maschinenethik und Sozialer Robotik und sprach sich für ein Arbeitsgebiet namens Animal-Machine Interaction aus, inspiriert von der Disziplin der Animal-Computer Interaction, die auf Clara Mancini zurückgeht. Bekannte Prototypen sind LADYBIRD und HAPPY HEDGEHOG. Das Projekt zu dem igelfreundlichen Mähroboter wurde 2019 durchgeführt. Das Paper „The HAPPY HEDGEHOG Project“ wurde Anfang 2021 beim Symposium „Machine Learning for Mobile Robot Navigation in the Wild“ im Rahmen der AAAI 2021 Spring Symposium Series vorgestellt. Nachdem es jahrelang über ein Google-Verzeichnis verfügbar war, kann es inzwischen über arxiv.org/abs/2401.03358 heruntergeladen werden. Damit wird es auch wieder verstärkt wahrgenommen. Die chinesische Plattform CSDN.net hat es am 9. Januar 2024 in der Rubrik „Daily Robotics Papers“ aufgeführt. Prof. Dr. Peter Singer beschäftigt sich seit kurzem ebenfalls mit dem Themenkomplex AI and Animals. In seinem Artikel „AI ethics: the case for including animals“ (zusammen mit Yip Fai Tse) vom Juli 2022 erwähnt er die Arbeit des Forschers aus Zürich.
Der Lügenbot wurde 2013 von Prof. Dr. Oliver Bendel im Kontext der Maschinenethik ausgedacht und 2016 von seinem damaligen Projektmitarbeiter und Studenten Kevin Schwegler umgesetzt. Vorgestellt wurde er auf KI-Konferenzen an der Stanford University und in Krakau. Der LIEBOT, wie sein englischer Name lautet, suchte auf eine Frage des Benutzers eine wahre oder richtige Antwort und manipulierte diese nach einer von sieben verschiedenen Strategien, sodass er eine unwahre oder unrichtige Antwort an den Benutzer weitergeben konnte. Er behauptete z.B. im Sommer 2016, dass Donald Trump der Präsident der USA sei. Oliver Bendel sprach auch von Münchhausen-Maschinen. Jüngste Ergebnisse von Forschern des Start-ups Anthropic zeigen nun laut Andreas Donath von Golem, „dass KI-Systeme darauf trainiert werden können, Menschen anzuschwindeln und in die Irre zu führen“ (Golem, 14. Januar 2024). Hier kann man von Münchhausen-Maschinen sprechen, da – wie beim LIEBOT – eine Absicht besteht, anders als etwa beim Halluzinieren, das gelegentlich und versehentlich geschieht. Der Golem-Artikel mit dem Titel „Anthropic zeigt Gefahren absichtlich schwindelnder KI“ (später umbenannt in „Mit dem richtigen Training kann KI täuschen und schwindeln“) kann hier abgerufen werden.
Abb.: Der Baron nicht nur auf einer Kugel, sondern auf einer ganzen Kanone (Bild: DALL-E 3)
Researchers at the University of Washington have developed a web app to help children develop skills such as self-awareness and emotional management. They have published their findings in their paper „Self-Talk with Superhero Zip: Supporting Children’s Socioemotional Learning with Conversational Agents“. From the abstract: „Here, we examine whether children can learn to use a socioemotional strategy known as ’self-talk‘ from a conversational agent (CA). To investigate this question, we designed and built ‚Self-Talk with Superhero Zip,‘ an interactive CA experience, and deployed it for one week in ten family homes to pairs of siblings between the ages of five and ten … We found that children could recall and accurately describe the lessons taught by the intervention, and we saw indications of children applying self-talk in daily life.“ (Fu et al. 2023) The paper can be downloaded at dl.acm.org/doi/abs/10.1145/3585088.3589376.
Oliver Bendel war ab 2012 einer der ersten Maschinenethiker in Europa und ist bis heute einer wenigen weltweit, die laufend Prototypen – sogenannte moralische Maschinen – erstellen und erforschen, vor allem Chatbots und Sprachassistenten sowie tierfreundliche Maschinen. Seine Beschäftigung mit Roboter- und Maschinenethik begann in den 1990er-Jahren, als er sich mit der Verantwortung und den Rechten und Pflichten von Systemen beschäftigte, auf der Grundlage der Arbeiten von William Bechtel und James H. Moor. Er ist bis heute der Überzeugung, dass Computer und Roboter keine Verantwortung tragen und keine Rechte und Pflichten haben können. Man kann ihnen lediglich Verpflichtungen auferlegen oder, noch schwächer ausgedrückt, Aufgaben geben, die sie als unsere Werkzeuge und Diener abzuarbeiten haben, und moralische Regeln, an die sie sich halten müssen – eben das ist die Aufgabe der Maschinenethik. Im Kundenmagazin ti&m special vom Januar 2024 ist ein Interview mit Oliver Bendel abgedruckt. Darin geht es um autonome Maschinen, von deren Einsatz er in manchen Bereichen abrät, und um die Disziplin der Maschinenethik. Der Beitrag mit dem Titel „In manchen Kontexten sollten wir keine autonomen Systeme einsetzen“ kann hier heruntergeladen oder über die Website des Unternehmens bezogen werden.
At the AAAI 2024 Spring Symposium „Impact of GenAI on Social and Individual Well-being“ the paper „How Can GenAI Foster Well-being in Self-regulated Learning?“ by Stefanie Hauske and Oliver Bendel was accepted. It explores how generative AI (GenAI) can improve the well-being of learners within self-regulated learning (SRL) frameworks and presents three customized GPTs that can support learners – one of them is a virtual learning companion (VLC) in the narrower sense. They demonstrate the potential of GenAI in actively supporting learners in SRL and positively influencing their well-being. The two authors from ZHAW and FHNW then provide a balanced overview of the opportunities and risks associated with generative AI in the field of learning, and highlight directions for future research. The results indicate that GenAI can significantly improve the well-being of learners in SRL through providing personalized guidance, reducing feelings of stress, and increasing motivation and self-efficacy. The paper will be presented March 25-27 at Stanford University. Learn more about the AAAI 2024 Spring Symposia at aaai.org/conference/spring-symposia/sss24/#ss01.
Fig.: Young woman with a VLC at Stanford University (Image: DALL-E 3)
At the AAAI 2024 Spring Symposium „Impact of GenAI on Social and Individual Well-being“ the paper „How Can Generative AI Enhance the Well-being of the Blind?“ by Oliver Bendel was accepted. In his paper, the information systems specialist and technology philosopher from Zurich discusses the GPT-4-based Be My AI feature of the Be My Eyes app. He presents his own tests with the app and discusses it from an ethical perspective. The feature is one of the most important inventions in recent years for blind and visually impaired people. It allows them to describe and categorize their surroundings without outside help. However, it is troubling that the app refuses to show some objects, including famous works of art that depict nudity. This disenfranchises people because of the moral sensitivities and economic considerations of the developers. Oliver Bendel will present the paper at Stanford University on March 25-27. It is his ninth consecutive appearance at the AAAI Spring Symposia, which this time consists of eight symposia on artificial intelligence.
Fig.: The app answers the question of which tie goes with a gray suit
Am 1. Januar 2024 ist der Beitrag „KI-basierte Textgeneratoren aus Sicht der Ethik“ von Oliver Bendel erschienen, im Sammelband „KI:Text: Diskurse über KI-Textgeneratoren“, herausgegeben von Gerhard Schreiber (Helmut-Schmidt-Universität/Universität der Bundeswehr) und Lukas Ohly (Goethe Universität Frankfurt am Main). Aus dem englischsprachigen Abstract des deutschsprachigen Beitrags: „This chapter deals with AI-based text generators from an ethical point of view. It begins with a brief overview of generative AI (section 2) and AI-based text generators in particular. This is followed by a compilation of relevant areas of applied ethics (section 3), especially information ethics and its relatives, and then a structured, detailed ethical discussion (section 4). Opportunities and risks of operation and use are addressed. The chapter concludes with a summary and outlook (section 5). Overall, numerous risks are identified, as well as opportunities such as supporting work. The transformative potential for an important part of the creative and scientific professions is obvious. It is clearly a second wave of digitization that is taking hold.“ Enthalten sind im Sammelband auch die Beiträge „Lernende Maschinen und die Zukunft der Öffentlichkeit“ von Christian Stöcker, „KI in der universitären Lehre“ von Gabi Reinmann und Alice Watanabe sowie „Mit generativen KI-Systemen auf dem Weg zum Human-AI Hybrid“ von Ulrike Aumüller, Maximilian Behrens, Colin Kavanagh, Dennis Przytarski und Doris Weßels. Weitere Informationen und kostenloser Download des gesamtes Bands über www.degruyter.com.
Abb.: Eine fiktive Darstellung des Buchs (Bild: DALL-E 3)
