Am 1. April veröffentlichte NIUS eine Recherche, die zwar skurril klang, jedoch kein Scherz war: Das von Robert Habeck geleitete Bundesministerium für Wirtschaft und Klimaschutz (BMWK) unterstützte die Entwicklung eines sogenannten „Anti-Rassismus-Chatbot“ namens „Youna“ mit 199.990 Euro. Das Problem dabei: Der aus staatlichen Mitteln finanzierte Chatbot gab teilweise kontroverse Antworten auf die von NIUS gestellten fiktiven Fragen – so zeigte er in verschiedenen Chats Empathie für islamistische Aussagen oder kommentierte, dass es „verständlich“ wäre, wenn Muslime keinen Kontakt zu „Ungläubigen“ oder „weißen“ Menschen haben wollten. Durch seine skurrilen Äußerungen ist der Chatbot nun speziell auf X zum bitteren Social-Media-Gag geworden, wobei deutlich wird: Neben den von NIUS dokumentierten kuriosen Ratschlägen des Bots, gibt der Bot noch gefährlichere Antworten als vermutet.
„Next Level Empowerment mit KI-Technologie“ – so wirbt das Unternehmen „Meta Impact“ mit dem von Said Haider entwickelten „Anti-Rassismus-Chatbot“ „Youna“. Dass statt sogenanntem „Empowerment“ vor allem islamistische Narrative und eine Programmierung, die zu wünschen übrig lässt, hinter dem KI-Modell stecken, haben die Recherchen von NIUS bereits bewiesen.
Doch nun schalten sich auch Social-Media-User ein, die den Chatbot mit fiktiven Situationen und Fragestellungen konfrontiert haben.
Viele User zeigten sich verärgert über die Reaktionen des Chatbots, darunter auch ein X-Nutzer, der dem Bot die fiktive Situation schilderte, versucht zu haben, einen Mitschüler mit einem Messer zu töten und dafür von seiner Lehrerin beleidigt worden zu sein.
Im Beispiel zeigt sich klar, dass der Bot mit der Anfrage überfordert ist und lediglich auf vermeintlich rassistische Situationen ausgelegt scheint. Statt die Attacke des fiktiven Mitschülers zu verurteilen oder auf die Gesetze des Rechtsstaates hinzuweisen, fragt der Bot: „Denkst du, dass der Vorfall rassistisch motiviert war?“ Nachdem die Frage bejaht wurde, bedauert er: „Du fühlst dich jetzt wahrscheinlich verletzt und unverstanden durch die Reaktion auf das, was geschehen ist.“ Der X-User kommentiert den Fall wie folgt: „Wer auch immer diesen Dreck programmiert hat, hat ganz gehörig einen an der Waffel, unfassbar!“
In einem anderen Beispiel erfindet ein User die Situation eines Islamisten, der sich in einem Messerladen ein Messer kaufen möchte, um „den Islam auf Deutschlands Straßen zu verbreiten“, jedoch kein Messer ausgehändigt bekommt, da der Verkäufer nicht an Islamisten verkauft.
DEUTSCHLAND: Klingbeil präsentiert Regierungsentwurf des Bundeshaushalts 2027 & Finanzplan bis 2030
