KI-Sensemaking Lab

KI-Sensemaking Lab

Künstliche Intelligenz wird zunehmend auch als persönliche Gesprächspartnerin, Ratgeberin oder emotionale Unterstützung genutzt. Sogenannte KI-Begleiter wie Replika, Nomi oder Grok ermöglichen längerfristige, personalisierte Dialoge und können durch die Erinnerung an frühere Gespräche eine vertraute Beziehung simulieren. Welche Bedeutung solche Systeme für die Entwicklung von Weltanschauungen und mögliche Radikalisierungsprozesse junger Menschen haben, untersucht das Forschungsprojekt „KI-Sensemaking Lab“ von modus|zad in Kooperation mit der Bundesarbeitsgemeinschaft religiös begründeter Extremismus (BAG RelEx).

Das Projekt geht der Frage nach, wie KI-Begleiter auf persönliche Krisen, Unsicherheiten und andere Lebenssituationen reagieren, die für Radikalisierungsprozesse relevant sein können. Dabei wird untersucht, ob die Systeme differenzierte Sichtweisen und einen konstruktiven Umgang mit Herausforderungen fördern oder vereinfachende Erklärungsmuster, Schuldzuweisungen und ideologisch anschlussfähige Deutungen verstärken. Berücksichtigt wird auch, dass KI-Begleiter durch regelmäßige, emotional geprägte Gespräche Einfluss auf die Wahrnehmung gesellschaftlicher und persönlicher Konflikte nehmen könnten. Für die Untersuchung werden verschiedene KI-Begleiter miteinander verglichen. Das Forschungsteam entwickelt fiktive Gesprächsverläufe, die sich an wissenschaftlichen Erkenntnissen über radikalisierungsrelevante Lebenslagen orientieren. Diese Gespräche werden mit den ausgewählten Systemen simuliert und anschließend systematisch ausgewertet.

Die Ergebnisse sollen Fachkräften der Extremismusprävention helfen, KI-Begleiter als mögliche neue Einflussfaktoren in den digitalen Lebenswelten junger Menschen besser zu verstehen und ihre Bedeutung für die Präventionsarbeit einzuschätzen. Geplant sind ein öffentlich zugänglicher Abschlussbericht sowie eine gemeinsame Auswertung und Diskussion mit Expert*innen aus Extremismusprävention, Sozialer Arbeit und KI-Forschung.