KI, Hate Speech und die Frage, wie demokratisch unsere Plattformen noch sind   Wenn auf Instagram ein Kommentar verschwindet, ein YouTube-Video als problematisch markiert wird oder eine Beschwerde auf X automatisch beantwortet wird, steckt dahinter immer häufiger kein Mensch, sondern ein KI-System. Solche Systeme bewerten Inhalte, entscheiden über Sichtbarkeit, stufen Beiträge herab oder entfernen sie ganz. Damit greifen sie direkt in digitale Öffentlichkeiten ein – und in die Frage, wer gehört wird, wer geschützt wird und wer verstummt.

In dieser Ausgabe von MuT2Go geht es um automatisierte Moderation, digitale Gewalt und Demokratie. Der Einstieg erfolgt über ein popkulturelles Beispiel aus der Meme- und Plattformkultur: Was passiert, wenn Ironie, Hassrede, politische Kritik oder marginalisierte Selbstbeschreibung von Maschinen sortiert werden müssen? Gerade bei Hate Speech und digitaler Gewalt zeigt sich ein zentrales Problem: KI-Systeme sollen schützen, können aber zugleich neue Ungerechtigkeiten erzeugen. Manche verletzenden Inhalte bleiben online, während andere Beiträge fälschlich gelöscht oder unsichtbar gemacht werden.

Dana Mahr stellt dazu das neue Forschungsprojekt AGORA-KI – Automatisierte Moderation und demokratische Öffentlichkeit: Soziale KI-Agenten im digitalen Diskursraum vor, das sie am Institut für Technikfolgenabschätzung und Systemanalyse (ITAS) gemeinsam mit Nora Weinberger und Lahari Yaddanapudi bearbeitet. Das Projekt untersucht seit Juni 2026, wie sogenannte soziale KI-Agenten öffentliche Debatten auf Plattformen wie Instagram, YouTube oder X verändern. Im Zentrum stehen Fragen nach Verantwortung, Transparenz, Fairness und menschlicher Kontrolle: Wer ist eigentlich zuständig, wenn Maschinen entscheiden, was sichtbar bleibt, und was verschwindet?

Am Ende steht eine positive Zukunftsfrage: Wie müssten digitale Diskursräume gestaltet sein, damit KI nicht einfach über Sichtbarkeit und Sagbarkeit entscheidet, sondern demokratisch kontrollierbar bleibt? Statt nur smarter Filter brauchen wir nachvollziehbare Regeln, wirksame Beschwerdemöglichkeiten und öffentliche Kontrolle darüber, wie Plattformen moderieren. Denn digitale Öffentlichkeit ist kein technisches Nebenprodukt, sie ist Teil demokratischer Infrastruktur.
 
📅 Samstag, 27. Juni 2026
⌚ 13:30 – 14:30 Uhr
📍 am MobiLab auf dem Kronenplatz in Karlsruhe
⭐ Eintritt frei
 
Diese Ausgabe von MuT2Go ist genau richtig für dich, wenn du dich für eines oder mehrere der folgenden Themen interessierst:
 
Künstliche Intelligenz und Demokratie  Digitale Gewalt und Hate Speech  Social Media und öffentliche Debatten  Plattformregulierung  Sichtbarkeit, Moderation und Verantwortung  
 
Die Veranstaltung findet im Rahmen der Tage der Demokratie 2026 statt und wird eingerahmt von der Ausstellung "...sag du es mir - Vertrauen in die Wissenschaft", die am 26. und 27. Juni im MobiLab ausgestellt wird.