AwareNet entwickelt derzeit SAMM – kurz für Social Automated Media Monitoring. Das digitale Tool soll Fachkräfte dabei unterstützen, relevante öffentliche Beiträge und Kommentare auf Social-Media-Plattformen schneller zu erkennen, einzuordnen und strukturiert zu bearbeiten. Im Fokus stehen unter anderem Polarisierung, demokratiefeindliche Narrative, gruppenbezogene Abwertung, Desinformation und mögliche Beratungsbedarfe.
SAMM erfasst ausgewählte öffentlich sichtbare Inhalte, strukturiert diese in einer internen Datenbank und unterstützt die fachliche Vorsortierung durch KI-basierte Zusammenfassungen und Vorbewertungen. Relevante Beiträge werden als Fälle aufbereitet und anschließend Mitarbeitenden zur menschlichen Prüfung zugewiesen. Automatisierte Entscheidungen über Personen sind nicht vorgesehen.
Bei der Entwicklung legt AwareNet besonderen Wert auf menschliche Kontrolle, Datenschutz, Datensparsamkeit und eingeschränkte Zugriffsrechte. Private Nachrichten, geschlossene Gruppen und nicht öffentliche Daten werden nicht erhoben. SAMM befindet sich derzeit in der Pilot- und Prüfphase und soll die digitale Präventionsarbeit künftig effizienter, nachvollziehbarer und besser koordinierbar machen.
