Frühwarnsystem Hetze und Hass im Internet auf der Spur

Hetze und Mobbing im Netz kann Betroffene krank machen. Das Start-up Cemas will Hetzern, aber auch Verschwörungsanhängern auf die Spur kommen. Foto: Adobe Stock/Brian

Das gemeinnützige Start-up Cemas, gegründet von fünf Wissenschaftlern, durchforstet das Internet nach radikalen Tendenzen. Im Fokus derzeit: der Messengerdienst Telegram.

Berlin - Tief oder im Geheimen schürfen muss man nicht, um zu entdecken, was Pia Lamberty täglich sieht. „Man braucht nicht ins Darknet zu gehen“, stellt die Sozialpsychologin klar. Es reicht zum Beispiel, beim Messengerdienst Telegram das Stichwort Impfpass einzugeben, und schon spucke die Suche öffentlich frei zugängliche Gruppen aus, in denen mit gefälschten Corona-Impfausweisen gehandelt werde.

 

„Es gibt auch Drogen oder Waffen, und bezahlt wird dann meistens mit Kryptowährung“, schildert die 37-Jährige die schöne neue Online-Welt von Verschwörungstheoretikern, Rechtsradikalen oder Internetnutzern, die sie „Fake-News-Schleudern“ nennt. Um die ins Rampenlicht zu stellen und zu warnen, haben Lamberty und vier weitere Geisteswissenschaftler in Berlin das gemeinnützige Start-up Cemas gegründet.

Telegram und Instagram

„Wir haben alle auch Spezialisierung im Digitalbereich“, erklärt die Frau, die wie ihre Mitstreiter selbst schon zum Hassobjekt geworden ist. „Drohungen, Hassmails und Beleidigungen bekommen wir alle“, sagt sie ohne hörbare Aufregung in der Stimme. Lamberty ist einiges gewohnt und schreddert mittlerweile Briefe wie Büromüll, um darin keine Spuren für diejenigen zu hinterlassen, die irgendwann nicht mehr nur verbal hetzen, sondern zur Tat schreiten.

Mit einer Mischung aus Technik und persönlicher Fachexpertise durchforstet das Quintett derzeit noch ausschließlich Telegram. „Das ist die wichtigste Plattform für das verschwörungsideologische Milieu“, weiß die Sozialpsychologin. Gleich dahinter komme das Foto- und Videonetzwerk Instagram, wo die rechtsextreme Szene ebenfalls zunehmend aktiv sei. Sobald die Kapazitäten des Centers für Monitoring, Analyse, Strategie (Cemas) ausreichen, soll auch das ausgewertet werden. Ziel des Ende März gegründeten Start-ups ist es, Behörden, Medien oder Firmen ein Frühwarnsystem für Radikalisierungstendenzen im Internet zur Verfügung zu stellen.

Gewalttaten kündigen sich oft an

Wenn beispielsweise eine Zeitung Reporter oder Fotografen zu einer Demonstration von Coronaleugnern schickt, kann Cemas sagen, ob dort im Vorfeld gegen Medienvertreter mobilisiert wird. „Wir haben ein gutes Bild, wie gefährlich etwas ist“, sagt Lamberty. Im deutschsprachigen Raum gebe so etwas wie Cemas noch nicht. In den USA hätten Kollegen schon im Dezember 2020 durch Überwachung öffentlich zugänglicher Internetforen den Sturm auf das Capitol in Washington im Folgemonat vorhergesagt. Wirklich ernst genommen habe diese Warnungen niemand, stellt Lamberty klar. So sei das auch noch viel zu oft hierzulande.

„Das Digitale wird unterschätzt“, warnt die Sozialpsychologin. Aber Gewalttaten würden sich dort oft ankündigen. Fehlendes Wissen über Radikalisierungsverläufe will Cemas aber nun liefern. Die nächsten drei Jahre finanziell sorgenfrei möglich gemacht hat das die Alfred-Landecker-Stiftung, die sich dem Kampf gegen Antisemitismus sowie Hetze im Internet verschrieben hat. Sie unterstützt Cemas mit 2,8 Millionen Euro.

„Antidemokratische Radikalisierung geschieht nicht im Vakuum, sondern in öffentlichen digitalen Räumen und mit dramatischen Folgen für unsere Gesellschaft, online wie offline“, sagt der Gründungsdirektor der Stiftung, Andreas Eberhardt. Diese verstehe sich als Inkubator für Unternehmen wie Cemas, die sich diesen Entwicklungen entgegenstellen.

Cemas sucht weiteres Personal

Wie es nach dieser Anschubfinanzierung weitergeht, wissen Lamberty und ihre Mitstreiter noch nicht. Spendenfinanzierung sei eine Möglichkeit, das kommerzielle Anbieten von Cemas-Diensten etwa für Unternehmen, die im Internet Opfer von Hetzern oder Verschwörungstheoretikern werden, eine andere. Aktuell suche man erst mal weiteres Personal unter anderem im IT-Bereich. Auch der Einsatz von Künstlicher Intelligenz (KI) werde geprüft, sagt Lamberty. Die Frage sei, ob Sprach-KI mit den Codes zurechtkomme, derer sich Verschwörungstheoretiker, Antisemiten oder Rechtsradikale oft bedienen würden. Es bedürfe eines geschulten Auges, die Sprache der Hetzer richtig zu verstehen.

Für wirklich unverbesserlich hält Lamberty übrigens nur zehn bis 15 Prozent, der sich im Internet tummelnden Szene. „Die haben dann ein geschlossenes Weltbild, wo man nicht mehr reinkommt“, weiß die Expertin. Mit dem großen Rest könne man noch reden. Was die Cemas-Mitgründerin nicht glaubt, ist ein Verschwinden des Problems mit dem Ende der Coronapandemie. Denn gegeben habe es das Milieu schon vor deren Ausbruch. Mit der Coronakrise hätten sich Hetzer und Leugner aller Couleur nun vernetzt wie nie zuvor. „Darauf kann man zurückgreifen“, warnt Lamberty und nennt dafür anfällige Themen wie den Klimawandel oder Briefwahl.

Weitere Themen

Weitere Artikel zu Internet Start-Up