Londoner Wissenschaftler habe eine riesige Bot-Armee bei Twitter entdeckt. Noch ist unklar, wofür sie eingesetzt werden soll.
London - Mehr als 350 000 falsche Profile eines einzelnen Betreibers haben Forscher des Londoner University College auf Twitter entdeckt. Es ist eines der größten, wenn nicht das größte Netzwerk von Social Bots, das bisher enttarnt worden ist. Diese Bot-Armee ruht zwar zurzeit, das heißt, ihre Mitglieder versenden aktuell keine Twitter-Meldungen. Aber das könne sich jederzeit ändern, warnen die Experten.
Die Bots schickten lediglich im Juni und Juli 2013 einzelne Nachrichten – „nicht zu viele und nicht zu wenige, um nicht aufzufallen“, wie Juan Echeverria und Shi Zhou vom Department of Computer Science schreiben. Ihre Tweets bestanden aus Zitaten aus „Star Wars“-Büchern, die offenbar automatisch ausgewählt wurden. Dadurch verwendeten sie natürliche menschliche Sprache, was ihre Tarnung noch perfektionierte. Eine automatische Erkennung wird so noch schwieriger. Allerdings begannen oder endeten viele der Tweets mit einem unvollständigen Wort, zudem waren Hashtags offenbar beliebig vor einige Begriffe gesetzt worden, wie zum Beispiel in diesem Tweet: „Luke’s answer was to put on an extra burst of speed. There were only ten meters #separating them now. If he could cover t“.
Die Forscher hatten sich mit automatisierten Nutzerkonten beschäftigt und waren dabei mehr oder weniger zufällig auf das Netzwerk gestoßen. Ihnen fielen Accounts auf, die Nachrichten mit seltsamen Ortsangaben verschickten: Sie schienen beispielsweise mitten auf dem Ozean verschickt worden zu sein oder in einer Wüste. Bot-Netze verwenden häufig zufällige Ortsdaten, um die Profile echter erscheinen zu lassen. So wird der Eindruck erweckt, dass die Nachrichten von einem realen Ort kommen. Ein Tweet, der mitten auf dem Ozean versendet wurde, ist allerdings eher unwahrscheinlich. Als sich die Forscher die Accounts genauer anschauten, fiel ihnen zudem auf, dass alle Nachrichten von einem Windows-Smartphone verschickt wurden.
9000 echte Nutzerprofile als Vergleichsgruppe
Die Forscher suchten daraufhin anhand dieser Merkmale nach weiteren Bots des Netzwerks, das sie „Star-Wars“-Botnet tauften, indem sie in den Tweets nach Begriffen aus „Star Wars“ suchten. Dabei konzentrierten sie sich auf Profile, die weniger als zehn Follower hatten und weniger als 31 anderen folgten. 3000 solcher auf manuellem Weg gefundene Profile nutzen sie schließlich als Trainingsdaten für einen Künstliche-Intelligenz-Algorithmus, der darin Gemeinsamkeiten in der Wortwahl finden sollte. Als Vergleichsgruppe dienten 9000 Profilen von realen Nutzer. Der sogenannte Klassifikator – ein Algorithmus, der besonders gut Muster in Daten erkennt und diese in Gruppen sortiert – hatte zuvor erfolgreich Spam-Mails detektiert. Nach einigen computerlinguistischen Anpassungen erreichten die Forscher eine Genauigkeit von mehr als 99 Prozent, mit der der Algorithmus die Bots des „Star Wars“-Netzwerks von echten Twitter-Nutzern unterscheiden konnte.
Noch gebe es viel zu wenig Forschung, so die Londoner Wissenschaftler, um wirklich zu verstehen, welche Gefahr von derart großen, versteckten Bot-Netzen ausgehe. Sie vermuten allerdings, dass die „Star Wars“-Accounts auf dem Schwarzmarkt äußerst wertvoll sind. Da sie seit Längerem nicht aktiv sind, fallen sie auch den Erkennungsalgorithmen von Twitter selbst nicht auf, mit denen der Dienst nach verdächtigen Aktivitäten fahndet.
Insgesamt scheint der unbekannte Bot-Master einiges getan zu haben, um die bisherigen Erkennungsmethoden zu umgehen. Seine Bots nutzen natürliche Sprache, sie nennen in ihren Tweets keine URLs, sie schicken nicht zu viele Nachrichten und folgen nicht zu vielen anderen, sie erwähnen in ihren Tweets keine anderen Nutzer, und einige von ihnen haben echte Profilbilder. „Es scheint so, als ob die ‚Star Wars‘-Bots bewusst entworfen wurden, um viele der Heuristiken zu umgehen, die früheren Bot-Erkennungsmethoden zugrunde liegen“, schreiben die Forscher.
Die Experten nehmen die Gefahren von Bot-Armeen sehr ernst
Juan Echeverria und Shi Zhou glauben, dass die Bots als Follower verkauft werden sollen, um andere Twitter-Accounts einflussreicher erscheinen zu lassen. Je mehr Follower ein Nutzer hat, umso höhere Reichweiten erreichen seine Tweets – auch weil der Twitter-Algorithmus ihn als einflussreicher einstuft. „Der Bot-Master kann die 350 000 Bots jederzeit reaktivieren“, schreiben sie – und dann können diese beispielsweise Twitter-Trends und Meinungen manipulieren. „Die Tatsache, dass die Bot-Armee so groß ist, macht die potenziellen Gefahren sehr ernst – vielleicht sogar ernster als alles, was wir bisher gesehen haben.“
Für die Zukunft sind die Londoner Forscher nicht besonders optimistisch: Die Entdeckung des „Star Wars“-Netzwerks sei nur möglich gewesen, weil der Bot-Master trotz seiner Kreativität, bisherige Erkennungsmethoden zu umgehen, Fehler gemacht habe: „Star Wars“ als einzige Quelle für die Tweets habe es leicht gemacht, einen Mustererkennungs-Algorithmus zu trainieren. Der Versuch, durch geogetaggte Tweets besonders authentisch zu erscheinen, sei nach hinten losgegangen, da der zufällige Mechanismus Orte mitten im Meer ausgewählt habe.
„In der Tat können zukünftige Bot-Entwickler Lehren aus jedem neuen Erkennungsverfahren ziehen“, schreiben die Forscher. Es werde unweigerlich immer schwieriger, Bot-Netze zu erkennen. Die IT-Experten haben allerdings mittels ihrer neuen Erkenntnisse über die Erkennung von Bot-Netzen dennoch ein weiteres mit mehr als 500 000 Followern entdeckt. „Darüber berichten wir bald.“ Es geht weiter.
Glossar
Bot Ein Bot ist ein Computerprogramm, das weitgehend automatisch funktioniert. Beispielsweise nutzen Suchmaschinen Bots, um das Internet nach neuen Seiten zu durchforsten und diese zu kennzeichnen. Der Begriff ist zunächst wertneutral. Es gibt aber „böse“ Bots, die zum Beispiel das Netz automatisch nach Adressen durchsuchen, um Betroffenen Werbung oder Spam zu schicken.
Social Bot Ein Social Bot hingegen ist ein automatisches Programm, dass einen Account in sozialen Netzwerken wie Twitter bedient. Manche reagieren beispielsweise auf bestimmte Hashtags oder Stichworte mit vorgegebenen Aussagen. Andere lernen durch künstliche Intelligenz von menschlichen Nutzern, sich möglichst wie diese auszudrücken.
Bot-Armee Eine Bot-Armee oder ein Bot-Netz ist eine große Gruppe von Social Bots, die von einem gemeinsamen menschlichen Bot-Master gesteuert werden. Die Bots einer solchen Armee folgen meist einander oder interagieren miteinander, um Aktivitäten vorzugaukeln, die ihre Bedeutung im Netzwerk stärkt. Der Bot-Master entscheidet, wie er sie einsetzt.
Hashtag Mit einem Hashtag markieren Twitter-Nutzer bestimmte Themen – etwa die Fußball-WM, aktuelle politische Ereignisse oder TV-Serien. Nach diesen Hashtags können andere Nutzer suchen, wenn sie die Debatte zu einem Thema verfolgen wollen.
Geotag
Twitter bietet an, den Standort der Nutzer mit zu versenden, wenn diese einen Tweet losschicken. Die meisten Nutzer haben diese Funktion ausgeschaltet. Angesichts der vielen Twitterer erlaubt die Auswertung der Ortsangaben dennoch Aussagen darüber, wo sich Themen wie verbreiten.