Uni entwickelt Algorithmus gegen Mobbing

Forscher der Virginia Polytechnic Institute and State University haben einen neuen Algorithmus entwickelt, der Cyber-Bullying auf die Schliche kommt. Das Programm basiert auf maschinellem Lernen, einer Art von Künstlicher Intelligenz. Es hebt sich von herkömmlichen Tools zur Identifizierung von Internet-Mobbing dadurch ab, dass es sich auf soziale Strukturen sowie Muster statt auf spezifische Wörter fokussiert.

«Die Idee dahinter ist, ein Computerprogramm mit Beispielen von Cyber-Bullying zu füttern. Anschliessend erstellt der Algorithmus auf Basis des Datenmaterials ein Modell, das ihm bei einer präzisen Suche nach Internet-Mobbing hilft», erklärt Bert Huang vom Virginia Tech Department of Computer Science. Das Programm liefere eine Liste an Interaktionen zwischen Online-Usern und stelle fest, ob diese sich gegenseitig schikaniert haben.

Laut Huang erschweren spezielle Sprechweisen das Detektieren von Cyber-Bullying, weswegen der Algorithmus noch nicht zu 100 Prozent akkurat funktioniert. «Hierbei handelt es sich um ein Instrument, das menschliche Kontrolle erfordert, damit es zu keinem Fehler kommt. Denn oft gebrauchen User Phrasen, um miteinander zu scherzen, ohne dass es dabei zu einem bewussten Mobbing kommt», schildert Huang.

«Ein Ziel besteht in der Kooperation mit sozialen Netzwerken. Diese können das Tool implementieren, damit die Online-Erfahrung gefiltert wird», fügt der Computerwissenschaftler hinzu. Somit werde dem Auftreten von Cyber-Mobbing im Vorfeld entgegengewirkt. Dennoch betont Huang, dass ein derartiger Algorithmus auch Gefahren birgt. So könne es zu einer Eskalation kommen, wenn Mobber sich durch eine Blockade provoziert fühlen.

Die Risiken, welche von derartigen Tools ausgehen, bestätigt auch Matthias Jax von Saferinternet gegenüber pressetext. «Obwohl ich in diesem Ansatz ein grosses Potenzial sehe, kann hier viel passieren. Trotz Implementierung solcher Algorithmen bleibt ein medienkompetenter Umgang mit dem Internet, zu dem auch Schulungen gehören, unerlässlich», fasst Jax zusammen.