Hate Speech 16.01.2020, 14:34 Uhr

KI-System findet Hass in sozialen Medien

Mit Hilfe von künstlicher Intelligenz lassen sich Millionen von Kommentaren in sozialen Netzen nach digitalen Hasstiraden absuchen sowie wohlgesinnte Botschaften hervorheben, wie US-Forscher zeigen.
KI soll vor Hasstiraden im Netz schützen
(Quelle: Succo/Pixabay )
Experten der Carnegie Mellon University (CMU) bekämpfen Hass-Postings im Social Web nun technisch. Eine Künstliche Intelligenz (KI) durchforstet Millionen von Meldungen in Sekunden und unterscheidet dabei «Hate speech» von positiven Kommentaren («Help speech»). Letztere können dann von menschlichen Moderatoren aufgegriffen und in den Social-Feeds der Nutzer hervorgehoben werden, um das Internet generell «sicherer und umgänglicher» zu gestalten, so die Forscher.

«Internet zu besserem Ort machen»

«Auch wenn das Web mittlerweile mit negativen Inhalten vollgestopft wird, können wir trotzdem immer noch positive Kommentare finden», erklärt Ashiqur KhudaBukhsh, Post-Doc am Language Technologies Institute (LTI) der CMU. Das Problem sei allerdings, dass es dem Einzelnen in Anbetracht der rapiden Zunahme an Hass-Postings meist nur mehr schwer möglich sei, überhaupt auf diese positiven Meldungen zu stossen. «Indem wir genau diese Inhalte finden und hervorheben, können wir das Internet genauso zu einem besseren Ort machen, wie wenn wir schädlichen Content aufspüren und ausmerzen und ihre Verursacher aussperren», ist der Experte überzeugt.
Natürlich sei es für Menschen völlig unmöglich, sich durch Millionen von Postings zu arbeiten, um die Spreu vom Weizen zu trennen. Für diese Aufgabe brauche es eine ausgereifte KI, wie LTI-Leiter Jaime Carbonell betont: «Die Analyse derart grosser Datenmengen in so kurzer Zeit ist nur möglich aufgrund der jüngsten Fortschritte im Bereich des Maschinellen Lernens. Nur so können Maschinen wirklich verstehen, was ein Autor mit seinem Kommentar eigentlich sagen will.»

Autor(in) Markus Steiner, pte


Das könnte Sie auch interessieren