Wie erkennt KI, was strafbar ist?

DW (Deutsch)

In manchen Ländern können Menschen für ihre Hasskommentare im Internet angezeigt werden. KI hilft, die Beleidigungen zu finden, die strafbar sind. Data-Wissenschaftler Marcel Schliebs erklärt, wie es funktioniert.

Transcript

00:00Der Datenwissenschaftler Marcel Schlieps hat für das Start-up SODAN

00:04eine KI-gestützte Software entwickelt.

00:07Sie scannt Kommentare in den sozialen Medien

00:10und filtert strafbare Inhalte heraus.

00:13Die KI ist mittlerweile schon sehr gut darin geworden,

00:16sehr viele Beispiele korrekt zu identifizieren.

00:19Die KI scannt für ihre Auftraggeber öffentlich zugängliche Kommentare.

00:24Sie sucht nach Wortgruppen, die bekannte Straftaten

00:27wie Beleidigung oder Volksverhetzung erfüllen.

00:30Dank juristischer Datenbanken lernt sie ständig dazu.

00:34Doch ein Problem bleibt, es ist kein technisches.

00:39Ehrlicherweise muss man sagen, dass es bisher in diesem ganzen Bereich

00:43strafbare, online Beleidigungen, Bedrohungen, Hasskriminalität

00:47noch gar nicht so viele Präzedenzfälle und Präzedenzurteile gibt.

00:51Sodass wir da auch führend sind,

00:54überhaupt Präzedenz erst mal mitzuschaffen.

00:57Die KI nutzt semantische Vektoren.

01:00D.h. ähnliche Begriffe werden in Gruppen zusammengefasst.

01:04So erkennt die KI auch unbekannte Wörter, die strafbar sein könnten.

01:08Diese sortiert sie vor, damit Menschen sie dann weiterprüfen können.

01:15Irgendeine sexistische Beleidigung einer Frau, Fotze, Schlampe oder so,

01:19ist in einem bestimmten Raum abgelegt.

01:22Etwas anderes wie Hurenutte ist zwar ganz andere Buchstaben,

01:26aber ist sehr semantisch, sehr ähnlich zueinander.

01:29Das reicht dann natürlich nicht aus, um direkt zu sagen,

01:32das ist auch strafbar, dieses Wort zu verwenden.

01:35Aber es ist schon recht hilfreich in der Vorsortierung,

01:38um dann noch mal drüber zu gehen und sich das genauer anzuschauen.

01:42Die juristische Prüfung übernimmt dann ein Mensch.

01:45Bei der Masse an strafbaren Kommentaren

01:47wirkt das Netz oft wie ein rechtsfreier Raum.

01:50Kann sich das ändern?

Kategorie

Transkript

Empfohlen