KISTRA – Einsatz von Künstlicher Intelligenz zur Früherkennung von Straftaten

  Kistra Projektlogo

Ansprechpartner

Telefon

work
+49 241 80 49251

E-Mail

E-Mail

Ansprechpartner

Telefon

work
+49 241 80 49239

E-Mail

E-Mail
 

Forschung an technischen Lösungen zur Erkennung von Hasskriminalität sowie sozialwissenschaftliche, ethische und rechtliche Betrachtungen zum Thema „Hass im Internet“

Am 01. Juli 2020 ist das Forschungsprojekt KISTRA – Einsatz von KI zur Früherkennung von Straftaten gestartet. Ziel ist die Erforschung der Möglichkeiten und Rahmenbedingungen für den ethisch und rechtlich vertretbaren Einsatz von Künstlicher Intelligenz durch Sicherheitsbehörden zur frühzeitigen Erkennung und Prävention von Straftaten der Hasskriminalität.

An dem dreijährigen Projekt beteiligt sich ein Konsortium aus neun Partnern, geleitet von der Zentralen Stelle für Informationstechnik im Sicherheitsbereich, kurz ZITiS. KISTRA zeichnet sich durch die interdisziplinäre Einbindung von Wissenschaft, Wirtschaft und Endanwendern aus. Neben ZITiS und dem Bundeskriminalamt, kurz BKA, das zugleich Partner und Endanwender ist, sind sieben weitere Partner am Projekt beteiligt: die Johannes Gutenberg-Universität Mainz, die Ludwig-Maximilians-Universität München, Munich Innovation Labs GmbH, die RWTH Aachen University, die Technische Universität Berlin, die Technische Universität Darmstadt und die Universität Duisburg-Essen. Das Forschungsprojekt verfügt über ein Gesamtbudget von 2,98 Millionen Euro.

Die Ergebnisse von KISTRA werden sowohl sozialwissenschaftliche, ethische und rechtliche Gutachten umfassen sowie technische Lösungen, zum Beispiel Softwaredemonstratoren. Neben der direkten Anwendung beim BKA können auch weitere Behörden mit Sicherheitsaufgaben von den Ergebnissen profitieren: einerseits über die Funktion der ZITiS als zentrale Stelle mit dem Auftrag, die deutschen Sicherheitsbehörden durch die Erforschung und Entwicklung von Werkzeugen im digitalen Raum zu unterstützen, andererseits über die Zentralstellenfunktion des BKA für die Polizeien des Bundes und der Länder.

Grundlage

Das Vorhaben fußt auf der „Schutz vor Kriminalität und Terrorismus“-Initiative des nationalen Sicherheitsforschungsprogrammes beim Bundesministerium für Bildung und Forschung, kurz BMBF, und will die Entwicklung rechtskonformer KI und Verfahren zur Erfassung und Bewertung sicherheitsrelevanter Inhalte im Internet voranbringen.

Hintergrund und Zielsetzung

Die Polizeiliche Kriminalstatistik zeigt in den letzten Jahren einen deutlichen Anstieg von politisch motivierten Straftaten mit Internetbezug. Die Bundesregierung begegnet dieser Entwicklung u. a. mit einer Gesetzesinitiative zur Bekämpfung des Rechtsextremismus und der Hasskriminalität, die am 18. Juni 2020 vom Bundestag angenommen wurde. Der besonders in den sozialen Netzwerken zunehmend zu beobachtenden Verrohung der Kommunikation soll damit entgegengewirkt werden, wenn die Inhalte strafrechtlich relevant sind. Soziale Netzwerke mit mindestens zwei Millionen in der Bundesrepublik Deutschland registrierten Nutzern sollen verpflichtet werden, bestimmte strafbare Inhalte, die ihnen im Rahmen von Nutzerbeschwerden bekannt werden, an das Bundeskriminalamt zu melden, damit das BKA die Strafverfolgung bei den zuständigen Sicherheitsbehörden veranlassen kann. Zur Umsetzung dieses Vorhabens ist das BKA aktuell mit dem Aufbau einer neuen Zentralen Meldestelle Internet unter anderem für Hasskriminalität betraut. Auch dabei wird die ZITiS durch die Bereitstellung informationstechnischer Fähigkeiten, zum Beispiel durch das Erforschen und Entwickeln von vertrauenswürdiger KI, unterstützen.

Künstliche Intelligenz, kurz KI, wird eine Schlüsseltechnologie im Umgang mit den Herausforderungen von Hasskriminalität. KISTRA untersucht ihre Anwendung zur Unterstützung der Ermittler bei den Sicherheitsbehörden. Hasskriminalität steht dabei für politisch motivierte Straftaten, die sich zum Beispiel in Form von Morddrohungen, Volksverhetzungen oder Beleidigungen gegen Menschen einer tatsächlichen oder zugeschriebenen gesellschaftlichen Gruppe richten. Die Datenmenge, die dazu täglich im Netz ausgetauscht wird, wächst kontinuierlich und ist ohne die Unterstützung durch Methoden der KI kaum mehr bearbeitbar. Insbesondere das Deep Learning hat sich für Klassifikationen von großen Datenmengen unterschiedlichster Datentypen bewährt.

KISTRA erforscht die mögliche Anwendung von KI in Sicherheitsbehörden in einem ganzheitlichen Ansatz: Sowohl technische, als auch sozialwissenschaftliche, ethische und rechtliche Betrachtungen werden im Projekt berücksichtigt. Zu den übergeordneten Zielen gehören unter anderem:

  • die Betrachtung der Rechtmäßigkeit und der ethischen Vertretbarkeit der angestrebten KI-Lösungen und daraus resultierender Methoden für Sicherheitsbehörden,
  • die Erkennung und sozialwissenschaftliche Betrachtung politisch motivierter Hassreden und „Hasskriminalität“ im Internet,
  • die Erarbeitung und Implementierung von adaptiven KI-Methoden zur Unterstützung der polizeilichen strafrechtlichen Bewertung von Vorgängen, die Hasskriminalität betreffen, sowie
  • die ganzheitliche Betrachtung der einzelnen technischen Komponenten und wissenschaftlichen Ergebnisse und deren Übertragung in eine technische Gesamtlösung, einen sogenannten Framework.