Trainingsvideos für Verhaltensanalyse: Für die Überwachungs-KI gibt es nie genug Gewalt

<p>Der Berliner Verhaltensscanner wird mit KI-Videos trainiert. Für die Qualität der Software ist das eine Herausforderung. Um sie zu verbessern, werden zusätzlich Daten von überwachten Menschen genutzt.</p>
<figure class="wp-caption entry-thumbnail"><img width="1859" height="1046" src="https://cdn.netzpolitik.org/wp-upload/2026/11/kitraining.jpg" class="attachment-landscape-860 size-landscape-860 wp-post-image" alt="Zwei Männer kämpfen in einer Bahn." decoding="async" loading="lazy" srcset="https://cdn.netzpolitik.org/wp-upload/2026/11/kitraining.jpg 1859w, https://cdn.netzpolitik.org/wp-upload/2026/11/kitraining-860x484.jpg 860w, https://cdn.netzpolitik.org/wp-upload/2026/11/kitraining-1200x675.jpg 1200w, https://cdn.netzpolitik.org/wp-upload/2026/11/kitraining-380x214.jpg 380w, https://cdn.netzpolitik.org/wp-upload/2026/11/kitraining-1536x864.jpg 1536w" sizes="auto, (max-width: 1859px) 100vw, 1859px" /><figcaption class="wp-caption-text">Anhand von solchen Bildern soll die Überwachungssoftware lernen, wie Gewalt aussieht. <span class='media-license-caption'> – Gemeinfrei: KI-generiert, Screenshot von staige.com</span></figcaption></figure><p>Das Kottbusser Tor an einem Nachmittag unter der Woche: Menschen begutachten die Auslagen des Gemüsestandes. Aus dem Rewe kommt vorsichtig eine Frau gewackelt, sie trägt zwei Einkaufstüten in jeder Hand. Eine kleine Gruppe diskutiert erhitzt, während einer mit einem beschrifteten Papier wedelt. Polizist*innen in stichsicheren Westen patroullieren über den Platz.</p>
<p>Alle diese Menschen werden gerade von einer Software analysiert. 30 Kameras filmen das Geschehen <a href="https://goerli247.org/2026/11/01/ki-kameras-am-kotti/">auf der Nordhälfte des Platzes</a> und sogenannte KI prüft, wer was tut und ob das Geschehen Hinweise auf eine Straftat gibt. Die automatisierte Dauerüberwachung soll Kontrolle auf einem bis dahin unbekannten Effizienz-Niveau ermöglichen.</p>
<p>Damit die Software erkennt, bei welcher Art von Szenen sie Alarm schlagen soll, wurden zuvor viele Clips eingespeist. In diesem Trainingsmaterial muss jeweils markiert sein, ob die Szene ein Beispiel für zu tolerierendes Verhalten sein soll oder für einen auszulösenden Alarm.</p>
<h2>Nicht genug Gewalt</h2>
<p>Die Menge und Qualität der Trainingsdaten hat große Auswirkungen darauf, wie gut das System am Ende funktioniert. Das zentrale Problem an dieser Stelle: Wie es aussieht, wenn ein Mensch geht, kann die Verhaltenserkennung anhand von Bildern aus dem öffentlichen Raum sehr gut lernen – da gibt es viel Anschauungsmaterial. Aber an welchen Faktoren sich ein Kampf erkennen lässt, ist anhand des Geschehens vor Ort schwierig zu kategorisieren. Aus Sicht von KI-Trainer*innen gibt es einfach nicht genug Gewalt im öffentlichen Raum. „Wie sich im Verlauf des Projektes zeigte, stehen leider nur sehr begrenzt öffentliche Daten zur Verfügung“, <a href="https://netzpolitik.org/2025/verhaltensscanner-im-mannheim-hier-wird-die... die Mannheimer Polizei</a>.</p>
<p>Deshalb arbeiten die KI-Entwickler*innen mit Bildmaterial von nicht-authentischen körperlichen Auseinandersetzungen. In Mannheim etwa haben Polizist*innen bereits 2.000 Show-Kämpfe für das KI-Training veranstaltet, die Mannheimer Polizei geht davon aus, dass <a href="https://netzpolitik.org/2026/verhaltenserkennung-in-mannheim-10-000-film... weitere 8.000 Kämpfe nötig</a> sind, bis die Software praxistauglich ist.</p>
<p>Die Mannheimer Trainingsvideos sind als „Verschlusssachen“ eingestuft und unterliegen zudem persönlichkeitsrechtlichen Bestimmungen, deshalb will die Mannheimer Polizei diese nicht herausgeben. Ein Clip ist jedoch öffentlich, er wird im Mannheimer <a href="https://www.technoseum.de">Technoseum</a> als Beispiel für die Trainingsvideos gezeigt. Wir haben ihn dort abgefilmt.<br>
</p><div id="netzpolitik-cta-532765" class="netzpolitik-cta"><p align="center">–––</p>

<p><strong>Gegen Ausweiskontrollen im Netz.</strong> <br>Wir kämpfen für ein offenes Internet. <a href="https://netzpolitik.org/spenden/?via=rss">Das geht nur mit deiner Unterstützung.</a></p>

<p align="center">–––</p></div><div style="width: 686px;" class="wp-video"><video class="wp-video-shortcode" id="video-537702-1" width="686" height="386" preload="metadata" controls="controls"><source type="video/mp4" src="https://cdn.netzpolitik.org/wp-upload/2026/11/XMannheim.mp4?_=1"><a href="https://cdn.netzpolitik.org/wp-upload/2026/11/XMannheim.mp4">https://net...
Die Polizisten, die zu sehen sind, wirken behäbig, die angedeuteten Schläge und Tritte zurückhaltend. Im Bild sieht man auch die strichmännchenförmige Abstraktion der Bewegungen, anhand derer die KI sie kategorisiert.
<h2>KI lehrt KI, wie sich Menschen prügeln</h2>
<p>Die Entwickler*innen der Software, die am Kottbusser Tor in Berlin die Passant*innen scannt, gehen einen anderen Weg. In Berlin sollen keine Polizist*innen zu Show-Kämpfen verpflichtet werden. Stattdessen wurden – neben einigen realen Szenen – zum großen Teil KI-generierte Videos zum KI-Training genutzt. Wie Gewalt aussieht, soll die Überwachungssoftware also von einem Videogenerator lernen, der dafür mutmaßlich gewalthaltige Szenen imaginiert. „Auf diese Weise lässt sich die Trainingsmenge systematisch und datenschutzkonform vergrößern, ohne auf ortsspezifische Daten angewiesen zu sein“, schreibt ein PR-Mensch im Auftrag von Staige, dem Hersteller der Überwachungssoftware.</p>
<p>Wir haben eine IFG-Anfrage nach dem kompletten Trainingsdatensatz gestellt und hoffen darauf, damit bald einen Kinoabend bestreiten zu können. Bis dahin müssen wir uns mit einem Trailer begnügen: Auf der <a href="https://staige.com/">Website von Staige</a> sind unter „Gewalterkennung“ drei KI-generierte Clips zu sehen, auf denen KI anscheinend Gewalt detektiert hat. Tatsächlich scheinen sich die abgebildeten Figuren aber gar nicht zu berühren. Weitere Merkwürdigkeiten fallen ins Auge: Trambahntüren öffnen sich in voller Fahrt. Menschen lächeln und winken in Überwachungskameras oder hoppeln hasenartig. Bunte Strichmännchen gibt es nicht zu sehen, die mathematische Abstraktion, mit der die Software das Geschehen analysiert, bleibt verborgen.<br>
</p><div style="width: 1264px;" class="wp-video"><video class="wp-video-shortcode" id="video-537702-2" width="1264" height="720" preload="metadata" controls="controls"><source type="video/mp4" src="https://cdn.netzpolitik.org/wp-upload/2026/10/ki-vid.mp4?_=2"><a href="https://cdn.netzpolitik.org/wp-upload/2026/10/ki-vid.mp4">https://netzpo...
<p>Heiko Paulheim ist Professor für Datenwissenschaften in Mannheim, wo schon seit 2008 ein Verhaltensscanner den öffentlichen Raum durch unzählige Kameras erfasst. Wie gut solche Systeme seien, sagt Paulheim, hänge stark von den Trainingsdaten ab. Wenn die nicht authentisch seien, wirke sich das auf die Qualität der Software aus.</p>
<h2>„Wie Kinderzeichnungen von Katzen“</h2>
<p>„Man kann sich das ein wenig vorstellen wie eine Bilderkennung für Katzenbilder, die auf Kinderzeichnungen trainiert, aber auf Fotos angewendet wird. Die Performance wird immer hinter einem Modell zurückbleiben, das auf Fotos trainiert wurde“, sagt Paulheim. Dazu könne der Videogenerator Verzerrungen in die Trainingsdaten einschreiben: „Modelle, die auf YouTube-Videos trainiert sind, produzieren Material, das YouTube ähnelt, womöglich mit einer Tendenz zu viel Action, guter Ausleuchtung, Fokus auf jüngeren Darsteller*innen mit gefragten Körperformen – und vielleicht auch vermehrt auftretenden Stereotypen wie dem des dunkelhäutigen Angreifers im schwarzen Kapuzenpullover.“</p>
<p>Das könne, so Paulheim zu zwei Arten von Fehlern führen. Erstens: Probleme werden nicht erkannt. „Wenn ich nur actionreiche Kämpfe zwischen jungen Männern habe, werde ich das vergleichsweise actionarme Entreißen der Handtasche einer älteren Frau unter Umständen nicht erkennen“, sagt Paulheim.</p><div id="netzpolitik-cta-533110" class="netzpolitik-cta"><p align="center">–––</p>

<p><strong>Die Arbeit von netzpolitik.org finanziert sich aus den Spenden unserer Leser:innen.</strong> <br>Unterstütze auch du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus. <a href="https://netzpolitik.org/spenden/?via=rss">Spende jetzt.</a>.</p>

<p align="center">–––</p></div>
<p>Die andere Fehlerart ist das false positive. „Die Software erkennt eine Szene mit einer dunkelhäutigen Person im Kapuzenpulli als problematisch, auch wenn diese Person sich nicht problematisch verhält, sondern zum Beispiel nur durchs Bild joggt.“</p>
<h2>Berliner*innen liefern gratis Trainingsdaten</h2>
<p>Ein PR-Mensch, der für Staige arbeitet, nennt uns noch weitere Details zum Training der Überwachungssoftware. „Das Trainingsmaterial umfasst Szenen zu Schlagabtauschen, Tritten, gewaltsamen Schub- oder Zerrbewegungen mit Bodenkontakt sowie Rangelei auf Bodenebene“, schreibt er zum Beispiel. Dafür seien zum Teil die Bewegungen tatsächlicher Menschen mit der Motion-Capture-Technik aufgenommen worden. Der Videogenerator habe aus dem abstrahierten Geschehen anschließend eine Vielzahl von Clips erstellt, die den Vorgang mit unterschiedlichen Personen zu unterschiedlichen Tageszeiten zeigen. Dem Staige-Sprecher zufolge werden die KI-Clips „am Einsatzort“ erstellt, also in einer Liegenschaft der Berliner Polizei. </p>
<p>Zudem wird das Berliner Modell mit den Bewegungsdaten der Menschen, die sich am Kottbusser Tor aufhalten, „weiter optimiert“, so der PR-Mensch. Die Polizist*innen, die die Videos beobachten, vermerken dann jeweils, ob ein Alarm der Überwachungs-KI gerechtfertigt war oder nicht. Und die Software nimmt auch diese Szene dann als Beispiel für „ignore“ oder „alarm“.</p>
<p>Die Software wird also mit den Bewegungen von Menschen am Kottbusser Tor gefüttert. Dabei sind die Bewegungen – zum Beispiel der Gang – ja ein unique identifier, so einmalig wie ein Fingerabdruck. Doch mit der Verhaltensanalyse hat die scheidende schwarz-rote Berliner Landesregierung <a href="https://netzpolitik.org/2025/neues-polizeigesetz-berlin-wirft-die-freihe... vergangenen Dezember</a> auch erlaubt, Überwachungs-KI mit personenbezogenen Daten zu trainieren – und diese Daten auch an die Software-Hersteller weiterzugeben.</p>
<p align="center">–––</p>

<p><strong>Deine Spende für digitale Freiheitsrechte</strong> <br>Wir berichten über aktuelle netzpolitische Entwicklungen, decken Skandale auf und stoßen Debatten an. Dabei sind wir vollkommen unabhängig. Denn unser Kampf für digitale Freiheitsrechte finanziert sich aus den Spenden unserer Leser:innen. <a href="https://netzpolitik.org/spenden/?via=rss">Jetzt spenden.</a></p><span class="vgwort"><img decoding="async" src="https://vg03.met.vgwort.de/na/e9c93e9a4f4a43e19076dc1a427c142a" width="1" height="1" alt></span>