„Keine verfassungskonforme Ausgestaltung möglich“: Zivilgesellschaft warnt vor Plänen für KI-Fahndung

<p>Amnesty International, Chaos Computer Club und weitere Organisationen fordern den Stopp neuer Befugnisse für Sicherheitsbehörden. Die geplanten Systeme zur biometrischen Suche und automatisierten Datenanalyse bedrohten Datenschutz, Versammlungsfreiheit und informationelle Selbstbestimmung.</p>
<figure class="wp-caption entry-thumbnail"><img width="860" height="484" src="https://cdn.netzpolitik.org/wp-upload/2026/04/imago293020792-860x484.jpg" class="attachment-landscape-860 size-landscape-860 wp-post-image" alt="Das Konzept der Erfassung biometrischer Daten durch eine Kamera von Menschen auf der Straße." decoding="async" srcset="https://cdn.netzpolitik.org/wp-upload/2026/04/imago293020792-860x484.jpg 860w, https://cdn.netzpolitik.org/wp-upload/2026/04/imago293020792-380x214.jpg 380w, https://cdn.netzpolitik.org/wp-upload/2026/04/imago293020792-1200x675.jpg 1200w, https://cdn.netzpolitik.org/wp-upload/2026/04/imago293020792-660x372.jpg 660w, https://cdn.netzpolitik.org/wp-upload/2026/04/imago293020792-160x90.jpg 160w" sizes="(max-width: 860px) 100vw, 860px" /><figcaption class="wp-caption-text">Ermittlungsbehörden sollen Fahndungsfotos mit Gesichtern im Internet abgleichen dürfen. <span class='media-license-caption'> &#8211; Alle Rechte vorbehalten Depositfotos / IMAGO</span></figcaption></figure><p>Die Pläne der Bundesregierung, die Befugnisse für Sicherheitsbehörden bei der digitalen Fahndung auszuweiten, gefährden Grundrechte. Zu diesem Schluss kommen mehrere zivilgesellschaftliche Organisationen in ihrer gemeinsamen Stellungnahme zu den Gesetzentwürfen aus dem Bundesjustiz- und Bundesinnenministerium. „Wir betonen, dass eine grundrechtskonforme Ausgestaltung dieser Befugnisse auch durch Nachbesserungen im Verfahrensrecht nicht erreichbar wäre&#8220;, heißt es in der <a href="https://digitalegesellschaft.de/wp-content/uploads/2026/04/Gemeinsame-St... &#8222;Die genannten Mängel sind keine bloßen Ausgestaltungsfehler, sondern symptomatisch für das strukturelle Defizit des gesamten Regelungsvorhabens.“</p>
<p>Die Organisationen, darunter Amnesty International und der Chaos Computer Club, bemängeln unter anderem das Fehlen eines richterlichen Vorbehalts, die ungenügende Transparenz für Betroffene und unzureichende Dokumentation der Arbeitsweise der KI-Systeme. Es fehlten zudem Einschränkungen bei Form und Umfang der einbezogenen Daten und bei den Analysemethoden. Ferner drohten schwerwiegende Grundrechtseingriffe durch Privatunternehmen.</p>
<p>In der Konsequenz empfiehlt die Stellungnahme die vollständige Rücknahme der Gesetzesentwürfe und stattdessen ein gesetzliches Verbot „biometrischer Massenerkennungssysteme“ sowie verbindliche Regeln zu Transparenz, Kontrolle und Haftung für die algorithmische Datenanalyse.</p>
<h3>Wer im Internet zu sehen ist, ist betroffen</h3>
<p>Die Bundesregierung will der Polizei erlauben, für die Strafverfolgung und Terrorismusbekämpfung künftig das Internet nach Gesichtern zu durchsuchen. Ein Fahndungsfoto soll dafür mit allen im öffentlichen Internet auffindbaren Gesichtern biometrisch abgeglichen werden können. Bundesjustizministerin Stefanie Hubig (SPD) und Bundesinnenminister Alexander Dobrindt (CSU) haben sich dazu <a href="https://netzpolitik.org/2026/rechtlich-fragwuerdig-bundesregierung-will-... mehrere Gesetzentwürfe geeinigt.</a></p>
<p>Das Bündnis kritisiert, damit würde de facto die Infrastruktur für eine flächendeckende Verfolgbarkeit der Bevölkerung geschaffen. Der Einsatz von KI-Systeme wie PimEyes oder Clearview AI für die biometrische Fahndung bezeichnet die Stellungnahme als Eingriff „in das Recht auf informationelle Selbstbestimmung aller Menschen ein, die im Internet Fotos, Videos und andere Inhalte mit biometrischen Merkmalen veröffentlichen, ohne dass diese dafür einen Anlass gegeben hätten&#8220;. Mit dem Grundrecht auf informationelle Selbstbestimmung sowie dem Recht auf den Schutz personenbezogener Daten sei dies nicht vereinbar.</p>
<p>Selbst Personen, die ohne ihr eigenes Zutun im Hintergrund von öffentlich zugänglichem Bildmaterial auftauchten, drohe so die Verarbeitung ihrer biometrischen Daten. Indirekt werde damit auch die Meinungs- und Versammlungsfreiheit eingeschränkt: Wer befürchten muss, aufgrund der Teilnahme an einer Versammlung biometrisch erfasst zu werden, verzichte möglicherweise gänzlich – es drohe ein Abschreckungseffekt, der die Wahrnehmung der eigenen Grundrechte verhindere.</p>
<p>Empirische Daten zeigten zudem, dass insbesondere People of Color häufig zu Unrecht von polizeilichen Maßnahmen betroffen seien. Es drohe damit eine Gefährdung des Diskriminierungsverbots.</p>
<h3>KI-Systeme sollen polizeiliche „Super-Datenbank“ schaffen</h3>
<p>Ein weiterer Gesetzesentwurf sieht eine automatisierte Datenanalyse mittels KI-Systemen wie Palantir vor. Massenhafte Datenbestände der Bundes- und Landespolizeibehörden sollen dafür zusammengeführt und algorithmisch ausgewertet werden – unabhängig vom Einzelfall. Die Daten von Opfern, Zeug:innen und gänzlich unbeteiligten Personen würden dann Teil derselben „Super-Datenbank“. Das Resultat wären tiefgreifende Persönlichkeitsprofile auf der Basis algorithmisch ausgewerteter massenhafter Datenbestände.</p>
<p>Eine solche Analyse ermögliche Schlussfolgerungen, &#8222;die weit über die ursprünglichen Erhebungszwecke der analysierten Daten und auch über das Ziel der eigentlichen Suchanfrage an das Analysesystem hinausgehen&#8220;, heißt es in der Stellungnahme: &#8222;Solche Systeme sind strukturell fehleranfällig, intransparent und diskriminierungsfördernd. Dies gilt in verstärktem Maße für KI-Systeme, die auch nach Einführung weiterhin selbstlernend sind und in den Entwürfen nicht ausgeschlossen werden.“</p>
<p>Das Vorhaben der Bundesregierung knüpft an die Debatte um das <a href="https://netzpolitik.org/2024/sicherheitspaket-der-bundesregierung-ueberw... Sicherheitspaket im Herbst 2024</a> an. Die damalige Ampel-Regierung scheiterte mit ihren Plänen, weil den Ländern die geplanten Überwachungsbefugnisse <a href="https://www.bundesrat.de/DE/plenum/bundesrat-kompakt/24/1048/1048-pk.htm... weit genug gingen</a>.</p>
<p>Die Europäische Union <a href="https://netzpolitik.org/2024/ki-verordnung-und-biometrische-ueberwachung... laut KI-Verordnung</a> eigentlich die massenhafte Verarbeitung von Gesichtsbildern zu biometrischen Datenbanken. Die aktuellen Entwürfe der Bundesregierung stellen demnach einen Versuch dar, das EU-Verbot zu umgehen. Auch die Konferenz der unabhängigen Datenschutzaufsichtsbehörden des Bundes und der Länder (DSK) <a href="https://www.datenschutzkonferenz-online.de/media/pm/DSK_08_PM_Digitale_E... die Gesetzesinitiativen</a> zur Erweiterung digitaler Ermittlungsbefugnisse und kommt dabei ebenfalls zu dem Schluss: &#8222;In der vorgesehenen Form sind diese Befugnisse nicht mit den verfassungsrechtlichen Vorgaben vereinbar. Sie gefährden die verfassungsrechtlich geschützten Rechte Unbeteiligter erheblich.&#8220;</p>
<hr id="spenden" /><p>Die Arbeit von netzpolitik.org finanziert sich zu fast 100% aus den Spenden unserer Leser:innen. <br>Werde Teil dieser einzigartigen Community und unterstütze auch Du unseren gemeinwohlorientierten, werbe- und trackingfreien Journalismus <a href="https://netzpolitik.org/spenden/?via=rss">jetzt mit einer Spende</a>.</p>