Katherina Reiches Wirtschaftsministerium hat vor einigen Monaten Pläne zur Änderung des Energieeffizienzgesetzes vorgelegt. Dies regelt die Anforderungen an Rechenzentren in Deutschland. Bislang verpflichtet das Gesetz deren Betreiber, den Verbrauch von Strom und Wasser zu veröffentlichen und nicht allzu viel Energie zu verschwenden.

Doch auf Druck der Toch-Lobby soll das Gesetz wesentlich abgeschwächt werden. Forderungen nach weniger Transparenz- und Effizienzvorschriften aus Lobbypapieren von Google und anderen Tech-Unternehmen entsprechen teils wörtlich dem Gesetzentwurf des Wirtschaftsministeriums.

AlgorithmWatch hat als Reaktion darauf eine Kampagne und Petition gestartet: Die Bundesregierung darf es den Tech-Giganten nicht noch zusätzlich erleichtern, noch mehr fossile Energie mit ihren Rechenzentren zu verbrauchen – und diesen Energieverbrauch auch noch zu verschleiern.

Heute, zur ersten Lesung des Gesetzentwurfs im Bundestag, haben wir die Petition an die Bundestagsabgeordneten Daniel Bettermann, Berichterstatter für Energieeffizienz der Bundestagsfraktion der SPD, Anna Lührmann, stellvertretende Vorsitzende im Ausschuss für Digitales und Staatsmodernisierung von Bündnis 90/Die Grünen, und Sonja Lemke, Sprecherin für Digitale Verwaltung und Open Government sowie für Forschung und Technologie der Bundestagsfraktion Die Linke, übergeben.

Dr. Julian Bothe, Senior Policy Manager bei AlgorithmWatch, findet zum Anlass der Petitionsübergabe klare Worte: 

„Mit den geplanten Änderungen knickt Wirtschaftsministerin Reiche vor den Forderungen der großen Tech-Konzerne ein – zu Lasten der Umwelt und der deutschen Digitalwirtschaft. Auch ohne den geplanten Rückbau der Regularien hat der Neubau von Rechenzentren in Deutschland bereits unvorhergesehene Ausmaße angenommen. Es braucht jetzt eine kluge Steuerung und eine Durchsetzung der bereits vorhandenen Regeln – kein Anbiedern an die weltweit reichsten Tech-Giganten.”

Unsere Forderungen in der Petition:

• Neue Rechenzentren dürfen nur dann zugelassen werden, wenn sie zu jeder Zeit mit zusätzlicher erneuerbarer Energie betrieben werden.
• Rechenzentren müssen ihren Energie- und Wasserverbrauch individuell veröffentlichen. Diese Pflicht muss auch gegenüber den großen Unternehmen durchgesetzt werden. Anders als im aktuellen Gesetzentwurf geplant, dürfen sie ihre Verbrauchswerte nicht hinter „Geschäftsgeheimnissen“ verstecken.
• Energieeffizienzstandards für Rechenzentren dürfen nicht abgesenkt werden. Die Einführung hoher Effizienzstandards hat in der Vergangenheit dafür gesorgt, dass Rechenzentren weniger Strom verbrauchen. Eine Absenkung der Standards wäre ein riesiger Rückschritt und würde die Verpflichtungen zur Energieeinsparung faktisch abschaffen.
• Auch der Energie- und Wasserverbrauch einzelner Anwendungen muss offengelegt werden, beispielsweise von KI-Chatbots. Nur das macht eine gesellschaftliche Diskussion darüber möglich, welche KI-Anwendungen für unsere Gesellschaft sinnvoll sind und welche wir aus Klima- und Umweltschutzgründen begrenzen wollen.

Am Morgen haben mehrere Ehrenamtliche zusammen mit AlgorithmWatch vor dem Berliner Reichstagsgebäude für mehr Klimaschutz und Transparenz bei Rechenzentren protestiert. Symbolisch stellten sie dar, wie der Bundeskanzler und die Wirtschaftsministerin für Tech-Giganten wie Google, Amazon und X den roten Teppich ausrollen. Im Mai dieses Jahres hatte AlgorithmWatch die Petition „Klimaschutz statt KI-Wahn“ gestartet, die mehr Regulierungen für Verbrauchstransparenz und Klimaschutz beim Bau von Rechenzentren fordert. Bis heute haben mehr als 160.000 Personen die Petition unterschrieben.

AlgorithmWatch hat die Unterschriften heute an die zuständigen Fachpolitiker*innen Daniel Bettermann (Mitglied in den Ausschüssen für Wirtschaft und Energie sowie für Digitales und Staatsmodernisierung sowie Berichterstatter für Energieeffizienz der Bundestagsfraktion der SPD), Anna Lührmann (stellvertretende Vorsitzende im Ausschuss für Digitales und Staatsmodernisierung sowie Vorsitzende von Bündnis 90/Die Grünen Hessen) und Sonja Lemke (Mitglied im Ausschuss für Digitales und Staatsmodernisierung und Sprecherin für Digitale Verwaltung und Open Government sowie für Forschung und Technologie der Bundestagsfraktion Die Linke) übergeben. Abgeordnete der Unionsfraktion und die Wirtschaftsministerin selbst waren ebenfalls eingeladen, die Petition entgegenzunehmen.

Klima schützen statt Tech-Giganten!

Dr. Julian Bothe, Senior Policy Manager bei AlgorithmWatch, sieht in den geplanten Änderungen im Energieeffizienzgesetz eine weitere Gefahr für den Klimaschutz in Deutschland: „Die Bundesregierung schwächt mit den Änderungen im Energieeffizienzgesetz den Schutz des Klimas und stärkt die mächtigen Tech-Riesen. Dabei sehen wir jetzt schon, dass der Neubau von Rechenzentren in Deutschland unvorhergesehene Ausmaße angenommen hat: Bereits jetzt bestehen enorme Belastungen für das Klima durch den enormen Strom- und Wasserverbrauch. Weitere Erleichterungen für Betreiber verstärken diese Belastung, anstatt sie einzudämmen. Was es jetzt braucht, ist eine entschlossene Durchsetzung der aktuellen Effizienzstandards und mehr erneuerbare Energien für Rechenzentren statt Anbiedern an reiche Tech-Giganten. Die Bundesregierung muss den Gesetzentwurf daher zurückziehen.“

Die Forderungen von AlgorithmWatch im Einzelnen

In der heute übergebenen Petition richtet AlgorithmWatch vier zentrale Forderungen an die Bundesregierung:

1. Neue Rechenzentren sollen nur dann genehmigt werden, wenn sie nachweislich mit zusätzlicher erneuerbarer Energie betrieben werden.
2. Betreiber müssen ihren Energie- und Wasserverbrauch verbindlich und individuell veröffentlichen, das heißt auch für konkrete Rechenzentren. Anders als im aktuellen Gesetzentwurf geplant, sollen sie ihre Verbrauchswerte nicht als „Geschäftsgeheimnisse“ verstecken dürfen.
3. Die vorgeschriebenen Effizienzstandards dürfen nicht gesenkt werden.
4. Der Verbrauch einzelner KI-Anwendungen soll offengelegt werden. Nur dies ermöglicht eine gesellschaftliche Debatte darüber, welche KI-Anwendungen sinnvoll sind und welche aus Klima- und Umweltschutzgründen möglicherweise begrenzt werden sollten.

Die geplanten Änderungen im Gesetz zur Beschleunigung der Umsetzung der Energieeffizienzrichtlinie sehen vor, dass Rechenzentrumsbetreiber zukünftig ihren Energieverbrauch als “Betriebs- und Geschäftsgeheimnis” deklarieren können. Außerdem sollen die aktuell gültigen Energieeffizienzstandards abgesenkt werden. Pflichten, vollständig erneuerbare Energien zu nutzen, sollen weiter in die Zukunft verschoben werden. Die Novelle erlaubt zudem, sogenannte “Herkunftszertifikate” weiter zu nutzen – damit können Betreiber die Nutzung erneuerbarer Energiequellen zwar angeben, aber trotzdem weiterhin unter anderem Gaskraftwerke für die Stromerzeugung benutzen.

AlgorithmWatch erinnert daran, dass die Effizienz- und Transparenzanforderungen im aktuellen Energieeffizienzgesetz eine Reaktion auf eine frühere Energiepreiskrise waren. Explizites Ziel der damals eingeführten Regelungen war unter anderem, Energieverschwendung zu reduzieren.

Ergänzende Informationen:

• Die Petition von AlgorithmWatch für mehr Umweltschutz und Transparenz bei Rechenzentren und gegen die geplanten Änderungen im Energieeffizienzgesetz
• Die Stellungnahme von AlgorithmWatch zu den geplanten Änderungen im Energieeffizienzgesetz
• Juristisches Kurzgutachten, warum die geplanten Änderungen in Bezug auf “Geschäftsgeheimnisse” so nicht umgesetzt werden dürfen und erhebliche Rechtsunsicherheit schaffen
• Übersicht über in Deutschland geplante und angekündigte Rechenzentren des Projekts „Heiße Luft” von AlgorithmWatch, FragDenStaat, Leitmotiv und dem Heiße-Luft-Kollektiv: https://heisseluft.org/
• Recherche im Auftrag von Campact und LobbyControl zum Lobbyerfolg der großen Tech-Konzerne

Bilder

• Bilder der Aktion finden Sie hier.
• Die Pressefotos dürfen Sie als Presse- und Medienvertreter*in ausschließlich für journalistische Zwecke und mit Nennung des*der Fotograf*in (“Paul Lovis Wagner / i.A.v. Campact“) verwenden.

Am Rande der UN-Generalversammlung und als Reaktion auf zuletzt bekannt gewordene Sicherheits-Lücken bei großen KI-Anbietern haben der finnische Präsident Alexander Stubb und der norwegische Ministerpräsident Jonas Gahr Støre am Montag, den 21. September 2026, eine Deklaration für mehr Kontrolle sogenannter Frontier-KI-Modelle herausgegeben. Aktuell unterstützen insgesamt 22 Staatschefs den Aufruf, darunter auch Bundeskanzler Friedrich Merz.

Matthias Spielkamp, Geschäftsführer von AlgorithmWatch, kommentiert:

„Wir begrüßen es, dass Regierungen die Gefahren eindämmen wollen, die unseren Gesellschaften durch KI drohen. Was sie dabei offenbar übersehen: Wir verlieren nicht die Kontrolle über eine Technologie, sondern über die Unternehmen, die sie entwickeln. Ein internationales Abkommen auszuhandeln, würde Jahre dauern. Währenddessen können die Technologie-Unternehmen weitermachen wie bisher. Doch schon jetzt könnten sowohl die EU, als auch die US-Regierung Firmen wie OpenAI und Anthropic dazu bringen, unsere Sicherheit ernst zu nehmen: Wenn sie den bestehenden AI Act der EU und Anti-Hacking-Gesetze anwenden und die KI-Anbieter haftbar machen würden. Wären Sam Altman oder Dario Amodei mit Haftstrafen oder ihre Firmen mit Strafzahlungen in Milliardenhöhe bedroht, wäre ihr verantwortungsloses Verhalten innerhalb weniger Tage Geschichte.”

Die Deklaration in englischer Sprache auf der Webseite der norwegischen Regierung: https://www.regjeringen.no/contentassets/35b2ea6933304966bd739ff4b8107300/a-call-for-control-of-frontier-ai-models-final.pdf

Am Montag, den 21. September 2026, fand im Innenausschuss des Deutschen Bundestags eine Anhörung zu den geplanten Überwachungsbefugnissen für das Bundeskriminalamt, die Bundespolizei, Strafverfolgungsbehörden und das Bundesamt für Migration und Flüchtlinge statt.

Pia Sombetzki, Senior Policy Managerin bei AlgorithmWatch, war als Sachverständige vor Ort und hat in ihrer Stellungnahme erneut kritisiert, dass die Gesetze viel zu weitreichend das Vorhalten von sensibelsten biometrischen Daten gänzlich Unbeteiligter erlauben würden, den Anforderungen des Verfassungs- und des EU-Rechts widersprechen und damit für eine Demokratie unerwünschte Abschreckungseffekte in Kauf genommen würden.

Pia Sombetzki ist empört: „Mit der Einführung solch weitreichender Überwachungsbefugnisse riskieren wir, dass Menschen zukünftig ihre demokratisch garantierten Freiheiten wie die Meinungs- und Versammlungsfreiheit nicht mehr aktiv wahrnehmen. Aus dem Grund, dass Behörden eine biometrische Superdatenbank vorhalten wollen, mit der wir jederzeit auf Fotos und Videos im Internet aufzufinden und zu identifizieren wären. Außerdem würde der Staat bei dem geplanten Einsatz gegen Verfassungs- und EU-Recht, wie die KI-Verordnung, verstoßen und Gefahr laufen, die illegale Praxis kommerzieller Anbieter von Gesichtersuchmaschinen wie Clearview AI und Pimeyes noch zu legitimieren. Dies würde auch gegen den vielfach vertretenen politischen Kurs sprechen, digital souveräner werden zu wollen, und auch von Anbietern wie Palantir abzukehren. Bundestag und Bundesrat sollten daher gegen die Einführung dieser Befugnisse stimmen.“

Zum Hintergrund:

• Die Stellungnahme von AlgorithmWatch zu den geplanten Überwachungsbefugnissen im Innenausschuss des Deutschen Bundestags am 21.09.2026: https://algorithmwatch.org/de/stellungnahme-ermittlungsbefugnisse-innenausschuss/
• Die Petition von AlgorithmWatch gegen die geplanten Überwachungsbefugnisse: https://weact.campact.de/petitions/stoppt-dobrindts-uberwachungsplane
• Das Gutachten von AlgorithmWatch zur Notwendigkeit von Datenbanken für den biometrischen Abgleich mit Bildern aus dem Internet: Biometrische Überwachungspläne der Bundesregierung sind zum Scheitern verurteilt: https://algorithmwatch.org/de/pm-rbi-gutachten-datenbanken/

Berlin, 18. September 2026 – Am Montag, den 21. September 2026, behandelt der Innenausschuss des Deutschen Bundestags die Gesetzentwürfe zur Massenüberwachung mittels Biometrie und KI-Systemen für das Bundeskriminalamt, die Bundespolizei und das Bundesamt für Migration und Flüchtlinge, die das Bundesministerium des Innern (BMI) und das Bundesministerium der Justiz und für Verbraucherschutz (BMJV) vorgelegt haben. Pia Sombetzki, Senior Policy Managerin bei AlgorithmWatch, wurde von der Linksfraktion als Sachverständige eingeladen und wird in ihrer Stellungnahme erneut die Gesetzeswidrigkeit der vorgeschlagenen Maßnahmen betonen und die vollständige Rücknahme der Entwürfe sowie ein grundsätzliches gesetzliches Verbot des Einsatzes biometrischer Massenerkennungssysteme für öffentliche und private Stellen fordern.

Damit unterstreicht AlgorithmWatch die bereits vielfach geäußerte Kritik an den Gesetzen: Die vorgeschlagenen Befugnisse sind europarechtswidrig, verletzen verfassungsrechtliche Mindestanforderungen und widersprechen datenschutzrechtlichen Grundsätzen.

Pia Sombetzki hebt hervor: „Die Bundesregierung schafft mit den Gesetzen nichts anderes als die technische Voraussetzung für eine flächendeckende Verfolgung aller Menschen im öffentlichen Raum. Im Internet öffentlich zugängliche Daten können so gut wie alles umfassen, sowohl das Foto von der letzten Demonstration als auch das Urlaubsvideo mit den Kindern. All diese Daten zu erfassen, ist weder erforderlich für die Arbeit von Ermittlungs- und Strafverfolgungsbehörden noch verhältnismäßig. Allerdings hat es eine zutiefst einschüchternde Wirkung: Menschen wissen zukünftig nicht, ob, wann und wie Foto-, Video- oder Tonaufnahmen von ihnen durch KI-Systeme von Polizei- oder Migrationsbehörden ausgewertet werden.

Löschvorgaben für erhobene Daten sollen den Eingriff in die Grundrechte abmildern, dürften aber ins Leere laufen: Ein automatisierter biometrischer Massenabgleich fußt schließlich darauf, dass eine Datenbank die biometrischen Daten nahezu aller Menschen im Internet in Form von sogenannten ,Templates ’ vorhält. Solch ein KI-gestützter Aufbau einer biometrischen Datenbank ist laut der europäischen KI-Verordnung allerdings verboten. Es bleibt nur eine Möglichkeit, aus diesem Desaster wieder herauszukommen: Die Bundesregierung muss die Gesetzentwürfe zurückziehen und ein grundsätzliches gesetzliches Verbot des Einsatzes biometrischer Massenerkennungssysteme für öffentliche und private Stellen einführen.”

AlgorithmWatch kritisiert weiterhin, dass ausdrücklich auch außereuropäische KI-Unternehmen mit dem biometrischen Abgleich beauftragt werden können. Das könnten zum Beispiel die Unternehmen Clearview AI oder PimEyes sein, die in den vergangenen Jahren wegen Verstößen gegen den Datenschutz von zahlreichen europäischen Datenschutzbehörden mit Geldbußen belegt wurden.


Zum Hintergrund:

* Die Stellungnahme von AlgorithmWatch zu den geplanten Überwachungsbefugnissen vom 17. September 2026: https://algorithmwatch.org/de/stellungnahme-ermittlungsbefugnisse-innenausschuss/

* Die Petition von AlgorithmWatch gegen die geplanten Überwachungsbefugnisse: https://weact.campact.de/petitions/stoppt-dobrindts-uberwachungsplane

* Das Gutachten von AlgorithmWatch zur Notwendigkeit von Datenbanken für den biometrischen Abgleich mit Bildern aus dem Internet: Biometrische Überwachungspläne der Bundesregierung sind zum Scheitern verurteilt: https://algorithmwatch.org/de/pm-rbi-gutachten-datenbanken/

* Die Stellungnahme der Bundesbeauftragten für den Datenschutz und die Informationsfreiheit vom 2. Juni 2026: https://www.bundestag.de/resource/blob/1210152/21-4-179-Stellungnahme-BfDI-Bonn-digitale-Ermittlungsbefugnisse-21-6131-21-6132-o-U.pdf

Ob Altersgrenzen, nächtliche Sperren oder gesonderte Einstellungen für Jugendliche: Kaum eine netzpolitische Frage wird derzeit so intensiv verhandelt wie der Einfluss von Social Media auf das Leben von Kindern und Jugendlichen. Eltern sind aus guten Gründen besorgt, während Politiker*innen versprechen, endlich handeln zu wollen. Doch diejenigen, die im Zentrum dieser Diskussion stehen, werden zumeist nur dann einbezogen, wenn Argumentationspunkte gestützt werden sollen – und nicht, um sie an der Erarbeitung von Lösungen mitwirken zu lassen.

Bereits im Juni 2026 hat die deutsche Expert*innenkommission “Kinder- und Jugendschutz in der digitalen Welt” eine Liste mit 56 Handlungsempfehlungen an Bundesfamilienministerin Karin Prien übergeben, die auf einer im April veröffentlichten Bestandsaufnahme aufbaut. In den Prozess sind auch die Perspektiven von Kindern und Jugendlichen eingeflossen. Am 11. September haben die Expert*innen ihre Empfehlungen abschließend vor der Öffentlichkeit vorgestellt. Ministerin Prien hat nun die Aufgabe, zu entscheiden, welche der Empfehlungen sie umsetzt. Ihre Präferenz hat sie bei der Präsentation noch einmal verdeutlicht: Eine Altersbeschränkung für Kinder und Jugendliche bis 13 Jahre soll in Deutschland eingeführt werden. Dabei soll sie jedoch nicht die einzige Lösung darstellen, sondern Verpflichtungen zu altersgerechtem Plattform-Design ergänzen.

Politisch stellen die Empfehlungen die Grundlage für eine Gesamtstrategie der Bundesregierung dar. Familienministerin Prien hat zudem angekündigt, eine nationale Übergangsregelung durchzubringen, für die bereits ein Eckpunkte-Papier in Abstimmung ist – erwartet jedoch einen Vorstoß aus Brüssel für einen gemeinsamen europäischen Weg, der nun kam: Social Media erst ab 13 Jahren, eigene Accounts ab 15 Jahren. Pauschale Altersgrenzen lösen kein einziges Problem und sind reine Symbolpolitik. Sie sperren junge Menschen aus, während Plattformen entscheiden, ob sie ihr Angebot altersgerecht verbessern oder nicht. Dabei gibt es bereits jetzt Regelungen – diese müssen jedoch konsequent durchgesetzt und Plattformen zur Einhaltung gezwungen werden. Aus diesem Grund lohnt es sich, die Empfehlungen genauer zu betrachten, sie mit dem angekündigten EU Kids Act sowie den bisherigen Leitlinien der Europäischen Union zu vergleichen und schließlich zu bewerten, welche Vorgaben am ehesten einem nachhaltigen und demokratischen Kinder- und Jugendschutz gerecht werden.

Das Problem sind nicht die Kinder und Jugendlichen. Es sind die Plattformen.

Wer nur über Bildschirmzeiten und die Begrenzung des Social-Media-Konsums streitet, verfehlt den Kern der Debatte. Denn ein wesentlicher Teil der Risiken entsteht nicht durch das Verhalten der Nutzer*innen, sondern ist Teil der Produkt- und Marktstrategie der großen Tech-Plattformen. Endlos-Feeds ohne Stopp-Mechanismen, Autoplay-Funktionen, die nahtlos das nächste empfohlene Video starten, Push-Benachrichtigungen, die zum Zurückkommen drängen, und Algorithmen, die auf Aufmerksamkeit statt auf Wohlbefinden optimiert sind.

Wie eine mögliche “Reparatur” des Systems hinter den Social-Media-Plattformen aussehen könnte, lässt sich seit Ende August in den USA beobachten. Um einen Gerichtsprozess mit insgesamt 29 Bundesstaaten zu beenden, hat Meta einem Vergleich mit Zahlungen von bis zu 18 Milliarden US-Dollar und Änderungen an seinen Diensten zugestimmt. Meta wurde vorgeworfen, bewusst aufmerksamkeitsmaximierendes Design auf seinen Plattformen zu verwenden, das schädliches Verhalten begünstigt und zu psychischen Problemen wie Depressionen, Angststörungen und Suizidgedanken führen kann, wodurch junge Menschen gefährdet sind. Die Änderungen auf Instagram und Facebook sollen für junge Nutzer*innen verpflichtend voreingestellt sein und durch eine unabhängige Prüfstelle kontrolliert werden. Die Einigung sieht eine Reihe von Jugendschutzmaßnahmen vor: ein tägliches Nutzungslimit von zwei Stunden für 13- bis 17-Jährige, eine Nachtsperre von Mitternacht bis sechs Uhr, ein Schulmodus mit reduzierten Benachrichtigungen während der Schulzeit, ausgeblendete Like-Anzeigen, gesperrte Verschönerungsfilter, deaktivierbare Autoplay-Funktionen und die Option, einen alternativen Feed ohne algorithmische Empfehlungen auswählen zu können. Bemerkenswert ist vor allem, dass diese Änderungen nicht durch Androhung einer Altersbegrenzung erzwungen wurden, sondern durch Haftungsdruck. Daraus lässt sich ableiten, dass Produktgestaltung regulierbar ist – wenn der Wille existiert.

Einen Präzedenzfall stellt die Einigung deshalb jedoch noch nicht dar, wie Forscher*innen und Jurist*innen erläutern. Denn die Bedingungen wurden von Meta mitverhandelt, und nicht vom Gesetzgeber festgelegt. Zeitgleich hat Meta eine Aussetzung der Zahlung eines Teils der Vergleichssumme erwirkt, bis die Konkurrenz mit denselben Maßnahmen nachzieht. So könnte Meta das eigene Schutzmodell als Druckmittel auf die Branche übertragen, obschon bisher nicht geprüft wurde, dass die geplanten Mechanismen tatsächlich genügen. Die Änderungen basieren zudem auf einer Altersschätzung der Nutzer*innen, die Meta selbst vorgenommen hat: Laut der Electronic Frontier Foundation erhebt das Unternehmen somit umso mehr Daten zur Auswertung – bis hin zu einer möglichen laufenden Überwachung von Erwachsenenkonten, um zu prüfen, ob es sich bei diesen nicht doch um Jugendliche handeln könnte.

Plattformen wissen, was sie falsch machen. Sie tun es trotzdem.

In der EU gibt es zwar Regeln, die in den USA erst per Verfahren erstritten werden mussten – zum Beispiel den Artikel 28 zum Online-Schutz Minderjähriger im Digital Services Act (DSA), der europäischen Gesetzgebung für Online-Plattformen –, doch hapert es bei ihrer Durchsetzung. Dass es den Plattformen jedoch nicht an Wissen über das Alter ihrer Nutzer*innen mangelt, zeigt ein Praxischeck des Verbraucherzentrale Bundesverbands (vzbv). Mithilfe von „Dummy“-Konten, die den Profilen von 13-jährigen Jugendlichen entsprachen, wurden fünf große Online-Plattformen untersucht. Dabei fanden sich auf allen fünf Plattformen trotz der DSA-Regelungen kompulsive Designmechanismen, darunter „Infinite Scroll“ (ein nicht endender Feed aus Inhalten) und die Autoplay-Funktion. Mehrere Plattformen fragten bei der Aktivierung des eingeschränkten Modus – der standardgemäß ausgeschaltet war – nach einer Begründung. Vorgegebene Zeitschranken ließen sich mit einer entsprechenden Funktion für den jeweiligen Nutzungstag ignorieren. Bei keiner Plattform war ein Feed ohne Personalisierung voreingestellt und nicht alle ließen eine eigenständige Umstellung zu. Wo dieser Feed ohne Personalisierung aktiviert werden konnte, erschienen anschließend Pop-ups oder eine leergeräumte Startseite.

Wo es knifflig wird: die Ausweispflicht fürs Netz

Bei der Einführung einer Altersgrenze beziehungsweise eines Zugangsverbots zu Social-Media-Plattformen für bestimmte Altersgruppen sind sich die deutschen Expert*innen nicht einig. Deshalb stehen zwei mögliche Alternativen im Raum: Die erste sieht ein Mindestalter von 13 Jahren für die Nutzung von Online-Plattformen vor, mit abgestuften Schutzstandards bis zur Volljährigkeit. Die zweite fordert einen Verzicht auf eine einheitliche Grenze und empfiehlt stattdessen eine Nachschärfung der DSA‑Regelungen, die Nutzer*innen-Konten, Dienste oder einzelne Funktionen dort beschränken, wo sie besondere Risiken darstellen. Wir von AlgorithmWatch halten den zweiten Weg für den tragfähigeren, da er einem risiko- und designorientierten Ansatz folgt, anstatt die untereinander stark unterschiedlichen Online-Dienste pauschal gleichzustellen. Wenn sich Plattformen nicht an diese Pflichten halten, müssen sie stärker sanktioniert werden. Familienministerin Prien hat sich öffentlich und gegenüber der Europäischen Union für die erste Variante ausgesprochen.

Dabei würde sich ein Blick nach Australien lohnen: Dort gilt seit Dezember 2025 für bestimmte Plattformen ein Mindestalter von 16 Jahren. Drei Monate nach Inkrafttreten zeigt die erste Evaluation der australischen Regulierungsbehörde, dass der Anteil der 10- bis 15-Jährigen mit einem eigenen Account auf einer altersbeschränkten Plattform lediglich um rund zehn Prozent sank, während 81,5 Prozent die Plattformen unabhängig von einem eigenen Account weiterhin nutzen – vor allem, weil sie bislang zu keiner Altersbestätigung aufgefordert wurden. Auch hier zeichnet sich also eine unzureichende Umsetzung durch die Plattformen ab. Zugleich dokumentiert der Bericht einige Nebeneffekte: Der Anteil der Eltern, die nichts über die Social-Media-Nutzung ihrer Kinder wussten, stieg um zehn Prozent, während die generelle Nutzung von Messenger-Diensten und Online-Spielen zunahm. Veränderungen im Wohlbefinden und bei der psychischen Gesundheit stellte die Evaluation nicht fest – hierauf habe das Gesetz bislang keine Auswirkungen gehabt.

Beide Optionen, die von der deutschen Expert*innenkommission vorgeschlagen wurden, hängen derweil von derselben Bedingung ab: einer wirksamen Altersüberprüfung. Sie wird somit faktisch zur Voraussetzung dafür, dass strukturelle Vorsorge greifen kann. Diesem Ansatz können wir uns nicht gänzlich anschließen: Aus Sicht von AlgorithmWatch ist die Altersverifikation lediglich eine ‘Ultima Ratio’. In einer idealen Welt, in der Plattformen ihren Design- und Risikominderungspflichten nachkämen, bräuchte es sie erst gar nicht. Solange das jedoch nicht geschieht, sehen wir es als unsere Aufgabe an, dafür zu sorgen, dass entstehende Systeme die Privatsphäre und Interessen ihrer Nutzer*innen schützen – insbesondere dort, wo sie als alternativlos gelten. Denn eines ist klar: Um zu überprüfen, wie jung die Nutzer*innen eines Online-Dienstes sind, müssen sämtliche Nutzer*innen überprüft werden. Eine Alterskontrolle für Minderjährige kommt somit einer Ausweispflicht für Erwachsene gleich – das sollte uns allen bewusst sein.

Wie diese Kontrolle praktisch aussehen kann, ist im Grundsatz bereits vorbereitet: Die EU ebenso wie Familienministerin Prien setzen auf die EUDI-Wallet, eine staatliche App für digitale Ausweise, die ab Jahresbeginn 2027 in Deutschland verfügbar sein soll. Doch dass die EUDI-Wallet technisch und datenschutzrechtlich noch unausgereift ist, zeigte zuletzt eine Kleine Anfrage der Grünen von Ende Juli 2026 (Drucksache 21/7139). Die EUDI-Wallet als Instrument zur Altersverifizierung steht erheblich in der Kritik, da genau diejenigen Bedingungen noch nicht erfüllt sind, unter denen eine Altersüberprüfung akzeptabel wäre. Zu den Mindestanforderungen einer persönlichkeitsschützenden Altersüberprüfung zählen auch nach Meinung der Expert*innenkommission eine Datenverarbeitung auf dem eigenen Endgerät, Datensparsamkeit, eine selektive Offenlegung von Daten und der Ausschluss biometrischer und verhaltensbasierter Verfahren. Bevor eine Altersprüfung zur Zugangsvoraussetzung wird, sollten diese Anforderungen sichergestellt sein.

Alterskontrollen stattdessen von Plattformanbietern durchführen zu lassen, ist ebenfalls keine Lösung. Die Plattformen setzen bisher auf verhaltensbasierte Nutzungsanalysen von Accounts, um Altersschätzungen durchzuführen. Wer nun weitere belastbare Altersdaten in diese intransparenten Systeme eingibt, könnte ein noch präziseres Targeting und Profiling ermöglichen – selbst wenn dieses gesetzlich untersagt ist. Dass Plattformen sich nicht immer an die ihnen zugrunde gelegten Vorgaben halten, zeigen uns die Beispiele aus Australien und den USA.

Was die Expert*innenkommission richtig macht

In der Handlungsempfehlung (HE) 37 stellt die Expert*innenkommission von Bundesministerin Prien einen verbindlichen Katalog sicherer Voreinstellungen auf Plattformen vor – eine Art Jugendschutz “by default”. Auf Social-Media-Accounts, die von Kindern und Jugendlichen genutzt werden, soll personalisierte Werbung standardmäßig wegfallen und Dark Patterns (Gestaltungsmuster, die Nutzer*innen gezielt zu bestimmten Handlungen verleiten) und suchtfördernde Funktionen sollen untersagt werden. Dies ist ein wichtiger Punkt, der auf die strukturelle Ebene abzielt, anstatt die Verantwortung allein bei der individuellen Medienkompetenz zu suchen. Diese Einstellungen würden ganz unabhängig vom Alter der Nutzer*innen für eine selbstbestimmtere Social-Media-Nutzung sorgen, bei der Verbraucher*innen zu eigenen Entscheidungen ermächtigt werden, anstatt ihnen diese auf Basis von Plattformmechanismen vorzugeben. Eine ähnliche Absicht verfolgt Handlungsempfehlung 39 zu sicher voreingestellten Steuerungsoptionen für algorithmische Empfehlungssysteme, die verständliche und altersgerechte Einstellungen für Nutzer*innen vorschreibt – eine überfällige Konkretisierung der DSA-Regeln zu Empfehlungssystemen (Art. 27 und 38).

Anstatt nur Grenzen zu ziehen, setzen die Expert*innen zudem auf Förderung: Altersgerechte Angebote, offene europäische Infrastrukturen, unabhängige Langzeitforschung samt Forschungsdatenzugang nach Art. 40 DSA und eine verbindliche Beteiligung junger Menschen am gesamten Prozess gehören ebenfalls zu den Empfehlungen (HE 47, 50, 52–54). Zusätzlich warnen sie vor der vorsorglichen Sperrung zulässiger Inhalte (HE 51), da der Jugendmedienschutz kein Hebel für Zensur oder die Einschränkung demokratischer Diskurse werden darf.

Social Media: Ein Fall für die Kinderärzt*innen?

Ein weiterer Kritikpunkt betrifft die Rahmung der Empfehlungen der Expert*innenkommission. Insbesondere die Empfehlungen für die Zehn- bis Zwölfjährigen stellen ausgerechnet die Prävention exzessiver Social-Media-Nutzung voran (HE 27) und verzahnen Medienerziehung eng mit der Gesundheit (HE 28) – bis hin zum Vorschlag, Kinder- und Jugendärzt*innen als Vertrauenspersonen für den Kinder- und Jugendmedienschutz einzubinden. In ihrer eigenen Bestandsaufnahme halten die Expert*innen jedoch fest, dass nicht die Nutzungsdauer, sondern die Qualität und die Inhalte bestimmend für die Auswirkung von Social Media sind. Gezielte Angebote für Betroffene und Risikogruppen sind dementsprechend wichtig und sinnvoll. Plattformbedingte Folgen zu medikalisieren, verschiebt die Verantwortung wiederum zurück auf die Einzelperson. Der richtige Ansatz wäre es, kompulsive Funktionen standardmäßig abzuschalten, anstatt die Nutzung selbst zum Krankheitsbild zu erklären.

Auf EU-Ebene: Gesetzgebung mit Altersschranken

Die Debatte in Deutschland ist dabei keine rein nationale: Auch die EU und andere Mitgliedstaaten diskutieren darüber, wie Kinder und Jugendliche auf Social Media besser geschützt werden können. In ihrer Rede zur Lage der Union am 16. September 2026 hat von der Leyen nachgelegt und den “EU Kids Act” angekündigt. Im Kern geht es dabei darum, den Zugang zu Social Media zu limitieren: Kein Zugang für unter 13-Jährige, “Mini-Accounts” für 13- bis unter 15-Jährige, die von Eltern eingerichtet und beaufsichtigt werden, eigene Accounts erst ab 15 Jahren und eine Verpflichtung der Plattformen, ein sicheres Design anzubieten.

Der Rechtsentwurf, der vorab geleakt wurde, sieht vor, dass Kinder unter 13 Jahren über das Konto ihrer Erziehungsberechtigten nur auf Angebote zurückgreifen dürfen, die speziell für diese Altersgruppe konzipiert wurden. Auch die “Mini-Accounts” sind keine gesetzte Stufe, sondern eine Ausnahmeregelung, von der Plattform-Anbieter Gebrauch machen können – oder eben nicht. Die Elternverantwortung, auf der die Regelung beruht, besteht nur so weit, wie ein Unternehmen sie vorher zugelassen hat. Wer diesen Weg gehen will, muss eine Folgenabschätzung vorlegen und weitere Designpflichten umsetzen, die unter anderem auf Empfehlungssysteme und Personalisierung abzielen.

Doch die alleinige Umsetzung dieser Vorgaben gilt nicht automatisch als wirksame Risikominderung. Dieser Rahmen könnte Plattformen, die weiterhin die entsprechende Zielgruppe erreichen wollen, einen Anreiz zu altersgerechten Verbesserungen ihrer Dienste bieten. Eine weitere mögliche Folge ist jedoch, dass Anbieter diese Optionen schlichtweg nicht ermöglichen. Das Ergebnis ähnelt dann einem Verbot, ohne eines zu sein, da es schlussendlich auf eine Produkt- statt eine rechtliche Entscheidung hinausläuft. Zudem werden im Gesetzesentwurf verschiedene Dienste zusammengeworfen, darunter Social Media, Onlinespiele und KI-Anwendungen, die selbst wiederum weiteren unterschiedlichen Gesetzen unterliegen (wie zum Beispiel dem AI Act). Dass es auch anders ginge, zeigt die EU-Kommission in ihrer eigenen Planung: Der angekündigte “Digital Fairness Act” soll manipulative Gestaltungspraktiken, Influencer-Marketing und weitere Aspekte für alle Verbraucher*innen regulieren – ganz ohne Altersschranken.

Die neuen Regelungen basieren unter anderem auf der Arbeit eines EU‑Panels. Ihr Gutachten empfahl eine EU-weit harmonisierte Altersbeschränkung ab 13 Jahren. Gleichzeitig verlangten die Expert*innen auch eine Beweislastumkehr, laut der nicht Aufsichtsbehörden, Eltern oder Kinder die möglichen Schäden nachweisen müssen, sondern Anbieter die Sicherheit ihrer Dienstleistungen zu garantieren haben, bevor sie Minderjährige damit überhaupt erreichen dürfen. Ähnlich der deutschen Expert*innenkommission fordert das EU-Gutachten zudem verbindliche Regeln für Designmerkmale und Empfehlungsalgorithmen von Plattformen. Gleichzeitig benennt es aufmerksamkeitsmaximierende Geschäftsmodelle, schädigende Designfunktionen, mangelnde Regelbefolgung und einen unzureichenden Forschungsdatenzugang als Problemfaktoren, die sich nicht durch pauschale Altersgrenzen lösen lassen. Das Gutachten räumt ebenfalls ein, dass Minderjährige pauschale Altersgrenzen meist zu umgehen wissen. Dem will der EU Kids Act entsprechende EU‑zertifizierte Systeme zur Altersbestimmung entgegensetzen.

Kritik gibt es außerdem an dem Prozess und dem zeitlichen Ablauf neuer Vorgaben innerhalb der EU: Nach den Alleingängen einzelner Mitgliedsstaaten (darunter Frankreich, Dänemark und Griechenland) wurden kurzfristig technische Lösungen zur Altersüberprüfung präsentiert, während technologieaffine Nationen und Expert*innen, die durch das Panel konsultiert wurden, sich eindeutig für einen nuancierteren Ansatz aussprechen. So entsteht der Eindruck, dass ein schnelles politisches Handeln und eine persönliche politische Agenda bedeutender waren als eine nachhaltige und technisch sichere Verbesserung der Online-Realitäten für Nutzer*innen.

Der Kompass stimmt, die Route nicht.

Die Annahme, es müsse bloß das Alter der Nutzer*innen festgestellt werden, um eine sichere Mediennutzung zu ermöglichen, ist verkürzt, denn eine nachhaltige Verbesserung umzusetzen, ist deutlich komplexer. Bei digitalen Diensten diskutieren wir in den meisten Fällen jedoch erst dann über Verbraucher*innenschutz, wenn das Produkt schon auf dem Markt ist. Unvorstellbar, wenn es stattdessen um Spielzeug ginge, das in den Handel kommen soll. Dabei sind es nicht die jungen Menschen, die sich an Plattformlogiken anpassen müssen. Stattdessen müssen Social-Media-Anbieter den Bedürfnissen von Kindern und Jugendlichen gerecht werden. Solange Plattformen nicht zielstrebig und zeitnah zur Erfüllung ihrer Pflichten gedrängt werden, für sichere Einstellungen zu sorgen, nützen reine Alterskontrollen oder gesonderte Jugend-Accounts wenig. Das Credo muss lauten: Plattformverantwortung anstelle pauschaler Verbote oder gar des Ausschlusses ganzer Nutzer*innengruppen.

Das richtige Werkzeug liegt auf EU-Ebene bereits auf dem Tisch. Artikel 28 Absatz 1 DSA verpflichtet alle für Minderjährige zugänglichen Online-Plattformen zu geeigneten und verhältnismäßigen Maßnahmen für ein hohes Maß an Privatsphäre, Sicherheit und Schutz. Was das konkret bedeutet, hat die EU-Kommission in entsprechenden Leitlinien erläutert: altersgerechte Default-Einstellungen wie ein privates Konto, kein Autoplay, keine Push-Funktionen oder Kontaktempfehlungen, kein Tracking, kein schädliches Design, wirksame Meldewege sowie altersgerechte Empfehlungssysteme, die ausschließlich auf angegebenen Präferenzen anstatt auf Rückschlüssen durch das Nutzungsverhalten beruhen. Darüber hinaus verbietet Art. 25 DSA auch den Einsatz von Dark Patterns.

Auch bei der Altersüberprüfung sind die EU-Leitlinien deutlich zurückhaltender als die politische Diskussion: Sie werden nur dort als verhältnismäßig erachtet, wo bereits klare gesetzliche Altersgrenzen gelten – beispielsweise bei Pornografie oder Glücksspiel – oder wo sich konkrete Risiken nicht anders mindern lassen. Einen Ersatz für sicheres Plattform-Design stellen sie nicht dar, denn eine reine Alterskontrolle genügt nicht, um Art. 28 zu erfüllen. Zudem müssen bestimmte Kriterien für Systeme zur Altersprüfung eingehalten werden: Unter anderem dürfen Anbieter keine zusätzlichen Mittel zur Identifizierung, Lokalisierung, Erstellung von Verhaltensprofilen oder zum Tracking aus der Altersüberprüfung ziehen. Hier hat der Gesetzgeber bereits erkannt, dass Jugendschutz zur Datensammlung genutzt werden kann, und steuert entsprechend entgegen.

Somit ist vieles von dem, was das EU-Panel ebenso wie die deutsche Expert*innenkommission als Jugendschutz “by Default” fordern, durch die Leitlinien bereits ausformuliert. Woran es fehlt, ist die Durchsetzung bestehender Regeln. Während die Kommissionsleitlinien nach Meinung verschiedener Fachleute zwar keine rechtlich bindenden Regeln darstellen, zeigen sie klar auf, woran sich die EU-Kommission bei der Evaluation von Verstößen orientiert. Unterm Strich liefern sowohl die deutsche Expert*innenkommission als auch das EU-Panel eine fundierte, strukturell gedachte Grundlage für ein komplexes Problem. Widersprüchlich wird es allerdings dort, wo die Expert*innen ihren risiko- und designorientierten Ansatz mit pauschalen Altersgrenzen und einer verpflichtenden Alterskontrolle wieder einfangen – und dort, wo Politiker*innen daraus jenes Instrument herausgreifen, das am ehesten nach schnellstmöglicher Handlungsfähigkeit aussieht. An Wissen über das Alter der Nutzer*innen fehlt es nicht, sondern an der Bereitschaft der Plattformanbieter, danach zu handeln. Der entscheidende Hebel bleibt deshalb die Plattformverantwortung: Anbieter müssen in die Pflicht genommen werden, anstatt junge Menschen zu sanktionieren.

Der Innenausschuss des Deutschen Bundestags befasst sich am kommenden Montag, den 21. September 2026, mit den Gesetzentwürfen des Bundesministeriums des Innern (BMI) und des Bundesministeriums der Justiz und für Verbraucherschutz (BMJV) zur Ausweitung digitaler Ermittlungsbefugnisse mittels Biometrie und KI-Systemen für das Bundeskriminalamt, die Bundespolizei und das Bundesamt für Migration und Flüchtlinge. Pia Sombetzki, Senior Policy Managerin bei AlgorithmWatch, ist als Sachverständige eingeladen.

AlgorithmWatch wiederholt in der Stellungnahme die Kritik vom April diesen Jahres, dass die vorgeschlagenen Befugnisse europarechtswidrig sind, verfassungsrechtliche Mindestanforderungen verletzen und datenschutzrechtlichen Grundsätzen widersprechen. Daher bleibt die Organisation bei ihrer Forderung, dass die Bundesregierung die Gesetzentwürfe zurückzuziehen und ein grundsätzliches gesetzliches Verbot des Einsatzes biometrischer Massenerkennungssysteme für öffentliche und private Stellen einführen muss. 

AlgorithmWatch konzentriert sich in der Stellungnahme auf die Befugnisse für einen „automatisierten biometrischen Abgleich mit öffentlich zugänglichen Daten aus dem Internet” sowie für „die Weiterverarbeitung von Daten zu weiteren Zwecken”.

In der Stellungnahme legt AlgorithmWatch dar, warum die vorgeschlagenen biometrischen Überwachungsbefugnisse in Konflikt mit EU- und Verfassungsrecht stehen und datenschutzrechtlichen Grundsätzen widersprechen. Weiterhin erläutert die Organisation, warum die Gesetzentwürfe die technische Ausgestaltung des massenhaften biometrischen Abgleichs völlig unzureichend und realitätsfern darlegen. Außerdem kritisieren die Autor*innen die Erlaubnis für eine Auslagerung des biometrischen Abgleichs ins (Nicht-EU-)Ausland.

Berlin, 11. September 2026 – Heute diskutiert die Expert*innenkommission „Kinder- und Jugendschutz in der digitalen Welt” von Bundesfamilienministerin Karin Prien die zentralen Ergebnisse der Handlungsempfehlungen, die die Kommission Ende Juni vorgelegt hatte. Im Zentrum der öffentlichen Diskussion steht die Frage, ob der Zugang zu Social Media in Deutschland zukünftig an eine Altersgrenze geknüpft werden soll. In ihrem Bericht wägt die Kommission zwei Optionen ab: Entweder es wird eine Altersbeschränkung für Jugendliche unter 13 Jahren mit zusätzlich abgestuften Schutzstandards für ältere Jugendliche eingeführt. Oder es wird auf eine Altersgrenze verzichtet, dafür aber ein verbindlicher Katalog an sicheren, altersgerechten Plattformeinstellungen vorgeschrieben. Dieser Katalog müsste dann der EU-Plattformregulierung, dem Digital Services Act (DSA), hinzugefügt werden.

Eva Lejla Podgoršek, Senior Policy Managerin bei AlgorithmWatch, erklärt dazu:

„Pauschale Altersgrenzen für die Nutzung von Social-Media-Plattformen lehnen wir ab. Sie sperren junge Menschen aus und führen zu keiner Verbesserung der Plattformen selbst. Der alternative Ansatz der Expertinnenkommission bietet mehr Potenzial: Wenn Jugendschutz vom Design her gedacht wird, setzt er dort an, wo die Risiken entstehen – bei den Plattformen. Diese müssen zuerst ihre Pflichten erfüllen. Davon profitieren alle Nutzerinnen, unabhängig von ihrem Alter.

Allerdings hängen beide Ansätze von einer Bedingung ab: der wirksamen Altersüberprüfung. Der Schutz von Minderjährigen steht hier im Vordergrund, doch sollte eine Altersüberprüfung, wenn überhaupt, nur als Ultima Ratio und so persönlichkeitschützend wie möglich eingeführt werden. Den Plattformen fehlt es nicht an Wissen über das Alter ihrer Nutzer*innen – das sie ohnehin mithilfe fragwürdiger verhaltensbasierter Methoden schätzen –, sondern an der Bereitschaft, danach zu handeln. Der entscheidende Hebel bleibt die Plattformverantwortung: Anbieter in die Pflicht nehmen, statt junge Menschen zu sanktionieren.“

Berlin, 01. September 2026 – Im September wählen Sachsen-Anhalt, Mecklenburg-Vorpommern und Berlin neue Landesparlamente – wobei viele Menschen erst kurzfristig entscheiden, wem sie ihre Stimme geben. Suchmaschinen wie Google können bei der Entscheidung unterstützen. Zu diesem Anlass hat AlgorithmWatch untersucht, wie Googles KI-Übersichten mit Fragen zu wahlbezogenen Inhalten umgehen. Das Ergebnis: Es ist unklar, wann KI-Übersichten angezeigt werden, die Vielfalt der herangezogenen Quellen ist begrenzt, und die Übersichten sind nicht neutral formuliert. Außerdem gibt Google keine Auskunft darüber, nach welchen Kriterien KI-Übersichten angezeigt werden.

Damit gestaltet der Konzern den Zugang zu politischen Inhalten augenscheinlich willkürlich. Ein solches Informationsroulette kann negative Auswirkungen auf die politische Meinungsbildung haben und damit zu einem Problem für die Demokratie werden.

Neue Studie zeigt: KI-Übersichten werden willkürlich ausgespielt, Quellenvielfalt ist begrenzt

AlgorithmWatch hat untersucht, zu welchen Themen und Fragestellungen Google KI-Übersichten anzeigt. Bei wahlbezogenen Fragen generiert Google deutlich seltener KI-Übersichten als bei unpolitischen Fragen. Aus Sicht von AlgorithmWatch deutet dies darauf hin, dass Google im Hintergrund besondere Maßnahmen für Wahlen ergreift, welche das genau sind, ist aber unklar. Generell ist keine Systematik erkennbar, nach der KI-Übersichten angezeigt werden oder nicht: So werden als Antwort auf Fragen nach Wahlumfragen keine KI-Übersichten angezeigt, während Fragen zu Parteien und einzelnen Kandidat*innen in rund der Hälfte der Fälle zu einer KI-Übersicht führen. Dieses Muster ist jedoch nicht einheitlich: Zur Spitzenkandidatin der Linken in Sachsen-Anhalt, Eva von Angern, wird kein einziges Mal eine KI-Übersicht angezeigt. Suchanfragen zu Sachsen-Anhalt generieren insgesamt weniger KI-Übersichten als Fragen zu Berlin und Mecklenburg-Vorpommern.

Auch die Vielfalt der Quellen, die Google für die KI-Übersichten heranzieht, ist begrenzt: Fast die Hälfte aller angezeigten Links führt lediglich zu zehn verschiedenen Websites. Bei Suchanfragen zu Kandidat*innen ist YouTube, das Google-eigene Videoportal, die meistzitierte Quelle. Unter den zehn am häufigsten referenzierten Websites identifiziert AlgorithmWatch zudem öffentlich-rechtliche Sender, Wikipedia, weitere Social-Media-Plattformen sowie Regierungs- und Partei-Websites.

AlgorithmWatch hat in der Untersuchung weiterhin festgestellt, dass politische Positionen der Kandidat*innen in den Google KI-Übersichten häufig nicht neutral, sondern mit positiven Formulierungen wiedergegeben werden. Dies liegt womöglich daran, dass generative Sprachmodelle zu Schmeichelei neigen (englisch „Sycophancy“, zu deutsch: „Sykophanz”), also die Meinung der Fragestellenden bestätigen. Im politischen Kontext ist dies nach Ansicht von AlgorithmWatch problematisch, da Wählende neutrale Informationen benötigen, um sich selbst ein Bild der Kandidierenden machen zu können.

Google weist Kritik zurück

Konfrontiert mit den Untersuchungsergebnissen äußert sich Google unverbindlich: „Unsere KI-Suchfunktionen zeigen qualitativ hochwertige Informationen aus einer vielfältigen Breite von Internet-Quellen an und basieren auf unseren zentralen Ranking- und Sicherheitssystemen. Die KI-Suchfunktionen sind so gestaltet, dass sie neutral und objektiv sind und, wie wir an anderer Stelle gesagt haben, erscheinen sie nicht bei jeder Suche”, schreibt ein Sprecher des Konzerns (Zitat aus dem Englischen übersetzt). Es bleibt unklar, welche konkreten Schritte Google zum Schutz der Integrität von Wahlen in Deutschland unternimmt.

Weitere Angaben, nach welchen Kriterien KI-Übersichten ausgegeben werden und nach welcher Systematik welche Quellen dazu herangezogen werden, macht das Unternehmen nicht. Die Kritik daran, eigene Angebote zu bevorzugen, weist Google zurück.

Clara Helming, Senior Policy Managerin bei AlgorithmWatch und Projektleiterin der Untersuchung, sieht das größte Risiko in der fehlenden Transparenz:

„Unsere Ergebnisse deuten darauf hin, dass Google im Hintergrund bewusste Entscheidungen trifft, wann eine KI-Übersicht zu den Wahlen angezeigt wird, wie die Inhalte formuliert sind und welche Quellen zitiert werden. Allerdings macht das Unternehmen diese Entscheidungen nicht transparent. Das ist problematisch, denn Googles Produktentscheidungen beeinflussen wichtige Vorbedingungen der Meinungsbildung in der Demokratie: den Zugang zu verlässlichen Informationen und vielfältigen Quellen.”

Matthias Spielkamp, Geschäftsführer von AlgorithmWatch, ergänzt weitere Kritik am Vorgehen des Google-Konzerns:

„Google eignet sich für die KI-Übersichten massenhaft journalistische und andere Inhalte an, ohne um Erlaubnis zu fragen, was vermutlich rechtswidrig ist – die Verfahren dazu laufen. Der Konzern greift damit massiv die Finanzierungsmodelle privater journalistischer Medien und die Legitimität öffentlich-rechtlicher Angebote an. Dabei geht Google so vor wie immer: Das Unternehmen bietet keine Transparenz und versucht erneut, sich der Verantwortung dafür zu entziehen, welche Auswirkungen ihre Produkte auf die Gesellschaft haben. Als größte Suchmaschine mit einer kaum zu überschätzenden Macht über den Zugang zu Informationen muss Google daher dazu gezwungen werden, Rechenschaft abzulegen und Verantwortung zu übernehmen. Alle Anbieter generativer KI müssen transparent darüber informieren, wie KI-generierte Inhalte zustande kommen und sollten die Haftung für diese Inhalte übernehmen müssen.”

AlgorithmWatch fordert den Gesetzgeber zum Handeln auf:

• Die Bundesregierung sollte prüfen, ob und wie Google und andere Anbieter generativer KI für ihre Inhalte haftbar gemacht werden können oder müssen.
• Die Bundesregierung sollte sich auf europäischer Ebene dafür einsetzen, dass die bereits bestehenden Regeln des Digital Services Act besser durchgesetzt werden und die zuständige deutsche Aufsichtsbehörde, die Bundesnetzagentur, stärken. Dazu sollte sie die vorgesehenen Stellen zur Aufsicht von Onlinediensten im Haushalt 2027 budgetieren. Dies ist im aktuellen Entwurf nicht vorgesehen.

AlgorithmWatch analysiert seit 2023 große Sprachmodelle (Large Language Models, LLM) zu politischen Themen und fordert, die Regeln des Digital Services Act (DSA) entschlossener durchzusetzen, um systemische Risiken der Plattformen zu verringern – nicht zuletzt im Kontext demokratischer Wahlen. Dazu gehört auch, den Zugang zu Daten zu verbessern und Plattformen zu mehr Transparenz zu zwingen.

Zur Methodik:

Für die Untersuchung der Google KI-Übersichten anlässlich der Landtagswahlen im September 2026 hat AlgorithmWatch über einen Antrag nach Artikel 40 Absatz 12 des Digital Services Acts (DSA) Zugang zu Googles „Search Researcher Result“-Softwareschnittstelle erhalten. Über diese hat die Organisation 4.480 Suchanfragen zu den Wahlen in Sachsen-Anhalt, Mecklenburg-Vorpommern und Berlin gestellt, die Ergebnisse erfasst und die KI-Übersichten sowie deren Quellen ausgewertet.

Zum Hintergrund:

• Zur Untersuchung: https://algorithmwatch.org/de/google-ki-ubersichten-meinungsbildung/
• Untersuchung von AlgorithmWatch zu großen Sprachmodellen anlässlich der Landtagswahlen 2024: https://algorithmwatch.org/de/sprachmodelle_landtagswahlen/
• Untersuchung von AlgorithmWatch zu Microsofts Bing Chat anlässlich der Landtagswahlen2023: https://algorithmwatch.org/de/schlussbericht-microsoft-bing-chat/
• DSA-Beschwerde gegen Googles KI-Übersichten bei der Bundesnetzagentur: https://algorithmwatch.org/de/allianz-dsa-beschwerde-googles-ai-overviews/