Seit Oktober 2024 analysiert eine versteckte Android-Funktion namens SafetyCore Bilder auf Nutzergeräten.
Dazu gehören – wie ZDnet herausfand – auch private Chats, um Nacktheit zu erkennen. Eingeführt über ein Sicherheitsupdate (ab Android 9), blurrt die KI in Google Messages entsprechende Fotos und warnt vor dem Versand.
Google betont, die Analyse laufe lokal auf dem Gerät, ohne Daten an Server zu senden. Doch Datenschützer zweifeln: Die KI könnte Metadaten oder Inhaltsbeschreibungen an Google übermitteln, obwohl dies offiziell dementiert wird.
So funktioniert es
SafetyCore nutzt maschinelles Lernen, um sensible Inhalte in Fotos und Videos zu identifizieren. Zwar soll dies Missbrauch vorbeugen (z. B. unerwünschte Nacktbilder), doch die automatische Aktivierung ohne Nutzerzustimmung stößt auf Widerstand.
Viele Anwender berichten, das Update habe sich quasi heimlich im Hintergrund installiert – ein Eingriff in die Privatsphäre, der selbst Entwickler zunächst überraschte. Kritiker befürchten, Google könne über die KI Muster erkennen (z. B. Gesichter, Umgebungen) und Nutzerprofile anreichern.
Deaktivieren schwierig
Laut Anleitung lässt sich SafetyCore über die Einstellungen unter „Systemprozesse“ deinstallieren oder deaktivieren. Allerdings: Die Option ist oft ausgegraut, sodass nur Berechtigungen entzogen werden können (z. B. Internetzugriff).
Nutzer berichten, dass sich die Komponente nach Updates selbstständig reaktiviert. Ein vollständiges Löschen erfordert teils Root-Zugriff, der Garantie und Sicherheit gefährdet.
Was Google sagt
Das Unternehmen verteidigt SafetyCore als Schutzmechanismus, der insbesondere Jugendliche vor Sextortion und ungewollten Inhalten bewahren soll. In Google Messages werden Nutzer beim Versand von Nacktbildern über Risiken wie Screenshots oder Weiterleitung informiert. Dennoch bleibt fraglich, warum die Funktion nicht optional ist – zumal ähnliche Tools wie Apples „Nackterkennung“ explizit aktiviert werden müssen.
Datenschutzexperten warnen
Auch wenn Google beteuert, keine Bildinhalte extern zu speichern, bleibt die KI-Analyse intransparent. SafetyCore könnte theoretisch Metadaten (Ort, Uhrzeit, Geräte-ID) mit erkannten Inhalten verknüpfen – ein Risiko für Whistleblower oder Aktivisten.
Die EU-Datenschutzbehörden prüfen bereits, ob die Funktion gegen die DSGVO verstößt, da Nutzer nicht ausdrücklich zustimmen. So bleibt Nutzern nur eines: Deaktivieren, wo möglich – und hoffen, dass der nächste Update-Zyklus nicht doch wieder heimlich nachrüstet.
In diesem Artikel sind Partner-Links enthalten. Durch einen Klick darauf gelangt ihr direkt zum Anbieter. Solltet Ihr Euch für einen Kauf entscheiden, erhalten wir eine kleine Provision. Für Euch ändert sich am Preis nichts. Danke für Eure Unterstützung. Foto: Pixabay