Wie gestern bereits vermutet, hat Apple an neuen Kinderschutz-Features gearbeitet.
Sie werden Teil der kommenden OS-Updates sein, also von iOS 15, iPadOS 15, watchOS 8 und macOS Monterey. Apple hat hier eine Informationsseite veröffentlicht. Sie enthält auch PDFs zu technischen Details der neuen Features.
Drei unterschiedliche Ansatzpunkte
Drei Ansatzpunkte hat Apple zum Schutz von Kindern gewählt: die hauseigene Nachrichten-App, kryptografische Methoden zur Eindämmung des Versands kinderpornografischer Dateien und Hilfestellungen über Siri und die Suche.
Sie greifen dabei auch ineinander. So werden künftig Bilder mit sexuellen Inhalten, die über Chats in iMessage verschickt werden, auf Wunsch der Eltern zunächst von einer KI analysiert und ggf. verschleiert. Nur die Eltern können die expliziten Inhalte dann freigeben.
KI ist auch beim Versand aktiv
Das geht auch umgekehrt, also wenn ein Kind versucht, ein Bild mit sexuellem Inhalt zu verschicken. In beiden Fällen ist ein anonymer Bildanalyse-Algorithmus am Werk – Apple sieht die Dateien nie. Eltern bekommen dabei immer Benachrichtigungen, solange ihre Kinder jünger als 13 Jahre sind. Danach soll der Nachwuchs selbst entscheiden können.
iCloud-Analyse komplett anonym
Gleiches gilt grundsätzlich auch für die kryptografischen Algorithmen, die künftig iCloud-Speicher nach kinderpornografischem Material durchsuchen. Sie analysieren die Dateien nach Hinweisen auf verdächtige Inhalte, die erst im Ernstfall einer Warnung durch die Software von Menschen geprüft werden.
So werden Kinder und die Privatsphäre der User zugleich geschützt. Über Siri und die Suche finden Eltern künftig auch schneller Informationen über Wege, kinderpornografische Inhalte bei zuständigen Behörden zu melden. Gemeinsam sollen die Features für mehr Kinderschutz im Alltag sorgen.