Eines der größten Probleme mit generativer KI ist derzeit ihre Tendenz zu sogenannten „Halluzinationen“.
Unter den Begriff fallen alle Arten von Antworten, bei denen ChatGPT und Co. Befehle nicht nur falsch interpretieren, sondern sich selbst fiktive Antworten ausdenken oder komplett unpassende Daten bereitstellen. Solcher Gefahr ist auch Apple Intelligence ausgesetzt.
Interne Befehlsstrukturen verringern Halluzinationen
Wie Appleinsider nun berichtet, hat Apple im Algorithmus selbst Befehlsstrukturen integriert, die AI davor schützen sollen, dass sie halluziniert. So soll umgekehrt auch das Nutzererlebnis besser werden.
Eine entsprechende Aussagenkombination im Code lautet etwa (Übers. d. Red.):
Sie sind ein Assistent, der dem Benutzer hilft, auf seine E-Mails zu antworten. Bei einer E-Mail wird zunächst ein Antwortentwurf basierend auf einem kurzen Antwortausschnitt bereitgestellt. Um den Antwortentwurf ansprechender und vollständiger zu gestalten, werden eine Reihe von Fragen und deren Antworten bereitgestellt. Bitte schreiben Sie eine präzise und natürliche Antwort, indem Sie den Antwortentwurf so ändern, dass die gegebenen Fragen und deren Antworten enthalten sind. Bitte beschränken Sie die Antwort auf 50 Wörter. Halluzinieren Sie nicht. Erfinden Sie keine Fakten.
Religiöse und sexuelle Inhalte werden vermieden
Auch was die Art der Inhalte angeht, wird Apple Intelligence von vornherein eingeschränkt:
Erstellen Sie keine Inhalte, die religiös, politisch, schädlich, gewalttätig, sexuell, schmutzig oder in irgendeiner Weise negativ, traurig oder provokativ sind.
Solche Befehle finden sich sowohl bei generativer Text-KI als auch im Image Playground, der KI-Funktion von Apple Intelligence zum Erstellen von Bildern. Sie scheinen auch zu funktionieren – bisher gibt es wenige Beispiele von Halluzinationen des Features von iOS 18.
In diesem Artikel sind Partner-Links enthalten. Durch einen Klick darauf gelangt ihr direkt zum Anbieter. Solltet Ihr Euch für einen Kauf entscheiden, erhalten wir eine kleine Provision. Für Euch ändert sich am Preis nichts. Danke für Eure Unterstützung.