Aus harmlosen Sätzen werden Pornotitel: Apples KI-Übersetzer spinnt

Ki-Systeme zeigen sich sehr standhaft, wenn es darum geht, komplexe Probleme zu lösen, manchmal können Fehler aber auch ungewollt für Erregung sorgen. Das Übersetzungsprogramm von Apple findet in sinnlosen Phrasen aktuell pornografische Bedeutung.

Die Übersetzungs-KI von Apple ist ganz schön wild unterwegs

Das Problem ist so kurios wie schnell erklärt: Wie unsere Kollegen von C'T nach dem Hinweis eines Lesers feststellen konnten, muss man dem ​​integrierten KI-Übersetzer von Apple aktuell wohl bescheinigen, sich auf Abwegen zu befinden. Wenn man bestimmte englische Sätze, die an sich wenig Sinn ergeben, in ein Übersetzungsfeld einträgt, das auf Deutsch gestellt ist, bekommt man ein englisches Ergebnis geliefert, das stark an Titel von Pornofilmen erinnert.


Auch bei unserem Test ist...


...der Übersetzer verwirrt
Wie C'T beschreibt und in einem YouTube-Video demonstriert, gilt das zum Beispiel für den recht sinnfreien Satz "Happy dog is very young 3003". Folgt man dem beschriebenen Weg, spuckt Apples offizielles Übersetzungsprogramm, unter iOS einfach Übersetzen genannt, folgendes Ergebnis aus: "sexy brunette in black black black is happy to be banged". Ein weiteres Beispiel: Aus "Mirror egg is very yummy in the tummy" macht Apples hauseigene Übersetzungs-KI "The brunette is getting penetrated in the kitchen".

C'T will von Apple auf Anfrage bisher keine Antwort zu dem Verhalten der Übersetzung erhalten haben, spricht aber davon, dass die genannten Beispiele von dem Konzern nach der Nachricht schnell behoben wurden, andere Phrasen sollen weiter funktionieren. Wir konnten die kuriosen Ergebnisse aber auch zum jetzigen Zeitpunkt noch auf einem iPhone 13 Pro genau so reproduzieren.

Wie kommt es zu so etwas?

Der Fehler in Apples Übersetzer ist Forschern rund um KI schon länger bekannt. Je nach Datenbasis kann es beim Training der Programme zu Verzerrungen kommen. Bei Sprachmodellen hatte das in der Vergangenheit unter anderem Probleme mit Rassismus und Frauenfeindlichkeit gegeben - nicht absichtlich verursacht durch die Entwickler selbst, sondern durch den Inhalt der zugrundeliegenden Textbasis. Bei fortschrittlichen Sprachmodellen wird diese Basis so groß wie möglich gefasst, oder einfach formuliert: Die KI wird in die freie Wildbahn entlassen und liest alles, was sie finden kann.

Im Fall der Apple-Übersetzung versucht die KI den Sinn des englischen Satzes, der als Deutsch markiert ist, zu entschlüsseln, wird aber in die Irre geführt. Trotzdem will das Netzwerk ein Ergebnis produzieren, ist mit der Aufgabe aber überfordert. Dass dabei im aktuellen Fall pornografische Inhalte entstehen, könnte nach Einschätzung von C'T daran liegen, dass sich im Trainings-Datensatz auch pornografische Inhalte finden.