X

Captcha-KI dreht frei:
Nutzer sollen nicht existierende Objekte erkennen

Captchas sind für viele Nutzer schon bisher eine äußerst nervige und unbeliebte Sache. Noch schlimmer wird es nun aber, da Anbieter damit beginnen, KI-Systeme anzukoppeln, die die Nutzer dann nach gar nicht existierenden Objekten fragen.
26.05.2023  10:06 Uhr
Mit dem Problem waren jüngst Nutzer der Chat-Plattform Discord konfrontiert. Der Betreiber greift hier auf den externen Dienstleister hCaptcha zurück und führte dies auch umgehend als Entschuldigung an. "Die Technologie, die diese Aufforderungen generiert, ist Eigentum unseres Drittpartners und Discord bestimmt nicht direkt, was den Nutzern präsentiert wird", erklärte man gegenüber dem US-Magazin Motherboard. Zuvor hatte es einige Aufregung seitens der Anwender gegeben, die nicht mehr auf ihren Discord-Account zugreifen konnten. Das lag an schlicht kaum lösbaren Aufgabenstellungen im Captcha. Denn wie sich herausstellte, wurden hier plötzlich Bilder von einer KI generiert. Zu sehen waren Gegenstände, die sich der Algorithmus ausgedacht hat und die in der Realität schlicht nicht existieren.

These AI generated Captchas, I have been trying to sign in for 10 minutes
by u/Manicraft1001 in mildlyinfuriating

hCaptcha in der Defensive

So sollten die Nutzer beispielsweise alle Bilder anklicken, auf denen ein "Yoko" zu sehen war. Was genau dies sein soll, wird wohl für immer ein Rätsel bleiben, Vermutungen laufen jedoch darauf hinaus, dass es sich um eine Mischung aus einem Jojo und einer Schlange handelt - also yoyo und snake. In anderen Captchas wurde nach einem Puzzle-Würfel gefragt und auch hier scheint eine KI einfach Bilder von etwas erzeugt zu haben, was nach ihrer Ansicht ein solches Objekt darstellen könnte. In weiteren Fällen scheiterten User daran, zu unterscheiden, welche Gesichter aus Perspektive der KI nun Menschen und Roboter darstellen.

Dem Ansinnen eines Captchas, menschliche Nutzer von Bots zu unterscheiden, scheint es nicht gerade weiterzuhelfen, wenn die Bilderrätsel aufgrund wirrer KI-Aktionen nicht für Menschen lösbar sind. Zumindest scheint man bei hCaptcha bemerkt zu haben, dass es sich hier vielleicht nicht um die beste Idee handelt. Es habe sich erst einmal nur um einen Test gehandelt, der einer prozentual sehr kleinen Gruppe von Nutzern präsentiert wurde, hieß es. Da aber hCaptcha hunderte Millionen Anfragen verarbeitet, handelte es sich absolut trotzdem um eine nennenswerte Zahl von Anwendern, was letztlich erklärt, warum es doch zu einer ganzen Reihe von Äußerungen und Beschwerden kam.

Zusammenfassung
  • Captchas sind für Nutzer schon lange nervig und unbeliebt.
  • Anbieter koppeln KI-Systeme an, die nach nicht existierenden Objekten fragen.
  • Nutzer der Chat-Plattform Discord betroffen.
  • KI generierte Bilder von Yoko, Puzzle-Würfel u.ä.
  • Die Rätsel sind nicht lösbar.
  • hCaptcha testete die KI nur für eine kleine Gruppe.
☀ Tag- / 🌙 Nacht-Modus
Desktop-Version anzeigen
Impressum
Datenschutz
Cookies
© 2024 WinFuture