X

Amazons neuer KI-Chatbot Amazon Q verrät vertrauliche interne Infos

Amazons neuer KI-Chatbot Q steht wegen Problemen mit der Verschwiegenheit und fehlerhaften Antworten in der Kritik. Mitarbeiter des Konzerns schlagen bereits Alarm - der Chatbot ist dabei "erwischt worden", wie er Betriebsgeheimnisse preisgab.
03.12.2023  09:10 Uhr

Q leitet unter "schweren Halluzinationen"

Das meldet das Online-Magazin Platformer. Dokumente, die dem Magazin zugespielt wurden, zeigen dabei, dass Q laut den Mitarbeitern unter "schweren Halluzinationen leidet" und vertrauliche Informationen preisgibt, darunter den Standort von AWS-Rechenzentren und interne Rabattprogramme. Q wird als unternehmenstaugliche Version von ChatGPT von Amazon angepriesen und soll vor allem sicherer sein als Tools, die für Verbraucher gedacht sind. Die internen Dokumente aus der Testphase weisen jedoch auf das Risiko hin, dass Q auch schaden kann, da ungenaue oder falsche Informationen abgeliefert werden.


In einem dieser Dokumente über Probleme mit Q heißt es, dass der Chatbot unter Umständen "halluzinieren und schädliche oder unangemessene Antworten geben kann. Amazon Q könnte so etwa veraltete Sicherheitsinformationen als Antwort zurückgeben, die Kundenkonten gefährden könnten". Solche Probleme sind schon von anderen Sprachmodellen bekannt, es trifft also nicht allein Q.

Amazon spielt nun aber laut dem Bericht die Bedeutung der Kritik aus den Mitarbeitergesprächen herunter und behauptet, dass man derzeit kein Sicherheitsproblem feststellen konnte. Die durchgesickerten Dokumente geben laut Platformer jedoch Anlass zu Bedenken. Q läuft derzeit noch in der Betaphase und ist bislang nicht allgemein verfügbar.

Eine Sprecherin sagte: "Als Ergebnis dieses Feedbacks wurde kein Sicherheitsproblem festgestellt. Wir sind dankbar für alle Rückmeldungen, die wir bereits erhalten haben, und werden Q weiter optimieren, während es von einem Produkt in der Vorschauphase zur allgemeinen Verfügbarkeit übergeht."

Das zeigt nun vor allem, dass es eine große Meinungsverschiedenheit bei Amazon zu geben scheint, wie gut und sicher Q funktioniert.

Zusammenfassung
  • Amazon KI-Chatbot Q gibt Betriebsgeheimnisse preis
  • Mitarbeiter berichten von "schweren Halluzinationen" des Bots
  • Q soll sicherer als Verbraucher-Tools sein, zeigt aber Risiken
  • Chatbot könnte veraltete Sicherheitsinfos liefern
  • Amazon sieht laut Bericht kein Sicherheitsproblem bei Q
  • Dokumente aus Testphase deuten auf Probleme hin
  • Q befindet sich noch in Betaphase, nicht allgemein verfügbar
Verwandte Themen
Amazon
☀ Tag- / 🌙 Nacht-Modus
Desktop-Version anzeigen
Impressum
Datenschutz
Cookies
© 2024 WinFuture