X

Reddit bereitet sich auf ChatGPT-bedingte "Spam-Apokalypse" vor

ChatGPT und vergleichbare KI-Bots sind seit mehreren Wochen und Monaten das Thema schlechthin in der Tech-Welt und viele finden die Technologie auch faszinierend. So mancher sieht derartige künstliche Intelligenzen als gefährlich an, auf Reddit befürchtet man eine Spam-Welle.
12.04.2023  11:13 Uhr
Für viele sind Chatbots wie OpenAIs ChatGPT bzw. GPT-4 sowie Googles Bard eine spannende und auch praktische Sache. Denn derartige Textgenerierung liefert menschlich klingende und auch auf den ersten Blick fundierte Ergebnisse ab. Doch wie Vice berichtet, ist die Freude über ChatGPT und Co. nicht überall gleich groß. So haben beispielsweise bereits im vergangenen Dezember Moderatoren des Geschichte-Subreddits r/AskHistorians eine Warnung ausgesprochen, dass es in den kommenden Wochen und Monaten in diesem Forum zu einer Schwemme an KI-generierten Texten kommen werde - und das keine besonders gute Entwicklung sei.

"Sie waren ziemlich leicht zu erkennen", sagte Moderatorin Sarah Gilbert, die promovierte Historikerin an der Cornell University ist. "Sie sind nicht ausführlich, sie sind nicht umfassend und sie enthalten oft falsche Informationen." Für das geschichtsfokussierte Subreddit sind historische Fragen und Antworten das Brot und Butter.

Denn auf r/AskHistorians beantworten Geschichtswissenschaftler die Fragen der Nutzer und hier ist Fachkenntnis natürlich alles. Mithilfe von ChatGPT ist aber plötzlich jeder ein "Experte" oder kann sich als solcher ausgeben. Laut Gilbert verzeichnete man nach dem Start von ChatGPT fünf bis zehn ChatGPT-Beiträge pro Tag und das steigerte sich auch in den Tagen und Wochen danach. Mittlerweile hat sich das wieder etwas gelegt, was aber auch daran liegt, dass man recht rigoros gegen ChatGPT-Texte vorgeht.


Bots werden immer mehr zum Problem

Das Problem betrifft nicht nur ein bestimmtes Forum, ChatGPT wird immer mehr zum wichtigsten Werkzeug für Spammer aller Art. Denn mit Chatbot-generierten Inhalten kann man die Reddit-Automatismen zum Erkennen von Spam relativ einfach austricksen. Dabei kam es etwa im Februar zu einer koordinierten Bot-Attacke aus mehrere "Ask"-Subreddit, darunter r/AskWomen, r/AskEconomics und r/AskPhilosophy.

Laut Gilbert war dabei nicht das Problem, die ChatGPT-Texte zu erkennen, sondern die Tatsache, dass diese "so schnell kamen". Alleine das Geschichte-Forum musste zum Höhepunkt der Welle etwa 75 Konten täglich sperren.

Auch beim beliebten r/Technology-Subreddit kämpft man mit derartigen Bots: "Das Bot-Problem war bereits extrem schlimm, und die automatischen Anti-Spam-Systeme von Reddit helfen kaum, und wenn sie es tun, ist es schon zu spät, und die Existenz des Bots hat im Allgemeinen ihren Zweck erfüllt", sagt einer der dortigen Moderatoren.

Dabei sind die meisten Bots nicht für politische oder sonstige Manipulation im Einsatz, sondern für klassischen Spam, also Werbung. Dennoch sind auch diese immer schwerer zu erkennen und verstopfen die Social-Media-Kanäle. "Ich denke, dass viele Behauptungen 'GPT wird (was auch immer) revolutionieren' Blödsinn sind", sagt ein Moderator von r/Cybersecurity. "Aber ich würde darauf wetten, dass traditionelle soziale Medien eine begrenzte Lebensdauer haben, vor allem, weil unauthentische Inhalte so realistisch und billig herzustellen sind, dass wir Schwierigkeiten haben werden, herauszufinden, wer echt und wer ein Bot ist."


Zusammenfassung
  • Doch nicht überall wird die Technologie positiv gesehen.
  • Auf Reddit befürchtet man eine Spam-Welle durch KI-generierte Texte.
  • Moderatoren des Geschichte-Subreddits r/AskHistorians warnen vor einer Schwemme an KI-generierten Texten.
  • Diese sind nicht ausführlich, umfassend und enthalten oft falsche Informationen.
  • Mittlerweile hat sich die Zahl der KI-Beiträge pro Tag etwas gelegt.
  • ChatGPT wird immer mehr zum wichtigsten Werkzeug für Spammer aller Art.
Verwandte Themen
OpenAI
☀ Tag- / 🌙 Nacht-Modus
Desktop-Version anzeigen
Impressum
Datenschutz
Cookies
© 2024 WinFuture