Wikipedia kämpft gegen den Ansturm von KI-generiertem Inhalt

Wikipedia kämpft gegen den Ansturm von KI-generiertem Inhalt

Die Wikipedia-Editoren stehen vor einem großen Problem: der zunehmenden Verbreitung von gefälschtem Inhalt, der von künstlicher Intelligenz (KI) wie ChatGPT erzeugt wird. Um dem entgegenzuwirken, haben sie das WikiProject AI Cleanup ins Leben gerufen. Dieses von Freiwilligen geleitete Projekt hat die Aufgabe, Artikel auf Wikipedia zu überprüfen, falsche Informationen, die von KI erstellt wurden, zu bearbeiten oder zu entfernen.

Ilyas Lebleu, einer der Initiatoren von WikiProject AI Cleanup, schilderte, wie das Team auf diese Krise aufmerksam wurde. Sie bemerkten Sätze, die sich unnatürlich anfühlten, als wären sie von einem Chatbot geschrieben. Um diese Vermutung zu überprüfen, verwendeten sie ChatGPT, um diese Sätze nachzubilden, und stellten fest, dass die Ergebnisse denen auf Wikipedia ähnelten.

"Wir haben einige Sätze gefunden, die typisch für KI-generierte Inhalte sind, und das hat uns geholfen, schnell eine Reihe erschreckender Beispiele zu entdecken, die tatsächlich von KI erstellt wurden", erklärte Lebleu. "Daher haben wir uns entschlossen, dieses organisierte Projekt zu gründen, um unsere Techniken und Erkenntnisse zu bündeln."

Ein Beispiel ist der Artikel über eine osmanische Festung namens Amberlisihar, die im 15. Jahrhundert erbaut wurde. Der Artikel war sehr detailliert und umfasste die Lage und die Bauwerke. Nach einer genaueren Untersuchung stellte sich jedoch heraus, dass Amberlisihar nie existiert hat! Alle Informationen im Artikel waren frei erfunden und mit einigen wahren Informationen vermischt, um den Artikel glaubwürdig erscheinen zu lassen.

Der Missbrauch von KI beschränkt sich nicht auf neue Artikel. Viele alte Artikel wurden ebenfalls mit KI-generiertem Text aktualisiert, selbst Artikel, die bereits von Wikipedia-Editoren überprüft wurden.

Lebleu und andere Editoren geben zwar an, die Gründe dafür nicht zu kennen, aber es lässt sich vermuten, dass es verschiedene Ursachen gibt. Wikipedia ist eine offene Plattform, auf der jeder zum Editor werden kann. Dies ist auch einer der Gründe, warum viele Universitäten ihren Studenten verbieten, Wikipedia als Informationsquelle für ihre Arbeiten zu verwenden.

Weitere Maßnahmen gegen KI-generierte Inhalte:

Automatisierung von KI-Erkennungswerkzeugen: Wikipedia-Editoren entwickeln Tools, die automatisch KI-generierte Inhalte erkennen können.

Verbesserung der Richtlinien: Wikipedia-Richtlinien werden ständig aktualisiert, um den Umgang mit KI-generierten Inhalten zu klären.

Schulung von Editoren: Editoren werden darin geschult, KI-generierte Inhalte zu erkennen und zu behandeln.

Zusammenarbeit mit KI-Entwicklern: Wikipedia arbeitet mit KI-Entwicklern zusammen, um die Entwicklung ethischer KI-Systeme zu fördern.

Die Bekämpfung von KI-generiertem Inhalt auf Wikipedia ist eine andauernde Herausforderung. Durch die beschriebenen Maßnahmen und die stetige Weiterentwicklung der Plattform kann die Glaubwürdigkeit von Wikipedia jedoch weiterhin gesichert werden.