1689662101567

Fehlalarm: Warum KI-Schreibdetektoren mehr schaden als nutzen

Warum das wichtig ist:

  • Immer mehr Schulen und Universitäten prüfen die Einführung von automatischer ki Erkennung 
  • Es gibt reale Konsequenzen für den Verdacht des Betrugs.
  • Detektionstools werden als Wahrheitsverkünder behandelt, obwohl sie in Wirklichkeit unzuverlässig sind und auf unbewiesener Wissenschaft basieren.

Expertenaussagen, die Sie kennen sollten:

  • Forscher der University of Maryland warnen: Die Rate der falsch-positiven Ergebnisse ist hoch, und simple Eingabeaufforderungen können alle KI-Detektoren täuschen. Ihrer Ansicht nach wird es mit zunehmender Verbesserung der Language Modelle immer schwieriger, echte Detektion zu erreichen.
  • Eine Studie der Stanford University entlarvt eine beunruhigende Diskriminierung: Sieben populäre Detektoren waren alle gegen Nicht-Englisch-Sprecher voreingenommen. Dies unterstreicht, wie eine eingeschränkte sprachliche Ausdrucksweise KI-Detektion auslöst, und einfache Anregungen zur Verwirrung können GPT-Detektoren überlisten.

𝗗𝗲𝗿 𝗚𝗿𝘂𝗻𝗱 𝗱𝗮𝗳ü𝗿: Die Erkennung basiert auf der Wiederholung von Wörtern sowie einer gewissen Heuristik. Doch Menschen können diese simplen KI-Heuristiken leicht aushebeln, indem sie in bestimmten Stilen schreiben oder eine einfachere Sprache verwenden. Probiert es mal aus, gerade Gesetzestexte gelten schnell als „KI generiert“

Edward Tian, der Schöpfer von GPTZero, räumt ein, dass sich GPTZero von der herkömmlichen KI-Detektion abwendet: „Wir verlagern unseren Fokus weg von der Erstellung von Detektoren, um Schüler zu „fangen“. Stattdessen wird die nächste Version von GPTZero nicht KI aufspüren, sondern das hervorheben, was am menschlichsten ist, und Lehrern und Schülern dabei helfen, den Grad der KI-Beteiligung im Bildungsbereich gemeinsam zu navigieren.“

𝗔𝗯𝘀𝗰𝗵𝗹𝗶𝗲ß𝗲𝗻𝗱: Bereiten wir uns darauf vor, dass diese Diskussion noch jahrelang weitergeführt wird, insbesondere da große Geldsummen in der KI-Detektion und Anti-Betrugs-Software stecken.

Menschliches Unverständnis gegenüber KI wird weiterhin zu Anschuldigungen von KI-„Betrug“ führen.

Wie siehst du das? KI Texte und Bilder kennzeichnen? Auch automatisch?

https://arstechnica.com/information-technology/2023/07/why-ai-detectors-think-the-us-constitution-was-written-by-ai/
Tags: No tags

Comments are closed.