Neues Tool soll Texte erkennen, die von Chat GPT verfasst wurden
OpenAI - das Unternehmen hinter ChatGPT - hat ein kostenloses Tool namens AI Text Classifier herausgebracht. Es soll Texte erkennen, die von einer künstlichen Intelligenz generiert wurden. Das Tool gibt an, wie wahrscheinlich es ist, dass der Text von einer KI stammt.
Die Nutzung ist sehr einfach gehalten. Nach der Registrierung in OpenAI kann man sofort loslegen. Man kopiert den Text in das Textfeld hinein und erfährt sofort das Ergebnis. Texte werden dann als „sehr unwahrscheinlich“, „unwahrscheinlich“, „unklar“, „möglicherweise“ oder „wahrscheinlich von einer KI verfasst“ eingestuft.
ChatGPT-Texte können leicht manipuliert werden
Es gibt aber auch einige Einschränkungen: So müssen laut eigener Website Texte mindestens 1000 Zeichen lang sein. Je länger die Texte, umso höher die Chance, dass sie richtig bewertet würden, heißt es in einem Blogeintrag von OpenAI. Von KI generierte Texte könnten aber auch leicht manipuliert werden. Die Trefferliege des Tools liegt laut dem Hersteller bei rund 26 Prozent.
Es wird auch darauf hingewiesen, dass bei nicht-englischsprachigen Texten die Fehlerwahrscheinlichkeit höher sei, da das Tool hauptsächlich auf Englisch trainiert wurde. Für das Training wurden Texte von Menschen und KIs verwendet.
Die futurezone hat das Tool auch an eigenen Texten getestet. Insgesamt ist die Fehlerquote recht hoch gewesen, da die meisten Artikel als „unklar“ und einer sogar als „möglicherweise KI generiert“ eingestuft worden ist.
In Zukunft großer Nutzen
Zwar hat die Treffsicherheit von AI Text Classifier noch einige Mängel, trotzdem haben Tools wie dieses vielleicht in der Zukunft einen großen Nutzen. So könnten sie unter anderem von Professor*innen dafür genutzt werden, die Texte ihrer Studierenden zu überprüfen.
Die futurezone hat etwa vergangene Woche darüber berichtet, dass Studierende in Stanford ChatGPT bereits verwenden. So sind mehrere von der KI verfasste Abschlussarbeiten eingereicht worden. Das Österreichische Bildungsministerium will ChatGPT nicht verbieten. Stattdessen sollen sich Lehrer*innen und Schüler*innen kritisch damit auseinandersetzen. Vielleicht kann der AI Text Classifier dabei eine Hilfe sein.