14.09.2023
OpenAI
KI-Detektoren funktionieren nicht
Autor: Bernhard Lauer
https://help.openai.com/en/articles/8313351-how-can-educators-respond-to-students-presenting-ai-generated-content-as-their-own
OpenAI hat bestätigt: Keiner der KI-Detektoren "unterscheidet zuverlässig zwischen KI-generiertem und menschlich generiertem Inhalt".
Letzte Woche hat OpenAI in einem Blogbeitrag Tipps für Pädagogen veröffentlicht, die zeigen, wie einige Lehrer ChatGPT als pädagogisches Hilfsmittel einsetzen, sowie Vorschläge für die ersten Schritte. In einer zugehörigen FAQ geben sie auch offiziell zu: KI-Schreibdetektoren funktionieren nicht, obwohl sie häufig eingesetzt werden, um Schüler und Schülerinnen mit falsch-positiven Ergebnissen zu bestrafen.
In einem Abschnitt der FAQ mit dem Titel "Funktionieren KI-Detektoren?" schreibt OpenAI: "Kurz gesagt, nein. Während einige (einschließlich OpenAI) Tools veröffentlicht haben, die vorgeben, KI-generierte Inhalte zu erkennen, hat keines dieser Tools bewiesen, dass es zuverlässig zwischen KI-generierten und von Menschen erstellten Inhalten unterscheiden kann."
Stellt man Bing-Chat, eingestellt auf ChatGPT 4, diese Frage, lautet die Antwort so:
"KI-Detektoren sind nicht perfekt und können je nach den Daten, auf denen sie trainiert wurden, den verwendeten Algorithmen und den Modellen, die sie abdecken, unterschiedliche Genauigkeits- und Zuverlässigkeitsgrade aufweisen. Einige KI-Detektoren sind in der Lage, Inhalte zu erkennen, die von ChatGPT, GPT4, Bard, Claude und anderen großen Sprachmodellen (LLMs) generiert wurden, andere hingegen nicht. Einige KI-Detektoren haben auch eine niedrige Falsch-Positiv-Rate, das heißt sie verwechseln selten von Menschen geschriebene Inhalte mit KI-generierten Inhalten, während andere eine höhere Rate aufweisen.
"KI-Detektoren sind nicht perfekt und können je nach den Daten, auf denen sie trainiert wurden, den verwendeten Algorithmen und den Modellen, die sie abdecken, unterschiedliche Genauigkeits- und Zuverlässigkeitsgrade aufweisen. Einige KI-Detektoren sind in der Lage, Inhalte zu erkennen, die von ChatGPT, GPT4, Bard, Claude und anderen großen Sprachmodellen (LLMs) generiert wurden, andere hingegen nicht. Einige KI-Detektoren haben auch eine niedrige Falsch-Positiv-Rate, das heißt sie verwechseln selten von Menschen geschriebene Inhalte mit KI-generierten Inhalten, während andere eine höhere Rate aufweisen.
KI-Detektoren funktionieren also bis zu einem gewissen Grad, aber sie sind nicht unfehlbar. Sie können nützliche Werkzeuge sein, um die Originalität und Qualität von Inhalten zu überprüfen, sollten aber nicht die einzige Quelle für die Überprüfung sein. Das menschliche Urteilsvermögen und der gesunde Menschenverstand sind ebenfalls wichtige Faktoren, die bei der Bewertung von Inhalten zu berücksichtigen sind."
Google I/O 2024
Google Gemini ermöglicht mehr Funktionen und Individualität
Der große Star bei der diesjährigen Google-Entwicklerkonferenz I/O war Gemini. Die KI-Technologie hält Einzug in diverse Anwendungen und bietet neue Möglichkeiten bei der Entwicklung und Nutzung bekannter und neuer Google-Apps.
>>
Konferenz
Microsoft Build vom 21. bis 23 Mai
Für die Build 2024 plant Microsoft ein umfangreiches Programm mit über 100 Sessions. Viele Neuigkeiten soll es geben - vor allem zum Thema Künstliche Intelligenz.
>>
Künstliche Intelligenz
OpenAI: „GPT-4o“ kann jetzt auch sprechen
Die Entwicklerfirma OpenAI hat das neue KI-Modell „GPT-4o“ vorgestellt. Dieses kann mit menschlicher Stimme mit Nutzern interagieren und auch zwischen verschiedenen Sprachen übersetzen.
>>
ServiceNow
Die generative KI von Now Assist bekommt ein Gesicht
ServiceNow hat auf seiner Kunden- und Partnerkonferenz Knowledge 2024 in Las Vegas den Ausbau der Partnerschaften mit NVIDIA und Microsoft bekannt gegeben. Künftig sollen KI-Avatare für individuellere Mitarbeiter- und Kundenerlebnisse sorgen.
>>