Le chatbot automatisé alimenté par l’IA d’OpenAI, ChatGPT, a pris Internet d’assaut, mais non sans créer quelques problèmes en cours de route. Avec des écrivains, des codeurs, des spécialistes du marketing et apparemment tous ceux qui utilisent ChatGPT pour générer du contenu, les entreprises du monde entier sont confrontées à un tsunami de contenu généré par l’IA.
Avec les problèmes de plagiat et de contenu volé qui tournent constamment autour de ChatGPT et de ses résultats, OpenAI a maintenant publié un nouveau GPT-Classifier, un outil conçu pour détecter et révéler si le texte que vous lisez est le travail de ChatGPT ou de l’un de ses autres outils GPT.
OpenAI lance GPT-Classifier pour aider à vérifier les textes écrits par l’IA.
L’annonce d’OpenAI intervient alors que l’examen des textes écrits par l’IA et générés par l’IA s’intensifie et que les entreprises intègrent les résultats de ChatGPT.
Le nouveau GPT-Classifier tente de déterminer si un texte donné a été écrit par un humain ou par un générateur d’IA. Alors que ChatGPT et les autres modèles GPT sont entraînés de manière intensive sur toutes sortes de textes, l’outil GPT-Classifier est « affiné sur un ensemble de données de paires de textes écrits par l’homme et de textes écrits par l’IA sur le même sujet ».
Ainsi, au lieu d’aspirer des informations et de recréer sa meilleure approximation, le classificateur GPT tente de comparer les similitudes entre un texte humain connu et un texte IA connu afin de trouver des divergences qui révèlent l’auteur source.
La détection du classificateur GPT est actuellement limitée.
Si l’idée de repérer facilement les textes générés par l’IA réjouit les rédacteurs et les éducateurs, OpenAI a prévenu que son « classificateur n’est pas totalement fiable ».
Actuellement, GPT-Classifier « identifie correctement 26% des textes écrits par l’IA », alors qu’il identifie 9% des textes humains comme étant écrits par l’IA. OpenAI note également que la précision de l’outil « s’améliore généralement lorsque la longueur du texte d’entrée augmente ».
Un test rapide du GPT-Classifier a permis de repérer un exemple généré par l’homme et de le marquer comme « très peu susceptible d’être généré par l’IA », et a également indiqué correctement qu’un extrait généré par ChatGPT sur les problèmes d’USB était « probablement généré par l’IA ».
La demande de détection de ChatGPT est élevée
Même avec les limitations du GPT-Classifier, la demande pour une détection fiable de ChatGPT devrait inciter de nombreuses personnes à se tourner vers cet outil. L’engagement d’OpenAI à construire et à publier un outil de détection GPT gratuit est important parce que de plus en plus d’étudiants, d’écrivains, de programmeurs et d’autres personnes utilisent des outils de génération de texte par l’IA, la compréhension et la détection de cette entrée deviendront vitales.
Pour l’instant, bien que GPT-Classifier soit opérationnel et disponible pour être testé, il est préférable de prendre son étiquetage avec une pincée de sel.
