La capacité de ChatGPT à générer du contenu en une fraction de temps l’a rendu de plus en plus populaire auprès des créateurs de contenu. Cependant, comme toute technologie puissante, les modèles de langage d’IA peuvent être mal utilisés.
Avant de prendre cette question à la légère, sachez qu’une mauvaise utilisation de l’IA peut entraîner des problèmes juridiques, une atteinte à la réputation et des résultats erronés. Examinons les mauvaises façons dont les créateurs de contenu utilisent ChatGPT afin que vous puissiez éviter ces problèmes.
1. Ne pas trop dépendre de ChatGPT
Imaginez que vous utilisiez ChatGPT pour la première fois. Comme c’est la première fois que vous l’utilisez, vous trouverez sa vitesse remarquable. Ce qui vous prenait des heures à créer ne prend plus que quelques secondes. Au fil du temps, il se peut que vous commenciez à vous y fier fortement. Vous faites quelques modifications, mais vous ne prenez pas la peine de faire des recherches.
Ce phénomène est ce que l’on appelle une dépendance excessive à l’IA, et c’est une voie tentante pour les créateurs qui sont poussés à produire rapidement. Toutefois, l’analyse documentaire de Microsoft sur la dépendance excessive à l’égard de l’IA met en garde contre le fait qu’une dépendance excessive à l’égard de l’IA vous conduit à accepter des résultats erronés.
Prenons l’exemple de la controverse au sein de CNET. CNET a publié des articles d’explication financière rédigés par l’IA sous le titre non prétentieux de « CNET Money Staff ». Malheureusement pour CNET, Futurism a repéré des erreurs flagrantes dans les articles générés par l’IA. Futurism a dénoncé le groupe de presse pour avoir publié d’horribles conseils financiers et pour avoir produit en masse du contenu bon marché afin de manipuler les résultats de recherche de Google à des fins lucratives.
Nous ne savons pas si CNET a souffert d’une dépendance excessive à l’égard de l’IA ou d’une confiance excessive dans le fait que personne ne le remarquerait. Quoi qu’il en soit, cet incident devrait servir d’avertissement pour ne pas trop se fier à la désinvolture de l’IA.
N’oubliez pas qu’il est possible que ChatGPT produise des informations obsolètes. Comme ChatGPT le dit lui-même, ses connaissances ne sont valables que jusqu’en septembre 2021, il est donc toujours bon de revérifier les informations.
Le PDG d’OpenAI, Sam Altman, mentionne également dans une interview vidéo d’ABC News que les utilisateurs devraient être plus prudents face au « problème des hallucinations » de ChatGPT. Il peut affirmer avec assurance des idées inventées comme s’il s’agissait de faits. Un seul incident comme celui de CNET peut nuire à votre crédibilité en tant que source faisant autorité.
Il est facile d’accepter aveuglément les résultats de ChatGPT quand on n’a pas assez de connaissances pour les évaluer. De plus, vous pourriez ne pas prendre la peine de vérifier un autre point de vue lorsque les réponses de ChatGPT correspondent à vos convictions. Pour éviter ces situations embarrassantes, vérifiez les faits, recherchez plusieurs points de vue et demandez l’avis d’un expert.
Si vous apprenez à utiliser ChatGPT pour la création de contenu, incluez ce qu’est l’hallucination de l’IA et comment vous pouvez la repérer dans votre liste de sujets à maîtriser. Plus important encore, ne négligez pas le jugement humain et la créativité. N’oubliez pas que l’IA doit enrichir votre réflexion et non la remplacer.
2. Ne demandez pas de liens de recherche à ChatGPT
Vous seriez probablement déçu si vous demandiez à ChatGPT des liens Internet vers des sources de recherche. ChatGPT vous donnera des liens, mais ce ne seront pas les bons ou pas nécessairement les meilleurs du web.
Pour tester, nous avons demandé à ChatGPT de nous donner des liens vers des documents de recherche JSTOR sur les auteurs britanniques de fantasy pour jeunes adultes qui ont écrit des histoires sur le passage à l’âge adulte. L’IA nous a donné cinq ressources avec les titres, les numéros de volume, les numéros de page et les auteurs.
À première vue, la liste semble crédible. Les articles de JSTOR ont des titres impressionnants comme « Construire une identité hybride : Race and Nation in Sally Green’s Half Bad Trilogy ». Mais une recherche sur Google montrerait rapidement que la plupart des liens mènent aux mauvais articles JSTOR. L’un des liens menait à une page d’atterrissage 404.
Dans un autre exemple, nous avons donné à ChatGPT un sujet de recherche plus spécifique pour voir s’il obtiendrait de meilleurs résultats. Voici le sujet que nous avons utilisé : Je rédige un mémoire de recherche littéraire sur « L’héroïne dans les romans britanniques pour jeunes adultes et les romans contemporains de passage à l’âge adulte ». Pouvez-vous me donner une revue de la littérature sur ce sujet ?
ChatGPT a répondu avec une liste de cinq œuvres, avec les noms des auteurs et des résumés. Cependant, nous n’avons pu trouver aucun des ouvrages listés en ligne.
Pour mieux comprendre les informations, nous avons demandé des liens. Cette fois, ChatGPT a refusé, affirmant qu’il n’était qu’un modèle linguistique d’IA sans capacité de navigation sur le web. Il a cependant donné des informations bibliographiques, que nous n’avons pas pu vérifier en ligne bien que les œuvres soient censées avoir été écrites entre 2004 et 2018.
Lorsqu’on lui a demandé de fournir des liens pour vérifier les informations qu’il avait fournies, ChatGPT a refusé catégoriquement cette fois-ci. Il a indiqué qu’il n’avait pas la possibilité de naviguer sur le web et a donné à la place une liste d’informations bibliographiques. Cependant, les données étaient toujours erronées.
Les dernières notes de version du ChatGPT sur OpenAI montrent qu’il a maintenant des capacités de navigation sur le web. Mais ces fonctionnalités n’ont pas encore été déployées pour tous les utilisateurs. De plus, comme le souligne TechCrunch, les résultats de ChatGPT ne sont pas nécessairement les meilleurs sur Internet puisque les professionnels peuvent jouer avec les résultats des moteurs de recherche.
Pour éviter ce problème :
- Utilisez des ressources en ligne plus appropriées pour vos recherches.
- Si vous avez besoin de sources pour des recherches universitaires, consultez Google Scholar ou Elicit, un assistant de recherche en IA.
- N’oubliez pas d’évaluer les résultats de manière critique et de faire preuve de discernement lorsque vous choisissez les sources à citer.
3. Ne remplacez pas les relations professionnelles par le chatGPT
Certaines choses que vous pouvez faire avec ChatGPT pourraient vous inciter à l’anthropomorphiser ou à lui donner des attributs humains. Par exemple, vous pouvez demander des conseils à ChatGPT et discuter avec lui si vous avez besoin de parler à quelqu’un.
Dans l’exemple ci-dessous, nous lui avons demandé d’être notre meilleur ami pendant dix ans et de nous donner des conseils sur l’épuisement professionnel, et il a semblé nous écouter et faire preuve d’empathie :
Mais même s’il semble compatissant, ChatGPT n’est pas humain. Ce qui ressemble à des phrases générées par des humains n’est que le résultat de la prédiction par ChatGPT du prochain mot ou « jeton » de la séquence, sur la base de ses données d’apprentissage. Il ne s’agit pas d’un être sensible doté d’une volonté et d’un esprit propres, comme vous.
Cela dit, le ChatGPT ne peut pas remplacer les relations humaines et la collaboration sur le lieu de travail. Comme l’indique la Work and Well-being Initiative de l’université de Harvard, ces relations humaines sont bénéfiques pour vous, car elles contribuent à améliorer votre bien-être et vous protègent contre le stress au travail.
Il est important d’apprendre à travailler avec les derniers outils technologiques, mais il est également essentiel d’interagir avec votre équipe. Au lieu de compter sur ChatGPT pour reproduire les relations sociales, développez vos compétences relationnelles, interagissez avec vos collègues et trouvez les meilleures personnes avec lesquelles vous pouvez travailler.
4. N’alimentez pas ChatGPT en messages inefficaces
Vous avez du mal à obtenir les meilleures réponses de ChatGPT lorsque vous créez du contenu ? Fournir un contexte et des instructions précises devrait résoudre votre problème.
Dans l’exemple ci-dessous, nous avons demandé à ChatGPT de nous aider à résumer un blog intéressant d’Eric Allen sur Hackernoon. Le long article décrit le processus d’affinage des messages-guides de l’IA dans ChatGPT pour créer un système de recommandation musicale appelé BeatBrain.
Cependant, ChatGPT ne connaissait pas l’article d’Allen. Lorsque nous avons partagé le lien et lui avons demandé de le résumer, ChatGPT a eu des hallucinations. Il a dit qu’Allen avait fondé la société BeatBrain, qui crée de la musique générée par l’IA à l’aide de GPT-3.
Pour aider ChatGPT, nous avons copié-collé l’article en plusieurs parties et demandé un résumé après chaque téléchargement. Cette fois-ci, ChatGPT a été en mesure d’accomplir la tâche avec précision. À un moment donné, il nous a donné un commentaire au lieu d’un résumé, mais nous l’avons redirigé en utilisant une autre invite.
Cet exemple était une expérience d’apprentissage par la pratique sur la façon d’utiliser ChatGPT pour résumer efficacement des articles longs et techniques. Cependant, vous pouvez maintenant accéder à de nombreuses ressources Internet et apprendre des techniques d’incitation pour améliorer vos réponses ChatGPT.
L’utilisation des messages-guides recommandés n’est pas une méthode infaillible contre les hallucinations, mais elle peut vous aider à fournir des résultats précis. Vous pouvez également consulter les meilleures invites ChatGPT sur GitHub pour plus d’informations sur les techniques d’incitation.
Maximiser les capacités de ChatGPT, mais être conscient de ses limites
ChatGPT offre une rapidité et une commodité sans précédent, mais son utilisation exige également de la prudence et de la responsabilité. Évitez de trop dépendre de ChatGPT, utilisez des outils de recherche plus appropriés, collaborez mieux avec votre équipe et apprenez à utiliser efficacement les messages-guides pour maximiser ses avantages.
Profitez de la puissance de ChatGPT, mais soyez toujours conscient de ses limites. En maximisant le potentiel de ChatGPT tout en minimisant ses pièges, vous pouvez produire un contenu créatif et percutant qui rehausse la qualité de votre travail.