ChatGPT est une grande nouvelle. Mais quelle est l’importance des réponses que vous recevez de ce chatbot polyvalent ?
Il n’est pas aussi simple que vous le pensez de le déterminer. Pour commencer, posez cette même question à ChatGPT, et vous serez assuré qu’il n’y a pas de limites à la longueur de ses réponses.
Cependant, comme nous le découvrons ici, ce n’est pas si simple. Il existe des limites cachées à la longueur des réponses de ChatGPT, mais il existe aussi des solutions simples et astucieuses pour vous aider à obtenir des réponses plus longues.
Comment ChatGPT détermine-t-il la longueur d’une réponse ?
Le fonctionnement de ChatGPT est complexe et la longueur de la réponse varie en fonction de la question posée et du niveau de détail demandé. Comme le montre la capture d’écran suivante, ChatGPT affirme qu’il n’y a pas de limites strictes.
Ce n’est pas ce que nous avons trouvé. L’exemple ci-dessous montre que ChatGPT interrompt soudainement une réponse au milieu d’une phrase. Nous lui avons demandé de rédiger un essai d’un millier de mots sur les avantages de l’économie circulaire. ChatGPT a cessé de répondre lorsqu’il est arrivé à 677 mots.
Nous avons répété le test plusieurs fois avec des questions différentes, et à chaque fois il s’est arrêté au milieu de la phrase ; parfois, cela était accompagné d’une erreur de réseau. Il s’agit d’une erreur courante, et il existe plusieurs façons de corriger les erreurs de réseau dans ChatGPT.
Une partie de la réponse à ce problème se trouve dans ce que l’on appelle le système de jetons.
Quel est le système de jetons utilisé par ChatGPT ?
Plutôt qu’un simple comptage de mots pour déterminer la longueur des requêtes et des réponses, ChatGPT utilise un système de jetons. Ce système décompose chaque entrée et chaque sortie en une série de jetons utilisés pour classer la taille de la requête et de la réponse.
Bien que le nombre de mots joue un rôle dans cette classification, il n’explique pas tout. Par exemple, l’exemple ci-dessous a été saisi dans l’outil Tokenizer d’OpenAi.
La phrase et la réponse ont été « tokenisées » à une valeur de neuf tokens. Cela correspond à la « règle empirique » de l’OpenAI selon laquelle un jeton équivaut à trois quarts d’un mot.
Le modèle GPT 3.5 limite les questions et les données des utilisateurs à 4 097 tokens. Selon l’OpenAI, cela équivaut à environ 3 000 mots. Cependant, il est important de noter que cette limite s’applique à la fois à la réponse et à la question.
Bien que tout cela soit très bien en théorie, les résultats que nous avons obtenus ne se sont jamais approchés de ces limites. La réponse incomplète renvoyée par ChatGPT lors de notre précédent test ne comportait que 798 tokens.
Pourquoi les réponses de ChatGPT sont-elles limitées ?
Cette technologie naissante est rapidement devenue le développement technologique le plus discuté de ce siècle. Cela a généré une énorme demande pour ChatGPT. En fin de compte, cette demande a effectivement réduit les réponses à un niveau bien inférieur aux limites fixées.
Bien qu’il n’y ait pas de confirmation officielle, il semble qu’il y ait une limite de facto d’environ cinq cents mots ou 4 000 caractères.
Il ne s’agit pas d’une règle fixe : nous avons généré des résultats qui dépassaient cette limite de près de 200 mots. Toutefois, on peut considérer qu’il s’agit d’une limite supérieure sûre pour obtenir des réponses complètes.
Comment obtenir des réponses plus longues de ChatGPT
Une fois que vous avez compris qu’il existe une « limite cachée » aux réponses de ChatGPT, il existe quelques moyens simples pour vous aider à obtenir des réponses plus complètes.
- Demandez à ChatGPT de continuer : Si ChatGPT s’arrête au milieu d’une réponse, il est possible de lui demander de continuer. Dans l’exemple ci-dessous, nous avons tapé « Continue » et la réponse s’est enrichie de 200 mots supplémentaires.
- Divisez votre question en plusieurs parties : Par exemple, nous lui avons demandé plusieurs fois d’écrire un essai sur l’impact de l’IA sur la société. À chaque fois, la réponse s’est arrêtée. Une option consiste à lui demander d’énumérer quelques sujets de dissertation sur l’IA, puis d’utiliser les puces fournies comme questions individuelles.
- Utiliser l’option Régénérer : Bien que cela puisse provoquer la même erreur, il n’y a rien à perdre, mais cela vaut toujours la peine d’essayer.
- Spécifiez une limite supérieure à votre nombre de mots dans votre invite : L’image ci-dessous illustre la façon dont cela peut être utilisé pour manipuler le nombre maximum de mots dans une réponse.
Ces conseils vous aideront à obtenir des réponses plus complètes de la part de ChatGPT et à contourner la limite non officielle de la longueur de ses réponses.
ChatGPT : La qualité avant la quantité
Bien qu’il n’y ait pas de limite à la longueur des réponses de ChatGPT, la plateforme semble imposer une limite d’environ cinq cents mots ou 4 000 caractères.
Cela s’explique principalement par l’énorme demande de ChatGPT. Cela a conduit à des réponses incomplètes et à des réponses interrompues au milieu d’une phrase, mais il existe des solutions simples pour vous aider à obtenir des réponses plus longues.
Malgré ses limites, ChatGPT reste un développement technologique remarquable qui continuera à se développer et à repousser les limites de la qualité et de la quantité de ses résultats.
