Le transformateur génératif pré-entraîné (GPT) d’OpenAI est l’une des technologies dont on parle le plus. C’est l’élément vital de ChatGPT, le chatbot d’IA qui a pris l’Internet d’assaut. Par conséquent, tous les fans de ChatGPT attendent avec impatience la sortie de la prochaine itération de GPT.
GPT-3 a laissé sa marque, GPT-3.5 est un phénomène, et GPT-4 a montré ce dont les modèles d’IA sont capables. Aujourd’hui, la question que se pose tout observateur attentif est la suivante : y aura-t-il un GPT-5 ? Y aura-t-il un GPT-5 ? Et si oui, quand ?
Y aura-t-il un GPT-5 ?
Oui, il y aura très certainement une cinquième itération du modèle de langage GPT de l’OpenAI, appelée GPT-5. Malheureusement, à l’instar de ses prédécesseurs, GPT-3.5 et GPT-4, OpenAI adopte une position réservée lorsqu’il s’agit de divulguer des détails sur la prochaine itération de ses modèles GPT. L’entreprise réserve généralement ces informations jusqu’à ce que la date de sortie soit très proche. Cette politique de discrétion alimente généralement les conjectures sur le calendrier de sortie de chaque modèle GPT à venir.
Diverses sources ont déjà prédit que le GPT-5 est actuellement en cours de formation et que sa sortie est prévue pour le début de l’année 2024.
Toutefois, lors d’un discours prononcé à l’occasion d’un événement organisé par le MIT, le PDG d’OpenAI, Sam Altman, a semblé écarter ces prédictions. Invité à commenter une lettre ouverte appelant à un moratoire sur le développement de l’IA (en particulier l’IA plus puissante que GPT-4), Altman a contesté une partie d’une version antérieure de la lettre qui affirmait que GPT-5 était déjà en cours de développement.
Selon Altman, OpenAI n’est pas en train de former GPT-5 et ne le fera pas avant un certain temps. Ce commentaire confirme deux choses. Tout d’abord, le GPT-5 existe bel et bien. Enfin, OpenAI ne se lance pas trop vite dans le développement du GPT-5.
Voici une vidéo de la discussion d’Altman ci-dessous :
A quand le GPT-5 ?
Bien que les commentaires d’Altman sur le développement de GPT-5 donnent l’impression qu’une sortie de GPT-5 en 2024 n’est pas envisageable, il est important de prêter une attention particulière aux détails de son commentaire.
Bien que le PDG ait précisé que le GPT-5 n’était pas déjà en cours de formation, si l’on se base sur l’historique du développement d’un nouveau modèle GPT par OpenAI, le GPT-5 pourrait très bien être dans sa phase de collecte de données de formation, au cours de laquelle des ensembles de données supplémentaires sont collectés pour former le modèle. Il est également possible que l’entreprise soit encore en train de décider de l’architecture sous-jacente du modèle GPT-5.
Quoi qu’il en soit, Altman pourrait avoir raison de dire que le modèle GPT-5 n’est pas encore formé, mais cela pourrait être dû au fait que les bases de la formation proprement dite n’ont pas encore été jetées. En d’autres termes, alors que la formation proprement dite n’a pas commencé, le travail sur le modèle pourrait être en cours. Ces deux vérités peuvent coexister.
N’oubliez pas que le ChatGPT d’OpenAI est poursuivi par Bard de Google. Ralentir délibérément le rythme de développement de son modèle d’IA équivaudrait à donner un coup de pouce à ses concurrents. Même si le rythme de croissance des modèles d’IA puissants suscite des inquiétudes au niveau mondial, il est peu probable qu’OpenAI ralentisse le développement de ses modèles GPT si elle veut conserver l’avantage concurrentiel dont elle jouit actuellement par rapport à ses concurrents.
Alors, une date de sortie en 2024 pour le GPT-5 ? Est-ce possible ?
Compte tenu du temps nécessaire à l’apprentissage des modèles précédents et du temps nécessaire à leur mise au point, le dernier trimestre de 2024 reste une possibilité. Cependant, étant donné que nous avons à peine exploré les profondeurs de GPT-4, OpenAI pourrait choisir d’apporter des améliorations progressives au modèle actuel pendant une bonne partie de l’année 2024 avant de pousser à la publication de GPT-5 l’année suivante.
N’oubliez pas que le GPT-4 est à la fois un modèle de langage et un modèle de vision. Cependant, les consommateurs ont à peine utilisé les capacités du « modèle de vision » du GPT-4. Il y a encore un énorme potentiel dans le GPT-4 que nous n’avons pas exploré, et OpenAI pourrait consacrer les prochains mois à aider les consommateurs à en tirer le meilleur parti plutôt que de faire pression sur le GPT-5, qui fait l’objet d’un grand battage médiatique.
Quels changements le GPT-5 pourrait-il apporter ?
Bien qu’il soit trop tôt pour l’affirmer avec certitude, nous nous attendons à ce que le GPT-5 représente un bond en avant considérable par rapport au GPT-4. GPT-3 était principalement un modèle linguistique. GPT-4 l’a amélioré en étant à la fois un modèle de langage et un modèle de vision. Nous nous attendons à ce que le GPT-5 possède les capacités d’un modèle de reconnaissance sonore en plus des capacités du GPT-4.
Par ailleurs, des discussions souterraines ont eu lieu sur la possibilité pour les modèles GPT de traiter des vidéos, tout comme les modèles GPT-4 peuvent prendre des images en entrée. Nous pourrions donc avoir un modèle capable de traiter du texte, des images, des sons et des vidéos.
Toutefois, compte tenu des capacités actuelles du GPT-4, nous nous attendons à ce que la loi des rendements marginaux décroissants s’applique. Le simple fait d’augmenter la taille du modèle, d’accroître la puissance de calcul ou de diversifier les données d’entraînement n’apportera pas nécessairement les améliorations significatives que nous attendons de GPT-5.
GPT-5 : un avenir passionnant nous attend
Bien que la plupart des détails concernant le GPT-5 soient spéculatifs, il est indéniable qu’il s’agira d’une nouvelle étape importante vers un changement de paradigme impressionnant dans le domaine de l’intelligence artificielle.
Nous ne parviendrons peut-être pas à l' »intelligence générale artificielle » dont on parle tant, mais si elle est possible, le GPT-5 nous en rapprochera encore un peu plus.