Décidément, la capacité d’innovation « disruptive » des géants du Net ne faiblit pas. Le 30 novembre 2022, OpenAI — entreprise cofondée par Elon Musk et Sam Altman, et soutenue par Microsoft — a annoncé la sortie de ChatGPT-3, l’application dont tout le monde parle désormais. Il s’agit d’un agent conversationnel (chatbot) doté par l’IA d’une capacité générative (Generative Predictive Transformer) qui passerait haut la main le test de Turing [1] et qui bluffe la plupart de ses utilisateurs par la fluidité de ses réponses et la qualité de celles-ci.
Ce système se définit lui-même et se dit en mesure « d’apporter des réponses factuelles, de comprendre des sujets complexes, de résoudre des problèmes et d’effectuer des tâches ». Les modèles dits LLM (Large Language Models) absorbent un corpus considérable de textes provenant du Web, notamment de Wikipédia, mais aussi de nombreuses autres pages, grâce à une architecture de neurones capable de traiter 175 milliards de paramètres. Ils enregistrent les mots et ceux répertoriés comme proches, ainsi que le contexte de leur apparition. Sur cette base, ils génèrent des séquences de mots selon des règles statistiques en fonction du contexte et des mots-clefs de la question. Le modèle est ensuite optimisé par une phase d’entraînement sous supervision humaine. Au final, cette application aurait surpris ses concepteurs eux-mêmes par ses performances.
