Quand le "hasard" d'OpenAI bouleverse les "certitudes" de toute une industrie

Dans les récits technologiques de la Silicon Valley, l'innovation orientée vers des objectifs, semblable à un marathon, est une règle d'or. Cependant, il y a dix ans, un livre intitulé "Pourquoi la grandeur ne peut être planifiée" prédisait une autre possibilité : les véritables bouleversements naissent souvent des chemins de traverse guidés par l'intérêt. Lors de sa création en 2015, OpenAI brandissait le drapeau de l'AGI, semblant confirmer la première approche, mais en examinant son parcours, on découvre des traces de la seconde — ChatGPT était initialement l'une des tentatives les plus marginales en interne, l'architecture Transformer a été inspirée par un cadeau inattendu de Google, et même la loi d'échelle (Scaling Law), fondement des grands modèles, n'était au départ qu'un sous-produit de tests de sécurité. Les auteurs Kenneth et Joel, après avoir rejoint OpenAI, ont constaté que malgré des objectifs clairs, l'entreprise abritait un courant souterrain d'exploration libre : les employés pouvaient passer des mois à ajuster un code inutile ou obtenir des ressources pour une recherche obscure. Ces tentatives apparemment "inutiles" ont finalement constitué les pierres angulaires menant à GPT.

Alors que toute l'industrie est plongée dans une course aux armements paramétriques, les deux chercheurs mettent en garde contre cette convergence qui pourrait mener l'innovation dans une impasse. De même que l'évolution biologique nécessite une symétrie et pas seulement des bonds d'intelligence, la réalisation de l'AGI pourrait nécessiter des percées plus radicales que la loi d'échelle. Ils observent que se concentrer excessivement sur des objectifs peut étouffer la valeur des "erreurs de parcours" — Google, en privilégiant les besoins commerciaux pour développer l'Encoder, a manqué une opportunité, tandis qu'OpenAI, en investissant sans compter dans GPT-2, a accumulé l'énergie nécessaire pour une explosion future. La quête actuelle de l'industrie pour améliorer les performances des modèles ressemble en partie à l'optimisme démesuré de la conduite autonome "produite l'année prochaine". Lorsque la croissance de la puissance de calcul atteindra ses limites physiques, les gens réaliseront que les véritables pierres angulaires manquantes n'ont pas encore été découvertes.

Après avoir quitté OpenAI, Kenneth a fondé le réseau social Maven pour tenter de briser les bulles d'information avec des algorithmes ouverts, tandis que Joel s'est tourné vers la recherche sur la vie virtuelle. Ils admettent que même au sein d'OpenAI, avec l'intensification des pressions commerciales et de la concurrence, l'espace culturel permettant les essais et erreurs se rétrécit. Cela rappelle la lucidité de Sam Altman : "L'augmentation des indicateurs est agréable, mais les innovations révolutionnaires nécessitent souvent de tolérer de longues périodes d'exploration infructueuse." Peut-être que l'avenir de l'intelligence artificielle ne réside pas dans des feuilles de route soigneusement planifiées, mais dans la préservation de suffisamment de points de croissance "inattendus" — tout comme dans l'histoire de l'évolution biologique, les plus grands bonds ne sont jamais la fin d'une espèce, mais le début d'un nouveau voyage extraordinaire.