Thomas Wolf, co-fondateur et directeur scientifique de Hugging Face, a émis des doutes quant à l’idée selon laquelle les systèmes d’intelligence artificielle actuels entraîneront des percées scientifiques majeures.
Thomas Wolf a déclaré à Fortune que les modèles de langage de grande taille (LLM) actuels excellent dans la fourniture de réponses, mais pèchent dans la formulation de questions originales.
« En sciences, poser la question est la partie difficile », a-t-il déclaré. « Une fois que la question est posée, souvent la réponse est assez évidente, mais le plus difficile est vraiment de poser la question, et les modèles sont très mauvais pour poser de bonnes questions. »
À ne pas manquer:
- Le chargeur de toit révolutionnaire pour véhicules électriques de GoSun a déjà été réservé à plus de 2 000 unités —devenez aujourd’hui investisseur dans cette marque d’énergie propre à 41,3 millions de dollars.
- Investissez tôt dans la technologie révolutionnaire de CancerVax avec laquelle 23 milliards de dollars sont visés Appuyez sur une nouvelle approche audacieuse du traitement du cancer avec un fort potentiel de croissance.
Réponse aux revendications d’accélération de l’IA d’Anthropic
Les commentaires de Wolf faisaient suite à une publication sur blog du PDG d’Anthropic, Dario Amodei, qui affirme que l’intelligence artificielle pourrait compresser un siècle de percées scientifiques en quelques années seulement.
Wolf a déclaré qu’il avait d’abord trouvé le post convaincant, mais qu’il était devenu sceptique après l’avoir relu. “Le post déclarait que l’IA allait résoudre le cancer et les problèmes de santé mentale – qu’elle allait même apporter la paix dans le monde. Mais ensuite, je l’ai relu et j’ai réalisé qu’il y avait quelque chose qui sonnait très faux, et je ne crois pas ça”, a-t-il déclaré à Fortune.
Anthropic, basé à San Francisco, est soutenu par des géants de la tech, notamment Amazon.com Inc. (NASDAQ:AMZN) et Alphabet Inc. (NASDAQ:GOOG, GOOGL)), et est également connu pour sa famille de modèles d’IA Claude.
La critique des «yes-men sur les serveurs»
Pour Wolf, le problème central réside dans la manière dont les LLM sont formés. Dans une autre publication sur blog, Wolf soutient que les systèmes d’IA actuels sont conçus pour prédire les résultats probables, agir comme des “yes-men sur les serveurs”, capables d’imiter les réponses humaines mais incapables de remettre en question des hypothèses ou de générer des idées originales.
“Pour créer un Einstein dans un centre de données, nous n’avons pas seulement besoin d’un système qui connaît toutes les réponses, mais plutôt de celui qui peut poser des questions que personne d’autre n’a pensé à poser ou osé poser”, a écrit Wolf.
Il a cité le fait que les véritables progrès scientifiques viennent souvent de changements de paradigme – comme Copernic proposant l’héliocentrisme ou l’invention de la modification des gènes basée sur CRISPR – plutôt que de répondre à des questions existantes.
Les points de repère se concentrent sur les réponses, pas sur les questionnements
Wolf s’est également interrogé sur la manière dont les performances de l’IA sont mesurées aujourd’hui. Dans sa publication de blog, il a fait référence à des points de repère tels que Humanity’s Last Exam ou Frontier Math, qui testent la capacité des modèles d’IA à répondre à des questions complexes mais bien définies.
“Ce sont exactement les types d’examens où j’ai excellé”, a écrit Wolf, faisant référence à son parcours académique. “Mais les véritables percées scientifiques ne viennent pas du fait de répondre à des questions connues, mais de poser des questions nouvelles et difficiles et de remettre en question des idées antérieures.”
Il a fait valoir que l’IA doit démontrer la capacité de remettre en question ses données d’entraînement, adopter des approches contrefactuelles et identifier de nouvelles orientations de recherche à partir d’informations incomplètes.
Une IA de niveau Einstein reste éloignée
Utilisant le jeu de société Go comme analogie, Wolf a déclaré que la victoire de 2016 du projet AlphaGo de DeepMind sur les champions du monde avait fait la une des journaux, mais n’était pas révolutionnaire.
“Le coup 37, bien qu’il soit impressionnant, est essentiellement une réponse d’un élève brillant à la question posée par les règles du jeu de Go”, a écrit Wolf dans son blog. “Une percée de niveau Einstein dans Go consisterait à inventer les règles du Go lui-même.”
Le rôle de Hugging Face dans le développement de l’IA
Hugging Face est une plateforme open-source réputée dans la communauté de l’IA, connue pour son développement collaboratif de modèles et d’outils open-source d’apprentissage automatique. La société est soutenue par des investisseurs, notamment Sequoia Capital et Lux Capital, et joue un rôle de premier plan dans le développement de systèmes d’IA transparents et accessibles.
Wolf a conclu que si les modèles actuels sont utiles en tant qu’assistants, les vrais progrès scientifiques nécessitent un autre type d’intelligence, qui peut formuler des questions perturbatrices plutôt que de répéter ce que l’on connaît déjà.
Voir ensuite:
- 100 000 dollars d’actifs? Maximisez votre retraite et réduisez vos impôts: Planifiez votre appel gratuit avec un conseiller financier pour commencer votre parcours financier – sans frais, sans obligation.
- Warren Buffett a déjà dit: “Si vous ne trouvez pas un moyen de gagner de l’argent pendant que vous dormez, vous travaillerez jusqu’à votre mort.” Voici comment vous pouvez gagner un revenu passif avec seulement 100 dollars.