Un ex-chercheur de DeepMind veut réduire les hallucinations avec une approche inspirée d'AlphaGo

Thore Graepel, ancien chercheur chez DeepMind, propose une méthode pour limiter les hallucinations des IA en s’inspirant d’AlphaGo. Selon lui, les grands modèles de langage actuels ne suffisent pas : il faut ajouter un registre de connaissances explicite, vérifiable et modifiable, où chaque conclusion est étayée par des preuves.

Metis Reasoning, sa startup, présente ce concept lors de la conférence GTC de Nvidia à Berlin. L’idée repose sur deux réseaux de neurones : l’un propose des « coups » (questions, expériences ou défis d’hypothèses) pour réduire l’incertitude, l’autre évalue ces propositions à partir de calculs, de preuves formelles ou de données empiriques. Le système, comparable à un tableau de jeu, enregistre ce qui est connu, le niveau de confiance et les questions ouvertes, et réévalue automatiquement les conclusions si une hypothèse est invalidée. Microsoft (GraphRAG) et Google (AlphaGeometry2) explorent des approches similaires, mais Metis vise une généralisation à des domaines complexes.

Ce projet reste théorique : aucun prototype fonctionnel ni benchmark n’est disponible. Les défis incluent la gestion des informations partielles, le coût de l’obtention de preuves et l’absence de réponses dans certains cas. Graepel, co-auteur d’AlphaGo, souligne que les erreurs des IA actuelles, difficiles à tracer, limitent leur adoption dans des secteurs comme la médecine ou la finance, où la vérifiabilité est cruciale. Il lève actuellement des fonds pour développer cette approche.