Vers une estimation fiable de l'incertitude alignée sur la vérité pour les grands modèles de langage
En bref
- Les métriques d'incertitude actuelles échouent à prédire la factualité des réponses des LLM.
- Truth AnChoring (TAC) recalibre les scores d'incertitude pour les aligner sur la vérité.
- La méthode fonctionne même avec peu de données et améliore la fiabilité des modèles.
Les méthodes actuelles d'estimation de l'incertitude dans les grands modèles de langage échouent souvent à prédire la factualité des réponses. Les auteurs proposent une approche de calibration post-hoc, Truth AnChoring (TAC), pour aligner ces estimations sur la vérité. Cette méthode améliore la fiabilité des modèles sans nécessiter de données massives.
Ce résumé vous donne l'essentiel. L'article complet, ses chiffres et ses citations sont chez cs.AI updates on arXiv.org.
Lire l'article originalRésumé généré par IA à partir de la source, relu par règles. Comment nous rédigeons · Signaler une erreur