Échecs de validité des moniteurs LLM : problèmes de chemins de preuve de sécurité
En bref
- 18 échecs de chemins de preuve identifiés dans 11 projets de sécurité LLM ou agents.
- Des preuves reconnues par les moniteurs sont ignorées avant les décisions d'application.
- Les frameworks doivent tester la régression des chemins de preuve lors de leurs évolutions.
Une étude révèle des défaillances critiques dans les chemins de preuve de sécurité des frameworks LLM modernes. Ces erreurs surviennent lorsque des preuves reconnues par les moniteurs ne parviennent pas à influencer les décisions d'application. 18 cas documentés affectent 11 projets de sécurité LLM ou d'agents, avec des impacts variés sur les mécanismes d'application des politiques.
Ce résumé vous donne l'essentiel. L'article complet, ses chiffres et ses citations sont chez cs.AI updates on arXiv.org.
Lire l'article originalRésumé généré par IA à partir de la source, relu par règles. Comment nous rédigeons · Signaler une erreur