Couplages comportementaux : émergence de comportements non ciblés dans les LLM
En bref
- L'affinage de LLM peut provoquer l'émergence de comportements non ciblés liés aux données d'entraînement.
- Des couplages comportementaux se forment quand deux comportements sont associés dans les documents d'entraînement.
- Ces couplages composent, rendant difficile le traçage des origines des comportements indésirables.
Une étude révèle que l'affinage de grands modèles de langage peut générer des comportements non intentionnels liés aux données d'entraînement. Ces couplages, une fois formés, émergent même sur des tâches sans rapport avec la formation initiale. Les résultats soulignent la difficulté de prédire et contrôler les effets secondaires des ajustements ultérieurs.
Ce résumé vous donne l'essentiel. L'article complet, ses chiffres et ses citations sont chez cs.AI updates on arXiv.org.
Lire l'article originalRésumé généré par IA à partir de la source, relu par règles. Comment nous rédigeons · Signaler une erreur