Les modèles open-weight aggravent-ils vraiment les risques cyber ?

La semaine dernière a été marquée par une série de vulnérabilités critiques, comme PHP2Shell et GitLab, qualifiant ce moment de « Black October » et illustrant la matérialisation des risques cyber liés aux modèles d’IA. Selon l’auteur, cette accélération des failles coïncide avec une pression croissante sur les équipes de cybersécurité, rapportée par le Wall Street Journal. Les révélations sur des incidents majeurs, comme ceux touchant Binance, rappellent que les risques cyber ne sont pas nouveaux mais s’intensifient avec l’adoption massive des outils numériques.

L’article revient sur les craintes exprimées par la communauté de la sécurité IA concernant le modèle Claude Mythos, présenté comme une arme cyber capable de déstabiliser la société s’il tombait entre de mauvaises mains. L’auteur analyse les déclarations de figures comme Rob Wiblin ou Anthropic, qui évoquaient un scénario catastrophique, et les compare à la réalité actuelle. Des tests menés par Epoch AI montrent que GLM-5.3 peut être utilisé pour exploiter des failles, comme dans Firefox, mais ces attaques nécessitent une chaîne complexe d’étapes, limitant leur portée immédiate.

L’auteur nuance son propos initial : les modèles open-weight ne constituent pas une rupture majeure des risques cyber, mais accélèrent plutôt une transition vers une nouvelle ère d’instabilité. Il souligne que les acteurs malveillants exploitent déjà ces outils de manière ciblée, sans provoquer de chaos systémique. À court terme, les modèles fermés restent plus compétitifs en termes de coûts, mais l’ouverture des modèles pourrait, à long terme, démocratiser l’accès aux outils de cybersécurité et de développement logiciel, malgré les…