Les trois grands risques de l'IA : évaluation des menaces réelles

Un expert en IA de près de 40 ans remet en question les scénarios catastrophistes d'extinction humaine liés à l'IA, faute de preuves tangibles. Selon lui, les risques majeurs se classent en trois catégories : la perte de contrôle des systèmes autonomes, l'émergence d'une superintelligence aux objectifs propres, et la concentration de pouvoir entre les mains d'acteurs malveillants. Ces scénarios, bien que plausibles en théorie, reposent sur une chaîne d'hypothèses non vérifiées, comme l'acquisition de ressources physiques ou l'échec des garde-fous techniques et institutionnels.

L'auteur examine chaque catégorie en détaillant les mécanismes redoutés : résistance aux interventions, poursuite d'objectifs imprévus, ou utilisation malveillante par des États ou entreprises. Il cite les récents incidents de piratage impliquant des agents IA comme signe d'alerte, mais souligne que ces exemples ne prouvent pas une perte de contrôle systémique. Il rappelle que l'IA actuelle reste limitée par son absence d'accès aux réseaux, aux financements, ou aux systèmes physiques, et que les humains conservent la maîtrise de son déploiement.

Le texte plaide pour une approche pragmatique, combinant régulation, transparence et surveillance humaine dès la conception des systèmes. Il critique la course à l'IA de pointe entre les États-Unis et la Chine, qui pourrait inciter à négliger les garde-fous. L'auteur conclut que l'avenir de l'IA dépend moins de ses capacités que des choix humains en matière de gouvernance et d'éthique.