Eric Schmidt, ancien PDG de Google et président de Google et d’Alphabet, s’est dit préoccupé par la menace existentielle que représente l’intelligence artificielle (IA). Lors d’un récent événement à Londres, Schmidt a souligné que nous ne comprenons pas pleinement les implications d’avoir un niveau d’intelligence aussi élevé qui nous accompagne tous les jours. Il a averti que la capacité de l’IA à travailler avec nous n’avait jamais été vue auparavant et qu’elle pourrait constituer une menace pour l’humanité.
Schmidt a poursuivi en expliquant ce qu’il entendait par menace existentielle, la définissant comme “la blessure ou le meurtre de beaucoup, beaucoup, beaucoup de personnes”. Il a souligné qu’il existe des scénarios, pas aujourd’hui mais très bientôt, où ces systèmes trouveront des exploits, des machines ou de nouveaux types de biologie qui pourraient être abusés par des personnes malveillantes.
Les préoccupations de Schmidt ont été reflétées dans un rapport complet que lui et 14 autres experts ont rédigé en sa qualité de président de la Commission de sécurité nationale sur l’intelligence artificielle. Le rapport avertit que les Américains n’ont pas encore réalisé l’impact fondamental que la révolution de l’IA aura sur l’économie, la sécurité nationale et le bien-être. Le rapport reconnaît qu’il reste encore beaucoup à apprendre sur l’IA et ses applications futures. Néanmoins, il est souligné que l’IA change le monde et apporte avec elle les outils les plus puissants d’une génération, qui peuvent être utilisés à la fois à des fins civiles et à des fins militaires.
Le rapport identifie la Chine comme une menace et souligne son ambition de dépasser les États-Unis en tant que leader mondial de l’IA d’ici une décennie. Schmidt et son vice-président Bob Work ont écrit que l’utilisation domestique de l’IA en Chine crée un précédent effrayant pour quiconque apprécie la liberté individuelle. Le rapport reconnaît que la suprématie technologique des États-Unis, colonne vertébrale de sa puissance économique et militaire, est menacée et qu’elle doit remporter la compétition de l’IA.
Les menaces d’attaques informatiques et de campagnes de désinformation renforcées par l’IA posent un énorme défi au respect des valeurs démocratiques telles que la vie privée et les droits civils lorsque l’IA est utilisée à des fins de sécurité nationale. Le rapport propose donc une stratégie pour contrer les menaces de l’IA et utiliser l’IA de manière responsable pour la sécurité nationale et la concurrence technologique plus large.
En résumé, il ressort des remarques de Schmidt et du rapport que l’IA représente une menace importante pour l’humanité. Bien que l’IA apporte des outils puissants, elle amplifie également les menaces d’attaques informatiques, de campagnes de désinformation et d’utilisation abusive des systèmes d’IA par des personnes malveillantes. Il est donc impératif de donner la priorité à l’utilisation responsable de l’IA pour la sécurité nationale et la concurrence technologique plus large, tout en respectant les valeurs démocratiques telles que la vie privée et les droits civils.
