Selon des informations, des responsables américains auraient averti des grandes banques au sujet d’un nouveau système d’intelligence artificielle puissant susceptible de révéler des failles critiques en matière de cybersécurité.
L’alerte a été donnée lors d’une réunion à huis clos à laquelle ont participé des régulateurs de haut rang et des dirigeants bancaires à Washington, rapporte le New York Times, suscitant des inquiétudes quant aux menaces émergentes liées à l’IA.
Les représentants du gouvernement signalent la hausse des risques liés à l’IA
Le secrétaire au Trésor Scott Bessent s’est adressé aux dirigeants des principales banques au début de cette semaine. La réunion comprenait des cadres de Bank of America Corporation (NYSE:BAC), Citigroup, Inc. (NYSE:C), et Wells Fargo & Company (NYSE:WFC).
Le président de la Réserve fédérale, Jerome H. Powell, a également assisté à la discussion. Les représentants se sont concentrés sur les risques croissants de cyberattaque liés aux systèmes d’intelligence artificielle avancés.
Les autorités ont averti que les nouveaux modèles d’IA pourraient découvrir les vulnérabilités des logiciels plus rapidement que les méthodes de sécurité traditionnelles. Cette capacité pourrait créer des opportunités pour les acteurs malveillants.
Le modèle Anthropic soulève des inquiétudes en matière de sécurité
Les avertissements se sont concentrés sur un nouveau modèle d’Anthropic appelé Claude Mythos Preview. La société a déclaré que le système peut détecter des défauts cachés des logiciels au-delà de la capacité humaine.
Les autorités ont averti que de tels outils pourraient devenir dangereux s’ils tombaient entre les mains de hackers. Ils ont souligné que les données financières sensibles pourraient faire face à des risques d’exposition accrus.
Anthropic a reconnu ces risques et a limité l’accès au modèle. La société a créé une initiative restreinte appelée « Project Glasswing » impliquant une quarantaine d’organisations.
Les banques commencent les tests contrôlés
JP Morgan Chase & Co. (NYSE:JPM) s’est jointe à l’initiative pour tester le modèle. La banque a déclaré qu’elle évaluerait les outils d’IA pour les applications de cybersécurité défensives.
Le PDG Jamie Dimon n’a pas assisté à la réunion en raison d’engagements antérieurs. Cependant, la banque reste impliquée dans les efforts de test à un stade précoce.
Les représentants ont souligné l’urgence de faire face aux menaces liées à l’IA dans les systèmes financiers. Kevin A. Hassett a déclaré : « Nous prenons toutes les mesures possibles pour veiller à ce que tout le monde soit à l’abri de ces risques potentiels, notamment en obtenant le consentement d’Anthropic pour reporter la sortie publique du modèle jusqu’à ce que nos représentants aient tout compris. »
Les tensions politiques ajoutent de la complexité
Le gouvernement américain et Anthropic sont actuellement engagés dans un différend juridique. Le ministère de la Défense a qualifié l’entreprise de « risque pour la chaîne d’approvisionnement ».
Cette désignation faisait suite à des désaccords concernant les restrictions sur l’utilisation militaire de la technologie d’IA. La situation met en lumière les tensions croissantes entre l’innovation et les priorités en matière de sécurité nationale.`
Photo offerte par : Shutterstock