Le cofondateur d’Ethereum, Vitalik Buterin, a exprimé ses inquiétudes concernant les risques potentiels pour la sécurité liés au ChatGPT d’OpenAI, qui pourraient entraîner la fuite des données personnelles des utilisateurs.
Une menace importante pour les données personnelles des utilisateurs a été identifiée par l’ingénieur logiciel Eito Miyamura suite à une récente mise à jour de ChatGPT.
Dans un post sur X, Miyamura a révélé que le bot d’IA mis à jour peut désormais accéder à la messagerie Gmail, au calendrier Google, à SharePoint et à d’autres services d’un utilisateur, ce qui présente un risque de fuite de données de messagerie privées.
L’équipe a démontré cette menace à travers une expérience qui a montré comment les données privées des utilisateurs pouvaient être extraites de ces plateformes.
En réaction à cela, Buterin a écarté l’idée d’une « gouvernance de l’IA » en la qualifiant de « naïve ». Il a averti que si l’IA était utilisée pour distribuer des fonds pour des contributions, elle pourrait être exploitée par des cybercriminels afin de soutirer les fonds des utilisateurs.
Lisez aussi : xAI d’Elon Musk poursuit un ancien employé pour avoir transmis des secrets commerciaux à OpenAI
Buterin a suggéré une approche alternative « info finance », un système dans lequel les modèles d’IA sont ouverts aux contrôles de sécurité. Ce système encouragerait la contribution publique des modèles, qui seraient ensuite soumis à un mécanisme de contrôle aléatoire effectué par un jury humain.
La réponse de Buterin à l’avertissement de sécurité met en lumière le débat actuel sur la gouvernance de l’IA et les risques potentiels associés à l’intégration de l’IA dans les plateformes de données personnelles.
L’approche « info finance » qu’il propose suggère une évolution vers un modèle de sécurité de l’IA plus ouvert et plus participatif, ce qui pourrait potentiellement atténuer ces risques.
Ce dernier incident souligne l’importance de disposer de mesures de sécurité solides dans le domaine de l’intelligence artificielle en pleine évolution.
Lire la suite
Image : Shutterstock/Alexey Smyshlyaev