Suite à une discussion privée sur l’intelligence artificielle au Capitol Hill l’année dernière, le PDG de Palantir Technologies Inc (NYSE : PLTR), Alex Karp a publiquement discuté des dangers potentiels de l’IA.
Ce qui s’est passé : Lors d’un entretien sur CNBC « Squawk On The Street » en septembre 2023, le PDG a appelé les autres entreprises de la tech à collaborer avec le gouvernement sur leurs initiatives en matière d’IA.
“La Silicon Valley a pour devise ‘Je deviens riche, tu n’obtiens rien’, et ils ont évidemment souvent étendu cela au gouvernement américain”, a déclaré Karp.
Palantir était embarrassant pour les autres entreprises de l’IA lorsqu’il s’agissait de travailler avec le gouvernement, a déclaré Karp d’un air malicieux. La société avait travaillé en collaboration avec les législateurs et les avait aidés à comprendre que trop peu de dollars étaient consacrés à l’IA.
Le PDG de Palantir a noté que Palantir était l’une des seules entreprises depuis les années 1950 à avoir produit des produits gouvernementaux très demandés commercialement.
Lors d’une réunion récente à huis clos avec des sénateurs, la discussion principale a consisté à trouver un moyen de faire progresser l’IA tout en atténuant simultanément les risques, a expliqué Karp.
“Que se passerait-il si l’IA générative devenait si puissante qu’en réalité, elle mettrait en danger l’humanité ? C’est un véritable problème”, a-t-il déclaré.
Par ailleurs, nous [les États-Unis] devons nous assurer que nos adversaires, à savoir la Russie et la Chine, ne développent pas d’outils nettement supérieurs aux nôtres et ne changent pas de l’ordre mondial, a-t-il ajouté.
Karp a suggéré que les discussions avaient été très productives. Il est plus facile de demander aux gens de “se mettre à nu” en privé, car on peut dire ce que l’on croit sans être confronté à l’examen du public, a-t-il déclaré.
“Il y avait un groupe de personnes très hétérogène, des chefs de syndicats aux chefs de la tech. Parmi les chefs de la tech, vous avez des gens très corporatistes, puis il y a le freak show”, a déclaré Karp en parlant de lui-même.
Pourquoi c’est important
Karp a siégé à côté du PDG de Tesla Inc (NASDAQ: TSLA), Elon Musk, lors des discussions à huis clos du Sénat américain sur la réglementation de l’IA.
Il a déclaré à CNBC que lui et Musk avaient discuté de l’avenir de l’IA et de ses risques potentiels pour l’humanité. Il n’a pas voulu partager les commentaires de Musk, mais a partagé ce qu’il lui avait dit.
“Il y a ceux qui pensent que l’IA est sans danger et ceux qui pensent qu’elle est dangereuse. Je suis dans le troisième camp, c’est-à-dire que je pense qu’elle est dangereuse, et si nous ne travaillons pas réellement dessus, nos adversaires le feront, et nous perdrions tous nos droits de l’homme — c’était ma position”, a déclaré Karp.
Dans un extrait de la biographie de Musk, l’auteur Walter Isaacson a révélé qu’au cours d’une réunion secrète entre eux deux, le milliardaire s’était interrogé sur les mesures à prendre pour garantir que l’IA était sans danger, y compris les actions qui pourraient être prises pour “assurer la survie de la conscience humaine”.
“Musk a spéculé de manière sombre sur la période propice à la construction d’une colonie humaine durable sur Mars, avant qu’une apocalypse de l’IA ne détruise la civilisation terrestre”, a écrit Isaacson.
Le PDG de Tesla a lancé X.ai dans le but de comprendre la “vraie nature de l’univers”. Musk a exprimé publiquement ses préoccupations sur l’avenir de l’IA à plusieurs reprises, notamment dans divers messages sur la plateforme X.
Karp a déclaré qu’il partageait les mêmes opinions dans le privé et publiquement.
“Il y a un vrai risque ici, mais l’avantage est que l’Amérique surpassera tous les autres pays occidentaux, car nous produisons la technologie, nous disposons des structures juridiques nous permettant de la mettre en œuvre et nous avons le meilleur talent et nous sommes les plus innovants”, a déclaré Karp.
Quelques éléments de cette histoire ont été rapportés précédemment par Benzinga et ont été mis à jour.