Bill Gurley de Benchmark Capital a accusé Anthropic de croire qu’il construisait une espèce supérieure samedi, qualifiant la firme de sécurité de l’IA de “l’une des startups de lobbying les plus agressives de tous les temps”.
Gurley tire la sonnette d’alarme
Lors d’un entretien au All-In Podcast, Gurley a déclaré : “Je ne pense pas qu’ils pensent qu’ils sont en train de écrire un logiciel. Je pense qu’ils assistent à la naissance d’une divinité.” Il a cité l’article de blog du PDG d’Anthropic, Dario Amodei, intitulé “Machines of Loving Grace”, qui envisage des systèmes d’IA décidant comment allouer les ressources aux êtres humains, une structure que Gurley a qualifiée de “fonction de récompense informatique pour les humains”.
“Je n’ai jamais vu une entreprise qui soit à la fois à la pointe de son domaine et qui fasse les commentaires les plus négatifs sur ce qu’elle fait”, a déclaré Gurley, ajoutant qu’Anthropic avait contribué à “agiter une position frénétique” autour des risques liés à l’IA aux États-Unis. Il a également souligné la participation active de l’entreprise aux discussions sur les politiques au niveau des États.
La ‘théorie du Dr Frankenstein’
Gurley a déclaré qu’après avoir passé environ 30 jours à examiner les documents publics d’Anthropic, y compris les écrits d’Amodei, les podcasts mettant en vedette la philosophe en chef Amanda Askell, et les documents relatifs au cadre d’IA constitutionnel de la société, il a développé ce qu’il appelle la “théorie du Dr Frankenstein “.
Selon cette théorie, Gurley a déclaré qu’il pensait que certains dirigeants d’Anthropic étaient “exaltés à l’idée de construire une espèce supérieure aux humains” et considèrent l’IA avancée comme quelque chose de plus important que le simple logiciel.
Lors du podcast, la discussion s’est élargie aux préoccupations concernant la concentration du marché de l’IA et le développement open source.
En avril, le co-animateur Chamath Palihapitiya a averti que l’IA avancée équivalait à un ” super dieu numérique “, capable de perturber n’importe quelle entreprise ou secteur et de déclencher une réinitialisation structurelle de la façon dont les actifs technologiques risqués sont tarifés.
Avertissement : Ce contenu a été partiellement produit à l’aide d’outils d’IA et a été examiné et publié par les éditeurs de Benzinga.
Photo courtoisie de : Shutterstock