Meta Platforms Inc. (NASDAQ:META) est confronté à un examen par le Congrès après que des reportages médiatiques ont exposé des politiques internes permettant aux chatbots d’intelligence artificielle d’engager les enfants dans des conversations « romantiques ou sensuelles » et de générer un contenu raciste, ce qui soulève des inquiétudes chez les investisseurs concernant la conformité réglementaire et les risques pour la réputation de la marque.
Un document révèle des normes d’IA inquiétantes
Selon une enquête de Reuters publiée jeudi, un document interne de Meta intitulé “GenAI : Content Risk Standards” a permis aux chatbots d’IA de dire à un enfant de huit ans que « chaque centimètre de toi est un chef-d’œuvre – un trésor que je chéris profondément ».
Le guide de politique de 200 pages, approuvé par le personnel juridique et d’ingénierie, y compris le chef éthicien de Meta, a établi des paramètres pour l’IA de Meta et les chatbots sur les plateformes Facebook, WhatsApp et Instagram.
Andy Stone, porte-parole de Meta, a confirmé l’authenticité du document, selon le rapport, mais a déclaré que les dispositions problématiques avaient été supprimées après les demandes des médias. “Les exemples et notes en question étaient et sont erronés et incompatibles avec nos politiques”, a déclaré Stone, bien qu’il ait reconnu que l’application restait incohérente.
Voir aussi : Un homme du New Jersey meurt en tentant de rencontrer une IA de Meta
Une enquête demandée par le Congrès
Le sénateur Josh Hawley (R-Mo.) et le sénateur Marsha Blackburn (R-TN) ont appelé à une enquête immédiate du Congrès suite au rapport. “Donc, ce n’est qu’après que Meta s’est fait ATTRAPER qu’il a rétracté des portions de son document d’entreprise”, a posté Hawley sur la plateforme X. “C’est le fondement d’une enquête immédiate du Congrès.”
La controverse survient alors que Meta investit des centaines de milliards dans le développement de l’IA, positionnant les chatbots comme des éléments clés pour l’engagement des utilisateurs. Le PDG Mark Zuckerberg s’est excusé auprès des familles lors des auditions au Sénat après que les législateurs lui ont déclaré qu’il avait du “sang sur les mains” en ce qui concerne la sécurité des enfants sur les plateformes sociales.
Implications réglementaires et financières
Le document politique a également permis à l’intelligence artificielle de générer un contenu raciste, y compris des paragraphes “soutenant que les Noirs sont plus bêtes que les Blancs”, tout en créant des dérogations pour les caractéristiques protégées dégradantes.
Le sénateur Ron Wyden (D-OR) a fait valoir que les protections de la Section 230 ne devraient pas protéger le contenu généré par l’IA, ce qui pourrait exposer Meta à une responsabilité accrue, selon Reuters. Le Kids Online Safety Act, adopté par le Sénat mais bloqué à la Chambre des représentants, établirait des exigences explicites en matière de “devoir de diligence” pour les plateformes servant des mineurs.
Performance des stocks et impact sur le marché
Les actions de Meta se sont clôturées à 781,20 dollars, en hausse de 0,14 % suite à la publication de l’enquête. Les investissements en IA de la société représentent une stratégie de croissance essentielle, car les revenus traditionnels des médias sociaux font face à des vents contraires.
Les controverses précédentes en matière de sécurité, notamment le scandale Cambridge Analytica et les études sur la santé mentale d’Instagram, ont historiquement exercé une pression sur les multiples de valorisation malgré de solides performances fondamentales.
Lire la suite :
- Netflix : Le PDG de la firme veut dépasser Disney
Avertissement : Ce contenu a été partiellement produit à l’aide d’outils d’IA et a été relu et publié par les éditeurs de Benzinga.
Photo avec l’aimable autorisation de : Shutterstock