Dans un mouvement qui lui permet de se distinguer de ses concurrents, Microsoft Corp. (NASDAQ:MSFT) a choisi de ne pas développer de « contenus érotiques simulés » pour les utilisateurs de son chatbot.
Lors d’un sommet la semaine dernière, le PDG de l’IA chez Microsoft, Mustafa Suleyman, a averti que de telles fonctionnalités pourraient présenter des risques importants, déclarant : « Ce n’est tout simplement pas un service que nous allons proposer. »
Les différentes approches concernant l’érotisme dans les chatbots d’IA interviennent alors que Microsoft et OpenAI, autrefois partenaires, ont commencé à s’éloigner l’un de l’autre. OpenAI a récemment signé un contrat informatique de 300 milliards de dollars avec Oracle, un concurrent de Microsoft, malgré le fait qu’OpenAI ait reçu 13 milliards de dollars d’investissements de la part de Microsoft depuis 2019.
Par ailleurs, Microsoft développe ses propres logiciels d’IA, dont Copilot, un assistant d’IA pour son système d’exploitation Windows et son navigateur Web Edge, dont la sortie est prévue pour cet automne.
“Vous pouvez déjà le constater avec certains de ces avatars et des personnes qui s’orientent vers les sexbots et l’érotisme. C’est très dangereux, et je pense que nous devrions prendre des décisions conscientes afin d’éviter ce genre de choses”, a ajouté Suleyman, cité par Fortune.
Lire aussi : Altman d’OpenAI prévoit que l’IA remplacera bientôt 40 % des tâches de travail
Plus tôt cette année, Elon Musk a suggéré que Grok, le bot d’IA de xAI, pourrait servir de compagnon aux abonnés. De même, Sam Altman d’OpenAI a également annoncé que ChatGPT générerait bientôt du contenu érotique pour les utilisateurs adultes vérifiés.
Suleyman avait déjà exprimé des inquiétudes au sujet de la conscience des machines, arguant que les systèmes d’IA qui imitent le langage et le comportement humains rendent leur réglementation plus difficile et nuisent à leur capacité à servir efficacement les humains.
La divergence des stratégies entre Microsoft et ses concurrents met en évidence le débat en cours sur les implications éthiques de la technologie d’IA.
À mesure que l’IA continue d’évoluer, les entreprises sont confrontées à la problématique du juste équilibre entre innovation et risques potentiels.
La décision de Microsoft d’éviter les chatbots érotiques reflète son engagement à donner la priorité à la sécurité et aux considérations éthiques dans le cadre du développement de son IA.
Lire la suite
Le xAI d’Elon Musk va simuler les géants du logiciel comme Microsoft, qu’il appelle « Macrohard »
Image : Shutterstock/Camilo Concha