Sam Altman, le PDG d’OpenAI, a mis en garde contre la confiance sans réserve que les utilisateurs ont accordée au chatbot d’IA de la société, ChatGPT, malgré sa popularité croissante.
Qu’est-il arrivé : Lors d’une récente interview, M. Altman s’est dit étonné de la confiance que les utilisateurs accordent à ChatGPT, le chatbot d’IA d’OpenAI. Tout en reconnaissant son utilisation généralisée, M. Altman a souligné que la technologie est loin d’être infaillible.
Lors du premier épisode du podcast officiel d’OpenAI, M. Altman a fait part de ses préoccupations, mettant en garde contre le fait que l’IA peut produire du contenu trompeur ou faux et qu’on ne devrait pas lui faire une confiance aveugle.
Il a révélé que malgré son manque de fiabilité, des millions de personnes continuent d’utiliser ChatGPT à diverses fins, notamment pour la recherche et des conseils en matière d’éducation.
“Les gens ont une confiance très élevée en ChatGPT, ce qui est intéressant, car l’IA peut halluciner. Il devrait s’agir de la technologie que vous ne croyez pas autant”, a-t-il déclaré.
Lire aussi: Taux d’hallucination dans les modèles d’IA de Google et d’OpenAI en hausse
M. Altman a également évoqué les nouvelles fonctionnalités de ChatGPT, telles qu’une mémoire persistante et des modèles publicitaires potentiels, qui ont suscité de nouvelles préoccupations en matière de confidentialité.
Face aux défis juridiques des organes de médias, tels que The New York Times, M. Altman a souligné l’importance de la transparence et de la préservation de la confiance des utilisateurs.
Alors que M. Altman reste optimiste quant à l’avenir de l’IA, il a insisté sur la nécessité de faire preuve d’honnêteté concernant les lacunes de la technologie. « Ce n’est pas super fiable », a-t-il concédé. « Nous devons être honnêtes à ce sujet. »
Pourquoi c’est important :
La mise en garde de M. Altman survient à un moment où la technologie de l’IA, en particulier les chatbots, gagne du terrain dans divers secteurs. La popularité de ChatGPT illustre la dépendance croissante à l’égard de l’IA pour les tâches quotidiennes.
Cependant, la note de M. Altman sert de rappel sur les limites intrinsèques de la technologie d’IA et les risques potentiels de surutilisation.
Son insistance sur la transparence et la confiance de l’utilisateur met également en lumière les considérations éthiques que les entreprises doivent prendre en compte dans la suite de leur activité innovante et la poursuite de repousser les limites de l’IA.
Lire la suite
Pourquoi le ‘parrain de l’IA’ explique que ChatGPT, Copilot et d’autres chatbots d’IA hallucinent