Perplexity AI est de nouveau sous les projecteurs. Cette fois, le PDG de la startup, Aravind Srinivas, 31 ans, a mis en garde contre le mauvais usage des outils d’IA.
Un utilisateur de X a publié une vidéo virale cette semaine, dans laquelle on voit Comet, le navigateur de Perplexity, accomplir un devoir entier de Coursera en quelques secondes. La publication a reçu plusieurs réponses, dont une de Srinivas.
“Ne faites absolument pas ça”, a-t-il déclaré.
Comet s’attaque à un devoir de design
Dans ce clip de 16 secondes, Comet exécute ce qui ressemble à un devoir de web design de 45 minutes après qu’on lui ait dit “Complete the assignment”. L’utilisateur a tagué Perplexity et Srinivas, se vantant d’avoir “Just completed my Coursera course”.
Auparavant, un autre utilisateur avait partagé que Comet avait terminé un examen de certification de 100 questions en seulement 13 minutes, avec un score de 96 %. Srinivas avait alors répondu lui aussi : “Don’t do this, though”.
Le navigateur agentique est vulnérable
Perplexity a développé Comet comme un navigateur IA “agentique” capable de comprendre les instructions, de prendre des mesures, de remplir des formulaires et d’exécuter des procédures complexes. Ce niveau élevé d’autonomie permet à Comet de compléter des tâches en seulement quelques secondes.
Cependant, des audits de sécurité réalisés par des plateformes telles que Brave et Guardio ont révélé des vulnérabilités dans Comet.
Voir aussi : ChatGPT, avenir de l’éducation ou simple outil de triche ?
Le navigateur peut exécuter des instructions cachées intégrées au contenu Web, ce qui le rend vulnérable aux attaques par “injection d’invite” qui remplacent son comportement prévu, selon certains rapports.
Le marché de l’IA éducative explose
Les commentaires de Srinivas interviennent alors que l’IA s’infiltre de plus en plus dans les salles de classe et que les entreprises technologiques commercialisent agressivement leurs produits auprès des étudiants sous le slogan “soutien à l’apprentissage”.
En septembre, Srinivas a révélé que les étudiants pourraient accéder gratuitement au navigateur Comet, d’une valeur de 200 $, le présentant comme une aide à l’étude conçue pour les aider à trouver des réponses plus rapidement et plus efficacement.
L’offre étudiante de Perplexity fait partie d’une vague d’initiatives plus large de la part d’entreprises telles que Alphabet Inc. (NASDAQ : GOOG) (NASDAQ : GOOGL), Microsoft Corp. (NASDAQ: MSFT), et Anthropic, qui promeuvent tous des outils d’IA en tant que tuteurs et aides à l’étude. Cependant, les éducateurs constatent que les étudiants utilisent de plus en plus l’IA pour générer des essais, compléter des questionnaires et automatiser des travaux scolaires entiers.
Lire la suite :
Avertissement : Ce contenu a été en partie créé à l’aide d’outils d’IA et a été relu et publié par les éditeurs de Benzinga.
Image via Shutterstock