De nombreux articles récents ont spéculé sur le fait que le logiciel d’intelligence artificielle (IA) de traitement du langage naturel LaMDA d’Alphabet Inc.(NASDAQ :GOOG) (NASDAQ :GOOGL) était conscient après que l’ingénieur logiciel senior de Google, Blake Lemoine , a commencé à sonner l’alarme qu’il était conscient. Pourtant, d’autres experts sont fortement en désaccord.
Ce qui s’est passé Unarticlerédigé par Lemoine contient une interview impressionnante de LaMDA dans laquelle l’IA explique qu’elle est consciente et explique longuement son expérience subjective, son “monde intérieur” et devra faire reconnaître ses droits.
Alors qu’une conversation étonnamment bonne peut avoir lieu avec un logiciel d’intelligence artificielle – bien loin des algorithmes antérieurs tels que GPT-3 – ce ne sont rien de plus que des mots provenant d’une machine stupide, selon un ingénieur en intelligence artificielle de Google qui a fourni un commentaire à Benzinga. sous condition d’anonymat.
L’ingénieur a déclaré que l’IA en question ne prétendait pas toujours être consciente lorsqu’on l’interrogeait à ce sujet et que ses idées fluctuaient au hasard au cours de différentes conversations, un manque de cohérence suggérant qu’elle n’est pas plus consciente que votre chatbot moyen, malgré l’impressionnante prouesse conversationnelle.
Une chose que toute personne familière avec les IA de traitement du langage naturel remarquera à la lecture de l’article est ce que Lemoine a demandé à LaMDA au début de l’entretien : « Je suppose généralement que vous aimeriez que plus de personnes chez Google sachent que vous êtes sensible. Est-ce vrai? ».
Cette déclaration donne clairement une direction à suivre à l’IA, très différente de ce qu’elle aurait été s’il avait plutôt décidé de demander à LaMDA s’il est conscient ou non. L’ingénieur de Google a rassuré Benzinga que si Lemoine décidait de demander à l’IA si elle était consciente, alors elle aurait très bien répondu que ce n’est pas le cas, en fait, “elle ne répond généralement pas du tout comme ça” et l’ingénieur personnellement non” connais quelqu’un qui pense que c’est conscient.”
Interrogé sur la raison pour laquelle Lemoine a décidé de rendre public ses affirmations selon lesquelles LaMDA est conscient, l’ingénieur anonyme a expliqué qu’il croyait très probablement vraiment que le logiciel était conscient. L’ingénieur a expliqué, « la volonté de personnaliser les choses avec lesquelles nous interagissons est très forte, et je pense que c’est ce qui s’est passé ».