Blake Lemoine, ingénieur logiciel de l’équipe de développement de l’intelligence artificielle de Google, a déclaré publiquement avoir rencontré une IA « sensible » sur les serveurs de l’entreprise. Après avoir été suspendu pour avoir partagé des informations confidentielles sur le projet avec des tiers.
L’unité Alphabet la société mère de Google, a placé le chercheur en congé payé au début de la semaine dernière, affirmant qu’il avait enfreint la politique de confidentialité de l’entreprise, a-t-il déclaré dans un article de Medium intitulé « Peut être bientôt licencié pour avoir fait du travail sur l’éthique de l’IA« .
L’IA de Google avec laquelle il interagissait était une personne
Dans la publication, il établit un lien avec d’anciens membres du groupe d’éthique de l’IA de Google, tels que Margaret Mitchell, qui ont finalement été licenciés par l’entreprise de la même manière après avoir soulevé des inquiétudes.
Le Washington Post a publié samedi une interview de Lemoine, dans laquelle il a déclaré avoir conclu que l‘IA de Google avec laquelle il interagissait était une personne, « en sa qualité de prêtre, pas de scientifique ».
L’IA en question est surnommée LaMDA, ou Modèle de langage pour les applications de dialogue, et est utilisée pour générer des robots de discussion qui interagissent avec les utilisateurs humains en adoptant divers tropes de personnalité. Lemoine a déclaré qu’il avait tenté de mener des expériences pour le prouver, mais qu’il avait été repoussé par les cadres supérieurs de l’entreprise lorsqu’il avait soulevé la question en interne.
« Certains membres de la communauté de l’IA au sens large envisagent la possibilité à long terme d’une IA sensible ou générale. Mais cela n’a aucun sens de le faire en anthropomorphisant les modèles conversationnels d’aujourd’hui, qui ne sont pas sensibles », a déclaré le porte-parole de Google, Brian Gabriel.
« Notre équipe, y compris des éthiciens et des technologues a examiné les préoccupations de Blake conformément à nos principes d’IA et l’a informé que les preuves n’étayent pas ses affirmations. » La société a déclaré qu’elle ne commentait pas les questions de personnel lorsqu’elle était interrogée sur la suspension de Lemoine.
