Un ingénieur de Google suspendu après avoir affirmé que l’IA a une « conscience » et une « à¢me »
L’ingénieur considérait que l’intelligence artificielle avec laquelle il conversait régulièrement était dotée d’une “conscience » et d’une “âme”. Google l’a désavoué et l’a suspendu jusqu’à nouvel ordre, relate le New York Times.
L’intelligence artificielle a une “conscience” et une “âme”: un ingénieur Google écarté
L’ingénieur Blake Lemoine travaille chez Google sur LaMDA (Language Model for Dialogue Applications), un système de la firme américaine pour créer des chatbots basés sur les modèles de langage les plus avancés. Concrètement, LaMDA apprend à imiter la parole en ingérant des milliards de mots et de discussions sur Internet comme sur Wikipédia ou les forums en ligne.
Au départ, Blake Lemoine était chargé d’analyser LaMDA pour déterminer si l’intelligence artificielle utilisait des discours discriminatoires ou haineux. Au fur et à mesure de ses discussions avec elle, il se rend rapidement compte de tout autre chose.
« Un enfant de 7 ou 8 ans qui connaît la physique »
Dans une interview au Washington Post, il affirme que cette intelligence artificielle est un être qui est à ses yeux pourvu de sensibilité. « Si je ne savais pas exactement ce que c’était […] je penserais qu’il s’agit d’un enfant de 7 ou 8 ans qui connaît la physique » explique-t-il.
Dans les échanges qu’il a pu avoir avec LaMDA et qu’il a envoyés à 200 collaborateurs de Google, l’intelligence artificielle évoque ses peurs, discute des Misérables de Victor Hugo et indique surtout vouloir « être reconnu comme un employé de Google plutôt qu’une propriété ». Des échanges qui ont fini par convaincre l’ingénieur.
Propos réfutés par Google
La réaction de Google ne s’est pas faite attendre. Dans un communiqué, le porte-parole de la firme, Brian Gabriel, indique que les preuves publiées par Blake Lemoine n’étayent pas ses affirmations. « Notre équipe a examiné les préoccupations de Blake conformément à nos principes d’IA […] On lui a dit qu’il n’y avait aucune preuve que LaMDA était un être sensible » assure l’entreprise.
Dans le même temps, Google a pris la décision de suspendre l’ingénieur pour avoir violé sa politique de confidentialité. Blake Lemoine s’est alors défendu sur Twitter: « Google appelle ça une violation de la propriété intellectuelle, moi j’appelle ça une discussion avec un collègue ».