Un ingénieur de Google AI mis à pied dans la controverse

Blake Lemoine, un ingénieur principal de logiciel au sein de l’organisation Responsible AI de Google, est en mise à pied administrative au cœur d’une vague de controverses. Il a exprimé sa pensée selon laquelle le LaMDA AI de l’entreprise est, selon ses propres termes, « une personne », avec laquelle il a eu une conversation dans laquelle elle aurait expliqué pourquoi elle devrait être considérée comme « douée de sentiments ».

Image : Getty

Google ne partage pas son opinion. Mais selon le Washington Post, Lemoine aurait été mis à pied non pas pour ses opinions, mais pour avoir violé la politique de confidentialité de la société en travaillant avec des gens de l’extérieur de l’entreprise pour confirmer sa théorie. La veille de sa mise à pied, Lemoine avait remis des documents au bureau d’un sénateur américain en affirmant qu’ils montraient les technologies de l’entreprise faisant de la discrimination religieuse.

Lemoine a expliqué dans son blog personnel qu’il avait volontairement fourni une liste de noms de personnes avec lesquelles il avait discuté du sujet, dont plusieurs travaillaient pour le gouvernement américain et avaient exprimé leur intérêt pour la surveillance fédérale du projet. Google a insisté sur le fait qu’une telle surveillance n’était aucunement nécessaire.

De plus, Lemoine avait invité un avocat pour représenter LaMDA et avait parlé à un représentant du comité judiciaire de la Chambre au sujet d’activités présumées contraires à l’éthique chez Google, a rapporté le Post.

La controverse entoure LaMDA, un acronyme de Language Model for Dialogue Applications. Lancé en 2021, LaMDA est un système d’intelligence artificielle (IA) de traitement du langage naturel (NLP) qui imite les conversations humaines en raison de sa capacité avancée à comprendre les sous-entendus. Contrairement aux chatbots couramment utilisés aujourd’hui dans le secteur du service à la clientèle, LaMDA peut tenir des conversations fluides sur une variété de sujets.

Lors de l’annonce, Google a déclaré que LaMDA adhère à ses principes d’IA et que son équipe de développement s’efforce de minimiser les risques. Les systèmes de PNL de formation peuvent être délicats en raison de la discrimination et du discours de haine intégrés dans les données de formation, qui sont difficiles à filtrer.

Dans une déclaration au Washington Post, Google a déclaré que même si ses systèmes imitent les conversations, ils n’ont pas de conscience. Google a également déclaré que LaMDA avait été examiné par son équipe et qu’il avait été démontré qu’il adhérait aux principes d’IA de l’entreprise.

Pour plus de détails, l’article original (en anglais) est disponible sur le site IT World Canada, une publication sœur de Direction informatique.

Lire aussi :

Google I/O 2022 : De nouvelles fonctionnalités dans Google Workspace

Nouveau laboratoire d’intelligence artificielle à Montréal

Québec lance un appel de projets en matière d’intelligence artificielle

Traduction et adaptation française par Renaud Larue-Langlois

Tom Li
Tom Li
Les télécommunications et le matériel grand public sont les principaux sujets couverts par Tom chez IT World Canada. Il aime parler de l'infrastructure de réseau du Canada, des produits semi-conducteurs et, bien sûr, de tout ce qui est nouveau dans le domaine des technologies grand public. Vous le verrez aussi occasionnellement signer des articles sur les actualités liées à l'infonuagique, à la sécurité et au logiciel en tant que service. Si vous êtes prêt pour une longue discussion sur les nuances de chacun des secteurs ci-dessus ou si vous avez un produit à venir que les gens vont adorer, n'hésitez pas à lui envoyer un message à tli@itwc.ca.

Articles connexes

ILX Group examine les mesures que les entreprises doivent prendre pour se préparer à l’avenir

La société de conseil et de formation ILX Group vient de publier une nouvelle étude qui examine le déficit de compétences en intelligence artificielle (IA) auquel de nombreuses industries de pointe sont confrontées aujourd'hui, résultat de ce qu'elle décrit comme des pénuries de personnel, des perturbations de la chaîne d'approvisionnement, de l'inflation et de l'incertitude globale.

Intel et Mila unissent leurs forces pour une intelligence artificielle responsable

Intel annonce aujourd’hui une collaboration stratégique de recherche et de co-innovation de trois ans avec Mila, un institut de recherche en intelligence artificielle (IA) de Montréal. Dans le cadre de cette collaboration, une vingtaine de chercheurs d’Intel et de Mila vont travailler sur le développement de techniques d'IA avancées pour relever les défis mondiaux tels que le changement climatique, la découverte de nouveaux matériaux et la biologie numérique.

Trois écoles d’automne en Intelligence artificielle

L’Institut intelligence et données (IID) de l’Université Laval et ses partenaires offriront l’automne prochain un cycle de trois écoles d’automnes. Construites à l’attention de non-spécialistes afin de les aider à appréhender l’usage des données et de l’intelligence artificielle dans le domaine de la santé, ces formations soutiendront une exploration des outils et techniques de l’IA, de la gestion et de l’intendance des données, ainsi que du cadre éthique et juridique qui les soutiennent.

Une enquête de Gartner révèle que les initiatives d’automatisation basées sur l’IA se poursuivent

Une nouvelle étude de Gartner publiée plus tôt cette semaine révèle que 80 % des cadres pensent que l'automatisation peut être appliquée à toute décision commerciale. Et à mesure que l'automatisation s'intègre dans les affaires numériques, les résultats ont révélé à quel point les organisations de tailles variées font évoluer leur utilisation de l'intelligence artificielle (IA) dans le cadre de leurs stratégies d'automatisation.

SCALE AI : 50 M$ pour soutenir 12 projets en intelligence artificielle

SCALE AI annonce 12 nouveaux projets en intelligence artificielle (IA) qui représentent plus de 50 M$ d'investissement, signe de la poursuite de l’adoption rapide de l'intelligence artificielle par les leaders industriels canadiens.