Dans le cadre de l’événement Collision 2023, qui se tenait à Toronto fin juin, il y a eu beaucoup de discussions sur l’intelligence artificielle (IA) et plus précisément sur le robot conversationnel ChatGPT, mais rien n’illustrait mieux la situation actuelle que les discours distincts prononcés par Colin Murdoch et le Dr Geoffrey Hinton.
Colin Murdoch, directeur commercial de Google DeepMind, une organisation lancée par Google en avril lorsque DeepMind et l’équipe Brain de l’organisation ont uni leurs forces, a déclaré qu’au cours des six derniers mois, le monde a connu un « moment d’eurêka » en matière d’IA.
« Pour ceux d’entre vous qui ne le savent pas, notre mission est de faire avancer la science au profit de l’humanité », a-t-il déclaré. « Et lorsque nous pensons à certains des plus grands défis mondiaux, le changement climatique est au premier plan. C’est un énorme défi mondial. Et nous devons mettre à profit toute la force de la créativité et de l’expertise de l’humanité pour aider à le résoudre, et je pense que l’IA peut jouer un rôle très important. »
Colin Murdoch a ajouté que les chercheurs de Google DeepMind utilisent l’IA pour « aider à prévoir le temps avec plus de précision et de manière plus rapide, afin d’aider les entreprises et les communautés du monde entier à mieux réagir aux conditions météorologiques les plus extrêmes et à l’impact dévastateur que cela peut avoir ».
Selon un article du blog de l’entreprise intitulé Utiliser l’IA pour lutter contre le changement climatique, « l’infrastructure informatique d’aujourd’hui, y compris l’IA elle-même, est énergivore. Pour aider à résoudre certains de ces problèmes, nous avons développé une intelligence artificielle capable d’améliorer les systèmes existants, notamment en optimisant le refroidissement industriel et en améliorant l’efficacité des systèmes informatiques ».
« Étant donné que nos réseaux énergétiques ne fonctionnent pas encore avec de l’énergie propre, il est important que nous utilisions nos ressources aussi efficacement que possible pendant que nous travaillons sur la transition vers les énergies renouvelables. L’accélération de la transition mondiale vers des sources d’énergie renouvelables peut également réduire considérablement les émissions de carbone. »
Dans son discours, M. Murdoch a déclaré : « Je sais qu’il y a de plus grandes percées à l’horizon et que leur impact sera énorme. Mais il est vraiment important que nous le fassions d’une manière sûre, éthique et inclusive et que nous construisions un avenir positif pour tous. »
Geoffrey Hinton, quant à lui, qui s’est entretenu avec Nick Thompson, le PDG de The Atlantic, devant un public nombreux lors d’une séance de questions-réponses sur la scène centrale du Enercare Centre, était beaucoup moins positif.
« Insistons sur le fait que nous entrons dans une période d’énorme incertitude, personne ne sait vraiment ce qui va se passer », a-t-il déclaré. « Et les gens dont je respecte l’opinion ont des croyances très différentes des miennes. »
« Yann LeCun pense que tout va bien se passer. Ils (les robots conversationnels d’IA) vont juste nous aider, tout va être merveilleux. Mais je pense que nous devons prendre au sérieux la possibilité que, s’ils deviennent plus intelligents que nous, ce qui semble tout à fait probable, et qu’ils aient leurs propres objectifs, ce qui semble tout à fait probable, ils pourraient bien développer l’objectif de prendre le contrôle. Et s’ils font ça, nous aurons des ennuis. »
Geoffrey Hinton, qui, avec Yoshua Bengio et Yann LeCun de Montréal, sont connus comme les « parrains de l’IA » après avoir remporté le très convoité prix Turing en 2018, et qui a démissionné de son poste chez Google en raison de préoccupations concernant l’IA, a été interrogé par Thompson: « Si un robot conversationnel d’IA a été construit par de bons humains à de bonnes fins, il a été formé sur de bons livres et de bons textes, alors il aura un biais vers le bien à l’avenir. Croyez-vous cela ou non ? »
M. Hinton a répondu que « l’IA formée par de bonnes personnes aura un penchant pour le bien, l’IA formée par de mauvaises personnes comme Poutine ou quelqu’un comme ça aura un penchant pour le mal. Nous savons qu’ils vont fabriquer des robots de combat. Ils sont occupés à le faire dans de nombreux ministères de la Défense. Ils ne seront pas nécessairement bons, puisque leur objectif principal sera de tuer des gens ».
« Même si l’IA n’est pas super intelligente, si les ministères de la Défense l’utilisent pour fabriquer des robots de combat, ce sera très désagréable et effrayant. Et ça va l’être, même s’il n’est pas super intelligent, et même s’il n’a pas ses propres intentions, il fait juste ce que Poutine lui dit. Il sera beaucoup plus facile, par exemple, pour les pays riches d’envahir les pays pauvres. »
« À l’heure actuelle, il y a un obstacle à l’invasion des pays pauvres bon gré mal gré, parce que des citoyens rentrent chez eux morts. Au lieu de cela, s’ils ne sont que des robots de combat morts, c’est formidable, le complexe militaro-industriel aimerait ça. »
M. Hinton a ajouté à la fin de la session qu’il n’avait pas de plan pour rendre l’IA plutôt bonne que mauvaise, mais il a déclaré : « Je pense que c’est formidable qu’elle soit en cours de développement, car nous n’avons pas mentionné les quantités énormes de bonnes utilisations comme la médecine et le changement climatique, etc. Je pense que les progrès de l’IA sont inévitables et probablement bons, mais nous devrions sérieusement nous soucier d’en atténuer tous les effets secondaires néfastes et nous inquiéter des menaces existentielles. »
Adaptation et traduction française par Renaud Larue-Langlois.
