Une histoire d’intelligence artificielle qui apprend de plus en plus vite et ce n’est pas de la science-fiction.
Lettre ouverte prenant également la forme d’une pétition, la missive notamment signée par Elon Musk (P.-D.G. de SpaceX, Tesla et Twitter) et Steve Wozniak (cofondateur d’Apple) a été diffusée sur le site futureoflife.org. De très nombreux chercheurs et autres spécialistes du progrès technologique ainsi que de l’intelligence artificielle se sont associés au deux sus-nommés pour réclamer une pause dans la recherche sur l’IA. Au travers de cette lettre, les signataires souhaitent mettre en garde sur les récents progrès de l’intelligence artificielle et sur les consquénces désastreuses que peut avoir une concurrence toujours plus féroce dans le domaine. L’intelligence artificielle générative n’a encore montré qu’une toute petite partie de son potentiel et l’arrivée de logiciels aussi performants que ChatGPT pousse la plupart des rivaux de la société OpenAI à accélérer leurs travaux.
Les signataires de la lettre soulignent toutefois que cette concurrence effrénée n’a pas que des avantages. Ils mettent notamment le doigt sur les questions de sécurité. En effet, alors que les travaux en la matière sont de plus en plus sensibles, se pose la question du secret entourant les recherches. Sans information sur les travaux qui sont menés chez les uns ou les autres, la société dans son ensemble n’est pas capable de se prémunir des dangers éventuels, d’une quelconque dérive ou catastrophe. Cités par Clubic, les signataires s’interrogent : « Faut-il laisser les machines inonder nos canaux d’information de propagande et de contre-vérité ? Devrions-nous automatiser tous les emplois, y compris ceux qui sont gratifiants ? Devons-nous développer des esprits non humains qui pourraient un jour être plus nombreux, plus intelligents, plus obsolètes et nous remplacer ? Devrions-nous risquer de perdre le contrôle de notre civilisation ? »
L’objectif de cette lettre ouverte est donc d’appeller à une sorte de « pause ». Les signataires souhaitent une interruption sur le développement des intelligences artificielles les plus performantes pour une durée d’au moins six mois. Un laps de temps qui doit permettre d’évaluer les dangers, de déterminer si les progrès réalisés en la matière sont réellement positifs et si les risques sont gérables. Sam Altman lui-même – il est le patron de la société OpenAI – a reconnu être « un peu effrayé » par les progrès réalisés et les dangers pour l’humanité si l’intelligence artificielle de ChatGPT était utilisée pour de « la désinformation à grande échelle ou des cyberattaques ».
Pour autant, Sam Altman n’a pas souhaité signer cette lettre ouverte. En ce sens, il est d’ailleurs rejoint par un des noms les plus célèbres du monde de la tech, Bill Gates, cofondateur de Microsoft et responsable de l’entreprise américaine durant de nombreuses années. Depuis longtemps, ce dernier est l’un des plus fervent défenseur des progrès de l’intelligence artificielle et il se montre plus qu’enthousiaste suite aux récentes avancées enregistrées en la matière. Contrairement à ce qui est dit dans cette lettre ouverte, Bill Gates considère que la pause d’au moins six mois évoquée n’est en aucune façon une solution aux problèmes posés par l’essor de l’intelligence artificielle générative. Dans un entretien accordé à Reuters, il explique ne pas croire que « demander à un groupe en particulier de faire une pause résolve les problèmes » avant d’ajouter, « je ne comprends pas vraiment qui, selon eux, pourrait s’arrêter, ni si tous les pays du monde accepteraient, ou pourquoi ils le feraient. »
Ce faisant, Bill Gates met le doit sur un problème de faisabilité de cette pause. Décidée par qui et comment ? Appliquée à tous les pays du monde ? À toutes les sociétés privées ? Le confondateur de Microsoft reconnait les problèmes posés par le développement de l’intelligence artificielle et comprend les inquiétudes que cela peut générer. Pour autant, il estime qu’il y a « d’énormes avantages à ces choses » et parle « d’identifier les zones délicates » plutôt que de faire cette pause de six mois. Bill Gates estime même que l’intelligence artificielle n’est rien de moins que la plus grande innovation informatique de ces quarante dernières années, une innovation qui doit pouvoir aider à trouver des solutions à tous les problèmes de l’humanité. Sur ce dernier point, on ne peut s’empêcher de voir en Bill Gates un adepte du solutionnisme, mais force est de reconnaître que l’on imagine assez mal les gouvernements chinois, indien ou russe accepter une pause venant de têtes pensantes basées aux États-Unis ou en Europe.
