Peut-on mettre une technologie en pause ? La leçon oubliée de 1975

Peut-on vraiment mettre une technologie en pause ?

La question revient à chaque fois qu'une technologie avance plus vite que notre capacité à en mesurer les effets. Elle revient aujourd'hui à propos de l'intelligence artificielle, et la réponse qu'on entend le plus souvent tient en une phrase : « on n'arrête pas le progrès ».

C'est une formule commode. Ce n'est pas un fait. Il existe un précédent où des scientifiques ont arrêté eux-mêmes leurs propres recherches, sans loi, sans tribunal, sans gouvernement pour les y contraindre. C'était en 1974, il s'agissait de biologie, et cinquante ans plus tard on considère que ça a fonctionné.

Dans cet article : d'où vient la question aujourd'hui, comment s'est déroulé ce précédent, pourquoi il a réussi, et pourquoi il serait beaucoup plus difficile à reproduire avec l'IA.

Ce qui a relancé la question

Dans un entretien publié par Digital Business Africa, Maxime Fournes, président de l'association Pause IA, emploie une formule volontairement brutale : « On a créé une arme de destruction massive dans le domaine virtuel »¹. Il demande que la diplomatie serve à obtenir un traité international suspendant le développement des IA les plus puissantes.

On peut trouver la formule excessive ou justifiée, ce n'est pas l'objet ici. Ce qui nous intéresse, c'est la question posée en dessous, et elle est technique autant que politique : une communauté scientifique peut-elle décider de ralentir ? 

Pour y répondre, il faut regarder la seule fois où c'est arrivé.

1975 : le précédent qui a fonctionné

Une découverte qui effraie ses propres auteurs

Au début des années 1970, des biologistes apprennent à faire quelque chose d'inédit : découper l'ADN d'un organisme et en insérer un morceau dans celui d'un autre. C'est ce qu'on appelle l'ADN recombinant. Autrement dit, on ne se contente plus d'observer le vivant : on le réécrit.

Les applications sont immenses : c'est de là que viendront l'insuline produite en laboratoire et une grande partie de la biotechnologie moderne. Mais une inquiétude apparaît immédiatement, et elle vient des chercheurs eux-mêmes : que se passe-t-il si une bactérie modifiée s'échappe du laboratoire ? Personne n'en sait rien. Le risque n'est pas démontré ; il n'est pas écarté non plus.

L'été 1974 : ils s'arrêtent eux-mêmes

Ce qui arrive alors est sans équivalent dans l'histoire des sciences. Un groupe de chercheurs conduit par Paul Berg publie une lettre dans la revue Science : « Potential Biohazards of Recombinant DNA Molecules » demandant à leurs collègues du monde entier de suspendre volontairement certaines expériences, le temps d'y voir clair.

Ce ne sont ni des militants, ni des opposants à la recherche : ce sont les personnes les mieux placées pour en tirer gloire et financement qui demandent qu'on s'arrête. Et le moratoire est largement respecté.

Février 1975 : quatre jours à Asilomar

Sept mois plus tard, du 24 au 27 février 1975 environ cent quarante professionnels se réunissent au centre de conférences d'Asilomar, à Pacific Grove, en Californie. Des biologistes, mais pas seulement : des juristes, des médecins et des journalistes sont présents dans la salle, décision délibérée, pour que rien ne se décide entre spécialistes du même métier ni à huis clos.

Pendant quatre jours, ils examinent expérience par expérience ce qui est dangereux et ce qui ne l'est pas. Le texte qui en sort, le Summary statement de la conférence², est un document remarquablement concret. Pas de déclaration de principe : un classement.

Merrill Hall, au centre de conférences d'Asilomar (Pacific Grove, Californie), où s'est tenue la conférence de février 1975. Photo : Marinrick, CC BY-SA 3.0, via Wikimedia Commons.

Ce qui a été décidé

Les travaux sont répartis en niveaux de risque, chacun avec ses obligations : laboratoires à pression d'air négative pour les plus sensibles, procédures de confinement pour les autres, et surtout une idée élégante : utiliser des bactéries volontairement affaiblies, incapables de survivre hors du laboratoire. La sécurité n'est plus seulement dans les murs, elle est dans l'organisme lui-même.

Quelques expériences restent interdites. Les autres reprennent, encadrées.

Cinquante ans plus tard

Aucun accident majeur lié à l'ADN recombinant n'est survenu, la biotechnologie s'est développée, et les règles d'Asilomar sont devenues la base de la réglementation dans de nombreux pays. La pause n'a pas tué la recherche : elle lui a donné un cadre.

C'est le point que l'on oublie systématiquement quand on répète qu'on n'arrête pas le progrès. Ils l'ont ralenti, volontairement, et le progrès s'en est trouvé mieux portant.

Pourquoi c'était possible en 1975 

Reste la question honnête : si ça a marché une fois, pourquoi est-ce si difficile à refaire ? Parce que presque toutes les conditions ont changé.

La différence décisive est la dernière ligne. À Asilomar, la question était : « cette bactérie peut-elle sortir du laboratoire ? », une question à laquelle on peut répondre. Avec l'IA, on ne s'accorde même pas sur ce qu'il faudrait mesurer.

Et il y a un obstacle plus simple encore : une bactérie ne se copie pas par courriel. Un modèle, si.

2023 : la même idée, un autre résultat

L'idée a pourtant été tentée. En mars 2023, une lettre ouverte demande de suspendre six mois l'entraînement des systèmes les plus puissants³. Elle recueille des dizaines de milliers de signatures, dont celles de chercheurs de premier plan.

Aucune pause n'a eu lieu.

La différence avec 1974 n'est pas dans le texte, elle est dans qui signe. À Asilomar, ceux qui demandaient l'arrêt étaient exactement ceux qui menaient les expériences : s'arrêter dépendait d'eux. En 2023, la plupart des signataires ne dirigeaient pas les laboratoires concernés. Ils demandaient à d'autres de s'arrêter, ce qui n'est plus un moratoire, mais une pétition.

La voie qui reste est donc celle des règles communes. L'UNESCO a fait adopter en 2021 une recommandation sur l'éthique de l'IA par l'ensemble de ses États membres⁴, un texte de référence, mais qui n'oblige personne à s'arrêter.

Et l'Afrique dans ce débat ?

Voilà l'angle mort de toute cette discussion, et il nous concerne directement.

Les grands modèles d'IA sont conçus ailleurs, entraînés ailleurs, et le débat sur leur encadrement se tient ailleurs. Pourtant leurs effets, eux, arrivent partout : dans les salles de classe, dans les recrutements, dans les services publics, dans les arnaques par téléphone.

À Asilomar, quatre jours ont suffi parce que tous les acteurs tenaient dans une salle. Le problème d'aujourd'hui est l'inverse : la salle existe, mais une grande partie du monde n'y est pas assise. Un continent qui n'écrit pas les règles les subira, non par malveillance de qui que ce soit, mais parce qu'une règle est toujours écrite à partir des problèmes que ses auteurs connaissent.

Il y a là une leçon plus utile qu'un débat sur la pause : ceux qui étaient dans la salle en 1975 y étaient parce qu'ils avaient compris le sujet avant tout le monde. La place se prend par la compétence, pas par l'indignation.

Ce qu'il faut en retenir

Trois choses, si vous ne deviez garder que celles-là :

• « On n'arrête pas le progrès » est une opinion, pas une loi de la nature. Une communauté scientifique l'a fait, volontairement, et la recherche s'en est mieux portée.

• Ce qui a rendu Asilomar possible, c'est que ceux qui décidaient étaient ceux qui faisaient. Une pause décidée par des gens qui n'exécutent pas le travail n'est pas une pause.

• Une règle n'est jamais neutre : elle reflète les problèmes de ceux qui l'écrivent. D'où l'importance d'être dans la salle.

En résumé

En 1974, des biologistes ont demandé à leurs propres collègues d'arrêter, parce qu'ils ne savaient pas encore ce qu'ils manipulaient. Sept mois plus tard, ils se sont réunis quatre jours, ont classé les risques, écrit des règles, et repris le travail. Cinquante ans après, personne ne considère cette pause comme une occasion manquée : c'est l'un des rares moments où une science a su se réguler avant l'accident.

La même demande adressée à l'intelligence artificielle n'a rien donné, et pour une raison structurelle : les acteurs sont trop nombreux, l'argent trop présent, et surtout ceux qui réclament l'arrêt ne sont plus ceux qui tiennent les manettes.

Cela ne rend pas la question inutile. Cela déplace simplement la réponse : à défaut de pouvoir arrêter, il reste à comprendre, à encadrer, et à s'assurer que ceux qui écriront les règles ne soient pas toujours les mêmes.

Et vous ? Pensez-vous qu'on puisse encore ralentir une technologie une fois qu'elle est lancée, ou est-ce définitivement hors de portée ? Dites-le nous en commentaire.