Un chercheur d'Anthropic démissionne en annonçant un risque d'extinction de l'humanité. Rafik Smati prend le risque au sérieux, et rappelle avec la même force l'autre face de la médaille : l'IA peut aussi sauver et élever notre espèce.
Un chercheur d’Anthropic vient de démissionner avec fracas. Il affirme que l’IA pourrait provoquer l’extinction de l’humanité avant la fin de la décennie. Certains de ses collègues évaluent même ce risque à plus de 10% dans les 10 prochaines années.
Je lis beaucoup de réactions de peur, parfois de sidération. Je vois certains politiques prendre leur air martial pour déclarer qu’il faut « s’en occuper ». Mais je crois que tous passent à côté du vrai sujet.
Oui, l’intelligence artificielle porte en elle les germes d’un possible anéantissement de l’humanité. Je l’ai dit et écrit maintes fois.
Mais je veux dire avec la même force quelque chose que l’on entend beaucoup moins : l’IA porte aussi en elle les germes de la survie de notre espèce et de notre élévation.
Elle nous aidera à découvrir de nouvelles molécules, inventer des vaccins et des traitements, comprendre les mécanismes du vieillissement, augmenter spectaculairement notre productivité, accélérer la recherche scientifique et donner accès au savoir à des milliards d’êtres humains, jusque dans les endroits les plus reculés de la planète.
C’est toute l’histoire du progrès humain. Plus l’espèce humaine accroît sa capacité à propager le bien, plus elle accroît, symétriquement, sa capacité à propager le mal. Et comme je l’ai démontré dans mon livre « Le Nouveau Temps », chaque révolution technologique rend ce contraste encore plus puissant.
Le nucléaire en est probablement l’exemple le plus spectaculaire. Il permet de soigner des cancers et de produire une électricité abondante et décarbonée. Il nous a aussi donné l’arme la plus destructrice jamais inventée par l’humanité.
L’IA nous place aujourd’hui devant le même vertige, mais à une échelle probablement encore supérieure.
La vraie question n’est donc pas de savoir si nous devons avoir peur de l’IA, mais plutôt comment garantir que l’immense puissance que nous sommes en train de créer reste au service de l’humanité.
Cela exige une vigilance absolue. Des garde-fous. De la recherche sur la sécurité. Une coopération internationale. Mais certainement pas de tourner le dos au progrès par peur de ce qu’il pourrait devenir.
Et surtout, cela exige que l’Europe cesse d’être spectatrice et obsédée par la régulation. Nous ne pouvons pas laisser les USA définir seuls une technologie gouvernée par la puissance et la Chine développer seule une technologie gouvernée par le contrôle.
L’Europe doit proposer une troisième voie : celle que j’appelle l’humanisme technologique.
Une civilisation qui ne renonce ni au progrès, ni à l’humain.
Car le grand combat du siècle qui commence ne sera peut-être pas celui de l’homme contre la machine.
Il sera, comme depuis la nuit des temps, celui du bien contre le mal. Et dans cette course de vitesse, ce sont le génie humain, la créativité et la fraternité qui feront gagner le bien.