Lorsque trois milliardaires de la tech, qui se sont déjà mutuellement poursuivis en justice et insultés, s’affichent soudainement dans une parfaite unité, cela interpelle. Dario Amodei, Elon Musk et Sam Altman (Open AI) parviennent à la même conclusion : le secteur de l’IA doit ralentir son rythme de développement, sous peine de voir apparaître de graves dangers. La discussion a été lancée par Dario Amodei d’Anthropic dans un essai dans lequel il avertissait avec insistance que l’IA pourrait anéantir l’humanité d’ici 2030 avec une probabilité de 10 %. Selon Amodei, les capacités de l’IA évolueraient si rapidement qu’il ne sera pas possible pour les entreprises d’élaborer des mécanismes de protection suffisants. Ses revendications paraissent surprenantes au premier abord : le secteur devrait ralentir la cadence et être plus fortement régulé. Cela devrait se faire en trois étapes : d’abord, les entreprises devraient accorder l’accès à des auditeurs externes ; dans un deuxième temps, les États démocratiques devraient s’unir pour édicter des directives contraignantes et, enfin, il faudrait des règles internationales auxquelles la Chine, notamment, collaborerait. Peu après la publication de cette thèse, Elon Musk et Sam Altman l’ont rejoint — ce qui est également étonnant à première vue. Des milliardaires de la tech, dont le modèle de réussite repose sur la dérégulation et le « libre-marché » dans le secteur de l’IA et des réseaux sociaux, plaident pour une régulation et une pause dans le développement ? Sont-ils sérieux ?
On pourrait penser que le déclencheur du débat a été un incident au cours duquel des agents d’IA ont pu pirater un groupe technologique malgré des instructions prétendument claires. Bien que l’attaque ait été sans gravité, elle a montré comment des agents peuvent aborder des missions en apparence univoques d’une manière qui contredit la volonté initiale des programmeurs, comme on a pu le lire dans un rapport du Tagesanzeiger. L’inquiétude quant à ce qui se passerait si des agents d’IA tombaient entre les mains d’États hostiles ou de terroristes semble donc justifiée. Anthropic, qui propose entre autres le chatbot Claude, décrit par ailleurs dans un récent rapport de sécurité des cas où des personnes ont tenté d’utiliser Claude pour développer des virus et des poisons dangereux. Le danger est multiplié par le fait que les modèles d’IA peuvent désormais s’améliorer eux-mêmes de manière récursive. Le modèle s’analyse lui-même et évolue continuellement, ce qui conduit à un progrès plus rapide, mais aussi à une perte de contrôle accrue. Cela inquiète à juste titre et fait paraître la demande de régulation et d’un coup d’arrêt raisonnable et prévoyante. Mais est-ce là l’intention des milliardaires de la tech ?
Si l’on considère le comportement passé des pionniers de l’IA, on a du mal à concilier cette exigence avec les autres objectifs de leurs groupes respectifs. À moins que l’on ne porte son regard au-delà des frontières. Alors que les entreprises technologiques citées sont actuellement encore leaders dans leur secteur, la Chine menace de rattraper son retard et de réduire l’avance des groupes américains. Ce n’est donc peut-être pas un hasard si Amodei demande, entre autres, de ne pas livrer de puces d’IA à la Chine tant que celle-ci ne s’engage pas également à une régulation. Par pure inquiétude face aux dangers que pourrait poser l’IA ? Peut-être. Mais peut-être aussi pour freiner la Chine dans son développement et accroître ou du moins préserver sa propre avance. Une autre raison, qui semble plus évidente qu’un soudain sentiment de responsabilité de la part des géants de la tech, est en outre d’ordre financier. Plus les CEO présentent leur technologie comme puissante et disruptive, plus les investissements dans leurs entreprises risquent d’être élevés — et ils en sont plus que dépendants. Pour que les milliards d’investissements d’Open AI ou d’Anthropic soient rentabilisés, ils doivent réaliser des chiffres d’affaires massifs, qui n’ont pas été approchés jusqu’ici. Il est donc fort possible que l’évocation du grand danger de l’IA soit plus un coup marketing qu’une prise de responsabilité. Enfin, l’anticipation de la régulation pourrait aussi être une réaction aux efforts de différents États pour édicter des réglementations sur l’IA qui iraient bien plus loin que ce que proposent les technologues et qui pourraient sérieusement nuire à leur modèle d’affaires. En affichant une apparente prise de responsabilité et en formulant leurs propres propositions de régulation, ils se positionnent comme des entrepreneurs responsables et marquent de leur empreinte une éventuelle régulation, en excluant délibérément des réglementations potentiellement préjudiciables aux affaires, mais importantes sous l’angle de la théorie démocratique. Quelles que soient les raisons concrètes de l’offensive réglementaire des CEO de l’IA, il vaudra la peine d’examiner de très près leurs propositions et leurs motivations.
