Lorsque trois milliardaires de la tech, qui se sont d\u00e9j\u00e0 mutuellement poursuivis en justice et insult\u00e9s, s\u2019affichent soudainement dans une parfaite unit\u00e9, cela interpelle. Dario Amodei, Elon Musk et Sam Altman (Open AI) parviennent \u00e0 la m\u00eame conclusion : le secteur de l\u2019IA doit ralentir son rythme de d\u00e9veloppement, sous peine de voir appara\u00eetre de graves dangers. La discussion a \u00e9t\u00e9 lanc\u00e9e par Dario Amodei d\u2019Anthropic dans un essai dans lequel il avertissait avec insistance que l\u2019IA pourrait an\u00e9antir l\u2019humanit\u00e9 d\u2019ici 2030 avec une probabilit\u00e9 de 10 %. Selon Amodei, les capacit\u00e9s de l\u2019IA \u00e9volueraient si rapidement qu\u2019il ne sera pas possible pour les entreprises d\u2019\u00e9laborer des m\u00e9canismes de protection suffisants. Ses revendications paraissent surprenantes au premier abord : le secteur devrait ralentir la cadence et \u00eatre plus fortement r\u00e9gul\u00e9. Cela devrait se faire en trois \u00e9tapes : d\u2019abord, les entreprises devraient accorder l\u2019acc\u00e8s \u00e0 des auditeurs externes ; dans un deuxi\u00e8me temps, les \u00c9tats d\u00e9mocratiques devraient s\u2019unir pour \u00e9dicter des directives contraignantes et, enfin, il faudrait des r\u00e8gles internationales auxquelles la Chine, notamment, collaborerait. Peu apr\u00e8s la publication de cette th\u00e8se, Elon Musk et Sam Altman l\u2019ont rejoint \u2014 ce qui est \u00e9galement \u00e9tonnant \u00e0 premi\u00e8re vue. Des milliardaires de la tech, dont le mod\u00e8le de r\u00e9ussite repose sur la d\u00e9r\u00e9gulation et le \u00ab libre-march\u00e9 \u00bb dans le secteur de l\u2019IA et des r\u00e9seaux sociaux, plaident pour une r\u00e9gulation et une pause dans le d\u00e9veloppement ? Sont-ils s\u00e9rieux ?<\/p>\n\n
On pourrait penser que le d\u00e9clencheur du d\u00e9bat a \u00e9t\u00e9 un incident au cours duquel des agents d\u2019IA ont pu pirater un groupe technologique malgr\u00e9 des instructions pr\u00e9tendument claires. Bien que l\u2019attaque ait \u00e9t\u00e9 sans gravit\u00e9, elle a montr\u00e9 comment des agents peuvent aborder des missions en apparence univoques d\u2019une mani\u00e8re qui contredit la volont\u00e9 initiale des programmeurs, comme on a pu le lire dans un rapport du Tagesanzeiger. L\u2019inqui\u00e9tude quant \u00e0 ce qui se passerait si des agents d\u2019IA tombaient entre les mains d\u2019\u00c9tats hostiles ou de terroristes semble donc justifi\u00e9e. Anthropic, qui propose entre autres le chatbot Claude, d\u00e9crit par ailleurs dans un r\u00e9cent rapport de s\u00e9curit\u00e9 des cas o\u00f9 des personnes ont tent\u00e9 d\u2019utiliser Claude pour d\u00e9velopper des virus et des poisons dangereux. Le danger est multipli\u00e9 par le fait que les mod\u00e8les d\u2019IA peuvent d\u00e9sormais s\u2019am\u00e9liorer eux-m\u00eames de mani\u00e8re r\u00e9cursive. Le mod\u00e8le s\u2019analyse lui-m\u00eame et \u00e9volue continuellement, ce qui conduit \u00e0 un progr\u00e8s plus rapide, mais aussi \u00e0 une perte de contr\u00f4le accrue. Cela inqui\u00e8te \u00e0 juste titre et fait para\u00eetre la demande de r\u00e9gulation et d\u2019un coup d\u2019arr\u00eat raisonnable et pr\u00e9voyante. Mais est-ce l\u00e0 l\u2019intention des milliardaires de la tech ?<\/p>\n\n
Si l\u2019on consid\u00e8re le comportement pass\u00e9 des pionniers de l\u2019IA, on a du mal \u00e0 concilier cette exigence avec les autres objectifs de leurs groupes respectifs. \u00c0 moins que l\u2019on ne porte son regard au-del\u00e0 des fronti\u00e8res. Alors que les entreprises technologiques cit\u00e9es sont actuellement encore leaders dans leur secteur, la Chine menace de rattraper son retard et de r\u00e9duire l\u2019avance des groupes am\u00e9ricains. Ce n\u2019est donc peut-\u00eatre pas un hasard si Amodei demande, entre autres, de ne pas livrer de puces d\u2019IA \u00e0 la Chine tant que celle-ci ne s\u2019engage pas \u00e9galement \u00e0 une r\u00e9gulation. Par pure inqui\u00e9tude face aux dangers que pourrait poser l\u2019IA ? Peut-\u00eatre. Mais peut-\u00eatre aussi pour freiner la Chine dans son d\u00e9veloppement et accro\u00eetre ou du moins pr\u00e9server sa propre avance. Une autre raison, qui semble plus \u00e9vidente qu\u2019un soudain sentiment de responsabilit\u00e9 de la part des g\u00e9ants de la tech, est en outre d\u2019ordre financier. Plus les CEO pr\u00e9sentent leur technologie comme puissante et disruptive, plus les investissements dans leurs entreprises risquent d\u2019\u00eatre \u00e9lev\u00e9s \u2014 et ils en sont plus que d\u00e9pendants. Pour que les milliards d\u2019investissements d\u2019Open AI ou d\u2019Anthropic soient rentabilis\u00e9s, ils doivent r\u00e9aliser des chiffres d\u2019affaires massifs, qui n\u2019ont pas \u00e9t\u00e9 approch\u00e9s jusqu\u2019ici. Il est donc fort possible que l\u2019\u00e9vocation du grand danger de l\u2019IA soit plus un coup marketing qu\u2019une prise de responsabilit\u00e9. Enfin, l\u2019anticipation de la r\u00e9gulation pourrait aussi \u00eatre une r\u00e9action aux efforts de diff\u00e9rents \u00c9tats pour \u00e9dicter des r\u00e9glementations sur l\u2019IA qui iraient bien plus loin que ce que proposent les technologues et qui pourraient s\u00e9rieusement nuire \u00e0 leur mod\u00e8le d\u2019affaires. En affichant une apparente prise de responsabilit\u00e9 et en formulant leurs propres propositions de r\u00e9gulation, ils se positionnent comme des entrepreneurs responsables et marquent de leur empreinte une \u00e9ventuelle r\u00e9gulation, en excluant d\u00e9lib\u00e9r\u00e9ment des r\u00e9glementations potentiellement pr\u00e9judiciables aux affaires, mais importantes sous l\u2019angle de la th\u00e9orie d\u00e9mocratique. Quelles que soient les raisons concr\u00e8tes de l\u2019offensive r\u00e9glementaire des CEO de l\u2019IA, il vaudra la peine d\u2019examiner de tr\u00e8s pr\u00e8s leurs propositions et leurs motivations.<\/p>\n","protected":false},"excerpt":{"rendered":"
Lorsque trois milliardaires de la tech, qui se sont d\u00e9j\u00e0 mutuellement poursuivis en justice et insult\u00e9s, s\u2019affichent soudainement dans une parfaite unit\u00e9, cela interpelle.<\/p>\n","protected":false},"author":11,"featured_media":6186,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[23],"tags":[],"class_list":["post-6172","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-campagnes"],"acf":[],"_links":{"self":[{"href":"https:\/\/kampagnenforum.ch\/fr\/wp-json\/wp\/v2\/posts\/6172","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/kampagnenforum.ch\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/kampagnenforum.ch\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/kampagnenforum.ch\/fr\/wp-json\/wp\/v2\/users\/11"}],"replies":[{"embeddable":true,"href":"https:\/\/kampagnenforum.ch\/fr\/wp-json\/wp\/v2\/comments?post=6172"}],"version-history":[{"count":2,"href":"https:\/\/kampagnenforum.ch\/fr\/wp-json\/wp\/v2\/posts\/6172\/revisions"}],"predecessor-version":[{"id":6272,"href":"https:\/\/kampagnenforum.ch\/fr\/wp-json\/wp\/v2\/posts\/6172\/revisions\/6272"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/kampagnenforum.ch\/fr\/wp-json\/wp\/v2\/media\/6186"}],"wp:attachment":[{"href":"https:\/\/kampagnenforum.ch\/fr\/wp-json\/wp\/v2\/media?parent=6172"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/kampagnenforum.ch\/fr\/wp-json\/wp\/v2\/categories?post=6172"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/kampagnenforum.ch\/fr\/wp-json\/wp\/v2\/tags?post=6172"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}