Wenn sich drei Techmilliard\u00e4re, die sich gegenseitig schon verklagt und beschimpft haben, pl\u00f6tzlich in trauter Einigkeit zeigen, l\u00e4sst das aufhorchen. Dario Amodei, Elon Musk und Sam Altman (Open AI) kommen zum gemeinsamen Schluss: Die KI-Branche muss ihr Entwicklungstempo drosseln, ansonsten drohten ernstzunehmende Gefahren. Angestossen hatte die Diskussion Dario Amodei von Anthropic in einem Essay, in dem er eindringlich warnte, KI k\u00f6nnte die Menschheit bis 2030 mit einer Wahrscheinlichkeit von 10% ausl\u00f6schen. Die F\u00e4higkeiten der KI, so Amodei, w\u00fcrden sich so schnell weiterentwickeln, dass es Unternehmen nicht m\u00f6glich sein wird, ausreichende Schutzmechanismen zu erarbeiten. Seine Forderungen wirken auf den ersten Blick \u00fcberraschend: Die Branche soll ihr Tempo drosseln und st\u00e4rker reguliert werden. Dies soll in drei Schritten geschehen: Zuerst sollten die Unternehmen externen Pr\u00fcferinnen und Pr\u00fcfern Zugang gew\u00e4hren, in einem zweiten Schritt sollten die demokratischen Staaten sich zusammenschliessen, um verpflichtende Richtlinien zu erlassen und letzen Endes brauche es internationale Regeln, bei denen namentlich auch China mitarbeitet. Kurz nach Ver\u00f6ffentlichung der These pflichteten ihm Elon Musk und Sam Altman bei – auch dies auf den ersten Blick erstaunlich. Techmilliard\u00e4re, deren Erfolgsmodell auf Deregulierung und \u201cfreier Marktwirtschaft\u201d im KI- und Social Media – Sektor basiert, pl\u00e4dieren f\u00fcr Regulierung und eine Entwicklungspause? Deren Ernst?<\/p>\n\n\n\n
Ausl\u00f6ser f\u00fcr die Debatte war, so k\u00f6nnte man meinen, ein Vorfall, bei dem KI-Agenten trotz vermeintlich klarer Anweisungen einen Techkonzern hacken konnten. Der Angriff verlief zwar harmlos, zeigte jedoch auf, wie Agenten eigentlich eindeutig erscheinende Auftr\u00e4ge auf eine Art und Weise angehen k\u00f6nnen, die dem urspr\u00fcnglichen Willen der Programmierer widerspricht, wie in einem Bericht des Tagesanzeigers zu lesen war. Berechtigt scheint daher die Sorge davor, was geschehen w\u00fcrde, wenn KI-Agenten in die H\u00e4nde feindlicher Staaten oder Terroristen gelangen w\u00fcrden. Anthropic, das unter anderem den Chatbot Claude anbietet, beschreibt ausserdem in einem k\u00fcrzlich erschienenen Sicherheitsbericht F\u00e4lle, in denen Personen versuchten, mittels Claude gef\u00e4hrliche Viren und Gifte zu entwickeln. Multipliziert wird die Gefahr dadurch, dass sich KI-Modelle mittlerweile rekursiv selbst verbessern k\u00f6nnen. Das Modell analysiert sich selbst und entwickelt sich kontinuierlich weiter, was zu schnellerem Fortschritt, aber auch zu st\u00e4rkerem Kontrollverlust f\u00fchrt. Das beunruhigt zu Recht und l\u00e4sst die Forderung nach Regulierung und einem Marschhalt vern\u00fcnftig und weitsichtig erscheinen. Doch ist dies das Ansinnen der Techmilliard\u00e4re?<\/p>\n\n\n\n
Wenn man das bisherige Verhalten der KI-Pioniere betrachtet, bringt man die Forderung kaum in Einklang mit den sonstigen Zielen der jeweiligen Konzerne. Es sei denn, man l\u00e4sst den Blick \u00fcber die Grenzen schweifen. W\u00e4hrend die genannten Techfirmen derzeit noch f\u00fchrend in ihrer Branche sind, droht China aufzuholen und den Vorsprung der US-Konzerne zu verringern. Es mag daher auch kein Zufall sein, dass Amodei unter anderem fordert, keine KI-Chips an China zu liefern, solange sich China nicht ebenfalls zu einer Regulierung verpflichtet. Aus reiner Sorge um die Gefahren, die von KI ausgehen k\u00f6nnten? Vielleicht. Vielleicht aber auch, um China in seiner Entwicklung auszubremsen und den eigenen Vorsprung auszubauen oder zumindest zu erhalten. Ein weiterer Grund, der naheliegender als ein pl\u00f6tzlich aufkeimendes Gef\u00fchl der Verantwortung auf Seiten der Techkonzerne scheint, ist zudem ein finanzieller. Je wirkungsm\u00e4chtiger und disruptiver die CEO\u2019s ihre Technologie darstellen, desto h\u00f6her d\u00fcrften Investitionen in die Firmen ausfallen – und darauf sind sie mehr als angewiesen. Damit sich die Milliarden Investitionen von Open AI oder Anthropic auszahlen, m\u00fcssen sie massive Ums\u00e4tze erzielen, die bisher nicht ansatzweise erreicht wurden. Gut m\u00f6glich also, dass das Heraufbeschw\u00f6ren der grossen Gefahr KI mehr Marketing-Move als \u00dcbernahme von Verantwortung darstellt. Zu guter Letzt k\u00f6nnte die Vorwegnahme der Regulierung auch eine Reaktion auf Bestrebungen verschiedener Staaten sein, KI-Regulierungen zu erlassen, die wesentlich weiter gehen w\u00fcrden, als was die Techies vorschlagen und die deren Gesch\u00e4ftsmodell ernsthaft sch\u00e4digen k\u00f6nnten. Mit der scheinbaren \u00dcbernahme von Verantwortung und eigenen Vorschl\u00e4gen zur Regulierung positionieren sie sich als verantwortungsbewusste Unternehmer und dr\u00fccken einer m\u00f6glichen Regulierung ihren Stempel auf, indem sie potenziell gesch\u00e4ftssch\u00e4digende, aber demokratietheoretisch wichtige Regulierungen bewusst ausklammern. Was auch immer im Konkreten die Gr\u00fcnde f\u00fcr das regulatorische Vorpreschen der KI-CEO\u2019s sind, es wird sich lohnen, bei ihren Vorschl\u00e4gen und deren Motivation ganz genau hinzuschauen.<\/p>\n","protected":false},"excerpt":{"rendered":"
Wenn sich drei Techmilliard\u00e4re, die sich gegenseitig schon verklagt und beschimpft haben, pl\u00f6tzlich in trauter Einigkeit zeigen, l\u00e4sst das aufhorchen. Dario Amodei, Elon Musk und Sam Altman (Open AI) kommen zum gemeinsamen Schluss: Die KI-Branche muss ihr Entwicklungstempo drosseln, ansonsten drohten ernstzunehmende Gefahren. Angestossen hatte die Diskussion Dario Amodei von Anthropic in einem Essay, in […]<\/p>\n","protected":false},"author":6,"featured_media":6107,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[1],"tags":[],"class_list":["post-6091","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-kampagnen"],"acf":[],"_links":{"self":[{"href":"https:\/\/kampagnenforum.ch\/de\/wp-json\/wp\/v2\/posts\/6091","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/kampagnenforum.ch\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/kampagnenforum.ch\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/kampagnenforum.ch\/de\/wp-json\/wp\/v2\/users\/6"}],"replies":[{"embeddable":true,"href":"https:\/\/kampagnenforum.ch\/de\/wp-json\/wp\/v2\/comments?post=6091"}],"version-history":[{"count":1,"href":"https:\/\/kampagnenforum.ch\/de\/wp-json\/wp\/v2\/posts\/6091\/revisions"}],"predecessor-version":[{"id":6113,"href":"https:\/\/kampagnenforum.ch\/de\/wp-json\/wp\/v2\/posts\/6091\/revisions\/6113"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/kampagnenforum.ch\/de\/wp-json\/wp\/v2\/media\/6107"}],"wp:attachment":[{"href":"https:\/\/kampagnenforum.ch\/de\/wp-json\/wp\/v2\/media?parent=6091"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/kampagnenforum.ch\/de\/wp-json\/wp\/v2\/categories?post=6091"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/kampagnenforum.ch\/de\/wp-json\/wp\/v2\/tags?post=6091"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}