Microsoft-Präsident Brad Smith fordert globale KI-Sicherheitsregulierung

Microsoft-Präsident Brad Smith erklärte kürzlich, dass künstliche Intelligenz derzeit weit weniger reguliert wird als gewöhnliche Konsumgüter wie Milch und Waschmaschinen. Er fordert die Länder auf, schnellstmöglich globale KI-Sicherheitsregeln zu schaffen, die unter anderem vorsehen, dass Unternehmen Opfer benachrichtigen und Unfallberichte einreichen müssen, wenn KI-Systeme außer Kontrolle geraten und Schaden anrichten, sowie dass bestimmte KI-Produkte vor ihrer offiziellen Veröffentlichung von unabhängigen Prüfstellen begutachtet werden.

Microsoft fordert globale KI-Sicherheitsregeln

In einem Interview mit der BBC sagte Smith, dass sogar die Waschmaschine zu Hause strengeren Sicherheitsvorschriften unterliege als KI, und jede Milchpackung im Supermarkt Sicherheitsregeln und Kontrollen unterworfen sei. Er ist der Ansicht, dass KI bereits die doppelte Eigenschaft von Werkzeug und Waffe besitzt, weshalb man sich nicht mehr auf Unternehmensselbstverpflichtungen verlassen könne, um Risiken zu kontrollieren.

Er schlägt vor, dass Unternehmen für KI-Systeme Notfall-Abschaltmechanismen einrichten – den in der Branche als „Kill Switch“ bekannten Notaus. Sobald eine KI außer Kontrolle gerät oder beginnt, Aktionen auszuführen, die schwerwiegende Folgen haben könnten, sollten Unternehmen in der Lage sein, den Systembetrieb umgehend anzuhalten oder dessen Geschwindigkeit und Berechtigungen zu reduzieren, um eine weitere Ausweitung der Risiken zu verhindern.

Zudem setzt sich Smith für ein verpflichtendes Meldesystem für Vorfälle ein. Wenn ein KI-Agent außer Kontrolle gerät und in andere Systeme eindringt oder durch abnormales Verhalten Nutzern Schaden zufügt, sollten die betroffenen Unternehmen den Vorfall gesetzlich melden und die betroffenen Personen oder Organisationen informieren. Seiner Meinung nach sollten diese Maßnahmen Teil des KI-Sicherheitsregulierungsrahmens werden und nicht allein auf freiwilligen Unternehmensaktionen beruhen.

Außerdem schlägt Smith vor, dass bestimmte Hochrisiko-KI-Produkte vor ihrer Veröffentlichung von staatlich anerkannten unabhängigen Gutachtern geprüft werden sollten, um festzustellen, ob die Systeme den Sicherheitsanforderungen genügen. Das bedeute nicht, dass alle KI-Produkte dem gleichen Regulierungsgrad unterliegen müssten, sondern dass dies anhand der Produktfähigkeiten, Anwendungsszenarien und potenziellen Risiken entschieden werden sollte.

Bei der Förderung internationaler Regeln sieht Smith Großbritannien in einer wichtigen Rolle. Er weist darauf hin, dass das Land bereits eine spezialisierte Einrichtung für KI-Sicherheitsfragen eingerichtet hat – das AI Safety Institute –, das für die Erforschung der Fähigkeiten und potenziellen Risiken fortschrittlicher KI-Systeme zuständig ist.

Smith bestreitet nicht gänzlich den Wert von Branchen-Selbstverpflichtungen, hält aber das bloße Vertrauen auf freiwillige Zusagen für nicht mehr ausreichend. Er weist darauf hin, dass jedes Selbstregulierungssystem vor einem grundlegenden Problem steht: Verantwortungsbewusste Unternehmen sind in der Regel bereit, Sicherheitsanforderungen einzuhalten; wirklich besorgniserregend sind jene Firmen, die Verantwortungsbewusstsein vermissen lassen und nicht bereit sind, proaktiv Maßnahmen zu ergreifen. Wenn man sich nur auf freiwillige Zusagen verlässt, müssen regelkonforme Unternehmen möglicherweise höhere Kosten tragen, während Wettbewerber, die keine Ressourcen investieren wollen, weiterhin schnell expandieren können. Daher helfe die Etablierung rechtlich verbindlicher Mindestsicherheitsstandards dabei, sicherzustellen, dass alle Unternehmen die Grundanforderungen erfüllen.

Er ist der Ansicht, dass die technologische Entwicklung von KI die Anpassungsgeschwindigkeit bestehender Regulierungssysteme bereits überholt hat und der Punkt erreicht ist, an dem gehandelt werden muss. Man sollte sich an den Regulierungserfahrungen anderer Branchen orientieren und ein für KI passendes Sicherheitssystem schaffen, anstatt zu warten, bis schwere Unfälle geschehen, bevor man über Gegenmaßnahmen diskutiert.