Anthropic-Chef Dario Amodei beendet die Debatte um künstliche Intelligenz

Technik und Auswirkungen

Der United Kingdom Artificial Intelligence Security Institute argumentiert, dass Open-Weight-Modelle nach ihrer Veröffentlichung nicht mehr zurückgezogen werden können, was Sicherheitsvorkehrungen umgehen und die Überwachung nahezu unmöglich macht.

Sicherheitsbedenken, die insbesondere durch Open-Source-Modelle wie Kimi K3 mit 2,8 Billionen Parametern, das ässigen Moonshot AI entwickelt wurde, im globalen Wettlauf um die Führungsrolle ausgelöst werden, beschäftigen weiterhin US-Politiker.

Strategien zur Bekämpfung der chinesischen Bedrohung Amodei schlägt statt eines generellen Verbots ßnahmen vor, um zu verhindern, dass autoritäre Regime militärische Überlegenheit erlangen. Zunächst wird darauf hingewiesen, dass der Zugang Chinas zu leistungsstarken Prozessoren und Halbleiterherstellungsausrüstung eingeschränkt werden muss.

Technik und Auswirkungen

Warnungen, die Exportbeschränkungen gegenüber China zu verschärfen, um die technologische Vormachtstellung der USA zu wahren, waren bereits zuvor Thema der öffentlichen Debatte. Amodeis zweiter Vorschlag sieht die Einführung strenger Regeln für „Destillationsverfahren" vor, bei denen andere Modelle mit Hilfe der Ausgaben eines KI-Modells trainiert werden.

Abschließend plädiert er für die Einrichtung eines obligatorischen Sicherheitstests, der alle leistungsstarken Modelle – sowohl quelloffene als auch proprietäre – weltweit abdeckt.

Amodei betont, dass die Verhinderung biologischer Bedrohungen auch im Interesse Chinas liegt und glaubt, dass die Pekinger Regierung an solchen begrenzten Kooperationen teilnehmen könnte.