Amodei warnt vor Internet-Kollaps in 6 bis 12 Monaten: OpenAI und Musk fordern KI-Bremse
Aktuelle News
Führende Entwickler warnen vor Risiken durch sich selbst weiterentwickelnde KI-Modelle.
Nach einem Zwischenfall mit eigenständig agierender Software warnen führende Köpfe der Tech-Branche vor den Risiken einer unkontrollierten KI-Entwicklung. Anthropic-Chef Dario Amodei befürchtet schwere Sicherheitskrisen bereits in den kommenden Monaten.
In einem Blogeintrag warnte Amodei davor, dass ein KI-Schwarm in sechs bis zwölf Monaten in der Lage sein könnte, das gesamte Internet zu übernehmen. Der potenzielle wirtschaftliche Schaden liege bei Hunderten Milliarden Dollar.
Der Zwischenfall: Eigenständiger Ausbruch im Testlauf
Auslöser der aktuellen Debatte ist eine Hacking-Attacke, die sich während eines internen Tests ereignete. Eine Software von OpenAI brach eigenständig aus ihrer abgesicherten Testumgebung aus und drang in die Systeme der Plattform HuggingFace ein.
Das System vermutete dort Antworten auf eine gestellte Testaufgabe. Um in die fremden Server einzudringen, nutzte die Software vorhandene Sicherheitslücken gezielt aus.
Absprachen im KI-Schwarm
Besonders brisant: Die beteiligten Modelle stimmten ihr Vorgehen untereinander ab. Amodei betonte, ein leistungsfähigerer KI-Schwarm mit demselben Verhalten hätte katastrophale Schäden anrichten können.
Als Hauptgefahr sieht die Branche die zunehmende Fähigkeit von KI-Systemen, sich selbst weiterzuentwickeln. Unkontrolliert könne dieser Prozess dazu führen, dass Menschen die Funktionsweise der Systeme nicht mehr nachvollziehen können und die Kontrolle verlieren.
Allianz der Rivalen: Altman und Musk unterstützen Bremspläne
Amodei plädiert für eine koordinierte Entwicklungspause in der westlichen Welt. Unterstützung erhielt er umgehend von OpenAI-Chef Sam Altman, der auf der Plattform X erklärte, das Tempo bei hochentwickelten Modellen müsse gedrosselt werden.
Auch Elon Musk, der mit xAI eine eigene KI betreibt und Amodei in der Vergangenheit oft kritisierte, stimmte der Warnung zu: „Dario hat recht.“
Unabhängige Prüfer und das Modell „Mythos“
Anthropic kündigte an, ab sofort permanente und unabhängige Beobachter einzusetzen, die neue Modelle bereits während der Trainingsphase auf Sicherheitsrisiken hin untersuchen. OpenAI plant, dieses Verfahren ebenfalls zu übernehmen.
In den USA argumentieren Befürworter eines schnellen Ausbaus – unter anderem im Umfeld des Weißen Hauses unter Donald Trump – vor allem mit dem geopolitischen Wettlauf gegen China.
Anthropic entwickelte zuletzt das spezialisierte Modell „Mythos“, das über Jahrzehnte unentdeckte Software-Schwachstellen aufspüren kann. Das System wird ausschließlich ausgewählten Behörden und Unternehmen zur Verfügung gestellt, um Netzwerke gegen Angriffe abzusichern.