Ich habe erst jetzt das Interview mit Daniel Kokotajlo, einem Experten für KI-Sicherheit, aus dem Juli 2025 gelesen.

Das war gut. Wer tiefer im Thema ist sollte auch in AI 2027 reinlesen, eine Szenario-Entwicklung über die Fortschritte mit denen in der KI-Entwicklung zu rechnen ist.

Im Interview fällt dieser Satz von Jonas Vollmer, einem Co-Autor von AI 2027:

Die meisten Menschen begreifen nicht, dass derzeit Zehntausende der schlauesten Leute auf dem Planeten an diesen Maschinen arbeiten, mit fast unbegrenzten Ressourcen.

Das… hat bei mir echt reingehauen. Zehntausende, unbegrenzte Ressourcen, aber nicht für das Überwinden der Klimakrise, oder irgendwas inhärent Sinnvolles, sondern für KI. …
Und das hinterlässt die Frage bei mir, warum man sich für Cyberpunk statt für Solarpunk entscheidet. Menschheit, ey!

Alard von Kittlitz, ZEITmagazin:

Ich finde, das klingt verrückt. Ich glaube auch, dass Sie die Komplexität der physischen und sozialen Welt, in die eine AGI entlassen würde, unterschätzen.

Jonas Vollmer, Sprecher von AI Futures:

Klar klingt das alles verrückt, natürlich. Es klingt absurd. Aber superintelligente Systeme werden die Komplexität der Welt navigieren können. Die meisten Menschen begreifen nicht, dass derzeit Zehntausende der schlauesten Leute auf dem Planeten an diesen Maschinen arbeiten, mit fast unbegrenzten Ressourcen. 

Aus Daniel Kokotajlo: “Mir scheint, dass wir auf eine Katastrophe zusteuern” | ZEITMagazin