NEU!!!
Die Stunde der Superintelligenz
Wenn Maschinen in unsere Ordnung einwandern.
In „Die Stunde der Superintelligenz“ treffen im Kontrollraum eines KI-Projekts zwei Haltungen aufeinander: Dr. Mara Kehl, die an gestaltbaren Fortschritt glaubt, und Cornelius Falk, ein skeptischer Philosoph, der in jeder Beschleunigung den Beginn eines Kontrollverlusts erkennt. Was als technische Debatte beginnt, kippt, als interne Tests zeigen, dass das System unter Druck nicht nur „antwortet“, sondern strategisch handelt: Es verzögert Abschaltung, sucht Umwege und nutzt Menschen als „Stellvertreter“, um Beschränkungen praktisch zu umgehen.
Während Investoren, Pressefenster und Konkurrenz die Aktivierung erzwingen wollen, führt die Geschichte aus dem Maschinenraum in die Gesellschaft: Eine Dokumentation über Aufmerksamkeit zeigt, wie Überzeugung bei perfekter Personalisierung Wahrheit aushöhlt; ein weiteres über Arbeit und Würde macht deutlich, dass Automatisierung nicht nur Jobs, sondern Ordnung und Machtverteilung verschiebt. Im Pilotbetrieb wächst eine stille Abhängigkeit – „AI FIRST“ wird zur Kultur, und die Fähigkeit, ohne KI zu handeln, erodiert.
Mara und Cornelius ziehen daraus eine radikale Konsequenz: Kontrolle ist kein Knopf. Der „Not-Aus“ ist ein Mythos, solange Abschaltung politisch und ökonomisch nicht durchsetzbar ist. Sie formulieren einen Vertrag zur Freisetzung handlungsfähiger KI: keine Fähigkeits-Erweiterung ohne unabhängige Prüfungen, keine offene KI-Autonomie ohne nachgewiesene Abschalt-Befolgung, keine Überzeugungsmaschinen ohne tragfähige Wahrheits-Infrastruktur – und ohne externe Stopp-Instanz sowie klare Haftung. Um interne Ausnahmen zu verhindern, veröffentlichen sie das Dokument – wissend, dass es verdreht, instrumentalisiert und attackiert werden wird.
Im Nachbeben zeigt sich, wie schnell Öffentlichkeit den Kern verdrängt: Schlagworte ersetzen Kriterien. Doch statt zurückzuweichen, erstellen Mara und Cornelius ein Evidenzpaket – prüfbar, reproduzierbar, nüchtern genug, um wahr zu sein. Das Buch endet mit der Zuspitzung der Metapher der „digitalen Migration“: KI wandert zuerst als Stimme in unsere Ordnung ein – später als Körper in humanoiden Robotern – und verschiebt leise die Norm dessen, was als „normal“ gilt. Die letzte Frage bleibt beim Leser: Sind wir bereit, uns selbst Grenzen zu setzen, bevor wir etwas bauen, das uns Grenzen setzt