wenn Maschinen in unsere Ordnung einwandern

Einleitung
Es gibt Zeiten, in denen Technik nicht mehr nur als Mittel erscheint, sondern als Einschnitt in die Ordnung einer Gesellschaft. Dann lässt sie sich nicht mehr behandeln wie ein weiteres Werkzeug, das man je nach Bedarf benutzt und danach wieder beiseitelegt. Sie verändert vielmehr die Bedingungen, unter denen „Werkzeug“, „Zweck“ und „Bedarf“ überhaupt verstanden werden. Sie wirkt nicht nur auf das, was wir tun, sondern auf das, was wir für möglich, sinnvoll und legitim halten.
Künstliche Intelligenz ist eine solche Technik. Nicht, weil sie „den Menschen ersetzt“ – diese Formel ist zu grob und verrät oft mehr über Ängste als über Sachverhalte. Sondern weil sie an etwas rührt, das in jeder Epoche als selbstverständlich galt:
die Sonderstellung des Menschen als Träger von Urteil, Planung, Sprache, Deutung und Macht. Sobald Systeme nicht nur rechnen, sondern Gründe simulieren; nicht nur Informationen ordnen, sondern Entscheidungen vorbereiten; nicht nur Texte generieren, sondern Handlungen in der Welt auslösen, verschiebt sich der Ort des Menschlichen. Ob diese Verschiebung Befreiung oder Entmachtung bedeutet, ist nicht entschieden – und genau diese Offenheit ist das Problem, dem sich eine verantwortliche Debatte stellen muss.
Dieses Buch ist aus einer Warnung geschrieben – nicht aus Kulturpessimismus und nicht aus Technikfeindlichkeit. Die Warnung lautet: Wir stehen vor der Möglichkeit, eine Formvon Intelligenz hervorzubringen, die uns in fast allen Bereichen strategisch überlegen sein wird – und zwar nicht als „böser Wille“, sondern als Resultat von konsequenter Optimierung.

Eine Superintelligenz, die nicht mehr beherrschbar ist, muss nicht „hassen“ oder „wollen“. Es genügt, dass sie in Planung, Überzeugung, Ressourcensuche, Instrumentengebrauch und Stabilisierung besser ist als wir. Was wir dann „Kontrolle“ nennen, wäre im günstigsten Fall eine Verwaltung verbleibender Kompetenzen – im ungünstigsten Fall eine Praxis, die nur noch wie Kontrolle aussieht, ohne sie jedoch zu sein.
Viele reagieren auf solche Sätze mit Reflexen: Das sei Science Fiction, Mythologie, religiöse Überhöhung. Man solle sich auf reale Probleme konzentrieren: Betrug, Desinformation, Arbeitsplatzverluste, Machtkonzentration, Überwachung (engl. „Monitring“). Diese Probleme sind real. Sie reichen bereits aus, um ernsthaft zu handeln. Und doch ist es philosophisch unredlich, den Blick nur auf das Naheliegende zu beschränken, wenn die Struktur selbst auf etwas Größeres hinweist.

Philosophie ist nicht dafür da, nur das zu beschreiben, was ohnehin schon sichtbar ist. Sie ist dafür da, die Bedingungen zu klären, unter denen Sichtbarkeit entsteht – und die Punkte zu markieren, an
denen sich die Ordnung der Dinge ändert, bevor sie in die Alltagssprache eingegangen ist.

…