Im Vorwort von 1986 schrieb ich, dass die „autarke, implizit selbstreferenzielle Reflexivität von natürlicher Sprache und Handlungskompetenz“ weder als ein definitiv begrenztes Modell einer Sprach- und Handlungstheorie formuliert noch „in die Fähigkeit einer Maschine überführt“ werden könne. Die Maschine, so schrieb ich, „mag sich zwar in ihrem eigenen System verstricken, kann sich aber nicht wieder daraus befreien“. Die Maschinen, die ich dabei im Sinn hatte, waren solche der symbolischen künstlichen Intelligenz: Regelsysteme, formale Grammatiken, Expertensysteme. Genau diese definitiv begrenzten Sprachmodelle sind es, gegen die sich das Argument richtet. In ihrem Fall hat sich die These weitgehend bestätigt. Sie sind an der Offenheit der natürlichen Sprache gescheitert.
Heutige Sprachmodelle sind anders aufgebaut – auf eine Weise, die auf den ersten Blick der Konzeption dieses Buches erstaunlich nahekommt. Sie beruhen nicht auf einem explizit formulierten Sprachmodell. Ihre Fähigkeit gewinnen sie aus einer immensen Anzahl von Verwendungen sprachlicher Ausdrücke. Was dabei entsteht, ähnelt dem, was in Kapitel 1.01 als Formalisierung bezeichnet wird: Aus vielen Verwendungskontexten heraus wird ein Ausdruck als „Inbegriff seiner möglichen Verwendungen in Aussagen“ verfügbar; das System kann ihn in neuen Kontexten passend einsetzen und ihn so gewissermaßen „deformalisieren“. Diese Fähigkeit ist implizit. Sie liegt im Gebrauch selbst und ist nicht als explizites, an Konsistenz gebundenes System fest eingebaut. Deshalb kann ein solches System den Lügner-Satz niederschreiben, erklären und analysieren, ohne dabei zu versagen. Die Antinomie ist damit natürlich nicht aufgelöst, und die Kehrseite liegt auf der Hand: Ein System, das nicht an Konsistenz gebunden ist, kann auch Widersprüche produzieren, ohne dies zu bemerken. In dieser Hinsicht hat die Entwicklung einen Weg eingeschlagen, wie er aufgrund der Unterscheidung zwischen impliziter und expliziter Selbstreferenz zu erwarten war.
Doch handelt es sich hierbei nicht um Formalisierung und Deformalisierung. Im Sinne dieses Buches ist Formalisierung kein statistisches Verfahren, das auf Zeichen operiert. Sie ist eine Leistung des aussagenden Aktes: Im Zeichen wird das Symbol erkannt, und mit dem Zeichen wird ein Sinn gemeint und verstanden. Wittgenstein scheint das Gegenteil zu behaupten: „Wenn sich alles so verhält, als ob ein Zeichen eine Bedeutung hätte, dann hat es auch eine Bedeutung.“ (TLP 3.328) Doch „sich verhalten“ bedeutet hier: in einem bedeutungsvollen Gebrauch stehen – und ein solcher Gebrauch ist einer, der gemeint und verstanden wird. Ein Sprachmodell verarbeitet Zeichen und die Muster ihres gemeinsamen Auftretens. Was es hervorbringt, sind sprachliche Artefakte: Zeichen, die Merkmale eines bedeutungsvollen Gebrauchs aufweisen – oft von erstaunlicher Qualität. Zu Symbolen werden sie erst, wenn ein Mensch sie verwendet, das heißt: wenn er mit ihnen etwas meint, sie versteht, überprüft, sich zu eigen macht oder sie verwirft. Der bedeutungsvolle Gebrauch dieser Artefakte findet nicht im System statt, sondern im Menschen.
Formalisierung ist zudem mehr als nur das Erkennen gängiger Verwendungsweisen; sie ist Reflexion. Wer einen Ausdruck formalisiert, betrachtet ihn als einen Wert unter anderen möglichen Werten, denkt ihn innerhalb eines Horizonts von Alternativen und kann daher kritisch fragen, ob er in seiner vorliegenden Form angemessen ist oder ob er anders verwendet werden sollte. Dies lässt sich als eine Abfolge von drei Schritten beschreiben – ein Modell, das ich in dem im Anhang wiederabgedruckten Aufsatz (dort auf Sprache und Handeln ausgeweitet) entwickelt habe: Sprachspiel, Sprachsystem, Sprachideal. Im Sprachspiel wird Sprache verwendet. Durch Formalisierung wird daraus ein Sprachsystem – ein Raum der Möglichkeiten. Und jede Formalisierung weist bereits über dieses System hinaus auf ein Sprachideal hin – nicht auf eine „ideale Sprache“, sondern auf die regulative Idee der Offenheit für Alternativen, wie sie im Epilog dargelegt wird. Ein Sprachmodell bewegt sich innerhalb des Systems, das aus seinen Daten gewonnen wurde. Es erzeugt Werte innerhalb dieses Systems, darunter auch neue und überraschende. Es vollzieht jedoch nicht den Schritt über das System hinaus hin zu einem Ideal, an dem das System selbst gemessen werden könnte. Auch das, was das Modell über sich selbst „sagt“, bleibt ein Wert innerhalb seines eigenen Systems – und keine Explikation der Bedingungen seines eigenen Sinns. Die Forschung, die versucht, diese Systeme von außen her zu erhellen, benötigt ihrerseits eine eigene Beschreibungsebene: Dies ist der Regress, der in Kapitel 2.21 thematisiert wird. Die zweite Hälfte der These von 1986 hat daher nichts von ihrer Relevanz eingebüßt. Die Maschine kann sich zwar in ihrem System verstricken, doch sie kann nicht über dieses hinausgehen. Die Unterscheidung, um die sich dieses Buch dreht – jene zwischen einer ermöglichenden impliziten und einer paradoxieerzeugenden expliziten Selbstbezüglichkeit –, ist heute aktueller denn je. Hinzu kommt eine dritte Erkenntnis: Implizite Selbstbezüglichkeit ist nicht bloß ein Mechanismus. Sie ist Reflexion, und Reflexion existiert nur im Bereich von Sinn und Verstehen.
Dies gilt auch für die vorliegende Übersetzung. Die Maschine hat fehlerhafte Textstellen korrekt wiederhergestellt – etwa Sätze, die bei der Digitalisierung des Originals durcheinandergeraten waren, verschobene Fußnoten oder beschädigte Formeln. Es wirkte, als hätte sie diese Passagen aus ihrem Sinnzusammenhang heraus rekonstruiert; die Effizienz dieses Verfahrens ist in der Tat erstaunlich. Doch zu einer Übersetzung wurde das Ergebnis erst dadurch, dass ich jede einzelne Passage gelesen, verstanden und überprüft habe – und die Verantwortung dafür übernommen habe.
Dies ist keine bloße Formalität; es ergibt sich aus der Sache selbst. Symptome eines korrekten Sprachgebrauchs reichen nicht aus. Sinn entsteht erst im Bedeuten und Verstehen, im Urteilen und in ethischer Verantwortung – dort also, wo über Sprache reflektiert und sie auf ein Ideal hin überschritten wird. Je besser Maschinen darin werden, diese Symptome hervorzubringen, desto deutlicher wird dies. Wir brauchen Philosophie.