Die Gedankenlosigkeit des Gedankenlesens

Vortrag bei den Cologne Futures 2018: Aus dem MK‑Sonderheft zum Thema „Medienevolution“

Von Gert Scobel
26.07.2019 •

Der folgende Text ist das Transkript des einführenden Vortrags von Gert Scobel, gehalten am 2. Oktober 2018 bei den „Cologne Futures“, abgedruckt im „Medienkorrespondenz“-Sonderheft „Medienevolution“, MK-Ausgabe Nr. 15/16 vom 19. Juli 2019. Die Cologne Futures 2018 wurden vom Kölner Institut für Medien- und Kommunikationspolitik (IfM) in Kooperation mit der Deutschen Telekom, der Stadt Köln, dem WDR und der Kölner Kunsthochschule für Medien (KHM) organisiert und fanden am 2. Oktober 2018 in der KHM statt. Das Thema der Veranstaltung, die sich jährlich der Medienevolution widmet, lautete diesmal: „Brainreading und soziale Kontrolle als technologische und politische Felder. • MK

- - - - - - - - - - - - - - - -

Die Sache scheint wirklich einfach zu sein. Gedanken zu lesen sei, so das Versprechen der Gedankenleser-Propagandisten aus dem Silicon Valley, ebenso einfach wie eine Reklame, eine WhatsApp-Nachricht oder ein Buch zu lesen. Komplexer wird es nicht. Da ist ein Muster auf dem Papier oder einem Bildschirm. Da ist ein Muster im Gehirn. Dort ist ein Leser und sein Lesegerät. So einfach!

Die Vorstellung der Einfachheit beruht auf zwei Erfahrungen. Die erste ist, dass wir tatsächlich bereits im Kindesalter lesen lernen können. Die zweite ist, dass offensichtlich schon Kinder Gedanken lesen können, etwa wenn sie erkennen, dass ihre Eltern wirklich sauer sind. Beides scheint, buchstäblich, kinderleicht zu sein. Tatsächlich ist die Aussage, ein Buch sei ein einfacher Gegenstand, auf den ersten Blick einleuchtend. Das Wesentliche eines Buches sind die Muster, die auf Papier gedruckt und in der richtigen Reihenfolge zusammengebunden werden. Ähnlich verhält es sich bei der modernen, Strom verbrauchenden Version des Buches. Auch das elektronische Buch besteht aus Mustern, die auf einem Bildschirm realisiert sind. Und dann folgen der Trick und Höhepunkt der Geschichte vom Gedankenlesen. So wie ein Buch aus Mustern besteht, bestehen Gedanken aus nichts anderem als Mustern. Wenn man solche Muster des Gehirns abbildet, etwa durch einen Scan, der mit Hilfe geeigneter Methoden der Informationsverarbeitung die Muster zu interpretieren gelernt hat, dann kann man Gedanken lesen – so wie man in einem Buch liest, das ebenfalls ein Abbild der Gedanken seines Autors oder seiner Autorin ist.

Die Silicon-Valley-Version

In der Silicon-Valley-Variante des Gedankenlesens ist klar, dass es kein Gedankenlesen ohne einen Computer gibt, der das Muster des Gehirns, das in Neuro geschrieben ist, in ein von uns direkt verstehbares Muster von Bedeutungen übersetzt. Dass wir Menschen offenbar auch ohne Computer und Kenntnis von den Mustern in den Gehirnen anderer Menschen, sprich: von ihren Gedanken und Gefühlen haben können – nun, das ist ein Ergebnis von Jahrhunderttausenden der Evolution. Man muss den Computern noch ein wenig Zeit lassen, dann können sie das selbstverständlich auch. Denn das einzige Kunststück besteht im Grunde lediglich darin, zu erkennen, dass das, was man denkt – der Gedanke also –, ähnlich wie ein Reiter auf dem Muster einer Gehirnaktivität sitzt. Wenn man ein wenig geübt ist, dann erkennt man den Reiter schon von weitem an dem Pferd, auf dem er sitzt. Dass dieser Gedanke etliche Annahmen machen und vieles voraussetzen muss, hat unter anderem der Neurophilosoph Thomas Metzinger herausgearbeitet. „Die Methoden der Hirnforschung haben“, so Metzinger über die gängige Vorstellung des Gedankenlesens, „stets nur den Träger im Visier – also das neuronale Muster im Gehirn, auf dem der Inhalt ‘reitet’.“ Wie aber, lautet seine Frage, kommt man tatsächlich an diesen angeblichen Inhalt heran, wenn das, was die bildgebenden Verfahren zeigen, „durch viele weitere Faktoren als nur durch das Gehirn festgelegt“ ist? (Thomas Metzinger: Gedankenleser im Kreuzverhör, in: „Gehirn & Geist“ Nr. 3/2006, S. 37-41.)

Etwas zugespitzt lässt sich behaupten, dass die Silicon-Valley-Version der einfachen Geschichte vom Gedankenlesen unterschlägt, dass sie selbst eine vereinfachende Geschichte ist – ein moderner Mythos. Denn es ist eine Tatsache, dass es bis heute keine einzige Gesamttheorie gibt, die beginnend mit der Funktionsweise einzelner Ionenkanäle in Nervenzellen bis hin zur Funktionsweise des Gehirns als Ganzem all seine Aktivitäten einschließlich der Entstehung des Bewusstseins lückenlos erklären könnte. Es ist immer noch nicht wirklich klar, wie aus den gleichen biochemischen Signalen – dem vielfältigen Feuern der Millionen von Neuronen, die sich im Gehirn zu Clustern verbinden und einander überlagernde Meta-Muster bilden können – am Ende sprachlich verfasste Gedanken oder hörbare Sprache werden können.

Wie „übersetzt“ sich die Biochemie der Zellen in die Bedeutung von Gedanken? „Ist“ ein Gedanke tatsächlich nichts anderes als ein Muster von feuernden Nervenzellen (und welche sind es genau, wenn ich Zelle sage, damit aber ebenso „Nervenzelle“ wie „Terrorzelle“ meinen kann)? Diese Fragen sind zur Zeit noch ebenso ungeklärt wie die Richtigkeit der Auffassung, Gedanken und Bewusstsein seien kausal verursachte (Epi-)Phänomene identifizierbarer neuronaler Aktivitäten des Gehirns. Letztlich unbeantwortet bleiben auch schlüssige Antworten auf Einwände wie den, dass Sprache keine Eigenschaft einzelner Zellen in einem isolierten Gehirn sei, sondern vielmehr ein intersubjektiv geteiltes Vermögen einer Gemeinschaft von Menschen, die eine Sprache mit all ihren Regeln erlernt haben, sprechen und verstehen. Sprache wäre demnach keineswegs allein auf Gehirnaktivitäten zurückzuführen, sondern in demselben Maße auch auf ein ganzes Arsenal von kommunikativen und sozialen Alltagshandlungen. Wenn Sprache und insofern auch sprachlich verfasste Gedanken mehr als ein Gehirn brauchen, um zu entstehen, und insofern eine nicht über Gehirne erfolgende Vernetzung von Menschen (und nicht allein von deren Gehirnen) voraussetzt: Kann es dann bei der These bleiben, Gedanken seien ausschließlich Produkte von Gehirnen? Ohne Vernetzung von Menschen bleibt das Erlernen einer Sprache aus. Ein Mensch, der lediglich seine Privatsprache spricht – etwa in der Form eines Neuro-Sprechs – kann sich bekanntlich nicht selbst verstehen.

Der Fingerabdruck der Gehirnaktivitäten

Der Einwand liegt nahe, dass dieses skeptische Bild zu einseitig ist und die Fortschritte der an der Gehirnforschung beteiligten Wissenschaften künstlich herunterspielt. Schließlich werden ja bereits moderne Spielarten eines Gedanken-Lese-Detektors, das „Brain-Fingerprinting“, in Gerichtsverfahren in den USA eingesetzt. Auch hier ist die Vorstellung letztlich einfach: So wie ein Fingerabdruck einen Täter identifizieren hilft, so hilft der Abdruck seiner Gehirnaktivitäten seine Gedanken und damit sein Inneres zu identifizieren, so sehr ein Täter diese auch zu verschleiern versuchen.

Der Psychiater und Philosoph Thomas Fuchs leitet seit annähernd 15 Jahren das Referat „Philosophische Grundlagen“ der Deutschen Gesellschaft für Psychiatrie, Psychotherapie und Nervenheilkunde. Als Professor für Psychiatrie und Psychotherapie an der Universität Heidelberg und Direktor des Interdisziplinären Forums für Biomedizin und Kulturwissenschaften (IFBK) erforschte Fuchs unter anderem. den Zusammenhang von Gedanken und Kultur. „Schon jetzt ist es prinzipiell möglich“, schrieb er 2006, „an Gehirnaktivitäten zu erkennen, ob jemand an Gesichter oder an Gebäude denkt, da die entsprechenden Reizkategorien an unterschiedlichen Stellen der Sehrinde verarbeitet werden. Auch die Aufmerksamkeit des Wahrnehmenden lässt sich erfassen: Mittels Kernspin-Aufnahmen von Hirnaktivitäten konnten Forscher bestimmen, ob sich eine Versuchsperson beim Betrachten eines Bildes mit diagonalen Streifenmustern mehr auf die nach links oder nach rechts oben verlaufenden Streifen konzentrierte. „Nun arbeiten Universitäten, Privatfirmen und Militärlaboratorien in den USA mit Hochdruck an der Entwicklung von ‘Mind-Scannern’, also Kernspin-Geräten, die beispielsweise potenzielle Attentäter an ihrer stressbedingten Gehirnaktivität erkennen können. Weiter sollen ‘Gehirn-Fingerabdrücke’ (brain fingerprints) nachweisen, ob eine Person über bestimmte Informationen verfügt, die ihr vorgelesen werden und die nur ein Verbrecher kennen kann: Das Gehirn verrät sich durch bestimmte EEG-Muster, mit denen es auf bekannte Stichworte reagiert.“ (Thomas Fuchs: Neuromythologien. Mutmaßungen über die Bewegkräfte der Hirnforschung. In: „Scheidewege. Jahresschrift für skeptisches Denken“, Nr. 36/2006, S. 184-202, https://www.klinikum.uni-heidelberg.de/fileadmin/zpm/psychatrie/fuchs/Neuromythologien_01.pdf, S. 11.)

Kommerzielle und militärische Interessen

Die Bedeutung einer solchen Anwendung ist unmittelbar einsichtig. Man braucht weder Geständnisse noch die Mitarbeit eines Angeklagten – der Fingerabdruck seiner jeweiligen Gehirnaktivitäten reicht. Wie häufig bei der Entwicklung neuer Technologien ist der Wunsch stark, mit diesem informationstheoretischen Ansatz („Gehirne zu lesen, ist so einfach wie Krimis zu lesen“) Techniken zu entwickeln, die tatsächlich die Machbarkeiten und damit die Anwendbarkeit von Gedankenlesemaschinen beweisen. Nicht nur die Medizin, auch Geheimdienste und das Militär haben an einer solchen Technologie großes Interesse. Da es jedoch bislang keine lückenlose Erklärung der Grundlagen dieser Technologie gibt (und die bestehenden Maschinen zudem immer noch eine hohe Fehlerrate aufweisen), übt sich die Gedankenlese-Community in einer geschickten Mischung aus bescheidenem Kleinreden und großartigen Zukunftserwartungen. Schließlich dient auch die Big-Data-Analyse von Hunderten von Millionen Chinesen dazu, deren Verhalten exakt zu erfassen, zu bewerten und vorauszuberechnen. Ist nicht auch das eine Form des Gedankenlesens, das zur wesentlich wichtigeren Vorhersage von Verhalten führt?

Die Vermischung von fiktiven Vorstellungen, die bis zu Science-Fiction-Phantasien reichen, und realen technischen Entwicklungen führt dazu, an der technologischen Verwirklichung des Gedankenlesens mit hohem Aufwand zu arbeiten, selbst wenn einige der daran arbeitenden Wissenschaftler und Unternehmen durchaus zugeben, dass das Ziel erst in weiter Ferne erreicht werden könne. Immerhin sei es moralisch geradezu geboten, eine solche Technologie zu entwickeln – etwa mit Blick auf Patienten, die an einem Locked-in-Syndrom leiden. Ihnen könnte man helfen, sich mittels Gedankenauslese ihrer Gehirne wieder mit anderen Menschen zu verständigen. Mit Blick auf die Wissenschafts- und Technologiegeschichte kann man jedoch berechtigte Zweifel haben, ob die gegenwärtigen kostenintensiven Entwicklungen tatsächlich in erster Linie solchen medizinische Anwendungen dienen, die einer vergleichsweise geringen Zahl von Patienten zugutekommt, oder ob nicht doch in erster Linie militärische oder kommerzielle Anwendungen im Vordergrund stehen. Zumindest im deutschen Universitätssystem ist die kostspielige Entwicklung solcher Therapieansätze, die auf Brain-Computer-Interfaces beruhen, trotz Exzellenzinitiativen nicht ohne die Unterstützung der Industrie und damit nicht ohne die Verfolgung kommerzieller Ziele und Interessen möglich. Auch im Silicon Valley dürfte es kaum alleine darum gehen, Menschen mit einem Locked-in-Syndrom durch reine Gedankenkraft wieder Kommunikation zu ermöglichen oder die Benutzung von intelligenten Autos, denen sie mit Gedankenimpulsen sagen können, wohin diese fahren sollen. Es geht immer auch um anderes – und das sollte man nicht kleinreden.

Ein wesentlicher Teil der der abendländischen Philosophie kreist um die Frage, was Denken ist. Diese Frage zu beantworten, war notwendig, um überhaupt zu erklären, was Erkenntnis ist und was man tatsächlich tat, wenn man die Welt und sich selber denkend erforschte und verstehen wollte. Das Denken zu verstehen, war aber auch notwendig, um zu erklären, warum man gegebenenfalls von allem abwich, sich vom Selbstverständlichen lösen und sich von bereits Gedachtem wieder distanzieren wollte, um die Welt richtig zu denken und erkennen zu können, auch wenn dies bedeuten sollte, aktiv an der Zerstörung jener Gedankengebäude zu arbeiten, die andere mühselig errichtet hatten. Man musste also erklären, was Denken ist und warum man jetzt erst – Martin Heidegger hätte gesagt: eigentlich – denkt.

Gedanken sind Ausdrücke des Denkens, die von allem und nichts, von Gott ebenso wie von Einhörnern, Quantenzuständen, Zahlen oder Räumen wie diesem hier handeln können. Wobei die keineswegs einfach zu beantwortende Frage offenbleibt, was es beispielsweise heißt, einen musikalischen Gedanken zu haben. Klar ist nur: Immer dann, wenn es um Wissen geht und darum, zu wissen, dass, wie und was man weiß, wenn man etwas weiß, ist (richtiges) Denken erforderlich. Etwas zu wissen heißt, es denken zu können, es begreifen und begrifflich oder sogar mathematisch-formal erfassen zu können. Kein Wissen also ohne Denken, zumindest in einem ersten, intuitiven Sinn – auch wenn Philosophen wie Heidegger in der Spätphase der Geschichte des westlichen Denkens behauptet haben, die Wissenschaft denke nicht, sie rechne bloß.

Der Traum der Multimilliardäre

Denken dient zweifelsohne einerseits dazu, Wahrnehmungen zu interpretieren, andererseits aber auch dazu, mit diesen Interpretationen weiterzuarbeiten und aus ihnen neue Schlüsse zu ziehen. Man kann es wenden wie man will: In die Geschichte des Wissens und damit auch der Wissenschaften – als der Gesamtheit des Wissens und der Methoden, überhaupt zu solidem Wissen über die Welt zu kommen – ist die Geschichte des Denkens eingeschrieben. Ebenso wie ohne Denken keine Geschichte unserer Gesellschaften, unserer Politik, unseres Alltags und sogar von Verbrechen existiert, so gedankenlos diese am Ende auch erscheinen mögen.

Weitet man die Perspektive noch einmal, dann zeigt sich, dass es durchaus auch anders geht. Denn auch die Geschichte des Denkens beginnt nicht erst bei den Vorsokratikern und mit der griechischen Philosophie, sondern, zumindest was ihre systematische und schriftlich nachvollziehbare Form angeht, mindestens 1000 Jahre früher mit der indischen und chinesischen Philosophie. Deren zentrale Frage bestand aber weniger darin, die Struktur des Denkens und damit des Wissens zu erklären. Das Denken war in der indischen Philosophie und Psychologie lediglich ein weiterer Sinn wie alle anderen, mit dem einzigen Unterschied, dass man mit diesem sechsten Sinn eben nicht Dinge oder Gerüche wahrnehmen konnte, sondern Begriffe und Gedanken. In der indischen Philosophie gibt es daher eine große Nähe zwischen Gedanken, Gefühlen und Sinneswahrnehmungen. Ein Effekt dieser Entscheidung ist erstens, dass die indische Philosophie sich im Vergleich zur westlichen früher und ausführlicher mit der Frage befasste, was denn eigentlich Bewusstsein sei und wie es funktioniert. Immerhin ist Bewusstsein die offensichtliche Bedingung der Möglichkeit dafür, überhaupt etwas wahrnehmen und denken zu können. Zweitens aber begannen die Inder auch, sich statt für Wissen vor allem für Weisheit zu interessieren, das heißt für ein Denken, das helfen könnte, die Abgründe der Existenz zu ertragen und ein nachhaltig gutes Lebens zu führen.

Im Westen ist das Interesse am Bewusstsein erst mit der Neuzeit und vollends in den letzten Jahrzehnten zu einem beherrschenden Thema geworden. Dies hängt vor allem mit den Entwicklungen in den Neurowissenschaften und der sogenannten Künstlichen-Intelligenz-Forschung zusammen. Der heimliche Traum vieler der Multimilliardäre des Silicon Valley besteht darin, tatsächlich Unsterblichkeit zu erlangen, weil es möglich wird, das eigene Gehirn so auf ein informationsverarbeitendes System zu überspielen, dass eine Abtrennung vom kranken Körper erfolgen kann. Auch die Idee einer künstlichen Intelligenz hat weniger damit zu tun, autonom und erfolgreich spielende Schach- und Go-Computer zu bauen, sondern autonome Roboter und artifizielle Körper, die ein prinzipiell unsterbliches Bewusstsein steuert.

Die Idee, die uns hier auf dem eintägigen „Cologne-Futures“-Kongress beschäftigt, das Gedankenlesen, scheint aus der Standard-Neuro- und KI-Sicht zwar im Detail kompliziert, am Ende jedoch sehr einfach zu sein. Die Idee, Gedanken so wie ein Buch lesen zu können, etwa indem man in den Mustern von Gehirnen „liest“ und sie versteht, geistert seit langem schon in Form von Fiktionen und Gedankenexperimenten durch die Forschung und wird seit der Erfindung des EEG um 1875 zunehmend ernst genommen. Auch EEGs sind Lesehilfen, mit denen wir verstehen können, was Gehirne denken und fühlen.

Nicht nur als Philosoph wird man eine Reihe von Gegenargumenten anbringen können, die einen ganzen Rattenschwanz von Diskussionen nach sich ziehen. Auch wenn der Begriffsnebel dabei dicht sein mag, so scheint mir, dass eine Reihe dieser Einwände bislang nicht wirklich entkräftet wurde. Ein solches Argument lautet simpel und einfach: „Gehirne denken nicht – wohl aber Menschen.“

Kommunikation mit Menschen oder Gehirnen?

Oder, in einer etwas erweiterten Form: Gehirne denken nicht – wohl aber bestimmte Tiere wie Schimpansen oder Tintenfische oder Delphine und auch Menschen. Sie denken, nicht aber ihre Gehirne – auch wenn Tiere wie Menschen zweifelsfrei mit Hilfe ihrer Gehirne denken. Aber es sind nicht ihre Gehirne, die sozusagen auch ohne Mensch, von sich aus denken. Das ist unter anderem deshalb fraglich, weil jeder Mensch ist, insofern er eine Sprache benutzt, faktisch keineswegs darauf angewiesen ist, mit anderen Gehirnen zu kommunizieren, sondern mit anderen Menschen – und nicht etwas mit Gehirnen im Tank. Die Art und Weise, wie wir von Kindesbeinen an, ohne bereits sprechen zu können, ohne je eine Grammatik oder Vokabeln zu studiert zu haben, dennoch verhältnismäßig schnell komplexe Sprachen erlernen können: All das geschieht auf vielfältige Weise durch Zuwendung, Berührung, Zeigen, Tun und Nachahmen und eine Reihe anderer sozialer Interaktionen. Nicht aber, indem man Kinder vor ein Gehirn setzt. Die Sprache, die wir sprechen, verdankt sich einem Wir, einer Gemeinschaft von Menschen, in die wir hineingewachsen sind – nicht aber der Interaktion von Gehirnen.

Der Kognitionswissenschaftler und Philosoph Daniel Dennett schreibt in seinem neusten Buch „Von den Bakterien bis zu Bach – und zurück“: „Selbst wenn es uns eines Tages gelingt, diejenigen Wörter zu identifizieren, die anderen Menschen durch den Kopf gehen, bedeutet das noch nicht, dass wir dann auch ihre Gedanken lesen könnten. Um das einzusehen, denken Sie nun bitte fünf Mal hintereinander den Satz ‘Nieder mit der Demokratie!’ Selbst wenn ich herausfinden könnte, was Ihnen gerade durch den Kopf ging, würde mir das doch offenbar nicht zeigen, ob sie auch daran glauben! Wenn das Gedankenlesen dieser Art irgendwann Wirklichkeit wird, hätte die Identifikation von Geist-Wort-Token in etwa die gleiche Beweiskraft wie eine Tonbandaufnahme heute: ein gutes, aber keineswegs eindeutiges Indiz.“ (Daniel Dennett, Von den Bakterien zu Bach – und zurück: Die Evolution des Geistes, Berlin 2018, S. 211.)

Etwas weiteres kommt hinzu: Es ist nicht nur unwahrscheinlich, sondern weitgehend ausgeschlossen, dass die gesamten Ereignisse Ihres Gehirns, die notwendig sind, damit Sie beispielsweise „Gehirn“ oder „Wort“ oder „Denken“ denken können, meinen eigenen Gehirnvorkommnissen, wenn ich dieselben Begriffe denke, in, wie Dennett schreibt, „Gestalt, Lage oder anderen physikalischen Eigenschaften physikalisch ähneln“. Zwar ist es bekannt, „dass das Wissen um verschiedene Typen von Wörtern – für Nahrungsmittel, Musikinstrumente oder auch Werkzeuge – in bestimmten Gehirnbereichen gespeichert wird (wenn diese von einem Schlaganfall oder einem Unfall betroffen sind, geht das Wissen um diese bestimmten Bedeutungen verloren)“. Ihr Token „Violine“ – also Ihre konkreten mentalen Zustände, die das Wort begleiten – und mein Token „Violine“ könnten demnach also durchaus im gleichen Gehirnbereich verortet sein. Doch Dennetts Einwand sticht, dass „auch in den kühnsten Forscherträumen die Bestimmung des Ortes von ‘Violine’, ‘Trompete’ und ‘Banjo’ in meinem Gehirn nicht dabei helfen wird, diese Ausdrücke in Ihrem Gehirn zu finden.“

Hinzu kommt noch ein weiterer Punkt: Es ist unklar, ob ich, wenn ich heute „Trompete“ denke, dann auf meiner Trompete ein Solo von Chet Baker übe, dann abends ein Konzert spiele und morgen im Labor wieder „Trompete“ denke, wirklich zweimal exakt dieselben Muster im Gehirn erzeuge. Es ist sogar eher wahrscheinlich, dass diese sich durch die Erfahrungen, die ich mache, weiter verändern. Eine Erinnerung, die ich abrufe, ist immer die letzte Version der Überarbeitung dieser Erinnerung, die jedesmal aufs Neue aufgerufen und „abgespeichert“ werden muss. Eine Identität von „Trompete“ damals, als ich ein Kind war, und heute wäre aber die notwendige Voraussetzung dafür, Gedanken überhaupt per Scan lesen zu können.

Es wäre schwer, wenn nicht unmöglich, Gedanken zu lesen – bildhaft gesprochen also: ein rotes Klötzchen im Gehirn zu erkennen –, wenn dieses Klötzchen im Gehirn ständig Farbe und Form ändert und am Ende überhaupt nicht mehr wie ein Klötzchen aussieht. Auch das wird ein Problem sein, mit dem man sich, auf streng neuroanatomischer und neurophysiologischer Basis, wird befassen müssen, wenn von Gedanken-Lesen die Rede ist.

Google weiß besser als wir selbst, was wir denken

Noch ein letzter Gedanke scheint mir für das Thema von Bedeutung zu sein. Mit Blick auf Big Data und die Möglichkeiten lernfähiger Algorithmen scheint man heute sagen zu können: Vergesst das Denken. Vergesst die Abläufe im Gehirn. Aufgrund der Bewegungen im Netz, aufgrund des Verhaltens im Virtuellen sind wir mit Hilfe unserer datenbasierten KI-Systeme nicht nur in der Lage, vorherzusagen, was Sie als nächstes tun, kaufen, wählen, posten oder sogar löschen werden. Wir werden auch in der Lage sein, ihre Gedanken zu lesen. Wir werden sogar vorhersagen können, ob Sie bei dem, was wir Ihnen anbieten, freudig reagieren oder wütend oder ängstlich oder enttäuscht sein werden. Genau das ist die Gedanken-Lesen-Vorstellung von Google & Co. Denken findet nicht primär in Gehirnen statt, sondern in der Verbindung der Daten, die wir haben. Das bedeutet tatsächlich auch, dass Google besser als wir selbst weiß, was wir denken, und damit, was wir wollen. Tatsächlich hat Google mit der Entwicklung eines Programms begonnen, das die Algorithmen der klassischen Suchmaschine ergänzt, indem es herauszufinden versucht, was der Nutzer mit seiner Sucheingabe wirklich gemeint hat (http://googleblog.blogspot.com/2010/01/ helping-computers-understand-language.html).

Mit Blick auf dieses Programm schrieb der bekannte Physiker, Informatiker und Kognitionswissenschaftler Douglas Hofstaedter an Abhijit Mahabal, einen seiner ehemaligen Studenten, der zu Google gegangen war, um eben jenes Programm in jener neu gegründeten Forschungsabteilung zu entwickeln: „Ich möchte Maschinen, die zuverlässig mechanisch arbeiten und nicht ständig im Begriff sind, sich meinen Befehlen zu widersetzen. Die vermeintliche ‘Intelligenz’ der Maschinen mag ja in manchen Fällen nützen, doch in anderen Fällen kann sie äußerst unnütz und sogar schädlich sein. In meinem Fall ist die künstliche Intelligenz (das Wort ‘künstlich’ verwende ich hier im Sinn von ‘gefälscht’, ‘unecht’), die heutzutage um sich greift, so gut wie immer ein großes Ärgernis. Daher bin ich nicht erfreut darüber, woran deine Gruppe arbeitet, sondern vielmehr stark beunruhigt. Es ist nur ein weiterer Versuch, mechanische Geräte unzuverlässiger zu machen. Man bittet Google, X zu tun, und erwartet, dass es einzig und allein X tun wird. Stattdessen tut es Y, weil es ‘denkt’, man meine Y. Meiner Meinung nach ist dieser Versuch des Gedankenlesens unglaublich lästig und vielleicht sogar gefährlich, weil er so gut wie nie auch nur ansatzweise gelingt. Ich will, dass meine Maschinen weiterhin zuverlässig mechanisch arbeiten, damit ich sicher sein kann, womit ich es zu tun habe. Sie sollen nicht versuchen, es besser zu wissen, da sie mich so am Ende nur irreführen und verwirren. Es handelt sich hier um einen ganz grundsätzlichen Punkt, und dennoch scheint ihn Google (oder zumindest deine Gruppe) komplett zu ignorieren. Meiner Meinung nach ist das ein Riesenfehler.“ (Zitat aus Daniel Dennett, a.a.O., S. 441f.)

Gedankenlesen in der Google-Version ist keinesfalls ohne Tücken. Solange wir nicht bereit sind, der angeblich „einfachen“, in ihrer grundlegenden Theorie jedoch nachweislich lückenhaften und in der praktischen Anwendung immer wieder zu Fehlern führenden Gehirnlesetechnologie auch in der Variante mit künstlicher Intelligenz zu vertrauen, bleibt einstweilen nur die Fähigkeit, die Gedanken anderer Menschen zu lesen in der Version mit biologischer und insofern natürlicher Dummheit. Auch diese vorinstallierte Soft- und Hardware-Kombination, mit deren Hilfe wir lernen können, Gedanken anderer Menschen zu lesen, ist bekanntlich nicht ohne Tücken und führt nicht selten in die Irre. Noch ist die Frage offen, ob wir mit Hilfe computergestützter Technologien tatsächlich weiter sind. Auch mit einer gut funktionierenden Technologie werden wir in Zukunft nicht umhinkommen, wie bei jeder Technologie Vor- und Nachteile gegeneinander abzuwägen. Keine bedeutende Technologie hat bisher nur Vorteile gehabt, zumal eine Dual-Use-Anwendung immer möglich ist. Eine weitreichende Technologie wie das Gedankenlesen, von der vor Gericht abhängen könnte, über die Wahrheit zu urteilen (und in der Folge jemanden aufgrund dieser Einschätzung zu verurteilen), sollte höchsten wissenschaftlichen Qualitätsstandards in Theorie und Praxis genügen.

Dass der Schutz des Individuums und unsere Definition der Privatsphäre sich durch möglicherweise neu entstehende Technologien des Gedankenlesens ändern werden, sollte in Zeiten steigender antidemokratischer Tendenzen gründlich mitbedacht werden. Mit den Möglichkeiten des Gedankenlesens steht, nicht zuletzt in Kombination mit deren Anwendung im Sinne einer flächendeckenden staatlichen Überwachung, die Frage im Raum, ob Gedanken nach wie vor ein unverletzliches Gut bleiben können und sollten – ein Gut, auf das anderen Menschen und dem Staat, wenn überhaupt, nur nach ausdrücklicher Einwilligung ein Zugriff erlaubt werden sollte.

26.07.2019/MK

Print-Ausgabe 24/2019

Inhalt

Abonnement

Jetzt abonnieren