BEWUSSTSEIN, EINE EPISTEMISCHE GRENZE DER WISSENSCHAFT

Andreas Blessing

Besteht die Möglichkeit, dass unser Bewusstsein das Rätsel seiner eigenen Existenz lösen wird, oder muss uns diese tiefste Erkenntnis vorenthalten bleiben aufgrund der unzureichenden Kapazität unseres Gehirns.

Zusammenfassung:

Eine Einführung in grundlegende Probleme der Bewusstseinsforschung wird gegeben, daraufhin wird ein sprachliches Modell des Bewusstseins vorgestellt. Die Schwierigkeiten sprachlicher Modelle sowie verschiedener alternativer Erklärungsansätze werden zusammengefasst und eine naturalistische Position der Unerklärbarkeit des Phänomens Bewusstseins für uns Menschen wird vorgestellt.

Abstract:

First I will give an introduction to the basic problems of the science of consciousness followed by explaining a verbal model of consciousness. Than, I will continue to summarise issues concerning verbal and other models of consciousness. At last, I will explain a naturalistic point of view stating that for humans consciousness is inexplicable.

Die Fähigkeit der Neurowissenschaften, das Rätsel des menschlichen Bewusstseins zu lösen, wird von einigen führenden Neurobiologen pessimistisch eingeschätzt (z.B.:Gunther Stent 1978). Obwohl es sich beim Problem, das menschliche Bewusstsein zu erklären, um ein Problem des Geistes großer Tragweite handelt und im besonderen in jüngster Zeit Anstrengungen diesbezüglich unternommen worden sind, ergibt sich aus den bisherigen Befunden kein kohärentes Bild. Die Erforschung des Geistes befinde sich in einem primitiven Zustand, wird gelegentlich behauptet, was angesichts der bahnbrechenden Erkenntnisse in anderen Bereichen, wie etwa der Evolutionstheorie in der Biologie oder der Relativitätstheorie in der Physik und der Anfälligkeit der Psychologie für Moden, wenig verwunderlich erscheint. Lässt unser Erkenntnisvermögen, das durch die Leistungsfähigkeit unseres Gehirns begrenzt wird, ein Verstehen des Bewusstseins zu bzw. kann unser Gehirn sich selbst erklären? Diese Frage soll im folgenden thematisiert, auch sollen Perspektiven aufgezeigt werden. Zunächst soll versucht werden, anhand von Beispieldefinitionen den Bewusstseinsbegriff einzugrenzen. Das Problem des Bewusstseins soll als transdisziplinäres Problem erkannt werden, daraufhin sollen verschiedene Methoden der Erforschung aufgezeigt werden. Ein sprachliches Bewusstseinsmodell soll vorgestellt und kritisiert werden. Anschließend sollen eine Bilanz der bisherigen Erkenntnisse und Kritik der verschiedenen Modelle einen Ausblick ermöglichen auf die zukünftigen Erfolgsaussichten wissenschaftlicher Bemühungen, die sich dem Thema zuwenden. Die Position des antikonstruktiven Naturalismus soll abschließend vorgestellt werden.

Definitionen von Bewusstsein

Zunächst müssen wir feststellen, wovon wir sprechen, wenn wir sagen, jemand besitze Bewusstsein. Der Begriff Bewusstsein hat verschiedene Bedeutungen in unserem Sprachgebrauch. Was bedeutet es, sich eines Verhaltens bewusst zu sein? Wird damit einzig das Wissen um ein bestimmtes Verhalten bezeichnet? Intuitiv haben wir alle ein Verständnis vom Begriff des Bewusstseins, das sich nicht leicht in eine exakte Definition fassen lässt. Wir alle kennen die inneren Zustände, die unser subjektives Erleben charakterisieren. Für uns Menschen beinhaltet Bewusstsein eine emotionale Komponente, ein Gefühl der Einheit und Individualität. Eine Definition zu erarbeiten, die alle Eigenschaften einbezieht, die wir dem Bewusstsein zuschreiben wollen und dennoch eine Abgrenzung von anderen Zuständen erlaubt, ist ein schwieriges Unterfangen. Da sich die Eigenschaften, die wir mit dem Begriff des Bewusstseins verbinden nicht leicht in eine Definition fassen lassen, kann eine Einführung anhand von Beispielen und Gegenbeispielen nützlich sein. Wenn wir schlafen oder im Koma liegen, ist die Abwesenheit von Bewusstsein festzustellen. Gegenbeispiele von Bewusstsein sind leicht zu finden; Beispiele von Bewusstsein lassen sich dagegen schwer von Gegenbeispielen abgrenzen. So kann der Wachheitszustand nicht uneingeschränkt als bewusst bezeichnet werden. Eigenschaften von Bewusstsein scheinen durch Gegenbeispiele leider nicht deutlich zu werden, was sich an den aufgeführten Beispielen der Abwesenheit von Bewusstsein offenbart.

Zahlreiche Wissenschaftler haben sich trotz der Schwierigkeiten um eine Definition bemüht. Eine weit gefasste Definition von dem Philosophen Chalmers schreibt jedem Objekt, das Informationen verarbeitet, Bewusstsein zu, wobei die Komplexität der Erfahrung von der Komplexität der Informationsverarbeitung abhängt (Chalmers 1995). Auch ein Thermometer besitzt folglich Bewusstsein. Penrose (1997) beschreibt den Standpunkt, „ein System sei sich einer Sache bewusst, wenn es in sich ein Modell dieser Sache habe, und ein System werde selbstbewusst, sofern es in sich ein Modell von sich selbst trage" und führt diesen Standpunkt ad absurdum, denn dieser Sachverhalt würde auch für eine auf einen Spiegel gerichtete Kamera gelten, der niemand Selbstbewusstsein zuschreiben will. Crick beschreibt Bewusstsein als die Fähigkeit des Gehirns, sich auf eine bestimmte Anzahl der Phänomene konzentrieren zu können, die auf uns einwirken (Crick 1997). Ebenfalls auf Aufmerksamkeitsprozesse bezogen definiert Pöppel „`Bewußt` ist jener Zustand, bei dem für jeweils wenige Sekunden aufgrund eines intergrativen Mechanismus des Gehirns `Mentales` repräsentiert ist, d.h. im Fokus der Aufmerksamkeit steht." (1989, S.30). Nach Euan Macphail (1998) ist für Bewusstsein ein Selbstkonzept notwendig, die Fähigkeit zwischen sich und der Umwelt unterscheiden zu können, allein sei nicht ausreichend und nicht möglich. An Vorschlägen, wie Bewusstsein definiert werden kann, und was zu berücksichtigen ist, mangelt es nicht; eine einheitliche Definition ist aus diesen unterschiedlichen Perspektiven nicht abzuleiten. Das Unvermögen, den Bewusstseinsbegriff genau zu bestimmen, sollte uns nicht resignieren lassen. Bei der Betrachtung der verschiedenen Theorien und Modelle sollte die jeweilige Definition von Bewusstsein berücksichtigt werden, um falschen Schlussfolgerungen und Kritiken vorzubeugen.

Alle Ansätze, die versuchen, Bewusstsein zu erklären, haben sich mit solchen grundlegenden Problemen wie dem Definitionsproblem von Bewusstsein auseinander zusetzen. Herrschende Uneinigkeit über die Definition von Bewusstsein, muss zu unterschiedlichen Vorstellungen und Modellen führen; dies dürfen wir keinesfalls vergessen bei der Betrachtung verschiedener Theorien.

Transdisziplinarität

Die verschiedensten Disziplinen sind an der Erforschung des Bewusstseins beteiligt:

Psychologie, Psychiatrie, Neurowissenschaft, künstliche Intelligenz, Chaostheorie, Physik, Philosophie und viele andere. Interdisziplinäres Arbeiten rückt zunehmend mehr in den Fokus der Aufmerksamkeit; es soll helfen, aus den Erkenntnissen der verschiedenen Disziplinen ein einheitliches Bild zu gewinnen. Der Versuch, durch interdisziplinäre Bemühungen Fortschritte zu erreichen, stellt sich als Flickwerk heraus, das die Unzulänglichkeiten disziplinären Denkens und Problemlösens aufzeigt. Bei der Lösung der Rätsel des Bewusstseins handelt es sich eigentlich um ein Problem das transdisziplinär zu lösen ist, es kann keiner wissenschaftlichen Disziplin zugeordnet werden und sollte jenseits fachlicher Grenzen definiert und gelöst werden. Wir werden feststellen, dass sich fast alle Ansätze einer Disziplin zuordnen lassen, sei es die bearbeiteten Fragestellungen betreffend oder die erarbeiteten Lösungen.

Aus der prall gefüllten Pralinenschachtel der Antworten, die uns die verschiedenen Disziplinen bieten, wollen wir uns in diesem Kapitel nur eine herauspicken, die uns am wenigsten unbekömmlich erscheint, um sie genauer zu betrachten. Bei der genaueren Betrachtung von Modellen des Bewusstseins sollen zahlreiche Modelle unberücksichtigt bleiben, um den Rahmen nicht zu sprengen; dafür soll das vorgestellte Modell besonders detailliert ausgeführt und anschließend kritisiert werden.

Methoden der Bewusstseinsforschung

Die Sehnsucht nach spiritueller Erfahrung zahlreicher Menschen führt zu einem Drang nach Selbsterkenntnis und Selbsterfahrung.

Die ersten Ansätze, die sich mit dem Bewusstsein auseinander setzten, beruhten auf der Methode der Introspektion, die dem Bedürfnis nach Selbsterfahrung nachkommt. Leider ist diese Methode der Untersuchung sehr kritisch zu betrachten. Die Informationen, die sie uns bieten kann, sind nicht sehr zuverlässig, was sich an einem einfachen Beispiel leicht zeigen lässt. Hören wir absolut nichts, so kann diese Erfahrung als die Abwesenheit von akustischer Wahrnehmung beschrieben werden oder als eine Wahrnehmung von Stille, je nachdem was für eine Theorie wir zugrunde legen (Baddeley 1997). Verschiedene Personen mit unterschiedlichen Theorien über die Wahrnehmung kommen deshalb zu verschiedenen Ergebnissen und Schlussfolgerungen. Eine kritische Frage für den Erkenntnisgewinn durch Introspektion ist folglich, warum erleben wir die Welt so, wie wir es tun?

Unsere persönliche Erfahrung ist zum Teil illusorisch. Ein farbenblinder Mensch nimmt eine rote Rose sicherlich anders wahr als jemand, der Farben sehen kann. Gadenne und Oswald (1991) stellen in einem der Problematik der Introspektion gewidmeten Kapitel fest: „ Wenn man davon ausgeht, dass alle Personen mentale Zustände erleben, so folgt daraus noch nicht, dass sie dazu in der Lage sind, diese Zustände bei sich selbst genau zu beschreiben, so dass die entsprechenden Berichte als wissenschaftliche Daten verwertet werden können."

Noch kritischer zu betrachten sind bewusstseinserweiternde Methoden zur Erforschung des Bewusstseins. Die Erfahrung der durch Meditation oder Drogen erreichten Bewusstseinszustände ist subjektiv und kann nicht mit wissenschaftlichen Methoden erfasst werden; außerdem handelt es sich um Ausnahmezustände in unserem Gehirn, die kaum auf dessen normale Funktionsweise rückschließen lassen.

Die moderne Neurowissenschaft lässt andere Methoden außer der wenig erfolgversprechenden Introspektion zu. Bei der Erforschung des Bewusstseins sollten wir uns zunächst auf bekannte, insbesondere neurophysiologische Methoden verlassen; diese Ansätze haben sich bewährt, die Funktionsweise des Gehirns aufzuklären. Dennoch werden sich mit diesen Methoden nicht alle Aspekte befriedigend erforschen lassen, was viel Raum für Spekulationen lässt.

Verschiedene Ansätze versuchen unterschiedliche Fragen zu beantworten und geben unterschiedliche Antworten. Warum wir die Welt erleben, wie wir es tun, kann mit den physiologischen Betrachtungsweisen nicht vollständig erklärt werden, aber die Funktionsweise und die Funktion des Bewusstseins können wie andere komplexe biologische Phänomene untersucht werden. Die Bewusstseinsforschung steckt noch in den Kinderschuhen, deshalb ist es nicht verwunderlich, dass die bisherigen Bemühungen kein konsistentes Bild ergeben. Es besteht die Möglichkeit, dass grundlegende Fragen vielleicht für immer unbeantwortet bleiben.

Sitz des Bewusstseins

Viele Spekulationen wurden bereits angestellt um das Bewusstsein aufgrund der Ergebnisse neoropsychologischer Untersuchungen in unserem Gehirn zu lokalisieren. Mit Sicherheit kann festgestellt werden, dass nicht alle Gehirnteile beteiligt sind am Zustandekommen von Bewusstsein. Evolutionsgeschichtlich ältere Gehirnteile sind an niedereren Prozessen beteiligt, wie das Kleinhirn, das an der Bewegungssteuerung beteiligt ist. Dennoch wurde als Zentrum für das Bewusstsein früher gelegentlich in der Formatio reticularis lokalisiert, die den Wachheitszustand reguliert ( Moruzzi und Magoun 1949). Der Wachheitszustand hänge mit Bewusstsein zusammen. Diese evolutionsgeschichtlich sehr alten Gehirnteile sind mit Sicherheit nicht der Sitz des Bewusstseins, üben lediglich durch die Steuerung der kortikalen Aktivität auf dieses ihren Einfluss aus. Der Kortex, Sitz der komplexesten Operationen im Gehirn und evolutionsgeschichtlich jüngster Gehirnteil, ist auch für das Bewusstsein verantwortlich, da es sich beim Bewusstsein um eine komplexe Funktion handelt. Für diesen Standpunkt spricht auch die nicht unbegründete Vermutung, sprachliche Prozesse seien von wesentlicher Bedeutung für das Bewusstsein. Sprachliche Fähigkeiten zeichnen die menschliche Spezies aus wie keine andere und ermöglichen uns zu beschreiben, was wir fühlen denken und erleben und vieles mehr, vermutlich auch, dass wir uns selbst sowie der Außenwelt bewusst sind. Unsere Großhirnrinde ist für sprachliche Prozesse verantwortlich, wobei sehr weite Bereiche beteiligt sind und nicht, wie manchmal fälschlicherweise angenommen wird, nur die als Brocasches und Wernickesches Areal bezeichneten Gebiete, die sogenannten Sprachareale (Pinel 1997). Die Bedeutung sprachlicher Prozesse wird in einem von uns vorgestellten Modell offensichtlich, das diese als grundlegend für Bewusstsein betrachtet.

Das Bindungsproblem

Als eine wesentliche Eigenschaft des Bewusstseins gilt die Erfahrung seiner Einheitlichkeit. Diese wirft Fragen auf, denn es muss erklärt werden können, wie unser Gehirn eine einheitliche bewusste Erfahrung hervorbringt. Es besteht keine zentrale Struktur, in der alle Informationen zusammen laufen; wenn wir etwas betrachten oder hören, sind unterschiedliche Strukturen an der Verarbeitung beteiligt. Wie aber setzt sich aus der Aktivität der verschiedenen beteiligten Regionen eine einheitliche Wahrnehmung zusammen? Dieses Problem wird als Bindungsproblem bezeichnet und als ein Schlüsselproblem zur Erklärung von Bewusstsein betrachtet. Manche Wissenschaftler schlagen vor, die verschiedenen Neuronen entladen sich mit derselben Frequenz und würden auf diese Weise eine Art Einheit bilden; eine solche Oszillation wurde nicht in allen Untersuchungen beobachtet. Quantenmechanische Ansätze erklären, Bewusstsein sei eine Eigenschaft, die entstehe durch das gemeinsame gleichzeitige Feuern einer unbestimmten Zahl von Neuronen. Die Gleichzeitigkeit des Feuerns, das sich über das Gehirn ausbreite, werde durch quantenphysikalische Vorgänge erreicht. Endet das Feuern, würde es durch ein neues ersetzt, und dieses wiederum durch ein neues und so weiter. Die Mikrotubulie, die das Zytoskelett der Zellen bilden, sollen dabei eine wesentliche Rolle spielen. Die Verbindung zwischen der Bewusstseinsfunktion des Gehirns und den Mikrotubulie wurde zunächst hergestellt durch Untersuchungen an Betäubungsmitteln, die zu einem Zustand der Bewusstlosigkeit führen. Die Funktionsweise zahlreicher Betäubungsmittel ist noch unklar, ihre chemische Zusammensetzung ist sehr unterschiedlich, und sie sind in der Lage, selbst Amöben zu betäuben, die Einzeller sind und kein Nervensystem besitzen. Hameroff und Watt (1983 in Penrose 1991) behaupten, die Fähigkeit von Betäubungsmitteln, Bewusstsein auszuschalten, entstehe durch ihre Eigenschaft quantenphysikalische Phänomene in den Mikrotubulie zu stören. Die Evidenz für diese Annahmen ist bislang gering, doch durch die Annahme der Kontrolle synaptischer Aktivität durch das Zytoskelett und einige Zusatzannahmen könnte das Bindungsproblem gelöst werden.

Die in meinen Augen wahrscheinlichste Lösung des Bindungsproblems, die sich derzeit abzeichnet, hängt mit der Vernetzung der verschiedenen Hirnregionen zusammen. Es handelt sich um das Reentry Prinzip oder Prinzip der Informationsvertiefung (Kolb &Whishaw, 1996, S.142). Die verschiedenen Regionen, die unterschiedliche Aspekte von Stimuli verarbeiten, sind miteinander in einer Weise verknüpft, die es ermöglicht, dass Informationen gemeinsam zugänglich sind. Eine Verarbeitungsregion kann durch den Mechanismus des Reentry Kortexregionen beeinflussen, aus denen sie Informationen erhält. Modifikationen der Information sind bereits möglich ehe die Informationen weitergeleitet wurden. Mit Hilfe von Computermodellen konnte gezeigt werden, dass möglicherweise das Bindungsproblem durch die Verknüpfungen und Reentry gelöst werden kann. Die Aktivität der Kortexareale wird korreliert, es kann ein einheitliches Wahrnehmungsmuster entstehen.

Der im Folgenden dargestellte Ansatz betrachtet das Problem des Bewusstseins von einer völlig anderen Perspektive und liefert uns weniger zweifelhaft anmutende, wenn auch keine exakte Antworten. Neuropsychologische Erkenntnisse werden berücksichtigt, die evolutionspsychologische Perspektive wird miteinbezogen, dennoch handelt es sich um kein ausgereiftes, dafür aber verständliches Modell.

Ein sprachliches Bewusstseinsmodell

Ein Versuch, Bewusstsein zu erklären, der von der kognitiven Neurowissenschaft beeinflusst wurde, stammt von Eduard T. Rolls, der sich an der Oxford Universität mit der Erforschung neuronaler Netzwerke beschäftigt. Der Ansatz versucht zu bestimmen was für Anforderungen ein neuronales Netzwerk erfüllen muss, damit Bewusstsein möglich wird; die konkrete Realisierung solcher Netzwerke wird von Rolls außen vor gelassen. Es handelt sich um eine vorläufige Annäherung, und Modelle dieser Art werden sicherlich noch einige Modifikationen durchlaufen, bis alle Erklärungslücken geschlossen werden können, wenn dies überhaupt möglich ist. Eine Definition des Bewusstseinsbegriffs wird von Rolls nicht gegeben, doch er schreibt (1997), der definierende Aspekt des Bewusstseins für den aktuellen Zweck sind die subjektiven Gefühle. Viele Verhaltensweisen laufen nach Rolls automatisch ab ohne bewusste Kontrolle. Evolutionsbiologisch alte Gehirnteile übernehmen diese Aufgaben praktisch vollständig, nachdem sie vom Kortex die Anweisung erhalten haben, diese auszuführen, ohne den Kortex Arealen von denen sie ihren Input erhielten, Rückmeldung zu geben. Im Gegensatz dazu weisen Teile des Gehirns, die für Funktionen wie das episodische Gedächtnis oder Emotionen verantwortlich sind, Rückprojektionen auf zu den höheren Kortexarealen, von denen sie Input erhalten. Das episodische Gedächtnis ist für unsere Fähigkeit verantwortlich, Informationen zu speichern und sie mit uns und unserer Umwelt in Beziehung zu setzen. Über diese Funktionen können wir verbal berichten. Evolutionsbiologisch neuere Gehirngebiete, wie der präfrontale Kortex und die Sprachareale, scheinen an der Kontrolle von nicht automatischen Verhaltensweisen beteiligt zu sein, die mit Hilfe eines Sprachsystems geplant werden. Die Assoziationskortizes im Frontallappen sind für das Setzen von Prioritäten, Treffen von Entscheidungen, Zukunftsplanungen und mit dem temporalen Kortex auch für andere höhere kognitive Funktionen verantwortlich. Sprachareale umfassen weite Teile dieser Gebiete. (Für die Entscheidung, ob Informationen ins Langzeitgedächtnis gespeichert werden sollen, sind ebenfalls assoziative Gebiete des Temporalen Kortex verantwortlich.) Es scheint viele Routen zum Verhalten im engeren Sinn bzw. beobachtbarem Verhalten zu geben; die sprachliche Route ist vermutlich für geplantes Verhalten aufgrund der syntaktischen Manipulation semantischer Einheiten verantwortlich.

Wenn wir eine Idee zur Lösung eines Problems haben, muss sie bewusst verarbeitet werden, indem sie in eine serielle sprachliche Form gebracht wird. Erst dann können wir unsere Vorstellungen verbalisieren. Mit Hilfe eines semantisch syntaktischen Systems können Problemstellungen gelöst werden. Verhalten kann durch ein solches sprachliches System über mehrere Stufen hinweg flexibel geplant werden, und Folgen des Verhaltens können im voraus bewertet werden. An semantischen Repräsentationen von realen Objekten und Zuständen in der Welt werden syntaktische Operationen ausgeführt, um potentiell mögliche Verhaltensweisen auf ihre Funktionstüchtigkeit in Bezug auf die Zielerreichung zu überprüfen. Sprache bezeichnet hier nur ein semantisch syntaktisches System, für das die menschliche Sprache nur ein Beispiel ist. Ein solches System kann auf verschiedenste Weisen realisiert werden.

Wenn andere in die Planung miteinbezogen werden müssen, aber auch wenn es notwendig, ist über ähnliche vergangene Situationen nachzudenken, spielen Gedanken zweiter Ordnung eine bedeutende Rolle.

Gedanken zweiter Ordnung sind Gedanken über sprachliche Gedanken. Sprachlich bedeutet in diesem Zusammenhang nur, dass syntaktische Manipulationen an Symbolen ausgeführt werden.

Bewusstsein entsteht nach Rolls, wenn ein System über seine eigenen Gedanken nachdenken kann, wenn es also Gedanken zweiter bzw. höherer Ordnung aufweist. Selbstbewusstsein ist die bewusste Fokussierung auf die eigenen mentalen Zustände.

Denken wir einen Gedanken höherer Ordnung über einen Gedanken niederer Ordnung, so wird uns der Gedanke niederer Ordnung bewusst. Der Gedanke höherer Ordnung ist unbewusst und könnte nur durch einen Gedanken noch höherer Ordnung bewusst werden.

Bei den Gedanken zweiter Ordnung handelt es sich zwangsläufig auch um sprachliche Gedanken, da diese an die sprachlichen Elemente des ersten Systems anknüpfen können müssen, um die syntaktische Information zu verarbeiten. Die gleichen Gehirnareale, die für sprachliche Prozesse zuständig sind, ermöglichen demnach auch Bewusstsein.

Der Vorteil, den der Mensch durch ein solches System von bewussten Gedanken erworben hat gegenüber anderen Lebewesen, ist offensichtlich. Gedanken höherer Ordnung können Gedanken niederer Ordnung überwachen und Fehler korrigieren. Die Reflexion von Ereignissen ist für Lernprozesse von großer Bedeutung. Die eigenen Gedanken in verschiedenen Situationen zu kennen, ermöglicht es uns, die Gedanken anderer in Situationen, die uns bekannt sind, besser einzuschätzen und ihr Verhalten besser vorhersagen zu können (siehe Humphrey 1980 in Rolls 1997). Bereits Nietzsche erkannte, dass es sich beim Bewusstsein um einen sozialen Prozess handelt. Bewusstsein eigener Gedanken ist für den sozialen Kontakt mit anderen nützlich, um das Verhalten anderer besser vorhersagen zu können. Es zeigt sich besonders deutlich die soziale Komponente des Bewusstseins an Schimpansen, die einzeln, ohne Kontakt zu anderen aufgezogen wurden; diese entwickelten nicht die Fähigkeit ihr eigenes Spiegelbild zu erkennen. Die Sozialisation in Gemeinschaften scheint Bewusstsein nicht nur erforderlich gemacht zu haben, sie ist auch an dessen Entwicklung beim einzelnen Individuum (Onthogenese) beteiligt.

Ein sprachverarbeitendes System ist für Bewusstsein notwendig, aber nicht hinreichend. Denken über die eigenen sprachlichen Gedanken ist erforderlich. Ein Sprachsystem erster Ordnung ist in der Lage, konditionale Schlussfolgerungen zu ziehen (der Form: wenn A dann B, nun aber A, also B). Eine Kette folgender Art: „wenn x durch a hervorgerufen wird, kann y durch b hervorgerufen werden, daraufhin wird z durch c hervorgerufen....“ kann verwandt werden, um reale Probleme zu lösen, wenn die Symbole a,b,c,x,y,z für wahre Sachverhalte oder Objekte in der Welt stehen. Das heißt, die Symbole müssen eine semantische Bedeutung haben. Bei komplexen Gedanken auf niederer Ebene ist es sinnvoll, diese Überlegungen auf einer höheren Ebene zu überprüfen, um in einer Schlussfolgerungskette wie der oben dargestellten Schwachstellen und Fehler zu lokalisieren und Pläne zu ändern. Es ist nicht mehr nötig, Ziele durch Versuch und Irrtum zu erreichen, wenn ein Plan gescheitert ist. Einzelne Aspekte eines Planes können als fehlerhaft erkannt und für sein Scheitern verantwortlich gemacht werden. Diese Funktion übernehmen die Gedanken zweiter Ordnung. Dieser Prozess sollte ein Gefühl hervorrufen, wenn sich die Symbole auf die Welt beziehen, die vom System erster Ordnung verarbeitet werden, diesem Informationen über die Ergebnisse der Operationen zur Verfügung stehen und das Kontrollsystem höherer Ordnung versteht, was das niederere System versucht zu erreichen.

Bewusste Empfindungen werden von Philosophen häufig Qualia genannt. Verschiedene Arten von Qualia können unterschieden werden: emotionale, sensorische und motivationale. Warum empfinden wir beispielsweise ein Gefühl der Freude nach einer anerkennenden Bemerkung? Für die Handlungsplanung, an der auch das Bewusstsein beteiligt ist, erlangt die Informationsverarbeitung der sensorischen Systeme Relevanz. Im planenden System müssen diese Inputs repräsentiert sein, damit Umweltstimuli und deren Beurteilung in unseren Planungen berücksichtigt werden können. Informationen aus den primären sensorischen Verarbeitungsregionen dienen der Feststellung der Art der Stimuli und deren Intensität. Die sekundären Verarbeitungsregionen liefern Informationen, die notwendig sind, um zum Beispiel zu beurteilen, ob ein Stimulus angenehm ist. Einen bewussten Gedanken über die Lage unseres Körpers erlauben die Assoziationskortizes des Parietallappens, in denen somatosensorische Informationen und Informationen aus Hör- und Sehzentren integriert werden. Die Erklärung von Rolls für Qualia ist demnach, dass sie bewusst erlebt werden, weil sie von einem spezialisierten linguistischen Manipulationssystem bearbeitet werden, das Teil eines Denksystems höherer Ordnung ist, welches Inhalte, die in niederen Levels beteiligt sind, reflektiert und korrigiert zum Beispiel zur flexiblen Verhaltensplanung (das Verhalten der meisten Tiere wird eher durch Regelverfolgung und Verstärkungsprinzipien gesteuert). Die Beobachtung der eigenen Emotionen besitzt einen hohen Anpassungswert. Kummer kann dazu führen, dass wir die Langzeitkonsequenzen eines Verlustes betrachten und daraufhin beispielsweise die Attraktivität anderer potentiell belohnenden Stimuli steigt sowie die Identifikation derselben erleichtert wird.

Linguistische Prozesse ohne Gedanken höherer Ordnung sind nach langer Einübung ziemlich starr und ihr Erfolg in neuen Situationen kann nicht bewertet werden, es gibt keine Korrekturmöglichkeit. Dafür ist der Abruf der bisher ausgeführten Schritte sowie der Abruf von ähnlichem episodischem Gedächtnismaterial erforderlich. Mit diesen Informationen ist es schließlich möglich, das schwächste Glied in einer Schlussfolgerungskette zu identifizieren.

Unsere begrenzte linguistische Kapazität erklärt nach Rolls, dass wir Bewusstsein als einen einheitlichen Prozess wahrnehmen. Die Leistungsfähigkeit unseres Gehirns reicht nicht aus, mehrere Bewusstseinsströme gleichzeitig zu erzeugen. Parallel ablaufende Bewusstseinsströme würden zu Konflikten bei der Handlungssteuerung führen, wenn unsere Gedanken ursächlich daran beteiligt sind. Nach Edmund T. Rolls sind bewusste Prozesse tatsächlich kausal an der Steuerung unseres Verhaltens beteiligt.

Die Theorie der sprachlichen Gedanken höherer Ordnung bietet gegenüber anderen Modellen den Vorteil, auch die Funktion des Bewusstseins genau zu spezifizieren. Das vorgestellte Modell erscheint einleuchtend, doch ergeben sich einige Schwierigkeiten, wie sich zeigen wird. Nach diesem Modell hat unser Bewusstsein eine exekutive Funktion bei der Steuerung unseres Handelns. Wir können uns zwischen verschiedenen Verhaltensstrategien entscheiden aufgrund eines speziellen sprachverarbeitenden Systems, das Handlungsplanung ermöglicht und Bewusstsein erzeugt, durch die Überprüfung seiner Operationen. Dieses System beruht auf neuronalen Netzwerken in unserem Gehirn in denen die verschiedenen Operationen repräsentiert sind. Diese Netzwerke unterliegen Gesetzmäßigkeiten, durch die ihre Informationsverarbeitung determiniert wird.

Nach der ausführlichen Darstellung des Modells von Rolls soll ein ebenfalls sprachliches Modell von Bewusstsein Platz finden, das weitere Perspektiven aufzeigt. Das Modell von Macphail (1998) wird sehr verkürzt umrissen und soll die Verbindung von Bewusstsein und sprachlichen Prozessen zusätzlich verdeutlichen.

Macphail erklärt, dass wir, wenn wir eine Aussage machen, grundsätzlich etwas sagen über etwas. Das Prädikat, eine Eigenschaft werde in Beziehung gebracht mit dem Subjekt, in der Form, dass das Prädikat sich auf das Subjekt bezieht. Wir beziehen uns auf etwas. Diese Form des über etwas Aussagen Treffen bezogen auf internale Repräsentationen sei eine grundlegende Voraussetzung für den Spracherwerb. Macphail führt den Philosophen Fodor an, der behaupte, mentale Zustände, die an der Kognition beteiligt seien, wären intentional und könnten als das Ergebnis einer logarithmischen Verarbeitung gesehen werden. Alle mentalen Zustände im Bereich der Kognition würden auf Subjekt-Prädikat Ausdrücken beruhen. Das Problem der Intentionalität wird gelöst, indem es als grammatikalische Angelegenheit betrachtet wird.

Nach Macphail führt ein Selbstkonzept zur Entwicklung einer kognitiven Struktur, die einige kognitive Prozesse kontrolliert und beobachtet. Durch die Fähigkeit, Gedanken über Repräsentationen zu formulieren, könne zwischen Selbst und nicht Selbst unterschieden werden; der Organismus besitze eine neue kognitive Struktur, ein Selbst. Das Gedächtnis sei ein Prozess von zentraler Bedeutung, den das Selbst kontrolliere. Es ermögliche ein bewusstes Überwachen des Kurzzeitgedächtnis und könne dessen Inhalte beeinflussen. In Kleinkindern sei die Sprache noch nicht weit genug entwickelt, um die Beziehung des „über etwas" zwischen internalen Repräsentationen zu ermöglichen; deshalb könnten Kleinkinder zwar Informationen aufnehmen und wiedergeben hätten aber keine bewusste Erinnerung an Lebensereignisse.

Ähnlich wie Rolls argumentiert Macphail bezüglich der Frage, ob Maschinen Bewusstsein besitzen könnten, die manipulierten Symbole müssten für einen Computer etwas in der Welt repräsentieren.

Wenn ein Computer einen wohlgeformten Satz sage, dann sage er nichts über das Subjekt des Satzes, da er mit den durch die Worte bezeichneten Gegenständen keine Erfahrung habe und nichts über sie wisse. Eine internale Repräsentation erfordere ein strukturiertes Modell der Welt. Die Maschine müsse wahrnehmen und handeln sowie unterscheiden können zwischen Inputs von außerhalb der Maschine und Inputs vom Inneren der Maschine sowie Veränderungen des Inputs, die extern verursacht werden und denen die durch das Verhalten der Maschine selbst verursacht werden, um zwischen Selbst und nicht Selbst unterscheiden zu können. Für die Entstehung von Gefühlen in einer Maschine seien zusätzlich Ziele notwendig.

Die Funktion des Bewusstseins sieht Macphail in der Steuerung von Aufmerksamkeit durch die Manipulation der Inhalte des Kurzzeitgedächtnis, was unter anderem auch die Berücksichtigung vergangener Erfahrung bei der Suche nach Lösungen für aktuelle Probleme ermögliche. Es erlaube eine Entscheidung, worüber wir nachdenken werden. Ein zweiter wesentlicher Punkt sei die Möglichkeit, die eigenen Denkprozesse zu verstehen und dadurch das Verhalten anderer besser vorhersagen zu können.

Krititk des ausgeführten Modells

Das vorgestellte Modell von Rolls lässt die konkrete Beschaffenheit der neuronalen Netze außen vor und umgeht dadurch ein schwieriges Problem. Das Bindungsproblem wird nicht gelöst und die Erfahrung der Einheit des Bewusstseins wird mit dem Verweis auf unsere begrenzte linguistische Kapazität beiseite geschoben. Sprachliche Modelle, wie das von Rolls, können grundlegende Fragen nicht befriedigend beantworten und zahlreiche Befunde nicht erklären.

Patienten mit einer Aphasie, die Sprache nicht produzieren noch verstehen können, zeigen Anzeichen von Bewusstsein und drücken sich auf andere Art und Weise aus. Menschen, die von Geburt an stumm sind, können mit anderen Menschen interagieren, und niemand würde ihnen Bewusstsein absprechen.

Ebenfalls problematisch für die sprachlichen Modelle von Bewusstsein ist die Tatsache, dass Gehirnläsionen niemals das Bewusstsein einer Person vollständig auslöschen, auch wenn sprachliche Fähigkeiten gestört oder gar vollständig ausgefallen sind (Kolb&Whishaw 1996). Die linke Hemisphäre ist im wesentlichen für sprachliche Prozesse verantwortlich. Wird einem Patienten die rechte Hemisphäre entfernt, berichtet er während der Operation, die bei vollem Bewusstsein durchgeführt werden kann, da im Gehirn kein Schmerz wahrgenommen wird, von keiner Veränderung. Die an der Operation Beteiligten können ebenfalls keine Veränderung des Bewusstseinszustandes feststellen (Austin 1974). Der Schluss, das Bewusstsein sei ausschließlich verbal und deshalb in der linken Hemisphäre, scheint durch diese Beobachtungen gestützt zu werden. Patienten, denen die linke Hemisphäre entfernt wurde, scheinen allerdings weiterhin bewusste denkende Menschen zu bleiben, und ihre nichtverbale Persönlichkeit scheint intakt zu bleiben. Nach der Entfernung der ganzen linken Gehirnhälfte, z.B. bei Tumorpatienten, konnte eine Verbesserung der sprachlichen Fähigkeiten der rechten Hemisphäre festgestellt werden (Smith 1966), jedoch handelt es sich meist um gebräuchliche Redewendungen.

Rolls schlägt vor, dass unser Bewusstsein eine exekutive Funktion besitzt, um planendes Handeln zu ermöglichen. Nach Daniel M. Wegner und Thalia Wheatley ist unser Wille jedoch nicht ursächlich an unserem Verhalten beteiligt. Der Wille sei eine bewusste Erfahrung, die willentliche Verursachung von Verhalten eine Illusion.

Wollen wir unseren Arm heben und denken an diese Handlung, woraufhin sich unser Arm hebt, glauben wir, diese Handlung herbeigeführt zu haben. Wir haben unseren Arm gehoben. Andere Ursachen, die unseren Arm veranlasst haben könnten sich zu heben, werden nicht in Erwägung gezogen. In diesem Punkt begehen wir vielleicht einen großen Irrtum.

Wir benutzen gewohnheitsmäßig bestimmte kausale Attributionen zur Erklärung unseres Verhaltens. Unsere mentalen Operationen werden für die Herbeiführung unsers Verhaltens verantwortlich gemacht.

Der bewusste Wille könnte sich nach Wegner und Wheatley aus dieser Theorie ergeben, die geeignet ist, die reguläre Beziehung zwischen Denken und Verhalten zu erklären. Zweifel an einer direkten kausalen Verbindung sind nicht unbegründet.

Studien von Libet (1985in Wegner u Wheatley 1999) belegen, dass wir uns Entscheidungen erst bewusst werden, wenn unser Gehirn bereits weiß, was wir tun werden. Das ist sicherlich überraschend für die meisten Menschen, und viele werden sich fragen, wie Libet zu der Annahme kommt, dass für unser Gehirn unser Verhalten schon feststeht, ehe es uns bewusst geworden ist. Libet untersuchte unbewusste cerebrale Aktivität bei willentlichen Handlungen. Seine Experimente lassen vermuten, dass die gleichen Vorgänge in unserem Gehirn, die unser Verhalten hervorrufen, auch unsere Gedanken initiieren. Bei der Untersuchung spontaner intendierter Fingerbewegungen stellte Libet fest, dass ein Bereitschaftspotential des Gehirns (RP abgekürzt) bereits auftritt, bevor wir uns unserer Intention bewusst sind. Erst etwa 350-400 Millisekunden nach dem RP tritt die bewusste Wahrnehmung der Absicht auf. Das RP ist ein negativer Ausschlag des EEG, der bis zu etwa einer Sekunde vor einer spontan ausgelösten willentlichen Handlung auftritt. Ein EEG oder Elektroencephalogramm leitet oberflächlich die elektrischen Veränderungen ab, die durch die Aktivität in unserem Gehirn entsteht. Die Absicht zu handeln tritt zwar vor der Handlung auf , aber erst nach den Vorgängen die das RP signalisiert. Welche Vorgänge genau das RP signalisiert, ist noch unklar. Die bewussten Gedanken über eine Handlung haben eine unbewusste Ursache ebenso wie die Handlung. Es ist möglich, dass zwischen diesen beiden eine kausale Verbindung besteht; diese ist jedoch für die Erfahrung einer Verknüpfung zwischen bewussten Gedanken und Handlungen nicht notwendig. Die Wahrnehmung einer kausalen Verknüpfung scheint zumindest teilweise illusorisch zu sein. Libets Beobachtungen sind für Bewusstseinsmodelle, die unserem bewussten Denken eine exekutive Funktion zuschreiben, ein Problem; Entscheidungen werden getroffen, bevor wir uns unserer Entscheidung bewusst werden. Der Nutzen des Bewusstseins, den Rolls proklamiert, wird dadurch in Frage gestellt.

Allgemeine Kritik an Bewusstseinsmodellen

Alle bekannten Bewusstseinsmodelle erklären schwerlich alle Aspekte des menschlichen Bewusstseins und beruhen auf zahlreichen Annahmen, die nicht durch Beobachtungen gestützt werden. Spezifische Fragestellungen, die einzelnen Disziplinen zuzuordnen sind, werden vorwiegend thematisiert. Das grundlegende Problem der Qualia wird unzureichend erklärt von den verschiedenen Modellen, wobei die Ansätze der linguistischen Modelle intuitiv die beste Erklärung bieten. Die linguistischen Modelle gehen im Gegensatz zu den quantenphysikalischen Modellen nicht näher auf das Bindungsproblem ein. Eine Synthese dieser Theorien ist durchaus nicht von vornherein auszuschließen, der Erfolg einer vollständigen Erklärung der Rätsel des Bewusstseins durch eine solche Synthese bleibt jedoch Wunschdenken. Das wesentliche Problem der Modelle ist ihre unzureichende Datengrundlage. Sollen zukünftige Erklärungsversuche gelingen, muss die notwendige Evidenz geboten werden. Die Frage der Erkenntnisgrenzen wird zu einer Frage der Erfassungsgrenzen. Um quantenphysikalische Modelle zu bestätigen, müssten beispielsweise die Vorgänge in den Mikrotubulie großer Neuronenpopulationen gleichzeitig erfasst werden können. Die neuen bildgebenden Verfahren sind nicht geeignet, die Quantenebene der Teilchen in den Mikrotubulie zu erfassen. Die Zusammenhänge zwischen den Mustern der vorgefundenen Aktivität in den Mikrotubulie und der Erfahrung des Bewusstseins müssten ergründet werden, etwa durch gezielte Läsionen der neuronalen Netzwerke, was enorme ethische Probleme aufwirft und nur indirekte Schlussfolgerungen zulässt.

Trifft die Vermutung von Penrose (1991) zu, es handle sich bei unseren Gedanken um Vorgänge, die nicht durch Algorithmen beschrieben werden können, was aus der Tatsache geschlossen wird, dass Menschen nicht algorithmische mathematische Probleme lösen können und Intuitionen haben, würde die Entwicklung eines Quantencomputers notwendig machen, um dieses Prozesse nachzubilden.

Die Nachbildung der Prozesse die Bewusstsein ermöglichen, sofern sie durchführbar ist, löst das Problem keineswegs, da in einem solchen Fall festgestellt werden muss ob dieses Netzwerk oder dieser Rechner tatsächlich Bewusstsein besitzt, der die Prozesse nachbildet und nicht nur Reaktionen zeigt, die wir erwarten von einem bewussten Subjekt. Alle bisher vorgestellten Methoden, um dies festzustellen, bleiben fraglich. Der bekannteste Vorschlag stammt von Turing, ein Mensch müsse in einer Unterhaltung mit dem Computer den Eindruck gewinnen, dieser besitze ein Bewusstsein. Ein anderer Vorschlag stammt von Macphail, es müsse festgestellt werden, ob die Maschine in Konversationen unterscheide zwischen sich und dem Rest der Welt und von sich Selbst als ein Ich denke und seinem Gegenüber als ein Du.

Antikonstruktiver Naturalismus

Es gibt einen naturalistischen Standpunkt, der die Beantwortung des Bewusstseinsproblems als unmöglich betrachtet, aufgrund unseres kognitiven Unvermögens das Phänomen des Bewusstseins zu begreifen, obwohl es sich um ein natürliches Phänomen handle. Dieser Standpunkt wird als antikonstruktiver Naturalismus bezeichnet. Es wird demnach angenommen, dass intelligentere Lebewesen durchaus in der Lage sein könnten, unser Bewusstsein zu erklären, dass uns die Lösung dieses Problems vorenthalten bleiben muss aufgrund der Unfähigkeit unseres Gehirns, sich Selbst zu begreifen. McGinn (1991) vertritt diese Form des neuen Mysterianismus, der zwangsläufig aus den Schwierigkeiten, Bewusstsein in ein treffendes Modell zu fassen, erwachsen musste. Wir können die Frage nach der Funktionsweise des Bewusstseins stellen, die kognitive Fähigkeit, sie zu beantworten, besäßen wir leider nicht und befänden uns aufgrund dessen in einer frustrierenden Situation. Insekten besitzen nicht die Fähigkeit, Wissenschaft zu betreiben und die Naturgesetze zu erforschen, dennoch bestehen diese. Sie sind nicht in der Lage, die richtigen Fragen zu stellen, und bemühen sich folglich nicht, Phänomene zu erklären und zu verstehen. Menschen sind nach McGinn in der Lage, die richtigen Fragen zu stellen; in Bezug auf das Bewusstsein sind wir allerdings nicht in der Lage, diese zu beantworten, und unser Drang nach Erkenntnis muss unerfüllt bleiben. Die Tatsache, dass dieser Standpunkt ein naturalistischer ist, insofern er annimmt, dass es sich beim Bewusstsein um ein natürliches Phänomen handelt, ist besonders zu berücksichtigen.

Die Rätsel des Bewusstseins und des subjektiven Erlebens sind weitgehend ungeklärt, und die Konsequenzen, die daraus gezogen werden, gehen oft weiter als die Vorstellungen des antikonstruktiven Naturalismus. Bewusstsein müsste nach naturalistischen Vorstellungen reduzierbar sein auf neuronale Prozesse. Da wir heute noch nicht mit Sicherheit sagen könnten, ob dies gelingen wird lasse sich nach dem agnostizistischen Standpunkt, der z.B. von Thomas Nagel vertreten wird, diese Frage noch nicht beantworten, und folglich dürfe weder angenommen werden, es handle sich bei geistigen Ereignissen einzig und allein um neuronale Ereignisse, noch dürfe angenommen werden geistige Ereignisse seien nicht auf neuronale Ereignisse reduzierbar.

Die Fortschritte der Bewusstseinsforschung sind zweifelhaft und führen dazu, dass die Erklärbarkeit des Phänomens von einigen Forschern in Frage gestellt wird. Die wissenschaftliche Forschung stößt vielleicht an die Grenze ihrer Erkenntnismöglichkeiten.

Literaturverzeichnis:

Austin, G., Hayward, W., Rouhe, S. (1974). A Note on the Problem of Conscious Man and Cerebral Disconnection by Hemispherectomy. Springfield: Hemispheric Disconnection and Cerebral Function

Baddeley, A. (1997). Human Memory. Revised Ed. Hove: Psychology Press Ltd., 325-333

Chalmers, D. (1995). The Puzzle of Conscious Experience. Scientific American 80-87

Crick, F. (1997). Was die Seele wirklich ist. Die naturwissenschaftliche Erforschung des Bewußtseins. Reinbek bei Hamburg

Damasio, A. R. (1994). Descartes' Error.Emotion, Reason and the Human Brain. New York: G. P. Putnam's Son

Fodor, J. A. (1975). The language of thought. New York: Thoms Y. Crowell &; Co

Gadenne, V. (1996). Bewußtsein, Kognition und Gehirn: Einführung in die Psychologie des Bewußtseins. Bern: Verlag Hans Huber

Gadenne, V., Oswald, M. E. (1991). Kognition und Bewußtsein. Berlin, Heidelberg: Springer-Verlag

Gazzangia, M. S. (1995). Consciousness and the cerebral hemispheres. In M. S. Gazzangia (Ed.), The Cognitive Neurosciences (pp. 1392-1400). Cambridge, MA: MIT Press

Horgan, J. (2000). Der menschliche Geist: Wie die Wissenschaften versuchen die Psyche zu versthen. München: Luchterhand

Humphrey, N. K. (1980). Nature‘s psychologists. In D. B. Josephson & V. S. Ramachandran

(Eds.), Consciousness and the Physical World (pp. 57-80). Oxford: Pergamon

Kolb, B. , Whishaw, I. Q. (1996). Neuropsychologie. Heidelberg; Berlin; Oxford: Spektrum Akademischer Verlag Gmbh

Libet, B. (1985). Unconscious cerebral initiative and the role of conscious will in voluntary action. Behavioral and Brain Sciences, 8, 529-566

Macphail, E. M. (1998). The Evolution of Consciousness. Oxford, New York, Tokyo: Oxford University Press

McGinn, C. (1991). The problem of consciousness. Oxford: Blackwell

Moruzzi, G., Magoun, H. W. (1949). Brainstem Reticular Formation and Activation of the EEG. Electroencephalography and clinical Neurophysiology, 1, 455-473

Nagel, T. (1979). What is it like to be a bat? In mortal Questions. Cambridge: Cambridge University Press

Penrose, R. (1991). Computerdenken : die Debatte um künstliche Intelligenz, Bewusstsein und die Gesetze der Physik. Heidelberg : Spektrum-der-Wissenschaft-Verlagsges.

Pinel, J. P. J. (1990). Biopsychology. 3rd. Ed. Allyn & Bacon, 20-104, 411-420

Pöppel, E. (1985). Grenzen des Bewußtseins. Zur Wirklichkeit und Welterfahrung. Stuttgart: Deutsche Verlags-Anstalt

Rolls, E. T. (1997). Consciousness in Neural Networks? Neural Networks, 10 (7), 1227-1240

Rolls, E. T. (1996c). The orbitofrontal cortex. Philosophical transactions of the Royal Society, Series B, 351, 1433-1444

Rolls, E. T. (1997). Brain mechanisms of vision, memory, and consciousness. In I. Masao, Y. Miashita & E. T. Rolls (Eds.) Cognition, Computation and Consciousness (pp.81-120). New York: Oxford University Press

Rychlak, J. F. (1997). In defense of human consciousness. Washington, DC, USA: American Psychological Association.

Smith, A. (1966). Speech and other functions after left (dominant) hemispherectomy. Journal of Neurology, Neurosurgery and Psychiatry, 29, 467-471

Smith, A., Burklund, C. W. (1966). Dominant hemispherectomy. Science, 153, 1280-1282

Smith, A., Sugar, O. (1975). Development of above normal language and intelligence 21 years after left hemispherectomy. Neurology, 25, 813-818

Stent, G. (1978). Paradoxes of Progress. San Francisco: Garden City

Turing, A. (1950). Computing machinery and intelligence. Mind, 59, 433-60

Wegner, D. M., Wheatley, T. (1999). Apparent Mental Causation. American Psychologist, 54 (7), 480-492

6.952 Abrufe