KI-Psychose

Die Zerbrechlichkeit unseres und ihres Geistes

Welches andere Bild könnte ich bei einem solchen Titel möglicherweise verwenden? Bildnachweis: Pixabay

Wir haben zerbrechliche Gedanken. Denkstörungen betreffen zu jeder Zeit einen großen Teil der Bevölkerung der reichen Länder; Jede Person in diesen Ländern hat eine unangenehm hohe Wahrscheinlichkeit, mindestens eine dieser Denkstörungen in ihrem Leben zu haben, die ihren Höhepunkt im frühen Erwachsenenalter erreicht.

Diese Störungen treten in vielen Geschmacksrichtungen mit vielen Bezeichnungen auf. Depressionen sind ebenso häufig wie Angstzustände. Sucht und Zwang auch. Extremer sind die Dunkelheit von Zwangsstörungen und die Fragmentierung der Schizophrenie. Sie sind einzigartig menschlich.

Unbekannt ist, ob sie einzigartig menschlich bleiben werden. Die Forschung im Bereich der künstlichen Intelligenz macht spektakuläre Fortschritte. Für viele Forscher ist dieser Fortschritt auf dem Weg zur Entwicklung einer menschenähnlichen allgemeinen KI. Dies führt zu einem beunruhigenden Gedanken: Wird eine menschenähnliche KI menschenähnliche Denkstörungen erben?

Bei Bewegungsstörungen, die vom Gehirn ausgehen, haben wir ein gewisses Verständnis dafür, was passiert: Bestimmte Neuronen werden beschädigt, und es entstehen bestimmte Bewegungsprobleme. Bei der Parkinson-Krankheit scheint der Verlust einer kleinen Ansammlung von Dopamin-Neuronen im Mittelhirn ein Problem zu sein, wenn Zittern oder Bewegungsschwierigkeiten auftreten. Bei der Huntington-Krankheit ist der Verlust von Neuronen im Striatum direkt mit den unwillkürlichen Bewegungen und Krämpfen der Krankheit verbunden.

Denkstörungen müssen noch einfachen mechanistischen Erklärungen nachgeben. Sie scheinen eher eine Störung sehr großer Netzwerke von Neuronen zu sein. Einige mögen einwenden, dass die meisten Denkstörungen eine mechanistische Erklärung haben, da es sich um Störungen von Neuromodulatoren handelt - weil die meisten ihrer Behandlungen die Menge eines oder mehrerer Neuromodulatoren im Gehirn verändern. Dies sagt uns jedoch nur, dass es sich um ein netzwerkweites Problem handeln muss, da Neuromodulatoren im gesamten Gehirn freigesetzt werden. Und wie der Name schon sagt, verändern Neuromodulatoren die Informationsübertragung zwischen Neuronen, verursachen sie aber nicht. Selbst wenn Veränderungen in der Neuromodulation die Ursache für Denkstörungen sind, spielt sich ihre Wirkung darin ab, wie sie die Art und Weise verändern, wie Neuronen miteinander sprechen.

Es ist unklar, warum es überhaupt Denkstörungen gibt. Sind sie in einem ausreichend komplexen Gehirn unvermeidlich? Wenn ja, ist diese Unvermeidlichkeit auf die Biologie beschränkt?

Wie wir diese Frage beantworten, hängt davon ab, ob Denkstörungen darauf zurückzuführen sind

(1) inhärente Mängel in der Biologie,

(2) die Auswirkungen der Kultur oder

(3) die inhärenten Nebenwirkungen großer komplexer Netzwerke von Neuronen.

Diese schließen sich nicht gegenseitig aus, wie wir sehen werden.

Inhärente Mängel in der Biologie sind die medizinische Erklärung. Gehirne sind Säcke mit Zellen, von denen jeder ein Beutel mit Chemikalien ist und in einer Suppe mit anderen Chemikalien sitzt. Ein Fehler in diesen Chemikalien oder den Beuteln, in denen sie sitzen, ist ein natürliches erstes Ziel für die Entstehung von Denkstörungen. Aber von Natur aus fehlerhafte Biologie allein ist wahrscheinlich nicht die Erklärung. Solche Mängel würden von der Evolution ausgewählt. Fische, die keinen weiteren Tag schwimmen können, überleben nicht. Genetisch vererbte Formen von Denkstörungen sind selten. Stattdessen können kleine Unterschiede in vielen Genen die Wahrscheinlichkeit erhöhen oder verringern, dass im Laufe eines Lebens eine Gedankenstörung auftritt. Etwas bringt dann das Gleichgewicht von einer Wahrscheinlichkeit zur Realität.

Denkstörungen könnten daher eine inhärente Folge unserer Kulturen sein. Eine solche Konsequenz könnten die physikalischen Produkte sein, die wir herstellen: ein Pestizid, ein Lösungsmittel, ein Medikament. Das Vorhandensein bestimmter hergestellter Chemikalien in unserer Umgebung wurde mit der erhöhten Wahrscheinlichkeit einiger Hirnstörungen in Verbindung gebracht. Aber Denkstörungen haben anscheinend uralten Ursprung und gehen einem Großteil unseres industriellen Abwassers voraus.

Eine wahrscheinlichere Folge unserer Kultur ist ihre Komplexität. Ein gut eingespieltes Argument ist, dass wir unser Gehirn außerhalb der Nische einsetzen, in der sie sich entwickelt haben. Unser Gehirn ist in einer Gesellschaft, die weitaus größer ist als sie sich entwickelt hat, ständigen Stressfaktoren ausgesetzt. Von Hunderten von Dingen, die zu tun sind, von denen wir uns bewusst sind, aber keine individuelle Kontrolle haben über: Kriege, Hungersnot, Krankheit, Klimawandel. Chronischer Stress beeinflusst die Verkabelung von Neuronen und verändert ihre Reaktion auf Eingaben. In diesem Szenario spielen sich die genetischen Unterschiede, die die Wahrscheinlichkeit einer Gedankenstörung erhöhen oder verringern, in der Widerstandsfähigkeit ab, die sie unseren neuronalen Netzwerken gegenüber diesen kulturell bedingten Veränderungen verleihen.

Allen Denkstörungen ist jedoch gemeinsam, dass sie im komplexesten Netzwerk von Neuronen auf der Erde auftreten. Wir haben 17 Milliarden Neuronen in unserem Kortex; kein anderes Tier kommt näher. Wir möchten unserem Kortex Anerkennung für unsere anscheinend einzigartige Kombination von Talenten geben, für Sprache, Schreiben und Mathematik. für Kreativität und Kochen. In der Tat sehen Theorien darüber, wie unser Kortex zu dieser Ausreißergröße gelangt ist, dies entweder als Ursache oder als Folge der Kultur an: Entweder dass solch große, anpassungsfähige Netzwerke es uns ermöglichen, große soziale Gruppen zu bilden und Sprache zu entwickeln; oder dass die Bildung großer sozialer Gruppen und die Entwicklung der Sprache die Entwicklung des größten Kortex der Erde vorangetrieben haben.

Wir haben einen kleinen Teil des Kortex, der dem Verständnis und der Produktion gesprochener Sprache gewidmet ist. Ein weiterer Teil der Schriftsprache. Der Verlust des Wissens, wie man Sätze spricht, bedeutet nicht, dass man verliert, wie man dieselben Sätze schreibt. Die geschriebene Sprache ist ein außergewöhnlich neues Ereignis, das zu neu ist, um eine eigene Gehirnregion zu entwickeln, um es zu verarbeiten. Dass wir eine Gehirnregion haben, die sich mit Schreiben befasst, zeigt, wie unser Kortex eine anpassungsfähige, vielseitige Maschine ist.

Und darin liegt das Problem. Cortex wird endlos neu verkabelt, wenn neue Fähigkeiten erlernt werden. wie neue Erinnerungen gebildet werden; wenn neues Wissen erworben wird; und wie es sich weiter ins frühe Erwachsenenalter entwickelt. Bei all dieser Neuverdrahtung besteht die Möglichkeit, dass Assoziationen zwischen Dingen entstehen, die nicht existieren können, was zu Halluzinationen führt. oder Assoziationen, die existieren könnten, aber außerordentlich unwahrscheinlich sind und obsessive Gedanken hervorrufen; oder Assoziationen von schlechten Ergebnissen mit harmlosen Dingen, die Depressionen oder Angstzustände verursachen. Dass die Neuverdrahtung dazu führt, dass ein Satz von Neuronen versehentlich einen anderen Satz aktiviert, der momentan nicht relevant ist.

Anpassungsfähigkeit ist nicht nur eine Neuverkabelung. Cortex sagt voraus, was passieren wird. Es sagt das nächste Wort in einem Satz voraus. Es sagt voraus, wann ein Ton einem hellen Blitz am Himmel folgt. Und diese Vorhersagen können zu stark werden. Sie können die Informationen aus unseren Sinnen überschreiben. Sie können Ereignisse schaffen, die nicht stattfinden, also halluzinieren; kann ein Ereignis vorhersagen, das niemals eintreten wird und uns deprimiert.

Wir scheinen die einzige Spezies mit einer weit verbreiteten und facettenreichen Reihe von Dingen zu sein, die mit unserem Verstand schief gehen können. Wir sind auch die einzige Spezies mit einem 17-Milliarden-Neuronen-Cortex, der Billionen von Verbindungen enthält. Die beiden sind plausibel miteinander verbunden.

Vergleichen Sie dies mit dem aktuellen Status der KI. Wir haben bemerkenswerte Fortschritte gesehen. Aber an der Wurzel befinden wir uns noch in der Phase, in der ein KI-Agent nur eines lernt. Ein Netzwerk lernt, eine Sprache in eine andere zu übersetzen. oder um einen bestimmten Satz von Bildern zu klassifizieren; oder Go oder Schach oder Drafts zu spielen. Während wir jetzt den Punkt erreicht haben, an dem dieselbe Architektur, dieselbe Reihe von Algorithmen zur Lösung verschiedener Probleme verwendet werden kann, lernt der einzelne KI-Agent immer noch nur eines.

Menschen lernen Schach und Go und Entwürfe; und mehrere Sprachen lernen; und lernen zu malen. Und lernen Sie Abfolgen von Ereignissen, die gute oder schlechte Ergebnisse vorhersagen. Und das alles mit einem Kortex. Was sich mit vielen verschiedenen Arten von gelernten Informationen und vielen verschiedenen Verwendungen dieser Informationen befasst. In einem dicht komplexen Netzwerk reif für Fehlfunktionen.

Diese Argumentation legt nahe, dass eine „allgemeine“ KI nicht möglich oder bestenfalls nicht ratsam ist. Es deutet darauf hin, dass ein ausreichend komplexes Netzwerk, das in der Lage ist, menschenähnliche Fähigkeiten zu zeigen - sich an jede neue Aufgabe anzupassen, Vorhersagen zu treffen, zu lernen und Erinnerungen zu bilden - auch menschenähnliche Schwächen aufweisen würde. Dass eine solche KI eine Reihe von Denkstörungen aufweisen würde, hätte Psychosen.

Die Antwort wäre, dass wir, wenn wir eine solche KI selbst konstruieren, die Netzwerke, die wir aufbauen, so konstruieren können, dass sie diesen Schwächen nicht zum Opfer fallen. Diese Retorte setzt voraus, dass wir ein ausreichendes Verständnis dafür haben, wie diese Störungen auftreten, um sie zu umgehen. Offenbar haben wir das im Moment noch keinen Hinweis darauf, dass das Verständnis bald kommt.

Eine verfeinerte Erwiderung könnte sein, dass wir dem entwickelten Gehirn nicht sklavisch folgen müssen, dass wir Wege finden können, ein komplexes Netzwerk zu haben, das viele verschiedene Aufgaben lernen und erledigen kann, ohne die Konstruktionsfehler der Biologie zu erben. Insbesondere scheinen menschliche Denkstörungen von Neuromodulatoren abhängig zu sein, und AIs haben sie nicht. Ein Problem bei dieser Ansicht ist, dass sie von Natur aus glaubt, dass Neuromodulatoren keine Berechnungen durchführen. Aber es ist alles Berechnung. Ein Neuromodulator wie Serotonin verändert den Zustand des Gehirns, indem er die Stärke der Verbindungen zwischen Neuronen verändert. Neuromodulatoren spielen diese Rolle sowohl im kleinsten Nervensystem der Erde als auch in unserem Kortex. Wir sollten davon ausgehen, dass sie notwendig sind, um intelligent zu sein. Es ist wahrscheinlich, dass KI etwas braucht, das die Neuromodulation nachahmt, um nach allgemeiner Intelligenz zu greifen. Denn so können reale Netzwerke von Neuronen adaptiv geformt werden, um das vorliegende Problem zu ändern, indem ihre Interaktion sowohl kurz als auch dauerhaft geändert wird.

Ein weiteres Problem bei dieser Ansicht ist, dass viele KI-Systeme bereits Neuromodulation verwenden. Dopamin-Neuronen ändern ihre Zündung, um den Unterschied zwischen dem erwarteten und dem erzielten Ergebnis anzuzeigen. Dies ist der „Vorhersagefehler“ im Herzen vieler der spektakulärsten KI-Demonstrationen der letzten Zeit. Es kann genauso leicht zu falschen Assoziationen zwischen Aktionen und Ergebnissen in KI-Netzwerken führen wie in neuronalen Netzwerken.

Aber sagen wir, wir haben verstanden, wie diese Störungen entstehen. Wenn sie dann aus etwas anderem als rein inhärenten Fehlern in der Biologie entstehen, wenn sie aus unserer Kultur stammen oder inhärente Nebenwirkungen großer dicht verbundener Netzwerke oder beides sind, können sie nicht umgangen werden. Eine solche fortgeschrittene KI würde in unserer Kultur existieren - eine, die sich von ihr löst, wäre per Definition nicht die diskutierte allgemeine Intelligenz. Eine solche fortschrittliche KI würde zweifellos große, komplexe Netzwerke benötigen, in denen viele überlappende und unterschiedliche Funktionen gelernt und gespeichert werden können. Auf diese Weise scheint eine derart fortgeschrittene KI genauso anfällig für Denkstörungen zu sein wie wir.

Dieser Aufsatz ist keine Antwort, sondern eine Frage. Weil ich wissen möchte: Wird ein Netzwerk, das komplex genug ist, um menschenähnliche Intelligenz zu zeigen, zwangsläufig auch menschenähnliche Denkstörungen aufweisen?

Es gibt Antworten auf die hier aufgeworfenen Fragen. Wenn zum Beispiel jeder Gedankenstörung Zelltod und Fehlfunktion zugrunde liegen und diese immer auf Umweltstressoren zurückzuführen sind, ist die KI immun. Wenn wir die Antworten auf diese Fragen finden, werden wir das Gehirn unweigerlich besser verstehen und vielleicht verstehen, wie man eine belastbare Allzweck-KI aufbaut. Eine nicht psychotische. Ich denke, wir haben alle genug Science-Fiction gesehen, um zuzustimmen: Das wäre eine gute Sache.

Lesen Sie mehr über Neurowissenschaften bei The Spike

@markdhumphries