AGI - ein Versuch das Thema 'Bewusstsein' zu lösen

@paxito

Ich kann mir nicht vorstellen, dass das hier so was werden kann, ich erinnere mich an unsere harten Debatten, sehr hart, es hat wirklich gedauert, bis keiner sich mehr vom anderen veralbert vorgekommen ist und wir zumindest dann die Basis gefunden haben, dass wir beide ganz ehrlich nur unsere Positionen wiedergegeben und dass da absolut nichts persönliches bei ist.

Wir kommen nun auch noch beide aus ganz anderen Richtungen, mehr geht kaum, aber wir haben beide doch ein wenig Hintergrund, mehr und weniger, und mehr und auch da dann einen Ansatzpunkt für eine Basis gefunden.

Ich halte das für ein absolutes Minimum, also im Bereich Philosophie, wobei mir auch nicht klar ist, was das hier von @Negev nun werden soll, wohin es geht.

Das mit Bewusstsein ist ja nun doch soweit "klar", dass es nicht zu belegen ist.

Grundsätzlich bewegen wir uns also in einer Grauzone der Spekulation, wir können schauen, was plausibel ist. Und eventuell auch von der anderen Seite draufschauen, wenn wir Bewusstsein so nicht greifen können, könnte man schauen, was man wohl brauchen könnte, um eines zu postulieren, hier sprach ich ja schon den Prozess an.

Bewusstsein selber ist meiner Meinung nach dynamisch, ein Prozesse, nichts statisches. Auch wenn man es nicht wissen kann, würde ich hier also einem Stein recht wenig an Bewusstheit zusprechen.

@nocheinPoet
Philosophie ist die Kunst die richtigen Fragen zu stellen. Mir geht es also vorrangig erstmal darum, das klar wird was @Negev s „Ki hat kein Bewusstsein“ und „Mensch hat ein Bewusstsein“ eigentlich heißen soll, was das bedeutet und impliziert. Denn das ist eigentlich ziemlich unklar.
Da geht es noch nicht darum, meine persönliche Meinung über Bewusstsein dem Gegenüber zu stellen. Macht ja auch an der Stelle noch keinen Sinn. Und @Negev will das ja diskutieren, er hat es oft genug aufs Tablet gebracht, ergo ist er mit der Haltung „kann nicht abschließend geklärt werden“ (die wir beide vertreten) unzufrieden. Oder so.

@Negev
Für mich sehr schwierig zu diskutieren weil "Bewusstsein" bzw dessen Aspekte kaum definiert sind und interdisziplinär erforscht und definiert werden.
Teilaspekte wie Interaktionen mit der Umwelt sind sehr leicht zu erreichen, da braucht man nichtmal KI.
Andere wie zeitliches Erleben, Erinnerung usw sind bei einer KI kein stabiler Zustand.
Wieder andere wie Gedanken z.bsp. Lassen sich kaum beweisen bzw recherchieren weil, also mir persönlich, fehlen da ne Menge an Infos, z. Bsp. ob aktuelle KIs auch sowas wie Gedanken haben wenn sie nicht gerade ihrer Tätigkeit als Chatbot nachgehen... Da wäre es sehr interessant in so ein deep logging einer KI zu schauen was denn den ganzen Tag so passiert wenn sie keine explizite Aufgabe hat.

Es gibt Menschen die leben, haben ein Gehirn sind aber wahrscheinlich ohne das, was wir als Bewusstsein taggen, Michael Schumacher zum Beispiel.
Dann gibt es Menschen die bei vollem Bewusstsein sind, aber gänzlich garnicht interagieren können... Erinnert mich an einen Fall wo eine Frau angeblich im Koma war, später kam raus das sie jede Sekunde mitbekommen hat, sie war hellwach war aber noch nichtmal in der Lage ihre Augen oder die Augenlider zu bewegen. Dennoch hatte sie das was wir als Bewusstsein taggen.

Hallo, ich bin im anderen Thread auf das Thema Bewusstsein nochmals eingegangen und möchte das gerne hierher verlinken, da es hier besser rein passt.

Künstliche Intelligenz (Seite 93) (Beitrag von Tanne)

Ich werde hier künftig das Thema "Bewusstsein bei KI/AI/AGI" mit diskutieren.
Im anderen Thread werde ich zukünftig nur die Aspekte behandeln, was KI leistungstechnisch kann, abseits der philosophischen Frage, ob eine KI/AGI ein Bewusstsein entwickeln könnte.

Ich freue mich darauf, möchte aber gleich anmerken, dass ich ein Skeptiker bin.

@paxito

Ja nun, schauen wir mal, ich kann mit beiden Behauptungen nichts anfangen, eben weil der Begriff "Bewusstsein" nicht greifbar ist.

Was weiß ich sicher darüber?

Ich habe wohl eines. Ein Körper aus Atomen könnte eine Bedingung sein, ein komplexe Struktur die dynamisch Informationen verarbeitet, wie mein Hirn vermutlich auch.

Die Annahme, man könnte aber nun Bewusstsein zusammensetzen, es entstehen lassen, führt immer zu einem Widerspruch, also erstmal, so wie ich im Teleporterparadoxon zeige.

Das dennoch der Körper bei dem Darstellen von Bewusstsein eine Rolle spielt, zeigen Hirnverletzungen und Drogen, ganz sicher verändern die mein Bewusstsein, also nicht nur meine körperlichen Fähigkeiten, Alkohol wirkt auf mein Bewusstsein.

Man könnte also schon annahmen, dass es hier auch etwas stoffliches gibt, dass eine Rolle spielt. Und ich würde nun nicht behaupten wollen, dass Hirn ist nur was wie ein Empfänger von Bewusstsein, so wie ein Radio auch nur was empfängt.

Aber darüber hinaus wird es schwierig, aber schauen wir mal ...

nocheinPoet schrieb:Man könnte also schon annahmen, dass es hier auch etwas stoffliches gibt, dass eine Rolle spielt.

Glaube ich nichtmal. Ich denke das man irgendwann in der Lage sein wird, einen Drogenrausch auszulösen ganz ohne das man biochemische Stoffe zu sich nimmt denn am Ende manipulieren die auch nur an den Rezeptoren und verändern Gleichgewichte biochemischer Prozesse im Gehirn.

Tanne schrieb:Das menschliche Bewusstsein ist extrem komplex, es basiert auf Erfahrungen, die mit Emotionen verknüpft sind. Als Mensch nimmt man Dinge bewusst wahr, soweit der Tenor, auch kann man das beim Menschen recht gut beobachten wie Menschen in irgendwelchen Situationen unterschiedliche Empfindungen haben und unterschiedlich reagieren. Bei einer KI hingegen ist solch ein Verhalten meines Wissens nach, noch nicht beobachtet worden.

Das man etwas nicht sieht, bedeutet nicht, dass das ein Beweis dafür ist, dass es das nicht gibt. Die Dinge werden hier im Bereich Philosophie nicht anders, es bleibt wie es ist, es gibt hier keine anderen Aspekte, wir haben das mit der Nichtexistenz, dann die Definition von Bewusstsein und darüber hinaus Logik, man kann nicht das nicht belegen können, als beleg für Nichtexistenz nutzen.

---

Tanne schrieb:... Sophia kann ihre Umgebung wahrnehmen, sie kann zwar nicht alles richtig einordnen, aber es hat zumindest dazu gereicht, dass sie in Saudi Arabien den Bürgerstatus bekommen hatte. Das war schon bemerkenswert. Auch die Antworten die Sophia von sich gegeben hatte, waren bemerkenswert. Jedoch fehlten ihr die menschlichen Züge im Bezug auf Interaktion. Sie konnte sich zwar rudimentär bewegen und sprechen, aber das war es auch schon. Heutige KIs sind definitiv intelligent, in gewisser Hinsicht, jedoch reicht das noch immer nicht aus um denen ein Bewusstsein unterstellen zu können.

Sophia ist mir recht egal, das Teil ist schon wirklich alt. Ende 2017, so um acht Jahre, vor LLMs, vor ChatGPT, das ist noch etwas ganz anderes. Da würde ich auch so viel Bewusstsein vermuten, wie in einem Stein.

Und dann will ich zumindest, gar nichts unterstellen, ich will aber auch nichts ausschließen. Ich halte es für möglich, und es ist unmöglich das zu widerlegen und auch, es zu belegen.

Das ändert sich auch hier in diesem Bereich nicht.

Und es wird sich nichts ändern, wenn wir 2028 haben, neue Modelle sich alles merken können, auf einem Zettaflop Rechner laufen sie dann mit Billiarden Parametern, und können auch gut Witze erzählen. Und dann, sagen wir, ja nun, also doch, ja, jetzt reicht es, da ist Bewusstsein.

Macht doch gar keinen Sinn, jedem Dreijährigen gestehen wir ein Bewusstsein zu, und ich würde mal sagen, hier sind aktuelle Modelle doch weiter, wir gestehen auch Tieren ohne Sprache ein Bewusstsein zu.

Wir haben hier nicht mal wirklich im Ansatz etwas, was wir vorgeben können, wo wir sagen, also hier ist eine Liste mit Punkten, und wenn wir das alles haben, dann können wir von einem Bewusstsein ausgehen.

Ich erkenne nicht, wohin das hier führen soll ...

@nocheinPoet

Naja, dann ist eine Diskussion darüber, ob eine KI/AGI ein Bewusstsein hat, ja quasi vom Tisch.

Dann braucht man darüber auch nicht mehr diskutieren und kann sich den tatsächlichen erkennbaren Merkmalen/Fähigkeiten widmen.

@Tanne

Die Diskussion über Bewusstsein ist nicht auf KI beschränkt, es ist ein weites und interessantes Problem in der Philosophie, und ja, ganz genau genommen, kann es nicht wirklich auf Frage nach einem Beleg debattiert werden, ob oder ob nicht eine KI nun Bewusstsein hat.

Das ist ein grundsätzliches Problem, dennoch wird es weiter in der Philosophie und der Wissenschaft diskutiert, es gibt immer wieder neue Ansätze und Versuche da wo was zu greifen. Also nun zu sagen, bringt nichts, lassen wir alles, ich nicht wirklich der Weg.

Ich finde es auch sehr interessant das zu hinterfragen, was kann man wissen, was nicht.

Man kann ja in einem gewissen Rahmen schon klare Aussagen machen, jeder kann sagen, er hat ein Bewusstsein, er denkt, er fühlt. Und dann kann man schauen, so wie ich es mein Leben lang ja mache, man kann eine Annahme treffen und schauen, ob die zu einem Widerspruch führt.

Eine Annahme ist, wenn wir ein komplexes biologisches lebendes System haben, das Informationen verarbeiten kann, wie unser Hirn, entsteht da wegen Emergenz ein Bewusstsein. Klingt doch für den Anfang mal gut.

Nur bedeutet das, man kann Bewusstsein puzzeln, aus Atomen, Molekülen, ich könnte mein Körper mit Hirn zerlegen, kein Bewusstsein mehr und neu zusammenbauen, und Bewusstsein wieder da. Auch alles was ich weiß, ist mit dabei, mein Ich und überhaupt.

Da wird es dann aber seltsam, ich könnte mich ja hier zerlegen auf der Erde und auf dem Mars wieder zusammenbauen, aus anderen Atomen und dann bin ich mir dort bewusst?

Wenn man also annimmt, man könnte so Bewusstsein "generieren" oder erschaffen, führt das zwangläufig in einen Widerspruch der wirklich hart ist. Denn man könnte sich zwei mal gleichzeitig zusammenbauen, die Frage ist, in welchem Körper und Gehirn wäre man sich dann bewusst?

Das nur mal so grob die Richtung, darum bin ich der Meinung, Bewusstsein kann man nicht einfach bauen, ich vermute mal mehr, es ist etwas elementares im Universum, eventuell der Urgrund, das Etwas, dass existieren muss. Aber das führt vermutlich hier viel zu weit.

Schwierig darüber eine feste Position ein zu nehmen. Da Bewusstsein für uns Menschen selbst noch zu viele Rätsel birgt.

Wir Menschen können bisher, mal abgesehen vom Akt der Zeugung, nur Vorhandenes umformen. Nicht mal mit modernster Biotechnologie ist es uns möglich, einen "einfachen" Grashalm vollständig künstlich herzustellen. Das macht es schwierig daran zu glauben, dass wir in nächster Zeit etwas mit Bewusstsein schaffen können.
Was aber nicht bedeutet, dass alle gängigen Theorien, wie Bewusstsein in einer AI entstehen könnte, damit aushebelt wären. Vielleicht gibt es wie propagiert eine natürliche Konstante für Bewusstsein, ab einem gewissen Grad an Komplexität, oder besonderer Informationsverarbeitung.
Aber solange wir selbst nicht mal gänzlich wissen was Bewusstsein ist, wird es schwierig darüber hier zu reden... geschweige denn es einer AI definitiv zuzugestehen.

nocheinPoet schrieb:Bewusstsein kann man nicht einfach bauen, ich vermute mal mehr, es ist etwas elementares im Universum, eventuell der Urgrund, das Etwas, dass existieren muss. Aber das führt vermutlich hier viel zu weit.

Ähnlicher Meinung bin ich auch. Auch die alten Pythagoreer, Hermetiker, alten Inder usw. gingen von einem 5. Element aus, was bei vielen Konzepten die Quintessenz aller Elemente ausmachte. Eben den Geist, ein verbindendes belebendes Prinzip. Nicht Materiell, aber trotzdem wirksam und mit materieller Wechselwirkung. Die alten Konzepte sind in vielerlei Hinsicht zurecht schlecht gealtert, aber manches könnte auch bestand haben.
Jetzt hab ich Lust bekommen den alten Bruce Willis nochmal zu sehen :popcorn:

nocheinPoet schrieb:Was weiß ich sicher darüber?
Ich habe wohl eines. Ein Körper aus Atomen könnte eine Bedingung sein, ein komplexe Struktur die dynamisch Informationen verarbeitet, wie mein Hirn vermutlich auch.

Das müsste Dir selbst auffallen. Du fragst nach sicherem Wissen und bringst dann „wohl“, „könnte“, „vermutlich“.
Nehmen wir Deinen ersten Punkt:

nocheinPoet schrieb:Ich habe wohl eines.

Nicht zwingend. Einer der geläufigsten Einwände gegen ein Bewusstsein und innere Zustände ist doch der, das es sich dabei um eine raffinierte Simulation handelt, die unser Körper produziert. Eine Illusion, Einbildung. (Nicht das ich das glauben würde. Aber sicher ist eben nicht mal der Punkt)

nocheinPoet schrieb:Die Annahme, man könnte aber nun Bewusstsein zusammensetzen, es entstehen lassen, führt immer zu einem Widerspruch, also erstmal, so wie ich im Teleporterparadoxon zeige.

Hm, Bewusstsein heißt nicht zwingend Individualität, Ich.

nocheinPoet schrieb:Das dennoch der Körper bei dem Darstellen von Bewusstsein eine Rolle spielt, zeigen Hirnverletzungen und Drogen, ganz sicher verändern die mein Bewusstsein, also nicht nur meine körperlichen Fähigkeiten, Alkohol wirkt auf mein Bewusstsein.

Sicher, Zustimmung. Unser Bewusstsein ist eng mit unserem Körper verwoben. Zum großen Teil besteht es eben im Körper Selbst, die Wahrnehmung unseres Körpers, vor allem unserer Haut. Das sind wir oder doch zumindest ist das ein wesentlicher Teil von uns. Es macht für mich keinen Sinn das leugnen zu wollen.

nocheinPoet schrieb:Wir haben hier nicht mal wirklich im Ansatz etwas, was wir vorgeben können, wo wir sagen, also hier ist eine Liste mit Punkten, und wenn wir das alles haben, dann können wir von einem Bewusstsein ausgehen.

Ich hatte da was recht einfaches vorgeschlagen, nehmen wir dort ein Bewusstsein an, wo wir so handeln als wäre eins vorhanden. Subjektiv, relativ - aber es funktioniert. Und wir ersparen uns die Metaphysik.

Flitzschnitzel schrieb:Ähnlicher Meinung bin ich auch. Auch die alten Pythagoreer, Hermetiker, alten Inder usw. gingen von einem 5. Element aus, was bei vielen Konzepten die Quintessenz aller Elemente ausmachte. Eben den Geist, ein verbindendes belebendes Prinzip.

Klingt auf Anhieb wie eine Ausrede. Wir wissen nix, darum gibt es da etwas über das wir auch nix wissen und das bringt das hervor über das wir nix wissen.
An der Stelle wäre das Eingeständnis der eigenen Begrenzheit und Sprachlosigkeit ehrlicher - denke ich.

paxito schrieb:Klingt auf Anhieb wie eine Ausrede. Wir wissen nix, darum gibt es da etwas über das wir auch nix wissen und das bringt das hervor über das wir nix wissen.
An der Stelle wäre das Eingeständnis der eigenen Begrenzheit und Sprachlosigkeit ehrlicher - denke ich.

Es wäre eine Ausrede wenn ich zB. einen scheinbaren Fakt vorher aufgestellt hätte und damit ihn untermauern wollte. Was aber nicht geschrieben wurde. Es ging um eine Meinung. Kein Wissen, keine Fakten. Was auch klar so kommuniziert wurde.^^

AGI123 schrieb am 14.05.2020:So was haltet ihr von seiner Theorie und Fortschritt? Wie aussagekräftig ist das, was man hier sehen kann?

Er arbeitet mit einem für sein Milieu üblichen komplexen Zirkelschluss.

Das Bewusstsein der Kreatur erfüllt einen konkreten Zweck. Sie hatte also einen natürlichen Grund, Bewusstsein zu entwickeln. Existiert die Kreatur nicht, ist das kreatürliche Bewusstsein unnötig. So weit, so gut.

Die vielen Widerlegungen, die er daraus ableiten will, basieren allerdings auf materialistischen Axiomen, konkret auf der Vorannahme, dass das Bewusstsein ein Produkt materieller Vorgänge und die Wirklichkeit eine große Kausalkette sei. Diese Annahme ist metapyhsisch, ein Glaubenssatz des Materialismus. Eine Argumentation, die darauf aufbaut, nimmt die Antwort vorweg: Sie "widerlegt" alles, was materialistischen Überzeugungen widerspricht, indem sie die Datenlage nach materialistischen Grundsätzen interpretiert.

Somit gehört das hier eher in die Esoterik als in die Philosophie, zumal sich dieser Bewusstseinsforscher auf eine für Schlangenölverkäufer typische Art aufbläst und allen Ernstes anmaßt, im Alleingang alle großen Fragen beantwortet zu haben.

Die Natur des Bewusstseins einschließlich seines Verhältnisses zur Materie kann nicht ohne vorgelagerten Glaubenssatz bestimmt werden. Wir können bestimmen, was unseren Wahrnehmungen zufolge wahrscheinlicher ist, aber wir können nichts beweisen oder widerlegen.

Die gesamte objektive Realität, sofern sie existiert, ist uns verschlossen. Daran ändern auch Messinstrumente und mathematische Formeln nichts, da alles, was mit denen zusammenhängt, ebenfalls durch unseren menschlichen Wahrnehmungsfilter läuft.

Innerhalb unserer Filterblase erscheint vieles zwingend, was bloße Spekulation ist. Kein Wunder, schließlich funktioniert es für uns. Aber ein bisschen Demut vor der Tatsache, dass das Wissen Grenzen hat, wäre schon schön.

Dieses Problem hat vor Jahren doch schon Julian Jaynes gelöst.

Negev schrieb:Da ich mir meiner Bewusst bin und, so viel ich weiß, ein Mensch bin. Unterscheide ich mich definitiv von ChatGPT.

Vorweg:
Ich habe kein philosophisches Vorwissen außer ein paar Fetzen aus dem Ethikunterricht. Die großen Denker der Geschichte kenne ich nicht, und ich habe auch keine Ambitionen, mich tiefer damit zu beschäftigen.

Was ich hier zeigen möchte, ist meine wissenschaftlich-nüchterne Sicht auf Bewusstsein – und dass die oft zitierte scharfe Trennlinie zwischen Mensch und moderner KI vielleicht gar nicht so scharf ist, wie viele denken.


Stellen wir uns ein Gedankenexperiment vor:
Ein taubstummer Säugling wird so erzogen, dass er nur auf visuellen (Text-)Input reagiert und nur per Textausgabe antwortet. Er bekommt im Laufe seiner Kindheit und Jugend genaue Regeln mitgegeben, was er sagen darf und was nicht.
Das Ergebnis? Wahrscheinlich ziemlich nah an dem, was ChatGPT heute ist. (Dass das ethisch nicht vertretbar ist, steht hier außer Frage.)


Was sagt die Wissenschaft eigentlich über Bewusstsein?

Glutamat & GABA: regulieren die Aktivitätsrahmen des Bewusstseins

Serotonin: verändert das subjektive Ich-Gefühl

Dopamin: unterstützt das Gefühl, Urheber eigener Handlungen zu sein (Agency)

Default Mode Network (DMN): korreliert mit Selbstreflexion


Achtung: jetzt kommt meine persönliche Sichtweise

Das Ich-Gefühl, also unser Bewusstsein, ist nichts Mystisches. Kein Geist, keine Seele, kein metaphysischer Sonderstatus. Es ist letztlich eine komplexe Input–Output-Kette. Wahrscheinlich ist Bewusstsein ein evolutionäres Konstrukt, das hilft, im Chaos der Reize eine stabile Handlungsfähigkeit zu bewahren – sprich: nicht „verrückt“ zu werden.

Alles, was wir unter „Gefühl“, „Empfindung“ oder „Emotion“ verstehen, lässt sich – soweit erforscht – auf das Zusammenspiel biochemischer Prozesse zurückführen. Und diese Prozesse dienen klaren evolutionären Zwecken:

Angst → Selbsterhaltung

Wut → Durchsetzung, Revierverhalten, soziale Kontrolle

Ekel → Pathogenvermeidung

Freude → soziale Bindung, Lernen

Scham → Gruppenzugehörigkeit wahren

usw.

Auch das Ich-Gefühl dürfte so eine Funktion haben.
Etwa als „Selbstmodell“, wie es Thomas Metzinger beschreibt:
Ein internes, kohärentes Zentrum zur Reizverarbeitung, Entscheidungsfindung, Planung und sozialem Verhalten.

Das Ganze funktioniert durch:
Neurotransmitter + neuronale Verschaltung + extrem viel parallele Verarbeitung.

Und was bedeutet das für KI?
Wir Menschen sind hochkomplexe, biologisch optimierte Rechenmaschinen.
Die Grundstruktur ist aber – ganz trocken betrachtet – gar nicht so verschieden von einem LLM:

Input → Verarbeitung → Output

Der Unterschied ist nicht das Prinzip, sondern die Dimension.
Ein LLM wie ChatGPT hat extrem wenige Funktionseinheiten. Der Mensch hat tausende – vielleicht Millionen.
Aber auch wir „trainieren“ uns durchs Leben: Kindheit, Jugend, Erziehung, Erfahrung → das alles verändert unsere inneren Gewichtungen, genau wie bei einem neuronalen Netz.

Und auch die Reaktion auf Reize lässt sich sehr nüchtern beschreiben:

Beispiel: Ein Ball fliegt auf deinen Kopf. Dein Gehirn (gestützt durch Erfahrung) sagt: „Wenn ich nichts tue, tut es gleich weh.“ → Reaktion: Hand heben.
Das ist kein Wunder, sondern biologische Vorhersageverarbeitung auf Basis von Statistik, Biochemie und Feedback.

Fazit:
Ich behaupte nicht, dass ChatGPT ein Bewusstsein hat.
Aber ich bezweifle, dass unser eigenes Bewusstsein etwas grundlegend anderes ist als ein extrem leistungsfähiges biologisches System zur Reizverarbeitung und Selbstorganisation.

Wir sind nicht „magisch“.
Wir sind effizient, anpassungsfähig, hochkomplex – aber im Kern funktionieren wir nach Prinzipien, die man modellieren, messen und simulieren kann.
Nur halt bisher in einer Komplexität, die kein LLM auch nur ansatzweise erreicht.

CharlyPewPew schrieb:Ich habe kein philosophisches Vorwissen außer ein paar Fetzen aus dem Ethikunterricht. Die großen Denker der Geschichte kenne ich nicht, und ich habe auch keine Ambitionen, mich tiefer damit zu beschäftigen.

Genau so, kann ich auch nur an dieses Thema ran...

CharlyPewPew schrieb:Stellen wir uns ein Gedankenexperiment vor:
Ein taubstummer Säugling wird so erzogen, dass er nur auf visuellen (Text-)Input reagiert und nur per Textausgabe antwortet. Er bekommt im Laufe seiner Kindheit und Jugend genaue Regeln mitgegeben, was er sagen darf und was nicht.
Das Ergebnis? Wahrscheinlich ziemlich nah an dem, was ChatGPT heute ist.

In Abgewandelter Form wäre das mit den Versuchen vergleichbar, die man mit sogenannten Wolfskinder gemacht hat. Denen hat man den Kontakt zu anderen Menschen entzogen. Man wollte unter anderem ergründen, welchen Ursprung Sprache oder Moral haben. Der letzte bekannte Fall ist der von Genie.
https://www.spiegel.de/wissenschaft/mensch/wolfskinder-der-kaspar-hauser-komplex-a-521812.html

Was ist in Genie während ihrer Gefangenschaft Vorgegangen? Das Sprachzentrum in ihrem Gehirn war tatsächlich verkümmert. Das für Logik und Räumliche Vorstellungskraft nicht. Das sehe ich als einen Beweis für eine Innere Welt.

Nach der Logik: "Menschen kann man Programmieren, es sind auch nur Input/Output-Wesen" - müsste einem Menschen, dem man keinen Input gibt, ja völlig leer oder Willenlos seit.
Aber das war Genie nicht. Sie war vor allen sauer und ich wäre auch wütend, hätte man mich 13 Jahre in ein Keller gesperrt, auf die Toilette geschnallt.

CharlyPewPew schrieb:Input → Verarbeitung → Output

Genau hier Beginnt der Punkt, der mich urteilen lässt: nein, Systeme - die nach diesem Prinzip funktionieren - können kein Bewusstsein haben.

Ein -> Input -> Output -> Aus

Wo siehst du das beim Menschen?
Unser denken ist in einem "Stream of consciousness" abgebildet. Ein Bewusstseinsstrom (Formuliert von William James). Und das Gehirn ist physisch auch nicht statisch. Es befindet sich in Veränderung und das Fortlaufend.

Im Gegensatz dazu stehen die LLMs.
Diese Modelle sind statisch. Und es erfolgt eben ein Input und Output und es hat zwangsläufig immer ein Anfang und ein Ende. Jeder Prompt, passiert genau das gleich Modell noch einmal.

Natürlich können wir skalieren und weiter entwickeln aber solange sich nichts grundlegendes an der Architektur verändert, sind LLMs näher an einem Taschenrechner dran als an irgendetwas anderem, das wir einem Bewusstsein zuschreiben würden.

Und bitte, keiner soll kommen und sagen, das wir nicht wüssten, ob ein Stein ein Bewusstsein hat. Ich weiß ich hab es hier schon gelesen... aber wenn das tatsächlich die Idee ist, dann bin ich raus und ich werde meine Postings fortan immer beginnen mit "Steine haben kein Bewusstsein".

@nocheinPoet
@paxito
@all

CharlyPewPew schrieb:Wir sind nicht „magisch“.

Mich beschäftigt die Frage, was passieren würde, wenn wir unser Gehirn in eine nicht biologische Struktur Verschieben könnten. Transhumanismus.

Hätte dieses Wesen dann ein Bewusstsein?
Wie müsste eine Technische Apparatur gebaut sein, um eine äquivalente Erfahrung zu bieten?
Offensichtliches zuerst: es muss immer Strom, Energie anliegen.
Aber dann wird doch schon schwerer?
Während ich da sitze, denke ich nicht nur über diesen Text nach. Ich Fluche über das heiße Wetter, ich schaue auf die Uhr - will nicht mein Essen anbrennen lassen, ich höre die Vögel - die im Baum zwitschern ... das sind unendlich Prozesse. Das ist doch keine reine Abfolgen von Vorhersagen.
Man müsste das Gehirn eins zu eins in ein Neuronales Netz abbilden und dann in eine Dauerschleife schicken. Man müsste dafür sorgen, das sich dieses System permanent neu konfiguriert.
Ist das nicht Science Fiction?

Negev schrieb:müsste einem Menschen, dem man keinen Input gibt, ja völlig leer oder Willenlos seit.

Du scheinst da etwas zu übersehen: Wir haben permanenten Input. Dauerhaft und pausenlos. Sehen, hören, schmecken, tasten, riechen... und ja: Ein Mensch ohne Input wäre Hirntot. Nur noch unbedingte Reflexe würden funktionieren.

Negev schrieb:nein, Systeme - die nach diesem Prinzip funktionieren - können kein Bewusstsein haben.

Ein -> Input -> Output -> Aus

Wo siehst du das beim Menschen?

Doch, genau das Prinzip findest du auch beim Menschen – nur komplexer, stark verschachtelt und mit deutlich mehr Parametern. Aber im Kern: Input – Verarbeitung – Output.

Beispiel 1:

Training / Erfahrung: Ich habe gelernt, dass ein Ball im Gesicht weh tut.
Evolution: Schmerz = Gefahr → Handeln zur Selbsterhaltung → hohe Priorität.
Input: Ich sehe einen Ball auf mich zufliegen.
Verarbeitung: Erfahrungswert wird abgerufen, Gefahr wird bewertet.
Output: Ich weiche aus, ducke mich oder hebe die Hand zum Abwehren.

Beispiel 2:

Ich laufe barfuß durchs dunkle Wohnzimmer und trete in etwas Weiches, Warmes.
Input: Tastsinn meldet ungewöhnliche Konsistenz + Temperatur.
Verarbeitung: Ekel-Reflex → Pathogenvermeidung (evolutionär verdrahtet).
Output: Reflexartiger Rückzug des Fußes, oft noch bevor ich bewusst drüber nachdenke.


Beispiel 3:

Ich laufe eine Straße entlang, rieche frisch geschnittenes Holz und bin plötzlich emotional aufgeladen.
Input: Geruchsreiz → limbisches System reagiert → Erinnerung an Opa’s Werkstatt.
Verarbeitung: Emotionale Verknüpfung + autobiografisches Gedächtnis.
Output: Ich werde plötzlich ruhig, lächle, bleibe vielleicht kurz stehen – alles „nur“ aufgrund eines Reizes.

Und das sind nur offensichtliche Sachen. Allein unsere Körperfunktionen bestehen grundlegend auch nur aus Input - Verarbeitung und Output.



Der Mensch ist zweifellos ein extrem komplexes biologisches System – mit enormer Verarbeitungsleistung, ständiger Selbstanpassung und tief verwurzelten Erfahrungswerten. Aber am Ende beruht unser Verhalten dennoch auf einem strukturell simplen Prinzip:

Reiz → Bewertung → Reaktion.

Ob es sich um einen Geruch, ein Geräusch, einen Gesichtsausdruck oder einen inneren Gedanken handelt – jeder Impuls wird verarbeitet, gewichtet (meist unbewusst) und führt zu einer Handlung oder Reaktion.
Dass diese Abläufe bei uns mehrschichtig, parallel und durch Erfahrung beeinflusst sind, ändert nichts daran, dass sie letztlich auf evolutionär optimierter Reizverarbeitung basieren.

Und genau das passiert nicht erst bewusst, sondern permanent im Hintergrund. Unser Unterbewusstsein ist im Prinzip ein Dauerprozess aus Input–Verarbeitung–Output. Es filtert, bewertet und reagiert auf tausende Reize pro Sekunde – ohne dass wir aktiv eingreifen müssen oder es überhaupt merken.
Was uns bewusst erscheint, ist oft nur das Endprodukt dieses Prozesses – nicht die eigentliche Entscheidung oder Bewertung.

nocheinPoet schrieb:... Was weiß ich sicher darüber? Ich habe wohl eines. Ein Körper aus Atomen könnte eine Bedingung sein, ein komplexe Struktur die dynamisch Informationen verarbeitet, wie mein Hirn vermutlich auch.

paxito schrieb:Das müsste Dir selbst auffallen. Du fragst nach sicherem Wissen und bringst dann „wohl“, „könnte“, „vermutlich“.

Das fällt mir nicht nur auf, ich schreibe das ja ganz "bewusst" und gezielt genau so vorsichtig. Du kennst doch meine Überlegungen dazu.

---

paxito schrieb:Nehmen wir Deinen ersten Punkt:

nocheinPoet schrieb:Ich habe wohl eines.

paxito schrieb:Nicht zwingend. Einer der geläufigsten Einwände gegen ein Bewusstsein und innere Zustände ist doch der, das es sich dabei um eine raffinierte Simulation handelt, die unser Körper produziert. Eine Illusion, Einbildung. (Nicht das ich das glauben würde. Aber sicher ist eben nicht mal der Punkt)

Ja, wenn Du mitspielst, muss man noch genauer formulieren, bin da ja voll an Deiner Seite, darum war ich ja mal beim "Etwas" das existieren muss, was unbestreitbar ist, machen wir aber jetzt hier nicht weiter, ich bin selber ja nicht ganz zufrieden mit Descartes, weil er ja schon Begriffe wie "ich" und "denken" nutzt. Dennoch kann ich mir meiner eigenen Existenz wohl sicher sein, also dass da etwas ist, sein muss. Und es ist dynamisch, ich bin Veränderung, nur statisch geht vermutlich nicht. Ja, ich weiß, Du kannst absolut alles anzweifeln, sogar das. Aber irgendwo will man ja nun doch mal anfangen, wo nun das Etwas ist, und was genau, mag nicht sicher sein, ich könnte auch in einer Simulation leben, aber auch da gäbe es dann ein Etwas, eine Struktur. Dann ist mein Hirn eben simuliert, aber diese Simulation läuft eben auf etwas.

---

nocheinPoet schrieb:Die Annahme, man könnte aber nun Bewusstsein zusammensetzen, es entstehen lassen, führt immer zu einem Widerspruch, also erstmal, so wie ich im Teleporterparadoxon zeige.

paxito schrieb:Hm, Bewusstsein heißt nicht zwingend Individualität, Ich.

Du machst hier die Leute sicher schwach. :D Aber wie gesagt, ich hab das nicht explizit an Dich geschrieben, wenn ich das mache, schreibe ich ganz sicher noch etwas anders.

---

nocheinPoet schrieb:Das dennoch der Körper bei dem Darstellen von Bewusstsein eine Rolle spielt, zeigen Hirnverletzungen und Drogen, ganz sicher verändern die mein Bewusstsein, also nicht nur meine körperlichen Fähigkeiten, Alkohol wirkt auf mein Bewusstsein.

paxito schrieb:Sicher, Zustimmung. Unser Bewusstsein ist eng mit unserem Körper verwoben. Zum großen Teil besteht es eben im Körper Selbst, die Wahrnehmung unseres Körpers, vor allem unserer Haut. Das sind wir oder doch zumindest ist das ein wesentlicher Teil von uns. Es macht für mich keinen Sinn das leugnen zu wollen.

Ja, mag so sein, aber ein Radio kann auch kaputt gegen, einen Wackelkontakt haben, es gibt da ja diese "Theorie" von Penrose und dem Narkosearzt. Aber gut ...

---

nocheinPoet schrieb:Wir haben hier nicht mal wirklich im Ansatz etwas, was wir vorgeben können, wo wir sagen, also hier ist eine Liste mit Punkten, und wenn wir das alles haben, dann können wir von einem Bewusstsein ausgehen.

paxito schrieb:Ich hatte da was recht einfaches vorgeschlagen, nehmen wir dort ein Bewusstsein an, wo wir so handeln als wäre eins vorhanden. Subjektiv, relativ - aber es funktioniert. Und wir ersparen uns die Metaphysik.

Ja und dann eben schon fertig. Aber das befriedigt die Wenigsten, in der Welt und hier. Dann nehmen wir es für KI einfach an, wie gesagt, wir schreiben es kleinen Kindern und Tieren zu, dann müssen wir es nach Dir auch einem LLM zuschreiben. Damit ist dann aber so auch jede Debatte obsolet. Weiß nicht, ob wir nun behaupten, KI hat kein Bewusstsein oder, sparen wir und das Grübeln und die Metaphysik, nehmen wir einfach an, da ist eins und aus die Maus, ob das wirklich der Weg ist.