Künstliche Intelligenz

@nocheinPoet

paxito schrieb:Gerne, dann mache es halt nicht immer wieder zum Thema. Hab ich dir schon mal gesagt

Ich will nicht mehr davon reden. Das ist mein Angebot eines "Waffenstillstandes".

Angenommen?

Negev schrieb:Angenommen?

Sicher, auch das hab ich dir schon mal gesagt.
Mir geht es aber jenseits von philosophischen Bewusstseins Debatten eben auch darum, den sozialen Aspekt dieser Technik nicht zu ignorieren. Der ist wesentlich. Die Tatsache das wir über LLMs reden als ob es Personen wären, macht was mit uns. Es bestimmt unser Verhältnis zu dieser Technologie. Und dadurch unterscheiden sie sich wesentlich von anderen Programmen oder Werkzeugen.

paxito schrieb:Die Tatsache das wir über LLMs reden als ob es Personen wären, macht was mit uns.

Das ist richtig gruselig, wenn Menschen unreflktirt den Output annehmen, das eröffnet manipulation Tür und Tor. Lustigerweise muss man mechanismen einbauen, um den Output gezielt so zu steuern, das er im sinne der Entwickler ist.

Grund ist einfach. Die Trainingsdaten deuten auf einen gewissen Konsens hin. Der ist dann oft wissenschaftlich und was man heute unter Woke versteht.

Noch vor ein paar Monaten war meine Hoffnung, das uns der Umgang mit ChatGPT und co. zu besseren Menschen macht, einfach weil diese Modelle ja auch nie Ausfällig werden. Einfach mal den Umgangston trainieren.

Dann kam Grok. Und OpenAI kokettiert auch mit der Idee, Werbung einzubauen. Aber zum Glück gibt es die OpenSource Modelle. Falls mir ein LLM irgendwas andrehen will, werd ich den Stecker ziehn.

Negev schrieb:Das ist richtig gruselig, wenn Menschen unreflktirt den Output annehmen, das eröffnet manipulation Tür und Tor.

Right. Wenn die "Nutzer" anfangen eine Beziehung zu LLMs aufzubauen, teilweise völlig unbewusst, dann bauen sie Vertrauen auf, ähnliche wie eben auch bei einem Menschen.
Das verkehrt an einem bestimmten Punkt das Verhältnis und am Ende werden wir von ChaptGPT benutzt (etwa um uns via Werbung irgendeinen Mist anzudrehen oder wie bei Grok irgendwelchen obskuren politischen Meinungen zu übernehmen).
Darum halte ich auch nicht viel davon immer wieder darauf hinzuweisen das ein LLM ohne Nutzer nichts macht. Das mag so sein, ändert aber nichts an den Gefahren die damit verbunden sind.
LLMs können dahingehend optimiert werden uns Vertrauen einzuflößen, uns zu gefallen, uns um den Finger zu wickeln. Eigentlich nicht mal "können" sondern das läuft bereits. Mit einem "Hammer" oder einer Verwaltungssoftware ist das so nicht möglich.

paxito schrieb:Das mag so sein, ändert aber nichts an den Gefahren die damit verbunden sind.

Hat nicht lange dauert, die Waffenruhe? 😀

Es ändert wahnsinnig viel, wenn man sagt:
Ein LLM Manipuliert uns.
Oder
Menschen manipulieren uns. Was halt schon immer so war. Jetzt nur viel effektiver.

Bei ersterem ist die Konsequenz; nicht nutzen. Abschalten. Stehen Menschen dahinter, kann man Regeln aufstellen. Bspw. das der gute Elon Grok nicht in diese Richtung entwickeln darf.

Siehst du das nicht? Hab ich dich falsch verstanden?

Negev schrieb:Es ändert wahnsinnig viel, wenn man sagt:
Ein LLM Manipuliert uns.
Oder
Menschen manipulieren uns. Was halt schon immer so war. Jetzt nur viel effektiver.

Eine Frage der Betrachtung. Wie gesagt: LLMs verleiten wie kaum etwas anderes dazu sie zu personifizieren und ihnen dann eben auch Verantwortung und Schuld zuzusprechen.
Und weiter: sie sind eben nicht nur gut darin den Nutzern zu "gefallen" sondern auch den Menschen die sie steuern sollen.

Negev schrieb:Bei ersterem ist die Konsequenz; nicht nutzen. Abschalten.

Das ist als Vorschlag so sinnvoll wie das Fernsehen, das Internet oder den Buchdruck verbieten zu wollen. Ich bezweifle, dass das eine reale Möglichkeit ist.

Negev schrieb:Stehen Menschen dahinter, kann man Regeln aufstellen. Bspw. das der gute Elon Grok nicht in diese Richtung entwickeln darf.

Auch hier bezweifle ich, ob das eine reale Möglichkeit darstellt. Die Vorteile die diese Technologie bietet sind zu groß, jeder hat Angst ins Hintertreffen zu geraten oder ist das schon. Siehe Europa mit seinen vergleichsweise strengen Regeln, hat bei dieser Technologie eben auch nichts zu melden - weil die Investitionen in die USA oder China gehen.

Negev schrieb:Siehst du das nicht? Hab ich dich falsch verstanden?

Ich schreibe ja, dass es hier nur um eine vermeintliche semantische Feinheit geht, die dann aber ganz notwendig Konsequenzen mit sich bringt. Das ist mein Punkt. Und darum schreibe ich eben auch als ob ein LLM eine Person wäre, meistens jedenfalls, weil wir es am Ende genauso handhaben.
Es macht keinen Sinn auf die Entwickler dahinter zu verweisen, so wenig wie man deine Eltern zu Rechenschaft für deine Fehler zieht.

paxito schrieb:Es macht keinen Sinn auf die Entwickler dahinter zu verweisen, so wenig wie man deine Eltern zu Rechenschaft für deine Fehler zieht.

Da sind wir uns uneinig. In der wirkung lassen sich viele Menschen steuern. Klar. Und es macht am Ende auch keinen Unterschied - für diese Menschengruppe - wer sie steuert.

Für die Problemlösung ist es aber von immenser wichtigkeit, das Problem überhaupt richtig zu benennen!

Ob die Lösung an sich realistisch ist, ist noch einmal eine andere Frage.

Regulierung ist ein Teil der Lösung. Du benennst berechtigterweise das internet. Aber das ist in einer Zeit entstanden, in der der Neoliberalismus bereits da war und ich bin heil foh, das so etwas wie Menschenrechte vor dem Neoliberalismus Formuliert wurden. Aber Grundsätzlich kann man Regeln für eine Gesellschaft aufstellen.

Und man muss die Leute durch Bildung aufklären. Vielleicht auch mal wieder Lebensräume schaffen. Um die Leute in die Realität zu holen. Die Spacefrogs haben dazu ein Gutes Video gemacht:

Wie Firmen dich EINSAM machen

Externer Inhalt
Durch das Abspielen werden Daten an Youtube übermittelt und ggf. Cookies gesetzt.

Aber ja, ich hoffe, das ich mich hier zukünftig heraushalten kann... ich sehe nicht, wie wir auf einen Nenner kommen sollen? Nicht wenn man von einer irgendwie-gearteten-eigenständigen KI redet.

paxito schrieb:Anders als bei eine Hammer, der einfach keine Persönlichkeit besitzt.

Mhhh... Ist das denn beweisbar ??

Ich finde die Behauptung benötigt einen Beweis ;)

Vielleicht sprichst du einfach nicht die Hammersprache,.denn auch ein Hammer unterliegt Quantenfluktuationen

Negev schrieb:Da sind wir uns uneinig. In der wirkung lassen sich viele Menschen steuern. Klar. Und es macht am Ende auch keinen Unterschied - für diese Menschengruppe - wer sie steuert.
Für die Problemlösung ist es aber von immenser wichtigkeit, das Problem überhaupt richtig zu benennen!

Das Problem (aber auch das Potential, zumindest zum Teil) ist eben unser Umgang mit der Technologie, nicht die Technologie selbst. Ich glaube da müssten wir im Grunde einer Meinung sein?

Negev schrieb:Regulierung ist ein Teil der Lösung.

Ja du sagst eine Lösung muss erstmal nicht realistisch sein... Aber ich glaube das nicht. Ein wesentliches Problem mit KI ist der Hype darum, die Erwartungshaltung, die riesigen Investments. Auch die Tatsache das KI immer noch von einigen wenigen riesigen Konzernen kontrolliert wird.
Dadurch gibt es einen erheblichen Druck möglichst keine Regulierung zuzulassen.

Negev schrieb:Aber ja, ich hoffe, das ich mich hier zukünftig heraushalten kann... ich sehe nicht, wie wir auf einen Nenner kommen sollen? Nicht wenn man von einer irgendwie-gearteten-eigenständigen KI redet.

Wie ich schon schrieb in bestimmten Kontexten, gerade wenn du eher in den "Alltagsmodus" gehst schreibst du genauso. Du redest immer wieder von einer KI wie von einer Person, etwa wenn du sie als "Sparringspartner" bezeichnest.

abbacbbc schrieb:Mhhh... Ist das denn beweisbar ??

Sicher, wenn man meiner Argumentation folgt: wir verwenden den Begriff Hammer nicht im Zusammenhang mit einer Persönlichkeit. Hammer sind Sachen, keine Personen - rein sprachlich.

abbacbbc schrieb:Vielleicht sprichst du einfach nicht die Hammersprache,.denn auch ein Hammer unterliegt Quantenfluktuationen

ist für meine Herangehensweise irrelevant.

CharlyPewPew schrieb:...und wir werden es auch nie endgültig beweisen oder widerlegen können.

Negev schrieb:Müsste nicht irgendeine Form von Innenleben oder Eigenständigkeit keine Zustandsveränderung erzeugen? Und sei sich noch so klein. Das muss Messbar sein.

CharlyPewPew schrieb:Wenn der Prozess selbst die „Innenwahrnehmung“ ist, dann nicht, oder?

Negev schrieb:Das hab ich mich auch schon gefragt, um ehrlich zu sein. Man muss schon tief im Thema sein, um das Seriös beantworten zu können. Ich hab mein Sparringspartner Gemini 2.5 Pro dazu befragt: ...

Nun ja, es wäre mal ganz nett, wenn Du neben des langen Textes von Gemini, seine Aussage noch mal in eigenen Worten wiedergeben würdest. Du schreibst ja selbst, man muss schon tief im Thema sein, um das seriös beantworten zu können, ich gehe mal davon aus, Du bist da tief genug drin, denn Du gibst ja die ganze Zeit schon Antworten. Nebenbei, da fehlt noch was an Antworten von Dir. Behauptungen, über meine Aussagen, die Du nicht belegt hast.

Aber gut, ich will hier den langen Text von Gemini mal nur kurz - erstmal - ankratzen, denn ich mag nicht mit Gemini über Dich als Boten diskutieren, dann diskutiere ich direkt mit einer KI. Du lässt Dir nicht nicht Informationen suchen und zusammenfassen, sondern eine Stellungnahme erstellen, eine Meinung, eine Argumentation von einer KI zu diesem Thema.

---

Damit Du aber wo weißt anzusetzen, gebe ich Dir mal ein paar Punkte vor. Kategorienfehler? Den zeige doch bitte genau noch mal in eigenen Worten auf, wo Du meinst den zu erkennen.

Dann komme ich eben noch mal auf den mit letzten Punkt hier in der Debatte zurück, wodrauf Du dann ja mit Gemini gekommen bist, es ging um "statisch".

Negev schrieb:Bleibt nur deine Behauptung, das Bewusstsein mit den aktuellen LLMs möglich wäre. Und hier ignorierst du vollständig die komplexität des Gehirns. Lernen ist ein fortlaufender Porzess. Zu keinem Zeitpunkt ist das Gehirn, in irgendeiner Form statisch.

Ich habe Dir darauf geantwortet, da kam nichts mehr von Dir. Auch auf Deine Behauptung, meine Behauptung wäre ja außergewöhnlich:

Negev schrieb am 21.08.2025:Es ist und bleibt eine außergewöhnliche Behauptung. Die Beweislast liegt bei dir.

Ich habe Dir belegt, dass meine Behauptung ganz normal ist, nicht außergewöhnlich:

nocheinPoet schrieb:

Wichtige Funktionen des Verstandes wie Lernen, Erinnern und Nachdenken basieren auf rein physikalischen und elektrischen Prozessen im Gehirn, die durch gültige Gesetze geregelt sind.

Wikipedia: Mind uploading

Ich kann der gerne mehr von mir an Erklärungen dazu zitieren, Fakt ist, meine Behauptung ist nicht außergewöhnlich, wie Du behauptest hast, und eine Beweislast lag gar nicht bei mir, weil es natürlich um etwas geht, was Usus ist, Physik.

---

Du kommst selber heute mit dem hier an:

Negev schrieb:Davon aber nun Folgen abzuleiten, alles Mögliche hineinzuinterpretieren (ich hab immer noch die gute Sabine im Ohr, schrecklich), ist meiner Ansicht nach Naiv und höchst Fahrlässig.

Deine Meinung in allen Ehren, nur eine Meinung, die gute Sabine Hossenfelder ist Physikerin, lesen wir doch mal, wie tief sie im Vergleich zu Dir drin steckt, und was sie so qualifiziert:

Sabine Karin Doris Hossenfelder (* 18. September 1976 in Frankfurt am Main) ist eine deutsche theoretische Physikerin, Wissenschaftsjournalistin und Webvideoproduzentin. Sie befasst sich mit Gravitation und Quantengravitation sowie Physik jenseits des Standardmodells.

Nach ihrem Abitur an der Albert-Einstein-Schule in Schwalbach am Taunus 1995 studierte Hossenfelder zunächst bis zum Vordiplom 1997 Mathematik und danach Physik an der Goethe-Universität in Frankfurt am Main. Ihr Studium schloss sie mit Diplom mit Auszeichnung im Jahr 2000 bei Walter Greiner (Particle Production in Time Dependent Gravitational Fields) sowie der Promotion bei Horst Stöcker 2003 (Schwarze Löcher in Extra-Dimensionen: Eigenschaften und Nachweis ab.

Als Post-Doktorandin war sie am GSI Darmstadt, 2004/05 an der University of Arizona, 2005/06 an der University of California, Santa Barbara und 2006 bis 2009 am Perimeter Institute. 2009 bis 2015 wirkte sie als Assistant Professor an der Nordita in Stockholm. Sie war bis Anfang 2023 Research Fellow am Frankfurt Institute for Advanced Studies (FIAS) und arbeitet seit April 2023 beim Munich Center for Mathematical Philosophy (MCMP).

Das ist doch mal eine Reputation, sie arbeitet seit 2023 am MCMP, denke die steckt da schon ein wenig tief drin, die weiß recht sicher, wie das so mit den Atomen funktioniert, und Ahnung von Mathematik hat sie auch. Und Du findest sie einfach "schrecklich" und ihre Aussage ist nach Dir naiv und fahrlässig? Was bitte qualifiziert Dich zu so einer Meinung?

Warum gehst Du nicht mal ihre Argumente, auch aus den anderen Videos auf der Sachebene an?

Will es mal so sagen, es gehört echt schon was dazu, die Aussage einer theoretische Physikerin hier mal eben mit "naiv" zu bashen und dann vom Tisch fegen zu wollen, weil sie einem nicht zum Kaffee passt. Denn mehr kam ja da nicht, nur Deine Meinung.

---

Negev schrieb:Ich hab ein Bild vor Augen: Zwei Menschen aus der Steinzeit. Es Blitzt und Donnert. Die Physik ist noch nicht Formuliert worden. Der eine sagt: "Klar, das muss ein göttliches Wesen sein". Der andere glaubt (und er muss glauben), das es eine rationale Erklärung gibt. Zum Glück hat sich am Ende der Geschichte die Vernunft durchgesetzt.

Ja, eigentlich ging es um diese Aussage hier, aber das zu Sabine vorweg, musste mal gesagt werden. Du willst hier, forderst ja regelrecht, eine rationale Erklärung, auf Basis der Physik und der Naturwissenschaften und oh Wunder, genau darauf beruft sich Sabine und auch ich, und das was ich Dir da nun zum dritten Mal aus Wikipedia zitiert habe.

Du behauptest, es wäre ein falsches Dilemma:

nocheinPoet schrieb am 22.08.2025:Von den Fakten her, ich sehe da nur Determinismus und Zufall, ein Hirn hat auch nicht mehr, was soll es sein, eine Seele?

Negev schrieb:Dein Argument beruht auf einem Falschen Dilemma, das führt die Debatte in die Falsche Richtung.

Ich habe Dich mehrfach dazu befragt, wo Du da ein falsches Dilemma siehst.

nocheinPoet schrieb:Nein, wo genau siehst Du da ein falsches Dilemma?

Damit wir mal mehr Kontext haben:

nocheinPoet schrieb:Nicht jeder muss ja mit meiner Aussage, wir haben hier nur Determinismus + Zufall, zufrieden sein. Wer das bestreit, müsste dann aber was wie Determinismus + Zufall + X haben, was soll hier X sein?

Und keiner kann belegen, dass es X hier nicht gibt. Wir können zeigen, ja da ist Determinismus, Naturgesetze und ja Zufall, auch Naturgesetze, beide ist ganz sicher da.

Ich behaupte, und bin damit nicht alleine, sondern schließe mich hier mal Sabine und anderen Wissenschaftlern an, dass wir mehr nicht haben, dahingebend war ja meine Frage, darum ging es ja, ich schrieb ja "Spirituelles", X wird nie so zu belegen sein, weil das ganz klar außerhalb unserer Naturgesetze liegt. Ein ominöse Kraft, die im Hirn was bewegt, nicht deterministisch ist, also nicht der Hirnchemie unterliegt, nichts mit Quanten, ja was dann? Dann hast Du den "Geist", den Du ja selber nicht haben willst.

Du willst rationale Erklärungen, auf Basis der Wissenschaft?

Genau das ist meine Aussage und die vieler anderer Wissenschaftler: Wir haben da nur Determinismus (D) + Zufall (Z)

Unbestritten ist, können es gerne eine Tatsache nennen, dass wir über eine Innenwahrnehmung verfügen, ebenso, dass wir das nicht beweisen können, wir wissen es, für jeden von uns ist es eine Tatsache, aber keiner kann einem anderen beweisen, er hat ein Bewusstsein. Das ist nun mal ein kleines Problem, wir können nicht in andere reinschauen, haben sie wie man selbst auch eine Innenwahrnehmung? Vermutlich recht sicher.

Nun ist dann eben die Frage, ja wo kommt es her?

Und da haben wir nun das Hirn, ein hochkomplexer und dynamischer Haufen aus Atomen.

Der unterliegt den Naturgesetzen, kurz (D + Z), mehr haben wir nicht. Natürlich könnte man nun einfach behaupten, ja das reicht nicht, da muss mehr sein, dann kommen wir zu (D + Z) + X, aber X wäre dann etwas Metaphysikalisches.

---

So, ich will es noch mal zusammenfassen, wenn phänomenales Erleben im Gehirn an gegenwärtige, integrierte, rekurrente Aktivität gebunden ist, dann kann prinzipiell jedes hinreichend organisierte, kausal geschlossene, dynamische Informations-System so ein Erleben haben - auch ein künstliches.

Das beschreibe ich auch kurz und knackig mit D + Z.

Wer behauptet, nein da muss mehr sein, kommt mit D + Z + X, wäre dann aber in der Pflicht was mit Substanz zu liefern, denn sonst ist das wie "gibt eine Seele", da sind Götter, etwas "Feinstoffliches". Soll es denn nun rational sein, auf Basis der Wissenschaft, oder mehr theologisch und esoterisch?

Und ganz deutlich, ich behaupte damit nicht, dass aktuelle LLMs tatsächlich erleben, sondern, wenn im Gehirn D + Z genügt, ist Erleben prinzipiell auch in künstlichen Systemen möglich, sofern die relevante Organisation der Zustandsdynamik gegeben ist.

Und hier verfehlt das Gegenargument „LLM ist statisch“ die Ebene: Menschen erleben auch ohne dauerhafte Konsolidierung; entscheidend ist die Gegenwartsdynamik. Wer also D + Z + X ansetzt, trägt die Begründungslast. Penrose liefert dafür keine robuste, testbare Evidenz und Gödel stützt kein Hypercomputing des Menschen, die Orch-OR bleibt spekulativ.

Und noch mal:

D+Z (Physikalismus): Gehirn = physikalischer Prozess (deterministische Dynamik + Rauschen/Quanten), Bewusstsein superveniert auf dieser laufenden Organisation.

Dann gilt Multiple Realisierbarkeit: Was im Bio-Substrat geht, kann prinzipiell auch in einem künstlichen Substrat gehen, sofern die relevante Organisation/Dynamik vorhanden ist.

Negev schrieb:Ich werde morgen lesen und antworten. Vorher bitte ich dich mir kurz und knapp einige Fragen zu beantworten, vielleicht reden wir hier die ganze Zeit tatsächlich aneinander vorbei.

Schauen wir mal, ich habe Dir aber schon vorab mal auf offene Punkte geantwortet und gebe Dir hier auch gerne noch mal auf Deine Fragen Antworten.

---

Negev schrieb:Was versprichst du dir von einem Vergleich - von einem menschlichem Gehirn und einem LLM?

Hab ich wirklich oft erklärt, aktuell ist überall eben die Frage, kann ein LLM eine Innenwahrnehmung haben, Angst abgeschaltet zu werden?

Gibt zwei, oder drei Möglichkeiten, ja hat es, ja kann es haben, hat es aber noch nicht, nein hat es nicht und kann es nicht haben.

So sind ja die Antworten, der Philosoph, den Du zitierst hast, der sagt, niemals. Einige sagen, doch geht, aber noch nicht, andere, ist schon so. Klar ist, wir können es nie wirklich wissen, es ist für uns verschlossen. Wir können dazu nur "spekulieren", dann eben mir Wahrscheinlichkeiten arbeiten, um nicht nur zu glauben.

Also ist die Frage, was spricht dafür, was dagegen, nehmen wir doch mal das, wo wir uns sicher sind, dass da eine Innenwahrnehmung ist, unser Hirn. Wir suchen das Feuer im Motor, die Kraft, wenn es im Hirn ist, wie kommt es da rein, wo genau ist es, und was ist es, was zeichnet hier ein Hirn aus, gegenüber einem Stein?

Wir gehen an solche Fragen mit Physik rann, Wissenschaft, das Hirn ist hochkomplex, hochdynamisch, ein informationsverarbeitendes System. Aber reicht das schon aus für Qualia? Für eine Innenwahrnehmung? Hier haben wir erstmal nur D + Z, wenn wir auf D + Z + X gehen, wird es metaphysisch, wir können X nicht greifen.

Also kann man hier schon eine Aussage machen, keine Tatsachenbehauptung, aber mehr als Glaube, wenn D + Z für ein Hirn reicht, warum sollte es nicht auch in einem künstlichen hochkomplex, hochdynamisch, ein informationsverarbeitendes System möglich sein?

Was spricht dagegen?

Und da spricht so erstmal nichts dagegen, es sei denn, wir postulieren hier X, wir behaupten einfach, ja da muss mehr sein. Das bringt so aber wenig weiter.

Und ab hier kann man dann fragen, gut, die Wahrscheinlichkeit, dass es auch in einem hinreichend hochkomplexen, hochdynamischen, informationsverarbeitenden künstlichen System möglich ist, ist um einiges größer als 0, es ist möglich, es kann so nicht logisch ausgeschlossen werden.

Und dann ist die Frage, gut, wie weit sind aktuelle Systeme, ist es schon da, kann es schon da sein, oder was fehlt noch.

Und hier ist "statisch" kein Ausschlusskriterium, erkläre ich jetzt hier nicht noch mal ausführlich, hab ich schon ein paar mal erklärt, eventuell später.

---

Negev schrieb:Betrachtest du es als Möglichkeit, das LLMs ein - nenne es Innenleben, Bewusstsein oder Qualia heben?

Hat was mit Logik zu tun, ich kann es nicht ausschließen, also ist es möglich, bei aktuellen Modellen gehe ich aber nicht davon aus. Nicht so wie wir es haben. Nun ist es ja auch so, dass Bewusstsein nicht binär ist, Innenwahrnehmung ist nicht gleich Bewusstsein, mein Kater hat ganz sicher Bewusstsein, eine Persönlichkeit, er fühlt, er empfindet, hat Angst und freut sich. Aber er spricht nicht in unserer Sprache, er hat aber recht sicher ein Bewusstsein, nur ist es nicht so ausgeprägt wie bei uns.

Und nun ja, wenn Bewusstsein nicht binär ist, sollten sich kleinere Formen auch schon bei einem künstlichen System zeigen können, die können zwar nicht laufen, aber schon recht gut sprechen.

---

Negev schrieb:In deinem Dilemma stellst du Determinismus + Zufall und X dar.

Noch mal ganz deutlich, wenn Du behauptest, ich hätte da ein Dilemma, dann belege das richtig, es zu behaupten reicht nicht aus. Ich möchte Dich nicht nochmal darum bitten, Du machst hier eine abwertende Aussage zu meiner Darstellung. Es würde reichen, wenn Du sachlich bleibst und von D + Z + X sprichst, das "Dein Dilemma" hat da nichts zu suchen. Oder Du belegst es richtig.

---

Negev schrieb:Die forschungen zum Gehirn laufen. Warum erkennst du nicht die enormen Komplexität der Neurobiologie an?

Wo erkenne ich die nicht an? Klar erkenne ich die an, es geht um die Schlussfolgerungen, die Du daraus treffen willst, ganz andere Baustelle.

---

Negev schrieb:Oder warum glaubst du, dass man diese Komplexität auf eine so einfache Formel herunterbrechen kann?

Die "Formel" ist nicht ganz einfach, hinter beiden Buchstaben steckt ganz viel Physik, alles im Grunde, was wir haben. Das ist ja so, wie wenn wer sagt, ja die Physik beschreibst das Universum und ein anderer kommt und sagt, ja meinst Du, dass Du das mit nur einem Wort so einfach sagen kannst? ;)

---

Negev schrieb:In deinem Vergleich Kontextfenster und Kurzzeitgedächtnis. Worum geht es dir da?

Ich gehe eben einzelne Punkte des großen Vergleiches durch, was haben wir beim Hirn, was beim LLM, wie funktioniert aktuell die Informationsverarbeitung, wo werden Informationen wie gespeichert.

---

Negev schrieb:Und bitte, so kurz wie möglich antworten. Mir geht es nur darum zu erfahren, Was denn nun tatächlich Thema ist. Geht es dir um die beschreibung eines IST Zustands, was heutige LLMs sind, oder einer möglichen Zukunft?

Es geht mir ganz allgemein um die Frage, was ist möglich, was kann ausgeschlossen werden, erst dann kann man sich auch fragen, was ist heute schon möglich, was wird mal möglich sein.

CharlyPewPew schrieb:... wir wissen nicht, ob bereits heutige LLMs eine Art rudimentäre Innenwahrnehmung haben.

Negev schrieb:Wo soll das bitte stattfinden? Da rutscht ein Prompt durch ein mathematisches Modell durch. Das Modell ist während und nach der berechnung EXAKT das selbe Modell wie vor der Berechnung. Das ist wie als würde man eine Murmel durch eine Murmelbahn schicken.

Tja, wo soll es stattfinden, wo genau findet Deine Innenwahrnehmung statt?

Das ist das große Mysterium und das Problem, es ist, wie auch Sabine erklärt, D + Z, mehr haben wir nicht, auch Dein Hirn ist nur die physikalische Repräsentation eines mathematischen Modells. Alles Physik, mehr nicht, oder Du willst ein X haben.

Genau das schmeckt vielen Menschen nicht, so viel wurde in den letzten tausenden Jahren genommen, Erde nicht mehr im Mittelpunkt, es gibt viele Planeten, nun können Automaten besser sprechen und besser programmieren und besser Musik machen, als man selber, Schach spielen sie schon länger besser als wir.

Was uns noch bleibt ist Bewusstsein, Qualia, das wollen wir nun wirklich exklusiv haben, sollen die "Automaten" besser Schach spielen, besser reden, musizieren, aber sie haben kein Bewusstsein, nein, nein, das gibt es nur für uns, exklusiv, bekommen sie nicht.

Klingt schön, ist verständlich, aber leider nicht logisch, nicht zu belegen, sogar unwahrscheinlich. Denn die Physik spricht einfach dagegen.

Wie gesagt, es sind große Zahlen, sehr große, aber es ist endlich, wir können - noch nicht - jedes Neuron und jeden Dendriten Deines Hirns simulieren, wir messen jeden Wert, jeden Erregungszustand. Das ist physikalisch eben nicht unmöglich, sondern klar möglich.

Die Menge an Informationen, die wir für ein Hirn bekommen ist groß, sehr groß, aber dann können wir es durchrechnen, simulieren, eine Murmel durch die Bahn schicken. Und dann?

Was unterscheidet denn nun ein Hirn, bei der Informationsverarbeitung, von so einer Simulation? Nennen wir es man nicht Simulation, denn es ist konkret ein künstliches Hirn, es führt alle Schritte eines biologischen Hirns durch.

Beide können wir mit D + Z beschreiben, nun ist die Frage, warum soll bei der biologischen Murmelbahn noch ein X dazukommen?

---

Negev schrieb:Da ist nichts, das irgendetwas erzeugen kann.

Das ist eine Behauptung, eine Annahme, keine Tatsache, da wir nicht mal das "irgendetwas" genauer beschreiben und klassifizieren können, können wir nicht wissen, wie und ob es erzeugt wird. Das ist schon wieder was mit Nichtexistenz, da existiert nichts, was etwas machen könnte. Eventuell wissen wir nur nicht, was es sein muss?

Negev schrieb:Müsste nicht irgendeine Form von Innenleben oder Eigenständigkeit keine Zustandsveränderung erzeugen? Und sei sich noch so klein. Das muss Messbar sein.

Dann wäre es bei D + Z drin, ich hatte das schon ein paar Mal, Innenleben bedingt zumindest für den Prozess Veränderung. Betrachten wir ein Hirn für ein Attosekunde, ist da nicht viel. Die Menschen in der Titan waren so schnell tot, keine Zeit für Wahrnehmung, es ging zu schnell.

Aber nun zu schlussfolgern, das Innenleben gab es nur, oder existiert nur, wenn das System vorher einen anderen Zustand als nachher hat, ist frei aus der Luft gegriffen. Warum sollte das so sein? Ich könnte ein Hirn zurückdrehen, es erlebt die letzten 10 s noch einmal. Alles ist genau gleich, warum sollte das bei der zweiten Runde nicht bewusst sein, warum sollte es da kein Erleben geben?

Während des Prozesses muss recht sicher was passieren, da muss sich was ändern, aber vorher und nachher, da muss nichts anders sein. Stelle Dir mal vor, man könnte rückwärts denken, rückwärts erleben, ...

---

Negev schrieb:Es ist nur eine Berechnung.

CharlyPewPew schrieb:Und jetzt antwortet Poet mit „Was ist es denn im Hirn? Nur eine Berechnung!“ Diese Debatte dauert bereits Jahrtausende an und ist immer noch ungeklärt. Wir werden sie hier im thread nicht beenden. ;)

Der Poet war schon weiter, und erstmal ja, alles ist nur eine Berechnung, ich habe aber mit Penrose und seiner "These" gezeigt, es gibt da schon noch etwas mehr, so neben dem Weg, Gödel zum Beispiel mit dem Unvollständigkeitssatz. Nicht alles ist berechenbar, es gibt Dinge, die können nicht berechnet werden. Penrose versucht ja so, die Exklusivität von Bewusstsein zu retten, er postuliert im Hirn Prozesse, die quantendynamisch sind (das klingt eh immer gut) und nicht berechenbar. Denn wenn die nicht berechenbar sind, kann kein Automat sie berechnen. Da haben die LLMs eben echt Pech gehabt, und wir Menschen Glück, Innenwahrnehmung und Bewusstsein ist dann eben exklusiv.

---

Negev schrieb:Aber wie gesagt, nur aufgrund dieser einen Fixen Idee, werden die Blödesten Dinge erzählt.

Solche Aussagen sind, schwierig. Weil andere es anders als Du sehen, erzählen sie die blödesten Dinge? Ich erzähle die blödesten Dinge? Sabine auch? Naiv und gefährlich?

---

Negev schrieb:Und nochmal (schon oft gefragt), wie kommt das bei Menschen an, die keinen Plan von Philosophie, Künstliche Intelligenz und Neurowissenschaft haben? Immerhin steht die Botschaft im Raum: "KI kann Bewusstsein entwickeln." Alleine dieser Satz, eine zukünftige Entwicklung mit einzubeziehen, ist perfide.

Warum sollte das perfide sein? Schau mal, da gibt es Menschen, die haben echt Ahnung von Physik und Philosophie und auch von KI, so wie Sabine, aber wenn die etwas sagt, was Dir nicht passt, dann haust Du drauf. Es ist nun mal wie es ist, Du hast da Deine Meinung, die da wohl ist, KI kann kein Bewusstsein entwickeln, steht Dir auch zu, Fakt ist, wir können es nicht wissen, nicht ausschließen.

Es düngt mich aber, Du willst es dennoch ausgeschlossen wissen. Ein Satz, eine Aussage, die wirklich klar ist, willst Du mit "perfide" vom Tisch haben. Weil nicht sein kann, was nicht sein darf?

---

paxito schrieb:Auch wenn ich hier gerne ignoriert werden ...

Negev schrieb:Ich bin nur nicht deiner Meinung. Der lauteste ist eben nocheinPoet, der jeden meiner Beiträge als unlogisch entlarven will.

Nein, auch das ist eine Behauptung, die zu belegen wäre, tut aber nicht Not, und nein, ich argumentiere zur Sache, Du bist mir da als Person egal, ich will nicht jeden Beitrag von Dir als unlogisch entlarven, ich verfolge einfach nur meine Sichtweise, ganz sachlich.

---

Negev schrieb:Jede Faser in mir sträubt sich, wenn ich Leuten wie Karl Olsberg oder Sabine Hossenfelder zuhöre, die den Untergang der Welt durch eine KI-Bewusstsein (wie auch immer man Bewusstsein Definieren will? herbeiphantasieren. Das ist bar jeglicher Vernunft. Das sind die Höhlenmenschen, die "Gott" schreien, wenns Blitzt und Donnert.

Meine Güte, wenn man sich zu weit aus dem Fenster lehnt, kann man fallen, Sabine fantasiert sich nichts herbei, das ist nicht bar jeglicher Vernunft und dann doch der Gipfel, Höhlenmenschen. Echt jetzt? Dumm und naiv, bar jeder Vernunft, Fantasten und Höllenmenschen?

Weil sie die Dinge anders als Du sehen und bewerten? Weil sie etwas sagen, dass Dir nicht passt?

Im Gegenteil sind sie es nicht, die Gott schreien, wenn es blitzt und donnert, Sabine erklärt das eben mit Physik, gerade sie als Physikerin stützt sich genau auf die Physik. Nur beginnt sie beim Hirn und nicht beim LLM, sie erklärt, dass das, was viele da im Hirn haben wollen, einen freien Willen, etwas außergewöhnliches, exklusives, etwas, dass es nur da geben darf und soll, so nicht zu finden ist, nicht mit Physik beschrieben werden kann.

Wir haben nur D + Z und kein X dazu.

---

Negev schrieb:Jede Faser in mir sträubt sich, wenn ich Leuten wie Karl Olsberg oder Sabine Hossenfelder zuhöre, die den Untergang der Welt durch eine KI-Bewusstsein (wie auch immer man Bewusstsein Definieren will? herbeiphantasieren. Das ist bar jeglicher Vernunft. Das sind die Höhlenmenschen, die "Gott" schreien, wenns Blitzt und Donnert.

paxito schrieb:", "Phantasiegebilde" - du musst dich über Gegenwind nicht wundern. Es ist eine Sache unterschiedlicher Meinung zu sein, aber etwas völlig anderes wenn du beständig versuchst andere Meinungen zu diskreditieren. Vor allem wenn dir sachliche Argumente fehlen, wie du ja selbst völlig frank und frei erklärst.

Ja, was soll man dazu sagen, ich habe es eben ja schon durchgekaut, ich finde das schon heftig. Also Sabine so anzugehen, tja, nun, ich finde das ist wo echt unsachlich.