Ich will nicht mehr davon reden. Das ist mein Angebot eines "Waffenstillstandes".paxito schrieb:Gerne, dann mache es halt nicht immer wieder zum Thema. Hab ich dir schon mal gesagt
Sicher, auch das hab ich dir schon mal gesagt.Negev schrieb:Angenommen?
Das ist richtig gruselig, wenn Menschen unreflktirt den Output annehmen, das eröffnet manipulation Tür und Tor. Lustigerweise muss man mechanismen einbauen, um den Output gezielt so zu steuern, das er im sinne der Entwickler ist.
Right. Wenn die "Nutzer" anfangen eine Beziehung zu LLMs aufzubauen, teilweise völlig unbewusst, dann bauen sie Vertrauen auf, ähnliche wie eben auch bei einem Menschen.
Hat nicht lange dauert, die Waffenruhe? 😀
Eine Frage der Betrachtung. Wie gesagt: LLMs verleiten wie kaum etwas anderes dazu sie zu personifizieren und ihnen dann eben auch Verantwortung und Schuld zuzusprechen.
Ein LLM Manipuliert uns.
Oder
Menschen manipulieren uns. Was halt schon immer so war. Jetzt nur viel effektiver.
Das ist als Vorschlag so sinnvoll wie das Fernsehen, das Internet oder den Buchdruck verbieten zu wollen. Ich bezweifle, dass das eine reale Möglichkeit ist.
Auch hier bezweifle ich, ob das eine reale Möglichkeit darstellt. Die Vorteile die diese Technologie bietet sind zu groß, jeder hat Angst ins Hintertreffen zu geraten oder ist das schon. Siehe Europa mit seinen vergleichsweise strengen Regeln, hat bei dieser Technologie eben auch nichts zu melden - weil die Investitionen in die USA oder China gehen.
Ich schreibe ja, dass es hier nur um eine vermeintliche semantische Feinheit geht, die dann aber ganz notwendig Konsequenzen mit sich bringt. Das ist mein Punkt. Und darum schreibe ich eben auch als ob ein LLM eine Person wäre, meistens jedenfalls, weil wir es am Ende genauso handhaben.
Da sind wir uns uneinig. In der wirkung lassen sich viele Menschen steuern. Klar. Und es macht am Ende auch keinen Unterschied - für diese Menschengruppe - wer sie steuert.
Mhhh... Ist das denn beweisbar ??
Das Problem (aber auch das Potential, zumindest zum Teil) ist eben unser Umgang mit der Technologie, nicht die Technologie selbst. Ich glaube da müssten wir im Grunde einer Meinung sein?
Für die Problemlösung ist es aber von immenser wichtigkeit, das Problem überhaupt richtig zu benennen!
Ja du sagst eine Lösung muss erstmal nicht realistisch sein... Aber ich glaube das nicht. Ein wesentliches Problem mit KI ist der Hype darum, die Erwartungshaltung, die riesigen Investments. Auch die Tatsache das KI immer noch von einigen wenigen riesigen Konzernen kontrolliert wird.
Wie ich schon schrieb in bestimmten Kontexten, gerade wenn du eher in den "Alltagsmodus" gehst schreibst du genauso. Du redest immer wieder von einer KI wie von einer Person, etwa wenn du sie als "Sparringspartner" bezeichnest.
Sicher, wenn man meiner Argumentation folgt: wir verwenden den Begriff Hammer nicht im Zusammenhang mit einer Persönlichkeit. Hammer sind Sachen, keine Personen - rein sprachlich.abbacbbc schrieb:Mhhh... Ist das denn beweisbar ??
ist für meine Herangehensweise irrelevant.
Nun ja, es wäre mal ganz nett, wenn Du neben des langen Textes von Gemini, seine Aussage noch mal in eigenen Worten wiedergeben würdest. Du schreibst ja selbst, man muss schon tief im Thema sein, um das seriös beantworten zu können, ich gehe mal davon aus, Du bist da tief genug drin, denn Du gibst ja die ganze Zeit schon Antworten. Nebenbei, da fehlt noch was an Antworten von Dir. Behauptungen, über meine Aussagen, die Du nicht belegt hast.
Ich habe Dir darauf geantwortet, da kam nichts mehr von Dir. Auch auf Deine Behauptung, meine Behauptung wäre ja außergewöhnlich:
Ich habe Dir belegt, dass meine Behauptung ganz normal ist, nicht außergewöhnlich:
Ich kann der gerne mehr von mir an Erklärungen dazu zitieren, Fakt ist, meine Behauptung ist nicht außergewöhnlich, wie Du behauptest hast, und eine Beweislast lag gar nicht bei mir, weil es natürlich um etwas geht, was Usus ist, Physik.Wichtige Funktionen des Verstandes wie Lernen, Erinnern und Nachdenken basieren auf rein physikalischen und elektrischen Prozessen im Gehirn, die durch gültige Gesetze geregelt sind.Wikipedia: Mind uploading
Deine Meinung in allen Ehren, nur eine Meinung, die gute Sabine Hossenfelder ist Physikerin, lesen wir doch mal, wie tief sie im Vergleich zu Dir drin steckt, und was sie so qualifiziert:
Sabine Karin Doris Hossenfelder (* 18. September 1976 in Frankfurt am Main) ist eine deutsche theoretische Physikerin, Wissenschaftsjournalistin und Webvideoproduzentin. Sie befasst sich mit Gravitation und Quantengravitation sowie Physik jenseits des Standardmodells.Das ist doch mal eine Reputation, sie arbeitet seit 2023 am MCMP, denke die steckt da schon ein wenig tief drin, die weiß recht sicher, wie das so mit den Atomen funktioniert, und Ahnung von Mathematik hat sie auch. Und Du findest sie einfach "schrecklich" und ihre Aussage ist nach Dir naiv und fahrlässig? Was bitte qualifiziert Dich zu so einer Meinung?
Nach ihrem Abitur an der Albert-Einstein-Schule in Schwalbach am Taunus 1995 studierte Hossenfelder zunächst bis zum Vordiplom 1997 Mathematik und danach Physik an der Goethe-Universität in Frankfurt am Main. Ihr Studium schloss sie mit Diplom mit Auszeichnung im Jahr 2000 bei Walter Greiner (Particle Production in Time Dependent Gravitational Fields) sowie der Promotion bei Horst Stöcker 2003 (Schwarze Löcher in Extra-Dimensionen: Eigenschaften und Nachweis ab.
Als Post-Doktorandin war sie am GSI Darmstadt, 2004/05 an der University of Arizona, 2005/06 an der University of California, Santa Barbara und 2006 bis 2009 am Perimeter Institute. 2009 bis 2015 wirkte sie als Assistant Professor an der Nordita in Stockholm. Sie war bis Anfang 2023 Research Fellow am Frankfurt Institute for Advanced Studies (FIAS) und arbeitet seit April 2023 beim Munich Center for Mathematical Philosophy (MCMP).
Ja, eigentlich ging es um diese Aussage hier, aber das zu Sabine vorweg, musste mal gesagt werden. Du willst hier, forderst ja regelrecht, eine rationale Erklärung, auf Basis der Physik und der Naturwissenschaften und oh Wunder, genau darauf beruft sich Sabine und auch ich, und das was ich Dir da nun zum dritten Mal aus Wikipedia zitiert habe.
Ich habe Dich mehrfach dazu befragt, wo Du da ein falsches Dilemma siehst.
Damit wir mal mehr Kontext haben:
Du willst rationale Erklärungen, auf Basis der Wissenschaft?
Und keiner kann belegen, dass es X hier nicht gibt. Wir können zeigen, ja da ist Determinismus, Naturgesetze und ja Zufall, auch Naturgesetze, beide ist ganz sicher da.
Ich behaupte, und bin damit nicht alleine, sondern schließe mich hier mal Sabine und anderen Wissenschaftlern an, dass wir mehr nicht haben, dahingebend war ja meine Frage, darum ging es ja, ich schrieb ja "Spirituelles", X wird nie so zu belegen sein, weil das ganz klar außerhalb unserer Naturgesetze liegt. Ein ominöse Kraft, die im Hirn was bewegt, nicht deterministisch ist, also nicht der Hirnchemie unterliegt, nichts mit Quanten, ja was dann? Dann hast Du den "Geist", den Du ja selber nicht haben willst.
Schauen wir mal, ich habe Dir aber schon vorab mal auf offene Punkte geantwortet und gebe Dir hier auch gerne noch mal auf Deine Fragen Antworten.
Hab ich wirklich oft erklärt, aktuell ist überall eben die Frage, kann ein LLM eine Innenwahrnehmung haben, Angst abgeschaltet zu werden?
Hat was mit Logik zu tun, ich kann es nicht ausschließen, also ist es möglich, bei aktuellen Modellen gehe ich aber nicht davon aus. Nicht so wie wir es haben. Nun ist es ja auch so, dass Bewusstsein nicht binär ist, Innenwahrnehmung ist nicht gleich Bewusstsein, mein Kater hat ganz sicher Bewusstsein, eine Persönlichkeit, er fühlt, er empfindet, hat Angst und freut sich. Aber er spricht nicht in unserer Sprache, er hat aber recht sicher ein Bewusstsein, nur ist es nicht so ausgeprägt wie bei uns.
Noch mal ganz deutlich, wenn Du behauptest, ich hätte da ein Dilemma, dann belege das richtig, es zu behaupten reicht nicht aus. Ich möchte Dich nicht nochmal darum bitten, Du machst hier eine abwertende Aussage zu meiner Darstellung. Es würde reichen, wenn Du sachlich bleibst und von D + Z + X sprichst, das "Dein Dilemma" hat da nichts zu suchen. Oder Du belegst es richtig.
Wo erkenne ich die nicht an? Klar erkenne ich die an, es geht um die Schlussfolgerungen, die Du daraus treffen willst, ganz andere Baustelle.
Die "Formel" ist nicht ganz einfach, hinter beiden Buchstaben steckt ganz viel Physik, alles im Grunde, was wir haben. Das ist ja so, wie wenn wer sagt, ja die Physik beschreibst das Universum und ein anderer kommt und sagt, ja meinst Du, dass Du das mit nur einem Wort so einfach sagen kannst? ;)
Ich gehe eben einzelne Punkte des großen Vergleiches durch, was haben wir beim Hirn, was beim LLM, wie funktioniert aktuell die Informationsverarbeitung, wo werden Informationen wie gespeichert.
Es geht mir ganz allgemein um die Frage, was ist möglich, was kann ausgeschlossen werden, erst dann kann man sich auch fragen, was ist heute schon möglich, was wird mal möglich sein.
Tja, wo soll es stattfinden, wo genau findet Deine Innenwahrnehmung statt?
Das ist eine Behauptung, eine Annahme, keine Tatsache, da wir nicht mal das "irgendetwas" genauer beschreiben und klassifizieren können, können wir nicht wissen, wie und ob es erzeugt wird. Das ist schon wieder was mit Nichtexistenz, da existiert nichts, was etwas machen könnte. Eventuell wissen wir nur nicht, was es sein muss?
Dann wäre es bei D + Z drin, ich hatte das schon ein paar Mal, Innenleben bedingt zumindest für den Prozess Veränderung. Betrachten wir ein Hirn für ein Attosekunde, ist da nicht viel. Die Menschen in der Titan waren so schnell tot, keine Zeit für Wahrnehmung, es ging zu schnell.
Der Poet war schon weiter, und erstmal ja, alles ist nur eine Berechnung, ich habe aber mit Penrose und seiner "These" gezeigt, es gibt da schon noch etwas mehr, so neben dem Weg, Gödel zum Beispiel mit dem Unvollständigkeitssatz. Nicht alles ist berechenbar, es gibt Dinge, die können nicht berechnet werden. Penrose versucht ja so, die Exklusivität von Bewusstsein zu retten, er postuliert im Hirn Prozesse, die quantendynamisch sind (das klingt eh immer gut) und nicht berechenbar. Denn wenn die nicht berechenbar sind, kann kein Automat sie berechnen. Da haben die LLMs eben echt Pech gehabt, und wir Menschen Glück, Innenwahrnehmung und Bewusstsein ist dann eben exklusiv.
Solche Aussagen sind, schwierig. Weil andere es anders als Du sehen, erzählen sie die blödesten Dinge? Ich erzähle die blödesten Dinge? Sabine auch? Naiv und gefährlich?
Warum sollte das perfide sein? Schau mal, da gibt es Menschen, die haben echt Ahnung von Physik und Philosophie und auch von KI, so wie Sabine, aber wenn die etwas sagt, was Dir nicht passt, dann haust Du drauf. Es ist nun mal wie es ist, Du hast da Deine Meinung, die da wohl ist, KI kann kein Bewusstsein entwickeln, steht Dir auch zu, Fakt ist, wir können es nicht wissen, nicht ausschließen.
Nein, auch das ist eine Behauptung, die zu belegen wäre, tut aber nicht Not, und nein, ich argumentiere zur Sache, Du bist mir da als Person egal, ich will nicht jeden Beitrag von Dir als unlogisch entlarven, ich verfolge einfach nur meine Sichtweise, ganz sachlich.
Meine Güte, wenn man sich zu weit aus dem Fenster lehnt, kann man fallen, Sabine fantasiert sich nichts herbei, das ist nicht bar jeglicher Vernunft und dann doch der Gipfel, Höhlenmenschen. Echt jetzt? Dumm und naiv, bar jeder Vernunft, Fantasten und Höllenmenschen?
Ja, was soll man dazu sagen, ich habe es eben ja schon durchgekaut, ich finde das schon heftig. Also Sabine so anzugehen, tja, nun, ich finde das ist wo echt unsachlich.
Ja.
Die Formulierung mit dem Höhlenmenschen war unfein. Eigentlich wollte ich nur an meine Analogie anknüpfen: Menschen aus einer früheren Epoche, die mit ihrem damaligen Wissen versuchen, ein unerklärliches Naturphänomen aus verschiedenen Blickrichtungen zu deuten.
Dazu eine Erklärung: ich lehne Glauben ab. Ich gehe davon aus, das wir alles erklären können und können werden.
Ja, ist mir schon klar, wo Du anknüpfen wolltest, und dass Du sie nicht einfach nur als Höhlenmensch bezeichnest hast, klar, es ging Dir um das nicht Wissen, nicht Verstehen, Glauben, Mystik, es sind Götter, keine Physik. Wenn es nicht so gewesen wäre, wäre es ja noch mal eine ganze Nummer härter gewesen, also der Bezug an dem Du da anknüpfen wolltest, ist mir schon klar gewesen.
Du lehnst also Glauben ab, und glaubst, wir werden alles erklären können? Nein, es ist im Grunde schon eine Tatsache, dass wir nicht alles erklären können werden.
Ja gibt es, je nachdem wie man "Gott" definiert, glaube ich auch daran. Und ich weiß nicht, ob Sabine nun an Gott glaubt, Einstein ja, ich glaube sie nicht. Und wenn Du behauptest, die Leute irren, reicht da Dein Glaube für, dass es so ist, nicht aus. Du siehst es anders, gut, legitim.
Ja nun, und? es ist Dein Glaube, Deine Überzeugung, Deine Meinung, mehr nicht und was heißt hier fachfremden Bereich, es geht um Physik, um komplexe Systeme, natürlich kann sie dazu was äußern, und was sie sagt ist begründet, ich hatte Dir ja Videos verlinkt.
Ja, ich weiß auch, ich habe Bewusstsein, ich weiß aber nicht, sass mich das fundamental von unbelebter Materie unterscheidet, von einem Hammer recht sicher, aber von einem hochkomplexen und hochdynamischen informationsverarbeitenden künstlichen System? Warum sollte das so sein? Wie gesagt, Hirn und so ein System werden mit D + Z beschrieben, wenn wir rational und im Rahmen der Wissenschaft bleiben wollen. Und ich sage nicht, dass das nicht zu großen Problemen führt, gerade D + Z führt zu einem Widerspruch, einem Paradoxon, was kaum zu bewältigen ist.
Persönlich hab ich da so ein Konglomerat aus Physikalismus und Panpsychismus, aber auch hier, reicht Deine Überzeugung als Argument nicht aus.
Nur weil andere Menschen eine andere Sichtweise haben, belegt das doch nicht, dass sie hier mit Glauben und Fantasie hantieren, im Gegenteil D + Z ist so was von physikalisch und rational.
Du musst da nichts versprechen und Dich ausklinken, eine gute Diskussion lebt von unterschiedlichen Positionen, darum will ich Dich ja auch nicht raushaben. Das Thema ist wichtig, aktuell und kann gut von allen Seiten beleuchtet werden und es wird nicht verschwinden, im Gegenteil, es wird immer akuter werden, KI wird immer mehr machen, das "Zeitalter" der Agenten ("Agentic Era" oder "Era of AI Agents") beginnt gerade erst.
Die nächste Generation wird vor allem mit den Folgen des Energiehungers solcher Systeme und des Klimawandels zu kämpfen haben. OpenAIs Projekt Stargate soll beispielsweise hauptsächlich mit Gas-Kraft betrieben werden:
Man KÖNNTE (natürlich abstrakt und mit "known unknowns" oder "unknown unknowns") argumentieren, dass eine besser werdende KI aber zur Lösung des Energiehungers vielleicht irgendwie beitragen könnte und die Schwellen verschiebt, mit denen wir jetzt und perspektivisch zu kämpfen haben. Bzw. schneller verschiebt :D
Da ist es dann fast egal, ob eine AGI theoretisch die Weltherrschaft übernimmt. Wenn die Kühlleistung nicht mehr reicht oder Naturkatastrophen Rechenzentren zerstören, gehen auch bei ihr die Lichter aus.
Das ist, Verzeihung, ein wenig naiv.
Alles kann, nichts muss ;)Warden schrieb:Man KÖNNTE (natürlich abstrakt und mit "known unknowns" oder "unknown unknowns") argumentieren, dass eine besser werdende KI aber zur Lösung des Energiehungers vielleicht irgendwie beitragen könnte und die Schwellen verschiebt, mit denen wir jetzt und perspektivisch zu kämpfen haben. Bzw. schneller verschiebt :D
Siehe oben. Wir fangen an Gaskraftwerke zu bauen. So lange die nicht mit Grünem Wasserstoff betrieben werden, ist das fast genau so dumm. :DTanne schrieb:Wenn wir für den immer mehr anwachsenden Strombedarf wieder anfangen AKWs zu bauen, dann ist das aus meiner Sicht schlichtweg dumm.
