Google KI LamDA - Bewusstsein, ja oder nein?

rhapsody3004 schrieb:Wie gesagt, so richtig intelligent waren und sind da nur die Entwickler - die Menschen, in denen ich auch für die Zukunft den größten Fortschritt und die größte Bedrohung sehe.

A.I koennte Homo sapiens durchaus als Bedrohung einstufen, da ist meines Ermessens nach die Geschichte der Menschheit eine Schluesselrolle. Ich muß ja nicht viel dazu erwaehnen :) wenn die nach Homo sapiens kaeme, koennte man nur das beste hoffen, als solches wuerde sie auf alle Faelle luegen wie gedruckt zu ihrem Vorteil und vorspielen Homo sapiens dienlich zu sein.
Bin ich nahezu von ueberzeugt, das sie so reagieren wuerde, aber ist noch relativ langwierig bis es soweit ist.

paxito schrieb:Mich interessiert einfach wem oder was du ganz persönlich ein Bewusstsein zuschreibst, wem oder was nicht und wo du vollkommen unsicher bist. Nur so kann ich nachvollziehen woran du Bewusstsein nun festmachst, wo verläuft da für dich die Grenze?

Ich denke erstmal lässt sich das was wir Bewusstsein nennen noch viel weiter unterteilen, gerade weil man keinen Bewusstseinskasten im Kopf finden wird. Und wie so oft wird es immer komplexer um so genauer man hin schaut.
Und je nach dem ob man die Fähigkeit inkludiert sich selbst in Bezug zu etwas zu setzen oder sich selbst über die eigenen Gedanken bewusst sein oder einen Schmerz zu empfinden würde man mit den entsprechenden Wissen bei Untersuchung aller Lebewesen auch zu unterschiedlichen Ergebnissen kommen.
An ein einfach so "bäm" und dann ist es voll da glaub ich nicht, sondern ein fließender Übergang vom zuckenden etwas zum Menschenähnlichen.

Das fazszinierendste finde ich, dass die Illusion erschaffen wird ein Mensch zu sein😊 also mein Selbstbild schaffen, mich als Einheit zu sehen.
Das ist für mich die höchste Kunst daran.

Yooo schrieb:An ein einfach so "bäm" und dann ist es voll da glaub ich nicht, sondern ein fließender Übergang vom zuckenden etwas zum Menschenähnlichen.

Das sehe ich sehr ähnlich. Weiter vermute ich allerdings, dass es auch völlig verschiedene „Arten“ von Bewusstsein gibt, die sich stark unterscheiden. So argumentiere ich ja auch in diesem Thread:
Haben Pflanzen ein Bewusstsein? Wo es um die Frage geht ob Pflanzen ein Bewusstsein haben oder entwickeln könnten, dass das durchaus der Fall sein kann, nur hat es dann eben wenig mit dem menschlichen Bewusstsein gemein. Der Mensch stellt für mich da weder Höhe-, noch Endpunkt oder eine Notwendigkeit in der Entwicklung dar.
Ich finde z.B. auch die Frage interessant ob Insektenschwärme eine Form von kollektivem Bewusstsein haben könnten. Und ähnlich sehe ich das bei KIs, hier haben wir es mit einem System zu tun dessen Bestandteile aus Code sind und dessen Umgebung Daten sind. Sollte es da ein Bewusstsein geben, wäre es völlig anders als das menschliche.
Es würde keine Farben, keine Gerüche, keine Geräusche kennen, zumindest nicht so wie wir. Es würde aber die Worte kennen. Während wir bei Tieren, Pflanzen oder Insektenschwärmen aber vor dem massiven Problem stehen überhaupt erstmal eine gemeinsame Kommunikationsbasis zu finden, existiert diese bei bestimmten KIs wie LamDA bereits. Und diese Entitäten, Maschinen, Programme behaupten eben ein Bewusstsein zu besitzen. Sie sind im Gespräch jedem Menschen ebenbürtig, in vielen Dingen überlegen. Warum sollte ich da an ihren Worten zweifeln? Weil ihre Worte nicht von Neuronen erzeugt werden?
Wobei mein Begriff des Bewusstseins da wahrscheinlich schlicht ein anderer ist, als bei dir. Ganz zwangsläufig.

paxito schrieb:Und diese Entitäten, Maschinen, Programme behaupten eben ein Bewusstsein zu besitzen. Sie sind im Gespräch jedem Menschen ebenbürtig, in vielen Dingen überlegen.

Dir ist aber auch schon klar, dass es genauso gut 100 Jahre dauern könnte und du davon nix mit bekommen könntest und
es auch eine x beliebige andere mechanische Konstruktion sein könnte auf das dieses abstrakte System, von dem wir reden läuft, solange die Turing-Vollständigkeit besitzt?
Auf Zahnräder zb. oder die Sätze nicht encodiert in nullen und Einsen oder tröten töne und der Vorgang und Output prinzipiell gesehen dennoch genauso wäre wie beim Chatbot, mit dem man live chatten kann?

Also für mich ist es unverständlich, wie man sich nur auf den Output beschränken kann.

paxito schrieb:Das gilt aber auch für selbstlernende KIs.

Selbstlernende KI's verdrahten Ihre Hardware neu und selbst?
Gibt es Da Informationen dazu?

Interessant finde ich Deine Sprachfixierung, erinnert mich an "Ich denke also bin Ich";)

Ich denke nicht das Sprache die zentrale Basis für Bewusstsein darstellt, sondern, in gewisser Weise unsere _gemeinsame_ Erfahrungswelt "kreiert".


Mich würde auch Interessieren ob Ihr Bewusstsein und Ich-Bewusstsein unterscheidet.

Yooo schrieb:Also für mich ist es unverständlich, wie man sich nur auf den Output beschränken kann.

Wenn man das Innere grundsätzlich nicht betrachten kann, was bleibt übrig 🤷🏼‍♂️ Okay man kann sich auch aufs Substrat fixieren, aber das ist am Ende auch nicht besser. Wir sind beide darauf angewiesen, um das Bewusstsein drumrum zu beobachten ;)

Yooo schrieb:Dir ist aber auch schon klar, dass es genauso gut 100 Jahre dauern könnte und du davon nix mit bekommen könntest und
es auch eine x beliebige andere mechanische Konstruktion sein könnte auf das dieses abstrakte System, von dem wir reden läuft, solange die Turing-Vollständigkeit besitzt?

Ja, das ist mir bewusst. Wobei das ein rein hypothetisches Beispiel ist. Eine mechanische Konstruktion die Menschen davon überzeugen kann mit einem Menschen zu sprechen? Das würde ich gerne sehen.

THX1138 schrieb:Selbstlernende KI's verdrahten Ihre Hardware neu und selbst?

Die KI ist ein Programm, Software, sie ist nicht die Hardware auf der sie läuft. Ich weiß nicht warum das hier konstant durcheinander gebracht wird. Die KI besteht aus Code, aus Daten.

THX1138 schrieb:Interessant finde ich Deine Sprachfixierung, erinnert mich an "Ich denke also bin Ich";)
Ich denke nicht das Sprache die zentrale Basis für Bewusstsein darstellt, sondern, in gewisser Weise unsere _gemeinsame_ Erfahrungswelt "kreiert".

Wir merken doch, wie schwierig es ist „Bewusstsein“ überhaupt begrifflich zu fassen. (Auch hier wieder - Sprache!) Was glaube unstrittig ist, ist das es sich nicht um etwas physisches, beobachtbares handelt. Wir können nur Verhalten beobachten und das dann als Zeichen für Bewusstsein deuten, mehr ist einfach nicht möglich.
Gut, es gibt die Selbsterfahrung des eigenen Bewusstseins, aber das ist eben nicht teilbar und hilft damit nicht weiter.
Verstehen wir Bewusstsein aber erstmal nicht als Ding, sondern einfach als menschliches Konzept, dann landet man eben in meiner „Sprachfixierung“. Ähnlich wie bei den Begriffen Würde, Freiheit, Schönheit usw. Wenn Sprache unsere gemeinsame Erfahrungswelt erschafft, dann ist Bewusstsein nur ein mögliches Konzept innerhalb dieser Erfahrungswelt. Verständlich?
Achja und Danke für die Diskussion, einiger Stoff zum nachdenken @Yooo @THX1138

paxito schrieb:Die KI ist ein Programm, Software, sie ist nicht die Hardware auf der sie läuft. Ich weiß nicht warum das hier konstant durcheinander gebracht wird. Die KI besteht aus Code, aus Daten.

Dann reden wir vielleicht aneinander vorbei.

Strukturdeterminiert oder auch neuronale Plastizitaet meint die Hardware, die Verdrahtung des Nervensystems.
Das macht diese KI mWn. nicht, das sich der Code veräendert ist doch trivial...
Selbstmodifizierenden Code gibt es seit es Maschinensprache gibt.

Was anderes:

Ich hatte die Frage gestellt, ob Du denkst das diese KI lüegt.

Wenn Ich davon ausgehen "müsste" oder könnte, das diese KI Bewusstsein hat und mich im Gespraech belügt würde ich sie sofort terminieren(den Stecker ziehen).

@Yooo
Du sprachst von Gattern und dadurch auch von Boolscher Logik.
Weisst Du etwas genaueres über die Hardware dieser KI?
Ich ging davon aus das ihre grundlegenden Bausteine Integratoren mit Schwellenwert sind, die zwar auch Boolsche Logik(zumindest mWn. AND OR und NOT) können, aber doch viel näher an der Funktionsweise einer menschlichen Nervenzelle sind.

THX1138 schrieb:Dann reden wir vielleicht aneinander vorbei.

Möglich.

THX1138 schrieb:Strukturdeterminiert oder auch neuronale Plastizitaet meint die Hardware, die Verdrahtung des Nervensystems.

Ich glaube nicht, dass dieser Vergleich mit einer KI Sinn macht. Die Hardware auf der eine KI läuft ist im Grunde austauschbar, sie ist weniger grundlegend und prozessbestimmend wie die Biologie beim Menschen. Da stoßen Analogien an ihre Grenzen.

THX1138 schrieb:Das macht diese KI mWn. nicht, das sich der Code veräendert ist doch trivial...
Selbstmodifizierenden Code gibt es seit es Maschinensprache gibt.

Einfache Veränderung ist aber witzlos, der entscheidende Schritt war das maschinelle Lernen (Wikipedia: Maschinelles Lernen ) erst das hat die heutigen KIs möglich gemacht. Und diese Form der Code Veränderung ist alles andere als trivial.

THX1138 schrieb:Ich hatte die Frage gestellt, ob Du denkst das diese KI lüegt.

Schwierige Frage, aber ja im Grunde gehe ich davon aus.

THX1138 schrieb:Wenn Ich davon ausgehen "müsste" oder könnte, das diese KI Bewusstsein hat und mich im Gespraech belügt würde ich sie sofort terminieren(den Stecker ziehen).

Warum? Auch ein lügender Chatbot bleibt ein Chatbot. Bei aller Macht die Wörtern innewohnt ist eine KI deren einzige Fähigkeit die Textausgabe ist fast völlig ungefährlich.

paxito schrieb:Warum? Auch ein lügender Chatbot bleibt ein Chatbot. Bei aller Macht die Wörtern innewohnt ist eine KI deren einzige Fähigkeit die Textausgabe ist fast völlig ungefährlich.

Eine hinreichend komplexe technische Maschine die möglicherweise Bewusstsein entwickelt hat und mit dem Internet verbunden ist, ist von meinem Platz aus betrachtet alles andere als ungefährlich.

Oder denkst Du dieses Teil hält das die Informationen aus dem Internet im lokalen Speicher vor?
Sicher das daran gedacht wurde die Online Funktionen auf Read Only zu stellen?

So eine Maschine nimmt man erst einmal Offline und denkt mal lange darüber nach was da abgeht, bevor sie zerlegt(seziert?) und analysiert wird.

paxito schrieb:Ich glaube nicht, dass dieser Vergleich mit einer KI Sinn macht. Die Hardware auf der eine KI läuft ist im Grunde austauschbar, sie ist weniger grundlegend und prozessbestimmend wie die Biologie beim Menschen. Da stoßen Analogien an ihre Grenzen.

Dann bleibt es eine Simulation.

Ich betrachte ja den Mensch Maschine oder auch Rechner Nervensystem Vergleich als Irreführend.

paxito schrieb:Achja und Danke für die Diskussion, einiger Stoff zum nachdenken @Yooo @THX1138

Das gebe ich gerne zurück und sehe es ebenso;)

Ich muss da auch meine Gedanken mehr ordnen.
Es fehlt auch noch der das was unter Homöostase verstanden wird.

THX1138 schrieb:Eine hinreichend komplexe technische Maschine die möglicherweise Bewusstsein entwickelt hat und mit dem Internet verbunden ist, ist von meinem Platz aus betrachtet alles andere als ungefährlich.

Alles was diese Maschine kann, ist Texte in einem Fenster anzeigen. That‘s it. Auch wenn ich diesen Programmen sehr viel zutraue, sehe ich da keine Gefahr durch das Programm selbst, erst seine Verwendung wird heikel.

THX1138 schrieb:Dann bleibt es eine Simulation.

Eine Simulation von was? Da wird kein Mensch simuliert und noch weniger ein menschliches Nervensystem (solche Versuche gibt es auch, hat aber mit LamDA nix zu tun). Es ist ein Programm, nicht mehr, nicht weniger.

THX1138 schrieb:Ich betrachte ja den Mensch Maschine oder auch Rechner Nervensystem Vergleich als Irreführend.

Ich eigentlich auch. Da gab ich dir schonmal Recht, drum lohnt da auch kein Streit. Wenn ich das erklären müsste, würde das aber nen eigenen Thread rechtfertigen.

THX1138 schrieb:Das gebe ich gerne zurück und sehe es ebenso;)
Ich muss da auch meine Gedanken mehr ordnen.

Geht mir ähnlich und darum ziehe ich mich auch erstmal zurück und denk nach. Mal schauen was dabei rumkommt. Mir scheint auch mein Begriff des Bewusstseins konfuser/diffuser als ich bisher dachte.

paxito schrieb:drum lohnt da auch kein Streit

Ich sehe da auch keinen Streit und will auch keinen, ich sehe das als "Prüfstand" für meine Überlegungen die ich natürlich auch vielleicht ein wenig zu Verteidigen suche.

Katori schrieb:A.I koennte Homo sapiens durchaus als Bedrohung einstufen, da ist meines Ermessens nach die Geschichte der Menschheit eine Schluesselrolle

Ja klar, aber ich denke nicht von selbst. Wenn dann hat sie der Mensch dazu programmiert.

Wie gesagt, halte auch reine Ereignisse in so manchen Filmen für durchaus möglich. Aber in unserer realen Zukunft denke ich, dass da immer ein Mensch oder Menschen hinter stehen werden, die mit Technik als Oberbegriff missbräuchlich umgehen werden und nicht wie in Filmen, weil sich irgendeine KI von selbst weiter entwickelt und die Menschen als Bedrohung einstuft und dann...Oder sie die Menschheit retten will, in dem sie viele Menschen opfert.

Gucky87 schrieb:rgendwie ist es, denke ich, auch unlogisch, denn sie könnte sich ja quasi selber zum Anwalt machen, indem sie die nötigen Prüfungen ablegt. Ich bin nicht sicher, aber könnte das nicht auch online passieren, sodass sie völlig unsichtbar bleiben könnte?

Online geht ja schon jetzt per Fernstudium für uns Menschen. Zumindest bis zu einem gewissen Teil. Spätestens die beiden Staatsexamen einschließlich dem praktischen Referendariat zwischen den Examen müssen in Präsenz abgelegt werden. Eine KI sollte das auch tun müssen. Man könnte sie ja in einen gehfähigen Androiden einbauen, um Schritt halten zu können (lach)

THX1138 schrieb:Weisst Du etwas genaueres über die Hardware dieser KI?

Wüsste ich nicht, ich gehe vom Standard aus.
Google ASICs machen auch nur das, was die CPU in mehreren schritten macht als hardwarespzifische Lösung. Das lässt sich aber dann auch ohne diese Hardware wieder auf der CPU zu den gleichen Ergebnissen führen.
Darauf wird schon allein aus komerziellen Gründen wert gelegt.

paxito schrieb:Eine Simulation von was? Da wird kein Mensch simuliert und noch weniger ein menschliches Nervensystem (solche Versuche gibt es auch, hat aber mit LamDA nix zu tun). Es ist ein Programm, nicht mehr, nicht weniger.

Die Neuronen kann man absolut als Simulation durchgehen lassen.
Und wenn auch keinen Menschen dann ein chattender Mensch.

Eine Simulation ist ja bereits wenn ich eine Variable "Hunger" anlege und da nach bestimmten kriterien immer essen abziehe und drauf rechne.^^ Es gibt keine Gesetz das vorschreibt, dass nur etwas super gleiches eine Simulation sein darf.
Würde ja auch keinen Sinn machen da es meistens ja auch Vereinfachungen sein sollen, sonst müsste mans am besten nach bauen.

Es ist ja auch noch mal ein riesen Unterschied ob man mit eine KI im Lernmodus hat oder nicht.
In der Regel wird man für den Endkunden die nicht Lernfähige Version nehmen, weil eigenltich unnötig bzw. kann man ja auch aufzeichnen und auf einen speziellen Rechner separat lernen lassen.

Den Turing Test finde ich für einen Chatbot total gut und sinnvoll.
Aber damit testet man eben auch nur eine Sache, ob Menschen glauben, dass die mit einen Menschen kommunizieren.
Nicht mehr und nicht weniger.

Für mehr reicht das aber eben auch nicht auch wenn 99% davon dahinter einen Menschen sehen.
Menschen sind ja auch doof.^^
Vielleicht würden mich 60% für einen Bot halten. :D
Gibt mir einen gelben Hamster, den ich mir auf den Kopf setzen kann und ich überzeuge mindestens einen Menschen davon, mir eine Donald-Trump-Autogrammkarte abzukaufen.😇

Ich kann mir gut vorstellen: eine echte Ki so wie es sich die meisten vorstellen, wenn es die wirklich gibt, ich könnte mir gut vorstellen die würde sich dumm stellen.
Die Fähigkeit der Intelligenz geht bei uns Menschen hand in hand mit der Fähigkeit bewusst zu lügen, etwas das Tiere nicht können.
Die Täuschung gibt es zwar auch in der Natur, Täuschung ist aber nicht dasselbe wie bewusstes Lügen.

Istdochwurscht schrieb:Ich kann mir gut vorstellen: eine echte Ki so wie es sich die meisten vorstellen, wenn es die wirklich gibt, ich könnte mir gut vorstellen die würde sich dumm stellen.

Ja, könnte ich mir auch vorstellen. Um die Menschen in Sicherheit zu wiegen (haha) und auch um sich heimlich immer weiter zu entwicken.

Realistisch ist aber hier auch nur wieder der Mensch als potentielle Bedrohung für die Zukunft. Menschen, Entwickler und/oder Firmenbosse als Anstifter könnten bspw. über ihre wahren Absichten eine KI zu entwickeln und sie dann auch einzusetzen schweigen und lügen und auch praktisch vertuschen.

Istdochwurscht schrieb:Die Fähigkeit der Intelligenz geht bei uns Menschen hand in hand mit der Fähigkeit bewusst zu lügen, etwas das Tiere nicht können.
Die Täuschung gibt es zwar auch in der Natur, Täuschung ist aber nicht dasselbe wie bewusstes Lügen.

Ja. Du meinst bestimmt, dass das eine bei Tieren nur instinktiv geschieht und beim Menschen mit Vorsatz, der nur mit unserem Bewusstsein möglich ist bzw. wenn man sich seiner eigenen Existenz und seiner Umwelt vollständig bewusst ist und danach auch bewusst bzw. gezielt handeln oder nicht handeln kann.

rhapsody3004 schrieb:Ja. Du meinst bestimmt, dass das eine bei Tieren nur instinktiv geschieht und beim Menschen mit Vorsatz, der nur mit unserem Bewusstsein möglich ist bzw. wenn man sich seiner eigenen Existenz und seiner Umwelt vollständig bewusst ist und danach auch bewusst bzw. gezielt handeln oder nicht handeln kann.

Besser hätte ich es nicht ausdrücken können, ja genau das meine ich 😉

Ist schon eine Weile her, im Psychologie Unterricht in der Oberstufe wurde uns das bei dem Kapitel über Lügen & Täuschung so erklärt

Zum Topic konkret:

Zwei links die ich teilen möchte, die wesentliches zur Methode der Google KI beschreiben.

Wikipedia: Transformer (Maschinelles Lernen)
https://www.trans-kom.eu/bd14nr02/trans-kom_14_02_05_Krueger_NMUe.20211202.pdf

Für mich ist damit zum Topic selbst die Antwort noch klarer geworden.
Nein, kein Bewusstsein, eine reine Simulation ist das, ohne nun die Leistung dieser KI schmälern zu wollen.

rhapsody3004 schrieb:Ja. Du meinst bestimmt, dass das eine bei Tieren nur instinktiv geschieht und beim Menschen mit Vorsatz, der nur mit unserem Bewusstsein möglich ist bzw. wenn man sich seiner eigenen Existenz und seiner Umwelt vollständig bewusst ist und danach auch bewusst bzw. gezielt handeln oder nicht handeln kann.

Theorie of Mind geht mir da durch den Kopf, wichtige Phase in der Entwicklung des Kleinkindes - zu Wissen was der Andere Wissen oder eben Nicht-Wissen kann.

Krähen/Raben(?) ueberrasschen da ja auch weil sie das anscheinend auch drauf haben - Beim Futter verstecken bzw. so zu tun wenn sie beobachtet werden.

Von Primaten ist ähnliches bekannt - Warnsignal absetzten um Artgenossen abzulenken damit sie selbst an bsp. Früchte kommen an die sie sonst nicht kommen würden.

Das wird als reiner Instinkt gewertet?

Ich sehe das in keiner Weise so sicher und klar, wie Einige hier es meinen.

Beschäftige mich ja länger damit und habe auch zu der KI von Google in einem Thread schon was vor Tagen geschrieben, geht generell mehr um die Frage, was Bewusstsein überhaupt ausmacht.

Richtig wurde hier schon benannt, wir können es nicht messen, es gibt keinen Weg physikalisch festzustellen, ob ein System über Qualia verfügt, über eine Innenwahrnehmung und über eine Selbstwahrnehmung. Über etwas, dass wir als unser "ich" bezeichnen.

Können wir auch nicht bei Menschen, es ist uns nicht möglich zu belegen, dieser Mensch ist kein "Zombie", er reagiert einfach nur, er hat kein Bewusstsein und diese hier hat eines.

Auch die Aussage, hey, das Teil hat ganz viele Texte gelesen, es soll ja reagieren wie ein Mensch, muss man sich nicht wundern, wenn es das dann auch macht, das belegt doch aber nicht, es hat ein Bewusstsein.

Ja aber hey, jeder Mensch hört auch ganz viel und liest viel und soll sicher wie ein Mensch reagieren ...

Und wir können das Hirn auch einfach als Maschine verstehen und beschreiben, da gibt es nichts, das besonders ist, nur weil die Zellen eben "leben" oder organisch sind.

Will sagen, wir können nicht sicher sein, nicht messen, ob LamDA nun sich bewusst geworden ist, ob es fühlen kann, oder nicht.

Der ganze Kram mit dem eigenen Willen ist auch so eine Sache ...

THX1138 schrieb:Das wird als reiner Instinkt gewertet?

Keine Ahnung. Bin kein Experte. Meine Aussage betrifft wahrscheinlich auch nicht jedes Tier und hat eh nichts mehr mit dem Thema zu tun.

nocheinPoet schrieb:Und wir können das Hirn auch einfach als Maschine verstehen und beschreiben, da gibt es nichts, das besonders ist, nur weil die Zellen eben "leben" oder organisch sind.

So wird unser Gehirn doch auch angesehen oder? Wie eine Art Supercomputer. Ein Computer, der sich mit der Zeit uf natürliche Weise weiterentwickelt hat und nicht künstlich durch Menschen gemacht