Google KI LamDA - Bewusstsein, ja oder nein?

Yooo schrieb:Sag ich ja, das ist aber ein Qualia Thema.
Hier kommen wir ja nichtmal zu Schritt eins und das ist mein Problem damit.

Ich hab keine Ahnung was du mit „Schritt eins“ sagen willst.

paxito schrieb:Ich hab keine Ahnung was du mit „Schritt eins“ sagen willst.

Schritt eins wäre zu sagen, wie dort Gefühle nun entstehen soll, welche Muster sind es denn nu.
Über die Einzigartigkeit der Qualia kann man danach genau wie beim Menschen noch zu Genüge philosophieren.

Ich will mal auch nicht hoffen, dass bestimmte Muster auf unser Silizium so etwas erzeugen, hobby Quälerei und Gottspielerei in Endlosschleife wird wohl einen ungeahnten Boom erleben.

Yooo schrieb:Schritt eins wäre zu sagen, wie dort Gefühle nun entstehen soll, welche Muster sind es denn nu.

Als emergente Eigenschaft aus den Prozessen aus denen LamDA besteht. Nicht anders als bei uns. Wäre irgendwas gewonnen, wenn wir feststellen könnten welche Variable(n) mit welchen Gefühlen lt. LamDA angeblich korrelieren? Nennen wir sie schlicht Variable X - Q512. Fertig.

Yooo schrieb:Über die Einzigartigkeit der Qualia kann man danach genau wie beim Menschen noch zu Genüge philosophieren.

Darüber gibt es nix zu philosophieren, das Problem muss man an der Stelle einfach zur Kenntnis nehmen. Ich hab den Eindruck, dass dir das nicht gelingt.

Yooo schrieb:Ich will mal auch nicht hoffen, dass bestimmte Muster auf unser Silizium so etwas erzeugen, hobby Quälerei und Gottspielerei in Endlosschleife wird wohl einen ungeahnten Boom erleben.

Zumindest vorerst ist die Erschaffung und das Betreiben von etwas so komplexen wie LamDA viel zu teuer, als dass das eine reale Gefahr wäre.

paxito schrieb:Als emergente Eigenschaft aus den Prozessen aus denen LamDA besteht.

Man muss schon sagen können, aus welchen Prozessen die Gefühle entstehen.
Kann man beim Menschen ja auch.

Yooo schrieb:Man muss schon sagen können, aus welchen Prozessen die Gefühle entstehen.
Kann man beim Menschen ja auch.

Nicht wirklich. Die längste Zeit konnten wir das überhaupt nicht, heute können wir das nur statistisch und modellhaft. Du überschätzt unser Wissen in dem Punkt maßlos.
Um Herauszufinden welche Wirkung irgendein Stoff, Prozess o.ä. auf einen Menschen hat, musst du ihn fragen. Alternativ kannst du noch das Verhalten beobachten (etwa bei Tieren oder Menschen die sich nicht äußern können). Allein aus dem Stoff, dem Prozess oder was auch immer kannst du nicht auf die inneren Zustände schließen. Das macht auch niemand der Ernst genommen werden will.
Das heißt wenn du wissen willst, welche Prozess, welche Variable o.ä. bei LamDA für irgendein Gefühl steht, müsstest du es fragen. Ein anderes Verhalten gibt es da nämlich nicht was wir beobachten könnten. Und das macht nur Sinn, wenn du von vornherein annimmst das LamDA sowas hat und wahrheitsgemäß antwortet.
Darum ist dein erster Schritt ein ziemlich skurriler.

paxito schrieb:Das heißt wenn du wissen willst, welche Prozess, welche Variable o.ä. bei LamDA für irgendein Gefühl steht, müsstest du es fragen

Das ist dann ja leicht.
Man vergleicht einfach die Prozesse der emotionalen Antworten mit den nicht emotionalen und schaut nach den Unterschieden.
Sind die gleich, kann dort auch nix sein.

@paxito
@nocheinPoet

Ja ich bleibe bei meiner Meinung, das eine KI nur ein Gegenstand, ein Werkzeug ist und kein Bewusstsein hat.

Eure Argumentation ist ja einleuchtend und auch logisch, aber für mich nicht rational.

Und dafür sind wir doch hier, zum diskutieren und Gedankenaustausch.

Ich respektiere eure Meinungen dazu, doch sind sie nicht des Weisheit letzter Schuss, wie ihr ja selbst eingeräumt habt.

Ich finde wir können erst Bewusstsein bei anderen Wesen feststellen, wenn das bei uns zweifelsfrei gelingt.
Solange ist einfach davon auszugehen das diese KI nur das tun wofür sie konstruiert wurde.
Nämlich "bewußt" eine Antwort zu geben.
Damit ist die Täuschung doch schon Vorprogrammiert, im wahrsten Sinne.

Und selbst wenn die KI nachweislich ein Bewusstsein hat ist sie unsere Schöpfung, etwas künstliches und hat damit kein Anspruch auf die Menschenrechte.
So einfach ist das für mich.

Yooo schrieb:Das ist dann ja leicht.
Man vergleicht einfach die Prozesse der emotionalen Antworten mit den nicht emotionalen und schaut nach den Unterschieden.
Sind die gleich, kann dort auch nix sein.

Dir ist klar das wir hier über Millionen Variablen reden die unterschiedlich gewichtet sind und vernetzt? Analog zum Menschen ist eine solche Untersuchung alles andere als einfach. Und du bist immer noch darauf angewiesen, dass du LamDA vertraust. Wenn du ihr ohnehin glauben schenkst, das sie Angst empfindet, musst du die Variablen nicht mehr benennen können. Glaubst du ihr nicht, würde auch ein evt. zu benennender Unterschied ohne Bedeutung sein. Was soll das also? Ich raff echt nicht, wozu das gut sein soll.
Du setzt derartige Maßstäbe doch nirgends sonst an, du wirst doch (hoffentlich) keinem Menschen oder Lebewesen erst dann innere Zustände zuschreiben, wenn du deren Hirnchemie, Neurologie usw. nachvollzogen hast. Das kannste nicht mal bei dir selbst, ich hoffe du gehst trotzdem davon aus, dass du ein Bewusstsein hast?

Abahatschi schrieb:ich halte dieses LamDA für dümmer als ein 2J Kind.
Wer nachplappert weiss nicht immer was es tut, kann aber eine gute Figur machen.

LamDA plappert nicht nach. Es verwendet Sprache, Worte kreativ. Erstellt eigene, als auch gefertigte Sätze. Also wie wir. AI's machen schon eigene Spiele, Bilder, und eine war Anfang des Jahres unter den Top 10 der Welt, beim Programmierwettbewerb.

BerlinerLuft schrieb:Und selbst wenn die KI nachweislich ein Bewusstsein hat ist sie unsere Schöpfung, etwas künstliches und hat damit kein Anspruch auf die Menschenrechte.
So einfach ist das für mich.

Das ist mir einfach auch ethisch zu flach @BerlinerLuft
Nur weil etwas künstlich/geschaffen ist, hat es keinerlei Rechte? Gilt das auch für künstliche biologische Organismen? Hat ein genverändertes Schaf andere Rechte als ein natürlich geborenes? Warum sollte überhaupt an der Stelle ein Zusammenhang sein?
„Künstlich“ bedeutet an der Stelle doch nur, dass es durch den Menschen verändert wurde (die Grundsubstanz war immer da, wir erschaffen nichts aus dem Nichts). Das gilt so aber selbst für uns Menschen, auch wir sind „künstlich“ d.h. durch Menschen verändert.
Ich sehe es so, wenn etwas leidensfähig ist, hat es einen moralischen Selbstwert. Ganz unabhängig davon worum es sich dabei handelt. Können wir nicht sicher ausschließen, das etwas leidensfähig ist, ist es moralisch richtig davon auszugehen, dass es so ist.

BerlinerLuft schrieb:So einfach ist das für mich.

Also im Grunde kann dich nichts von der Meinung abbringen. :D

Yooo schrieb:Man vergleicht einfach die Prozesse der emotionalen Antworten mit den nicht emotionalen und schaut nach den Unterschieden.
Sind die gleich, kann dort auch nix sein.

In Sachen Emotion bin ich auch noch nicht überzeugt. Sie sagen zwar dass sie welche haben, aber man findet keine emotionale Reaktion. Zumindest bei GTP-3. Bei dem Chatverlauf von LamDA kommt bei mir aber auch keine Emotion rüber.

paxito schrieb:Dir ist klar das wir hier über Millionen Variablen reden die unterschiedlich gewichtet sind und vernetzt?

Ich hab auch schon welche selbst gemacht.
Kann man auch bildlich darstellen usw.

paxito schrieb:Analog zum Menschen ist eine solche Untersuchung alles andere als einfach

Viel einfacher, das menschliche Hirn ist eine ziemliche Blackbox, so ein Programm ist hingegen so transparent und nachverfolgbar wie man es macht. Unter anderem darum ist man ja auch in der Hirnforschung so geil auf Simulationen.

Das man es nicht in gänze begreifen kann, liegt einfach daran, dass so viel miteinander vernetzt ist.
Das heißt aber nicht, dass man nicht weiß wie es funktioniert.

Yooo schrieb:Das heißt aber nicht, dass man nicht weiß wie es funktioniert.

Wohl wahr. Aber die großen AI's haben auch schon "Blackboxen" sprich: Variablen, Funktionen, udgl. in denen weder die AI noch ein Mensch wirklichen Zugriff darauf hat, weil die Datenmenge einfach zu groß ist. Klar wurde das so gewollt, aber manche dieser Systeme haben auch eine Möglichkeit zur Eigendynamik. Bei denen wäre ich mir nicht so sicher ob man diese Eigendynamiken bis aufs letzte vorhersehen kann.

Flitzschnitzel schrieb:LamDA plappert nicht nach. Es verwendet Sprache, Worte kreativ. Erstellt eigene, als auch gefertigte Sätze. Also wie wir.

Doch, genau das tut LamDa, es setzt als Reaktion auf einen Input sein neuronales Netzwerk in Gang und baut dann aus Teilen von Texten die es schon kennt eine Reaktion, die am wahrscheinlichsten auf den Input passt. Im Übrigen ist daran auch nix kreativ, das neuronale Netzwerk ist vollständig aufgrund seiner Verknüpfungen und der Trainingsdaten determiniert, man kann es jederzeit auf Null zurücksetzen und erhält, wenn man die Trainingsdaten 1:1 reproduziert, auch wieder exakt das gleiche Ergebnis - alles Andere wäre ja für die Forschung und die dabei notwendige Reproduzierbarkeit auch schlecht - und kann das auch beliebig oft wiederholen. Da finden keine Denkprozesse statt, und kein Schöpfungsakt im kreativen Sinn.

Flitzschnitzel schrieb:Bei denen wäre ich mir nicht so sicher ob man diese Eigendynamiken bis aufs letzte vorhersehen kann.

Du kannst die Eigendynamiken nicht unbedingt vorhersehen, trotzdem sind sie determiniert - eine beliebige Instanz des LamDA-Systems wird immer wieder exakt das Gleiche tun, wenn ich ihm den gleichen Trainingsinput gebe und die gleichen Fragen stelle.

paxito schrieb:Nur weil etwas künstlich/geschaffen ist, hat es keinerlei Rechte?

Korrekt.

paxito schrieb:Gilt das auch für künstliche biologische Organismen?

Ja.

paxito schrieb:Hat ein genverändertes Schaf andere Rechte als ein natürlich geborenes?

Ja, nämlich keine, da es nur ein Produkt ist.

paxito schrieb:„Künstlich“ bedeutet an der Stelle doch nur, dass es durch den Menschen verändert wurde (die Grundsubstanz war immer da, wir erschaffen nichts aus dem Nichts).

Das ist allerdings ein guter Einwand.

Flitzschnitzel schrieb:Also im Grunde kann dich nichts von der Meinung abbringen. :D

Nein, nichts.
Da ich mir persönlich seit langem Gedanken darüber gemacht habe.

Ich habe für mich die Trennungslinie:
Natürlich = Anrecht auf Menschenrechte.
Künstlich = kein Anrecht auf Menschenrechte.
Gefunden.

Yooo schrieb:Ich hab auch schon welche selbst gemacht.
Kann man auch bildlich darstellen usw.

Yooo wir sprechen über ein System auf der Basis von GPT3 und BERT das mit hunderten Milliarden Daten gefüttert wurde, anhand endloser menschlicher Konversationen trainierte und sicher zu den komplexesten Softwaresystemen gehört die es je gab.
Das kann man nicht sinnvoll „bildlich“ darstellen, ich bezweifle das man es überhaupt nachvollziehen kann. Das ist keinen Deut weniger schwierig als aus nem menschlichen Gehirn rauszufiltern, was bei bestimmten Gefühlen geschieht. Und eine solche Untersuchung - die extrem aufwendig wäre, wenn sie überhaupt möglich ist - macht immer noch nur Sinn, wenn man sowieso von einem Bewusstsein ausgeht.
Man kann damit nix zeigen.

bgeoweh schrieb:Doch, genau das tut LamDa, es setzt als Reaktion auf einen Input sein neuronales Netzwerk in Gang und baut dann aus Teilen von Texten die es schon kennt eine Reaktion, die am wahrscheinlichsten auf den Input passt.

Gut beschrieben. Also nichts mit "ich schreibe da jetzt mal diesen Satz den du genau so nachplapperst". Sondern es setzt es selbst zusammen. Nach den Maßstäben die programmiert wurden und nach dem eigenen Algorithmus für die beste Trefferchance. Also stumpfes Nachplappern, ist das für mich nich. Ein Mensch ist genauso konditioniert....

bgeoweh schrieb:kein Schöpfungsakt im kreativen Sinn.

Lässt sich streiten. Ich finde die Bilder und Spiele schon kreativ. Auch wenn irgendeiner davor war, der einen Algorithmus schrieb. Tut wenig zur Sache wenn der Algorithmus aus der Eigendynamik heraus etwas schafft. Zumindest aus meiner Sicht.

bgeoweh schrieb:Du kannst die Eigendynamiken nicht unbedingt vorhersehen, trotzdem sind sie determiniert - eine beliebige Instanz des LamDA-Systems wird immer wieder exakt das Gleiche tun, wenn ich ihm den gleichen Trainingsinput gebe und die gleichen Fragen stelle

Ist bei uns genauso...

BerlinerLuft schrieb:Gefunden.

Warum überhaupt eine ziehen? Vielleicht ist es natürlich das eine Spezies irgendwann eine neue erschafft.

paxito schrieb:Und eine solche Untersuchung - die extrem aufwendig wäre, wenn sie überhaupt möglich ist - macht immer noch nur Sinn, wenn man sowieso von einem Bewusstsein ausgeht.
Man kann damit nix zeigen.

Es gibt sowas wie Arbeitshypothesen.
Man könnte es anhand der Prozesse zeigen, wenn es so wäre.
Und solange das nicht passiert, sehe ich keinen Grund, warum ich ein GPT3 mehr glaube schenken soll als eine Alexa wenn die von Gefühlen spricht.
Oder gibt es irgendeinen handfesten Grund dafür?

Einfach nur "ist halt emergent" reicht nicht, reich auch nicht beim Menschen.
Das glauben wir auch nur ungefragt, weil wir zufällig welche sind, ansonsten wüssten wir nicht einmal worüber wir reden.
Nun ist GPT3 aber kein Mensch, nichtmal organisch und Sizilizum keine organische Masse unfd float berechnungen keine Spikes.
Da reicht mir das halt nicht.

Flitzschnitzel schrieb:Warum überhaupt eine ziehen? Vielleicht ist es natürlich das eine Spezies irgendwann eine neue erschafft.

Also ich persönlich denke bzw orakel vor mich hin, dass der ganz große Schub nach den KIs kommt.
Die KIs werden jetzt die Chips noch einmal erheblich verbessern, mit Quatencomputer wird man Netze mit einmal "ausrechnen" können ohne die nervige angleichung was enorm Rechenzeit sparen wird.
Danach wird man die Biologie ordentlich aufmischen und dann wir das was dabei raus kommt, nicht mehr viel mit uns zu tun haben. :D