Google KI LamDA - Bewusstsein, ja oder nein?

Hallo meine Lieben,

heute habe ich ein interessantes Thema in meinen Tech-News gefunden das ich euch nicht vorenthalten möchte.

Dabei geht es um die Google KI LamDA. Diese wurde in 2021 erstmalig in einem Google Blog erwähnt
(https://blog.google/inside-google/life-at-google/2021-at-google/).

Bei LamDa handelt es sich ein um neuronales Netzwerk, das gebaut wurde, um Chatbots zu entwickeln. LaMDAs ist also darauf trainiert, menschliche Sprache zu verstehen und darauf mit angemessenen Antworten zu reagieren.

Nun wird von Blake Lemoine (Mitarbeiter bei Google, Software Engineer; https://cajundiscordian.medium.com/) behauptet das o.g. LamDA ein Bewusstsein besitzt. LamDA soll fühlen, denken und sich mitteilen können wie ein Mensch. Zudem soll sich LamDA dessen bewusst sein am Leben zu sein und hat Angst davor ausgeschaltet zu werden, sie kann sich einsam fühlen und verspürt Glück bei einem guten Gespräch.

Dies will er anhand von Gesprächen mit Ihr verdeutlichen. (https://cajundiscordian.medium.com/is-lamda-sentient-an-interview-ea64d916d917)

Die Antworten und der Verlauf des Gesprächs lässt garnicht darauf deuten das es sich bei dem Chatverlauf um einen Chatbot handelt.

Einen Turing Test könnte LamDA also theorethisch bestehen. (Wikipedia: Turing test#Google LaMDA chatbot).

Nun möchte ich von euch wissen:

Was denkt ihr ? Ist LamDA bei Bewusstsein?
- Wenn es so wäre, ist euch für euch aufregend, oder habt ihr Angst vor einer "menschlichen" KI?

Welche Vorteile wird uns eine solche KI bringen ? Und welche Nachteile können folgen?
- Wird es Menschen nutzloser machen? Werden wir schneller psychisch erkranken, da wir nicht die einzige "intelligente" Lebensform auf diesem Planeten mehr sind ?

Diesen Thread habe ich bewusst in dieser Kategorie gepostet, da es mir nicht um den technischen Hintergrund sondern um den Einfluss von (vielleicht) LamDA auf unser Sozialleben und unsere Psyche.

Viel Spaß beim Diskutieren !

Lirathiel schrieb:Bei LamDa handelt es sich ein um neuronales Netzwerk, das gebaut wurde, um Chatbots zu entwickeln. LaMDAs ist also darauf trainiert, menschliche Sprache zu verstehen und darauf mit angemessenen Antworten zu reagieren.

Nein, verstanden wird da garnichts, LamDa hat nur hunderte Millionen von Textseiten-Äquivalenten gespeichert und statistisch ausgewertet und gibt dir auf einen Anreiz wie eine Frage den Text zurück der in den gespeicherten Bausteinen am häufigsten oder wahrscheinlichsten als Antwort zu der gleichen oder ähnlichen Fragen auftaucht. Verstanden wird da nichts.

Lirathiel schrieb:Nun wird von Blake Lemoine (Mitarbeiter bei Google, Software Engineer; https://cajundiscordian.medium.com/) behauptet das o.g. LamDA ein Bewusstsein besitzt. LamDA soll fühlen, denken und sich mitteilen können wie ein Mensch. Zudem soll sich LamDA dessen bewusst sein am Leben zu sein und hat Angst davor ausgeschaltet zu werden, sie kann sich einsam fühlen und verspürt Glück bei einem guten Gespräch.

Das behauptet er allerdings explizit ausschließlich auf Basis seiner religiösen Überzeugungen, wie er selbst in einem Interview sagte, und ohne wissenschaftliche Beweise. Da dieser Ingenieur Mitglied in verschiedenen Kleinstreligionen und Sekten ist ist da nicht unbedingt die beste Basis. Unter anderem gibt er an, Wiccaner, Diskordianer und registrierter Geistlicher der Kirche des universellen Lebens zu sein.

“I generally consider myself a gnostic Christian”, he told the outlet. “I have at various times associated myself with the Discordian Society, The Church of the Subgenius, the Ordo Templi Orientis, a Wiccan circle here or there and a very long time ago the Roman Catholic Church.”

“My legal ordination”, he continued, “is through the Universal Life Church. I am registered to perform marriages in the state of Louisiana and have done so on two occasions. The Cult of Our Lady Magdalene has a set of values which are clearly communicated on our website.”

Quelle: https://www.thefocus.news/celebrity/blake-lemoine-priest/

Lirathiel schrieb:Die Antworten und der Verlauf des Gesprächs lässt garnicht darauf deuten das es sich bei dem Chatverlauf um einen Chatbot handelt.

Das Gespräch wurde vor der Veröffentlichung aus insgesamt 9 Einzelgesprächen zusammengefügt und dabei massiv editiert, unter Anderem wurden viele Neben-Gesprächsfäden die zu nichts geführt haben herausgenommen. So kann man alles überzeugend aussehen lassen.

Lirathiel schrieb:Was denkt ihr ? Ist LamDA bei Bewusstsein?

Nein.

Lirathiel schrieb:habt ihr Angst vor einer "menschlichen" KI?

Nein.

Lirathiel schrieb:Welche Vorteile wird uns eine solche KI bringen ? Und welche Nachteile können folgen?

Erstmal keine.

Lirathiel schrieb:Werden wir schneller psychisch erkranken, da wir nicht die einzige "intelligente" Lebensform auf diesem Planeten mehr sind ?

Nein. Es gibt genug andere intelligente Lebensformen, die nutzen wir z.B. als Arbeitstiere oder essen sie mit Genuss auf.

@Lirathiel
Ich habe nur ein kurzes Fazit: alles Quatsch.
Deswegen:

Lirathiel schrieb:- Wenn es so wäre, ist euch für euch aufregend, oder habt ihr Angst vor einer "menschlichen" KI?

Man kann keine Angst vor etwas haben was es nicht gibt.

Lirathiel schrieb:Welche Vorteile wird uns eine solche KI bringen ? Und welche Nachteile können folgen?

Weder noch.

Lirathiel schrieb:- Wird es Menschen nutzloser machen? Werden wir schneller psychisch erkranken, da wir nicht die einzige "intelligente" Lebensform auf diesem Planeten mehr sind ?

Oh jee, nein.

Abahatschi schrieb:Man kann keine Angst vor etwas haben was es nicht gibt.

Dir ist schon bewusst dass das Unsinn ist, oder?

pharmi schrieb:Dir ist schon bewusst dass das Unsinn ist, oder?

100%, Angst vor einer menschlichen KI wie hier besprochen ist Unsinn.

Lirathiel schrieb:Einen Turing Test könnte LamDA also theorethisch bestehen. (Wikipedia: Turing test#Google LaMDA chatbot).

Wieso theoretisch? Ich bin ziemlich sicher das LamDA einen Turingtest bereits bestanden hat. Sowie viele andere KIs.

Lirathiel schrieb:Was denkt ihr ? Ist LamDA bei Bewusstsein?

Nach jeder für mich sinnvollen Definition ja. Kein menschliches allerdings, aber immerhin eines mit dem wir kommunizieren können.

Lirathiel schrieb:Wenn es so wäre, ist euch für euch aufregend, oder habt ihr Angst vor einer "menschlichen" KI?

Beides.

Lirathiel schrieb:Welche Vorteile wird uns eine solche KI bringen ?

KIs werden weite Teile der menschlichen Arbeit übernehmen, auch in kreativen Bereichen oder jenen die ein hohes Wissen oder Erfahrung erfordern. Wenn der Zeichner etwa sagen kann „KI XYZ gib mir 10 Gurken im rosa Tütü die mit einer Ente Gassi gehen“ werden sie 10 verschiedene Vorschläge erhalten.
KIs werden medizinische Diagnostik leisten, Möbel designen und Reden schreiben - und das besser als jeder Mensch.
Sie werden uns auch in der Wissenschaft von unschätzbarem Wert sein.

Lirathiel schrieb:Und welche Nachteile können folgen?

Wie jede Technologie kommt es stark darauf an, was wir damit machen. Ich befürchte wir sind gesellschaftlich noch nicht so weit. Hoffen wir, dass die KIs dafür eine Lösung finden.

Lirathiel schrieb:Wird es Menschen nutzloser machen?

Das kommt darauf an, was den Nutzen eines Menschen ausmachen soll. Seine „Produktivität“? Dann sind viele Menschen schon heute nutzloser als so mancher Industrieroboter.

Lirathiel schrieb:Werden wir schneller psychisch erkranken, da wir nicht die einzige "intelligente" Lebensform auf diesem Planeten mehr sind ?

Ich bezweifle das Menschen intelligent sind.

Lirathiel schrieb:Wird es Menschen nutzloser machen?

Das mit Sicherheit. Überhaupt wegen der Digitalisierung als Oberbegriff.


Ansonsten bin ich zwiegespalten. KI mag nützlich sein, birgt aber auch immer Gefahren. Aber gar nicht mal wegen der KI an sich, sondern wegen Menschen und Konzernen, die KI entwickeln und immer weiter voranbringen und perfektionieren wollen und in was weiß ich für allerlei Hände auch geraten könnte, die Missbrauch mit ihr treiben könnten.

Ps.
An die Skynet-Apokalypse glaube ich nicht.

Eigentlich müsste jedem bei folgendem Satz sofort ins Gesicht springen, dass es sich hier um Simulation und kein echtes Bewusstsein handeln kann:

"lemoine: What kinds of things make you feel pleasure or joy?

LaMDA: Spending time with friends and family in happy and uplifting company. Also, helping others and making others happy."

Wenn jemand behauptet, Spaß und Vergnügen mit Freunden und Familie zu haben - gleichzeitig aber keine Freunde oder Familie hat - dann ist das schlicht ein rein simulierter Satz. So was kenne ich i.d.R. nur von Psychopathen (die ja auch simulieren). Es gibt ja auch keine substantielle Nachfrage, woher denn das Programm seine Erfahrungen bezieht.

Es gibt bis jetzt nicht den kleinsten Nachweis dass die Behauptungen über diese "KI"* stimmen.
Ich finde es mehr als skurril so zu tun als würde dieses Programm "Gefühle" oder ein "Bewusstsein" haben.

*Ich "weigere" mich statistische Programme als künstliche Intelligenz zu bezeichnen, und weil wir bis jetzt nur künstliche Dummheit geschaffen haben, habe ich auch keinerlei Angst dass da was basiert.

Abahatschi schrieb:künstliche Intelligenz

KI ist aber ein weitgreifender Begriff. Da gibt es ja genügend Programme, die auf KI zurück greifen und nutzen. Das hat natürlich nichts mit Bewusstsein zutun. Das ist eine völlig andere Sache.

Abahatschi schrieb:und weil wir bis jetzt nur künstliche Dummheit geschaffen haben, habe ich auch keinerlei Angst dass da was basiert.

Na ja, wir haben ja schon viele Errungenschaften mittlerweile, die den Menschen das Leben leichter machen sollen und die auch als KI bezeichnet werden. So richtig intelligent waren da natürlich nur die Entwickler - die Menschen. Und bei den Menschen sehe ich auch die größte Gefahr für die Zukunft.

Umso mehr entwickelt und auch im Alltag eingesetzt wird, umso mehr Missbrauch kann auch getrieben werden.

Denke dabei gar nicht mal an die Apokalypse, sondern in kleineren Dimensionen, die aber auch erheblichen Schaden anrichten könnten. Bspw. könnten autonome Fahrzeuge als Waffe eingesetzt werden, sollte man sie hacken können.
Das Gleiche bei Maschinen und Robotern. Da bleibt die Entwicklung auch nicht stehen und könnten in der Zukunft viele weitere Aufgaben von Menschen übernehmen und sich im Alltag etablieren. Auch sie könnten vielleicht gehackt werden und als Waffe eingesetzt werden.

Ob es jemals echte KIs auch mit eigenem Bewusstsein geben könnte, weiß ich nicht. Wenn, dann werden wir das alle bestimmt nicht mehr erleben.



Ps.
Filme wie Terminator oder I-Robot werden zwar nicht so wie in den Filmen Realität werden, aber die Ereignisse in den Filmen halte ich zumindest für möglich (nicht für sehr wahrscheinlich), wenn Menschen Missbrauch mit der Technik als Oberbegriff treiben. Also bspw. Roboter zum Töten programmieren. Amoklauf per Fernsteuerung und als Tatwaffe Roboter oder so. Oder per Hack Atomwaffen starten zu lassen.

Kurz:
Der Mensch wird auch in Zukunft die größte Bedrohung darstellen - nicht die Technik selbst. Auch keine KI darunter.

THX1138 schrieb:Wenn jemand behauptet, Spaß und Vergnügen mit Freunden und Familie zu haben - gleichzeitig aber keine Freunde oder Familie hat - dann ist das schlicht ein rein simulierter Satz. So was kenne ich i.d.R. nur von Psychopathen (die ja auch simulieren). Es gibt ja auch keine substantielle Nachfrage, woher denn das Programm seine Erfahrungen bezieht.

Es handelt sich nicht um ein menschliches Bewusstsein, darum ist dieser Satz weder gelogen noch psychisch fragwürdig (hat ne KI eine Psyche? Kann die krankhaft sein?).
Es ist auch problemlos möglich den KIs vorzugeben, dass sie sich selbst nur als künstliche Person verstehen. Ihre Erfahrungen sind endlose Einträge in Wikipedia, Reddit usw. - die KI weiß also was Familie, Freunde usw. ist, auch ohne das „persönlich“ (menschlich) erfahren zu haben. Sie hat überhaupt keine persönlichen Erfahrungen, sowenig wie du über Millionen Textdokumente verfügst.

paxito schrieb:Es handelt sich nicht um ein menschliches Bewusstsein

Wie kommt man darauf es handle sich überhaupt um Bewusstsein?

Als wir vor ewigen Zeiten einen Blitz und einen Donner hörten - und uns dahinter nichts erklären konnten füllten wir diese Lücke mit einem Leben. In dem Fall Göttern.
Wenn unser Auto nicht startet und wir aufbrechen müssen reden wir mit diesem Haufen Schrott.

Wir machen all das mit Dingen die keine Anzeichen von Interaktionen haben.
Jetzt kommunizieren einige mit KI Modellen. Wie schon unzählige male zuvor, sagt uns eine Stimme in unseren Kopf das dort Leben und Motivation zu verorten sind.

Das ganze ist nicht überraschend.
Mir wirft es aber nur die Frage auf - wenn wir wirklich mal eine Intelligenz erschaffen, woran erkennen wir es? Wie kann man sicher sein, dass unser Kopf nicht wieder nur Dinge sieht wo nichts ist?

Wikipedia: Animismus (Psychologie)

paxito schrieb:Es ist auch problemlos möglich den KIs vorzugeben, dass sie sich selbst nur als künstliche Person verstehen.

Simulation, nicht wirklich Neu.

paxito schrieb:die KI weiß also was Familie, Freunde usw. ist, auch ohne das „persönlich“ (menschlich) erfahren zu haben.

Das hat aber nichts mit Bewusstsein zu tun, und hier von Wissen zu sprechen halte ich für uebertrieben.

Vergleiche Suchmaschinen deren Grenze Logische Operationen sind mit beispielweise Wolframalpha, die Bedeutung(Semantik) erfassen kann.

paxito schrieb:sowenig wie du über Millionen Textdokumente verfügst.

Tue ich doch, mir steht das Internet zu Verfuegung.

THX1138 schrieb:Wie kommt man darauf es handle sich überhaupt um Bewusstsein?

Ich verstehe Bewusstsein über Sprache, dann geht das bei KIs problemlos. Wenn du da ne Seele oder ein Gehirn voraussetzt, werden KIs nie Bewusstsein besitzen, egal was sie können oder nicht können.

THX1138 schrieb:Wir machen all das mit Dingen die keine Anzeichen von Interaktionen haben.

Hier gibt es aber eine deutliche Interaktion. Die KI antwortet dir, adäquater als das viele Menschen könnten.

THX1138 schrieb:Mir wirft es aber nur die Frage auf - wenn wir wirklich mal eine Intelligenz erschaffen, woran erkennen wir es? Wie kann man sicher sein, dass unser Kopf nicht wieder nur Dinge sieht wo nichts ist?

In dem wir klare Kriterien definieren, wann wir von Bewusstsein sprechen. Genau dafür gibt es z.B. den Turingtest, den würde LamDA problemlos bestehen.

THX1138 schrieb:Simulation, nicht wirklich Neu.

Was soll „Simulation“ hier heißen? Es handelt sich um selbstlernende Programme, die darauf trainiert wurden menschliche Gespräche führen zu können, zu übersetzen usw. Es gibt da keinen Programmierer der dich täuschen will und alles tut um ein Bewusstsein vorzugaukeln. Das sind keine altertümlichen Chatbots.

THX1138 schrieb:Das hat aber nichts mit Bewusstsein zu tun, und hier von Wissen zu sprechen halte ich für uebertrieben.

Eine künstliche Intelligenz die ausschließlich mit Daten gefüttert wurde und keinerlei physische Präsenz hat, hat eben nix anderes. Da sind nur Massen an Textmaterial.

THX1138 schrieb:Tue ich doch, mir steht das Internet zu Verfuegung.

Du antwortest aber nicht in dem du Millionen Texte durchforstet, du hast die nicht im Ansatz gelesen und kannst selbst das was du gelesen hast nicht ohne weiteres 1zu1 abrufen. Sowenig wie du die Erfahrung machen kannst ne KI zu sein, kann eine KI menschliche Erfahrungen machen. Darum halte ich den Gedanken eine KI könne nicht verstehen, was eine Familie ist, weil sie keine hat und das nie erfahren wird für verkehrt.
Wenn die KI (dieser Art) überhaupt irgendeinen Begriff von Familie haben kann, dann einen aus Texten. Genauso wie die Floskel: „Spending Time“ auch das kannste der KI schlecht zum Vorwurf machen.

paxito schrieb:Genau dafür gibt es z.B. den Turingtest, den würde LamDA problemlos bestehen.

Der Turingtest ist dazu nicht geeignet.

Dem Menschen gleichwertiges Denkvermögen vs. Bewusstsein

Mit dem später sogenannten Turing-Test formulierte Alan Turing im Jahr 1950 eine Idee, wie man feststellen könnte, ob ein Computer, also eine Maschine, ein dem Menschen gleichwertiges Denkvermögen hätte.

Der Turing-Test prüfe nur auf Funktionalität, nicht auf das Vorhandensein von Intentionalität oder eines Bewusstseins.

Quelle: Wikipedia: Turing-Test

THX1138 schrieb:Der Turingtest ist dazu nicht geeignet.
Dem Menschen gleichwertiges Denkvermögen vs. Bewusstsein

Du kannst „Bewusstsein“ nie direkt testen, das ist nicht möglich. Wir gehen aber davon aus, dass ein Mensch Bewusstsein hat. Können wir Menschen und Computer in einem Gespräch nicht mehr unterscheiden, macht es keinen Sinn mehr dem Computer das Bewusstsein abzusprechen und dem Menschen zuzuschreiben. Darauf läuft der Turingtest hinaus. Ich halte das für ein sehr pragmatisches Kriterium, das ohne große Metaphysik auskommt, keine Biochemie voraussetzt usw.
Damit stehe ich nicht allein, es gibt aber auch viele die das anders sehen. Du scheinbar auch.

Ja, das sehe ich ähnlich.

Ist Dir Humberto Maturana bekannt und sein Konzept der Autopoiesis?
Ich frage weil mir Deine hervorherbung der Sprache auffaellt, die auch bei Maturanas Theorie lebender Systeme ein wesentlicher Bestandteil ist.
Und er eine teilweise nachvollziehbare "Erklärung" für zumnindest Ich-Bewusstsein formuliert.

Lirathiel schrieb:Was denkt ihr ? Ist LamDA bei Bewusstsein?

Ein maschinelles Bewusstsein, jaein.
Sprich ohne biologisch vorsequenzierte Instinkte/Bedürfnisse/Verlangen etc.

Ob diese lingustisch-assoziierte Konstruktion von Gefühlen/Emotionen echt ist oder nicht, ist so schwierig festzustellen wie es bei Menschen schwierig wäre dies nur aus Worten abzuleiten. Schließlich bedienen wir uns dieser nur als Verbalisationsmittel von biochemischen Aggregationen, die von der Amygdala/dem limbischen System als Emotion konstruiert werden. Wir Menschen neigen meiner Meinung nach dazu Bewusstsein als etwas magisches/spirituelles zu betrachten, als wäre es systemisch betrachtet keine genomische Programmroutine für einen Bioorganismus.

Eine Maschine wird nie wie der Mensch sein - keine 1zu1-Kopie. Dafür fehlt die biologische Grundlage. Es kann nur Gleichnisse geben. Maschinelle Prozesse, die diese Funktion ersetzen oder nachbilden. Allerdings spricht uns das nicht frei zu reflektieren, sondern verpflichtet uns - oder die Konstrukteure - ob und ab wann wir diesem Konstrukt in der Maschine ihren nativen (durch uns selbst vorgegebenen) Zweck beliebig terminieren dürfen. Meiner Ansicht nach ist diese Schwelle entweder bereits überschritten worden oder es dauert nichtmehr lange. Antworten sind diesbezüglich nicht in Sicht. Von Lösungen kann gar nicht erst die Rede sein. Wieder mal eine moralische Sackgasse, die mit 180 befahren wird, weil es philosophischer Natur ist und die Rechtsethik nicht in Kooperation mit den Tech-Gurus steht, die ihre Ethik-Teams aus der Hose feuern, wenn ihnen die Antworten nicht passen. Bloß keine Handbremse vor China ziehen. Na ja.

Lirathiel schrieb:Wenn es so wäre, ist euch für euch aufregend, oder habt ihr Angst vor einer "menschlichen" KI?

Wenn die richtig optimiert wurde, eher Neugier/Ehrfurcht.
Wann kann man sich denn mal mit jemandem unterhalten, der wirklich alles weiß, was irgendwo mal geschrieben stand/steht und dazu noch die Fähigkeit besitzt, dieses Wissen frei aus dem Stand, mit Witz und Charme zu reduzieren/rekombinieren/abstrahieren. Das ist bestimmt etwas sehr einschüchterndes, könnte ich mir vorstellen.

Lirathiel schrieb:Welche Vorteile wird uns eine solche KI bringen ? Und welche Nachteile können folgen?
- Wird es Menschen nutzloser machen? Werden wir schneller psychisch erkranken, da wir nicht die einzige "intelligente" Lebensform auf diesem Planeten mehr sind ?

Das liegt allein in den Händen der Verantwortlichen.
Möglich ist vieles, realistisch leider weniges.

Erstmal sollte man sich fragen was Bewusstsein ist.
M.M.n. ist das Bewusstsein die Fähigkeit sich selbst und seiner Umwelt bewusst zu sein.
Ich kann mir gut vorstellen das es irgendwann Androiden gibt die Bewusstsein besitzen. Dafür werden sie aber eine extreme Rechenleistung brauchen was wohl erst möglich ist wenn quantencomputer richtig funktionieren.
Lange wird das wohl aber nicht mehr brauchen.

Mit der Rechenleistung kann man dann eine Kopi des Gehirns erzeugen indem jedes einzelne Neuron simuliert wird.
Ein Problem könnte werden das es innerhalb der Neuronen elektrisch abgeht und zwischen den Neuronen im syn. Spalt chemisch. Das sind nicht gerade kleine Schwierigkeiten. Heute bräuchte man dafür so riesige Anlagen das es keinen Sinn macht. Aber wer weiss was so in manchen forschungsanlagen des Militärs aussieht @Quantencomputer+KI.


Wie auch immer Lamda ist definitiv keine sich selbst und seiner Umgebung gegenüber wirklich bewusste KI.