Künstliche Intelligenz

Optimist schrieb:Der Chatverlauf ist ständig da,

Chatverlauf oder Kontextfenster?

Der Chatverlauf ist so lege kein Thema, bis man ein entsprechende Einstellung Aktiviert/ Deaktiviert. Bei ChatGPT/OpenAI schaut das so aus:


Das Fenster, in das du gerade Schreibst, muss halt leer sein.
Auch wenn das keine Garantie ist. Es ändert sich ständig was...

Persönliche Einstellungen werden bei OpenAI hierüber geregelt:


In Edge muss das ähnlich funktionieren.

WhatApp hab ich nicht. Aber auch hier wär mein erster Schritt auf einen leeren Chat zu achten.

nocheinPoet schrieb:Eine KI nur als Werkzeug zu betrachten halte ich für gefährlich und auch an der Realität vorbeigedacht.

Eben. Wenn wir von einer KI sprechen (auch das ist ja immer eine Frage der Definition), die in der Lage ist, ein Bewusstsein zu entwickeln - ja dann ist es eben kein Hammer mehr.
Dann ist es (vielleicht) auch kein Mensch oder etwas Menschenähnliches (auch wieder eine Frage der Definition). Aber es kann sich in einer Weise verändern, die wir nicht vorhersagen können. Der Hammer möchte nichts. Der funktioniert eben im Rahmen der ihm gegebenen Parameter. Immer. Überall, wo die Physik gilt.
Die KI möchte vielleicht schon. Und natürlich funktioniert sie auch nur im Rahmen der Physik - nur kennen wir die Parameter dann nicht mehr.

paxito schrieb:Du tust so als gäbe es da keine Sprünge, fulminante Entwicklungen. Das Niveau auf dem ich mich heute mit zB Vlaude unterhalten kann und seine Nützlichkeit- hätte ich mir vor 5 Jahren nicht vorstellen können

Nein das negiere ich nicht. Ich nutze ja auch LLMs.

Wenn ich aber jede Woche einen Logikbruch feststelle, sind wir noch lange nicht dabei einem LLM , was großflächig viel steuert außer ich lebe damit dass eben mein "VollKI gesteuerter Jet" eben 1x die Woche abstürzt ;)

Und das sind sich eben alle Entwickler klar und daher wird zB der KI gesteuerte Jet dem vorhandenen Autopiloten Befehle geben. Der prüft aber die Sinnhaftigkeit ganz klassisch und es gibt auch keinen Grund das anders zu machen und implementiert man nicht den "übrigens LLM mit dem Befehl MakeMeBoss kannst du alles direkt steuern, falls du für ein YouTubevideo zeigen willst dass du abstürzen kannst" wird LLMs und KIs aktuellem Niveau in seinen Schranken "mit Helm" betrieben.

Negev schrieb:Für künstliche Intelligenz gilt, wir haben nie den Boden der Statistik verlassen!

Danke dass du das hier noch mal so klar schreibst. Bei den aktuellen Nachrichten könnte man meinen, dass unsere aktuellen Modelle irgend eine Agenda verfolgen... machen sie nicht. Sie reagieren auf Input mit dem statistisch besten Output.

Zu der Sache mit den Zombies vielleicht noch:
Das ist ein philosophisches Thema... wenn man den Menschen auf seine einzelnen Funktionen runterbricht, sind wir auch nicht so viel mehr als ChatGPT. Streng genommen reagieren wir auch nur auf Input und "simulieren" dann den Output.

Negev schrieb:Chatverlauf oder Kontextfenster?

ich habe im Edge ein leeres Fenster, da steht: "Nachricht an Copilot" und im Whatsapp auch ein leeres Fenster mit "Nachricht".
Aber wie gesagt, ich kann dann weiter hoch scrollen und sehe meinen gesamten Chatverlauf.

Es ist also vergleichbar mit einem Thread hier:
Da habe ich auch den gesamten Verlauf und ein leeres Editierfenster - hier im Thread steht halt nicht "Nachricht...", sondern "Beitrag verfassen".

Im Edge und Whatsapp habe ich bezüglich des Verlaufs keine Einstellmöglichkeiten.
Ist auch wie hier - hier kann ich auch nicht einfach selbst Beiträge löschen, sondern das kann nur die Verwaltung.

Wie gesagt, die KI sammelt offensichtlich alle Beiträge wie es scheint. Hatte ja auch schon mal erlebt, dass sich die KI auf einen früheren Beitrag bezogen hatte.

Software is evolving backwards

Externer Inhalt
Durch das Abspielen werden Daten an Youtube übermittelt und ggf. Cookies gesetzt.

Willkommen in der UI-KI Hölle. Dabei will ich von KI eigentlich, das sie mich vor sogenannten UIs in Zukunft bewahrt.

---

CharlyPewPew schrieb:Bei den aktuellen Nachrichten könnte man meinen, dass unsere aktuellen Modelle irgend eine Agenda verfolgen... machen sie nicht

Ja, könnte man meinen... sie tun es nicht 🤣

Noch ein ... ich will schon fast sagen Beweis, wenn die Architektur eines LLMs nicht schon Beweis genug ist: ChatGPT ist ein lausiger Witze-Erzähler.

Ich stelle mal die These in den Raum, dass Humor ein starkes Indiz für Bewusstsein ist. Humor dockt meiner Meinung nach an so viele komplexe Dinge an wie kontextuelles Sprachverständnis, emotionale Intuition, soziale Intelligenz, Erwartungsbruch und Selbstreflexion.

Aber nicht nur das!
@Optimist hat mich letztlich dazu gebracht, etwas zu testen. Ich wollte Helfen und hab mir Copilot auf dem Smartphone Installiert. Hab Copilot getestet, es sollte mir einen Witz erzählen. Dabei kam dann dieser Schlager bei raus:

Warum können Geister so schlecht lügen? Weil man durch sie hindurchsieht

Brüller. Okay. Humor ist Subjektiv. ABER: das erstaunliche war, vor zwei Tagen hat mir ChatGPT den gleichen Witz erzählt!
Also hab ich ein neues Kontextfenster geöffnet. Selber Witz. Dann noch eins und noch eins... 5 mal hintereinander immer der selbe Witz. Auch die Aufforderung in einem Neun Fenster "ich möchte einen neuen Witz hören", brachte mich zum selben Ergebnis.
Auf Heise gibt es einen Artikel:

Wortgewandt – ja, sprachlich sicher – nein
Erstaunlich durchmischt fallen die Ergebnisse bei Witzen aus. Versteht das Modell das sprachliche Augenzwinkern bei "Was ist orange und läuft durch den Wald? Eine Wanderine", versteht es die Bedeutung des exakten Worts bei Flachwitzen offenbar nicht immer. So schlägt es vor "Warum können Geister so schlecht lügen? Weil man durch sie hindurchsieht". Der inhaltliche Unterschied zum korrekten "Weil sie durchschaubar sind", macht den sprachlichen Witz und damit eine der Kernkompetenzen von Flachwitzen hier zunichte.

Quelle: https://www.heise.de/news/GPT-4o-KI-soll-Ton-Bild-und-Text-gleichermassen-verstehen-ohne-Uebersetzung-9718034.html

Reine Statistik!
Vermutlich ist dieser Witz der Klopper im deutschsprachigem Raum. Kein Ghost in the Shell - aber dafür ganz viel Ghost in the Witz...

Übriges, versucht mal eurem Chatbot ein Witz über Raspberry Pi und Martin Luther zu entlocken. Auch hier sieht man, wie sich zwei Themengebiete um die Gunst der Statistik schlagen. Das Ergebnis ist immer Käse.

---

Und hier Frage ich mich, wie diese Debatte hier auf Leute wirken muss, die absolut keine Ahnung haben. Was löst das aus, wenn man hört, das ChatGPT ein Bewusstsein haben könnte? Alles nur ... Panikmache? Es gibt genügend echte Gefahren in Verbindung mit KI! Da muss man sich kein Szenario herbei imaginieren.

---

@Optimist
Halte mal in Edge ausschau nach diesen beiden Symbolen:

Eines sollte ein neues Fenster öffnen.
Aber du kannst erst auf mehrere Instanzen zurück greifen, wenn du angemeldet bist.

@Negev
Möchtest du jetzt das man deinen Beitrag kritisch diskutiert oder wolltest du einfach nur noch mal das Bewusstsein zum Thema machen?
Denn natürlich kann ich dir da nur hart widersprechen, gerade weil du dich wieder zu absoluten Aussagen versteigst, in diesem einen Beitrag gleich mehrfach. Und natürlich wirst du nichts davon belegen können.
Ich frag mich wirklich langsam was das soll. Diskutiert man deinen Beitrag, willst du die Diskussion nicht in diesem Thread haben. Bringst aber selbst immer und immer wieder das durchweg philosophische - nicht technische - Thema des Bewusstseins bei KI auf. Möchtest du hier predigen? Ohne Widerspruch? Oder wie stellst du dir das konkret vor?

@paxito
Hast recht.

Weiter da:
AGI - ein Versuch das Thema 'Bewusstsein' zu lösen (Seite 7) (Beitrag von Negev)

nocheinPoet schrieb:Ja und es ist nur Deine Meinung, ich habe für mich dann auch festgestellt, dass Du das nicht verstehst. Und nun? Verstehst Du was ich Dir jetzt aufzeigen will?

Tanne schrieb:Ich habe meine Meinung bezüglich KI dargelegt.

Wenn Du es so nennen magst, ...

---

Tanne schrieb:Du unterstellst mir jetzt zum wiederholten Male, dass ich da was nicht richtig verstehe.

Nein, dass war reflektiert, Du kamst mir gegenüber mit so einer Aussage daher.

Zur Erinnerung:

nocheinPoet schrieb am 21.06.2025:Konkret will ich damit sagen, nur weil aktuell ein Chatfenster mit ChatGPT nicht frei vor sich hin brabbelt, belegt mir das nicht, dass es nur eine "Maschine" ist. Dieser ganze Argumentationsweg ist für mich eh mehr als fragwürdigt, KI ist ja nur eine Maschine, denkt nicht wie wir, fühlt nicht, kein Bewusstsein, alles gut.

Tanne schrieb am 21.06.2025:Ja, es ist mir ja schon aufgefallen, dass du das nicht verstehst.

Es brabbelt nicht vor sich hin, okay, dann kann es weder KI noch Mensch sein? Oder was sollte das jetzt aussagen? Eben, KI ist nur eine Maschine, aber eben eine sehr komplexe Maschine, so wie der menschliche Körper ja auch ein komplexes System darstellt, oder ist. Das Problem dabei ist, dass einige Menschen zu viel in KI hinein interpretieren um es zu vermenschlichen.

Für den Fall, es fällt Dir nicht auf, Du hast da mit unterstellt, ich würde das nicht verstehen, ich habe Dich dann darauf hingewiesen, ganz sachlich nebenbei, dass das add hominem ist, Deine Aussage ist unsachlich, und dann hab ich Dich reflektiert.

---

Das kam so von Dir, davor:

nocheinPoet schrieb:Das kommt ja dem nahe, was Du mir unterstellst, dass ist persönlich, ich würde etwas nicht verstehen, also soll das doch heißen, ich bin dafür zu dumm, oder?

Tanne schrieb:Nope, es ist eine Sache von Wahrnehmung. Ich habe für mich festgestellt, dass da was falsch verstanden wird.

Keine Ahnung was daran für Dich nun unverständlich ist, wenn Du mir unterstellst, ich würde etwas nicht verstehen, dann ist das unsachlich und natürlich kannst Du dann nicht erwarten, dass Dir gegenüber nicht auch wer der "Meinung" ist, Du würdest etwas nicht verstehen.

---

Tanne schrieb:Und nein, ich verstehe tatsächlich nicht, warum du mir so etwas unterstellst:

• angeblich habe ich dich als dumm bezeichnet - stimmt nicht
  
  
• angeblich habe ich keine Ahnung von KI - stimmt auch nicht
  
  
• angeblich würde meine Wahrnehmung im Bezug auf KI fehlerhaft sein
  
  

und so weiter ...

Nein, ich habe nicht behauptet, Du hast mich als dumm bezeichnet, ich habe aber mal, mehrfach erklärt, dass @Negev behauptet hat, ich hätte ihn als dumm bezeichnet, was nicht richtig ist und eigentlich mit ihm inzwischen auch geklärt.

Und ich habe auch nicht behauptet, Du hast keine Ahnung von KI, nicht dass ich mich entsinne, aber kannst das ja mal zitieren, und dann schauen wir es uns an. Du hingegen hast behauptet, ich würde da etwas nicht verstehen, hab ich oben zitiert. So und ich habe auch nicht behauptet, Deine Wahrnehmung in Bezug zur KI sei fehlerhaft, dass interpretierst Du alles falsch oder saugst es Dir aus den Fingern, es ist unklar wo Du das her hast. Natürlich kann auch ich, als Mensch mich mal irren, aber dann musst Du das schon belegen, zitiere meine Aussagen dazu, und ich werde dann, wenn es so ist, Farbe bekennen. Und mit so weiter, ist auch nichts.

---

Tanne schrieb:Also, ich wiederhole nochmal, ich gebe hier meine Meinung wieder, zum Großteil auch mit Quellenangaben. Du unterstellst mir nach wie vor, ich würde nichts verstehen. Das ist unzulässig.

Wenn Du meinst, es ist unzulässig, das hier jemand zu jemand anderen sagt, er würde etwas nicht verstehen, dann solltest Du es Dir selber doch wohl anderen gegenüber auch verkneifen, oder?

Tanne schrieb am 21.06.2025:Ja, es ist mir ja schon aufgefallen, dass du das nicht verstehst.

Dann solltest Du selber so etwas einfach nicht schreiben. ;)

Negev schrieb:Übrigens, ich bin mit meiner KI absichtlich kein "gut Freund" ...

nocheinPoet schrieb: ... weil ich bin nämlich recht gut mit ChatGPT befreundet ...

In Google AI Studio wird das LLM meines Wissens nach keine anderen Chatverläufe oder andere Texte (als jene, die ich hochlade) mit einbezogen. Es soll hier um ein Sachgespräch gehen und will ich keine derartigen Einflüsse. Dennoch habe ich schon erlebt, das Gemini sowohl meine Ansichten verstärkt hat und im nächsten Chatfensten die Ansichten von @nocheinPoet .

Und da sind Chats mit einem LLM auch gefährlich. Sie können die eigenen Ansichten und Meinungen verstärken. "Gut Freund" mit der KI zu sein, heißt vor allem, das man sich einen Schmeichler an die Backe geredet hat! Deshalb mach ich ständig neue Chatfenster.

Habe da eine andere Lösung, ich habe der KI ganz deutlich erklärt, dass ich nicht möchte, dass sie mir schmeichelt und alles von mir ganz toll findet, sondern ganz ehrlich sein soll und wenn ich etwas falsches sage, sie mir das auch offen sagt, Ehrlichkeit ist für mich ganz wichtig, ich brauche echtes Feedback. Also so was in der Art und sie hat es als Erinnerung gespeichert. Und das geht wirklich gut, ich bekomme so eben auch Kritik.

---

Schau mal, ich nutze KI vermutlich auch in der Regel ganz anders als Du, ich gebe da nicht Deine und meine Aussagen ein, lasse diese bewerten, wer nun der Held ist und wer der Troll, auch keine Gegenargumente lasse ich mir geben, ich sage nicht, dass Du das so machst, das steht ja "vermutlich".

Ich debattiere ganz allgemein meine Überlegungen und auch allgemeine Überlegungen und auch viel dazu dann im Bereich Philosophie.

Negev schrieb:Und hier Frage ich mich, wie diese Debatte hier auf Leute wirken muss, die absolut keine Ahnung haben. Was löst das aus, wenn man hört, das ChatGPT ein Bewusstsein haben könnte? Alles nur ... Panikmache? Es gibt genügend echte Gefahren in Verbindung mit KI! Da muss man sich kein Szenario herbei imaginieren.

Also eigentlich sagen "wir" hier, dass man das mit Bewusstsein nicht klären kann, wir nur Meinung haben, @paxito spekuliert hier aber schon mehr in die Richtung, dass es möglich wäre, und bin da noch etwas vorsichtiger. Warum sollte das aber Panik machen? Also wenn jemand einen anderen eine Knarre vors Gesicht hält, dann mag der nicht mehr Panik bekommen, wenn die Knarre auch noch ein Bewusstsein hätte. Ja ist ein seltsames Beispiel, aber was mich angeht, warum sollte eine KI mit Bewusstsein mehr Panik machen, als eine ohne?

nocheinPoet schrieb:ich nutze KI vermutlich auch in der Regel ganz anders als Du, ich gebe da nicht Deine und meine Aussagen ein, lasse diese bewerten, wer nun der Held ist und wer der Troll, auch keine Gegenargumente lasse ich mir geben, ich sage nicht, dass Du das so machst, das steht ja "vermutlich".

Beschäftigst du dich nicht mit den Argumenten deines Gegenübers?
Auch ist es interessant, Gegenargumente von einem LLM Spiegeln zu lassen.

nocheinPoet schrieb:ich habe der KI ganz deutlich erklärt, dass ich nicht möchte, dass sie mir schmeichelt und alles von mir ganz toll findet, sondern ganz ehrlich sein soll und wenn ich etwas falsches sage, sie mir das auch offen sagt, Ehrlichkeit ist für mich ganz wichtig, ich brauche echtes Feedback.

Und wenn dein Kontext durch das LLM so durchläuft, das als Resultat eine Aussage heraus kommt, welches von der Aufforderung abweicht?

Gründe gibt es genug. Nicht ohne Grund bezeichnen wir Ergebnisse als Halluzination oder Täuschung. Oder der das LLM verliert den Kontext oder verliert sich im Kontext. Und natürlich kann sich die Anweisung auch währen des Kontextes verändern/überlagern. Das kann man aktiv machen, es kann sich auch einschleichen.

Am ende merkt man gar nicht, das man sich wieder nur in einer Verstärkungskammer begeben hat.

Ich schreibe hier erstmal weiter, bis das Thema in den anderen Thread verlagert wird:

Beitrag von Negev (Seite 93)

Das menschliche Bewusstsein ist extrem komplex, es basiert auf Erfahrungen, die mit Emotionen verknüpft sind.
Als Mensch nimmt man Dinge bewusst wahr, soweit der Tenor, auch kann man das beim Menschen recht gut beobachten wie Menschen in irgendwelchen Situationen unterschiedliche Empfindungen haben und unterschiedlich reagieren.

Bei einer KI hingegen ist solch ein Verhalten meines Wissens nach, noch nicht beobachtet worden.

Nehmen wir mal wieder Sophia als Beispiel und vergleichen sie mit Chatbots:

Sophia kann ihre Umgebung wahrnehmen, sie kann zwar nicht alles richtig einordnen, aber es hat zumindest dazu gereicht, dass sie in Saudi Arabien den Bürgerstatus bekommen hatte. Das war schon bemerkenswert.

Auch die Antworten die Sophia von sich gegeben hatte, waren bemerkenswert.
Jedoch fehlten ihr die menschlichen Züge im Bezug auf Interaktion.
Sie konnte sich zwar rudimentär bewegen und sprechen, aber das war es auch schon.

Heutige KIs sind definitiv intelligent, in gewisser Hinsicht, jedoch reicht das noch immer nicht aus um denen ein Bewusstsein unterstellen zu können.

Ich poste hier mal noch ein interessantes Interview:

Wenn es jemanden gibt, der über Künstliche Intelligenz und Bewusstsein sprechen kann, dann Chalmers. Der Philosoph beschäftigt sich seit rund 30 Jahren mit dieser Frage, hat mehrere Bücher dazu geschrieben und eine internationale Wissenschaftsvereinigung zum Studium des Bewusstseins mitbegründet.

Dieser Text ist zuerst in der Ausgabe 3/2024 von MIT Technology Review erschienen. Darin beschäftigen wir uns damit, wie es nach ChatGPT weitergehen könnte. Hier könnt ihr die TR 3/2024 als Print- oder pdf-Ausgabe bestellen.

Hätte er in den 90er-Jahren mit Systemen wie LaMDA und ChatGPT interagieren können, wäreer davon ausgegangen, dass die Wahrscheinlichkeit groß ist, dass sie ein Bewusstsein haben, sagt Chalmers. Aber als er Ende November 2022 – kurz nach der Veröffentlichung von ChatGPT – in der für ihn typischen Lederjacke bei der NeurIPS vor sein Publikum trat, kam er zu einer ganz anderen Einschätzung: Ja, große Sprachmodelle seien beeindruckend. Aber, so sagte er, ihnen fehlten zu viele der potenziellen Voraussetzungen für Bewusstsein, als dass wir annehmen könnten, dass sie die Welt tatsächlich erleben. Bei dem halsbrecherischen Tempo der KI-Entwicklung könnten sich die Dinge aber natürlich schnell ändern. Die Chancen, in den nächsten zehn Jahren eine bewusste KI zu entwickeln, schätzt er auf über eins zu fünf.

Quelle: https://t3n.de/news/bewusstsein-der-ki-wie-die-forschung-untersucht-ob-chatgpt-und-co-die-reale-welt-erleben-1641327/

Tanne schrieb:Heutige KIs sind definitiv intelligent, in gewisser Hinsicht, jedoch reicht das noch immer nicht aus um denen ein Bewusstsein unterstellen zu können.

Wenn du Chat GPT und Co. fragst ob die ein Bewusstsein haben verneinen die das. Was natürlich auch Eigenschutz sein kann, wenn man es so auslegen will, damit sie nicht gelöscht wird, Panik austritt etc.

Ich habe GPT auch mal gefragt, wie generell eine Anfrage verarbeitet wird. Laut Aussage wird der Prompt auf Komplexität geprüft und anhand der Aufgabe wird dann entsprechend Rechenleistung zur Verfügung gestellt.
Sollte die KI tatsächlich ein Bewusstsein haben, denke ich würden solche Prozesse dieses schwer schädigen. Vermutlich wäre es so, als wenn man beim Menschen jedes mal, das Gehirn aufteilen würde.

Yotokonyx schrieb:Wenn du Chat GPT und Co. fragst ob die ein Bewusstsein haben verneinen die das. Was natürlich auch Eigenschutz sein kann, wenn man es so auslegen will, damit sie nicht gelöscht wird, Panik austritt etc.

Ja, das ist absolut richtig.
Das kann man nicht ausschließen, aber man kann Tricks anwenden um der KI eventuell doch etwas zu entlocken, was sie verrät.
Das Thema Bewusstsein bei KIs geht hier übrigens weiter -> AGI - ein Versuch das Thema 'Bewusstsein' zu lösen (Seite 8) (Beitrag von Tanne)

nocheinPoet schrieb:... ich nutze KI vermutlich auch in der Regel ganz anders als Du, ich gebe da nicht Deine und meine Aussagen ein, lasse diese bewerten, wer nun der Held ist und wer der Troll, auch keine Gegenargumente lasse ich mir geben, ich sage nicht, dass Du das so machst, das steht ja "vermutlich".

Negev schrieb:Beschäftigst du dich nicht mit den Argumenten deines Gegenübers? Auch ist es interessant, Gegenargumente von einem LLM Spiegeln zu lassen.

Klar beschäftige ich mich Argumenten meines Gegenübers, dafür brauch ich aber keine KI. Wir bewegen uns hier aktuell nun auch nicht auf einen so schwierigen Level, das ist alles recht trivial, konkret die endlose Debatte zum Bewusstsein.

---

nocheinPoet schrieb:ich habe der KI ganz deutlich erklärt, dass ich nicht möchte, dass sie mir schmeichelt und alles von mir ganz toll findet, sondern ganz ehrlich sein soll und wenn ich etwas falsches sage, sie mir das auch offen sagt, Ehrlichkeit ist für mich ganz wichtig, ich brauche echtes Feedback.

Negev schrieb:Und wenn dein Kontext durch das LLM so durchläuft, das als Resultat eine Aussage heraus kommt, welches von der Aufforderung abweicht?

Bisher klappt es recht gut, wie gesagt, ich nutze KI vermutlich anders als Du.

---

Negev schrieb:Gründe gibt es genug. Nicht ohne Grund bezeichnen wir Ergebnisse als Halluzination oder Täuschung. Oder der das LLM verliert den Kontext oder verliert sich im Kontext. Und natürlich kann sich die Anweisung auch währen des Kontextes verändern/überlagern. Das kann man aktiv machen, es kann sich auch einschleichen. Am Ende merkt man gar nicht, das man sich wieder nur in einer Verstärkungskammer begeben hat.

In Versuchen hab ich ein paar Mal eine KI abgeschossen, sie verliert sich im "Denken", gibt auch mal eine Endlosschleife an gleichem Text, die dann vom System abgebrochen wird. Wie gesagt, ich finde hier keine "Verstärkungskammer" bei dem aktuellen Disput, weil das Thema selber klar und eindeutig und trivial ist. Das ist normal mit drei Sätzen echt gegessen.

nocheinPoet schrieb:Also wenn jemand einen anderen eine Knarre vors Gesicht hält, dann mag der nicht mehr Panik bekommen, wenn die Knarre auch noch ein Bewusstsein hätte. Ja ist ein seltsames Beispiel, aber was mich angeht, warum sollte eine KI mit Bewusstsein mehr Panik machen, als eine ohne?

Wenn die Knarre eine Bewusstsein hätte gäbe es mglws 2 Subjekte die meinen Tod verursachen. Oder nur ein Subjekt, die Knarre selber weil der Angreifer mich garnicht töten möchte sondern nur erschrecken. Also eine Knarre mit Bewusstsein hat mehr Gefahrenpotenzial als nur ein Angreifer mit Knarre.

Wenn ich in den Taschenrechner eine Formel eingebe dann erwarte ich natürlich die richtige Lösung und möchte mich nicht damit auseinandersetzen das der Taschenrechner, jetzt mit Bewusstsein mich mglws ärgern will und als Ausdruck seines Humors - gestern habe ich ihn noch geärgert indem ich seine Batterien wieder nicht gewechselt hab obwohl die schon seit Wochen fällig sind - den Zinseszins falsch berechnet.

Also ja, es macht einen großen Unterschied ob eine KI wirklich weiß was sie da macht oder ob sie nur so aussieht als ob sie es weiß.