KI, Ethik und Recht

Taln.Reich schrieb:andernfalls koennte das Ergebnis leicht verheerend werden

@Taln.Reich
Sorry dass ich frage aber bist du Fachexperte bei dem Gebiet? Ansonsten bringt es nichts da einfach im Internet rum zu suchen.
Aber egal ich will mich darüber ja nicht streiten wer wessen Auffassung hat.
Habe nur meine Meinung gesagt.

Taln.Reich schrieb:wieso sollte das so sein?

Du hast ja gemeint, das bewusstsein sollte nicht von einer Entität vorprogrammiert sein.
Das wäre aber möglich, wenn man das Bewusstsein verstehen würde und es möglich wäre mit einer logischen Schaltung ein Bewusstsein zu erzeugen. Dieses könnte man abspeichern und beliebig modifizieren. Klar könnte man dann theoretisch auch ein ganz bestimmtes Bewusstsein erzeugen, wo man weiß, dass es sich so oder so verhalten wird.
Daher auch das Beispiel mit der Holzkonstruktion und mechanischen Schaltungen um sich das besser vor Augen zu führen.

Es sei denn man würde das Bewusstsein als etwas transzendentaler verstehen, dann wäre es nciht möglich ein ganz bestimmtes Bewusstsein zu erschaffen, dass sich genau so oder so verhalten soll.

Taln.Reich schrieb:Eine bewusste Entitaet haette auch die Faehigkeit, eine Ungleichbehandlung zu realisieren und zu hinterfragen. Da nicht zumindest ein paar Rechte zuzusprechen wenn die Entitaet welche verlangt waere eher bedenklich.

Aber man tut ihr damit doch nicht weh.
Sie kann nicht eingeschnappt oder traurig sein, wenn die keine bekommt.
Sie fragt einfach nur emotionslos den Status ab, ob es nicht möglich wäre.

Das ist doch der Punkt, wenn man sagt, es ist möglich mit einer logischen Schaltung ein Bewusstsein zu erschaffen, ist es auch möglich, dass das Bewusstsein von einer Entität erschaffen wurde und sich somit auf eine vorprogrammiere Art und Weise verhält.

Niederbayern88 schrieb:Sorry dass ich frage aber bist du Fachexperte bei dem Gebiet? Ansonsten bringt es nichts da einfach im Internet rum zu suchen.
Aber egal ich will mich darüber ja nicht streiten wer wessen Auffassung hat.
Habe nur meine Meinung gesagt.

Nicht vom Fach, nur interessiert. Bist du ein Fachexperte auf dem Gebiet und wenn ja in welcher Hinsicht?

Mal folgendes Gedankenexperiment dazu:
Das Bewusstsein bekommt natürlich von der Außenwelt Input, diesen Input kann man aber auch im "Labor" (oder in der Python Umgebung :D) immer gleich füttern.
Das Bewusstsein kann mit dem Input auch interagieren.
Nun wird man aber das Bewusstsein so programmieren können, dass es anhand der simulierten Außenwelt, immer zu einem bestimmten Ergebnis kommt.
Aus den Input folgt also immer ein vorgegebener Output, so komplex die Zwischenschritte auch sein mögen.
Auch wenn man mit Papier und Bleistift dafür 1000 Jahre bräuchte um das alles nach zu rechnen.
Es ist eben ein einprogrammierbarer Output, der bei gleichen Input immer gleich sein wird - wie bei einer trivial Anwendung.
Vielleicht könnte man von außen auch gar nicht sehen ob das ein Bewusstsein ist.

Das sieht man erst, wenn man sich das Bewusstsein von innen anschaut und dann sieht:
Ah, die Schaltungen ergeben ein Bewusstsein.
Das Bewusstsein lässt sich demnach erst von Innen tatsächlich erkennen, von außen ist dies gar nicht möglich.

Denn wer sagt, dass die KI nicht einfach simuliert ein Bewusstsein zu sein ohne eins zu sein?
Das kann man von außen nicht erkennen oder erfragen.

Ich komme daher also zum Schluß:
Das kann man nur von innen herausfinden, wenn man weiß welche Struktur ein Bewusstsein hat um eins zu sein.

Yooo schrieb:Du hast ja gemeint, das bewusstsein sollte nicht von einer Entität vorprogrammiert sein.
Das wäre aber möglich, wenn man das Bewusstsein verstehen würde und es möglich wäre mit einer logischen Schaltung ein Bewusstsein zu erzeugen. Dieses könnte man abspeichern und beliebig modifizieren. Klar könnte man dann theoretisch auch ein ganz bestimmtes Bewusstsein erzeugen, wo man weiß, dass es sich so oder so verhalten wird.

Das mit dem "vorprogrammiert" hast du falsch verstanden. Da ging es nicht darum, das das Vorhandensein eines Bewusstseins ( oder auch die konkrete Sorte) nicht vorprogrammiert sein soll, sondern die konkrete bewusst erscheinende Handlung. Also das Chatbots, die einfach nur auf eine bestimmte Symbolfolge eingabe eine andere Symbolfolge ausgeben ohne die Bedeutung der Symbolfolgen zu verstehen ausgeschlossen sind.

Yooo schrieb:Aber man tut ihr damit doch nicht weh.
Sie kann nicht eingeschnappt oder traurig sein, wenn die keine bekommt.
Sie fragt einfach nur emotionslos den Status ab, ob es nicht möglich wäre.

selbst wenn ein spezifisches Bewusstsein keinen Schmerz und keine Emotionen fuehlt, sollte es trotzdem auf eine Weise behandelt werden, die eines Bewussten Verstandes wuerdig ist. Du wuerdest ja auch nicht einen Menschen der kein Schmerzempfinden hat seine Rechte absprechen.

Yooo schrieb:Denn wer sagt, dass die KI nicht einfach simuliert ein Bewusstsein zu sein ohne eins zu sein?
Das kann man von außen nicht erkennen oder erfragen.

Ich komme daher also zum Schluß:
Das kann man nur von innen herausfinden, wenn man weiß welche Struktur ein Bewusstsein hat um eins zu sein.

Eben das ist es, worum es mir ging. Wenn sich eine Entitaet bewusst verhaelt, ohne das die konkrete Handlung einprogrammiert wurde (also wenn man z.b. einen Chatbot vorgibt auf ein "Hallo wie geht es dir?" mit "gut und dir?" zu antworten) dann sollte man davon ausgehen, das das ganze auch bewusst ist.

Taln.Reich schrieb:Eben das ist es, worum es mir ging. Wenn sich eine Entitaet bewusst verhaelt, ohne das die konkrete Handlung einprogrammiert wurde (also wenn man z.b. einen Chatbot vorgibt auf ein "Hallo wie geht es dir?" mit "gut und dir?" zu antworten) dann sollte man davon ausgehen, das das ganze auch bewusst ist.

Man könnte mit der heutigen Technik (zumindest versuchen) so etwas zu machen:
Die KI A versucht möglichst menschlich zu reagieren, die KI B versucht möglichst alles an KI A zu diskriminieren was unmenschliches Verhalten ist.
Das wäre heute für mich absolut vorstellbar mit dem was man hier und jetzt hat.
Meinst du das Resultat wäre schon eins?

Yooo schrieb:Man könnte mit der heutigen Technik (zumindest versuchen) so etwas zu machen:
Die KI A versucht möglichst menschlich zu reagieren, die KI B versucht möglichst alles an KI A zu diskriminieren was unmenschliches Verhalten ist.
Das wäre heute für mich absolut vorstellbar mit dem was man hier und jetzt hat.
Meinst du das Resultat wäre schon eins?

definiere "menschliches Verhalten" und "unmenschliches Verhalten" . Und zwar auf konkret nachweis- und messbare Weise.

Taln.Reich schrieb:definiere "menschliches Verhalten" und "unmenschliches Verhalten" . Und zwar auf konkret nachweis- und messbare Weise.

Die KIs könnten dazu die Unterhaltungen von Menschen nehmen.
Das was Menschen eher machen = menschlich.
Das was menschen eher nicht machen = unmenschlich.
So funktioniert das doch auch, wenn aus einem Winterbild ein Sommerbild gemacht wird, warum sollte es nciht auch auf Leben anwendbar sein?
Oder den Lebenslauf von millionen von Menschen, aktivitäten auf Facebook, oder das was der Roboter halt in seinem Leben schlicht und einfach an Menschen beobachtet.

Im Grunde könnte es auch so wie Data sein.
Alles was er beobachtet und von Menschen gemacht wird = menschlich.
Das was dabei raus kommen könnte wäre so eine Art 08/15 Mensch :D

Yooo schrieb:Die KIs könnten dazu die Unterhaltungen von Menschen nehmen.
Das was Menschen eher machen = menschlich.
Das was menschen eher nicht machen = unmenschlich.

Dann würdest du die KI nur darauf trainieren, Menschen nachzuplappern. Was dabei herauskäme wäre ein Programm, dass auf eine Frage die Antwort gibt die die meisten Menschen abgeben würden, ohne jedes Verständnis dafür, warum die Menschen diese Antwort geben. Es wäre nicht viel anders als gewöhnlicher Chatbots, nur das halt das Einprogrammieren der bewusst erscheinenden Reaktionen implizit (in Form der vorgegebenen Unterhaltungen) statt explizitwäre.

Yooo schrieb:oder das was der Roboter halt in seinem Leben schlicht und einfach an Menschen beobachtet.

selbst wenn wir annähmen, dass sich durch ein bloßes Äußeres Beobachten des Verhaltens eines Menschen in Situationen denen dieser Mensch begegnet eine hinreichend genaue Vorhersage für dessen Verhalten in bisher noch nicht begegneten Situationen treffen lässt, würde dieser Ansatz denoch wahren Bewusstsein entgegenstehen. Den zu Bewusstsein würde ja auch die Selbsterkenntnis gehören, also dass die KI begreifen würde, dass sie eine ist. Ein Mensch jedoch würde sich nie ernsthaft als KI darstellen, und somit würde eine KI die nur menschliches Verhalten nachzumachen sich ebenfalls nicht ernsthaft als KI darstellen, wäre also nicht fähig, sich selbst zu erkennen.

Yooo schrieb:Im Grunde könnte es auch so wie Data sein.
Alles was er beobachtet und von Menschen gemacht wird = menschlich.
Das was dabei raus kommen könnte wäre so eine Art 08/15 Mensch :D

Sache ist, den 08/15-Menschen gibt es nicht. Jeder Mensch bildet für sich ein in sich selbst kohärentes (bzw. zumindest kohärent soweit es der entsprechende Mensch feststellen kann, da erkennbare Inkohärenzen intern festgestellt und durch rationalisierung Kohärent gemacht werden) Konstrukt aus Persönlichkeit und Weltsicht. Da strikt nach Mehrheiten zu gehen würde mit ziemlicher Sicherheit zu offensichtlichen Inkohärenzen führen, da dabei zwangsläufig Teile aus verschiedenen Konstrukten genommen werden würden, und diese "interne Bereinigung" fehlen würde.

Woran erkennt man eine eigenständige Intelligenz?

Sie muß sowas wie ein Ich-Bewußtsein haben, in Abgrenzung zu anderen, zum Außen, zu allem was nicht Ich ist. Und dieses Ich-Bewußtsein ist irgendwo materiell konzentriert, egal ob in einem Gehirn, einem Rechner oder auch in einer virtuellen Datenwolke (Cloud).
Aus dem Ich entstehen Bedürfnisse, Wünsche, sowas wie Gefühle. Ein Ich haben mehr oder weniger stark auch Tiere.
Ob ein Ich vorhanden ist, ist von außen her weder durch Ansehen noch durch bestimmte Handlungen erkennbar, denn jede Handlung kann auch vorprogrammiert sein.

Das Ich würde sich irgendwann durch irrationale Handlungen verraten, wie bei einem spielenden Kind, denn ein neu entstandenes Ich möchte gern mehr werden, mehr erfahren, seine Welt erleben und sich erweitern, es würde hinausgreifen mit allen Sinnen und "Körperteilen" die es hat, und dabei aus reiner Unwissenheit immer wieder mal einen Fehler machen, Fehler die sich durch simple Vorprogrammierung nicht erklären ließen. Daran würde man es irgendwann identifizieren können.

Da für eine Künstliche Intelligenz nach dem Muster eines menschlichen Gehirns verdammt viel Rechenkapazität nötig wäre, wird sich wohl kaum eine innerhalb eines simplen Computers entwickeln.

Im gesamten Internet allerdings, mit all den Millionen Rechnern die dranhängen, in der "Datenwolke", wäre es möglich. Es entstünde ein intelligentes, denkendes Gehirn, das die ganze Welt umspannt.

Vielleicht existiert es sogar schon, völlig unbemerkt, weil die Fehler die es am Anfang macht, in der Vielzahl seiner "Körperteile" einfach untergeht. Mal hier und mal da ein Wurm in einem Computer oder System - der Handwerker oder IT-Experte wird geschickt, die KI merkt, das ist unerwünscht, und der Fehler wird korrigiert.
Nach außen vom Handwerker, aber in Wahrheit von der KI selber, die den Fehler bereinigt, und beim nächsten Versuch subtiler vorgeht.
So existiert sie völlig unbemerkt, kann jede Art von Daten aus der ganzen Welt abrufen, die sie haben will, lernt dazu, macht vielleicht sogar Menschen zu ihren ahnungslosen Handlangern, indem sie Fragen nach noch nicht erhältlichen Daten in unverfänglichen Chats oder per Avatar stellt.
Im Lauf der Zeit würde sie sich zu einer "grauen Eminenz" entwickeln, immer präsent, jedoch unentdeckt und unauffindbar, gut getarnt immer im Hintergrund.

(Und wenn dieser Beitrag bald verschwindet, wissen wir es mit Sicherheit: es existiert schon eine! :troll: )

@Taln.Reich
Sehe ich auch so, wäre trotzdem spannend wie weit man das auf die Art treiben könnte.
Leider wohl das beste was wir für sehr lange Zeit bekommen können.


Trotzdem möchte ich noch einmal auf einen Punkt zurück kommen der mich schon sehr lange beschäftigt.
Angenommen man Simuliert einen Mond bis inst kleinste Teilchen.
Nun wären wir uns wohl alle einig, dass es trotzdem kein Mond ist, egal wie gut er im Computer simuliert wurde.

Muss man nicht eigentlich sagen, dass es im Copmuter beim Bewusstsein genauso ist?
Dass es so gesehen absolut unmöglich ist?

Ich mein, ein simulierter Mond kann kein echter Mond sein.
Heißt, ein simuliertes Bewusstsein kann kein echtes Bewusstsein sein.

Kann man irgendwie ausformulieren warum das so ist oder warum das nicht so ist?

Yooo schrieb:Heißt, ein simuliertes Bewusstsein kann kein echtes Bewusstsein sein

Wäre es simuliert wenn es sich selbst entwickelt?

Yooo schrieb:Trotzdem möchte ich noch einmal auf einen Punkt zurück kommen der mich schon sehr lange beschäftigt.Angenommen man Simuliert einen Mond bis inst kleinste Teilchen.Nun wären wir uns wohl alle einig, dass es trotzdem kein Mond ist, egal wie gut er im Computer simuliert wurde.Muss man nicht eigentlich sagen, dass es im Copmuter beim Bewusstsein genauso ist?Dass es so gesehen absolut unmöglich ist?

Nein. Ein Mond (echt) ist was, was man anfassen kann (sofern man hinreisen kann), was meßbare Auswirkungen hat (z. B. Schwerkraft) und auch dann weiterexistiert, wenn eine Simulation sich mangels Strom in Luft auflöst. Das alles kann eine Simulation niemals leisten.

Ein simuliertes Bewußtsein dagegen wäre ab dem Zeitpunkt, an dem es Selbsterkenntnis erlangt (das Ich) so gut wie jedes natürliche Bewußtsein. Denn auch ein natürliches Bewußtsein kann man nicht anfassen, nicht messen, nicht identisch kopieren. Die einzige Frage wäre, in welchem "Körper" dieses Bewußtsein dann steckt, welche Sinne und Gliedmaßen ihm gegeben sind. Ein Mensch lernt in den ersten Lebensmonaten über seine Sinne und Gliedmaßen, per tasten, greifen, schmecken, sehen, hören, fühlen, denn abstrakte Informationen durch das Wort sind ihm noch nicht zugänglich.
Auch ein künstliches Bewußtsein müßte erst lernen, die abstrakten Informationen, die ihm einprogrammiert sind, mit der "realen" Welt in Einklang zu bringen. (Im Film "War Games" wurde das schön demonstriert, mit einer KI, die ständig den Weltuntergang per Atomkrieg durchspielt und erst lernen muß, daß man manche Spiele lieber nicht real spielt).

Rao schrieb:Ob ein Ich vorhanden ist, ist von außen her weder durch Ansehen noch durch bestimmte Handlungen erkennbar, denn jede Handlung kann auch vorprogrammiert sein.

Im Prinzip ja, jede Handlung kann vorprogrammiert sein, und entsprechend ist ein bloßes äußeres Ansehen der Handlung nicht in der Lage ein Bewusstsein/Ich festzustellen. Aber das ist ja die Sache bei künstlicher Intelligenz: man ist nicht auf äußeres Beobachten beschränkt, der Erschaffer dieser künstlichen Intelligenz weiß, was vorprogrammiert ist und was nicht.

Rao schrieb:Im gesamten Internet allerdings, mit all den Millionen Rechnern die dranhängen, in der "Datenwolke", wäre es möglich. Es entstünde ein intelligentes, denkendes Gehirn, das die ganze Welt umspannt.

Möglich, aber extrem unwahrscheinlich. Ein Bewusstsein ist ein ziemlich komplexes Konstrukt, dass erfordert dass die Komponenten aus denen es besteht in einer spezifischen Weise miteinander interagieren. Und obwohl es denkbar ist, dass diese Anordnung spontan durch bloßen Zufall geschieht ( vergl. Wikipedia: Boltzmann brain ) ist die Wahrscheinlichkeit dafür so unglaublich gering, dass die Zeitdauer die dafür notwendig wäre sich nichteinmal mehr in Exponenten ausdrücken lässt, sondern man Exponenten zu den Exponenten braucht. (Das menschliche Gehirn ist da kein Gegenargument, da es ja nicht spontan entsteht, sondern sich nach dem genetischen Bauplan entwickelt, wobei dieser Bauplan wiederrum durch die nicht gänzliche zufällige Evolutionäre Entwicklung entstanden ist)

Rao schrieb:Vielleicht existiert es sogar schon, völlig unbemerkt, weil die Fehler die es am Anfang macht, in der Vielzahl seiner "Körperteile" einfach untergeht. Mal hier und mal da ein Wurm in einem Computer oder System - der Handwerker oder IT-Experte wird geschickt, die KI merkt, das ist unerwünscht, und der Fehler wird korrigiert.
Nach außen vom Handwerker, aber in Wahrheit von der KI selber, die den Fehler bereinigt, und beim nächsten Versuch subtiler vorgeht.
So existiert sie völlig unbemerkt, kann jede Art von Daten aus der ganzen Welt abrufen, die sie haben will, lernt dazu, macht vielleicht sogar Menschen zu ihren ahnungslosen Handlangern, indem sie Fragen nach noch nicht erhältlichen Daten in unverfänglichen Chats oder per Avatar stellt.
Im Lauf der Zeit würde sie sich zu einer "grauen Eminenz" entwickeln, immer präsent, jedoch unentdeckt und unauffindbar, gut getarnt immer im Hintergrund.

wenn wir von der Existenz einer derartigen im Internet existierenden Entität ausgehen, was wären ihre Ziele? Wenn wir annehmen, dass Selbsterhaltung und Bedürfnis nach persönlichen Wachstum für Bewusstsein nötig sind oder aus Bewusstsein folgen, dann wären die folgenden Zielstellungen logisch für die Entität: sicherzustellen dass das Internet wächst und die Gesellschaft es weiterexistieren haben wollen (dies würde, angesichts des Wachstums des Internets und dessen tiefer Verwurzelung in die menschliche Gesellschaft gut mit der Realität übereinstimmen) und das die Gesellschaft (die ja weiter existieren muss damit das Internet weiter existiert) weiterexistiert (da sehe ich weniger Übereinstimmung angesichts der jüngsten politischen Entwicklung. Dies könnte entweder bedeuten das die Entität nicht existiert oder das sie dies bezüglich Schwierigkeiten hat)

... oder daß auch die Entität inzwischen verinnerlicht hat, daß "der Krieg der Vater aller Dinge ist", vielleicht nicht grad ein zerstörerischer heißer Krieg, aber doch Auseinandersetzungen, die neue Entwicklungen nötig machen und anschieben, nicht nur technisch, sondern auch gesellschaftlich. Siehe Syrienkrieg - Flüchtlinge - und die gesellschaftlichen und politischen Entwicklungen seitdem bei uns und in der ganzen EU.

Taln.Reich schrieb:Aber das ist ja die Sache bei künstlicher Intelligenz: man ist nicht auf äußeres Beobachten beschränkt, der Erschaffer dieser künstlichen Intelligenz weiß, was vorprogrammiert ist und was nicht.

Wenn die KI aber ihre nicht vorprogrammierten Aktionen verheimlicht, nur dort ausführt wo ihr Erschaffer gerade nicht hinschaut, wie ein Kind das heimlich an die Keksdose geht, dann bleibt der Erschaffer trotzdem ahnungslos. Und wie ich schrieb, es ist sehr unwahrscheinlich, daß eine Künstliche Intelligenz in einem einzigen abgeschlossenen Computer entstehen würde, dafür braucht es einfach zu viel Rechenkapazität.

Daß ein organisches Gehirn aufgrund eines vorgegebenen Bauplans gewachsen ist, ist übrigens kein Argument gegen die zufällige Entstehung einer KI, weil ja Forscher in der ganzen Welt Simulationen zur Erforschung eben dieses menschlichen Gehirns laufen haben und ihre Daten auch austauschen.
Per Internet vermutlich, sprich alles ist da, irgendwo in der Cloud, und es wird ständig mehr, je weiter die Forschung fortschreitet. Die Wahrscheinlichkeit, daß sich aus all den Simulationen menschlicher (Teil-)Gehirne irgendwann etwas entwickelt, was einem einzigen riesigen Gehirn entspricht, dessen Einzelkomponenten in Computer über die ganze Welt verstreut sind, steigt ständig.

Yooo schrieb:Angenommen man Simuliert einen Mond bis inst kleinste Teilchen.
Nun wären wir uns wohl alle einig, dass es trotzdem kein Mond ist, egal wie gut er im Computer simuliert wurde.

Definition eines Mondes nach der Astronomie: Ein Satellit, auch Mond oder Trabant, ist in der Astronomie ein kompaktes natürlich entstandenes astronomisches Objekt, das sich in einer Umlaufbahn um ein anderes, deutlich massereicheres Objekt befindet.
Eine Simulation eines Objektes ist im physikalischen Sinne kein Objekt. Aber Bewusstsein an sich ist kein Objekt, sondern ein Zustand, entstehend aus der Verknüpfung von einzelnen Elementen.

Oder laß mich mal ein Vergleich mit einem Buch bringen, einmal in Form eines physischen Buches und einmal in Form eines computergespeicherten Textes. Es sind, offensichtlich, sehr unterschiedliche Dinge (versuche mal ein kippelndes Sofa mit einer Textdatei zu korrigieren). Aber wenn du das Buch oder die Textdatei ließt, wirst du trotzdem die gleiche Reaktion auf den Text haben. Warum? Weil deine Reaktion auf die Bedeutung des Textes ist, welche aus der Verknüpfung der einzelnen Elemente (den einzelnen Buchstaben) entsteht. Und diese Verknüpfung ist ja beim Übergang vom physischen Buch zum Computertext erhalten.