Wie lange noch, bis eine Maschine den Turing-Test besteht?

McMurdo schrieb:Meiner Meinung nach lässt dich das so pauschal gar nicht sagen. Es gibt Situationen da ist Rücksichtnahme bestimmt durchaus von Vorteil.

Es hängt letztlich an der Frage des kurzfristigen und sicheren oder langfristigen, unsicheren aber größeren Vorteil.
ich kann Dich umbringen, weil ich Dein Brot haben will. Oder ich verbünde mich mit Dir und habe die Chance, mehr Brote gemeinsam zu bekommen. Aber auch das Risiko, dass Du mich umbringst.
Das ist keine einfache rationale Entscheidung. Eine auf Sicherheit bedachte Ratio tötet potentielle Konkurrenz.

kleinundgrün schrieb:Das ist keine einfache rationale Entscheidung. Eine auf Sicherheit bedachte Ratio tötet potentielle Konkurrenz.

Hängt davon ab ob eine KI auch imstande ist emotionale Bindungen einzugehen.

@McMurdo
Nicht unbedingt. Emotionale Bindungen sind quasi eine Art Krücke, die es uns ermöglicht, Entscheidungen zu treffen, die nicht unmittelbar vorteilhaft sind.
Beispiel:
Warum tötet der eine Löwe nicht den anderen (schwächeren), wenn der gerade Fleisch hat. Soweit ein Löwe vorausplanen kann, wäre das eigentlich folgerichtig.
Also braucht es eine Art Korrektiv. Der Löwe fühlt sich besser, wenn er den anderen nicht tötet (emotionale Bindung) und lässt es deswegen bleiben. Evolutionär ist das vorteilhaft, deswegen gehen Tiere soziale Strukturen ein.

Wenn eine Intelligenz aber sich nicht evolutionär entwickelt hat und wenn sie in der Lage ist, auch weiter zu planen, dann kann es durchaus rational betrachtet folgerichtig sein, Konkurrenten stets auszulöschen.

kleinundgrün schrieb:Nicht unbedingt. Emotionale Bindungen sind quasi eine Art Krücke, die es uns ermöglicht, Entscheidungen zu treffen, die nicht unmittelbar vorteilhaft sind.

Richtig, der langfristige dauerhafte Erfolg steht hier im Vordergrund. Aus diesem GRund wird sich eine rational agierende KI auch immer dafür entscheiden. Denn was nützt es im ersten Kampf überlegen zu sein um dann im nächsten schon auf einen evtl. stärkeren Gegner zu treffen, den man aber gemeinsam hätte besiegen können.
Denn auch eine KI wird darauf aus sein so erfolgreich wie möglich zu "überleben".

@kleinundgrün

kleinundgrün schrieb:Die Frage ist, was ein rationales Wesen unternehmen würde, wenn es seine Existenz bedroht sieht oder wenn es sich ausbreiten oder mehr Ressourcen haben möchte.

1. Die Frage ist eher, wären wird überhaupt in der Lage um die Existenz von hochentwickelter KI zu bedrohen?
2. Würde hochentwickelte KI ihre eigene Existenz überhaupt wertschätzen?
3. Und warum sollte hochentwickelte KI interesse daran haben sich auszubreiten und Ressourcen zu besitzen?


Zu 1. Wie in dem Video das ich gepostet hab: Gegen hochentwickelte KI wird die mächtigste Armee der Welt keine größere Gefahr darstellen als die mächtigste Ameise der Welt. Wir überschätzen uns da maßlos.

Zu 2. Wir haben einen Überlebensinstinkt. Das ist nichts logisches oder rationales. Warum nehmen wir an, dass hochentwickelte KI überhaupt einen Selbsterhaltungstrieb hat, so wie wir ihn haben? Ich denk das wäre schon ein sehr komisches Phänomen wenn der KI irgendetwas an ihrem eigenen Überleben liegen würde.

ZU 3. Auch das sind wieder menschliche Wünsche und Ziele von denen ich glaube, dass sie eine absolut rationale KI nicht haben würde.



Im Großen und Ganzen halte ich das Konzept von KI für relativ ungefährlich. Gefährlich wird es erst wenn wir die KI nach unserem Vorbild entwickeln: Nach Macht und Kontrolle strebend. Mit Selbsterhaltungstrieb.

Aber wenn sie das nicht haben, dann werden unsere AI-Overlords die übelsten Hippie-Chiller.

1.21Gigawatt schrieb:Gefährlich wird es erst wenn wir die KI nach unserem Vorbild entwickeln: Nach Macht und Kontrolle strebend. Mit Selbsterhaltungstrieb.

Wir verstehen uns doch selbst nicht. Wie sollten wir dann in der Lage sein, etwas nach unserem Vorbild zu entwickeln?

McMurdo schrieb: Aus diesem GRund wird sich eine rational agierende KI auch immer dafür entscheiden.

Schon. Aber welche Handlung bewirkt voraussichtlich den besten Überlebenserfolg. Das hängt letztlich von Prognosen ab, die auf Unbekannten basieren.

Ist es besser, meine Gegner zu vernichten, wenn sie auftauchen oder ist es besser, zu versuchen, sie zu Verbündeten zu machen, mit dem Risiko, dass sie sich gegen mich wenden?

1.21Gigawatt schrieb:1. Die Frage ist eher, wären wird überhaupt in der Lage um die Existenz von hochentwickelter KI zu bedrohen?

Ja, das wäre eine Frage. Aber im Grunde genügt es schon, Ressourcen zu verbrauchen, die die KI gerne hätte.

1.21Gigawatt schrieb:Würde hochentwickelte KI ihre eigene Existenz überhaupt wertschätzen?

Gute Frage. hat eine Intelligenz per se einen Selbsterhaltungstrieb? Vermutlich nicht notwendigerweise. im Rahmen einer Selektion sind bei uns eben alle recht bald gestorben, die über keinen ausreichenden Selbsterhaltungstrieb verfügten. Aber bei einer Maschine, die nie ums Überleben kämpfen muss? Wäre es ihr einfach egal, ob sie existiert oder nicht? Spannend.

1.21Gigawatt schrieb:Und warum sollte hochentwickelte KI interesse daran haben sich auszubreiten und Ressourcen zu besitzen?

Das hängt unmittelbar mit dem Selbsterhaltungstrieb zusammen. Das ist nur eine Frage des wahrscheinlicheren Überlebens. Je mehr Ressourcen ich habe und je weiter ich mich ausbreite, desto wahrscheinlicher überleben ich.

1.21Gigawatt schrieb:Gegen hochentwickelte KI wird die mächtigste Armee der Welt keine größere Gefahr darstellen als die mächtigste Ameise der Welt.

Eine KI kann z.B. in einem Computer "leben". Egal, wie intelligent sie ist - wenn ich den Stecker ziehe ist sie weg.
Auch das ist wieder eine frage des Selbsterhaltungswunsches und in wie weit eine Intelligenz Vorkehrungen trifft, die das eigene Überleben sichern.

1.21Gigawatt schrieb:Gefährlich wird es erst wenn wir die KI nach unserem Vorbild entwickeln: Nach Macht und Kontrolle strebend. Mit Selbsterhaltungstrieb.

Aber so wird es passieren. Die ersten KIs werden dazu benutzt werden, Waffensysteme zu steuern. Sie werden programmiert, ihre Existenz zu schützen, weil sie wertvoll sind.

Viele Fragen würden beantwortet wenn wir wüssten ob eine künstliche Intelligenz ein Bewusstsein entwickeln kann - zu einer Person werden kann.
Nach meinem Verständnis unseres Bewusstseins wäre es möglich...

Was ist das denn schon besonderes? Aktion - Reaktion, ein Gedächtnis, vorgespeicherte Verhaltensmuster und die Fähigkeit der Vorstellung - die sich auf einfache Planung und Simulierung reduzieren lässt.
Dazu kommt die Möglichkeit einer dynamischen Änderung der Verhaltensweise und Vorstellung als akute Reaktion auf ein Geschehen sowie einen damit gekoppelten generellen Gemütszustand der im Zusammenhang mit dem Gedächtnis und vorgespeicherten Verhaltensmustern im Zusammenhang steht: fröhlich/deprimiert
Boom: Gefühle! Und zwar das ganze Spektrum. (sogar liebe)

(Das alles wäre meiner Meinung nach ausreichend um ein Bewusstsein zu entwickeln. Allerdings ist ein körperloser Zustand eventuell problematisch. Das habe ich ja schon mal angesprochen.)

Ist diese Frage beantwortet, beantworten sich die meisten anderen Fragen hier ebenfalls: Selbsterhaltungstrieb usw. Dann wird sie nämlich garantiert einen besitzen.

Irgendwas interessantes ist mir noch durch den Kopf gegangen... Habs vergessen. :/

FreakySmiley schrieb:Was ist das denn schon besonderes?

Du hast keine Vorstellung davon wie komplex unser Gehirn ist.

FreakySmiley schrieb:Viele Fragen würden beantwortet wenn wir wüssten ob eine künstliche Intelligenz ein Bewusstsein entwickeln kann

Ich wüsste nicht, was dagegen spricht. Das dürfte nur eine Frage davon sein, wie gut wir unser Gehirn verstehen und erkennen, was dieses Bewusstsein aus macht.

FreakySmiley schrieb:Dann wird sie nämlich garantiert einen besitzen.

Nicht notwendigerweise. Bewusstsein und der Drang, seine Existenz zu schützen, ist nicht das selbe.

@Celladoor
Doch. Gerade deswegen. Ich habe auch schon damit experimentiert. Drogen z. B. Es lässt sich alles auf diese 5 "module" reduzieren.

@kleinundgrün
Aus dem Bewusstsein ergeht aber zwingend der Drang weiterhin bewusst zu sein. Hängt zusammen mit dem Drang nach guten Gefühlen der sich automatisch ergibt.
Jetzt sind wir wieder beim Problem der möglichen psychischen Erkrankungen.

@Celladoor
Das ist natürlich auch ein bisschen vereinfacht.

FreakySmiley schrieb:Ich habe auch schon damit experimentiert. Drogen z. B.

Das nennst du experimentieren? Hast du dabei deinen Neuronen zugeschaut?

kleinundgrün schrieb:Schon. Aber welche Handlung bewirkt voraussichtlich den besten Überlebenserfolg. Das hängt letztlich von Prognosen ab, die auf Unbekannten basieren.

Deshalb ist ja meine Vermutung das es stark davon abhängt ob sie emotionale Verbindungen eingehen kann. Denn eine emotionale Bindung reduziert drastisch die Wahrscheinlichkeit von dem "Partner/Partnern" hintergangen zu werden. Zudem ist man zusammen stärker als alleine. All dies weiß eine KI natürlich.
Und selbst wenn sie keine emotionale Bindung eingehen kann wird sie sich wohl Partner suchen. Ist in online spielen ja auch zu beobachten das sich die Spieler zusammen schließen, auch ohne emotionale Bindung erst mal.

@Celladoor
Man versteht so besser was das Bewusstsein überhaupt ist. Auf eine subjektive Weise.
Durch meine Erkrankung habe ich mich mit den Mechanismen im Gehirn auseinander gesetzt und dadurch viel gelernt. Ich schätze ich habe eine gute Vorstellung von der Komplexität und bin auch mit einer Forscherin in dem Bereich der Neurowissenschaften bekannt mit der ich mich hin und wieder unterhalte.

Was ist denn jetzt genau dein Problem?

FreakySmiley schrieb:Was ist denn jetzt genau dein Problem?

Definiere Bewusstsein auf neuraler Ebene.

Hmpf... "neuronale ebene" und eine Gegenfrage...
Ein elektrisches "Rauschen" / Feld das moduliert wird durch Verbindungen zwischen den Neuronen. Diese werden durch Synapsen Verschaltet, die wiederum auf Botenstoffe usw reagieren.
So in etwa... Ich habe seit zwei Tagen nicht geschlafen und gerade ein tief das gerade anfängt. Werd bitte mal ein bisschen genauer und verwende auch endlich mal Argumente.

Hier mal ein Vergleich zwischen den Verbindungen mit und ohne Pilze. http://m.rsif.royalsocietypublishing.org//content/11/101/20140873/F6.expansion.html

FreakySmiley schrieb:So in etwa... Ich habe seit zwei Tagen nicht geschlafen und gerade ein tief das gerade anfängt.

Dann nimm ne Mütze voll Schlaf. Ist nur gut gemeint, ehrlich.

@Celladoor
Alter was ist denn nun überhaupt dein Problem mit meiner Reduzierung? Kannst du das bitte endlich mal schreiben? :)
Wehe du antwortest mit "Das du keine Ahnung davon hast wie das Gehirn funktioniert." dann solltest du dich wieder verstecken. ;D

FreakySmiley schrieb:Wehe du antwortest mit "Das du keine Ahnung davon hast wie das Gehirn funktioniert."

Da das Gegenstand aktueller Forschung ist, kann ich dich nicht ernst nehmen.