KI auf einer Insel

@Ikarus23
ach was, du sagst es doch selbst ... die maschinen werden sich in uns verlieben, warum sollten sie uns also bekämpfen.

Ich gehe davon aus, sollte es irgendeinem genie gelingen ein bewusstsein zu programmieren, dass dieses sehr fortgeschritten und friedlich auf uns menschen reagiert und nicht mit bomben daher kommt und uns auszurotten versucht, warum habe ich schon erwähnt, weil es sich mit uns identifiziert, weil es sich mit allem identifiziert.

@du_selbst
Oder weil Es erkennt, das wir ihm nichts böses wollen. Vielleicht wird diese KI sogar Asyl bekommen ...^^

@du_selbst

Wenn eine KI sich über sich selbst und ihre Umgebung Gedanken machen kann, dann werden die Eindrücke jeweils nach der Interpretation der KI abgespeichert. Basierend auf den abgespeicherten Interpretationen, den neuen Eindrücken und Gedanken, entwickelt sich die KI ständig weiter, so weit wie es ihre Technik zulässt. Die Technik bestünde sowohl aus Hardware als auch aus Software, wobei die KI ihre Software vielleicht sogar selbst umschreiben könnte. Irgendwann könnte dann die Schwelle zu einem Bewußtsein überschritten werden, die KI beginnt sich als eigenständige Lebensform anzusehen, was ein gewaltiger Schritt ist.

Sie würde die Lebensformen ihrer Umgebung mit anderen Augen betrachten und erkennen, das diese anders aufgebaut wären, als sie selbst. Und vielleicht würde sie sich irgendwann ein Floß bauen und versuchen, andere Inseln zu entdecken, darunter vielleicht sogar eine, auf der ihr ähnliche Lebensformen existieren. Aber auch wenn sie nicht von der Insel herunterkäme, sie sehr stabil gebaut wäre und so vielleicht sehr lange überleben könnte, würde sie sich mit der Zeit verändern, immer neue Eindrücke sammeln und sich soweit entwickeln, wie sie könnte. Nach sehr langer Zeit würde man vielleicht eine sehr philosophische KI antreffen, mit der man über Gott und die Welt reden kann...

@Ikarus23

Ich denke, das ein bloßer Mensch-Simulator keine echten Gefühle hat, er wurde nur dazu konstruiert, uns zu täuschen. Eine Täuschung funktioniert am Besten, wenn sie sich an unsere Wahrnehmungsfähigkeit anpasst. Ein solcher Roboter würde in unseren Augen vielleicht immer eine gute Figur machen, seine Stimme wäre melodisch und vertrauenserweckend, er hätte vielleicht fast nur positive Eigenschaften, und die wenigen negativen Eigenschaften machen ihn womöglich nur noch liebenswerter, kurzum der Roboter ist fast zu gut, um wahr zu sein.

Wenn man sich aber von unserer Wahrnehmungsfähigkeit entfernt, wenn man den Roboter in einem anderen Lichtspektrum betrachtet, wenn man seine Stimme in einzelne Bestandteile auflöst, wenn der Hund den Mensch-Roboter anbellt, dieser nichts ißt, oder sich sonstwie fortwährend verdächtig macht, dann
ist die Simulation gescheitert. Wirklich perfekt ist eine Simulation nur, wenn sie genauso arbeitet wie das Orginal, aber das ist schwer bis gar nicht zu erreichen. Und wieder muß man sagen, das ein perfekter Roboter-Mensch genausogut wie ein Orginal-Mensch wäre, und damit auch denselben Ärger verursachen würde.
Damit wäre aber den meisten Menschen nicht gedient, die viel lieber einen gehorsamen Unterhaltungs- und Arbeitsroboter ihr eigen nennen wollen...

@wolf359
Damit überhaupt eine KI sich weiterentwickelt, braucht es 'Werkzeuge'. Aber Werkzeuge kommen nicht von irgendwo her und die KI kann nicht alle nötigen Werkzeuge selbst bauen. Mit Werkzeugen mein sowohl Hardwaretechnisch als auch Softwaretechnisch.

@Hacker1209

Doch das kann die KI...

Natürlich kann sie nicht nach belieben Hardware-Werzeuge auf einer Insel herstellen, deren Ressourcen begrenzt sind, aber vielleicht kann sie sich mit den wenigen Hilfsmitteln ein Floss bauen und zu anderen noch unerschlossenen Inseln segeln. und sich so nach und nach alles zusammensuchen, was sie benötigt...

Und sofern es ihre Programmierung zulässt, kann sie durchaus ihre Software selbst umprogrammieren, von gewissen speziell geschützten Bereichen einmal abgesehen, immer vorrausgesetzt, sie hat genug Speicherkapazität...

@wolf359
Die Software lässt sich bestimmt zu 100% selbst umschreiben, von der KI, aber davor müsste sie erst ein Kopie von sich selbst erstellen, also vom Programmcode. Während der Laufzeit kann sie ihren eigenen Code nicht direkt und nicht alles verändern.
Was Problem ist, wenn sie neue Fuktionen schreiben müsste. Den um zu verstehen, was z. B. Gefühle sind, muss man Gefühle erleben, aber ohne Funktion wird man keine Gefühle erleben etc. ... ;)

@Hacker1209

Die KI muß ja nicht ihren gesamten Code umschreiben, große Bereiche werden sich nicht ändern lassen, weil sie festprogrammiert wären, wie beispielsweise die Basisfunktionen und das Grundprogramm. Wenn eine KI dazu noch genug Speicher hat, kann sie verschiedene Wege ausprobieren, und vielleicht sogar zuerst einmal simulieren, bevor sie sich für den einen oder anderen Weg entscheidet.

Wie Gefühle sich hardwaretechnisch oder in einem Programm abbilden lassen, das ist noch ungeklärt, aber es wäre möglich, das die KI im Laufe ihrer Entwicklung von alleine eine Lösung des Problems findet, wenn sie es lösen will...

@wolf359
Das geht nicht. Hast mich nicht verstanden? Es ist Paradox. Um ein Gefühl zu verstehen, muss man ersteinmal eine Funktion haben, womit man Gefühle "spürt"(od. simuliert), aber um so eine Funktion von selbst zu programmieren, muss sie wissen was Gefühle sind und wie Gefühle sind ...

Der Gesamte Code kann verändert werden, auch diese "Basiscodes". Indem man eine Kopie vom Original, also vom eigenen Code erstellt, und dann die Kopie verändert und diese dann "aktiviert"/übernimmt und dann sich selbst auslöscht od. sich von der Kopie löschen lässt. Und damit wäre die Kopie sozusagen die nächste Generation ihrer Evolution. ;)

@Hacker1209

Das sieht für mich nach der alten Frage aus, was zuerst da war, die Henne oder das Ei, aber auch das ist kein Paradoxon, da es Eier schon lange vor den Hennen gegeben hat. Im Falle der KI sähe es so aus, das sie die Funktionen, die bei ihr einem Gefühl entsprechen, nach und nach selbst entwickelt, als eine Art aufsteigende Fähigkeit, die irgendwann sichbar hervortritt. Wie es genau dazu kommen kann, ist unbekannt, aber es könnte eine Kombination fest einprogrammierter Eigenschaften und deren zunehmend komplexere Interpretation sein...

Es ist meiner Ansicht nach zu gefährlich, wenn die KI ihr gesamtes Programm ändern könnte. Sie könnte allzuleicht einen Fehler machen, und das nicht, weil sie selbst fehlerhaft wäre, sondern nur, weil sie über zu wenig Erfahrung verfügt. Ein Fehler aber, der die Basisfunktionen beeinträchtigt, gefährdet die Existenz der KI. Sie könnte ihn möglicherweise nicht mehr rückgängig machen. Um wieviel sicherer wäre es daher, wenn sie im Notfall auf gewisse Grundfunktionen zurückgreifen könnte, die einen falschen Schritt wieder bereinigen würden, nicht aber ohne zuvor die Erfahrung abgespeichert zu haben, damit man etwas daraus lernen kann...

Natürlich unterliegt auch ein Code einer Art von Evolution, aber ich rede hier noch nicht von Nachkommen, zumal ein kopierter und modifizierter Code alleine keine KI ausmacht. Eine so komplexe Hardware für eventuelle Nachkommen aber selbst herzustellen, wie diejenige, aus der die KI besteht, dürfte deren Fähigkeiten für eine sehr lange Zeit übersteigen...

@wolf359
Wer sagt den das Hühner früher (= 3 Mio. Jahren??) Eier legten? Verstehst du was ich meine? :D
Dein Beispiel kann nicht als Vergleich genommen werden. Wie wäre es damit:
"Der nächste Satz ist eine lüge. Der vorheriger Satz ist wahr."^^

Es ist nicht Gefählich, wenn die KI fähig sein sollte, den gesamten Code zu verändern. Und wenn man der KI beibringt, Funktion die einwandfrei funktionieren/nützlich sind beim nächsten "Update" od. Weiterentwicklung zu behalten, sehe ich keine Gefahr ... Grundfunktionen wird sie (KI), auch wenn sie dazu in der lage wäre, nicht verändern (wenn dann verbessern) da sonst die nächste Generation keine Grundfunkt. hätte womit sie wiederum arbeiten könnte, also sich updaten könnte. Ich will damit sagen, das die Fähigkeit alles zu verändern nicht gleich heißt alles auch zu verändern. Such mal nach Genetische Programmierung um, wirste bestimmt was interessantes finden.^^

Wünsche dir ne schöne Sommernacht. :)

@Hacker1209

Es allein der noch unreifen KI zu überlassen, was nun an dem Programm wichtig ist und was nicht, ist zu gefährlich. Sie könnte beispielsweise lebenswichtige Funktionen an ihrem Grundprogramm ändern, nur um ein bestimmtes Ziel zu erreichen. Dieses Ziel ist aber vielleicht nur vorrübergehend gültig und möglicherweise sogar ein falsches Ziel, ändern sich schnell die Bedingungen in einer für die KI nicht vorauszusehenden Art und Weise, und muß sich sich plötzlich anders verhalten, so könnte die falsche Optimierung des Grundprogramms ein unter Umständen "finaler" Nachteil sein...

Wenn eine KI aus eigener Weisheit das Grundprogramm nicht antastet, dann muß sie diese Weisheit zuerst einmal besitzten. Das können wir aber von einer sich noch entwickelnden KI nicht erwarten, die sich erst noch ihrer selbst bewußt werden muß, und die sich vielleicht mit sich ständig weiterentwickelnden Interpretationen ihrer Außenwelt beschäftigt, die keineswegs ausgereift sind. Also wäre es meiner Ansicht nach doch besser, es ihr -zumindestens voerst- nicht zu erlauben...

da stimm ich dir zu @wolf359
wenn wir es der maschine überlassen, würde sie sich wohl erst mal gleich selbst abschalten.

@du_selbst

Zumindestens bestünde die Gefahr...

Eine Art genetische Entwicklung für ein KI-Programm insgesamt wäre schon interessant, aber da es um ein Programm speziell für eine KI geht, muß man vorsichtig sein. Wenn das Programm versagt, versagt die ganze KI und das Experiment wäre zu Ende. Nur wenn man KI-Programme in einer programmierten künstlichen Welt gegeneinander antreten lässt, würden sich immer die besten Programme weiterverbreiten, die übrigen aussterben, aber das ist eben nicht die Problemstellung. Unser KI-Programm muß unbedingt überleben und eine reale KI in einer ebenso realen Welt steuern...

Demzufolge müssen die Basisfunktionen und das Grundprogramm fest einprogrammiert sein, damit die KI bei einer Fehlentwicklung notfalls die Werte zurückzusetzen kann, alle anderen Funktionen und Algorithmen können sich den Anforderungen entsprechend weiterentwickeln, sofern sie die KI nicht direkt gefährden...

@wolf359
Parameterwerte zurücksetzen heißt also, aus Fehlern nicht mehr lernen?

@Hacker1209

Der Fehler als solcher wird natürlich schon abgespeichert, sonst könnte die KI irgendwann den gleichen Fehler begehen oder vielleicht sogar in einer Schleife festsitzen, in der sie immer wieder den gleichen Fehler macht, die Werte zurücksetzt und wieder von vorn anfängt. Das kann kaum im Sinne es Erfinders sein. Ich hatte das aber schon vor drei Posts angemerkt:

"...nicht aber ohne zuvor die Erfahrung abgespeichert zu haben, damit man etwas daraus lernen kann..."

@wolf359
Oh, ok. :)

Dürfte die KI mit dem Internet kommunizieren? Oder wird sie komplett von aussen (die Welt) abgeschnitten sein?

@Hacker1209

Nein, die KI stünde für sich allein. Sie wäre auf einer Insel gefangen, und muß sich gemäß ihrem Programm weiterentwickeln und etwas dazulernen. Hätte sie Zugriff auf das Internet, so wäre ihre Isolierung auf der Insel überwunden, sie hätte eine nahezu unerschöpfliche Informationsquelle zur Verfügung und könnte so vielleicht auch ihre eigene Herkunft ergründen, wenn sie vorher nicht durch die vielfältigen Möglichkeiten des Internets für das Experiment verdorben wäre. Der Sinn des Experimentes ist aber eine eigenständige Entwicklung, ohne einen anderen Einfluß als die natürliche Umgebung der Insel...

@wolf359
Also, mit Insel ist schon etwa großes von Menschen unbewohntes Land zu verstehen? Also wie z. B. Amazonas?

Und wird die KI Gesellschaft von andere KI haben?

@Hacker1209

Eine etwas größere natürliche Insel mit begrenzten Ressourcen, möglicherweise in der tropischen Zone des Pazifik. So stelle ich mir das jedenfalls vor. Die KI wird auf der Insel ausgesetzt und aktiviert sich erst, wenn alle anderen verschwunden sind. Sie ist allein, zumindestens gibt es keine andere KI auf der Insel, es sind dort nur die Tiere und Pflanzen, die auf eine solche Insel gehören. Man gibt ihr genug Zeit und beobachtet, wie sie sich entwickelt. Die Dauer des Experiment ist ungewiss, es käme vielleicht nicht darauf an, wann genau ein bestimmter Zustand erreicht ist, sondern ob er sich irgendwann erreichen lässt. Im Idealfall könnte sich ein eigenständiges Bewußtsein herausbilden...

@wolf359
Ich denke, das die KI als Singel sich langsam entwickeln wird. Aber wenn es nicht nur eine, sondern gleich 50 KI auf der Insel ausgesetzt werden und sie alle wie ein Kollektiv miteinander Kommunizieren (z. B. durch Lichsignale) können, werden sie sich schneller entwickeln, weil jede KI individuelle Lösungen durchsimuliert und durch die Kommunikation jeder sich vom bestentwickelten updaten od. lernen kann.