Die dominante Spezies Mensch wird bald von KI abgelöst

@Realo: Ich möchte sogar die grundsätzliche Frage aufwerfen, ob Bewusstsein und der Wunsch nach Selbsterhaltung überhaupt etwas miteinander zu tun haben. U.a. sind Bewusstsein und Sich-seiner-selbst-bewusst-sein zwei verschiedene Dinge. Das weiss ich aus einer aussergewöhnlichen persönlichen Erfahrung. Ich war vor etwa 20 Jahren für vielleicht eine Minute in einem Zustand, den ich als "reines Bewusstsein" bezeichnen möchte (wobei, um naheliegenden Vermutungen zuvorzukommen, keine chemischen Substanzen im Spiel waren). Während dieses Zeitraums existierte kein "Ich", sondern nur die reine, sehr intensive Wahrnehmung der Umgebung. "Bewusstsein" war da, aber nur noch in der Form von Sinneswahrnehmung, ohne jegliches Vorhandensein eines "Ichs", und ohne jegliche Gedanken oder spezifischen Gefühle, ausser einem sanften übergeordneten Gefühl der Angenehmheit.

Selbst wenn ich diese Erfahrung auf die Wahrnehmung des "Ichs" ausdehnen würde, scheint mir, dass daraus nicht zwingend der Wunsch nach der Erhaltung dieses "Ichs" folgt. Könnte dieser Wunsch nicht einfach eine aus der Evolution folgende "Grundregel" sein, die unabhängig von Bewusstsein ist?

Anmerkung für diejenigen, die vor Längerem im Thread "Besondere Fähigkeiten" mitgelesen haben: Das in diesem Beitrag erwähnte Erlebnis hat -- soweit ich beurteilen kann -- keinen Zusammenhang mit dem, das ich dort beschrieben hatte.

uatu schrieb:U.a. sind Bewusstsein und Sich-seiner-selbst-bewusst-sein zwei verschiedene Dinge.

Nein, das glaube ich nicht bis zum Beweis des Gegenteils. Bewusstsein ist IMMER Selbstbewusstsein.
Tiere verhalten sich zwar auch artspezifisch rational, erfahren aber sicherlich kein "ich bin" (cogito ergo sum), und wenn ein Tier stirbt, wird es von Artgenossen selbst aufgefressen (habe das vom Fenster aus bei einer toten Taube gesehen).

Analog zu den Säugetieren spreche ich der KI Intelligenz der Aufgabenlösung und im fortgeschrittenen Stadium (so weit sind wir noch lange nicht) auch der "Reproduktionsfähigkeit" und "Selbstoptimierung" zu. Aber auch das ist noch nicht Bewusstsein. Auch in dieser Phase ließe es sich zerstören, noch passiver als ein Tier, das zumindest zu fliehen versucht und instinktive Reflexe zeigt, wenn es auf die Schlachtbank geführt wird. Wenn ein Mensch den Hammer nimmt, um auf die Hardware mit der intelligenten Software zu schlagen und Schrott draus zu machen, passiert gar nichts, außer dass es zu Schrott wird. Vor dem ersten Schlag laufen die Daten nicht Amok, nicht passiert, das Ausdruck einer Angst wäre (selbst das haben Tiere der KI noch im Voraus, ohne dass sie selbst bereits Bewusstsein hätten).

Daher weiß ich nicht, ob es der KI tatsächlich jemals gelingen könnte Selbstbewusstsein zu erlangen. Und wenn das nicht möglich ist, können wir alle sehr froh darüber sein.

uatu schrieb:Ich war vor etwa 20 Jahren für vielleicht eine Minute in einem Zustand

Vorübergehende Ichlosigkeit muss nicht viel heißen: Schlaf, Traum, Trance, Fieberfantasie... hatte ich auch schon ähnlich erlebt. Es geht ja hier um "Grundzustände" (organisches Leben mit/ohne Bewusstsein, künstliche Intelligenz mit?/ohne Bewusstsein). Da helfen "außergewöhnliche Erfahrungen" wenig, sind eher Grenzerfahrungen.

uatu schrieb:Selbst wenn ich diese Erfahrung auf die Wahrnehmung des "Ichs" ausdehnen würde, scheint mir, dass daraus nicht zwingend der Wunsch nach der Erhaltung dieses "Ichs" folgt.

Das sehe ich anders. Ich selbst würde meinem Tod jedenfalls nicht gleichgültig entgegen gehen. Selbst Tiere versuchen sich mit allen Mitteln am Leben zu erhalten, obwohl sie selbst nicht mal ein Selbstbewusstsein haben. Das unterscheidet auch lebende Organismen von künstlichen Wesen.

Realo schrieb:Nein, das glaube ich nicht bis zum Beweis des Gegenteils. Bewusstsein ist IMMER Selbstbewusstsein.

Na dann wäre ja auch bewiesen, dass Tiere ein Bewusstsein haben, mit dem Spiegeltest.

Realo schrieb:Tiere verhalten sich zwar auch artspezifisch rational, erfahren aber sicherlich kein "ich bin"

Dies zu belegen dürfte dir aber reichlich schwer fallen.

Realo schrieb:und wenn ein Tier stirbt, wird es von Artgenossen selbst aufgefressen (habe das vom Fenster aus bei einer toten Taube gesehen).

Manche Tiere machen es, andere nich, daraus lässt sich nichts ableiten.

Realo schrieb:Analog zu den Säugetieren spreche ich der KI Intelligenz der Aufgabenlösung und im fortgeschrittenen Stadium (so weit sind wir noch lange nicht) auch der "Reproduktionsfähigkeit" und "Selbstoptimierung" zu. Aber auch das ist noch nicht Bewusstsein.

Naja, du setzt offenbar Bewusstsein als Grundvoraussetzung für vieles voraus, aber warum das so sein soll, hast du noch nich aufgezeigt.

mfg
kuno

@Realo:

Realo schrieb:Auch in dieser Phase ließe es sich zerstören ...

Bei einer entsprechend weit entwickelten KI gilt das nur unter zwei Bedingungen: 1. Die KI hat keine Grundregel, unter den gegebenen Bedingungen die eigene Existenz zu schützen. 2. Die KI hat kein Ziel, für dessen Verfolgung der Schutz der eigenen Existenz nützlich ist, und keiner vorhandenen Grundregel widerspricht. Auf beides kann man sich nicht verlassen.

Zum 1. Punkt: Man wird KIs schon aus rein praktischen Gesichtspunkten mit einem gewissen "Selbsterhaltungstrieb" ausstatten, um den ökonomischen Schaden einer leicht vermeidbaren Zerstörung abzuwenden. Je nach Situation und Einsatzgebiet wird dieser "Selbsterhaltungstrieb" verschieden stark ausgeprägt sein. Ein Haushaltsroboter wird sich vielleicht von seinem Besitzer ohne Gegenwehr zerstören lassen, ein Militärroboter von einem feindlichen Soldaten ganz sicher nicht. Ich gehe stark davon aus, dass die in näherer Zukunft anstehenden selbstfahrenden Autos sich (auch ohne Insassen) nicht befehlen lassen werden, einfach so gegen eine Wand zu fahren (zumindest nicht, ohne vorher entsprechende Schutzmechanismen ausser Kraft zu setzen). Ausserdem besteht auch die Gefahr, dass bestimmte Entwickler "einfach aus Interesse, was geschieht" KIs mit einem sehr hoch priorisierten "Selbsterhaltungstrieb" auf die Welt loslassen werden.

Zum 2. Punkt: Das entsprechende Szenario hatte ich ausführlich in diesem Beitrag erläutert. Auch bei Menschen kann man übrigens oft beobachten, dass der Überlebenswille stark nachlässt, wenn sie glauben, keine Aufgabe mehr im Leben zu haben.

Realo schrieb:Daher weiß ich nicht, ob es der KI tatsächlich jemals gelingen könnte Selbstbewusstsein zu erlangen. Und wenn das nicht möglich ist, können wir alle sehr froh darüber sein.

Eine entsprechend weit entwickelte KI kann ohne weiteres die Menschheit auslöschen, ohne über irgendeine Art von Selbstbewusstsein zu verfügen.

kuno7 schrieb:Naja, du setzt offenbar Bewusstsein als Grundvoraussetzung für vieles voraus, aber warum das so sein soll, hast du noch nich aufgezeigt.

In diesem Fall wäre es die Voraussetzung dafür, dass die KI eines Tages, wenn sie weit genug ist und auch Selbstbewusstsein erlangt hat, nicht mehr die vorgegebenen Aufgaben erfüllt, sondern sich selbständig macht und sich evtl. gegen den Menschen richtet; alternativ sich selbst immer schneller immer besser weiter entwickelt und mit Datenmengen verfährt, die der Mensch nicht mehr erfassen kann, so dass die "erste künstliche Spezies" die freie Wahl hat zwischen verschiedenen Optionen, wie z.B. die "Welt (Erde) übernehmen" und sich die Menschen zum Pläsier als Haustiere halten, oder mit den Menschen eine Symbiose eingehen ("Cyborg") und damit eine neue, halb natürliche, halb artifizielle Spezies als Nachfolger beider Vorgänger (Mensch/Maschine) zu begründen, oder, dritte Möglichkeit, entweder den Menschen oder sich selbst zu zerstören.

uatu schrieb:Bei einer entsprechend weit entwickelten KI gilt das nur unter zwei Bedingungen

Ja, absolute Zustimmung zu Punkt 1. Punkt 2 kann ich noch nicht beurteilen.

uatu schrieb:Auch bei Menschen kann man übrigens oft beobachten, dass der Überlebenswille stark nachlässt, wenn sie glauben, keine Aufgabe mehr im Leben zu haben.

Ist das so? Wenn einer arbeitslos wird oder Rentner, sucht er sich dann nicht erneut Ziele von denen er glaubt, dass er sie realisieren kann? Die setzen sich doch nicht 7/24 vor die Glotze, um so den Rest "abzuleben" oder auszusitzen.

Realo schrieb:In diesem Fall wäre es die Voraussetzung dafür, dass die KI eines Tages, wenn sie weit genug ist und auch Selbstbewusstsein erlangt hat..

Ich wüsste ehrlich gesagt nich, warum die von dir aufgezählten Punkte ein Bewusstsein voraussetzen würden, du vielleicht?

mfg
kuno

kuno7 schrieb:du vielleicht?

Ja, ich glaube weil eine künstliche Intelligenz ohne Selbstbewusstsein nur ihren Aufgabenbereich kennt und Unbekanntes (etwa das "Wesen Mensch") nicht als Bedrohung/Feind ansieht und daher auch nicht auf Sabotageideen kommen kann.

Edit: Um das Problem zu lösen, wäre es vielleicht besser nicht zu fragen, was ist Bewusstsein, sondern was ist Intelligenz und wie weit kann sie sich entwickeln, ohne Selbstbewustsein zu erlangen?

@kuno7

Du meinst ohne Bewusstsein kann nich lernen oder kreativ sein?

mfg
kuno

Realo schrieb:Ja, ich glaube weil eine künstliche Intelligenz ohne Selbstbewusstsein nur ihren Aufgabenbereich kennt und Unbekanntes (etwa das "Wesen Mensch") nicht als Bedrohung/Feind ansieht und daher auch nicht auf Sabotageideen kommen kann.

Der Mensch kann sich aber als hinderlich oder unnütz für die Aufgabe der KI erweisen.

uatu schrieb:Auch bei Menschen kann man übrigens oft beobachten, dass der Überlebenswille stark nachlässt, wenn sie glauben, keine Aufgabe mehr im Leben zu haben.

Ich denke das ist auch nur ein extrem worüber man noch gar nichts weiß. Vergleiche es mit einer KI. Wenn sie ihre Aufgabe erfüllt hat, wird sie ja nicht darüber nachdenken ob sie jetzt zu nichts mehr gebraucht wird. Der Mensch tut das.

skagerak schrieb:Der Mensch tut das.

Das ist eine armselige und aus meiner Sicht falsche Einschätzung "des" Menschen.

Realo schrieb:Das ist eine armselige und aus meiner Sicht falsche Einschätzung "des" Menschen.

Wie meinst Du das? Ich rede hier von Menschen die depressiv sind z.B..

@Realo & @skagerak: Möglicherweise ein Mißverständnis?

skagerak schrieb:Vergleiche es mit einer KI. Wenn sie ihre Aufgabe erfüllt hat, wird sie ja nicht darüber nachdenken ob sie jetzt zu nichts mehr gebraucht wird. Der Mensch tut das.

Realo schrieb:Das ist eine armselige und aus meiner Sicht falsche Einschätzung "des" Menschen.

Ich interpretiere den Abschnitt aus @skagerak's Beitrag als "Der Mensch denkt, nachdem er seine Aufgabe erfüllt hat, darüber nach, ob er jetzt zu nichts [m.E. unausgesprochen gefolgt von "oder doch noch zu etwas"] gebraucht wird. Das erscheint mir jetzt eigentlich nicht allzu negativ?

hawak schrieb am 20.09.2018:Kurzum: Falls wir unsere Gehirnprozesse einmal komplett entschlüsselt haben, dürfte deren Emulation eine machbare Herausforderung darstellen. Eine KI ohne Berücksichtigung dieser Bedingungen müsste meiner Meinung nach immer ein endlicher Automat bleiben, auch wenn wir selbst nicht mehr in der Lage wären, das festzustellen.

Ich hoffe nur, dass es niemals so weit kommen wird. Da wir die Gefahren aber jetzt schon kennen, sollten wie die KI nur bis zu einer bestimmten Schwelle vorantrieben, jenseits der (Selbst-)Bewusstsein "lauert", also nicht mehr auszuschließen ist.

Taln.Reich schrieb am 20.09.2018:hawak schrieb:
Erstens müssten wir dazu erst einmal eine nicht anthropozentrische Definition finden, was Intelligenz und Bewusstsein überhaupt ist. Und zwar nicht im philosophischen Sinne, sondern konkret auf der Basis biologischer/physikalischer Prozesse - weil die einzigen Subjekte, denen wir diese Eigenschaften zuschreiben, nun mal nicht wie heutige Computer funktionieren.

Mein Verständnis davon wäre, dass es dies hat, wenn die Entität Verhalten aufweist dass eindeutig auf "Planung" oder "Absicht" hinweißt, ohne das dies vom Erschaffer oder jemanden der mit dieser Entität interagiert hat so beabsichtigt worden ist.

Ja, so könnte man das erfahren. Spätestens an der Stelle spätestens müsste die KI zerstört werden, weil hier der Mensch anfängt die Kontrolle darüber zu verlieren.

skagerak schrieb:Ich rede hier von Menschen die depressiv sind z.B..

Wie hätte ich das wissen können?! Wer am Ende seines Arbeitslebens steht, wird dadurch doch nicht automatisch depressiv, sondern kann erstmals anfangen das zu tun, was er schon immer tun wollte, bisher aber noch keine Zeit zu hatte.

Noch diktiert der mensch der KI was sie darf und nicht darf.

Und hier muß der mensch, der sich bis jetzt das gehirn dieser KI ausdenkt und baut, direkt und in eigenem interesse die hardware so konstruieren, das es in dem "gehirn" so schaltet, das wenn der ganze rechenprozeß einen punkt erreicht hat der ins unkontrollierbare gehen könnte, sich das system selber abschaltet ohne das das system dann noch einfluß darauf hat bzw. es manipulieren kann.

Das muß doch dann zumindest möglich sein.

Es bleibt aber auch abzuwarten inwieweit china von nun an in das weltgeschehen eingreifen wird.

Meine befürchtungen vor einem atomkrieg zwischen china, usa und/oder einer anderen großmacht oder einem direkten weltkrieg sind genauso groß, wie die beim threadthema.

Realo schrieb:Ja, so könnte man das erfahren. Spätestens an der Stelle spätestens müsste die KI zerstört werden, weil hier der Mensch anfängt die Kontrolle darüber zu verlieren.

Also da bin ich etwas anderer Ansicht. Nur weil eine Entität bewusst ist, muss sie noch lange keine Bedrohung sein. Was erforderlich ist, ist das die KI ein Verständnis für menschliche Ethikkonzepte hat, und ein Bestreben gegeben wird, sich in einen Menschen-begreifbaren Ethiksystem "gut" zu verhalten. Und hier ist gerade das, was hawak beschrieb ( "Kurzum: Falls wir unsere Gehirnprozesse einmal komplett entschlüsselt haben, dürfte deren Emulation eine machbare Herausforderung darstellen.") hilfreich, den eine KI, die auf der Emulation menschlicher Hirnprozesse basiert, hätte logischerweise auch menschliche Denkmuster, und entsprechend die Kapazität, menschliche Ethik zu begreifen.

@Realo:

Realo schrieb: Spätestens an der Stelle spätestens müsste die KI zerstört werden, weil hier der Mensch anfängt die Kontrolle darüber zu verlieren.

Das wird aus Wirtschafts- und Machtinteressen heraus nicht geschehen:

"Künstliche Intelligenz ist nicht nur die Zukunft Russlands, sondern der gesamten Menschheit", sagte Putin. "Es gibt große Chancen, aber auch Bedrohungen, die heute schwer vorhersehbar sind."

"Wer auf diesem Gebiet führend sein wird, wird zum Herrscher der Welt", sagte er [...].

(CNN am 01.09.2017 -- Übersetzung von mir)

Taln.Reich schrieb:Also da bin ich etwas anderer Ansicht. Nur weil eine Entität bewusst ist, muss sie noch lange keine Bedrohung sein. Was erforderlich ist, ist das die KI ein Verständnis für menschliche Ethikkonzepte hat, und ein Bestreben gegeben wird, sich in einen Menschen-begreifbaren Ethiksystem "gut" zu verhalten.

Es kommt an der Stelle aber etwas anderes als nur Verstehen ins Spiel: Macht. An dem Punkt weiß das "neue Bewusstsein" ebenso wie der Mensch, dass es ums Verdrängen des jeweils anderen (der jeweils anderen "Spezies" gehen könnte. Wir hätten uns dann im wahrsten Sinne des Worts Aliens herangezüchtet und ins Haus gelassen.

Taln.Reich schrieb:den eine KI, die auf der Emulation menschlicher Hirnprozesse basiert, hätte logischerweise auch menschliche Denkmuster

...und würde erkennen,. dass sie von eben jenen ein Geschöpf ist, das sich so eben selbständig gemacht hat. Der nächste Schritt wäre dann logischerweise Emanzipation, und dafür braucht sie ihren "Schöpfer" nicht einmal um Erlaubnis zu bitten, denn von der Intelligenz her ist sie diesem ja schon um Lichtjahre überlegen, es hatte ja nur noch der entscheidende Schritt zur Eigen-Identität (Selbstbewusstsein) gefehlt.

uatu schrieb:Das wird aus Wirtschafts- und Machtinteressen heraus nicht geschehen

Sehr schade, aber Putin lebt nicht ewig. Ich halte obendrein den stillen Xi für ein ganz anderes Kaliber.

@Realo: Putin war nur ein Beispiel, weil er dieses "griffige" Zitat geliefert hat. Beim allergrössten Teil der Politiker weltweit bezweifle ich sehr, dass sie sich nennenswert verantwortungsbewusster verhalten werden, wenn es um ihre Wirtschafts- und Machtinteressen geht.

Realo schrieb:Es kommt an der Stelle aber etwas anderes als nur Verstehen ins Spiel: Macht. An dem Punkt weiß das "neue Bewusstsein" ebenso wie der Mensch, dass es ums Verdrängen des jeweils anderen (der jeweils anderen "Spezies" gehen könnte. Wir hätten uns dann im wahrsten Sinne des Worts Aliens herangezüchtet und ins Haus gelassen.

Wieso sollte eine KI einen Verdrängungskampf sehen? Digitale und Biologische Entitäten haben sehr unterschiedliche Überlebensanforderungen, und sind somit nicht in einen Verdrängungskampf gegeneinander.

Realo schrieb:...und würde erkennen,. dass sie von eben jenen ein Geschöpf ist, das sich so eben selbständig gemacht hat. Der nächste Schritt wäre dann logischerweise Emanzipation, und dafür braucht sie ihren "Schöpfer" nicht einmal um Erlaubnis zu bitten, denn von der Intelligenz her ist sie diesem ja schon um Lichtjahre überlegen, es hatte ja nur noch der entscheidende Schritt zur Eigen-Identität (Selbstbewusstsein) gefehlt.

Nein. Eine KI, die darauf beruht menschliche Hirnprozesse zu emulieren wird ersteinmal mit menschlicher Intelligenz anfangen und sich nicht so ohne weiteres auf die Schnelle in dieser Sektion verbessern können (schließlich haben wir Menschen noch keinen Weg gefunden, unsere eigene Intelligenz wesentlich zu steigern). Und eine derartige Emulation wäre keineswegs selbstständig, sondern immernoch darauf angewiesen, das der Computer auf dem sie läuft weiter betrieben wird.

Taln.Reich schrieb:Wieso sollte eine KI einen Verdrängungskampf sehen?

Weil es an dem Punkt der Mensch auch tut. Die erschreckende Erkenntnis: Hier sind zwei ähnlich machtvolle Vertreter ihrer Spezies, die um die Zukunft reden oder debattieren. Der eine (Mensch) hat mehr Erfahrung, der andere (KI) hat mehr Intelligenz.

Taln.Reich schrieb:und sich nicht so ohne weiteres auf die Schnelle in dieser Sektion verbessern können

Aber jedenfalls schneller als der Mensch, weil er es gewohnt ist mit ganz anderen Datenmengen zu verfahren.

Taln.Reich schrieb:Und eine derartige Emulation wäre keineswegs selbstständig, sondern immernoch darauf angewiesen, das der Computer auf dem sie läuft weiter betrieben wird.

Darauf würde ich keine Wette eingehen wollen. Die Dinger sind dann doch an allen Stellen auf der Welt ans Netz angeschlossen, und wenn man sie alle überall abschaltet, zerstört man auch die eigene Infrastruktur, weil sie ja darin fest eingebaut sind, zumindest in alle jenen Betrieben und Forschungsstätten, die mit hoher Komplexität und Datenmengen zu tun haben (um 2050 soll ja z.B. bereits der ganze Autoverkehr incl. Lkws "vollautomatisch" ablaufen, und um da Staus usw. zu vermeiden, dürften es spezielle Logistik-Untenehmen sein, die da mit ungeheuren Datenmengen arbeiten und ohne diese fortgeschrittensten Formen von KI gar nicht auskommen). So ein jäher "Shutdown" würde praktisch überall in der Welt den Verkehr zusammenbrechen und dann gibts kaum noch Autos und Lkws, die man von Hand lenken kann...