Die dominante Spezies Mensch wird bald von KI abgelöst

taren schrieb:Futterverweigerung gibt es durchaus und das sich ein Tier zu Tode hungert halte ich für durchaus wahrscheinlich, hab derartiges jedenfalls schon einmal gehört.

Wahrscheinlich weil "Herrchen" fehlt und es dabei vor Kummer draufgeht. Das ist was Emotionales, das nichts mit Selbstbewusstsein zu tun hat. Das Tier ist aber nicht in der Lage, um die Freiheit zu erlangen den Halter zu "erpressen", indem es das Fressen verweigert. Das setzt Identitätsbewusstsein bzw. Ich-Bewusstsein voraus (abgesehen von der damit verbundenen intellektuellen Leistung, die fortgeschrittene KI allerdings bringen kann).

Realo schrieb:Wahrscheinlich weil "Herrchen" fehlt und es dabei vor Kummer draufgeht. Das ist was Emotionales, das nichts mit Selbstbewusstsein zu tun hat. Das Tier ist aber nicht in der Lage, um die Freiheit zu erlangen den Halter zu "erpressen", indem es das Fressen verweigert. Das setzt Identitätsbewusstsein bzw. Ich-Bewusstsein voraus (abgesehen von der damit verbundenen intellektuellen Leistung, die fortgeschrittene KI allerdings bringen kann).

Es mag vielleicht nicht seinen Halter erpressen aber es gibt sicherlich Fälle wo das Tier lieber sein leben beendet als seinen Zustand weiter zu ertragen und dies durch Nahrungsverweigerung erzielen möchte. Ich glaub deine Aussage ist zu pauschal.

Außerdem bestehen manche Viecher den Spiegeltest, was ebenfalls als starkes Indiz für das Vorliegen von Selbstbewusstsein gedeutet werden kann.

Noumenon schrieb: was ebenfalls als starkes Indiz für das Vorliegen von Selbstbewusstsein gedeutet werden kann.

Eher eine Vorstufe, würde ich sagen, quasi sich selbst von außen zu sehen. Das besagt aber noch nichts über Ich-Identität bzw. Ich-Bewusstsein. Selbstbewusstsein setzt voraus, durch Reflexion (Nachdenken) zu dem Ergebnis zu kommen: cogito, ergo sum.

Umstritten ist, welche Aussagekraft das Bestehen des Spiegeltests neben dem Nachweis von Selbstwahrnehmung zum Beispiel auch für Ichbewusstsein bei Tieren hat.

Wikipedia: Spiegeltest

Zudem wird der Selbsterkenntnisprozess bei KI-Gebilden auch ganz anders ablaufen als bei Kleinkindern oder bei Tieren. Denn anders als bei Tieren is ja eine exorbitant hohe Intelligenz schon vorhanden; hier dürfte der Selbstbewusstseinsprozess einfach durch "spielerisch" logische Kombination und Schlussfolgerungen erfolgen. Allerdings unterstellt man der KI da auch schon wieder ein menschliches Merkmal: Denken. KI entsteht ja mehr durch multiple Kombinationen von ja/nein, wenn/dann usw. dürfte nicht identisch sein mit der Vorgehensweise des Hirns beim Nachdenken, das wohl nicht binär abläuft sondern - ich kenne jetzt nicht den Ausdrück dafür - "multi"när, und damit wesentlich komplexer als binär. Auch auch das ist nur eine Vermutung und ich kann es wissenschaftlich nicht darstellen.

@Realo:

Realo schrieb:KI entsteht ja mehr durch multiple Kombinationen von ja/nein, wenn/dann usw. dürfte nicht identisch sein mit der Vorgehensweise des Hirns beim Nachdenken, das wohl nicht binär abläuft sondern - ich kenne jetzt nicht den Ausdrück dafür - "multi"när, und damit wesentlich komplexer als binär. Auch auch das ist nur eine Vermutung und ich kann es wissenschaftlich nicht darstellen.

Im Endeffekt sind alle Logiken, die ein paar Grundvoraussetzungen erfüllen, aufeinander abbildbar. Der Begriff, den Du suchst, ist vermutlich "Mehrwertige Logik". "Mehrwertige Logik" ist jedoch, genau wie z.B. auch "Fuzzylogik", vollständig auf binärer Logik abbildbar. Eine Abbildung nicht-binärer Logik auf binärer Logik ist höchstens (und in der Praxis noch nicht mal unbedingt) langsamer als eine direkte Implementierung in Hardware. Der grosse Vorteil binärer Logik ist die hohe Zuverlässigkeit und Geschwindigkeit der Hardware-Umsetzung. Es gab und gibt allerdings immer wieder Versuche, nicht-binäre Logiken direkt in Hardware umzusetzen, und es ist nicht ausgeschlossen, dass es in Zukunft noch interessante Entwicklungen in dieser Hinsicht geben wird.

Unabhängig davon gibt es m.E. (wie hier erläutert) keinen Grund, den Strukturen des menschlichen Gehirns bei der Entwicklung von KIs besondere Bedeutung beizumessen.

Realo schrieb:KI entsteht ja mehr durch multiple Kombinationen von ja/nein, wenn/dann usw. dürfte nicht identisch sein mit der Vorgehensweise des Hirns beim Nachdenken, das wohl nicht binär abläuft sondern - ich kenne jetzt nicht den Ausdrück dafür - "multi"när, und damit wesentlich komplexer als binär. Auch auch das ist nur eine Vermutung und ich kann es wissenschaftlich nicht darstellen.

Duhast keine Ahnung von Computern, hm? Naja, dafür bisse wenigstens ein ausgewiesener Allmy-politik experte.

Du hast zwar grade erklärt, wie der Script eines Taschenrechners aussieht, aber das wars dann schon. Schönes Schulprojekt, leider nichts für Menschen mit erweiterten Kenntnissen in der Computer Branche.

uatu schrieb:Unabhängig davon gibt es m.E. (wie hier erläutert) keinen Grund, den Strukturen des menschlichen Gehirns bei der Entwicklung von KIs besondere Bedeutung beizumessen.

Dann weiß man aber noch weniger, ab welcher Schwelle KI Selbstbewusstsein erlangen kann; würde man sie entsprechend der Strukturen des menschlichen Gehirns weiter entwickeln, hätte man zumindest einige Anhaltspunkte und wüsste, an welcher Stelle es besser wäre nicht weiter zu gehen.

Um noch mal zum "Denken" zurückzukommen: Was würde dem denn auf KI-Ebene entsprechen?
Wenn ich mir überlege, wie Denken funktioniert, komme ich immer zu einem Mix aus Bildern (Filmen) und stummer Sprache. So etwas lässt sich ja nicht z.B. in komplexe Computersysteme späterer Generationen 1:1 übersetzen, d.h. deren "Denkweise" wäre dann doch eine andere. Und damit dann auch wieder im Endeffekt schwerer zu kontrollieren.

Realo schrieb:Dann weiß man aber noch weniger, ab welcher Schwelle KI Selbstbewusstsein erlangen kann; würde man sie entsprechend der Strukturen des menschlichen Gehirns weiter entwickeln, hätte man zumindest einige Anhaltspunkte und wüsste, an welcher Stelle es besser wäre nicht weiter zu gehen.

Ich denke, das menschliche Selbstbewusstsein wird hier etwas überbewertet.
Ich vermute es ist nicht viel mehr dahinter als das Prinzip der Autoreferenzialität, das auf einer entsprechend komplexen Matrix vom Menschen wahrgenommen werden kann.

Von daher gibt es da vermutlich gar keine Stelle, an der es besser oder schlechter wäre weiter zu gehen.

Realo schrieb:Zudem wird der Selbsterkenntnisprozess bei KI-Gebilden auch ganz anders ablaufen als bei Kleinkindern oder bei Tieren. Denn anders als bei Tieren is ja eine exorbitant hohe Intelligenz schon vorhanden;

"exorbitant hohe Intelligenz" - made my day! :lolcry:

Die Intelligenzleistung von "KI" ist nicht einmal auf dem Niveau einer Ameise, geschweige denn von Vögeln...
https://www.welt.de/vermischtes/article173268362/Voegel-sind-wahre-Superhirne.html

Ist bspw. meine BVG-App etwa intelligent, weil sie mir die kürzeste Route von A nach B raussucht? I doubt...

Realo schrieb:Vorgehensweise des Hirns beim Nachdenken, das wohl nicht binär abläuft sondern - ich kenne jetzt nicht den Ausdrück dafür - "multi"när, und damit wesentlich komplexer als binär.

Wikipedia: Fuzzylogik

@Realo:

Realo schrieb:Um noch mal zum "Denken" zurückzukommen: Was würde dem denn auf KI-Ebene entsprechen?
Wenn ich mir überlege, wie Denken funktioniert, komme ich immer zu einem Mix aus Bildern (Filmen) und stummer Sprache. So etwas lässt sich ja nicht z.B. in komplexe Computersysteme späterer Generationen 1:1 übersetzen, d.h. deren "Denkweise" wäre dann doch eine andere. Und damit dann auch wieder im Endeffekt schwerer zu kontrollieren.

"Denken" oder "Intelligenz" ist letztendlich nichts anderes als Informationsverarbeitung. Es gibt viele Menschen, die mit dieser einfachen Feststellung ein Problem haben. Das liegt aber m.E. im wesentlichen daran, dass den Begriffen "Denken" und "Intelligenz" oft eine "magische" (im Sinne von: nicht naturwissenschaftlich greifbare) Aussergewöhnlichkeit zugeordnet wird, für die es keine reale Basis gibt. Computer werden in den nächsten Jahrzehnten jede sinnvolle, praktikabel überprüfbare Definition von Intelligenz erfüllen.

Original anzeigen (0,2 MB)

Die technische Umsetzung von KI kann man grob in wissensbasierte Systeme und mustererkennungsbasierte Systeme einteilen, wobei es auch Mischlösungen gibt. Wissensbasierte Systeme arbeiten mit einem vorgegebenen (aber -- u.U. auch vom System selbst -- erweiterbaren) Fakten- und Regel-Netzwerk (wobei je nach Implementierung auch "unscharfe" Fakten und Regeln abgebildet werden können). Mustererkennungsbasierte Systeme "lernen" Fakten und Regeln meist anhand von Beispielen. Sie sind z.T. direkt in Hardware umsetzbar, was sie extrem schnell macht. Gegenüber wissensbasierten Systemen haben sie allerdings oft den Nachteil, dass sich schlecht nachvollziehen lässt, wie sie zu einer bestimmten Lösung gelangt sind. Mustererkennungsbasierte Systeme wie AlphaZero haben in den letzten Jahren einen Boom erlebt. Dazu Ex-Schachweltmeister Garri Kasparow:

"Wir haben immer gedacht, dass eine Maschine für das Schach zu viel empirisches Wissen benötigt und zudem die Zugabe von menschlichen Erfahrungswerten." Nun sei er erstaunt über die Fähigkeiten der KI-Schachmaschine -- und darüber, "was man von AlphaZero und grundsätzlich von KI-Programmen lernen kann, die Regeln und Wege erkennen können, die Menschen bisher verborgen geblieben sind." Kasparow spannte den Bogen danach noch ein Stück weiter in die generelle Zukunft der Menschheit. "Die Auswirkungen sind offenbar wunderbar und weit jenseits von Schach und anderen Spielen. Die Fähigkeit einer Maschine", so der 54-jährige Russe, "menschliches Wissen aus Jahrhunderten in einem komplexen, geschlossenen System zu kopieren und zu überflügeln, ist ein Werkzeug, das die Welt verändern wird."

("Künstliche Intelligenz beendet menschliche Dominanz", "Die Welt" am 13.12.2017)

uatu schrieb:Unabhängig davon gibt es m.E. (wie hier erläutert) keinen Grund, den Strukturen des menschlichen Gehirns bei der Entwicklung von KIs besondere Bedeutung beizumessen.

Das menschliche Gehirn arbeitet grundsätzlich anders als es Computersysteme tun, ja. Das zeigt sich schon beim simplen Beispiel der Multiplikation zweier dreistelligen Zahlen... Ich bin damit hoffnungslos überfordert, mein Taschenrechner hingegen schafft das mühelos (und sogar noch viel mehr) - ist er in dieser Hinsicht also intelligenter als ich? :ask:

Nachtrag:

uatu schrieb:"Denken" oder "Intelligenz" ist letztendlich nichts anderes als Informationsverarbeitung. Es gibt viele Menschen, die mit dieser einfachen Feststellung ein Problem haben.

Ja, zu recht. Siehe mein Beispiel mit dem Taschenrechner. Der tut letztendlich nämlich auch nix anderes als Information verarbeiten. Was ihm insbesondere fehlt: Ein Verständnis von Information.

Noumenon schrieb:Ein Verständnis von Information

Was sollte denn "Verständnis" Anderes sein, als die Fähigkeit bestimmte Informationsstänge zu erkennen und sie entsprechend einzuordnen. Mir fällt gerade kein Grund ein, warum das auch nicht eine Maschine können sollte.

@Noumenon:

Noumenon schrieb:Siehe mein Beispiel mit dem Taschenrechner. Der tut letztendlich nämlich auch nix anderes als Information verarbeiten. Was ihm insbesondere fehlt: Ein Verständnis von Information.

Dieses magische "Verständnis" ist eine Illusion. Es ist sinnlos zu behaupten, dass ein Computersystem, das jeden Menschen beim Schachspielen schlagen kann, "nichts von Schach versteht". Genau das gleiche gilt für alle anderen Intelligenzleistungen. Deshalb nochmal: Computer werden in den nächsten Jahrzehnten jede sinnvolle, praktikabel überprüfbare Definition von Intelligenz erfüllen. Abstrakte, nicht praktikabel überprüfbare Definitionen von "Intelligenz" und "Verständnis" sind für den Lauf der Geschichte irrelevant.

navi12.0 schrieb:Was sollte denn "Verständnis" Anderes sein, als die Fähigkeit bestimmte Informationsstänge zu erkennen und sie entsprechend einzuordnen. Mir fällt gerade kein Grund ein, warum das auch nicht eine Maschine können sollte.

Mein Taschenrechner kann dat nicht...

uatu schrieb:Dieses magische "Verständnis" ist eine Illusion. Es ist sinnlos zu behaupten, dass ein Computersystem, das jeden Menschen beim Schachspielen schlagen kann, "nichts von Schach versteht". Genau das gleiche gilt für alle anderen Intelligenzleistungen.

Wolfram Alpha löst Differentialgleichungen, mit Bravour und ebenfalls fast besser als jeder Mensch. Mit einem Verständnis von Differentialgleichungen hat das aber herzlich wenig zu tun...

uatu schrieb:Deshalb nochmal: Computer werden in den nächsten Jahrzehnten jede sinnvolle, praktikabel überprüfbare Definition von Intelligenz erfüllen.

Dazu bräuchten wir aber erst einmal eine. ;)

Noumenon schrieb:"exorbitant hohe Intelligenz" - made my day! :lolcry:

Die Intelligenzleistung von "KI" ist nicht einmal auf dem Niveau einer Ameise, geschweige denn von Vögeln...

Es geht hier nicht um die Intelligenz von "sich in der Welt zurechtzufinden", sondern um "komplexe Aufgabenstellungen zu lösen, die den Menschen (nicht Ameise, nicht Vogel) überfordern".

So wie Vogel, Ameise, Mensch ist auch der Computer bzw. demnächst bald KI erst mal für bestimmte Aufgaben gemacht, in denen sie einmalig sind (Schach-Computer).

Problematisch wird es aus meiner Sicht eben, wenn sie sich darüber hinaus in einer Art Selbstlernprozess emanzipieren, das sie befähigt, diese Intelligenz auch auf andere, nicht vorgegebene Bereiche auszuweiten, was dann aus meiner Sicht zwangsläufig ab einer bestimmten Schwelle zu Identitätsbildung und Selbstbewusstsein führt.

Hier wird - ebenfalls aus meiner Sicht :D - sehr viel aneinander vorbei geredet. Mit den Erklärungen von @uatu konnte ich bisher allerdings ziemlich viel anfangen. Bin ja, wie man inzwischen wohl festgestellt hat, absoluter Laie auf diesem Gebiet; mir geht es allein um die Frage, ob und wie sich Selbstbewusstsein von fortgeschrittener KI stoppen lässt. Was dann passiert, falls nicht, da bin ich dann wieder kompetent für, entsprechende Szenarien zu entwerfen, die nicht besonders angenehm sind.

@uatu Solange man verifizierbare Kriterien aufstellt, soll es mir recht sein. Sobald eine KI bspw. ein peer-reviewed scientific paper veröffentlicht, welches bspw. neue Erkenntnisse auf dem Gebiet der Naturwissenschaft zutage fördert, ziehe ich gerne meinen Hut und gestehe ein, dass hier tatsächlich Intelligenz vorzuliegen scheint. ;)

@Noumenon:

Noumenon schrieb:Sobald eine KI bspw. ein peer-reviewed scientific paper veröffentlicht, welches bspw. neue Erkenntnisse auf dem Gebiet der Naturwissenschaft zutage fördert, ziehe ich gerne meinen Hut und gestehe ein, dass hier tatsächlich Intelligenz vorzuliegen scheint. ;)

Bitteschön. ;)

uatu schrieb:Dieses magische "Verständnis" ist eine Illusion. Es ist sinnlos zu behaupten, dass ein Computersystem, das jeden Menschen beim Schachspielen schlagen kann, "nichts von Schach versteht".

Kommt darauf an, was für eine Art Schachcomputer. Bei einen der einfach nur Stumpf jeden möglichen Zug durchrechnet, ohne jedes Vermögen im Voraus abzuschätzen ob dieser Zug günstig ist oder nicht würde ich nicht von Verständnis sprechen. Bei etwas von AlphaGo, das, mit nichts weiter als dem Regelwerk vorgegeben von selbst lernt welche Züge unter welchen Umständen günstig sind wäre es schon angemessen von Verständnis zu sprechen. Der Unterschied zwischen den beiden wird ersichtlich, wenn das System in dem agiert wird Komplex genug wird, das "Stumpfes durchrechnen aller Möglichen Aktionen" nicht mehr möglich wird. Das ist auch warum es so relevant ist, das AlphaGo in Go besser ist als der beste Mensch, weil Go sich eben nicht mit Brute-Force lösen lässt.

uatu schrieb:Deshalb nochmal: Computer werden in den nächsten Jahrzehnten jede sinnvolle, praktikabel überprüfbare Definition von Intelligenz erfüllen. Abstrakte, nicht praktikabel überprüfbare Definitionen von "Intelligenz" und "Verständnis" sind für den Lauf der Geschichte irrelevant.

Was ist mit der von mir genannten Sache? : Mein Verständnis davon wäre, dass es dies hat, wenn die Entität Verhalten aufweist dass eindeutig auf "Planung" oder "Absicht" hinweißt, ohne das dies vom Erschaffer oder jemanden der mit dieser Entität interagiert hat so beabsichtigt worden ist.

uatu schrieb:Bitteschön. ;)

Scigen fördert aber keine neuen naturwissenschaftlichen Erkenntnisse zutage, sondern generiert auf Basis eines Zufallsgenerators ein Fachjargon gefülltes Dokument das nur oberflächlich sinnhaft aussieht, aber in Wirklichkeit Unsinn ist.

@Taln.Reich:

Taln.Reich schrieb:Scigen fördert aber keine neuen naturwissenschaftlichen Erkenntnisse zutage, sondern generiert auf Basis eines Zufallsgenerators ein Fachjargon gefülltes Dokument das nur oberflächlich sinnhaft aussieht, aber in Wirklichkeit Unsinn ist.

Sach bloss! Kann es sein, dass Dir das Zwinker-Smily entgangen ist? ;)