Die dominante Spezies Mensch wird bald von KI abgelöst

hawak schrieb:Wer was beabsichtigt hat, spielt in der Interpretation der Ergebnisse eine untergeordnete Rolle.

das sehe ich anders. Meiner Ansicht nach setzt bewusstes Verhalten vorraus, dass ein Bewusstsein daran beteiligt ist, nur muss es eben nicht zwangsläufig die Entität sein, die das besagte Verhalten aufweist. Und deswegen ist es wichtig, hinter die bloßen Ergebnisse zu schauen, und nachzuvollziehen, wie zu diesem Ergebniss gekommen wird.

Izaya schrieb:Das ist kein Gesetz, sondern eine These

Korrekt. Die Church'sche These bezieht sich auf den Begriff der intuitiven Berechenbarkeit. Sie ist keine mathematisch Aussage und lässt sich nicht mathematisch beweisen. Nichtsdestotrotz folgen aus ihr mathematische Formalisierungen dieses intuitiven Begriffs, die durchaus in der theoretischen Informatik zur Grundausstattung gehören.

Izaya schrieb:Hier haben wir also nicht den heiligen Gral der Diskussion gefunden.

Hat auch niemand behauptet. Vielmehr geht es darum, aufzuzeigen, dass nach wie vor implizite Probleme bestehen, überhaupt theoretisch definieren zu können, was eine KI sein soll.

Das ist auf der Seite der Informatik schon ausgesprochen problematisch, noch schwieriger wird es, wenn wir auch Begriffe wie "Bewusstsein" ins Rennen werfen. Will sagen: Bevor man etwas nachbaut, müsste man zunächst verstehen, wie es genau funktioniert - und da sehe ich erhebliche Defizite.

Taln.Reich schrieb:das sehe ich anders. Meiner Ansicht nach setzt bewusstes Verhalten vorraus, dass ein Bewusstsein daran beteiligt ist, nur muss es eben nicht zwangsläufig die Entität sein, die das besagte Verhalten aufweist. Und deswegen ist es wichtig, hinter die bloßen Ergebnisse zu schauen, und nachzuvollziehen, wie zu diesem Ergebniss gekommen wird.

Das wird aber ab einer bestimmten Komplexität kaum noch möglich sein, wie willst du ein umfangreiches KNN oder andere Art von KI noch derart überwachen um dann aus diesen Daten seine Handlungen zu verstehen. Die Frage ist auch, benötigt eine KI wirklich bewusstes Verhalten um den Menschen weitgehend zu ersetzen.

taren schrieb:Das wird aber ab einer bestimmten Komplexität kaum noch möglich sein, wie willst du ein umfangreiches KNN oder andere Art von KI noch derart überwachen um dann aus diesen Daten seine Handlungen zu verstehen.

Eben. Wenn das System so Komplex ist, dass nicht mehr nachvollziehbar ist, wie das Verhalten aus den Daten folgt, dann werden ja auch der Erschaffer und die mit dem System Interagierenden Personen nicht in der Lage sein, dieses Verhalten absichtlich herbeizuführen. Wenn das Verhalten in Frage dann Zeichen von Absicht zeigt, dann könnte dies dann doch nur die Absicht des Systems sein.

Ich hatte diesbezüglich eine Idee: wir nehmen eine KNN vom selben Schlage wie AlpheZero, mit einer Liste von Worten und den grammatikalischen Regeln für die Anordnung dieser Worte als mögliche "Züge" vor, lassen dieses KNN Diskussionen mit sich selbst führen, und lassen dann eine große Zahl von Menschen (groß um die Rolle Individueller Ansichten zu minimieren) bewerten, wie "bewusst" die reultierende Diskussion wirkt, und geben dann bei der Entwicklung des KNN's das Ziel vor, diesen Wert so hoch wie möglich zu bekommen. Bräuchten wir nur noch ein paar millionen vertrauenswürdige (d.h. nicht vorsätzlich Mist sagende) Menschen für diese Bewertung.

taren schrieb:Die Frage ist auch, benötigt eine KI wirklich bewusstes Verhalten um den Menschen weitgehend zu ersetzen.

Individuelle Menschen? Sicher nicht, den Menschen können bei der Arbeit schon in vielen Bereichen durch künstliche Systeme ersetzt werden. Die Menschheit als ganzes? Kommt drauf an, was du mit "ersetzen" in diesem Kontext genau meinst. Btw. bist du mit dem Konzept des Paperclip-Maximizer ( Wikipedia: Instrumental convergence#Paperclip maximizer ) vertraut?

Taln.Reich schrieb:Ich hatte diesbezüglich eine Idee: wir nehmen eine KNN vom selben Schlage wie AlpheZero, mit einer Liste von Worten und den grammatikalischen Regeln für die Anordnung dieser Worte als mögliche "Züge" vor, lassen dieses KNN Diskussionen mit sich selbst führen, und lassen dann eine große Zahl von Menschen (groß um die Rolle Individueller Ansichten zu minimieren) bewerten, wie "bewusst" die reultierende Diskussion wirkt, und geben dann bei der Entwicklung des KNN's das Ziel vor, diesen Wert so hoch wie möglich zu bekommen. Bräuchten wir nur noch ein paar millionen vertrauenswürdige (d.h. nicht vorsätzlich Mist sagende) Menschen für diese Bewertung.

Ich glaube nicht das dies funktionieren wird, warum, weil Worte dienen zur Beschreibung von etwas ein "Haus" sind für uns nicht ein Haufen Linien wirr angeordnet, obwohl sie das prinzipiell sind. Diese wirr angeordneten Linien haben als Wort eine Bedeutung, sie könnten auch völlig anders wirr angeordnet werden z.B. "/^%d" und wenn wir uns drauf einigen ist dies zukünftig unser Wort für "Haus". Die grammatikalischen Regeln sind dann nur vorhanden um das ganze irgendwie noch zu strukturieren. Kurzum ein KNN wird keine Diskussion führen können solange sie nicht auch ein "Verständnis" für den Sinn jedes dieser Worte hat und das wird mit den heutigen KNN's kaum abbildbar sein.

taren schrieb:Ich glaube nicht das dies funktionieren wird, warum, weil Worte dienen zur Beschreibung von etwas ein "Haus" sind für uns nicht ein Haufen Linien wirr angeordnet, obwohl sie das prinzipiell sind. Diese wirr angeordneten Linien haben als Wort eine Bedeutung, sie könnten auch völlig anders wirr angeordnet werden z.B. "/^%d" und wenn wir uns drauf einigen ist dies zukünftig unser Wort für "Haus". Die grammatikalischen Regeln sind dann nur vorhanden um das ganze irgendwie noch zu strukturieren. Kurzum ein KNN wird keine Diskussion führen können solange sie nicht auch ein "Verständnis" für den Sinn jedes dieser Worte hat und das wird mit den heutigen KNN's kaum abbildbar sein.

Und eben dieses Verständnis ist das, was angelernt werden soll, also die Verknüpfung zwischen diesen Worten. Also das man in einem Haus wohnt, mit einem Fahrrad fährt, mit einem Flugzeug fliegt usw. usf.

Ich meine, für einen Go-Spieler hat ein bestimmter Zug ja auch eine bestimmte Bedeutung, mit einem Bezug zu der spezifischen Lage auf dem Spielbrett. Alpha Zero lernte, diese Bedeutung zu "verstehen", und somit Züge zu ignorieren die der spezifischen Lage nicht entsprechen. Und meine Idee war halt analog dazu, mit den einzelnen Worten als den Zügen und dem bisherigen Gesprächsverlauf als dem Spielbrett.

Taln.Reich schrieb:Und eben dieses Verständnis ist das, was angelernt werden soll, also die Verknüpfung zwischen diesen Worten. Also das man in einem Haus wohnt, mit einem Fahrrad fährt, mit einem Flugzeug fliegt usw. usf.

Ich meine, für einen Go-Spieler hat ein bestimmter Zug ja auch eine bestimmte Bedeutung, mit einem Bezug zu der spezifischen Lage auf dem Spielbrett. Alpha Zero lernte, diese Bedeutung zu "verstehen", und somit Züge zu ignorieren die der spezifischen Lage nicht entsprechen. Und meine Idee war halt analog dazu, mit den einzelnen Worten als den Zügen und dem bisherigen Gesprächsverlauf als dem Spielbrett.

Das wird aber nicht wie Go funktionieren, da gibt es wenige Regeln die man gegen sich selbst endlos durchspielen kann. Was fliegen bedeutet kann man nur durch visuellen oder erlernten Kontext verstehen. Fliegen selbst ist ein Zustand und das Wort "fliegen" ist so gesehen nur eine bildliche Darstellung unserer Laute die wir für die Kommunikation oder zur Darstellung in unserem Bewusstsein verwenden.

Unser Bewusstsein ist so gesehen auch unterschiedlich, wenn ich denke verwende ich auch meine erlernten Laute oder Sprache teilweise mit, jemand aus China wird dafür seine erlernten Muster verwenden oder jemand der nicht sehen, hören oder sprechen kann, verwendet diese dadurch nicht erlernten Muster auch nicht in seinem Bewusstsein mit.

taren schrieb:Das wird aber nicht wie Go funktionieren, da gibt es wenige Regeln die man gegen sich selbst endlos durchspielen kann.

Die gibt es im Bezug auf die Sprache auch, das benannte Wörterbuch und die Grammatik. Wo der Unterschied ist, ist die Feststellung, was als Erfolg gewertet wird. Beim Go gibt es klar definierte Siegesbedingung, für die Frage wie "bewusst" ein Diskussionsteilnehmer wirkt können wir kein automatisch festellbares Maß definieren. Deswegen auch die große Menge an Menschen die die Diskussionen bewerten in meiner Idee, den diese Bewertung kann dann als feststellbares Maß definiert werden.

taren schrieb:Was fliegen bedeutet kann man nur durch visuellen oder erlernten Kontext verstehen. Fliegen selbst ist ein Zustand und das Wort "fliegen" ist so gesehen nur eine bildliche Darstellung unserer Laute die wir für die Kommunikation oder zur Darstellung in unserem Bewusstsein verwenden.

Das Wort "fliegen" an sich ist ersteinmal nur ein Symbol, das ein bestimmtes Konzept ("sich ohne Bodenkontakt in der Luft fortbewegen") ausdrückt. Menschen unterhalten sich häufig über Konzepte, die sie nicht visuell (oder mit irgendeinen anderen Sinn als eben in gesprochenen oder geschriebenen Text) wahrnehmen können. Der relevante Teil ist eben die Verknüpfung von Symbol und Konzept.

Wenn dann werden wir von der Maschinenintelligenz abgelöst und nicht von der KI. Die KI kann nüscht.

kuno7 schrieb:Klar biste das, hast doch selbst geschrieben, dass du eine feststehende Meinung hast, was bedeutet, dass du, egal welche, Gegenargumente ohnehin nich anerkennen und deine Meinung keinesfalls ändern würdest.
Das macht dich zum Dogmatiker.

Also bist Du nach Deiner Logik auch Dogmatiker, da Du eine andere Meinung vertrittst? :P

Ich habe zZ. zu dem Thema eine feststehende Meinung, weil ich derzeit einfach nicht sehe, daß das ganze Unterfangen gelingen würde, da der technische Aufwand mMn. viel zu groß, zu kompliziert und zu aufwendig ist. Das ist halt mein Standpunkt den ich vertrete, den ich aber auch ändern kann. Ich weiß nicht wo Du da ein Dogma siehst.

EZTerra schrieb:Ich habe zZ. zu dem Thema eine feststehende Meinung, weil ich derzeit einfach nicht sehe, daß das ganze Unterfangen gelingen würde, da der technische Aufwand mMn. viel zu groß, zu kompliziert und zu aufwendig ist. Das ist halt mein Standpunkt den ich vertrete, den ich aber auch ändern kann. Ich weiß nicht wo Du da ein Dogma siehst.

Was sollte der technische Aufwand sein, aktuell läuft die Entwicklung weiter weil der generelle Bedarf besteht und solange die Entwicklung zu leistungsfähigeren Systemen stetig verläuft gibt es mehr Möglichkeiten für KI's. Was wir in 2050 haben werden ist schwer einzuschätzen, ob wir in den 32 Jahren eine Verbesserung der Rechenleistung um den Faktor 100x, 1000x oder 10000x erzielen ist nicht absehbar. Auch gibt es durchaus die Möglichkeit das wir zu diesem Zeitpunkt nicht mehr von KNN's sprechen die auf unseren heutigen Systemen abgebildet werden, sondern KNNs in der Entwicklung haben die sich physisch ausbilden. 2050 ist jetzt vielleicht etwas knapp bemessen, 32 Jahre sind auf der einen Seite einer langer Zeitraum auf der anderen dann doch nicht, wenn ich die letzten 30 Jahre betrachte wäre ich jetzt nicht so optimistisch. Ich glaube wir haben zu diesem Zeitpunkt noch nicht die nötige Hardware sind aber nah dran. Es dürfte für die Menschheit kein Problem sein zukünftig eben nicht nur die heutige Architektur weiterzuverfolgen sondern auch neue zu entwerfen und darunter werden auch solche sein die dem menschlichen Gehirn in Aufbau und Funktion gleichen.

taren schrieb:Es dürfte für die Menschheit kein Problem sein zukünftig eben nicht nur die heutige Architektur weiterzuverfolgen sondern auch neue zu entwerfen und darunter werden auch solche sein die dem menschlichen Gehirn in Aufbau und Funktion gleichen.

Nun, das Human Brain Project ( Wikipedia: Human Brain Project ) will bis etwa mitte der 2020er das menschliche Gehirn in Simulationen nachbilden. Ob sie das hinkriegen, und ob das dann auch hinreichend genau ist um volle Funktionalität zu haben, das werden wir absehen müssen.

taren schrieb:Was sollte der technische Aufwand sein, aktuell läuft die Entwicklung weiter weil der generelle Bedarf besteht und solange die Entwicklung zu leistungsfähigeren Systemen stetig verläuft gibt es mehr Möglichkeiten für KI's.

Ich meine eine KI die vom Menschen (weil sie ihn vernichtet hat) autonom arbeitet bzw. arbeiten muß. Die muß alles selber machen. Von jedem Roboter, Drohne ect. alles was sich bewegt, jedes kleine Schräubchen nachziehen, alle Teile ölen, wenn neue Roboter entwickelt werden, müssen alle Maschinen die zur Wartung bestimmt sind, darauf umprogrammiert werden, alles betriebssysteme müssen immer ständig ohne Bugs laufen, die Programmierung müsste perfekt sein ohne Fehler und stets aktuell sein, falls Fehler auftauchen, müsste die KI in der Lage sein, diese Fehler selber zu erkennen und umprogrammieren können.

Systeme die mit Optischen Linsen Arbeiten, die müssen stets von Staub, Pilz und Kratzern befreit sein (Halleluja im Sansturm, wenn die Linsen gesandstrahlt werden). Solarzellen müssen ebenfalls immer Staubfrei sein. Für Arbeiten unter hohen und niedrigen Temperaturen müssen Lösungen gefunden werden, damit alles stets gut funktioniert. Denk zb. mal allein an Millitärisches Gerät das zb. in der Wüste Operiert, (also aus heutiger Sicht, Apache Helikopter zb.) das muss ständig frei von Sand usw. sein. Falls sich Insekten oder Pilze, Pflanzen einnisten muß die KI in der Lage sein, dies zu erkennen und darauf zu reagieren.

Dieser ganze Aufwand ist so enorm, daß es das ganze Unternehmen utopisch macht. Und das sind alles nur kleinigkeiten. Alles was sich im Meer bewegt, muß ständig von Muscheln usw. befreit werden. Auf unvorhersehbare Ereignisse wie zb. Meteoriteneinschläge, Sintfluten, Hochwasser, Vulkanausbrüche, schwere Stürme usw. muß reagiert werden usw.

Die ganze Rohstoffe müssen gefunden und rangekarrt werden

Wer soll das proggen? Es gibt doch heute nichtmal eine Software, die ohne Bugs läuft. Nichtmal Menschen, die felxibel im Bewusstsein sind, können Fehler schnell erkennen und beheben. Ich denk da nurmal an mein Windows 7, irgendwas ist immer. Irgendein Treiber braucht immer ne Extrawurst und harmoniert nicht und dann kommt Bluescreen, Absturz. Einer KI darf sowas nicht passieren, das könnte ruckzuck das Ende bedeuten. Das sind wie gesagt alles Kleinigkeiten, kleine Probleme. Im Weltall fängt der Spaß dann an. Auf fremden Planeten, über die man nichts weiß, oder gar in fremden Sonnensystemen, da herrschen ganz andere Bedingungen.

Das ganze geht so nicht und ich seh in absehbarer Zeit keine Option.

@EZTerra Warum sollte dies ein Problem sein, ein Bug oder Ausfall ist nur dann problematisch wenn der Ausfall schneller auftritt als die Reproduktion. Das ist nicht anders wie beim Menschen auch dieser kann Ausfallen durch Krankheit, Einschränkungen wie Verlust eines Beines, Auges etc. und dies kann im Gegensatz zum Roboter nicht repariert werden, ok heute inzwischen mit Einschränkungen teilweise. Wenn bei uns ein größerer Asteroid einschlägt, dann war es das für uns, warum setzt du für Robotik höhere Bedingungen an als für uns. Für deinen oberen Teil sehe ich keine Probleme, ja natürlich muss er sich selbst warten und auch alle Produktionselemente aber darin sehe ich kein Problem. Ob jetzt ein Element wegen Pilze ausfällt, dann ist es halt defekt, wenn ein Mensch wegen Pilze stirbt dann ist es auch so. Wenn der Roboter aber 10 oder 20 Jahre überlebt sollte dies völlig ausreichen um genügend Leistung erbracht zu haben um einen neuen reproduziert zu haben. Selbst Wartung kannst du völlig streichen wenn die Reproduktion hoch genug ist und wenn erstmal Millionen existieren sind deine anderen Probleme wenig relevant, zumal Roboter jederzeit auf Halde produzieren und die Geräte nicht aktiv einlagert werden können, so etwas geht beim Menschen nicht er ist zur Aktivität verdammt. Dazu kommt das Roboter nicht die ganze Verschwendung der Menschen benötigen, sie kommen mit wesentlich weniger Ressourcen aus.

EZTerra schrieb:Also bist Du nach Deiner Logik auch Dogmatiker, da Du eine andere Meinung vertrittst?

Nein! Steht doch alles zum nachlesen da. Ich hatte dich als dogmatisch beschrieben, weil du deine Meinung als feststehend deklariert hattest, nich weil du ne andere Meinung hattest als ich. Eigentlich ganz einfach.

EZTerra schrieb:Das ist halt mein Standpunkt den ich vertrete, den ich aber auch ändern kann. Ich weiß nicht wo Du da ein Dogma siehst.

Na ich seh es da, wo du meintest, dein Standpunkt (also deine Meinung) sei feststehend. Wenn du jetz sagst, dass du auch bereit bist diesen zu ändern, dann isser ja nich feststehend, was dann natürlich nich mehr dogmatisch wäre, aber nich das is, was du zunächst gesagt hattest.

Also entweder sagst du nich das, was du meinst oder du meinst nich das, was du sagst. Egal was nu stimmt, beides is in einer Diskussion recht verwirrend.

mfg
kuno

taren schrieb:Warum sollte dies ein Problem sein, ein Bug oder Ausfall ist nur dann problematisch wenn der Ausfall schneller auftritt als die Reproduktion.

Was ist denn wenn der Bug in der Produktion auftritt? Der KI müßte das bewusst werden und sie müsste bewusst eine Lösung finden. Ich denke von dem Punkt sind wir noch sehr sehr weit entfernt, deshalb unter anderem meine Haltung zum Thema
.

taren schrieb:Wenn bei uns ein größerer Asteroid einschlägt, dann war es das für uns, warum setzt du für Robotik höhere Bedingungen an als für uns.

Tue ich nicht und wir sind hier auch nicht das Thema. Natürlich ist es für uns vermutlich auch vorbei, wenn ein Asteroid einschlägt. Wir haben aber andere Möglichkeiten darauf zu reagieren.

taren schrieb:Dazu kommt das Roboter nicht die ganze Verschwendung der Menschen benötigen, sie kommen mit wesentlich weniger Ressourcen aus.

Das sehe ich zb. komplett anders, einem Menschen reicht, wenn er wirklich total auf Sparflamme lebt, etwas zu essen und zu trinken zb. völlig aus. Technische Geräte braucht er nicht wirklich, denn da hat ja dieses Wunderding auf seinen Schultern. KI´s und Roboter etc. brauchen, Metalle, vermutlich seltene Erden, Strom(Energie), Öl/Fett als schmierstoff, Glas für Optische Linsen, Kunststoffe, Gold, Platinen, den ganzen driss halt. Ich habe es schonmal in einem vorherigen Post geschrieben, die Natur hat uns nichzt ohne Grnd so gemacht, wie wir halt sind.

Roboter verwesen auch nicht. Irgendwann liegt überall der Schrott rum und der verrostet langsam und Kunststoffe verrotten noch langsamer. Dann ist da noch das Problem des Betriebssystems bzw. des Hauptbetriebssystems, ein gravierender Fehler in diesem und das ganze Vorhaben ist zum scheitern verdammt. Wenn ich mir unsere aktuellen Systeme so anschaue, dann sehe ich da in absehbarer Zeit, keine Möglichkeit eines perfekt fehlerfreien systems. Eine KI ist auch nur so gut wie ihr progger bzw. so gut wie die Leute die das geproggt haben. Später muß die KI dann das Problem autonom lösen...Das sehe ich auch nicht in näherer Zukunft.

kuno7 schrieb:Nein! Steht doch alles zum nachlesen da. Ich hatte dich als dogmatisch beschrieben, weil du deine Meinung als feststehend deklariert hattest, nich weil du ne andere Meinung hattest als ich. Eigentlich ganz einfach.

Zur Zeit steht die tatsächlich fest...Ok ich bin in diesem speziellen Fall temporärer Dogmatisch, aber halt nicht generell. :D

EZTerra schrieb:Zur Zeit steht die tatsächlich fest...

Und durch welches Ereignis wäre eine Änderung wieder möglich?

mfg
kuno

EZTerra schrieb:Das sehe ich zb. komplett anders, einem Menschen reicht, wenn er wirklich total auf Sparflamme lebt, etwas zu essen und zu trinken zb. völlig aus. Technische Geräte braucht er nicht wirklich, denn da hat ja dieses Wunderding auf seinen Schultern. KI´s und Roboter etc. brauchen, Metalle, vermutlich seltene Erden, Strom(Energie), Öl/Fett als schmierstoff, Glas für Optische Linsen, Kunststoffe, Gold, Platinen, den ganzen driss halt. Ich habe es schonmal in einem vorherigen Post geschrieben, die Natur hat uns nichzt ohne Grnd so gemacht, wie wir halt sind.

Ja, allerdings reden wir hier über einen Zusammenbruch der auch den Großteil der Menschheit auslöschen würde, hart formuliert wäre es auch kein größeres Problem ein Tier oder Mensch als Chassis für eine Drohne zu verwenden aka wir sind die Borg :P

taren schrieb:Ja, allerdings reden wir hier über einen Zusammenbruch der auch den Großteil der Menschheit auslöschen würde

Na ja, man muss ja nicht gerade vom Schlimmsten ausgehen.

Die Vorstellung, dass wir von Maschinen unterdrückt und als biologisches Materiallager verwendet werden, ist zwar seit vielen Jahren ein populäres Thema, das gerne in Literatur und Film verwendet wird, um spannende Geschichten zu erzählen.

Diese Szenarien sind vielleicht nicht ausgeschlossen, aber angesichts der tatsächlichen Entwicklungen stellen sich meines Erachtens ganz andere Fragen.

Nämlich, wie wahrscheinlich es ist, dass eine sogenannte KI einfach falsche Entscheidungen in ihrem Aufgabengebiet trifft.

Wenn in der Konsequenz ganze Handelsräume zusammen brechen, Stromnetze versagen, komplexe Steuersysteme versagen und Kommunikation auf vis-a-vis reduziert wird.

Wäre dann nicht der Mensch der größte Feind des Menschen?