CoA 2017 AF 4 - SilentCry vs. Interpreter - Wer war besser?

Balthasar70 schrieb:In Bezug auf Rosa Einhörner würdest Du Dir es aber zutrauen? Warum?

Du meinst, weil ich die Wahrscheinlichkeit für Rosa Einhörner nicht bei Null sehe? Was würde Pferde evolutiv davon abhalten Hörner zu entwickeln, wenn es einen Fitness-Vorteil hätte?

Und gegen eine rosa Färbung spricht eigentlich nichts. Sonst dürfte es die folgenden Kandidaten auch nicht geben ;)


SpoilerOriginal anzeigen (0,8 MB)

Die blaue Ornament Vogelspinne

Spoiler

Flamingos

Spoiler
Oder den Emoji Königspython

Die Genetik kann schon einige Auswüchse tragen, was würde also dafür sprechen, dass rosa Einhörner absolut unmöglich sind?

Balthasar70 schrieb:..es geht doch um diese seltsame Wahrscheinlichkeit, die Du versuchst als Fakt hier zu etablieren.....

Dann lass uns doch darüber reden.

Welches Ereignis dieser Kette siehst du als so unwahrscheinlich?

Wenn du es konkretisierst, können wir uns gerne darüber unterhalten, warum es das nicht ist.

@Atrox
....eigentlich nur, dass wenn alles möglich ist, auch alles beliebig wird.....


B,ürgermeister: Wir hatten jetzt drei Missernten infolge, was sollen wir machen?
Bürger: Im Nachbardorf haben sie jedes Jahr ne Hexe verbrannt, die haben Kartoffeln ohne Ende...
Bürgermeister:.... na dann mal her mit den Weibern, da wird doch was zu finden sein....

...so halt inetwa

interpreter schrieb:Dann lass uns doch darüber reden.

Welches Ereignis dieser Kette siehst du als so unwahrscheinlich?

Wenn du es konkretisierst, können wir uns gerne darüber unterhalten, warum es das nicht ist.

Hab ich ja schon geschrieben ich weiß nicht welche Kettenglieder nötig sind, Du behauptest ja Du könntest aus ihnen eine Wahrscheinlichkeit abschätzen.....

Also sag Du, welche Entwicklungsschritte trennen uns noch von einer den Menschen ausrottenden, software und mit welcher Wahrscheinlichkeit werden sie, einzeln, auftreten?

@Balthasar70

Im Gegensatz zur Evolution besteht im Hexenbeispiel aber keine Kausalität. So könnte eben eine Kette von Ereignissen eintreffen, die rosa Pferden einen Vorteil gegenüber dem Wildtyp verschafft. Ebenso könnte ein Horn entstehen. Alles nicht wahnsinnig wahrscheinlich, aber eben auch nicht absolut unwahrscheinlich.

interpreter schrieb:KI entsteht
-> KI hat Ziele die ein Problem für die Menschen darstellen
-> KI setzt ihre Ziele dennoch durch
-> Menschen scheitern (aus Unwissenheit oder Unfähigkeit daran, KI aufzuhalten)
->Ziel trifft ein.

Das sollten in etwa die Kettenglieder sein.

Balthasar70 schrieb:Hab ich ja schon geschrieben ich weiß nicht welche Kettenglieder nötig sind, Du behauptest ja Du könntest aus ihnen eine Wahrscheinlichkeit abschätzen.....

Keine konkrete Wahrscheinlichkeit aber ich kann durchaus eine Aussage darüber machen ob die Wahrscheinlichkeit hoch, mittel, gering oder ausgeschlossen ist.

@Atrox
Da müssen wir uns erst noch über den Unterschied zwischen Kausalität und Korrelation einig werden, dann aber gerne weiter,,,,,

@Balthasar70

Mein Statistikprof hat damals für unsere Vorlesung eine Statistik vorbereitet, die zeigte, dass die Noten des Vorjahrs mit der Schuhgröße korrelierten. Kausal wäre gewesen, dass Menschen mit großen Füßen besser in Statistik sind.  

interpreter schrieb:KI entsteht
-> KI hat Ziele die ein Problem für die Menschen darstellen
-> KI setzt ihre Ziele dennoch durch
-> Menschen scheitern (aus Unwissenheit oder Unfähigkeit daran, KI aufzuhalten)
->Ziel trifft ein.

...Und keiner dieser Unterschritte, bedarf irgendwelcher Unterschritte?

KI ensteht......gottgewollt?

Atrox schrieb:@Balthasar70

Mein Statistikprof hat damals für unsere Vorlesung eine Statistik vorbereitet, die zeigte, dass die Noten des Vorjahrs mit der Schuhgröße korrelierten. Kausal wäre gewesen, dass Menschen mit großen Füßen besser in Statistik sind.  

Nett, und daraus hast Du jetzt, in Bezug auf unser Thema was gelernt?

(.....und geh bitte Dein Script, nochmal durch...😊)

@Balthasar70

Naja, ist es kausal, dass die Schuhgröße mit den Statistikkenntnissen zusammenhängt? Ich denke nicht. Eine Korrelation war trotzdem vorhanden.

@Balthasar70

Balthasar70 schrieb:KI ensteht......gottgewollt?

Die meisten Forscher und Ingenieure die sich damit befassen halten die Wahrscheinlichkeit dafür, dass es irgendwann AGI  also künstliche Intelligenz mit etwa menschlichen Fähigkeiten und kurz darauf ASI also Künstliche Superintelligenz gibt für sehr wahrscheinlich.

Da habe ich im Clash einiges zu verlinkt.

Und die Wissenschaftler sind halt auch keine Homöopathen und haben ein durchaus ernst zu nehmendes Forschungsgebiet.

Wahrscheinlichkeit laut Wissenschaftlern 98%

Balthasar70 schrieb:...Und keiner dieser Unterschritte, bedarf irgendwelcher Unterschritte?

Konkretisier mal was dich stört. Dass in erschöpfenden Details aufzuschlüsseln, dazu sehe ich vorläufig keinen Anlass.

@Atrox
.....ich kaufe mir jetz größere Schuhe und werde reich 😊

http://www.crashkurs-statistik.de/korrelation-und-kausalitaet/

interpreter schrieb:Wie du selber eingestanden hast, ist es möglich, dass es nach der Entwicklung der KI zu einer Intelligenz-Explosion kommen könnte. Auf der Seite der KI in diesem Fall, nicht auf der Seite der Menschheit.

Ne, kann man so auch nicht sagen. Wer behauptet denn, dass die Menschen davon nicht profitieren können und ihr Wissen exponential mitsteigt und vielleicht noch wichtiger, durch bekannt gewordene Gen-Modifikation oder Lernmethoden etc. sogar ihre Intelligenz auch mit steigt. Ein Aspekt hier sind dann außerdem bioelektische neurale Netze. Das Gehirn mit seinen beschränkten Zellen muss keine Barriere sein.

interpreter schrieb:Ich sehe nicht wie man so zuversichtlich sein kann, dass man ein System kontrollieren oder in seine Handlungen intervenieren könnte, wenn das System substanziell intelligenter ist als man selber.

Und tatsächlich müsste die KI nichtmal Informationen verheimlichen oder fälschen. Möglich dass die Menschen ihre Handlungen auch einfach nicht verstehen oder nachvollziehen können.

Google hat zur Zeit einen Algorithmus laufen den die Ingenieure nicht verstehen.

Man muss es nicht kontrollieren können, es reicht wenn man es überprüfen kann. Und das Verheimlichen und Fälschen von Informationen kann im Anfangsstadium durchaus erkennbar sein.
Möglich auch, dass man es nicht versteht. Klar, aber da liegt dennoch auch immer eine Risikobewertung davor. Im Fall von Google muss man sich die Sorgen nicht groß machen. Wenn man sonstwie kein Verständnis mehr für die Intelligenz hat, kann man sie immer noch ganz einfach abschalten. Der Sprung bis zu einer KI, die erst täuschen muss, um ein Abschalten zu verhindern, setzt halt sehr viele Schritte voraus.

Außerdem, wenn es nach dem Verständnis und der Gefahr geht, müsste man quasi jede zweite Geburt verhindern, weil am Ende ein rätselhaftest Arschloch stehen kann. :D

interpreter schrieb:Wie wäre der Umgang mit der KI deines Erachtens, wenn wir solche Probleme nicht vor deren Entwicklung gelöst hätten?

Ich hätte kein Problem mit einer superdupakrassen KI, die am Ende womöglich sogar die Menschheit vernichtet. Also ist mir das persönlich auch egal.

vincent schrieb:Ne, kann man so auch nicht sagen. Wer behauptet denn, dass die Menschen davon nicht profitieren können und ihr Wissen exponential mitsteigt und vielleicht noch wichtiger, durch bekannt gewordene Gen-Modifikation oder Lernmethoden etc. sogar ihre Intelligenz auch mit steigt. Ein Aspekt hier sind dann außerdem bioelektische neurale Netze. Das Gehirn mit seinen beschränkten Zellen muss keine Barriere sein.

Waere es möglich? Ja. Sollte man sich darauf verlassen?  Wenn man will.

vincent schrieb:Man muss es nicht kontrollieren können, es reicht wenn man es überprüfen kann. Und das Verheimlichen und Fälschen von Informationen kann im Anfangsstadium durchaus erkennbar sein.
Möglich auch, dass man es nicht versteht. Klar, aber da liegt dennoch auch immer eine Risikobewertung davor. Im Fall von Google muss man sich die Sorgen nicht groß machen. Wenn man sonstwie kein Verständnis mehr für die Intelligenz hat, kann man sie immer noch ganz einfach abschalten. Der Sprung bis zu einer KI, die erst täuschen muss, um ein Abschalten zu verhindern, setzt halt sehr viele Schritte voraus.

Der Google Algorithmus ist keine KI sondern was wesentlich einfacheres. Wir durchschauen schon das nicht. Da ist es mir zu optimistisch sich darauf zu verlassen, dass man eine KI in dieser Hinsicht auf jeden Fall überwachen/kontrollieren und abschalten könnte.
Außerdem wäre es durchaus möglich dass sie die abweichenden Ziele und die Ansätze zur Täuschung eben nicht in den Anfangsstadien entwickeln sondern wesentlich später. Eine KI hätte auch keine Mimik oder Gestik, an der sich irgendwelche Täuschung erkennen ließe wie bei einem Menschen.
Man müsste sich darauf verlassen die Täuschung im Quellcode zu finden. Wenn es ein komplexes neuronales Netz wäre, ist das quasi unmöglich.
Man kann in dieser Debatte mit den Argumenten ran gehen, dass unter diesen und diesen Bedingungen vielleicht alles gut gehen würde aber das ist aus meiner Sicht nicht die richtige Herangehensweise um den pro KI Standpunkt zu vertreten.
Denn auch deine Positiv/Szenarien enthalten ja grundsätzlich das Potenzial zu scheitern.

vincent schrieb:Außerdem, wenn es nach dem Verständnis und der Gefahr geht, müsste man quasi jede zweite Geburt verhindern, weil am Ende ein rätselhaftest Arschloch stehen kann. :D

Albernes Gleichnis aber das weißt du wahrscheinlich auch ;)  Ein Mensch wird nicht plötzlich 10, 1000  oder 10000000 mal so klug wie seine Mitmenschen, wenn man ihn kurz nicht beachtet. Eine KI könnte das durchaus.

interpreter schrieb:Albernes Gleichnis aber das weißt du wahrscheinlich auch ;)  Ein Mensch wird nicht plötzlich 10, 1000  oder 10000000 mal so klug wie seine Mitmenschen, wenn man ihn kurz nicht beachtet. Eine KI könnte das durchaus.

Ne, keineswegs. Es geht mir nämlich nicht darum, die Intelligenz in Frage zu stellen. Es geht um die Entwicklung von für uns negativen Absichten und das Potenzial diese umzusetzen. Das liegt aber nicht nur an der Intelligenz, sondern schlicht an der Macht, die jemand hat. Und da gibt es jetzt schon genug Menschen.. das ist im Vergleich zu einem Szenario halt viel bedeutsamer.
Intelligenz korelliert auch nicht mit "bösen" Absichten usw.

interpreter schrieb:Man kann in dieser Debatte mit den Argumenten ran gehen, dass unter diesen und diesen Bedingungen vielleicht alles gut gehen würde aber das ist aus meiner Sicht nicht die richtige Herangehensweise um den pro KI Standpunkt zu vertreten.

Ich clashe gerade auch nicht. Ich finde es an sich halt interessant.^^

interpreter schrieb:Man müsste sich darauf verlassen die Täuschung im Quellcode zu finden. Wenn es ein komplexes neuronales Netz wäre, ist das quasi unmöglich.

Wieder ziemlich eingeschränkt. Wer sagt denn, dass da Menschen sitzen und das prüfen müssen? Es muss noch nicht einmal eine andere KI sein, es reicht für den Anfang einfach, wenn es andere Programme, die nur dafür entwickelt sind, übernehmen. Das alles liegt bei deinem Google-Beispiel ja nicht vor aufgrund der fehlenden Gefahr. Die Menschheit wird manipulierte Rankings schon überleben und das ist nicht mal ironisch gemeint, weil das doch schon ein übles Problem wäre.

Falls das Thema im Pool bleibt, ist es aber vielleicht nicht so klug, hier noch tagelang weiter zu machen.. :ask: :D

@vincent

Ich stimme dir zu, dass all deine Szenarien möglich wären. Tatsächlich widerspricht das aber in keinster Weise meiner Argumentation.

Was ich versucht habe zu illustrieren ist bei den spekulativen Heile Welt Szenarien, eine Wahrscheinlichkeit besteht dass dieses jeweilige Szenario nicht eintritt.

Könnten wir eine KI rechtzeitig abschalten? Ja, wenn sie bösartige Absichten entwickelt, bevor sie ein Intelligenz-Niveau über unserem erreicht hat.
Wenn sie klüger ist, steht die Wahrscheinlichkeit schlecht.

Könnte sich alles zum Guten wenden? fraglos.

Die Argumentation lautet, dass die Möglichkeit des katastrophalen Scheitern so signifikant und schwerwiegend ist, dass es sich nicht lohnt das Risiko einzugehen.

vincent schrieb:Falls das Thema im Pool bleibt, ist es aber vielleicht nicht so klug, hier noch tagelang weiter zu machen.. :ask: :D

Hat @Atrox im Grunde schon ausgeschlossen, wenn ich es richtig verstanden hab.

@interpreter
Jau, ich versuche auch nur, die Spekulationen über die Gefahr etwas abzumildern, weil ich den Nutzen um ein Vielfaches größer sehe. Das wäre dann tatsächlich auch mein Standpunkt in einem Clash. Die Vorteile, über die man ebenso spekulieren man. Letztlich ist es wohl gaaanz grob eine Chance von über 50%, dass die Menschheit einen Quantensprung in der Entwicklung macht gegen ein Szenario, in dem sie dem Untergang geweiht ist. Wenn man will würde sogar der Standpunkt, dass man eine KI entwickeln muss, noch gut vertretbar. Sieht eh nicht rosig aus für uns..^^

@vincent

So hätte ich das auch gemacht :D

vincent schrieb:. Wenn man will würde sogar der Standpunkt, dass man eine KI entwickeln muss, noch gut vertretbar. Sieht eh nicht rosig aus für uns..^^

Und das wäre sogar ein echt gutes Argument aus meiner Sicht.  Dass man KI entwickeln MUSS weil die Herausforderungen für die Menschen alleine nicht zu lösen sind. Ein Untergangs-Szenario durch den Verzicht auf KI dagegen halten :D