Warum kann man KI´s nicht einfach mit Paradoxen zerstören?

In Filmen und Literatur gibt es immer in so ziemlich an jeder Superbösewichtwaffe einen Knopf für die "Selbstzerstörung" und an jeden vehikel ein Mechanismus womit man den Reaktor zum zerstören gebracht werden kann und darauf hin das Fahrzeug zerstört wird. Bei KIs darf man sich aber immer etwas einfallen lassen - warum kann man nicht einfach ein Paradoxon aufsagen und somit die KI in eine Endlosschleife fangen bis diese überlastet ist. Oder lässt sie einfach Pi berechnen?

Natürlich spreche ich von den KIs aus Film und Literatur - also alles rein hypothetisch...

@RobbyRobbe

Ich hab mal eben Wolfram Alpha Pi berechnen lassen, und das Programm ist nicht explodiert. Warum sollte es auch?

@MareTranquil

MareTranquil schrieb:Ich hab mal eben Wolfram Alpha Pi berechnen lassen, und das Programm ist nicht explodiert. Warum sollte es auch?

Das habe ich auch gemacht und Wolfram Alpha zeigt nur bis hier hin


Wie du aber weist, endet Pi nicht (und somit unendlich)
Your Argument is invaild

Da du hypothetisch sprichst, kannst du alle KI's natürlich zerstören - zumindest hypothetisch :-)

@RobbyRobbe

Mein Argument ist überhaupt nicht invalid.

Du behauptest, man könnte eine KI einfach austricksen, indem man ihr sagt, sie soll Pi berechnen.
Ich habe eben gezeigt, dass jede vernünftige KI, ja sogar jedes Rechenprogramm intelligent genug ist, sich eben dadurch nicht austricksen zu lassen, indem sie die Berechnung einfach irgendwann abbricht.

Man kann auf diese Art keine KIs austricksen, sondern höchstens einfache selbstgebastelte Programme, bei denen man auf ein solches Abbruchkriterium verichtet/vergessen hat.

Die Frage ist, wie man einer KI (oder wahlweise auch einer NI) die Aufgabe zur Berechnung von pi stellen will, wenn der Algorithmus zur Berechnung von Pi nicht codiert ist.

Ist hingegen der Algorithmus eingebaut, dann sollte der Progrmmierer sich auch überlegt haben wieviele Stellen er gedenkt zu berechnen.

Insofern ist die These, man könne eine KI durch die Aufgabe zur Ermittlung von Pi in eine Endlosschleife bringen, gelinde gesagt .... anfängerhaft.

Ich vermute jedoch, dass die These auf die Blockierung der KI abzielt: durch die Berechnung von Pi soll die KI abgehlten werden, etwas andereszu tun.

Nun, das hat mit Pi gar nichts zu tun, sondern mit fehlender Multitasking-Fähigkeit.

Insofern stellt ich die Frage, ob die KI multitaskingfähig ist und ob sie den Code zur Berechnung von Pi eingebaut hat und ob es eine Priorisierung gibt, die Auslösung einer Atombombe gegenüber der Berechnung von Pi zurück zu stellen.

Old school Informatik.

@RobbyRobbe

Es gibt nicht nur Anfängerfehler, sondern auch ganz sachlich Programmierfehler - es wurden schon oft genug Projekte mit Millionenwert in den Sand gesetzt - nur weil eine Programmzeile fehlerhaft war oder fehlte.

Es geht ja mehr um die Tatsache, die KI mit dem zu verwirren, als sie wirklich zu überfordern - es gibt ja auch beim Menschen die Theorie, dass dieser es nicht verkraften könne, wenn er seinen waren Sinn seines Lebens/seins erführe. Genauso oft wurde philosopisch durchgenommen, dass eine Maschiene, welche dachte, keine Maschiene zu sein, nicht mit der Tatsache klarkommen würde, eine zu sein.

Letztens lief irgendwo im Fernsehn "Dark Star" (einen trashigen, aber heute kultigen Film), wo eine Bombe mit eigenen "denken" davon abgehalten wurde zu explodieren, in dem man sie aufmerksam machte, dass all ihre Wahrnehmungen (über ihre Sensoren) falsch sein könne und letzlich nur feststeht, dass ihre Gedanken echt seinen - daraus folgerte sie "Ich denke, also bin ich"

Das lief darauf hinaus, dass sie dachte sie wäre Gott und sprach "es werde Licht" und tötete alle bzw. indirekt...

Seit wann selbstreflektieren Maschinen ?

@JonnyDepp

Es geht hier um hypothetische annahmen so wie es im Eröffnungspost steht - und in verschiedenen Werken wurde das schon angeschnitten bzw. durchgenommen.
Alles also theoretischer Natur ;)

Wenn eine Maschine - hypothetisch gesehen - selbstreflektieren und frei denken könnte, kann sie sich - hypothetisch gesehen - verhalten wie eine humane Intelligenz.

Das nennt man science fiction.

Ich denke mal wenn eine KI auch nur annähernd so intelligent ist wie ein Mensch, dann wird sie, egal mit was du sie "beschäftigen" willst, früher oder später dahinter kommen das sie manipuliert wurde um sie von ihrem eigentlichen Ziel abzuhalten.

@RobbyRobbe
also ich lese gerade von Isaak Asimov "Aurora" und dort wurde ein Roboter mit PAradoxie in einen Mentalblock getrieben, also er wurde zertsört, aber dies ist nur Science Fiction!
Im echten leben geht das nicht, allein schon weil die KIs nur auf ihre spezielle Aufgabe Proggrammiert wurden.

@Ferraristo

Aber darum geht es ja - nur die Gedankenspiele "Was wäre wenn"
Ob wir jemals eigenständig denkende - über die programmierung hinaus ageirende Mascheien bauen können ist vielleicht gar nicht möglich - aber eine schöne Illusion ;)

@RobbyRobbe
nunja wenn KIs nach den 3 Robotergesetzten von Asimov funktionieren würden, dann wäre das möglich.

Die Asimovschen Gesetze lauten:[1]

Ein Roboter darf kein menschliches Wesen (wissentlich[2]) verletzen oder durch Untätigkeit gestatten, dass einem menschlichen Wesen (wissentlich[2]) Schaden zugefügt wird.
Ein Roboter muss den ihm von einem Menschen gegebenen Befehlen gehorchen – es sei denn, ein solcher Befehl würde mit Regel eins kollidieren.
Ein Roboter muss seine Existenz beschützen, so lange dieser Schutz nicht mit Regel eins oder zwei kollidiert.

Wikipedia: Robotergesetze

@Ferraristo
Ich kenne die Robotergesetzte - wobei ich mir sicher bin, dass eine Maschiene diese mit umwegen aushebeln kann ;)

@RobbyRobbe

Du willst also über eine hypothetische Maschine diskuieren, die zum einen so intelligent denken kann wie ein Mensch und sich aber zu amderen durch einfache Paradoxien, die jeder Mensch sofort beiseite legen würde, aushebeln lassen?

Könnten wir vielleicht über irgendetwas diskutieren, dass nicht in sich selbst völlig widersprüchlich ist?

@RobbyRobbe
denkst du da etwa an odysee 2001? oder neulich resident evil gesehen - da kommt ja auch n supercomputer vor ;)

die frage ist wie bekommste die endlosschleife zustande?
durch input oder codemanipulation?
das ganze ist immer sehr speziell wie ich finde.
deshalb die frage: an welche art von KI denkst du da?

@Mr.Ringo
Dachte eher an das Spiel Portal 2
Die beiden Filme habe ich in der letzten Zeit nicht gesehen -
es sollte eher durch den input geschhen bzw. es soll ein unlösbares Problem lösen

@RobbyRobbe
kenne das spiel nicht und habe im wiki artikel leider nichts über das paradoxon lesen können.
wie genau versucht er glados auszutricksen?