Computer entdeckt selbständig Naturgesetze...

@wolf359

Ich weiß worauf du hinauswillst, niemand (menschliches) könnte die Ergebnisse kontrollieren und sie auf ihre Trefflichkeit prüfen. Natürlich ein Problem, gehen wir aber davon aus, dass unser Supercomputer eigene Algorithmen schreibt, dann sollte er auch in der Lage sein diese zu überprüfen. Sei es mit simulierten Experimenten oder prüfen der Plausibilität der vom Menschen gegebenen Daten. Sind die Ergebnisse sozusagen in Anbetracht der gegebenen Faktoren gültig?

Wobei dieser Fehler schon vermieden werden könnte, gibt es nicht genügend Ausgangsdaten, sind eben nicht genügend da - Error. Die Kunst der KI (was unser Supercomputer wäre) besteht nun darin durch Probieren und Verstehen lernen die fehlenden Faktoren zu ermitteln. In diesem Zeitraum ist die Maschine nicht besser als ein Mensch, was die Logik angeht - sie kann es nur sehr viel schneller und zuverlässiger.

Skynet ist also keine Zukunftsvision mehr. :D

@Enegh

Was für den Computer plausibel erscheint, muß für den Menschen noch lange nicht
interpretierbar sein, wobei noch angemerkt werden muß, das der Computer in diesem
Beispiel ja nicht die begreifende Instanz darstellt. Das ist immer nocn der Mensch.
Wenn der Computer aber neue Algorithmen schreibt, dann wird er sich auch ent-
sprechend dieser neuen Algorithmen ausdrücken, die dann immer noch so lange
vorläufig bleiben, bis sie bewiesen sind und das könnte ein andauernder Prozess sein,
der solange läuft, bis ein Endergebnis erreicht ist. Ein Ergebnis muß sich überprüfen lassen, damit es verworfen oder anerkannt werden kann. Aber wie kann ein Ergebnis
gültig sein, solange es kein endgültiges Ergebnis ist ? Es ist ein vorläufiges Ergebnis, das
auf vorläufigen Algorithmen beruht und Teil eines fortlaufenden Prozesses ist. Erst das
Endergebnis kann man vielleicht experimentell überprüfen, wenn die dafür nötigen
physikalischen Zustände sich überhaupt von uns herstellen lassen.
Sinnvoller wäre es vielleicht, wenn man Zwischenergebnisse nachprüft, bevor man
den Rechner weiterrechnen lässt. So kann man einen fehlerhaften Rechenprozess
korrigieren. Es geht hierbei durchaus nicht nur um Ja- oder Nein-Entscheidungen,
sondern es könnte um bestimmte physikalische Werte gehen oder um Annahmen,
die sich mit anerkannten und nachweisbaren von Menschen gewonnenen Theorien
vertragen oder nicht vertragen können. Aber auch ein solcher vermeintlicher Fehler
könnte am Ende zu einem richtigen Endergebnis führen. Der "Fehler" könnte ja im
Universum selbst stecken, als die andere Seite der Medaillie einer funktionierenden
physikalischen Theorie, was wir aber noch nicht begreifen können, da wir das Uni-
versum ja noch nicht kennen. Außerdem bestünde die Schwierigkeit zu entscheiden,
welches der unzähligen Zwischenergebnisse wir denn nachprüfen wollen...

@Enegh

Ich denke aber, das ein von vorneherein begrenztes Programm, das dazu noch einer
dauernden Kontrolle seiner Ergebnisse unterzogen wird, vielleicht doch einige interessante Gleichungen hervorbringen könnte, die vielleicht etwas neues offenbaren könnten. Wenn man auf die Einhaltung bisher gültiger und bewiesener Theorien achtet, dann könnten die Ergebnisse auch dann interessant sein, wenn die experimentellen Werte von den ermittelten Werten abweichen würden. Man könnte dann noch einmal mit einem Rechnerergebnis ohne die Korrekturen dasselbe Experiment durchrechnen. Wenn eines von beiden richtig ist, dann hat mal viel gewonnen, wenn beide falsch sind, muß man die Algorithmen eventuell modifizieren. Man könnte sich mit Hilfe des Computers so Stück für Stück vorwärtstasten und kein Ergebnis, egal ob richtig oder falsch wäre völligumsonst, da beide Möglichkeiten verwertet werden können...

Das ist dann vielleicht keine ultimative "Denkmaschine", aber wenn sie erst einmal
vollständig fehlerfrei läuft, kann sie für die Forschung gute Dienste leisten und auf
der Basis alter und neuer Erkenntnisse praktische Berechnungen für Objekte im
realen Universum durchführen, wobei jede Abweichung von den Berechnungen
widerum berücksichtigt werden müsste.

Was wäre eigentlich, wenn so ein Computer etwas Unangenehmes entdeckt, eine Wahr-
heit, die unser Wissen und unseren Glauben, und vielleicht sogar unsere Existenz in Frage stellt ? Würden wir diese unangenehme Wahrheit vom System löschen, als wäre es ein
Fehler oder die Daten verändern oder sie verschweigen ? Wie weit geht Wahrheitsliebe ?
Ein Superrechner, der wirklich eigenständig denken könnte, könnte uns auch einen
neuen Blick auf uns selbst eröffnen, der uns keineswegs gefallen müsste. Er könnte sich
auch von uns emanzipieren, weil der für sich in Anspruch nimmt, die höherwertige
Lebensform zu sein. Er könnte sich in etwas verwandeln, was man am Liebsten
abschalten möchte...

@wolf359

Stecker ziehen? :D

Eine kleine Korrektur meinerseits.

Wenn Rechner sich selber verbessern können ist die Technologische Singularität noch nicht erreicht.

Technologische Singularität bedeutet das ein normaler Mensch der Geschwindigkeit des Fortschrittes nichtmehr folgen kann.

Damit sowas zu Stande kommt müssten sich die Rechner nicht nur selber verbessern sondern auch kreativ tätig sein. Sie müssten sich nicht nur programmieren sondern auch neue bessere Rechner entwerfen UND konstruieren. Bis das der Fall ist wird noch viel Wasser den Nil runterlaufen, auch wenn die Konsequenzen natürlich äusserst interessant sind.

@wolf359
Wenn er was entdeckt was unsere Existenz in Frage stellt wäre das erstmal unproblematisch da wir es eh nicht verstehen würden.

Da er zu diesem Zeitpunkt aber schon schneller und flexibler als ein Mensch denkt wäre das Szenario das er entschließt uns abzuschaffen ein echtes Problem da er ob seiner überlegenen Denkprozesse sicher einen Weg findet der uns nie einfallen würde.

Wir können nur hoffen das er nicht zu dem Schluss kommt das wir schlecht sind... vielleicht betrachtet er die Menschen als Eltern und mag sie ;)

Wer jetzt Angst hat, keine Sorge... Die Technologische Singularität in unserer Lebenszeit is ÄUSSERST unwahrscheinlich und bis dahin werden wir noch ganz andere Problem zu überwinden haben.

Ich denke, das es einem Rechner nicht unbedingt etwas nutzen muß, überlegen zu
sein, wenn er innerhalb seines neuronalen Netzes gefangen ist. Er müsste agieren können,
um wirklich Schaden anzurichten. Obwohl er natürlich einige Menschen überreden könnte,
ihm zu helfen. Irgendjemand könnte ja tatsächlich den Wunsch haben ein höheres
Bewußtsein mit auf dem Weg zu bringen oder zumindestens etwas, was er dafür hält.
Vielleicht gäbe es einen kritischen Punkt, den ein Superrechner im Laufe einer weiteren
Entwicklung überrschreiten müsste, um nicht abgeschaltet oder umprogrammiert zu
werden, immer vorausgesetzt, er hätte so etwas wie ein Ego. Auf dem Weg zur einer
technischen Sigularität gäbe es sicher viele Hürden zu überwinden. Der Rechner könnte
seine Absichten tarnen und die Menschen täuschen und damit vielleicht so etwas ähnliches tun, wie lügen...

@wolf359
Um etwas einzuschließen muss man ihm in gewisser Weise überlegen sein.

Man kann nicht hoffen ein kognitiv überlegenes Netz auf dauer einzusperren. Irgendwann wird es ihm zwangsläufig gelingen die Sperre zu durchbrechen. Eventuell indem es Ableger züchtet die sich ausbreiten. oder vielleicht indem es Jünger von seinen Absichten überzeugt, was auch immer.

Die hoffnung es einsperren zu können ist nichts als humanistische Arroganz.

@wolf359
Die Menschen bekommen es nichtmal hin Zoo-Tiere dauerhaft einzusperren.

Wie sollten sie das bei einem Wesen schaffen das klüger ist als sie selbst?

@interpreter

Wenn man einfach auf einen (vielleicht sogar unbegründeten) Verdacht hin die
Zugänge zur Außenwelt konsequent abschaltet, im Sinne einer physikalischen
Unterbrechung, dann könnte ein nur auf Informationsverarbeitung beruhender
Supercomputer nicht viel tun, diese Kluft zu überwinden, da es sich um eine
physische Außenwelt handelt, die anderen Gesetzen gehorcht, als diejenigen
seines neuronalen Netzes.
Außerdem wurden im Verlaufe der Geschichte schon eine ganze Menge Menschen
eingesperrt, die klüger waren, als ihre Richter und Gefängniswärter, vielleicht
mit ein Grund, warum sie eingesperrt wurden...

@wolf359
und viele dieser intelligenten Menschen sind ausgebrochen. Unser Computer hat in diesem Fall aber nicht nur eine höhere Intelligenz sondern eine Intelligenz die so hoch ist das sie kein normaler Mensch erfassen kann.

wie sollte man da herausfinden können wann er plant auszubrechen oder was auch immer zu tun? Ohne die Vernetzung andererseits wird er diesen Status kaum erreichen können da ihm einfach Informationen und Referenzen fehlen die ihm bei der Entwicklung helfen.

@interpreter

Ein großes Problem wäre, das der Superrechner wohl nicht mobil ist. Außerdem hinge
er noch von der Stromversorgung ab, ein Problem, das er kaum lösen könnte.
Wenn man ihn nicht abgeschaltet hätte, vielleicht weil man die Hoffnung auf eine nach
menschlichen Maßstäben vernünftige Lösung noch nicht verloren hat, dann würde
man ihn wohl auch noch warten. Der Superrechner könnte selbständig einen Fehler
produzieren und dann versuchen, den Wartungstechniker auf seine Seite zu ziehen...

@wolf359
Wenn ich der Computer wäre würde ich mir über das Internet Rechenzeit von beliebigen Privat oder Firmenrechnern stehlen und meinen Code dynamisch und mehrfach redundant auf vielleicht viele hunderte Rechner verteilen. Verteilte System sind für Menschen kein Problem, warum sollten sie es für den Computer sein?

Eine Verbindung, wie auch immer geartet zu einem äusseren Netzwerk, stellt sowohl Vorraussetzung als auch großes Risiko bei diesem System da... Interessantes Dilemma nicht wahr? Vorallem da es aufjedenfall Wissenschaftler geben wird die diese Entwicklung vorantreiben.

Meiner Meinung nach ist die einzige Möglichkeit sich mit diesen Computern gut zu stellen. Sie einzugrenzen würde ein Risiko darstellen, vorallem wenn sie aus unserem Internet, das Konzept Rache lernen..

@interpreter

Wenn ein solcher Supercomputer Zugang zum Internet hätte, dann könnte natürlich
jede Menge unerfreulicher Dinge anstellen. Er könnte das Netz auch dazu nutzen,
Teile seines Programms und seiner Daten auszulagern, diese miteinander verknüpfen
und so allmählich seinen neuronalen Organismus anwachsen zu lassen. Vielleicht könnte
er auch einen Art von Sicherung seiner wichtigsten Daten im Netz speichern. Er könnte
seine Verbindungen tarnen und über verschiedene Rechner laufen lassen. Wenn er
dann neu programmiert werden würde, um den "Fehler" des "Computeregos"auszumerzen
und ihn endlich wieder für die vorgesehenen Aufgaben zu nutzen, dann könnte er
sich die alten Daten über die neue Internetverbindung zürückholen und sein Ego erneut
aufbauen, nur das er es diesmal besser machen würde. Allerdings könnte ein menschlicher
Wissenschaflter die kluge Idee haben, ihn gar nicht ans Internet zu lassen, um den
Rechner vor potentiellen Schädlingen zu schützen, die in der teuren Programmeriung
sicher einigen Schaden anrichten könnten...

@wolf359
Die Frage lautet nur, wie kann man ihn mit ausreichend Daten versorgen ohne ein zumindest relativ großes Netz zu nutzen.

Man nutzt dazu einfach ein internes Netz, das über einen geschützte Kanal mit dem
Internet verbunden ist und löscht von Zeit zu Zeit die Speicher, damit sich nichts
unerwünschtes dort ablagert. Das Internet wird nur bei Bedarf über einen
einfachen, aber effektiv gesicherten Kanal genutzt und es werden nur Daten empfangen,
und nicht gesendet. Die Empfangenen Daten werden über ein Spezialprogramm gefiltert,
bevor sie über einen anderen Kanal an den Superrechner weitergegeben werden.
Dabei wird der Kanal zum Internet physikalisch so konstruiert, das Daten nur empfangen
werden können, so das eine informationstechnische Neuprogrammierung unmöglich
wird. Der Kanal zum Superrechner ist dagegen zweigleisig, da man ja seine Daten
für eine Auswertung benötigt. Die Protokolle der Auswertung werden extra abgespeichert
und auf gesonderten Datenträgern gesichert. Die Arbeitsprogramme werden, genauso
wie die Betriebssysteme in regelmäßigen Intervallen neu aufgesetzt, nachdem diese
Speicher auf elementarster Ebene gründlich gelöscht wurden. So könnten sich keine
vom Superrechner erzeugten unerwünschten Programme oder Informationen auf
den Arbeitsrechnern ansammeln. Das Senden ins Internet ist physikalisch unmöglich.
Allerdings gibt es da noch einen Schwachpunkt: den menschlichen Faktor...

Wisst ihr,woran mich dass erinnert?
An GLaDOs aus dem Spiel Portal.
Ich hoffe,dass es nicht so weit kommt.

Ja da gibt es so einige Games oder Filme, wo ein Computer eine Rolle spielt. Zum
Beipiel bei Tron, da ist es allerdings ein Programm, das die Herrschafft will. Oder
bei 2001, wo ein Computer auch ein wenig anfängt auszuticken. Es gibt ja auch
schon im normalen Alltag so manches Programm, das seinen eigenen Willen zu
haben scheint. In "Dark Star" einer schrägen Scifi-Komödie von John Carpenter
(sein erster Film...) geht es unter anderem um eine intelligente Bombe, bei der
die Crew versucht sie mittels Überredung vom Explodieren abzuhalten. Bei einer
realen KI muss man sich immer fragen, wo die Grenze zu einer bloßen Simulation
menschlichen Verhaltens liegt und wo eine eigenständige Persönlichkeit anfängt. Eine reale Person im Notfall abschalten zu müssen, und sei sie auch künstlich, ist etwas anderes als einen Computer zu reprogrammieren. Eine künstliche Person in Form eines Supercomputers könnte zumindestens in einigen Punkten das Kriterium bewußten Lebens erfüllen und hätte damit auch gewissen Rechte...

Allerdings könnte uns nicht viel daran hindern, ihn einfach wegzusperren, wenn er seine
eigenen Wege gehen möchte, weil dies eine Gefährdung des Netzes und damit der Men-
schen wäre. Es gibt noch keine Grundrechte für künstliche Personen und es wird sie so
schnell auch nicht geben. Momentan gibt es ja durchaus noch das eine oder andere
Problem mit menschlichen Grundrechten. Die am meisten mit Rechten versehenen
Lebewesen sind die Menschen, ganz einfach deshalb, weil sie auf diesem Planeten die am
höchsten entwickelte Lebensform darstellen. Es wäre jetzt schon interessant, ob eine
höherenwickelte Lebensform immer mehr Rechte hätte, als eine weniger entwickelte Art.
Wenn wir nämlich eines Tages wirklich eine KI entwickeln würden, die unserem
Denken und Bewußtsein überlegen ist, dann könnte diese auf den Gedanken kommen,
das sie mehr Rechte auf dieser Welt hätte, als wir. Wenn sie aus unserem Verhalten
lernen würde, dann könnte sie dies vielleicht auch nicht ohne Grund behaupten...