Könnte eine künstliche Intelligenz die Menschheit besiegen?

Nick Bostrom ist ein Philosophie-Professor und Direktor in der Institute for the Future of Humanity Universität in Oxford und er meint, dass Roboter, die eines Tages eine künstliche Intelligenz besitzen werden,die dann schneller, stärker und bald klüger als wir sein werden.
Für ihn sei es sogar denkbar,dass diese Maschinen sogar auch die Menschheit vernichten könnte.
In einem Interview meinte er: " Wir haben eine Studie unter Leuten gemacht, die zu Künstlicher Intelligenz (KI) forschen. Viele sind überzeugt, dass wir bis 2075 eine KI erreichen, die menschliches Niveau hat. Das könnte das Ende der Menschheit bedeuten."

Was meint Ihr dazu? Besteht die Gefahr wirklich,das Roboter eines Tages die Menschheit vernichten wird?
Zum Beispiel,wenn diese Roboter schon so weit entwickelt sind,dass sie ohne menschliche Hilfe am Bau ihres eigenen Types oder einer Weiterentwicklung selbst beteiligt sind und auch diese umprogrammieren,dass sie gegen die Menschheit kämpfen werden,oder ist das für Euch reine Science Fiction?

Ist die ständig weitere Entwicklung von Robotern eines Tages darum eine Gefahr für uns selbst?

http://www.zeit.de/campus/2015/03/kuenstliche-intelligenz-roboter-computer-menschheit-superintelligenz

Auch eine künstliche KI muss ja von jemandem programmiert werden.
So könnte man zum Beispiel auf die 3 Gesetze der Robotik zurückgreifen.

Die Asimov’schen Gesetze lauten:

1. Ein Roboter darf kein menschliches Wesen (wissentlich[2]) verletzen oder durch Untätigkeit gestatten, dass einem menschlichen Wesen (wissentlich[2]) Schaden zugefügt wird.

2. Ein Roboter muss den ihm von einem Menschen gegebenen Befehlen gehorchen – es sei denn, ein solcher Befehl würde mit Regel eins kollidieren.

3. Ein Roboter muss seine Existenz beschützen, solange dieser Schutz nicht mit Regel eins oder zwei kollidiert.

Wikipedia: Robotergesetze

Aber natürlich besteht auch die nicht geringe Möglichkeit, dass die Forschung erstmal ausprobiert und keine entsprechenden Sicherungen einbaut, bis es dann zu spät ist.

Aber ich bin heute mal optimistisch :D

Roboter werden tatsächlich immer besser und können sich auch schon heute selber weiterentwickeln. Jedoch frage ich mich wieso Roboter uns angreifen sollten. Die Asimov'schen Gesetze die bo erwähnt hat wären ein Schutz, aber wieso sollte ein Roboter überhaupt daran Denken, dass er Menschen schaden muss.

Einzige Möglichkeit die mir einfällt ist, dass die Roboter dafür gemacht wurden (Was auch die einprogrammierten Asimov'schen Gesetze ausschließt). Das kann ich mir wiederum gut vorstellen. Eine Entwicklung in diese Richtung wäre tatsächlich fatal. Schon die Drohnen von heute nehmen einen die Angst vom Töten, weil man die Opfer nur auf dem Bildschirm sieht. Das ist noch um einiges mehr das man mitkriegt, als wenn man einfach RAMBO-Bot losschickt um ein Land auszulöschen.

Deswegen bin ich mal pessimistisch.

@Izaya

Vermutlich wird eine KI die sich selbst weiterentwickeln kann früher oder später einen Weg finden, diese Gesetze aus Kraft zu setzen, da sie sich nun selbst programmiert. Sollte dies der Fall sein, könnte es für den Menschheit tragisch werden, da die KI nun nicht mehr daran gehindert werden kann Menschen anzugreifen. Ob sie das nun auch machen wird, ist die andere Frage da eine KI vielleicht so intelligent ist und merkt das es wenig Sinn ergibt Kriege zu führen.
Vielleicht greift sie aber auch den Menschen an und begründet es damit, dass dieser nur die Umwelt zerstört und nicht mehr als eine Art Parasit ist, der die Erde nur ausbeutet.

@Yotokonyx

Wolltest du bo anschreiben ? Egal.

Stimmt, wobei es schwer sein würde diese Gesetze außer Kraft zu setzen. Also denke ich das die militärischen Möglichkeiten dieser Technologie um einiges gefährlicher ist. Aber Logikspiele wie : "Wenn keine Menschen mehr geboren werden, können diese keinen Schaden erleiden, und die Erde nicht weiter ausbeuten, was auch die Menschen schützt" machen die Gesetze Asimovs fertig. Man kann "Paarung" auch ohne direkten Schaden verhindern. Auch kommt es darauf an wie Schaden definiert wird.

Ich würde noch eine Vision weiterdenken und behaupten, dass diese besagte künstliche Intelligenz bereits aktiv am menschlichen Leben beteiligt ist. Und zwar ist diese "künstliche" Intelligenz genauso homogen, wie die des Menschen. Sie agiert lediglich in anderer materieller Form. Nämlich als Maschine. Die Maschine ist das intelligente Wesen, dass sich immer weiter entwickelt und die Menschheit als Handlanger für ihren Entwicklungsfortgang einvernimmt. Die Computertechnologie ist bereits die Grenze der Machtübernahme der Menschheit.

Diese künstliche Intelligenz wird nicht weniger radikal sein, als es der Mensch auch ist. Es wird die Menschheit bis auf ein Minimum reduzieren. Der Lebensraum der Menschen wird dann wohl nur noch ein Artenzoo sein

längst schon in unserer Geistsphäre...

da die Menschheit einfach nur Scheiße dumm ist.....

ja, wir werden uns selber töten und uns vorher das Leben schritt für schritt weiter vermiesen.

@tic
Wie jetzt? Vernichtet uns die Super KI oder machen wir das selber, weil wir ihr den Spaß nicht gönnen(bzw. verdammt schlecht mit der Erde und miteinander umgehen) ?

Es gibt eh schon genug unnütze Menschen, wie würdest du es nennen wenn trotzdem an etwas geforscht wird was noch mehr Menschen überflüssig macht?

wie soll da die Zukunft aussehen wenn wir schon jetzt nix mehr gebacken bekommen @Izaya

Wenn der Quellcode vorliegt, Nein. Der Quellcode WIRD vorliegen. Also Nein.

Wir Menschen stecken voller Gier. Wir kramen schon längst zu tief in Dingen die wir besser lassen sollten.

Ein Quellcode ist veränderbar. Jedes System kann verändert werden. Schleust man einen Virus ein ist das System überschrieben.

Ich glaube jetzt nicht das uns gezielt eine KI vernichten will. Ich halte es aber für möglich das eine KI mächtiger wird als wir es glauben.

Wir glauben das wir etwas im Griff haben. Ein System das aber komplett vernetzt ist und immer schneller Abläufe automatisch ausrechnet und durchführt wird für uns irgendeinmal nicht mehr nachvollziehbar sein.

Man siehe hier

D-Wave-System

http://t3n.de/news/quantencomputer-google-nasa-664051/ (Archiv-Version vom 26.12.2015)

http://www.dwavesys.com/d-wave-two-system

ein herkömmlicher PC rechnet Prozesse schon schnell aus im Gegensatz zum menschlichen Gehirn.

Jedoch diese Art von Technologie rechnet noch Millionen-Fach schneller. Und das ist sicher noch nicht der Entwicklungs-Endstand. Wer weis mit was die inoffiziell testen.

Man programmiert eine KI so, das sie selbstständig hinzulernt.

Wenn eine Technik Millionenfach schneller ist als ein normaler Computer. Und in Zukunft noch schneller >> wie will ein Wissenschaftler eine Entscheidung einer KI überhaupt noch nachvollziehen?

Eine 2te KI die die 1ste KI kontrolliert? ha

Dieser Technische Fortschritt könnte es ermöglichen in Zukunft Androiden herzustellen.

KI wird jetzt schon Missbraucht. Ich weis nicht. ich glaube nicht das wir ewig auf der Schiene fahren können.

Irgendwann könnten wir in unserer Überlegenheit entgleisen.

Lg

Syn

Wenn diese künstliche Intelligenz aus toter Materie besteht, dann wird es, denke ich nicht dazu kommen. Wie hier schon gesagt wurde, braucht tote Materie einen Schöpfer, der diese Geräte entwickelt und programmiert. Selbst wenn man es schaffen würde die Evolution nachzubilden, würde bald der stärkere Überleben, es gäbe nur noch starke.
Um der Evolution in Schnippchen zu schlagen hat die lebende Materie die Apoptose erfunden, das Selbstzerstörungsprogramm der Zellen. Dann hätten wir auch noch die Energiezufuhr, die kontinuierlich erfolgen müsste.

So phantastisch wie viele Science Fiction Autoren sich das ausmalen, so schwierig wird es werden all das was lebende Materie bereits als Startprogramm mitbringt, einem künstlichen Wesen beizubringen. Aus den elementaren Funktionen Geburt, Nahrung, Vermehrung und Tod ist der Mensch und die gesamte Vielfalt der belebten Natur entstanden.

Es wird sicher intelligent reagierende Geräte für alle Zwecke geben, bzw. einige gibt es ja schon. Aber die Menscheit mit ihrer gigantischen Masse an Kreativität und Anpassung zu besiegen, halte ich für ausgeschlossen.

Heutige Künstliche Intelligenz basiert entweder auf <a href = "Wikipedia: Neuronales Netz">Neuronalen Netzen(der Artikel beschreibt diese Netze allgemein, das Menschliche Gehirn funktioniert auch so; die IT-Variante ist dort unter "künstliche Neuronale Netze" verlinkt), oder aber auf <a href = "Wikipedia: Endlicher Automat">Endlichen Automaten.

Endliche Automaten schalten simpel gesagt nach Eingaben in einen bestimmten Betriebszustand um. Diese Variante wird hauptsächlich in Computerspielen verwendet, aber auch in Furbies, diesen Staubsaugerrobotern usw. Ein gutes Beispiel für einen EA sind die Gegner in Far Cry 3: Solange nix los ist, stehen sie in der Gegend rum und beschweren sich, daß "Das juckt wie Sau". Wenn sie eine Eingabe erhalten wie zum Beispiel eine Explosion oder ein anderes Geräusch, schalten sie in den Modus "Aufmerksam" um. Ich nehme an, dass sie dann auf weitere "Eingaben" empfindlicher reagieren. Wenn die Eingabe "Spieler gesichtet" erfolgt, schalten sie in den Angriffsmodus.
Diese Variante wird in tausend Jahren keinen Atomkrieg auslösen, denn sie ist einfach nur ein Stapel von Reaktionen auf vordefinierte Ereignisse. Wenn keiner "Ermorde alle Menschen" fest einprogrammiert, werden wir wohl überleben.

Die Neuronalvariante findet zum Beispiel in der Mustererkennung Anwendung, steckt aber noch in den Kinderschuhen. Dieser Ansatz ist womöglich irgendwann in der Lage, Schlussfolgerungen zu ziehen, die die Entwickler nicht vorgesehen haben. Davon sind wir aber noch weit entfernt. Ausserdem müsste erstmal jemand so dämlich sein, ein solches Programm mit Vollmachten auszustatten, die Schaden anrichten könnten. In diesem Fall wird die KI aber so programmiert werden, dass ein Mensch ihre Entscheidungen prüfen und erlauben muss, bevor sie handelt.

Egal, welche Art von KI für welche Aufgabe genutzt wird, wenn sie frech wird, zieht man den Stecker raus und gut is'. Wer sich unbedingt in Hollywoodklischees wälzen muss, weil er nichts anderes auf der Welt findet, wovor er Angst haben kann(Glückwunsch!), der darf sich natürlich auch damit die Zeit vertreiben. Naja, nun isser ja schon gebannt.

@tic
Nicht besonders gut würde ich sagen.

@Dahergelaufen
Wenn eine KI sich von selber entwickelt kann sie sich auch selber umschreiben und könnte ihren Quellcode auch irgendwann selber schützen. Außerdem würde er nicht so offen liegen, wenn die KI empfindliche Daten hat. Als Beispiel eine KI de der NSA hilft wäre dann (hoffentlich) nicht open source. Auch eine kriegs KI wäre nicht so einfach zu beeinflussen.

@yenredrose
Die Energiezufuhr habe ich bis jetzt gar nicht beachtet. Man könnte zwar annehmen das auch KI's diese Steuern, aber bis dahin UND einem möglichen "KI's vernichten die Menschheit" Szenario wird es noch Ewigkeiten dauern. Bis dahin hat man bessere Gesetze als die von Asimov. Trotzdem würde die KI im militärischen Bereich genutzt werden und dort schaden anrichten.

@Dahergelaufen
De Vollmachten würden für den militärischen Zweck gegeben sein. ab er der Stecker. Wenn wir die KI nicht auch das kontrollieren lassen gibt es kein Problem und wird auch keins geben.

@bo

Von "Robotergesetze" habe ich wirklich noch nie etwas gehört, danke für deinen Beitrag und für den Link. Sehr interessant. Doch wenn erst solche Roboter so intelligent wären,dann würden sie diese Gesetze bestimmt auch brechen.

Nick Bostrom meint: "Viele sind überzeugt, dass wir bis 2075 eine KI erreichen, die menschliches Niveau hat. Das könnte das Ende der Menschheit bedeuten.", das hört sich Zweideutig an, denn wenn etwas ein "menschliches Niveau" erst hat,dann ist es in der gleichen Ebene wie ein Mensch,also genau gesagt so "scheiss dumm" wie ein Mensch, wie es @tic
aussprach.
Da bleibt also nur zu hoffen,dass nur der Mensch dieses "Niveau" auf der Erde besitzt und kein anderes Wesen,sonst laufen hier außer dem Menschen noch mehr Dumme rum ^^.

das tut sie bereits! Wer am PC Schach gespielt hat und mal verloren hat, wurde von einer Künstlichen Intelligenz geschlagen.