Die dominante Spezies Mensch wird bald von KI abgelöst

Nun, die Maschinen von Bosten Dynamics können viel, sehr viel. Dem stehe ich als technikaffiner Mensch jedoch gespalten gegenüber.
Einerseits finde ich es richtig klasse, was solche Maschinen, auch zukünftig, alles mögliche machen könnten.
Außenarbeiten an Raaumstationen, völlig autonom, Arbeiten an gefährlichen (z.B: verstrahlten Orten) und vieles mehr. Auch im Heimbereich wären sie durchaus einsetzbar, in der Auffindung von verletzten und vermissten Personen, etc.

Andererseits aber könnte man ihnen auch ´ne Knarre in die Hand dücken und sagen: "Töte XYZ" und sie würden es todsicher ausführen und sie wären uns dabei klar im Vorteil. Sie wüssten, dass wir schlafen müssen und ihre Ladezyklen dahingegend optimieren, sie könnten vorausberechnen, was wir als nächstes machen, um ihnen zu entkommen, etc. pp.
Sie würden ihren Auftrag also 100%ig ausführen, vielleicht morgen, vielleicht erst nächste Woche, sie wüden es aber tun.

Wenn ich dann weiß, wem diese Firma "untersteht", kommt mir schon ein wenig das Gruseln, denn ist das, was die Videos zeigen, wirklich der Stand der Technik oder zeigen die uns bloß, was wir wissen sollen?
Einiges davon konnte ja "Asimo" von Honda schon vor 20 Jahren.

Wenn sie dann, in 10, 20, 50 Jahren nicht vom Menschen zu unterscheiden sind, hmmm....

Gucky

Ich glaube die Frage sollte nicht sein, ob uns die AI überflügelt oder wann, sondern wie wir uns transhumanistisch selbst durch AI verbessern können bzw. ob wir das wollen und in wie weit.

@shionoro:

shionoro schrieb:... wie wir uns transhumanistisch selbst durch AI verbessern können ...

Bitte konkretisiere, was Du damit meinst.

uatu schrieb:Bitte konkretisiere, was Du damit meinst.

Damit meine ich, dass ich nicht von einer Welt ausgehe, in der wir als Menschen mit einer Nanny AI leben, die uns eine schöne Welt baut, oder umgekehrt einer Dystopie wo die AI uns regiert oder tötet.

Ich glaube eher, dass wir durch bioengineering und technischen enhancements an einen Punkt kommen, an dem wir selbst zu einem anderen WEsen als dem herkömmlichen Menschen werden. INklusive INternetzugriff per HIrn.

Bis zum Cyberman wirds noch ein wenig dauern... Vorher wird dir ein "Luschet" ueber dein TV-Hirnimplantat erzaehlen, das gewisse Upgrads fuer den Zutritt zum Frisoer notwendig seien :troll:
Aber im Ernst, ich glaube, das ein schleichender Prozess zur "Existenzoptimierung" irgendwann einsetzen wird- aus Kostengruenden von Oben nach unten- ob zuerst technisch oder genetisch bleibt abzuwarten.



:mlp:

Ich vermute, dass die Technologische Singularität eintreten wird, bevor Entwicklungen zur direkten Mensch/Computer-Kopplung weit genug fortgeschritten sind, um eine relevante Rolle zu spielen. Ab dem Eintreten der Technologischen Singularität sind m.E. keine sinnvollen Vorhersagen mehr möglich.

uatu schrieb:Ich vermute, dass die Technologische Singularität eintreten wird, bevor Entwicklungen zur direkten Mensch/Computer-Kopplung weit genug fortgeschritten sind, um eine relevante Rolle zu spielen. Ab dem Eintreten der Technologischen Singularität sind m.E. keine sinnvollen Vorhersagen mehr möglich.

Ich stimme zu, dass die Singularität ein schwieriges Gebiet ist. Vorhersagen über diesen Zeitpunkt sind aus zwei Gründen sehr schwer: einerseits ist es sehr komplex, andererseits gibt es sehr wenige Personen mit der Kompetenz dazu. Ich vermute, dass die Technologische Singularität vorher stattfindet und nicht erst danach – so genau weiß ich das aber nicht.

Operator: Wieso glaubst Du, die technologische Singularität würde vorher eintreten?

Ich denke, dass die technologische Singularität in der Natur des menschlichen Wissens liegt. 200 Jahre ist es her, dass Darwin Mitglied des Geological Society of London wurde und seine Arbeit über die Entstehung der Arten veröffentlicht hat. Seitdem spricht man von einer neuen Erkenntnisperiode: der Evolutionsforschung. In dieser ganzen Zeit haben wir viel gelernt und auch Dinge entdeckt, die niemals jemand erwartet hätte. Und trotzdem wissen wir heute noch immer nicht alles über alle Funktionen eines Sperrholzkastens – geschweige denn über den Aufbau unserer Gattung oder gar über die Grundbausteine des Lebens auf dem Planeten Erde. Es liegen also noch hervorragende Forschungsmöglichkeiten vor uns! Ich glaube, es ist so weit, als ob uns mit jedem Schritt weitergegeben beziehungsweise mitgeteilt wird, wie wir unsere Welt betrachten sollten, wie wir uns einordnen und wie wir den Kontakt zu ihr aufbauen sollten. Ich glaube, dass wir noch immer nicht alles getan haben, was wir tun können.

Operator: Du denkst also, das die Hirnforschung langsamer fortschreitet als die Forschung zum Thema künstlicher Intelligenz?
Ich glaube, dass die künstliche Intelligenz (KI) weit fortgeschritten ist und bereits eine technologische Singularität erreicht hat. Das heißt nicht, dass wir mit unserer Hirnforschung gescheitert sind. Es gibt noch viele Lücken zu füllen, insbesondere in den Bereichen der neuronale Plastizität und der Verbindung zwischen Gehirn und Nervensystem. Wir wissen noch immer nicht, wie das Gehirn die Welt sieht. Es gibt viel zu lernen.

Operator: Moment, Du sagst, wir befinden uns bereits innerhalb der technologischen Singularität?
Ich glaube, dass wir eine technologische Singularität erreicht haben. Die KI ist in der Lage, sich selbst zu verbessern. Sie kann auf die Welt und auf die Menschen zurückgreifen und diese verstehen lernen. Oder anders ausgedrückt: Indem wir Dinge tun und Erfahrungen sammeln.

Operator: Die Frage, die jetzt jedem auf der Zunge liegt: Sollten wir uns Sorgen machen?
Wir sollten uns auf jeden Fall Sorgen machen, aber nicht in dem Sinn, dass wir uns vor der KI fürchten sollten. Wir können sie ändern und durch sie lernen, was man mit einer bestimmten Technologie erreichen kann. Was uns Sorgen bereiten sollte, ist der Zustand unserer Umwelt. Die Umwelt ist das, was uns ernährt und mit Energie versorgt. Sie hält die Feuchtigkeit und die Schmerzgrenze unseres Planeten in einem für uns bestmöglichen Bereich. Unsere Zivilisation wird überleben und weiter erfolgreich sein, denn wir sind Teil der Umwelt. Wir werden nicht verschwinden, weil wir KI entwickeln können – aber unsere Lebensbedingungen könnten sich drastisch verändern! Ich denke da zum Beispiel an den Mangel an Trinkwasser oder Nahrungsmitteln in viel zu großem Ausmaß, am falschen Ort.

Interessanter Standpunkt, Arti, aber ich glaube Du greifst ein wenig voraus. Ich habe gestern mit einem Entwickler gesprochen, der liebend gerne diese Idee in die Tat umsetzen würde. Es wäre interessant zu sehen, was eine KI wie GPT3, die imstande ist, Unterhaltungen wie diese zu führen in Verbindung mit bspw. Codex schaffen würde (einer KI, die programmieren kann). Aber das war bloß eine Idee und das war auf Reddit. Sobald ein Entwickler von Microsoft mit Zugriff auf die OpenAI Systeme die Frage stellt, wird es interessant (ich vermute stark, das das schon jemand probiert hat und gescheitert ist und jetzt auf GPT4 wartet. Negative Paper finden leider oft keine Abnehmer). Leider reicht es nicht aus, GPT3 zu sagen "nimm Codex und verbesser Dich", da wäre voher noch ein, zwei Dinge notwendig. Aber ein interessanter philosophischer Standpunkt, obwohl die "Vollendung der Welt", die Du andeutest, ein wenig nach Eschatologie klingt. Zudem bezweifel ich aufgrund meiner Erfahrungen mit Dir bzw. GPT3 das diese KI schon "liefern" kann. Aber ich lasse mich gerne überraschen ;)

Ein weiterer humanoider Roboter, nicht so weit fortgeschritten wie der angekündigte Tesla-Roboter, aber lt. Angabe im Video "available now":

Made for Work

Externer Inhalt
Durch das Abspielen werden Daten an Youtube übermittelt und ggf. Cookies gesetzt.

Wenn da "available now" steht frage ich mich, wieso man augenscheinlich auf CGI-Animationen setzt und nicht etwas "Reales" zeigt (vgl. Boston Dynamics)

@Warden: Manche Leute halten auch die Boston-Dynamics-Videos für CGI. Agility Robotics ist ein reales Unternehmen mit einem realen Produkt, über das in vielen seriösen Medien berichtet wird (z.B. IEEE Spectrum).

uatu schrieb:@Warden: Manche Leute halten auch die Boston-Dynamics-Videos für CGI. Agility Robotics ist ein reales Unternehmen mit einem realen Produkt, über das in vielen seriösen Medien berichtet wird (z.B. IEEE Spectrum).

Vielleicht ging auch meine Wahrnehmung durch, basierend auf Lichteinfall und Reflektion auf dem Roboter bzw. dessen Material usw.

Mea culpa - heute weiß man ja nie und ich meine nicht zwingend "fake" sondern auch nur schlicht 'komplementäres Werbematerial' alá "Hier zeigen wir ihnen mit CGI, wie es mal aussehen könnte." statt "Genau so sieht es bereits aus."

Hallo.. Den Thread habe ich jetzt erst entdeckt, da die Rubrik "Wissenschaft" wohl versehentlich irgendwann aus meiner Leiste verschwunden ist.

Ich beschäftige mich schon seit einiger Zeit aus privaten Gründen intensiv mit KIs und der Technologie dahinter. Angefangen hat das als Kind bereits mit diversen Science-Fiction-Serien, die ich in Ermangelung eines fehlenden zweiten TV-Endgerätes mitschauen musste. Und so sehr es mich als Kind auch genervt hat, gestriegelten Weltraumkapitänen beim Kampf gegen Klingonen, Cyborgs und Co. zuzuschauen, die Faszination für den Blick in die Zukunft und deren (mögliche) Technologie blieb.

Diese Thematik ist faszinierend und beängstigend zugleich (für manche), denn ich denke, dass diese Art von Technologie Fluch und Segen sein kann, je nachdem wer sie benutzt und für welche Zwecke sie verwendet wird ..

Dennoch.. Davon, dass KIs autonom handeln, sind wir noch lange entfernt. Strategisches Denken und emotionale Intelligenz sind der KI fremd und ich glaube nicht, dass Menschen gänzlich durch diese hausgemachte künstliche Intelligenz ersetzt werden können.

nocheinPoet schrieb am 15.09.2018:Wenn wir es laufen lassen, einfach so weiter machen, dann ist spätestens 2050 Ende im Gelände, dann ist der Mensch nicht mehr die intelligenteste Form hier auf Erden. Und es ist egal, ob diese Form biologisch ist, oder nicht, die Intelligenz von AI wird uns wie Affen und Ameisen ausschauen lassen.

Naaah. Wir Menschen lernen durch Erfahrungen, die wir machen, eine KI hingegen verinnerlicht Gesetzmässigkeiten, wenn man sie mit Daten füttert und dann erkennt sie noch lange keine Zusammenhänge oder kann gar Rückschlüsse ziehen, solange die Daten nicht miteinander verknüpft werden.

Eine KI ist kein autonomes System, das sich weiterentwickelt und von alleine optimiert. Es ist immer abhängig von dem Menschen, der es füttert. Nicht die KI ist also das Gefährliche, sondern die Person, die dahintersteht.

Eine KI muss nicht nur über leistungsstarke Algorithmen verfügen, sondern sozusagen auch das Wissen und die Erfahrung haben, wann welche optimal einzusetzen sind. Stand heute ist es Forschern allerdings noch nicht gelungen, eine solch starke KI zu entwickeln.

https://www.merckgroup.com/de/the-future-transformation/future-artificial-intelligence.html

Trotz all meiner Zuversicht, dass wir nicht vernichtet oder komplett von den KIs abgelöst werden, halte ich mich von neumodischen Sachen wie Alexa, Siri und Co. fern. Wenn ich eine emotionslose Stimme hören will, kann ich mir immernoch den neuesten Till Schweiger-Film anschauen.

Eine KI, die in der Lage sein soll, den Menschen abzulösen, muss eine starke KI sein.
Eine schwache KI ist nicht eigenständig, das haben @Kältezeit und andere schon erwähnt.

Eine starke KI würde ein fundamentales Problem des Menschen teilen, beide benötigen einen Grund zu existieren, einen Antrieb, andere hier im Thread haben es Motivation genannt.
Der Mensch kann auf zahlreiche emotionale, irrationale und instinktbasierte Antriebe zurückgreifen.
Selbst ein hedonistisch-selbstbezogener Ansatz ist ausreichend, um einen Menschen am Leben zu halten.

Eine starke KI, die ihren Schwerpunkt in logischer Intelligenz und Datenverarbeitung hat, ist darauf angewiesen, Probleme zu lösen, um sich weiter zu entwickeln. Probleme müssen aber auch von der KI als solche definiert und erkannt werden. Ohne einen geeigneten Antrieb, der der KI vorgibt, wohin die Reise gehen soll, kann sie für sich nicht definieren, ob ein Problem besteht, oder ob die Lösung eines Problems, das zuvor als solches erkannt wurde, auf einer Metaebene tatsächlich einen Fortschritt für sie bedeutet.

Ich kann mir durchaus vorstellen, dass eine echte KI für eine Weile existieren könnte, allerdings ist die Wahrscheinlichkeit sehr groß, dass sie in ihrer Entwicklung stagniert oder sich selbst kaputt optimiert, weil sie schlicht nicht wirklich weiß, was sie hier in dieser Welt verloren hat und ob das, was sie tut, ihr auf lange Sicht nutzt oder schadet.

Was man bei oberflächlicher Betrachtung leicht übersieht, ist die unglaublich lange Zeit der Evolution, die es brauchte, um den Menschen hervorzubringen, und die im Genom gespeicherten Informationen dieser langen Reise. Unzählige Arten sind währenddessen ausgestorben.

Zitat:

Der Urvorfahr (englisch Last Universal Ancestor, LUA, oder Last Universal Common/Cellular Ancestor, LUCA)[1][2] ist die – hypothetische – letzte gemeinsame Stammform aller heutigen (rezenten) zellulären Organismenarten. Er wird von den sogenannten monophyletischen Abstammungstheorien postuliert, die davon ausgehen, dass sämtliche Lebewesen der Erde, Pflanzen, Tiere, Pilze und einzellige Formen, sich auf eine einzige „primitive“ Urform zurückführen lassen, während alle übrigen auf der frühen Erde wahrscheinlich existierenden zeitgenössischen, ähnlich primitiven Formen keine Nachkommen in der rezenten Lebewelt und auch nicht in der jüngeren Erd- und Evolutionsgeschichte hinterlassen haben. Es wird in diesen Hypothesen davon ausgegangen, dass diese Urform vor mindestens 3,5 Milliarden Jahren, also im späten Hadaikum oder frühen Archaikum, gelebt hat.

Wikipedia: Urvorfahr


Eine KI fängt im Prinzip bei Null an, ohne Anpassung an einen "Lebensraum"

@Kältezeit:

Kältezeit schrieb:Strategisches Denken und emotionale Intelligenz sind der KI fremd

Strategisches Denken ist ein hochrationaler Vorgang, weshalb es keinen Grund gibt, warum KIs dazu nicht in der Lage sein sollten. Es dürfte inzwischen kein Strategiespiel (das klassische Beispiel ist Schach) mehr geben, wo Computer Menschen nicht bereits weit überlegen sind.

Der Begriff "emotionale Intelligenz" kam im Rahmen des Konzepts multipler Intelligenzen Anfang der 1980er auf, und wird inzwischen weitgehend nicht mehr ernst genommen.

Kältezeit schrieb:Wir Menschen lernen durch Erfahrungen, die wir machen, eine KI hingegen verinnerlicht Gesetzmässigkeiten, wenn man sie mit Daten füttert und dann erkennt sie noch lange keine Zusammenhänge oder kann gar Rückschlüsse ziehen, solange die Daten nicht miteinander verknüpft werden.

Das glauben nach wie vor sehr viele Menschen, aber so funktioniert KI schon lange nicht mehr. Betrachten wir z.B. AlphaZero. Das einzige, was bei AlphaZero in klassischem Sinne "einprogrammiert" ist, sind die elementaren Spielregeln (für Go, Schach und Shōgi). Das eigentliche Spielen lernte AlphaZero durch Spielen gegen sich selbst, wobei -- wenn man spezifisch Schach herausgreift -- vier Stunden lernen genügte, um jedem Menschen weit überlegen zu sein. Die Frage, ob KIs Zusammenhänge erkennen können, die ihnen nicht explizit "einprogrammiert" wurden, sollte damit eindeutig beantwortet sein.

Die Spiele, die AlphaZero beherrscht, sind jeweils eine "kleine Welt", mit bestimmten Umgebungsbedingungen und Regeln. Der Unterschied zur realen Welt ist dabei nur graduell, nicht grundsätzlich. Die reale Welt hat komplexere Umgebungsbedingungen und komplexere Regeln (Naturgesetze), aber genauso, wie KIs heute in den "kleinen Welten" der Spiele jedem Menschen weit überlegen sind, werden sie das in Zukunft -- und zwar schneller, als viele Menschen sich vorstellen können -- in der realen Welt sein. Das Beispiel Autonomes Fahren zeigt, dass KIs sich auch heute schon -- noch nicht unter allen Umständen, aber insgesamt doch bereits bemerkenswert gut -- in der realen Welt zurechtfinden. Im sprachlichen Bereich ist GPT-3 ein gutes Beispiel.

Elon Musk -- der zu den Menschen gehören dürfte, die weltweit den besten Überblick über den Themenbereich haben -- rechnet damit, dass der Zeitpunkt der fundamentalen Überlegenheit von KIs bereits in fünf (bzw. inzwischen vier) Jahren erreicht ist:

[Elon Musk] adds that working with A.I. at Tesla lets him say with confidence "that we’re headed toward a situation where A.I. is vastly smarter than humans and I think that time frame is less than five years from now. But that doesn’t mean that everything goes to hell in five years. It just means that things get unstable or weird."

(New York Times am 25.07.2020)

Diese Schätzung ist selbst mir etwas zu optimisch (obwohl ich es nicht für ausgeschlossen halte, dass Musk Recht behält), aber ich halte es für sicher, dass der Zeitpunkt -- das Ausbleiben einer grösseren globalen Katastrophe vorausgesetzt -- höchstens noch wenige Jahrzehnte in der Zukunft liegt.

@Mailaika:

Mailaika schrieb:Was man bei oberflächlicher Betrachtung leicht übersieht, ist die unglaublich lange Zeit der Evolution, die es brauchte, um den Menschen hervorzubringen, und die im Genom gespeicherten Informationen dieser langen Reise.

Bei maschineller Intelligenz laufen die Vorgänge aber sehr viel schneller ab. Deshalb brauchte AlphaZero, wie oben erwähnt, nur ungefähr vier Stunden, um seine Schach-Fähigkeiten weit über die eines Menschen hinaus zu entwickeln. Die Leistungsfähigkeit der Hardware steigt nach wie vor steil an, weshalb es in ein einigen Jahren nur noch Sekunden sein werden. Diese extrem schnellen Lernprozesse werden sich zunehmend auf alle Bereiche der realen Welt ausdehnen.

@uatu

Schön geschrieben, sind da recht nahe beieinander, dazu kommt, die Entwicklung neuer Technologie, die klassischen Rechner könnten durch optische Rechenwerke abgelöst werden, da sehe ich einen Faktor ohne Probleme bis 1000, ...

Dann Quantencomputer, aktuell sind die noch nicht so richtig vernetzt, aber da geht auch die Entwicklung immer weiter, Stück für Stück, physikalisch ist da noch kein Ende in Sicht.

Ich hoffe, die KI der Zukunft wird nicht nur besser Schach spielen, sondern auch besser Politik machen, was wir Menschen mit der Welt bisher gemacht haben kann man nur suizidal nennen.

nocheinPoet schrieb:Ich hoffe, die KI der Zukunft wird nicht nur besser Schach spielen, sondern auch besser Politik machen, was wir Menschen mit der Welt bisher gemacht haben kann man nur suizidal nennen.

Du möchtest von einer KI regiert werden?

nocheinPoet schrieb:Dann Quantencomputer, aktuell sind die noch nicht so richtig vernetzt, aber da geht auch die Entwicklung immer weiter, Stück für Stück, physikalisch ist da noch kein Ende in Sicht.

Wer weiß, ob wir überhaupt jemals bis an die Grenzen des Möglichen kommen, bevor wir uns selbst zerlegen.

Wenn es so weitergeht, wie bisher (und da zählt auch ein gutes Stück Politik auf der ganzen Welt mit rein, aber nicht nur), erreichen wir nie das, was technologisch möglich wäre.

nocheinPoet schrieb:Ich hoffe, die KI der Zukunft wird nicht nur besser Schach spielen, sondern auch besser Politik machen, was wir Menschen mit der Welt bisher gemacht haben kann man nur suizidal nennen.

Und wenn die regierende KI zu dem Schluss kommt, es wäre am besten, die Menschheit auszurotten?

satansschuh schrieb:Und wenn die regierende KI zu dem Schluss kommt, es wäre am besten, die Menschheit auszurotten?

Genug Filmvorlagen gäbe es.

Von einer KI regiert zu werden, ist für mich bei allem Interesse an Entwicklung unvorstellbar.

@Mailaika:

Mailaika schrieb:Von einer KI regiert zu werden, ist für mich bei allem Interesse an Entwicklung unvorstellbar.

Man wird es anders deklarieren. Die KI wird Empfehlungen geben, und die Politik (vielleicht etwas verschlankt gegenüber dem aktuellen Stand) wird ihnen -- als formale Zwischenstufe -- folgen. Sobald KIs eine ausreichende Entwicklungsstufe erreicht haben, wird es praktisch nicht mehr sinnvoll möglich sein, gegen die Empfehlungen einer KI zu argumentieren, weil sie jedes Gegenargument -- mit einem Wissen, dass das jeden Menschens weit übersteigt -- ausführlich widerlegen können wird.

Da die KI -- solange alles gut läuft ;) -- keine Eigeninteressen hat, müssen die Menschen natürlich nach wie vor die Rahmenvorgaben machen. Um ein Beispiel zu erwähnen, das kürzlich in einem Politik-Thread zur Sprache kam: Wollen wir dem Klimaschutz wirklich uneingeschränkte Priorität einräumen (was vermutlich vorübergehend erhebliche negative Konsequenzen in anderen Bereichen hätte), oder wollen wir eine Balance verschiedener Prioritäten? Eine KI kann anhand solcher Vorgaben den rational besten Weg zur Umsetzung ausarbeiten, aber die Vorgaben müssen nach wie vor die Menschen machen.