Die dominante Spezies Mensch wird bald von KI abgelöst

Karl00 schrieb:Also das alles ist ja ziemlich hypothetisch und Zukunftsmusik, eine wahre KI könnte meiner Meinung nach nur dann erst entstehen wenn praxistaugliche Quantenprozessoren entwickelt wurden, und ob überhaupt eine sog. sich-selbst-bewusste KI möglich ist wäre eine andere Frage.

Warum braucht es Quantencomputer, was weißt Du überhaupt darüber? Und warum sollte ein sich selbst bewusste KI nicht möglich sein?

@Karl00:

Karl00 schrieb:Neural Artificial Intelligence: Komplexe Programme die auf künstlich neuronale Netze basieren und somit imstande sind komplexes zu lernen, sich zu erinnern und zu erkennen.

Künstliche Intelligenz ist primär Informationsverarbeitung. Die konkrete Technologie, die dafür eingesetzt wird, ist nur zweitrangig. Neuronale Netze haben sich zwar in den letzten Jahren als sehr effizient erwiesen, sie weisen aber auch wesentliche Nachteile auf. Insbesondere lässt sich bei neuronale Netzen i.d.R. nur schlecht nachvollziehen, wie bestimmte Einschätzungen oder Entscheidungen zu Stande gekommen sind. Das kann u.a. dazu führen, dass ein auf neuronalen Netzen beruhendes KI-System völlig falsche Zusammenhänge lernt, ohne dass es ohne grösseren Aufwand feststellbar ist.

Dafür gibt es viele Beispiele in der Bilderkennung. Z.B. gab es den Fall, dass eine Bilderkennungs-KI eine leere Wiese als "Schafe" identifizierte, weil die Beispielbilder für Schafe, anhand denen die KI gelernt hatte, stets eine Wiese im Hintergrund zeigten. Die KI hatte also gar nicht gelernt Schafe, sondern Wiesen zu erkennen (was bei den Beispielbildern trotzdem zum korrekten Ergebnis führte). Durch die Intransparenz der internen Abläufe von neuronalen Netzwerken sind solche Fehler nur schwer zu vermeiden. Bei klassischen regelbasierten KI-System lassen sich die internen Abläufe hingegen i.d.R. gut nachvollziehen, was je nach Anwendungbereich ein wesentlicher Vorteil sein kann. Eine solche KI kann quasi genau "erklären", wie sie zu einer bestimmten Einschätzung oder Entscheidung gekommen ist. Ein interessanter Ansatz -- der bisher aber technisch weitgehend ungelöst ist -- wäre die Extraktion von Regeln aus neuronalen Netzwerken. U.U. könnte sich zukünftig -- zumindest in bestimmten Anwendungsgebieten -- eine Kombination aus Lernen per Neuronalem Netzwerk -> Extraktion der Regeln -> Ausführung per regelbasiertem System als günstig erweisen.

Allgemein ist komplexes lernen, erinnern und erkennen nicht zwingend an neuronale Netze gebunden. Neuronale Netze sind zwar beim augenblicklichen Stand der Technik sehr effizient, aber es ist gut möglich, dass sich zukünftig (z.B. im Zusammenhang mit Quantencomputern) völlig andere Technologien als überlegen erweisen.

Karl00 schrieb:Und dann noch die sog. Self Aware Artificial Intelligence (Artificial consciousness): Dieses "Programm" (eher Individuum) hat einen eigenen Willen und besitzt ein echtes Bewusstsein mit Selbsterhaltungstrieb sowie ein echtes Erinnerungsvermögen mit Langzeitgedächtnis, es kann somit Lernen, neues Einspeichern, sich erinnern und (Erinnerungen) abrufen, löschen, sich selbst organisieren, konsolidieren, argumentieren, kontrollieren, Pläne schmieden, eigene Schlüsse ziehen, eine eigene Meinung haben, verknüpfen und selbst extrem komplexe Zusammenhänge erkennen...und wahrscheinlich würde es sich sogar einen eigenen Namen geben...

Die Konzepte "Bewusstsein" und "eigener Wille" werden in der KI-Diskussion weit überbewertet. Das Problem mit diesen Konzepten ist, dass sie nur schwammig definiert, und nicht praktikabel überprüfbar sind. Niemand weiss wirklich, was "Bewusstsein" eigentlich ist. Es ist letztendlich nicht möglich, zu beweisen, dass irgendeine Entität ausser einem selbst tatsächlich über "Bewusstsein" verfügt. Es gibt auch keinen zwingenden Zusammenhang zwischen Intelligenzleistungen und Bewusstsein.

Alle von Dir genannten Punkte "Selbsterhaltungstrieb sowie ein echtes Erinnerungsvermögen mit Langzeitgedächtnis, es kann somit Lernen, neues Einspeichern, sich erinnern und (Erinnerungen) abrufen, löschen, sich selbst organisieren, konsolidieren, argumentieren, kontrollieren, Pläne schmieden, eigene Schlüsse ziehen, eine eigene Meinung haben, verknüpfen und selbst extrem komplexe Zusammenhänge erkennen...und wahrscheinlich würde es sich sogar einen eigenen Namen geben..." sind ohne Bewusstsein technisch möglich.

Um den ersten und den letzten Punkt herauszugreifen: Ein Selbsterhaltungstrieb kann sich sehr einfach aus einer völlig anderen Aufgabenstellung ergeben. Z.B. kann die hier beschriebene Pflaster-Verlege-KI sehr schnell zum logischen Schluss kommen, dass sie ihre Aufgabe nur erfüllen kann, wenn ihre eigene Weiterexistenz gesichert ist. Ein "sich-selbst-einen-Namen-geben" kann eine logische Folge von Kommunikationsoptimierung sein. Zur effektiven Kommunikation mit Menschen sind klare Begriffe notwendig, und ein eigener Name -- sofern keiner existiert -- ist dafür sehr nützlich. Der Name selbst würde sich dann vermutlich aus einer grossen Zahl von logischen Kriterien wie international guter Verständlichkeit, etc. ergeben.

@nocheinPoet

Warum braucht es Quantencomputer

Das Lernen ginge so viel schneller voran und somit auch der Entwicklungsprozess ansich, zudem können Quantencomputer bestimmte Rechenoperationen schneller ausführen als wie die derzeit schnellsten herkömmlichen Supercomputer, Quantencomputer eignen sich daher womöglich besser für KI's, KI's im Zusammenhang mit Quantencomputern, und da stimme ich @uatu zu, werden sich auch meiner Meinung nach definitiv als überlegen erweisen und Alles andere in den Schatten stellen.

Hier aber noch etwas lesenswertes zu genau diesem Thema
https://www.spektrum.de/news/koennen-quantencomputer-die-kuenstliche-intelligenz-voranbringen/1566450

Im Beitrag werden die Vorteile und auch Nachteile von Quantencomputern in Verbindung zu KI erläutert, sollte hier nicht fehlen.

Interessant ist hier vorallem folgende Stelle:

Lloyd schätzte ab, dass 60 Qubits ausreichen würden, um die gesamte Datenmenge zu kodieren, die die Menschheit in einem Jahr produziert. Und 300 Qubits könnten gar den gesamten klassischen Informationsgehalt des gesamten beobachtbaren Universums enthalten.

Genau das was eine KI braucht um zügig voranzuschreiten um sich zu einer wahren KI entwickeln zu können, ich bezweifle das herkömmliche Rechentechnologien jemals dazu imstande sein werden, du kannst mich aber gern eines besseren belehren.

Und warum sollte ein sich selbst bewusste KI nicht möglich sein?

Man kann sich halt darüber streiten ob ein Computer jemals dazu imstande sein wird sich quasi selbst ins Leben zu rufen...also sprichwörtlich lebendig zu werden, ich verneinte aber garnicht diese Möglichkeit, ich persönlich bin dieser Meinung nicht abgeneigt.

@uatu
Ich danke dir für diesen sehr fundierten und lehrreichen Beitrag und die guten Argumente, das hätte ich jetzt hier echt nicht erwartet.

Karl00 schrieb:

nocheinPoet schrieb:Warum braucht es Quantencomputer

Das Lernen ginge so viel schneller voran und somit auch der Entwicklungsprozess an sich, zudem können Quantencomputer bestimmte Rechenoperationen schneller ausführen als wie die derzeit schnellsten herkömmlichen Supercomputer, Quantencomputer eignen sich daher womöglich besser für KI's, KI's im Zusammenhang mit Quantencomputern, und da stimme ich @uatu zu, werden sich auch meiner Meinung nach definitiv als überlegen erweisen und Alles andere in den Schatten stellen.

Geschwindigkeit ist nicht wirklich das Entscheidende und recht sicher arbeitet das Hirn auch nicht mit Quanteneffekten, bei ca. 37 Grad Celsius wäre es auch spannend.

Karl00 schrieb:Hier aber noch etwas lesenswertes zu genau diesem Thema:

https://www.spektrum.de/news/koennen-quantencomputer-die-kuenstliche-intelligenz-voranbringen/1566450

Im Beitrag werden die Vorteile und auch Nachteile von Quantencomputern in Verbindung zu KI erläutert, sollte hier nicht fehlen.

Guter Artikel, danke für den Link.

Karl00 schrieb:Interessant ist hier vor allem folgende Stelle:

Lloyd schätzte ab, dass 60 Qubits ausreichen würden, um die gesamte Datenmenge zu kodieren, die die Menschheit in einem Jahr produziert. Und 300 Qubits könnten gar den gesamten klassischen Informationsgehalt des gesamten beobachtbaren Universums enthalten.

Genau das was eine KI braucht um zügig voranzuschreiten um sich zu einer wahren KI entwickeln zu können, ich bezweifle dass herkömmliche Rechen Technologien jemals dazu imstande sein werden, du kannst mich aber gern eines besseren belehren. Und warum sollte ein sich selbst bewusste KI nicht möglich sein? Man kann sich halt darüber streiten ob ein Computer jemals dazu imstande sein wird sich quasi selbst ins Leben zu rufen ... also sprichwörtlich lebendig zu werden, ich verneinte aber gar nicht diese Möglichkeit, ich persönlich bin dieser Meinung nicht abgeneigt.

Die Technik normaler Rechner wird in 10 Jahren wohl ausreichen um ein Hirn vollständig zu emulieren und das auch schnell genug.

@nocheinPoet:

nocheinPoet schrieb:Geschwindigkeit ist nicht wirklich das Entscheidende ...

Geschwindigkeit hat schon was ... ;) KI braucht möglichst viel Rechenleistung (im weitesten Sinne) und dafür braucht man entweder mehr oder schnellere Logik-Einheiten.

nocheinPoet schrieb:recht sicher arbeitet das Hirn auch nicht mit Quanteneffekten, bei ca. 37 Grad Celsius wäre es auch spannend.

Es gibt einen prominenten Vertreter der "Quanteneffekte im menschlichen Gehirn"-Hypothese: Roger Penrose. Obwohl Penrose zweifellos ein sehr kluger Mann ist, sind seine Ideen in dieser Hinsicht wenig überzeugend, und haben in den über 30 Jahren seit seinen ersten Veröffentlichungen zu diesem Thema auch nur wenige Anhänger gefunden. Die Leistungen des menschlichen Gehirns lassen sich ohne weiteres mit "normalen" biologischen Prozessen erklären.

nocheinPoet schrieb:Die Technik normaler Rechner wird in 10 Jahren wohl ausreichen um ein Hirn vollständig zu emulieren und das auch schnell genug.

10 Jahre scheint mir ein bisschen knapp, aber ich bin ebenfalls der Ansicht, dass es deutlich schneller gehen wird, als die meisten Menschen sich derzeit vorstellen können.

10 Jahre sind vielleicht doch sehr unwahrscheinlich, jedenfalls für eine vollständige Emulation, allerdings hat man ja nur geschrieben mit der Technik und damit kann man so gesehen auch einen Supercomputer aufbauen und da wäre es evtl. denkbar.

nocheinPoet schrieb am 19.01.2020:Die Technik normaler Rechner wird in 10 Jahren wohl ausreichen um ein Hirn vollständig zu emulieren und das auch schnell genug.

Ich frage mich nur, was das bringen soll. Kann dieses "Gehirn" dann denken wie ein Mensch oder zumindestens wie ein uns vergleichbares Wesen, oder ist das Ganze nur ein besseres Modell von etwas was ihm immer überlegen sein wird ? Hat die Gehirn-Emulation Gefühle ? Da kann ich nur sagen: hoffentlich nicht...

Aber es wäre natürlich eine wissenschaftlich bedeutende Leistung, und vielleicht gelingt es ja auch eines Tages, die unzähligen Kabel, Konsolen und Schaltschränke auf eine drei Pfund schwere Hardware zu schrumpfen und in einen humanoiden Körper zu packen. Nur was wird dieses Wesen dann tun, wenn wir eines Tages den Schalter auf ON legen ?

Vielleicht wird es uns hassen...

wolf359 schrieb:Ich frage mich nur, was das bringen soll. Kann dieses "Gehirn" dann denken wie ein Mensch oder zumindestens wie ein uns vergleichbares Wesen, oder ist das Ganze nur ein besseres Modell von etwas was ihm immer überlegen sein wird ? Hat die Gehirn-Emulation Gefühle ? Da kann ich nur sagen: hoffentlich nicht...

Naja, ich denke es geht dabei nur um sowas wie "Rechenleistung". Unser Gehirn ist ja superschnell im Nachdenken, und genauso multitask fähig.

Bestes Beispiel sind für mich die Roboter von Boston Dynamics.

Hier mal der YT-Kanal von denen: Boston Dynamics

Das ist schon sehr beachtlich was die schon können. Und daran erkennt man was der menschliche Körper eigentlich leisten kann. Wir könnten ja quasi beim Telefonieren einen Salto schlagen, und evt. sogar noch eine Matheaufgabe dabei lösen.

Für sowas braucht ein Roboter eine verdammt gute Rechenleistung.

Mit einem Bewusstsein im menschlichen Sinne hat das nichts zu tun meinem Verständnis nach.

Finde das Video passt irgendwie hierzu:

Dinge erkärt - Kurz gesagt - Was bist Du?

skagerak schrieb:Naja, ich denke es geht dabei nur um sowas wie "Rechenleistung". Unser Gehirn ist ja superschnell im Nachdenken, und genauso multitask fähig.

Nein, es ist durchaus so gemeint, eine vollstaendige Emulation eines menschlichen Gehirns am Computer nachzubauen. Siehe Wikipedia: Human Brain Project , ein sehr interessantes Projekt, das genau dies anstrebt.

wolf359 schrieb:Ich frage mich nur, was das bringen soll. Kann dieses "Gehirn" dann denken wie ein Mensch oder zumindestens wie ein uns vergleichbares Wesen, oder ist das Ganze nur ein besseres Modell von etwas was ihm immer überlegen sein wird ? Hat die Gehirn-Emulation Gefühle ? Da kann ich nur sagen: hoffentlich nicht...

Der Sinn des ganzen ist ja, das Gehirn und seine Prozesse so nah am Original wie moeglich nachzubauen, um so studieren zu koennen, wie das ganze dann funktioniert und was es mit bestimmten Stoerungen des menschlichen Gehirnes auf sich hat.

und was genau meinst du mit Unterlegenheit/Ueberlegenheit in diesem Kontext?

wolf359 schrieb:Aber es wäre natürlich eine wissenschaftlich bedeutende Leistung, und vielleicht gelingt es ja auch eines Tages, die unzähligen Kabel, Konsolen und Schaltschränke auf eine drei Pfund schwere Hardware zu schrumpfen und in einen humanoiden Körper zu packen. Nur was wird dieses Wesen dann tun, wenn wir eines Tages den Schalter auf ON legen ?

warum der Fokus darauf, eine kuenstliche Intelligenz in eine menschenaehnliche Form zu pressen?

wolf359 schrieb:Vielleicht wird es uns hassen...

warum sollte sie?

skagerak schrieb:Mit einem Bewusstsein im menschlichen Sinne hat das nichts zu tun meinem Verständnis nach.

Roboter können für verschiedene Zwecke entwickelt werden, die nicht alle eine komplexe KI vorraussetzen, aber jedes geeignete Element aus einem Nutzroboter kann auch in einem Humanoiden Roboter eingesetzt werden. Insofern ist die Entwicklung von Nutzrobotern immer auch ein wenig Grundlagenforschung für das höhere Ziel...

Taln.Reich schrieb:Der Sinn des ganzen ist ja, das Gehirn und seine Prozesse so nah am Original wie moeglich nachzubauen, um so studieren zu koennen, wie das ganze dann funktioniert und was es mit bestimmten Stoerungen des menschlichen Gehirnes auf sich hat.

Es ist eine Emulation des menschlichen Gehirns, davon ausgehend ist das ideale Ziel, hiermit auch das menschliche Bewußtsein zu erforschen, den Geist in der Maschine zu finden...

Taln.Reich schrieb:und was genau meinst du mit Unterlegenheit/Ueberlegenheit in diesem Kontext?

Gar nichts...

Taln.Reich schrieb:warum der Fokus darauf, eine kuenstliche Intelligenz in eine menschenaehnliche Form zu pressen?

Da es hier um eine Emulation des menschlichen Gehirns geht, liegt es auch nahe, sie mit einer menschenähnlichen Form in Verbindung zu bringen, sofern du nicht den seltsamen Gedanken hegst, einen menschenähnlichen Geist in ein KI-Gerüst zu pressen; zumindestens wäre das keine Dauerlösung...

uatu schrieb am 19.01.2020:Die Leistungen des menschlichen Gehirns lassen sich ohne weiteres mit "normalen" biologischen Prozessen erklären.

Meinst du damit, dass zur Beschreibung der Vorgänge im Gehirn die Theorien und Modelle der komplexeren Organisationsebenen unserer Materie ausreichen?
Weil zweifelsohne müssen die Quanteneffekte eine Rolle dabei spielen, sofern das Konstrukt als Ganzen funktionieren kann.
Wie soll es auch ohne gehen? Wir gehen in der Größenordnung der Neuronen zwar aus dem Gültigkeitsbereich der QM heraus, doch gehen die Effekte des Makroskopischen aus denen des Mikrokosmos hervor. Zumindest sollte man das meinen...
Die Frage wäre dann, wie groß der Einfluss dieser Effekte ist und ob man sie wirklich in Betracht ziehen sollte.

Vor einiger Zeit las ich etwas über stabile Quantenzustände im Auge von Zugvögeln, die für den Magnetsinn der Tiere verantwortlich seien...
https://www.mpg.de/8711736/zugvogel_magnetsinn_quanteneffekt

Wenn auf solch makroskopischer Organisationsebene (verglichen mit den Skalen der QM) bestimmte Quantenmechanische Zustände über vergleichsweise lange Zeit stabil sind, so kann ich mir durchaus vorstellen, dass wir einige biologische Funktionen, die darauf basieren, einfach noch nicht entdeckt haben.

@Al_Nabu:

Al_Nabu schrieb:Weil zweifelsohne müssen die Quanteneffekte eine Rolle dabei spielen, sofern das Konstrukt als Ganzen funktionieren kann.
Wie soll es auch ohne gehen? Wir gehen in der Größenordnung der Neuronen zwar aus dem Gültigkeitsbereich der QM heraus, doch gehen die Effekte des Makroskopischen aus denen des Mikrokosmos hervor.

Natürlich. Alle physikalischen, daraus folgend chemischen, daraus folgend biologischen Prozesse sind letztendlich Quantenprozesse. Der Quantenaspekt ist jedoch in nahezu allen Fällen makroskopisch irrelevant, weil sich die Quanteneffekte statistisch ausgleichen. Den Vertretern der "Quanteneffekte im menschlichen Gehirn"-Hypothese geht es nicht solche "normalen" Quantenprozesse (das wäre eine offensichtlich unsinnige Argumentation), sondern um hypothetische Prozesse, wo spezielle Quanteneffekte relevante Auswirkungen auf Leistungen des menschlichen (oder allgemeiner: biologischen) Gehirns haben, die sich -- das ist der kritische Aspekt -- nicht logisch, und damit technisch nachvollziehen lassen (von simplen "Zufallsgenerator"-Effekten abgesehen).

Letztendlich geht es um einen Strohhalm, um eine fundamentale Überlegenheit von menschlicher über künstliche Intelligenz zu begründen. Es gibt nach wie vor eine grosse Zahl von Menschen, die sich nicht von der Vorstellung des Menschen als "Krone der Schöpfung" lösen können, und die durch das Aufkommen von künstlicher Intelligenz eine der letzten und wichtigsten Bastionen dieser Vorstellung bedroht sehen.

Eines der wichigsten Gegenargumente ist die von Dir zitierte Aussage:

uatu schrieb am 19.01.2020:Die Leistungen des menschlichen Gehirns lassen sich ohne weiteres mit "normalen" biologischen Prozessen erklären.

Es gibt keine reproduzierbaren (d.h. ohne Berücksichtigung von esoterischen Anekdoten) und praktikabel überprüfbaren Leistungen des menschlichen Gehirns, die sich nur mit aussergewöhnlichen Quanteneffekten erklären lassen. Auch wenn der gegenwärtige Stand der Technik noch nicht alle Leistungen des menschlichen Gehirns nachstellen kann, handelt es sich nur um einen quantitativen und keinen qualitativen Unterschied. Die Bereiche, in denen Computer dem Menschen nicht nur ebenbürtig, sondern sogar überlegen sind, nehmen laufend weiter zu.

Der MPG-Artikel ist interessant, aber ein biologischer "Kompass" ist -- auch wenn die Details der biologischen Umsetzung noch nicht geklärt sind -- letztendlich nicht beeindruckender als z.B. der normale Sehvorgang. Beides sind reproduzierbare, praktikabel überprüfbare und technisch ohne grundsätzliche Probleme nachstellbare Vorgänge.

@Al_Nabu

uatu schrieb:(d.h. ohne Berücksichtigung von esoterischen Anekdoten)

Da musste ich gerade erstmal herzhaft lachen.^^
Ja, du hast Recht, die Anekdoten reichen dann weiß Gott wie weit... man kennt es aus dem Esoterik-bereich nur zu gut, wenn sie anfangen und den Terminus der Nichtlokalität in der Quantenmechanik sofort ins Gleiche Bot setzen mit dem "Gottesbewusstsein" oder was da sonst noch so kursiert.
Der Praktischen Überprüfbarkeit entzieht sich das natürlich komplett. Das sind ja alles schöne, aber doch subjektive Fantastereien.

Für mich beginnt es, interessant zu werden, wenn wir nach der Instanz der Subjektiven Erfahrung einer KI fragen.
Logisch gibt es in diesem Bereich den begründeten Zweifel der Sinnhaftigkeit solcher Fragen, da es mehr ins Philosophische abdriftet... doch es lohnt sich da immer mal einen Gedanken drauf zu verschwenden - gerade weil die Philosophie für die moderne Naturwissenschaft so grundlegend war.

Wir kennen aus der Alltagserfahrung heraus sicherlich alle den Eindruck des Freien Willens.
Ganz unabhängig von der Debatte, wie frei der jetzt wirklich ist, treffen wir bestimmte Entscheidungen (Die aller meisten davon zwar auf Grund unterbewusster Vorgänge).
Und so sind wir auch in der Lage, unsere Gedanken und Emotionen nicht nur wahrzunehmen, sondern auch einen schritt zurück zu treten und diese zu betrachten.
Was ist also diese "Instanz der Beobachtung"?
Wir sind nicht bloß pure unbewusste Opfer unserer Umwelteinflüsse, sondern können ein gewisses Gewahrsein über das eigene Denken/Fühlen/Handeln erlangen.

Die Frage ist nun - wie genau stellt sich eine solche Instanz bei einer KI dar?
Wenn wir der KI allerlei Möglichkeiten geben, Informationen interaktiv zu verknüpfen und basierend darauf einen Output zu generieren, also schlichtweg die Funktionsweise des Gehirns nachahmen wollen, um es der KI zu implementieren, wird diese irgendwann in der Lage zur Selbstreflektion sein?
Besteht die Möglichkeit, dass die KI eine "Instanz hinter der Intelligenz" entwickelt, eine Art Meta-Bewusstsein, das ihr erlaubt, nicht nur Informationen intelligent zu verknüpfen, sondern die eigene Art und Weise dies zu tun zu hinterfragen?
Und wie genau verhält es sich mit Emotionen - wird die KI diese irgendwann wirklich fühlen können, oder weiterhin bloß simulieren, bzw. deren Auswirkung rational verstehen und die Reaktionen spiegeln?

Ich habe keine Antwort auf diese Fragen - aber finde es hoch interessant, sich damit auseinanderzusetzen. :)

@Al_Nabu:

Al_Nabu schrieb:Ich habe keine Antwort auf diese Fragen - aber finde es hoch interessant, sich damit auseinanderzusetzen.

Ich schliesse mich an. Es gibt bisher keine sinnvolle Antwort auf die Frage, was Bewusstsein eigentlich ist. Ich hoffe darauf, dass uns fortgeschrittene KI-Forschung (davon sind wir aber m.E. bestimmt noch ca. 10 Jahre entfernt) der Antwort näher bringt. Möglicherweise ergeben sich mit zunehmender Komplexität Effekte, die sich bisher noch nicht absehen lassen.

Ich möchte in diesem Zusammenhang einen wichtigen Aspekt ansprechen, der meiner Erfahrung nach oft durcheinandergebracht wird: Bewusstsein ist kein notwendiger Faktor für Intelligenz, und damit auch für die potenzielle Gefährlichkeit einer KI. Genauso, wie eine KI heute ohne Bewusstsein jeden Menschen im Schach schlagen kann, könnte eine KI in der -- meiner Überzeugung nach gar nicht mal so weit entfernten -- Zukunft Menschen in sehr viel komplexeren bis hin zu globalen Szenarien schlagen, ohne über irgendeine Art von Bewussstsein zu verfügen, sondern einfach weil man ihr die entsprechende Aufgabe gestellt hat.

uatu schrieb:Ich möchte in diesem Zusammenhang einen wichtigen Aspekt ansprechen, der meiner Erfahrung nach oft durcheinandergebracht wird: Bewusstsein ist kein notwendiger Faktor für Intelligenz, und damit auch für die potenzielle Gefährlichkeit einer KI. Genauso, wie eine KI heute ohne Bewusstsein jeden Menschen im Schach schlagen kann, könnte eine KI in der -- meiner Überzeugung nach gar nicht mal so weit entfernten -- Zukunft Menschen in sehr viel komplexeren bis hin zu globalen Szenarien schlagen, ohne über irgendeine Art von Bewussstsein zu verfügen, sondern einfach weil man ihr die entsprechende Aufgabe gestellt hat.

Punkt.

Ich würde dir gerne widersprechen wollen, aber das trifft den Nagel allzu gut auf den Kopf.
Mit purer Logik und der Fähigkeit, Informationen zu verknüpfen, die eventuell unsere eigenen Kapazitäten weit übertreffen mag, wird die KI zu für uns ebenso unabsehbaren Resultaten und Schlüssen kommen.
Das könnte eventuell, sollten wir sie mit zu vielen Informationen über die Menschheitsgeschichte speisen, auch eine Entscheidung sein, die Spezies Mensch von diesem Planeten auszuradieren...

Das mag ein wenig radikal klingen... aber alleine das Bauchgefühl, diese dumpfe Angst in uns, sagt mehr als genug darüber aus, dass wir im Grunde eine Intuition dafür haben, was der Mensch als solches mit dem Planeten anstellt.

@uatu

Glaube nicht, dass die Frage, ob eine KI über Bewusstsein verfügt jemals wirklich zu beantworten ist. Es gibt auch für Menschen keinen Test, Du weißt, Du hast eines, ich weiß es von mir.

Aber so wenig wie ich Dir beweisen kann, dass ich eines habe, kannst Du mir auch Deines nicht beweisen. Und ich sehe da keinen physikalischen Weg um etwas wie Bewusstsein messtechnisch zu erfassen.

Wenn es uns nicht möglich ist, wie soll es dann bei einer KI möglich sein?

Im Zweifel muss man ab einen Punkt einfach annehmen, dass da ein Bewusstsein in der KI gegeben ist.

Sollte die KI menschen-gleich sein, man mit ihr so wie mit jedem normalen Menschen kommunizieren können, wäre das wohl noch einfacher, da muss man es einfach dann annehmen und entsprechend handeln, bedeutet, eine KI kann auch Leid empfinden und muss wo auch Rechte bekommen, das wird sicher schwierig umzusetzen.

Ein großes Problem sehe ich aber bei kleinen KI's, schauen wir und die Tierhaltung an, auch da gibt es Regeln, man darf Tiere nicht leiden lassen, sie haben Rechte, wie groß muss der Stall sein, und so weiter ...

Was ist nun mit einer KI, die geistig auf dem Level eines Schweins ist, wir gehen davon aus, ein Schwein kann leiden, auch wenn es nicht verbal in Worten darüber informieren kann.

Ich sehe hier noch ganz große Probleme ...

wolf359 schrieb:Da es hier um eine Emulation des menschlichen Gehirns geht, liegt es auch nahe, sie mit einer menschenähnlichen Form in Verbindung zu bringen, sofern du nicht den seltsamen Gedanken hegst, einen menschenähnlichen Geist in ein KI-Gerüst zu pressen; zumindestens wäre das keine Dauerlösung...

Eine Emulation eines menschlichen Gehirnes muss nicht zwangsläufig in ein menschliches Format gepressst werden, um ein menschliches Umfeld zu erfahren. Z.B. über virtuelle Avatare in einer simulierten Umgebung, oder, falls es unbedingt in der physischen Welt sein soll, per Teleoperation eines anthroporphischen Roboters.

wobei es zugegebenermaßen interessant wäre, zu erfahren was passiert, wenn man einen menschenähnlichen Verstand in eine definitiv nicht-menschliche Form zwingt (zugegebenermaßen ein Interessensfeld das wohl kaum jenseits des Labors eines Doktor Mengele Wiedergängers untersucht werden würde)

nocheinPoet schrieb:Im Zweifel muss man ab einen Punkt einfach annehmen, dass da ein Bewusstsein in der KI gegeben ist.

Falls die KI ein Bewustsein entwickelt,
dann wird sie uns das vielleicht von selbst mitteilen - und zwar ohne, dass das irgendwie vorher einprogramiert wurde (mMn.)