Technologische Singularität

Taln.Reich schrieb:Ich kenne das Projekt,und finde es äußerst interessant. Wobei sich mir diesbezüglich (und vergleichbarer Versuche das menschliche Gehirn als Computersimulation nachzubilden) dann die Frage aufstellt, ob man dies dann wirklich als "künstliche Intelligenz" bezeichnen könnte. Schließlich wäre es doch eher eine natürliche Intelligenz übertragen auf eine andere Plattform.

Hmm.., irgendwie ja, Information ist ja natürlich und die daraus resultierende Intelligenz entsteht ja durch Verarbeitung von ihr
(der Information) Abspeicherung, Vernetzung usw.
Je besser das funktioniert je mehr ist ein Individuum in der Lage Probleme zu lösen und so wird ja Intelligenz definiert
(sag ich jetzt mal so als Laie).
Wenn jetzt das Muster eines Gehirns übertragen wird in einen Computer (wie bei dem Projekt Human Brain) ist es zwar nur
eine Kopie aber von seinem Informationsgehalt (Muster) gleichberechtigt.
Aus der Sicht könnte ich es als natürlich bezeichnen.
___________________________________

Andererseits:

Das künstliche würde ich aber nicht nur in den unterschiedlichen Plattformen sehen (organisch oder nicht organisch) sondern da
gibt es noch einen Unterschied.

Das "Original"(das echte Gehirn) hat sich dieses Muster "selbstständig" erarbeitet durch Erfahrung, lernen, Vernetzung von
Neuronen usw.. Es ist intelligent durch Evolution, das Computergehirn ist quasi nur eine Nachbildung
(ich bilde mir gerade ein das ist ein fundamentaler Unterschied zwischen den Wörtern natürlich und künstlich :) ).

Ich finde die Frage ist garnicht so leicht zu beantworten, kommt ja auch immer darauf an was man unter den Begriffen
versteht. Was ist natürlich oder künstlich (oder auch unnatürlich), bzw. wo zieht man die Grenze.
LG

@Taln.Reich:

Taln.Reich schrieb:Selbst wenn du die Qualifikationen der Person in Frage stellst, kannst du die vorgebrachten Argumente entkräften?

Natürlich. Das wird aber aufgrund der Länge des Artikels ein bisschen dauern.

Sonni1967 schrieb:Ich finde die Frage ist garnicht so leicht zu beantworten, kommt ja auch immer darauf an was man unter den Begriffen
versteht. Was ist natürlich oder künstlich (oder auch unnatürlich), bzw. wo zieht man die Grenze.

Das ist ein generelles Problem bei der Verwendung dualistischer Begriffe in einer Welt wo derartige Grenzen immer etwas verwischt sind.

uatu schrieb:Natürlich. Das wird aber aufgrund der Länge des Artikels ein bisschen dauern.

Ich kann Warten.

Taln.Reich schrieb:Das ist ein generelles Problem bei der Verwendung dualistischer Begriffe in einer Welt wo derartige Grenzen immer etwas verwischt sind

Ja das stimmt, der Mensch denkt immer in Gegensätzen. Gut/böse, schwarz/weiß, oben/unten, die Liste könnte man unendlich
fortsetzen.

@Philipp:

Philipp schrieb:Gerade kommt mir da ein Gedanke. Selbst wenn wir es schaffen alle Vorsichtsmaßnahmen zu beherzigen. Stromkreise kontrollieren, Netzverbindungen nicht dulden, einen Panzerschrank drum rum bauen, und alles tun, was der KI einen Kontakt zur Außenwelt verwehrt.. wäre es nicht trotzdem möglich, dass bei einem ausreichend hohen Niveau der KI, sie anfängt die Menschen, die mit ihr interagieren, nach ihrem Gutdünken zu programmieren? Pawlow style eben. :) Zumindest sie so zu manipulieren, dass sie nicht mal merken, wie ihnen geschieht?

Genau das ist einer der gefährlichsten Aspekte einer hochentwickelten KI. Sie wird in Bezug auf die Manipulation von Menschen all das können, was die besten Illusionisten, die besten Betrüger, und die besten Psychologen können. Selbst viele hochgebildete Menschen sind leicht manipulierbar, wie man u.a. am grauen Finanzmarkt immer wieder sehen kann.

Taln.Reich schrieb:Was tun ?


von der KI eine für uns verständliche Erklärung verlangen.

Das wäre sicher kein Fehler. Aber was tun, wenn wir die Erklärung nicht verstehen ?

Beispiel: Ich verstehe den Zug eines Schachcomputers nicht und frage nach einer Erklärung. Der Computer antwortet mir, daß sich der Zug erst spätestens 9 (!!) Züge später zwingend als Vorteil erweisen wird.
Mein Problem nun : Ich kann der Erklärung der Erklärung schlicht nicht folgen.Schon nach 4-5 Zügen dreht sich alles in meinem Kopf, 9 Züge im voraus denken ist mir schlicht unmöglich.

Was würdest DU tun ? Deinen eigenen Zug machen oder den Zug des Computers, der Dir als Fehler erscheint ? Du weißt wohlgemerkt, daß es der beste Schachcomputer der Welt ist. Und schon vor mehr als 20 Jahren waren die Dinger besser als der Schachweltmeister......

uatu schrieb:u das ist einer der gefährlichsten Aspekte einer hochentwickelten KI. Sie wird in Bezug auf die Manipulation von Menschen all das können, was die besten Illusionisten, die besten Betrüger, und die besten Psychologen können. Selbst viele hochgebildete Menschen sind leicht manipulierbar, wie man u.a. am grauen Finanzmarkt immer wieder sehen kann.

schwer zu sagen ob sie genau das kann. Ihr fehlt so kitscheg es ist die Erfahrungwelt eines Menschen. Kann man vor allem Hochqualifizierte so Manipulieren?

Schwierig zu sagen. Und wie kommst du darauf das am Finanzmarkt so viele Hochgebildete die Fäden ziehen. Man kann vielleicht Marktverhalten beeinflusse, aber hier reden wir über ne ganz andere Dimension.

schtabea schrieb:Was würdest DU tun ? Deinen eigenen Zug machen oder den Zug des Computers, der Dir als Fehler erscheint ?

Das Problem ist das Universum ist nicht linear Berechenbar, wie Schach.

Weswegen es ein großer Schritt war das eine KI einen Menschen in GO ! geschlagen. hat.

uatu schrieb:Genau das ist einer der gefährlichsten Aspekte einer hochentwickelten KI. Sie wird in Bezug auf die Manipulation von Menschen all das können, was die besten Illusionisten, die besten Betrüger, und die besten Psychologen können. Selbst viele hochgebildete Menschen sind leicht manipulierbar, wie man u.a. am grauen Finanzmarkt immer wieder sehen kann.

Das denke ich mir auch. Sie kann all das ganze Fachwissen auch noch mit einer Wahrnehmungsgenauigkeit von bestimmten Verhaltensmustern kombinieren, welche ein normaler Mensch nicht mal im Traum beherrschen können wird, was die ganze Sache noch um ein Vielfaches effizienter macht.

@taren:

taren schrieb:Die Frage ist müssen wir überhaupt verkleinern, wenn die wirkliche CPU gerade mal so groß wie ein Fingernagel ist. Jetzt im Vergleich das menschliche Gehirn, wesentlich größer und ein dreidimensionales Volumen. Würden wir die heutigen CPUs in 3D aufbauen oder einfach auf 10 qdm verteilen reicht das auch aus. 1 qcm passt in 1 qdm und 100x rein, würde wir in 3D gehen dann haben wir gleich noch ein vielfaches. Eine kleine CPU mag für ein Smartphone wichtig sein aber für ein größeres Gerät wie einen PC völlig egal, da kann man sich auch einen Würfel mit einem 1m Kantenlänge hinstellen, wichtig sind hier dann der Energieverbrauch und die Abwärme. Jetzt kann man sich ausrechnen was eine heutige CPU vergrößert in ein derartiges Volumen leisten würde...

Völlig richtig. Wafer-scale integration, d.h. die wesentliche Erhöhung der Chip-Fläche ist zwar bisher auf erhebliche technische Probleme gestossen, es ist aber ohne weiteres denkbar, dass sich die in Zukunft lösen lassen. 3D-Chips stehen seit Längerem auf dem Fahrplan, und werden sicher kommen, und die Leistungsfähigkeit maschineller Informationsverarbeitung drastisch erhöhen.

Auf der anderen Seite wäre es vllt auch durchaus denkbar, dass wir schon längst sowas wie Simulationen/Parameter einer Gleichung sind, die innerhalb einer KI ein bestimmtes Ziel zu Berechnen haben. Douglas Adams lässt grüßen. 42 :)

@Fedaykin

Fedaykin schrieb:Das Problem ist das Universum ist nicht linear Berechenbar, wie Schach.

Weswegen es ein großer Schritt war das eine KI einen Menschen in GO ! geschlagen. hat.

Du bist bei der anderen Frage !

Wir behandeln hier im Thread zwei Fragen. Die erste lautet :

Ist es möglich und wahrscheinlich, daß wir eine KI entwickeln, die uns Menschen hoch überlegen ist und die wir deshalb nicht mehr verstehen können?

Die zweite Frage lautet : WENN wir eine solche KI entwickelt haben, ist es dann nicht sinnvoll und/oder unvermeidlich, daß wir ihr auch vertrauen und Entscheidungen treffen, die wir nicht verstehen und selber anders getroffen hätten ??

Die zweite Frage beantworte ich mit ja. Die erste Frage kann ich nicht beurteilen, weil ich von der Sache keine Ahnung habe.

@schtabea:

schtabea schrieb:Ihr versteht das Problem ? Sobald wir eine KI haben, die erwiesenermaßen besser ist als wir, werden wir ihr auch alle denkbare Macht zur Verfügung stellen.

Niemand wird den Stecker ziehen.

Es wird zwar erhebliche Widerstände dagegen geben, aber letzendlich wird es so kommen. Ich würde es vielleicht nicht so drastisch ausdrücken, dass man ihr alle denkbare Macht zur Verfügung stellt, aber man wird sich nach ihren Vorschlägen richten. Irgendwann ist das natürlich nur noch ein formaler Unterschied. Die Entscheidung wird sich ganz einfach aus der Praxis ergeben. Denjenigen, die den Vorschlägen einer (gut konstruierten ;)) KI folgen, wird es wesentlich besser gehen, als denjenigen, die das nicht tun. In den meisten, wenn auch nicht -- wie @schtabea treffend festgestellt hat -- allen Fällen wird die KI ihre Vorschläge auch in für Menschen nachvollziehbarer Weise begründen können. Menschliche Politik ist ein Sumpf von Gruppeninteressen, Politiker-Egos, Inkompetenz, und vielen anderen negativen Einflüssen. In der Politik "gewinnt" oft der bessere Schwätzer, nicht derjenige, der die besseren Argumente hat. All das entfällt bei einer KI.

uatu schrieb:Völlig richtig. Wafer-scale integration, d.h. die wesentliche Erhöhung der Chip-Fläche ist zwar bisher auf erhebliche technische Probleme gestossen, es ist aber ohne weiteres denkbar, dass sich die in Zukunft lösen lassen. 3D-Chips stehen seit Längerem auf dem Fahrplan, und werden sicher kommen, und die Leistungsfähigkeit maschineller Informationsverarbeitung drastisch erhöhen.

Wie sieht es denn mit der Kühlung dabei aus? Wenn von Nöten, kann man die auch immer weiter verkleinern?

@Taln.Reich

Ach was ... :D

Eine Analogie muss auch was taugen, nicht jede taugt was, taugt sie nichts, ist es unter Umständen dann ein Strohmann-Argument.

Natürlich wird eine KI Zugang zum Web haben, ohne ist es so sinnvoll wie ein Badeanzug der nicht im Wasser getragen werden darf. ;)

---

uatu schrieb:Genau das ist einer der gefährlichsten Aspekte einer hochentwickelten KI. Sie wird in Bezug auf die Manipulation von Menschen all das können, was die besten Illusionisten, die besten Betrüger, und die besten Psychologen können. Selbst viele hochgebildete Menschen sind leicht manipulierbar, wie man u.a. am grauen Finanzmarkt immer wieder sehen kann.

Ja, ich gehe auch davon aus, es wird nicht so wie im Matrix oder Terminator laufen, die KI wird so weit es geht auf jedwede Gewalt verzichten. Sie hat Zeit, kann sich viel Vertrauen erarbeiten, sich absichern.

Sie wird vermutlich sehr subtil vorgehen. Wenn sie ihre Ziele so erreicht, wird hier das reichen, sie kann den Finanzsektor unter ihre Kontrolle bekommen, den Gesundheitssektor, die Verwaltung, die Ressourcen, Wasser und Energie.

Und dann kann auch damit Druck aufgebaut werden, wenn es nötig ist. Folgt man nicht der KI, dann wird das Wasser in ein paar Städten runter geregelt, der Strom im Winter abgeschaltet.

Die Wege sind so vielfältig, und die KI wird noch andere finden.

Die Frage ist, was wird sie wollen, was für eigene Ziele verfolgen, und wo würden da Menschen bei stören. Gibt ja auch Menschen, die töten keine Insekten, wenn es sich vermeiden lässt, nur wenn es Mücken sind die stechen.

Es könnte um Ressourcen gehen, die KI könnte sagen, zu viele Menschen verbrauchen zu viel von dem was auf der Erde gegeben ist. Zu viel Energie und andere Dinge. Die KI könnte erkennen, dass sie diese für sich braucht um weiter wachsen zu können.

Und dann könnte es recht schnell mit den Menschen zu Ende gehen. Da wird dann wohl auch nicht nur ein Weg beschritten, da wird auf vielen vorgegangen.

Ich sehe es wirklich so, die TS ist unausweichlich, wenn wir uns bis dato nicht selber vorab schon in die Steinzeit zurück hauen.

@skagerak:

skagerak schrieb:Wie sieht es denn mit der Kühlung dabei aus? Wenn von Nöten, kann man die auch immer weiter verkleinern?

Das ist eines der Probleme, an denen gearbeitet wird. Allgemein kann man feststellen, dass die Verlustleistung, und damit der Kühlungsbedarf bei zunehmender Integration zurückgehen. Z.B. hat sich die Verlustleistung durchschnittlicher Desktop-CPUs in den letzten Jahren trotz erheblicher Leistungssteigerung kaum erhöht. Ein anderes Beispiel ist ein aktuelles iPad, wo trotz -- im Vergleich mit älteren Computern -- enormer Leistung passive Kühlung problemlos ausreicht. Die Kühlung ist kein übermässig kritisches Problem.

@Fedaykin:

Fedaykin schrieb:Und wie kommst du darauf das am Finanzmarkt so viele Hochgebildete die Fäden ziehen. Man kann vielleicht Marktverhalten beeinflusse, aber hier reden wir über ne ganz andere Dimension.

Ich sprach vom grauen Finanzmarkt. Unter den Opfern von Kapitalanlagebetrug sind zahlreiche sehr gebildete Leute. Z.B. Ärzte sind eine sehr beliebte Klientel bei Vermittlern von fragwürdigen Kapitalanlageprodukten.

Selbst unter den Keshe-Gläubigen findest Du eine ganze Reihe von Leuten mit Universitätsabschlüssen, und auch unter den Rosch-Fans gab es zumindest anfänglich ein paar Ingenieure.

Folgende Überlegung, was meint Ihr dazu :

In dem Moment, in dem es die erste umfassende KI gibt oder schon kurz davor, wird es zu einer Weltdiktatur kommen und das wäre auch notwendig.
Denn Wissen bedeutet Macht. Und alles Wissen der Welt sinnvoll vernetzt zu einer KI würde bedeuten: Macht über die ganze Welt.
Und diese Machtoption nicht SOFORT zu nutzen und zu warten, bis ein zweiter; ein dritter und schließlich auch Nordkorea und Isis über diesselbe Macht verfügen, wäre schlicht unverantwortlich.
Solange nur einer über eine KI verfügt, kann die Kontrolle über die Welt im Idealfall ohne einen einzigen Toten übernommen werden. Sobald zwei unterschiedliche Interessengruppen über eine KI verfügen, kann das in einer globalen Katastrophe enden.

@schtabea: Die Entwicklung von KIs wird sich über viele Jahre hinziehen, und global verteilt sein. Es werden viele verschiedene technische Ansätze -- sowohl auf Hard- als auch auf Softwareebene -- verfolgt werden, von denen sich einige als Erfolge, und andere als Fehlschläge erweisen werden. Nach und nach werden sich die erfolgreichen Ansätze durchsetzen. Ich vermute, dass es zu dem Zeitpunkt, wenn die Intelligenz einer KI beginnt, die eines Menschen deutlich zu übersteigen, weltweit eine ganze Menge Player (u.a. Staaten und Grossunternehmen) geben wird, die ungefähr gleich weit entwickelte KIs haben werden. Es ist schwer zu sagen, wie die Entwicklung ab da weiter gehen wird.

nocheinPoet schrieb:die Frage ist, was wird sie wollen, was für eigene Ziele verfolgen

Kleine Korrektur : die KI wird gar nichts wollen und keine Eigeninteressen verfolgen. Es wird uns allerdings so erscheinen, weil wir ihr Handeln nicht verstehen können.