Singularität/Künstliche intelligenz übertrifft den erschaffer, Mensch!

@Pandorum

Pandorum schrieb:Ich verstehe dich, aber was ist wenn das falsch ist?

Anscheinend nicht, oder ich drücke mich schlecht aus.

Pandorum schrieb:Stellen wir uns doch mal vor die US Regierung im Jahre 2050.
Sie hat eine sagen wir mal hochentwickelte Knn entwickelt die selber Entschlüsse zieht usw.
Das Verteidigungsministerium hat diese als Sicherheitsstandard in Sachen Gefahrenquellen Erkennung. Was ist wenn diese KNN den entschluss fasst das ein Mensch eine Gefahr für einen Menschen darstellt.
Wäre sie in der Lage dementsprechend selbst zu handeln?

Das ist es eben. Das KNN müsste neue In- und/oder Output-neuronen anlegen und diesen einen Bedeutung zuweisen. Es gibt z.B. KNN zur Erkennung von Gesichtern. Das KNN kann ein Gesicht erkenn, oder auch nicht. Das Ergebnis kann man dann an den Output-neuronen ablesen. Aber es wird immer nur sagen können das es sich um ein Gesicht handelt. Es wird nie Meinung entwickeln das manche Gesichter hübsch und andere hässlich sind. Ganz einfach deswegen, weil es nicht dafür konstruiert wurde.

So denke ich mir das...

Hier sind die Links mit denen es schon wieder gaaaanz anders ausschaut:
http://www.wisegeek.com/what-is-cognitive-computing.htm
http://www.ibm.com/smarterplanet/us/en/business_analytics/article/cognitive_computing.html (Archiv-Version vom 08.02.2013)

Das sind also Chips die wie das Gehirn aufgebaut (bzw. so ähnlich) sind. Also wie KNN auf hardware-basis, so hab ich das zumindest (beim überfliegen) verstanden.

Damit wären wäre es vielleicht möglich sehr mächtige KIs zu erzeugen, aber dennoch brauchen sie Input, denke ich. ;)

@LivingFlesh

Das spiegelt doch genau das wieder was ich sagte.
zB Projekt Synapse.
Nimmt durch sensoren input auf um Handlungen und Entscheidungen selbst zu steuern.
Das IBM daran arbeitet wusste ich schon aber das es diesen Ausmaß als Ziel hat ist extrem. Ein Simuliertes Gehirn was ohne Programmiert werden zu müssen funktioniert da es seinen Input über die Umwelt aufnimmt.
Beängstigent dieser Beitrag den du da verlinkt hast...
Es soll arbeiten wie ein menschliches Gehirn livingflesh. Stell dir das mal vor....
Unvorstellbar aber doch möglich wie es aussieht.
Ich sagte ja ein paar jahre noch dann ist es soweit.
Diese beiden Seiten beschreiben das was du mir erklärt hast nur extrem weiter entwickelt und besser.

@Pandorum
Gut, die Dinger werden aber auch nur das machen wozu sie entwickelt sind. ;)

In einem von den Videos sagt er ja auch das die (künstlichen)Neuronen fest verdratet sind.

Pandorum schrieb: Handlungen und Entscheidungen selbst zu steuern.

Die handeln dann so wie sie verdratet sind, und natürlich haben die Gewichte der Synapsen noch einen Einfluss darauf. Das ist übriegens das einzige (wenn ich das recht verstanden hab) das sich ändern kann. Ich weiß nicht ob sich neue Verbingen bilden können, aber selbst wenn ändert es trotzdem nix: die Dinger werden sich auch nicht von selber weiter entwickeln und sich gegen die Menscheit stellen.

Pandorum schrieb:Es soll arbeiten wie ein menschliches Gehirn livingflesh.

Es soll die Komplexität eines menschlichen Hirns erreichen. Aber warten wir erstmal ab.... das sind 100 Milliarden Neuronen mit jeweils 200 000 Synapsen (wenn ich mich nicht irre).

Pandorum schrieb:Simuliertes Gehirn was ohne Programmiert werden zu müssen funktioniert da es seinen Input über die Umwelt aufnimmt.

Wie gesagt, die Dinger werden verkabelt. Also auch programmiert, wenn man so will. Ganz von selber funktioniert das nicht. ;)

Fazit: Ich sehe dennoch keine Grund zur Sorge. :)

@LivingFlesh

es steht in dem Beitrag von IBM eigentlich in beiden das sie fähig sind sich zu erweitern bzw weiter zu entwickeln und zu erinnern.
Nein beängstigend ist das selbst nicht.
Die sind ja bis auf ein gewisses Maß trotzdem vorprogrammiert.
Aber wenn unsere Welt mal voll von diesen Dingern ist und vorallem im Militärwesen, haben bestimmte Hacker einiges an Möglichkeiten sich selbst zu behaupten bzw sich selbst was zu beweisen.
Aber wenn eine Maschine fähig ist sich selbst weiter zu entwickeln dann weiß ich nicht ob das ok ist.
Auf der anderen Seite die du verlinkt hast stand auch das es möglich ist das ein solches "Hirn" imstande ist besser zu sein als ein menschliches gehirn.

@Pandorum
Wo steht das die sich weiter entwickeln können? Das die lernen können ist klar... das können KNN auf Software-basis ja auch....bzw. das müssen die sonst funktionieren die gar nicht. ;) Was die bauen sind (so wie ich das verstanden habe) KNN auf Hardware-basis. Das hat den Sinn das neuronale Netze bestimmte Aufgaben wie z.B. das erkennen von Gesichtern wesentlich besser können als herkömmliche Algorithmen bzw. solche Dinge erst möglich machen.

Pandorum schrieb:Auf der anderen Seite die du verlinkt hast stand auch das es möglich ist das ein solches "Hirn" imstande ist besser zu sein als ein menschliches gehirn.

Besser heißt vermutlich wieder nur mehr Power mehr Neuronen. Dennoch muss das ganze irgendwie zusammengebaut bzw. programmiert werden.

EDIT: Ich lese mir noch mal das hier durch: http://www.research.ibm.com/new-era-of-computing.shtml?lnk=resCognitive (Archiv-Version vom 14.05.2013)

@LivingFlesh

Da steht das sie mit Sensoren ihre Umwelt wahrnemen und analysieren.
Abspeichern und sich daran erinnern können.
Das ist Weiterentwicklung. Wenn ein Individuum etwas auffasst, und demtensprechend handeln möchte, es aber zum Entschluss kommt es sei nicht richtig bzw falsch weil es vorher wieder andere Umwelteinflüsse über Sensoren aufnahm entscheidet sich das Ding um und handelt doch anders als es es vorher hatte erlernt. Das ist Weiterentwicklung im wahrsten sinne des Wortes. Aus Fehlentscheidungen lernen und neues dazu lernen. Sich weiterentwickelnum ungelerntes zu erlernen und fehler zu korrigieren

@Pandorum
Ja, die Sensor-daten passen wahrscheinlich die Gewichte der Synapsen an. Also so stell ich mir das vor, läuft in nem KNN (Software-basis) auch so ab. Das nennt man lernen. ;) Das Netz lernt, es entwickelt sich nicht weiter.

Womit:

Pandorum schrieb: Wenn ein Individuum etwas auffasst, und demtensprechend handeln möchte, es aber zum Entschluss kommt es sei nicht richtig bzw falsch weil es vorher wieder andere Umwelteinflüsse über Sensoren aufnahm entscheidet sich das Ding um und handelt doch anders als es es vorher hatte erlernt.

Unsinn ist (Nach meinem Verständniss von neuronalen Netzen im allgemeinen).

Vielleicht magst du dich ja auch mal mit KNN beschäftigen? ;) Gibt Simulatoren im Internet. NeuroSim und MemBrain, um mal zwei zu nennen. Da muss man nicht programmieren, lässt sich alles zusammen klicken. ^^

@LivingFlesh

Was würdest du als Weiterentwicklung verstehen?
Diese Technologie ist die Zukunft für uns

@Pandorum

hier berichtet jemand im TED wohin uns exponentiell Steigerung der Leistungsfähigkeit von Chips führt.

(Du kannst dort immer zwischen mehr als 16 Sprachen wählen.Deutsch ist auch dabei für die Untertitel)

http://www.ted.com/talks/ray_kurzweil_on_how_technology_will_transform_us.html (Archiv-Version vom 16.01.2013)


TED ist ne klasse Seite ^_^

@Michael.

Werde ich mir noch anschauen hört sich interessant an. Dsnke für den Link.

@Pandorum

Pandorum schrieb:Sich weiterentwickeln, um Ungelerntes zu erlernen und Fehler zu korrigieren

Das stimmt so nicht.

Wenn an diesem Cognitive Computing was dran ist, dann bedeutet dass, die Computer können Erfahrungen speichern. D.h. diese Erfahrungen werden irgendwie ausgewertet und in in ihren Code eingebunden.
Der Compter hat aber nicht das Ziel sich weiterzuentwickeln. Wir haben das Ziel, dass der Computer sich weiterentwickelt. Der Maschine ist das herzlich egal.

Du sagst, es könnte so weit kommen, dass die Computer auf Basis ihrer Erfahrung über Menschen urteilen.
Letztendlich sehe ich in dieser Nutzung der Technologie aber keinen Sinn.
Die Bewertung erfolgt über Erfahrung.
Woher weiß der Computer aber, wie er seine Erfahrungen bewerten soll?
Diese KI kennt eben so wenig wie das menschliche Gehirn nicht gut und böse. Daher müsste die Bewertung der Erfahrungen grundlegend programmiert werden und damit wäre die Beurteilung durch den Computer nicht anders als die des programmierenden Menschen.

Es wird keine Hollywood-Roboterausftände geben. Auch wenn ein Computer noch so intelligent ist, ist alles was er tut nicht selbst gedacht.
Angenommen du programmierst einen Roboter so, dass wenn du ihn schlägst, dann registriert ein Sensor das, er schlägt zurück und macht ein böses Gesicht.
Dann ist der Roboter aber nicht böse. Das ist nur Code der ausgeführt wird, das ist nicht real. Und der Roboter wird niemals selbst zu dem Entschluss kommen, zurückzuschlagen. Er hat kein echtes Ego, keine Gefühle, keinen Überlebensinstinkt.

Warum überhaupt, sollten man Computer programmieren wollen, die wie Menschen denken?
Computer haben den Vorteil, dass sie mehr Daten auf einmal verarbeiten können, als jeder Mensch es könnte. Aber sie können dadurch nicht lernen, außerhalb des menschlichen Vermögens zu denken, denn sie müssen immer noch programmiert werden.
Es heißt zu Recht künstliche Intelligenz.

@XCM-Irish

Ja das ist wohl wahr was du da sagt.
Der Sinn hinter einer eigenständigen KI die selbst handelt wäre die logik in meinen Augen.
Sie würde nicht aus Hass, Wut, Liebe oder Trauer Handeln sondern lediglich und immer Logisch.
Ich weis nicht auch wenn ihr alle dwr Meinung seit das es unmöglich ist das die KI sich selbst weiterentwickeln könnte, traue ich dieser Sache einfach nicht. Das ist unbekanntes Gebiet und ich weis zu welchen Taten wir einfach imstande sind.
Eine KI ist für mich eine Intelligenzdie erschaffen wurde von uns aber uns nicht benötigt um zu entscheiden.
Natürlich werden diese Dinger vorher programmiert fur bestimmte Tätigkeiten usw. Aber was ist wenn wir irren und es passiert ein Fehler?
Was ist wenn wir übersehen das sie sich weiterentwickeln, weil wir denken es sei unmöglich?
Ich weis nicht, es waren viele Dinge in den Augen der meisten unmöglich bis sie plötzlich möglich waren.
Wir glauben zu wissen immer alles unter kontrolle zu haben, aber ich hoffe das wir nicht eines besseren belehrt werden.
Ich glaube nicht das die Maschinen den Menschen auslöschen wollen würde, aber falls es durch irgendeinen Zufall oder Fehler in die Wege der eigenen Bewusstseinskontrolle der KI geleitet wird und es einen Selbsterhaltungstrieb entwickelt ala Terminator, dann sollten wir das zerstören, also die KI.

@XCM-Irish
@LivingFlesh

Ich glaube ihr versteht nicht so ganz was ich meine und was IBM da wirklich entwickelt.

Hier lest euch diesen Beitrag mal durch.
http://www.pcwelt.de/ratgeber/Die-ferne-Zukunft-blicken-wir-mehrere-Jahre-voraus-3411834.html (Archiv-Version vom 23.09.2012)

Noch einer der SZ
http://www.sueddeutsche.de/digital/prototyp-fuer-synapsen-prozessor-ibm-feiert-durchbruch-beim-menschenhirn-chip-1.1132490

Diese Seite hat einige sehr interessante Berichte.
Es geht unter anderem auch um Transhumanismus.
http://transhumanismus.wordpress.com/tag/kunstliche-intelligenz/ (Archiv-Version vom 30.10.2012)

Die Links sind alle auf Deutsch!

Bodo schrieb:Ein Computer kann zB speichern, was ein Hund ist. Aber zeig ihm eine Katze: 4 Beine, Fell und einen Schwanz. Der Computer wird eine Katze als Hund erkennen. Ist ein sehr einfaches Beispiel, wieso KI zur Zeit nicht existieren kann :)

Stimmt so nicht, das hängt von der Programmierung ab und den Sensor Fähigkeiten.
Gesichter werden heute von Computern zuverlässig erkannt, für den Computer sind es nicht nur Menschengesichter sondern die von verschiedenen.

Kommt darauf an mit wie vielen Details eine KI arbeitet.