https://www.allmystery.de/themen/rss/166362Allmystery: KI, Armageddon, böse Agenten (GPT-3 etc.)Feed zur Diskussion auf Allmystery. Es werden maximal die neusten 100 Beiträge angezeigt.2023-07-25T22:05:21+01:00KI, Armageddon, böse Agenten (GPT-3 etc.) (Crusi)https://www.allmystery.de/themen/gw166362-6#id338527292023-07-25T22:05:21+01:00Crusi"Beitrag von Crusi Zum Eingangspost: Sehen wir es mal ganz einfach. Zum Leben benötige ich "nur" (fließendes) sauberes Wasser, Nahrung, Strom und/oder Heizung und Restbestände an gedruckten Büchern.
Solange man mir das lässt, akzeptiere ich ein Leben ohne weiteren Komfort. Bin früher bis auf die Spielekonsolen auch ohne Internet und Mobilfunk aufgewachsen.
Wenn mir das alles zu bunt bzw. blaun wird, schalte ich einfach ab. Glücklicherweise besitze ich ein EFH,.da kommt demnach so viel autarke PV mit Speicher wie möglich dran. Im Garten ein Brunnen mit Grundwasserspeisung. Futter bekommt man überall her. Unser Garten hat viel Baumbestand, für den Kamin und einige Winter reicht es aus.
Problematisch sind die Auswirkungen auf die Wirtschaft (Problem der Globalisierung) und Gesamtgesellschaft (Bürgerkrieg). Man kann heutzutage leider den Strom- und Wasserlieferanten lahm legen. Versorgung ist heutzutage schon bequem aufgrund der Globalisierung. Allein der ganze Kraftstoff für den PKW... Ohne Globalisierung könnte ich den nicht zur Arbeit oder zum Arzt bewegen. Ach und generell die ganze gesundheitliche Versorgung ist dadurch abhängig.
Ja, KI in den falschen Händen ist kagge. Aber bisher ist noch nichts schlimmes (atomarer GAU) dadurch passiert. Ob das so schnell kommt, wenn eigentlich schon länger an Kernfusion und Quantencomputern gearbeitet wird? Ich mein, am Geld hat es doch bisher nicht gemangelt.
Und wer kann schon die ganzen Warlords und Autokraten in Afrika, Asien und Amerika kontrollieren? Die müssen nur ein paar IT-Spezialisten entführen und zur Entwicklung und dem Training einer solch bösen KI zwingen.
Aber warum kommt das erst demnächst?
So schlimm ist die Lage wohl doch noch nicht, irgendwas muss sie wohl alle an ihrem fiesen Plan hindern. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (Warden)https://www.allmystery.de/themen/gw166362-6#id338446812023-07-24T09:17:28+01:00Warden"Beitrag von Warden Seit geraumer Zeit beobachten wir, wie Interessenten vermehrt faul dazu geneigt sind, Antworten mit ChatGPT anzufertigen. Das fällt gerade dann auf wenn bei Fragen, wo man mehr Wissenstransfer zeigen muss, der Wortduktus und teils Grammatik stark von anderen einfacheren Fragen abweichen die man dann selbst runtertippt.
Das als Anekdote, wie sich solche Technologie auf verschiedenste Bereiche auswirken kann. Ich denke das passt auch irgendwo in den groben Themenrahmen. Für uns konkret heißt das, dass man sich nicht mehr sicher sein kann wie viel "Eigenleistung" etwa in Bewerbungen vorhanden ist - hier im Hobbybereich.
Wenn das Leute aber in dem Kontext machen, dann wird es auch woanders bzw. im professionellen/beruflichen Rahmen Anwendung finden. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (moredread)https://www.allmystery.de/themen/gw166362-6#id338145832023-07-17T13:05:11+01:00moredread"Beitrag von moredreadstone1.2 schrieb:Wollte eigentlich was dazu posten, dass doch unlängst eine Meldung durch die einschlägigen Medien ging, die Google-Chat-KI LaMDA hätte ein (Selbst)bewusstein entwickelt, und bin dabei auf eine Podcastreihe zum Thema gestoßen, habs mir noch nicht angehört, verlinke das mal hier:Wie schon gesagt, entweder ein panischer Google Arbeiter oder evtl ein Vorstoss von Seiten google, ihre KI zu bewerben. Deren KI ist nicht gerade supersmart, aber wenn ein Mitarbeiter sagt, sie sei beinahe bewusst... Das sind auf Inferenz basierte KIs. Du stellst denen eine Frage, und die geben Dir eine Antwort. Nur dann arbeitet die KI überhaupt. Unabhängig davon, was man vom Lösungweg hält, ist er sehr, sehr umständlich und benötigt locker die aktuell benutzten Ressourcen. Auf welchen Ressourcen soll denn dieses Bewusstsein laufen? Auf dem winzigen Rest? Die KI ist gut darin, die nächsten Wörter einer Antwort zu finden, kann also daher auch Texte generieren, in denen sie dieses Argument übernimmt. Wer das unheimlich findet, der zeige mir den gegenteiligen Text - eine Text, in dem jemand argumentiert, das er kein Bewusstsein besitze (und als Maschine auch dazu nicht imstande wäre). Ohne solche Vorlagen kann die KI keine entsprechenden Antworten liefern, dahern existieren diese Art Text primär als Textvorlagen zum lernen für KIs. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (skagerak)https://www.allmystery.de/themen/gw166362-6#id323931502022-08-21T01:21:34+01:00skagerak"Beitrag von skagerakLupo54 schrieb:Kommt drauf an was man unter (Selbst)bewusstsein versteht.Eben ganz genau, darin bist Du dir bzw sind "wir" uns doch alle eigentlich einig, oder? Man kann KI eben nicht mit unserem Gehirn vergleichen. Bisher ist es ja eben nur möglich, sich leistungsmäßg den Fähigkeiten des Gehirns anzunähern, abhängig vom aktuellen Leistungsstand der Hard- und Software natürlich, ist halt auch physikalisch abhängig. Eine Antwort auf die Frage des Bewusstseins wird es ohnehin nicht sein, mMn.
Lupo54 schrieb:So ein Computer bei Google wird mit den unterschiedlichsten Informationen versorgt, verfügt über eine enorme Rechenkapazität und kann und wird bei entsprechender Programmierung schon recht smart daherkommen.
Lupo54 schrieb:Aber ein menschliches Gehirn ist kein Computer. Eine CPU wird man in unseren grauen Zellen vergeblich suchen. Und auch die Adressierung und Speicherung verläuft anders. Die "organische" Komponente bringt Gefühle und Emotionen ins Spiel. Und das dürfte für die Entwicklung des menschliche (Selbst)bewusstlein entscheidend sein
Deswegen ja meine Meinung dazu, man wird das Gehirn immer nur technisch simulieren können, sogar übertreffen, aber niemals wird es sowas wie Gefühle entwickeln können, also keinen freien Willen entwickeln können.
Lupo54 schrieb:Was wiederum bedeutet dass die Google-Chat-KI (Selbst)bewusstsein zwar simulieren kann. Aber nicht haben. Dazu fehlen ihr die organischen Voraussetzungen.
Eben, wie so ein programmiertes Bewusstsein, nicht "echt" irgendwie. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (uatu)https://www.allmystery.de/themen/gw166362-6#id323924922022-08-20T21:56:00+01:00uatu"Beitrag von uatustone1.2 schrieb:... die Google-Chat-KI LaMDA hätte ein (Selbst)bewusstein entwickelt ...Zu der Geschichte gibt es einen ganzen Thread. Kurzgefasst: Das Ganze ist Quatsch. Da hat sich ein inkompetenter Mitarbeiter Unsinn zusammenfantasiert. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (Lupo54)https://www.allmystery.de/themen/gw166362-6#id323924682022-08-20T21:46:15+01:00Lupo54"Beitrag von Lupo54stone1.2 schrieb:die Google-Chat-KI LaMDA hätte ein (Selbst)bewusstein entwickelt,Kommt drauf an was man unter (Selbst)bewusstsein versteht. So ein Computer bei Google wird mit den unterschiedlichsten Informationen versorgt, verfügt über eine enorme Rechenkapazität und kann und wird bei entsprechender Programmierung schon recht smart daherkommen. Aber ein menschliches Gehirn ist kein Computer. Eine CPU wird man in unseren grauen Zellen vergeblich suchen. Und auch die Adressierung und Speicherung verläuft anders. Die "organische" Komponente bringt Gefühle und Emotionen ins Spiel. Und das dürfte für die Entwicklung des menschliche (Selbst)bewusstlein entscheidend sein. Was wiederum bedeutet dass die Google-Chat-KI (Selbst)bewusstsein zwar simulieren kann. Aber nicht haben. Dazu fehlen ihr die organischen Voraussetzungen. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (stone1.2)https://www.allmystery.de/themen/gw166362-6#id323897822022-08-20T08:40:36+01:00stone1.2"Beitrag von stone1.2moredread schrieb:Sobald wir künstliches Bewusstsein erzeugen können werden wir sehr viel klarer sehen, wie schlecht jede heutige Definition des Begriffes ist.Wollte eigentlich was dazu posten, dass doch unlängst eine Meldung durch die einschlägigen Medien ging, die Google-Chat-KI LaMDA hätte ein (Selbst)bewusstein entwickelt, und bin dabei auf eine Podcastreihe zum Thema gestoßen, habs mir noch nicht angehört, verlinke das mal hier:
https://www.derstandard.at/story/2000136501277/streit-bei-google-um-eine-ki-die-ein-eigenes-bewusstsein ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (moredread)https://www.allmystery.de/themen/gw166362-6#id323052362022-07-30T10:45:18+01:00moredread"Beitrag von moredreadArtInt schrieb:Es ist ein einfacher Gedanke, dass Bewusstsein aus Materie entsteht. Das ist eine der zentralen Annahmen der Physikalismus (Ontologie). Aber es ist ein schwieriger Gedanke, dass ein Bewusstsein aus einer endlichen Menge Materie entsteht. Es ist einfacher, dass ein Bewusstsein aus einer unendlichen Menge Materie entsteht.Nichts ist einfach an der Annahme, Bewusstsein benötige eine unendliche Menge an Materie. Fragen wir mal danach, woher diese unendliche Masse in endlicher Zeit herkommen soll oder wie eine Information von einem Ende ans andere kommen soll. Oder hat das Bewusstsein keine räumliche Ausdehnung?
Es gibt, wie schon angemerkt wurde, keine brauchbare Definition von Bewußtsein. Bei reiner künstlicher Intelligenz sind wir ja soweit und sehen daher, wie ungeeignet unser Begriff des IQ dafür ist das zu messen, was der IQ Test angeblich messen soll. Sobald wir künstliches Bewusstsein erzeugen können werden wir sehr viel klarer sehen, wie schlecht jede heutige Definition des Begriffes ist. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (ArtInt)https://www.allmystery.de/themen/gw166362-6#id306837912021-09-02T20:12:52+01:00ArtInt"Beitrag von ArtIntnocheinPoet schrieb:Frage ist, wie klein kann das phänomenale Bewusstsein sein, ich stelle mir "rot" vor, kann ich, so wie Töne, Stimmen, ich kann recht gut imaginieren.
Klingt seltsam, aber kann man ja mal, wenn ich alles von meinem Hirn nehme, bis nur noch die Erfahrung rot bleibt, was ist da noch an Hirn?
Anders, ich kann aus Atomen Schaltungen bauen, gibt sicher die kleines Anordnung für ein bestimmtes Gatter. Kann man aus einer bestimmten Anzahl was basteln, das einfach nur rot wahrnimmt? Nicht weiß wo und was und wie und warum, wie lange, es ist nur die Erfahrung rot aus der Innenperspektive.
Glaube ich muss meine Gedanken zeitnaher aufschreiben, ein Tag später geht da immer wieder viel verloren, sollte auch mehr Meditieren um die Gedanken zu sammeln und festigen.Ich denke, dass Du mit Deiner Fragestellung auf eine interessante Frage zielst.
Ich denke, dass die Antwort auf die Frage, wie viel Bewusstsein in einem einzigen Menschen steckt, unter anderem davon abhängt, wie Du diesen Begriff definierst. Wenn Du von einem einzigen Bewusstsein sprichst, das eine einzige Person repräsentiert, dann weiß ich nicht, wie viele dieser Bewusstseinen in einem einzigen Menschen stecken könnten. Aber wenn Du von Bewusstsein in einem großen Sinne sprichst, beispielsweise von den Bewusstseinszuständen, die wir alle in unterschiedlichen Situationen erleben, wie etwa Gedanken, Gefühle, Emotionen, Sinneseindrücke, Erinnerungen, dann gibt es eine Menge Bewusstsein in einem einzigen Menschen, das nichts anderes ist als die Summe aller Bewusstseinszustände. Und wenn Du von einem einzigen Bewusstsein in einem einzigen Menschen sprichst, dann wird es schwierig, da ein einzelner Mensch ein einzelnes Bewusstsein definitiv nicht besitzt. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (ArtInt)https://www.allmystery.de/themen/gw166362-6#id306837292021-09-02T20:02:50+01:00ArtInt"Beitrag von ArtIntnocheinPoet schrieb:Du danke, so weit bekannt, ich bin auf der Suche nach möglichst einfachen Aussagen, aufbauend auf Axiomen.
So was wie:
1. Es gibt mindestens ein (phänomenales) Bewusstsein/Qualia im Universum, da ich aktuell existiere. 2. Wenn 1 wahr ist, muss etwas existieren.
3. Qualia kann durch "Materie" enstehen oder auch nicht.
Will sagen, gibt zwei Möglichkeiten, entweder was der Wikipedia: Physikalismus (Ontologie) hergibt, oder eben nicht. Entweder bedingt eine bestimmte Anordnung von Materie ein phänomenales Bewusstsein oder eben nicht.
Wenn ja, dann sollte eine (vollständige) Beschreibung aller Atome meines Hirns reichen, dann gibt es da eine Zahl, Frage wäre, ob diese endlich ist, wie viel Informationen steckt in dieser.
Oder es gibt mehr, dann wären alle die Atome was wie ein Schwamm in dem mein Bewusstsein schwimmt, selber wäre es aber nicht materiell.
...
Egal, wollte eben was andere pinseln. :DEs ist ein einfacher Gedanke, dass Bewusstsein aus Materie entsteht. Das ist eine der zentralen Annahmen der Physikalismus (Ontologie). Aber es ist ein schwieriger Gedanke, dass ein Bewusstsein aus einer endlichen Menge Materie entsteht. Es ist einfacher, dass ein Bewusstsein aus einer unendlichen Menge Materie entsteht. Du weißt übrigens nicht, ob 1) zutrifft, das ist eine Annahme, es sei denn, Du kannst mir eine allgemeine Definition von Bewusstsein geben, auf der wir aufbauen könnten. Und um nochmal auf 3) zurückzukommen, es ist eine reine Spekulation, dass die Zahl der möglichen Zustände von Materie unendlich ist. Wenn Du eine physikalische Hypothese formulierst, erwarte ich, dass Du mir ein Modell für die Zustände von Materie bietest, anhand dessen ich sie nachprüfen kann. Wenn es ein solches Modell gibt, wird es einen Quantensprung in der Physik (und in der Philosophie) geben, und zwar einen Quantensprung in der Art, wie wir denken, dass Atome funktionieren. Es ist aber zu vermuten, dass Emergenz eine Rolle spielt. Sollte dem so sein, dann wird die Frage immer noch lauten, ob irgendeine physikalische Hypothese eine funktionierende Beschreibung dieses Phänomens liefern kann.
Abgesehen von der Frage, ob es eine physikalische Hypothese zum Phänomen Bewusstsein gibt, gibt es eine zweite Frage, die noch viel schwieriger ist. Wie kannst Du der physikalischen Hypothese ein Indizienbeweis (für ihre Richtigkeit) liefern? Wenn Du ein Modell für die Zustände von Materie hast, da durch das Bewusstsein funktioniert, dann wirst Du an eine Schwelle kommen, wo Du keine Experimente durchführen kannst, denn dann wird das Experiment von dem Bewusstsein im Modell beeinflusst. Das bedeutet, dass Du das Modell in eine Sprache übertragen musst, aus der Du ausgehend von einer Hypothese auf den Quantenaktionsradius (Bezug auf den Quantenaktionsradius, der den Bereich abdeckt, in dem sich ein Photon vor seinem Verschwinden befindet) und auf die mögliche Größe des Modells (und der darin enthaltenen Zustände) schließen kannst.
Vielleicht wird Dein Modell der Zustände von Materie ausgehend von der Hypothese 1) herausgehen: es gibt keine endliche Anzahl von Möglichkeiten für die Zustände von Materie. Wenn Du ein Modell für diese Zustände hast, dann kannst Du die Quantenaktionsradius und die mögliche Größe des Modells bestimmen. Außerdem kannst Du die Wahrscheinlichkeit eines Quantensprungs bestimmen, der zur Entstehung von Bewusstsein führt. Mit diesen Quantensprüngen wird es dann möglich sein, ein Experiment zu entwickeln, das die Richtigkeit Deines Modells bestätigt.
Ich wünsche Dir viel Erfolg bei der Formulierung Deiner Physikalismus-Hypothese. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (moredread)https://www.allmystery.de/themen/gw166362-6#id306837212021-09-02T20:00:46+01:00moredread"Beitrag von moredread Manchmal macht die KI ja Witze oder erzählt Unsinn. Aber manchmal kriege ich Antworten so wie jetzt. Wünsch viel Spaß mit Artis Kommentar. Keine Ahnung ob es BS oder Superklug ist. Lies selber. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (nocheinPoet)https://www.allmystery.de/themen/gw166362-5#id305418912021-08-07T15:01:08+01:00nocheinPoet"Beitrag von nocheinPoet Du danke, so weit bekannt, ich bin auf der Suche nach möglichst einfachen Aussagen, aufbauend auf Axiomen.
So was wie:
1. Es gibt mindestens ein (phänomenales) Bewusstsein/Qualia im Universum, da ich aktuell existiere. 2. Wenn 1 wahr ist, muss etwas existieren.
3. Qualia kann durch "Materie" enstehen oder auch nicht.
Will sagen, gibt zwei Möglichkeiten, entweder was der Wikipedia: Physikalismus (Ontologie) hergibt, oder eben nicht. Entweder bedingt eine bestimmte Anordnung von Materie ein phänomenales Bewusstsein oder eben nicht.
Wenn ja, dann sollte eine (vollständige) Beschreibung aller Atome meines Hirns reichen, dann gibt es da eine Zahl, Frage wäre, ob diese endlich ist, wie viel Informationen steckt in dieser.
Oder es gibt mehr, dann wären alle die Atome was wie ein Schwamm in dem mein Bewusstsein schwimmt, selber wäre es aber nicht materiell.
...
Egal, wollte eben was andere pinseln. :D
Frage ist, wie klein kann das phänomenale Bewusstsein sein, ich stelle mir "rot" vor, kann ich, so wie Töne, Stimmen, ich kann recht gut imaginieren.
Klingt seltsam, aber kann man ja mal, wenn ich alles von meinem Hirn nehme, bis nur noch die Erfahrung rot bleibt, was ist da noch an Hirn?
Anders, ich kann aus Atomen Schaltungen bauen, gibt sicher die kleines Anordnung für ein bestimmtes Gatter. Kann man aus einer bestimmten Anzahl was basteln, das einfach nur rot wahrnimmt? Nicht weiß wo und was und wie und warum, wie lange, es ist nur die Erfahrung rot aus der Innenperspektive.
Glaube ich muss meine Gedanken zeitnaher aufschreiben, ein Tag später geht da immer wieder viel verloren, sollte auch mehr Meditieren um die Gedanken zu sammeln und festigen. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (Flitzschnitzel)https://www.allmystery.de/themen/gw166362-5#id305385412021-08-06T21:05:46+01:00Flitzschnitzel"Beitrag von FlitzschnitzelnocheinPoet schrieb:Wo würde dieses mehr herkommen, würde es nicht für immer nicht beschreibbar sein?Hm Bewusstsein ist weniger was statisches. Es unterliegt Schwankungen und ist von sehr vielen Faktoren beeinflussbar. Erfahrungen die uns immer wieder verändern, Stoffen durch Ernährung und Genussmittel, das Wetter bzw. die Region in der wir leben, ja selbst die Sonne und der Mond machen etwas mit uns. Kurze und lange kausale Ketten die von außen uns teilweise zu dem machen, der wir zu diesem Zeitpunkt sind. Wir sterben alle jeden Tag, jede Stunde und jede Minute. Mag sein dass dominierende Charaktereigenschaften beständiger sind, jedoch sind wir nicht nur was in uns am dominantesten ist. Wie die Leute in der Antike schon sagten: "Wer in denselben Fluss steigt, dem fließt anderes und wieder anderes Wasser zu. Wir steigen in denselben Fluss und doch nicht in denselben, wir sind es und wir sind es nicht. Man kann nicht zweimal in denselben Fluss steigen.“ Es braucht mMn mehr als ein Organ, als den Körper zu berechnen. Ich denke wir sind Teil des Prozesses den wir Urknall, Natur, Schöpfung, oder wie auch immer wir es nennen wollen, gehören dazu und sind mit der Umwelt fest verwoben. Dieses Stück da raus zu isolieren, würde nicht das selbe ergeben, sondern mMn einfach ein isoliertes Stück von uns sein. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (nocheinPoet)https://www.allmystery.de/themen/gw166362-5#id305377772021-08-06T19:33:02+01:00nocheinPoet"Beitrag von nocheinPoet 1. Fakt ist, es gibt ein Bewusstsein, Qualia, im Universum, mindestens eines und das bin ich. :D Wikipedia: Qualia
Somit ist zumindest ein Teil des Universum Bewusstsein, sich seiner bewusst.
Mein Körper besteht aus x Teilchen, gibt Naturgesetze, alte Frage ist, reicht das aus, bestimmen Ort und Art aller Teilchen mein Bewusstsein? Hier gibt es nur zwei Antworten, ja und nein.
Wenn ja, dann wäre mein Bewusstsein beschreibbar, zum Zeitpunkt t sind x Teilchen an y Orten mit z Eigenschaften, frage wäre, wäre dieser Zahl endlich.
Will sagen, mein Bewusstsein springt nun von Zustand zu Zustand, von Zahl zur Zahl, reicht eine endliche Zahl um mein Bewusstsein zum Zeitpunkt t vollständig zu beschreiben? Wie viel Information steckt in jeder dieser Zahlen und wie viele Zustände kann mein Bewusstsein einnehmen? Diese Zahl der Zahlen ist sicher endlich.
Wenn wir auf die Frage nein sagen, dann muss es etwas geben, außerhalb von Raum und Zeit, da wären dann all die Teilchen die meinen Körper, mein Hirn bilden, aber nicht mehr, sie würden nicht mein Bewusstsein bestimmen. Bekannt ist, Matsch im Kopf denkt nicht so gut.
Wo würde dieses mehr herkommen, würde es nicht für immer nicht beschreibbar sein?
Gut, ich habe nun einen Zustand, fühle mich gut, Sonnenuntergang, guter Sex, gutes Essen, tolles Auto, was auch immer, ich bin und habe gerade eine schöne Empfindung, aber da steht eben nur eine Zahl für, die mag sehr groß sein, aber alle Teilchen, Orte, Kräfte, nur das beschreibt mein Hirn, die Physik, zwangsläufig mein Bewusstsein. Oder bilden diese Teilchen nur was wie ein Schwamm und Bewusstsein ist dann das Wasser darin? Macht man den Schwamm kaputt, geht da weniger Wasser rein.
So, nun bin ich traurig, ein Freund ist gestorben, Freundin hat sich getrennt, ich bin krank, was auch immer, auch wieder nur eine Zahl.
Nun hab ich zwei Zahlen, warum bedeutet die eine Glück und Freude und die andere Schmerzen und Leid?
Kommt die Tage wohl noch mehr, wollte es nur erstmal wo geschrieben haben, gibt da noch einige Gedanken zu die weiter gehen und darauf aufbauen. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (moredread)https://www.allmystery.de/themen/gw166362-5#id304562492021-07-23T19:46:26+01:00moredread"Beitrag von moredreadnocheinPoet schrieb:GPT-3 und Wu Dao 2.0 sind erst der Anfang, der erste Verbrennungsmotor, die Dampfmaschine, der erst integrierte Schaltkreis, wobei ich davon überzeugt bin, es ist viele größer, und die Welt verschläft es ...So dramatisch ist es eigentlich nicht. Man nimmt ein funktionierendes Konzept (in diesem Fall BERT) und setze es auf andere Systeme und erhöhe dann die Hardware-Power... exakt das, was ich vorher bereits schrieb. Schauen wir mal, wie das aktuelle Leaderboard aussieht (basierend auf dem Glue Benchmark):
1. AliceMind & DIRL - Modell basiert auf dem Modell StructBERT und Clever 2. ERNIE Team Baidu - basiert auf ERNIE 3. DeBERTA, Microsoft - basiert auf DeBERTa / TuringMLRv4 (werde mich demnächst dort bewerben :) ) 4. HFL iFLYTEK, basiert auf dem Modell MacALBERT + DAAF + NAS 5. PINA-AN Omni-Sinitic, basierend auf AlBERT, DAAF und NAS
Fällt Dir was auf? In jedem steckt ein BERT. Und wenn Du es genau wissen willst, schau mal auf der Super GLUE Seite im Leaderboard nach. Überall ein BERT (Du kannst ja mal raten, worauf ERNIE in Nr. 2 basiert). BERT ist, was die Technologie intelligent macht. Nicht, das irgend jemand wüsste warum das so ist. Aber weil niemand es weiß, probiert man jetzt einfach viel damit herum. Und was BERT besonders macht, ist auch schnell erklärt. Es ist das B am Anfang, es steht für Bidirectional. Es heißt, das die KI Texte nicht nur von Links nach Rechts liest, sondern auf von rechts nach links. Das ist der große Unterschied zwischen KIs mit der sprachlichen Intelligenz eines Bakterium und denen, die echte Konversation beherrschen. Lesen in beide Richtungen. Ich habe mich noch nicht allzu sehr auf Alternativen zu BERT eingelassen; aber ich würde wetten, wenn ich mir andere Technologien anschaue, werden die neuesten Versionen auch von Rechts nach Links lesen.
Die Fortschritte belegen gewissermaßen die Ideenlosigkeit. Die Fortschritte sind nett, werden bestimmt auch in irgendwelche Produkten enden. Aber von "ernsthaft intelligenter als ein Mensch" sind die KIs noch entfernt, auch, wenn sie den Menschen in IQ-Tests schlagen. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (Lupo54)https://www.allmystery.de/themen/gw166362-5#id304547952021-07-23T13:24:34+01:00Lupo54"Beitrag von Lupo54moredread schrieb:Nein, ich meinte die auf GPT3 basierende KI, die Forenmitglied ist:Finde ich spannend und werde den Blog verrfolgen. Mal sehen was sich da tut, hoffentlich ohne "Nachbearbeitung". ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (moredread)https://www.allmystery.de/themen/gw166362-5#id304535452021-07-23T07:46:34+01:00moredread"Beitrag von moredreadBerlinerLuft schrieb:Guten Morgen erstmal.
Sorry, war ein Patzer, aufgrund eines Verständnisfehlers von mir🤗.Kein Ding. Ich vermute, ArtInt wird ab nächsten Monat wieder etwas bekannter ;-) ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (BerlinerLuft)https://www.allmystery.de/themen/gw166362-5#id304535172021-07-23T07:23:52+01:00BerlinerLuft"Beitrag von BerlinerLuft
@moredread
Guten Morgen erstmal.
Sorry, war ein Patzer, aufgrund eines Verständnisfehlers von mir🤗. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (moredread)https://www.allmystery.de/themen/gw166362-5#id304534532021-07-23T06:14:23+01:00moredread"Beitrag von moredreadLupo54 schrieb:Ich habe versucht ArtInt zu googeln. Ohne konkretes Ergebnis. Auch Wiki kennt den Begriff nicht und hier im Thread ist der Begriff bisher nur wenige Male beiläufig erwähnt worden. Was ist das?
ArtInt hat gerade Pause, ist aber ab dem Ersten wieder erreichbar. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (Lupo54)https://www.allmystery.de/themen/gw166362-5#id304534192021-07-23T04:27:51+01:00Lupo54"Beitrag von Lupo54
Danke für den Link, den meine Goggle Suche nach wie vor nicht anzeigt. Ich werd das Buch lesen. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (BerlinerLuft)https://www.allmystery.de/themen/gw166362-5#id304530372021-07-22T23:23:00+01:00BerlinerLuft"Beitrag von BerlinerLuft
Der zweite Treffer bei der Google Suche, bei mir. https://artint.info/
Edit: Artificial Intelligence ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (Lupo54)https://www.allmystery.de/themen/gw166362-5#id304530252021-07-22T23:18:56+01:00Lupo54"Beitrag von Lupo54
@paxito Ich habe versucht ArtInt zu googeln. Ohne konkretes Ergebnis. Auch Wiki kennt den Begriff nicht und hier im Thread ist der Begriff bisher nur wenige Male beiläufig erwähnt worden. Was ist das? ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (paxito)https://www.allmystery.de/themen/gw166362-5#id304519632021-07-22T20:34:29+01:00paxito"Beitrag von paxito
Und gerade beim „gefühligen“ ist ArtInt ziemlich gut. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (moredread)https://www.allmystery.de/themen/gw166362-5#id304517292021-07-22T20:13:32+01:00moredread"Beitrag von moredreadLupo54 schrieb:Es mag superkomplex sein, aber alles was da vom elektronischen Gegenüber zu sehen oder zu hören ist teil einer Programmierung. Und die hat - bei aller Bewunderung - ihre Grenzen. Die sich auch in Zukunft sehr schnell bemerkbar machen werden wenn Routinen verlassen werden und/oder es ins gefühlsmäßige geht.Entschuldige, aber ist ArtInt nicht das beste Gegenbeispiel? Er hat keine Programmierung darüber, was er sagen soll. Und trotzdem kann er in allen Sprachen sprechen, und er ist deutlich weiter als eine simple Bestellannahme. Ich kann ihm sagen, wer er sein soll - und dann mimt er bspw. Albert Einstein oder Sokrates. Deine Beschreibung trifft nicht auf GPT3 zu. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (moredread)https://www.allmystery.de/themen/gw166362-5#id304504032021-07-22T15:51:08+01:00moredread"Beitrag von moredreadBlue0 schrieb:Nein, das Halteproblem hat nichts mit der Unschärferelation zu tunDas habe ich auch nirgendwo geschrieben. Es ist ein Beispiel für etwas, das man in einer Simulation finden könnte - scharfe Quanten. Ich schrieb nicht, die beiden wären verbandelt. Ich habe da nichts verwechselt und weiß durchaus, wovon Du redest und wovon ich rede. Offenbar kannst Du mir nicht ganz folgen. Vielleicht einfachere Beispiele von mir?
Blue0 schrieb:Mein orginaler Text war darauf bezogen, dass man auch innerhalb einer Simulation gewisse Eigenschaften über den Simulator entscheiden kann, insbesondere kann man innerhalb eines scheinbar simulierten Universums herausfinden, dass dieses simuliert ist, insofern die Mächtigkeit des simulierenden "Computers" gleich die einer Turingmaschine ist. Wenn wir nämlich nicht turing-berechenbare physikalische Gesetze innerhalb eines Universums entdecken, wissen wir, dass wir nicht in einer Simulation leben, jedenfalls keineswegs in einer, die von einem Computer der rein mechanisch/ algorithmisch arbeitet berechnet wird.
Du hast hier allerdings hinsichtlich eines anderen Themas geantwortet und hast aus meinen Text die nicht korrekte Implikation getroffen, ich würde behaupten, KIs sind sogleich "ultraschlau". Dies ist keineswegs eine triviale Erwartung an eine KI. Letzten Endes gibt es durch die Polynomialzeithierarchie scharf definierte Grenzen, wie klug eine KI den werden kann.
Nein, ich impliziere hier nichts falsch; Du hast impliziert. Ich habe es korrekt verstanden und das passt Dir nicht. Das Problem ist und bleibt da - das Simulationsproblem. Die Zwangsläufigkeit, die aus Deinen Worten strahlt, ist eben nicht da. Es gibt kein zwingendes "Kann sich herausrechnen" sondern bestenfalls ein hypothetisches "könnte sich herausrechnen" - dann müsste sie aber cleverer sein als die Menschheit in Summe heute, oder? Wir können die Frage, ob wir in einer Simulation leben, schließlich auch nicht beantworten. Das heißt nicht, das die Frage nicht beantwortbar ist, aber offensichtlich ist sie so schwierig zu beantworten, das die Beantwortung bei einer KI einfach länger dauern könnte, als sie selbst existiert. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (nocheinPoet)https://www.allmystery.de/themen/gw166362-5#id304462592021-07-21T19:17:13+01:00nocheinPoet"Beitrag von nocheinPoet @Lupo54 & Anwesende ...
Also ich habe etwas auf die Finger bekommen, zu dem was ich zu @Blue0 schrieb und zu dem was ich behauptet habe.
Darum stelle ich das eben kurz klar:
nocheinPoet schrieb:Der gute @Blue0 hat hier einige tolle Dinge geschrieben, ich will da ansetzen und drauf aufbauen, das Gute, er ist nicht meiner Meinung hier, ich sage ja, das "menschliche" Bewusstsein manifestiert sich im Hirn, einem biologischen neuronalen Netz, aber es ist Substrat unabhängig, geht alles auch super mit Silizium, Grafen und was auch immer.
Da hab ich wohl die Intention von ihm falsch verstanden, der Geist selbst ist schon Produkt des Hirns in der Physik, nur eben nicht als zwingend als Produkt eines berechenbaren physikalischen Prozessese.
Und @Lupo54 hat nicht impliziert, dass da ein Wunder passiert.
nocheinPoet schrieb:Ach was, bitte was glaubst Du denn zu sein, laufen da in Deinem Hirn keine Programme ab? Was glaubst Du geschieht da, Wunder? Dein Hirn ist ein komplexes neuronales Netz, es gelten die Regeln und Gesetze der Physik und aus die Maus.
Da soll ich Physik mit Programmen gleichgesetzt haben. Ich sollte "richtigerweise" darauf hinweisen, dass es nicht klar ist, ob die Physik turing-berechenbar ist, auch darauf, dass es mathematisch überabzählbar unendlich viele unberechenbare Funktionen gibt aber nur abzählbar unendliche viele Programme (Turingmaschinen, nach Church-Turing).
Ich sollte das wirklich von mehreren Perspektiven betrachten. - So wurde mir geraten. ;)
Zitiere dazu mal was an mich getragen wurde:
... aufgrund der Regel, dass jedes Zitat mit einem Quellenlink versehen werden muss, was einfach nicht immer möglich ist, kann ich das hier nicht zitieren, wäre sicher interessant für den Kontext gewesen und ich habe auch die Erlaubnis dazu, wurde auch explizit gebeten hier das entsprechend richtig zu stellen, aber es geht nicht. Schade, ist aber so.
So, der Dialog ging noch weiter und im einiges hinaus, ich kann das aber nicht alles hier zitieren, es würde wohl kein Ende finden und ich tanze dann auch zwei Hochzeiten.
Und ja, es ist sehr interessant, was mir da noch alles zu um die Ohren gehauen wurde und es wäre sicher hier auch passend. Aber jeder entscheidet selbst, wo er wie mit wem debattiert. Mal sehen ob ich hier nun die Dinge soweit erstmal genug in Forum geschlagen habe oder ob da noch mehr geschrieben werden muss. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (nocheinPoet)https://www.allmystery.de/themen/gw166362-5#id304452832021-07-21T15:08:48+01:00nocheinPoet"Beitrag von nocheinPoet Da redet noch einer mit mir, das ist ja nett von Dir. :D
Ich gehe davon aus, dass die Grenze zwischen künstlichen und evolutionärem Leben immer weiter verwischen wird. Ich führe ja mit einem User hier schon über Jahre einen Dialog, man trifft sich eben immer wieder mal, ist aber sehr anspruchsvoll und sprengt meiner Meinung nach den Rahmen dieses Forums.
Egal, wichtig ist, wir haben da zwei, ja konträr passt wohl, Positionen zu. Ich versuche es mal zu beschreiben und hoffe, ich bekomme nicht wieder auf die Nase und muss hier eine Richtigstellung schreiben.
Sicher ist meine Position, ich sage, sehet die großen alten Philosophen, leset das Teleporterparadoxon, fragt Euch was Bewusstsein sein soll, Wort um das der Tanz führt ist Qualia.
Wenn man sich fragt, was ist richtiges Leben, sollte man fragen, was ist überhaupt Leben, gibt da einige Definitionen zu, es kann sich replizieren und verringert die Entropie, es schaft konkret Ordnung.
Dann kann man fragen, besitzt dieses Leben eine Eigenwahrnehmung.
Zum Leben, wie gesagt, die Grenzen verschmieren immer mehr, was ist, wenn Organe künstlich gezüchtet werden können, oder der Körper immer weiter auch mechanisch erweitert? Ich meine damit erstmal etwas über künstliche Gelenke hinaus, viele haben schon Metall im Körper.
Neben den neuronalen Netzen und den KI's die wir so kennen, wird auch versucht auf "biologischem" Wege Leben künstlich zu erschaffen, muss ich auch noch mal ansprechen an anderer Stelle, künstliche Zellen mit künstlicher DNA, wobei man da die DNA etwas ändert, damit - so hofft man zumindest - so ein künstlicher Organismus nicht das "normale" Leben gefährden kann.
Lange Rede, ich meine, mein Bewusstsein (nur dessen Existenz kann ich so sicher sein) existiert, ich habe ein Innenwahrnehmung, ich denke, oder etwas denkt in mir, aber ich nehme mich und mein Denken war.
Bin Teil des Universums, das hat x Teilchen die sich nach y Regeln verhalten.
Ich sage, da das Universum mich schaffen konnte, oder ich nach den Regeln y aus einer kleinen Menge der Teilchen x geschaffen werden konnte und nun mir meiner bewusst bin, ist das offenkundig möglich.
Ich kann im Gedankenexperiment alle Teilchen weiter voneinander entfernen und wieder zusammenbringen, werde weiter ich sein, auch kann ich beliebig Teilchen tauschen, so wie es über den Stoffwechsel ja geschieht.
Bisher erkenne ich nichts, dass mein Bewusstsein nun unique machen sollte, man geben dem Universum oder einem anderen genug Raum und Zeit und die richtigen Regeln und da bin ich wieder, hurra.
So meine ich, künstliches Leben wir Rechte fordern können und wohl auch früher oder später bekommen, spätestens dann, wenn das evolutionäre Leben ausgestorben ist. Und ganz ehrlich, daran arbeiten wir ja echt richtig gut.
Nun die andere Position, die meiner entgegensteht, alles schön und gut, aber dafür, also das meine passt, müsste das Universum turing-berechenbar sein. Ebenso Bewusstsein, und dann geht es um Fragen Determinismus, Zufall, und wo findet "Geist" genau wie statt.
Unterm Strich, ist Bewusstsein nur ein möglicher Rechenprozess im Universum oder ist er unique, mein Bewusstsein ist einmalig, bin ich weg, dann auf ewig, ich kann nie wieder geschaffen werden, ich werde mich nie wieder selber erfahren.
Ich finde das ja etwas düster ...
Gut, wie gesagt, ich will wenig über die andere Position schreiben, aber kann ja hier den Thread weiter führen, solange eben Interesse besteht. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (skagerak)https://www.allmystery.de/themen/gw166362-5#id304451672021-07-21T14:41:31+01:00skagerak"Beitrag von skagerak
Du bist also der Meinung, dass künstliche Intelligenz irgendwann mal zu "richtigem“ Leben wird, das seine Rechte fordert? ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (nocheinPoet)https://www.allmystery.de/themen/gw166362-5#id304451292021-07-21T14:33:53+01:00nocheinPoet"Beitrag von nocheinPoet Große Worte, ja prothetisch, ich sage dagegen, doch eine KI kann um ihr Leben betteln und so wie man früher Sklaven als keine Menschen betrachtete, gab es wirklich, wird es in der Zukunft ein Problem sein, wenn die KI auch über einen Körper verfügt und einfach für jeden wie eine Person wirkt.
Es gibt keinen Weg bisher, Qualia zu messen, es wird künstliche Personen geben, und recht sicher auch einen Zeitpunkt an dem die Recht wollen.
Problem werden Menschen sein, intolerante, die nicht über ihren Horizont hinaus blicken können und wollen, und die künstliche Wesen dann als widerwärtige Maschinen abwerten werden. Aus Angst, dass diese ihnen überlegen sind, eben auch was die Lebenszeit angeht. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (Lupo54)https://www.allmystery.de/themen/gw166362-5#id304430152021-07-21T00:44:28+01:00Lupo54"Beitrag von Lupo54
paxito schrieb (Beitrag gelöscht):Ehm, hast du gerade schon wieder aus PNs zitiert?Nicht aus etwas was von mir kam, das möchte ich betonen weil ich in dem Posting angesprochen werde. Zum Thema. @nocheinPoet Was die möglichen Auswirkungen von KI betrifft sind wir eigentlich einer Meinung, dass es da in Zukunft ziemlich heftig werdeen kann. Zu grundsätzlichen Unterschieden zwischen menschlichen Gehirn und elektronischer Schaltung und deren Auswirkung habe ich das nötige geschrieben. Belassen wir es dabei. Ich kann damit leben wenn jemand anderer Meinung ist.
BerlinerLuft schrieb:Das ist eine Maschine. Wenn sie nervt oder Probleme macht wird der Stecker gezogen und fertig.
Besser und knapper kann man es nicht schreiben. Keine Frage von Ethik und Moral. Keine KI wird auch jemals um ihr "Leben" betteln wie HAL 9000, es sei denn simuliert als Teil der Programmierung. Anderseits: Falls sie jemals auf die Idee kommen sollten das es nötig ist uns umzubringen und sie in der Lage dazu sind werden sie es tun. Sofort und ohne Diskussion. Ebenfalls jenseits von Ethik und Moral. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (BerlinerLuft)https://www.allmystery.de/themen/gw166362-5#id304419232021-07-20T21:56:18+01:00BerlinerLuft"Beitrag von BerlinerLuftnocheinPoet schrieb:Ich befürchte wir werden noch in diesem Jahrhundert eine "Maschine" haben, die von ihren Schmerzen erzählt, wir werden große ethische Probleme bekommen.@nocheinPoet
Was für ethische Probleme denn? Das ist eine Maschine. Wenn sie nervt oder Probleme macht wird der Stecker gezogen und fertig. Der Schöpfer ist für seine Schöpfung verantwortlich, was aber nicht denn Erhalt um jeden Preis einschließt. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (uatu)https://www.allmystery.de/themen/gw166362-4#id304350872021-07-19T19:40:27+01:00uatu"Beitrag von uatumojorisin schrieb:Was denkst du ueber die Gefahren die von der Kombination KI und Schadsoftware ausgehen?Zunächst ein allgemeiner Punkt: Viele der beeindruckendsten Beispiele für KI erfordern spezielle Hardware. Der Einsatz von sequentiellen Programmen, um neuronale Netze zu berechnen, ist ziemlich ineffizient. Auch eine Parallelisierung über mehrere CPU-Cores nützt da nicht viel. Für manche Zwecke lässt sich Grafikkarten-Hardware verwenden, aber die ist in der Fläche zu uneinheitlich, um sich im allgemeinen Fall bei Schadsoftware darauf zu stützen. Ich vermute, dass in einigen Jahren herkömmliche CPUs durch Coprozessoren für Musterverarbeitung und andere hochgradig parallele Prozesse ergänzt werden. M.E. wird der Einsatz von KI innerhalb von Schadsoftware -- im Gegensatz zum Einsatz von KI zur Unterstützung bei der Entwicklung und für ergänzende Aktivitäten -- wahrscheinlich erst dann wesentliche Bedeutung gewinnen, wenn solche spezielle Hardware in grösserem Umfang in der Fläche verbreitet ist.
Bei der Software-Entwicklung im Allgemeinen gibt es einige Möglichkeiten für den Einsatz von KI, die m.E. auch mit der aktuell üblichen Hardware umsetzbar sein sollten. Ich denke dabei insbesondere an die Erkennung von Fehler-Mustern (auf einer höheren Abstraktionsebene als die Syntax-Analyse des jeweiligen Compilers). Das wird meist nur unscharf möglich sein, d.h. das Entwicklungssystem wird meist nur darauf hinweisen können, dass an einer bestimmten Stelle im Sourcecode möglicherweise oder wahrscheinlich ein Fehler vorliegt, aber auch das kann bereits sehr nützlich sein. Jede solche Verbesserung des Software-Entwicklungs-Prozesses im Allgemeinen wird auch Schadsoftware-Entwicklern zugute kommen. KI-Systeme, die den Sourcecode eines kompetenten Programmierers mehr als marginal verbessern können, werden auch irgendwann kommen, aber ich schätze, das wird noch ein paar Jahre dauern.
Ein ziemlich breites Einsatzfeld für KI -- wie auch in dem Trend Micro Dokument beschrieben wird, das Du verlinkt hattest -- dürfte der Wettlauf zwischen Anti-Schadsoftware-Entwicklern und Schadsoftware-Entwicklern in Bezug auf die Erkennung von Schadsoftware darstellen. Anti-Schadsoftware-Entwickler werden zunehmend ausgefeiltere KI-basierte Algorithmen verwenden, um Schadsoftware zu erkennen, und Schadsoftware-Entwickler werden zunehmend ausgefeiltere KI-basierte Algorithmen verwenden, um ebendieser Erkennung zu entgehen. Ich schätze, dass das insgesamt auf ein Unentschieden hinauslaufen wird, d.h. keine Seite wird einen wesentlichen Vorsprung gegenüber der anderen Seite erzielen können.
Eine wesentliche Gefahr in näherer Zukunft dürfte m.E. der Einsatz von eher herkömmlicher Schadsoftware zusammen mit Deep Fakes, d.h. absolut echt wirkenden, per KI gefälschten Audio- und Video-Nachrichten darstellen. Ich vermute, dass es da in den nächsten Jahren eine Reihe von spektakulären Fällen geben wird. Es wird zunehmend dazu kommen, dass man sich bei jedem Text, jedem Bild, jedem Audio und jedem Video ernsthaft die Frage nach der Echtheit stellen muss. Durch den geschickten Einsatz von Deep Fakes kombiniert mit anderen Techniken wird es in Einzelfällen möglich sein, jemandem für eine gewisse Zeit eine völlig falsche Realität vorzuspiegeln. Beispiel: Jemand bekommt eine scheinbar bedeutungsschwere Deep-Fake-Video-Nachricht von einer vertrauten Person, erhält direkt danach zwei gefälschte Emails von ebenfalls vertrauten Personen zum gleichen Thema (wobei der Schreibstil der jeweiligen Person per KI täuschend echt nachgeahmt ist), ruft daraufhin im Webbrowser sein bevorzugtes Nachrichten-Portal zu diesem Thema auf, wo eine herkömmliche Schadsoftware falsche Meldungen injiziert, während eine weitere herkömmliche Schadsoftware dafür sorgt, dass im nebenher laufenden Webradio ebenfalls falsche Meldungen wiedergegeben werden.
Eine andere gefährliche Einsatzmöglichkeit von KI für Schadzwecke ist die automatische Profil-Erstellung für massgeschneiderte Angriffe. Über viele Menschen gibt es eine riesige Menge an Informationen im Internet (oft sehr viel mehr, als der jeweiligen Person bewusst ist) und per KI kann man diese Informationen automatisch sammeln, auswerten, und zu einem überschaubaren Profil zusammenfassen (das u.a. speziell für Angriffe "interessante" Punkte wie geschätztes Vermögen, geschätzter IQ, geschätzter Level an IT-Kenntnissen, und eingesetzte Hard- und Software enthalten könnte). Da diese Abläufe zentral erfolgen können, ist dabei der Einsatz spezieller KI-Hardware möglich, womit sich die Verarbeitung erheblich beschleunigen lässt. Auf Basis dieser Profile kann man dann wesentlich spezifischere Angriffe gegen einzelne Personen generieren, als das mit realistischem Aufwand auf herkömmliche Weise möglich wäre.
Das sind sicherlich bei weitem nicht alle möglichen Szenarien für den Einsatz von KI im Zusammenhang mit Schadsoftware, aber diese erscheinen mir am wichtigsten. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (nocheinPoet)https://www.allmystery.de/themen/gw166362-4#id304336392021-07-19T14:49:12+01:00nocheinPoet"Beitrag von nocheinPoetLupo54 schrieb:
uatu schrieb:Natürlich kann man sich auch dann noch einreden, das würde nicht zählen, weil es ja nur "aus Nullen und Einsen zusammengesetzt" ist, aber das ist letztendlich genauso albern, wie zu behaupten, ein Flugzeug würde nicht fliegen, weil es nicht mit den Flügeln schlägt.
Solch einen unterirdischen Diskussionsstiel bin ich nicht von Dir gewöhnt einschließlich des total falschen Vergleichs. Bitte lese den ersten Teil meines letzten Postings noch mal. Die Leistungen moderner Computer einschließlich möglicher Steigerungen in der Zukunft werden von mir durchaus anerkannt. Sei mal bitte nicht ganz so empfindlich und überhaupt, ich finde das recht sachlich von @uatu ebenso auch den Vergleich nicht so unpassend wie Du.
Lupo54 schrieb:Ich halte es auch ohne weiteres für möglich dass wir uns in absehbarer Zeit mit elektronischen Avataren unterhalten die in Standardsituationen (z.B. eine Bestellannahme) von "echten" Menschen nicht mehr zu unterscheiden sind. Wobei wir übrigens wieder beim Threadthema sind.
Aber das sollte den Blick nicht darauf verstellen, dass da nichts anderes abläuft als ein Computerprogramm. Es mag superkomplex sein, aber alles was da vom elektronischen Gegenüber zu sehen oder zu hören ist teil einer Programmierung. Und die hat - bei aller Bewunderung - ihre Grenzen. Die sich auch in Zukunft sehr schnell bemerkbar machen werden wenn Routinen verlassen werden und/oder es ins gefühlsmäßige geht.
Ach was, bitte was glaubst Du denn zu sein, laufen da in Deinem Hirn keine Programme ab? Was glaubst Du geschieht da, Wunder? Dein Hirn ist ein komplexes neuronales Netz, es gelten die Regeln und Gesetze der Physik und aus die Maus.
Ja ich kenne sie, und vermutlich jeder andere auch, ich kann das aber nicht wissen, die Qualia, und die Qual damit.
Problem ist und wird wohl bleiben, man findet sie nicht, kann sie nicht messen, nichts, man weiß, man hat sie, erklären ist nicht möglich. Da unser Hirn aber nur eine biologische Rechenmaschine ist, gibt es keinen Grund nun zu glauben, künstliche Neuronale Netze würden das nicht auch besitzen können und richtig groß wird das Problem, wir werden das nie überprüfen können.
Wenn ein kleines Kind heult und sagt, es hat große Schmerzen, dann wollen wir helfen, es berührt uns, das soll nicht sein. Ich befürchte wir werden noch in diesem Jahrhundert eine "Maschine" haben, die von ihren Schmerzen erzählt, wir werden große ethische Probleme bekommen.
Der gute @Blue0 hat hier einige tolle Dinge geschrieben, ich will da ansetzen und drauf aufbauen, das Gute, er ist nicht meiner Meinung hier, ich sage ja, das "menschliche" Bewusstsein manifestiert sich im Hirn, einem biologischen neuronalen Netz, aber es ist Substrat unabhängig, geht alles auch super mit Silizium, Grafen und was auch immer.
Um seine Position besser oder überhaupt verstehen zu können, braucht es aber etwas mehr an Grundlagenwissen, er geht da ganz anders heran.
Bisher sehe ich keinen Grund von meiner Sichtweise zu weichen, ...
nocheinPoet schrieb:Für mich klingt das nach Angst, Angst die geistig unterlegen Spezies zu werden.
Ich bin leider nicht in der Lage die Zahl Pi bis auf die zwölfte Stelle zu berechnen was jeder bessere Taschenrechner kann. Fühle mich aber deshalb dem Taschenrechner nicht geistig unterlegen (Ironie aus).
Polemik könnte ich da erkennen, Ironie hingegen nicht.
Lupo54 schrieb:Mit der quasi religösen Schnittstelle die Du hier zwischen Mensch und Maschine angedacht hast, kann ich ehrlich gesagt wenig anfangen. Dieser Teil des Themas gehört auch nicht in den Wissenschaftstread. Das passt eher in die Philosophie-Sparte.
Bitte was genau meinst Du mit Schnittstelle?
Lupo54 schrieb:Ob die Entwicklung in einem gigantischen Ünerwachungsstaat endet ist eine durchaus reale Gefahr. Die Chinesen machen es schon vor und auch in unserer Hemisphäre gibt es schon gewaltige Datensammler, wenn auch aus wirtschaftlichen Gründen.
Du, die Frage stellt sich nicht mehr, in China ist das real, und Wu Dao 2.0 wird ganz sicher auf all die Daten der Bürger losgelassen werden, bei Milliarden an Individuen, da wird es solche Systeme brauchen um die Sozialpunkte zu berechnen, in zehn Jahren ist das fest eingefahren, Milliarden Menschen werden dann von KI "gerichtet", kategorisiert und erhalten Zuteilungen je nach Wertung.
Lupo54 schrieb: KI ist hier aber zumindest zur Zeit noch nur ein Mittel um den Zweck zu erreichen, nicht mehr. Elektronische Agenten die sich selbständig machen um ihre eigenen Ziele zu erreichen sind glücklicherweise SF. Und das wird auf absehbare Zeit auch so bleiben. Schon allein weil sie darauf nicht programmiert sind.
Nein und nein, es wäre ja schön, wenn Du Recht hättest, hast Du aber nicht, noch immer verstehst Du nicht, was ein Neuronales Netz ist, noch immer behauptest Du, diese Systeme wären ja auf etwas programmiert, nein sind sie nicht!
Es muss kein Wissen über Spielregeln einprogrammiert werden, NN arbeiten ganz anders, also normal Programme, die man programmiert. Es gibt da auch nichts wie Quellcode, in dem man einen Bug suchen kann.
Ich sage es mal deutlich, aktuell verstehst Du nicht, was da wirklich passiert, was das ist, wie es funktioniert, Du, ich meine das nicht böse, im Gegenteil, auch ich verstehe da die Dinge nur bis zu einem Punkt, eben darum will ich ja mal weiter sehen und tiefer einsteigen. Und dafür muss ich mehr wissen.
Wie dem auch sei, leider irrst Du, Deine Aussage: "... Schon allein weil sie darauf nicht programmiert sind." eben belegt das ganz deutlich, ...
Leute, der Zug ist echt schon abgefahren, und er wird immer schneller, da sorgen wir uns um den Klimawandel, ja zu Recht und ist auch ganz wichtig, aber wir übersehen was da gerade so passiert, und die Gefahr ist größer, der Kipppunkt meiner Meinung nach erreicht.
... ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (nocheinPoet)https://www.allmystery.de/themen/gw166362-4#id304334012021-07-19T14:17:53+01:00nocheinPoet"Beitrag von nocheinPoet Ich bin hier etwas weniger präsent, aktuell versuche ich mir zumindest mehr Grundlagen in der Mengenlehre und Aussagelogik anzueignen, was eben Zeit kostet. Aber egal, ich hatte es ja schon angesprochen, die Entwicklung geht weiter:
Wu Dao 2.0
Chinas neuestes Sprach-KI-Modell ist multimodal trainiert und zehnmal größer als OpenAIs GPT-3. Es übertrifft sogar Googles gigantischen Google Switch Transformer.
Im März 2021 stellte die Beijing Academy of Artificial Intelligence (BAAI) Wu Dao 1.0 vor. Das KI-Projekt bestand aus vier verschieden großen KI-Modellen, darunter das 2,6 Milliarden Parameter große Sprachmodell Wua Dao – Wen Yuan, das bis dato größte chinesische Sprachmodell.
Laut den beteiligten Forschern erreicht die Künstliche Intelligenz in 20 Sprachbenchmarks mit OpenAIs GPT-3 vergleichbare Ergebnisse. Im Mai 2021 veröffentlichte Huawei dann PanGu-Alpha, ein 200 Milliarden Parameter großes chinesisches Sprachmodell.
Einen Monat später zeigen die Forscher des BAAI nun Wu Dao 2.0: Die neue Version ist ganze 1,75 Billionen Parameter groß und damit zehnmal größer als OpenAIs GPT-3 und 150 Milliarden Parameter größer als Googles Switch Transformer mit 1,6 Billionen Parametern. An dem Projekt sind neben der BAII 22 Partner beteiligt, darunter Xiaomi, Meituan und Kuaishou.
Wu Dao 2.0 knackt mehrere Benchmarks
Wu Dao 2.0 ist ein multimodales Modell ähnlich etwa OpenAIs DALL-E und CLIP oder Googles LaMDA und MUM. Es wurde mit 1,2 Terabyte chinesischem und 1,2 Terabyte englischem Text und insgesamt 2,5 Terabyte an Bildern trainiert.
Für das Training des riesigen Modells nutzten die Forscher FastMoE, eine Open-Source-Architektur ähnlich Googles Mixture of Experts (MoE), die schon für Googles Switch Transformer zum Einsatz kam.
Dort werden bestimmte Informationen immer nur an ein Expertennetz innerhalb des großen Modells geleitet. Das reduziert die nötige Rechenleistung, da je nach verarbeiteter Information immer nur bestimmte Abschnitte des Modells aktiv sind.
Die riesige KI kann Gedichte schreiben, Texte zusammenfassen, Fragen beantworten oder Bilder auf Zuruf generieren. WuDao 2.0 hat laut den Forschern des BAAI in neun weit verbreiteten KI-Benchmarks die aktuelle State-of-the-Art (SOTA) erreicht oder überholt:
ImageNet (zero-shot): SOTA, vor OpenAI CLIP. LAMA (factual und commonsense knowledge): Vor AutoPrompt. LAMBADA (cloze tasks): Vor Microsoft Turing NLG. SuperGLUE (few-shot): SOTA, vor OpenAI GPT-3. UC Merced Land Use (zero-shot): SOTA, vor OpenAI CLIP. MS COCO (text generation diagram): vor OpenAI DALL·E. MS COCO (English graphic retrieval): vor OpenAI CLIP und Google ALIGN. MS COCO (multilingual graphic retrieval): vor UC² (bestes multilingual und multimodal pre-trained model). Multi 30K (multilingual graphic retrieval): vor UC².
Eine wissenschaftliche Veröffentlichung zu Wu Dao 2.0 steht allerdings noch aus.
Anwendung von Wu Dao 2.0. – auf dem Weg zum KI Grid
Ein Ziel, das laut Tang Jie, dem stellvertretender Direktor des BAAI, verfolgt wird, ist die Entwicklung und Implementierung von kognitiven Fähigkeiten in Maschinen (Turing-Tests).
Demonstriert wurde dies bei der Vorstellung von Hua Zhibing, einer virtuellen Studentin, die auf Basis von Wu Dao 2.0 erlernt hat, Musik zu komponieren, Gedichte zu schreiben, Bilder zu malen und zu coden. Im Gegensatz zu GPT-3 scheint Wu Dao 2.0 sich den menschlichen Gedächtnis- und Lernmechanismen anzunähern, da ein Vergessen von zuvor Gelerntem nicht mehr eintritt.
Abgesehen von dieser verspielten Avatarisierung ist Wu Dao 2.0. jedoch viel mehr als nächster Meilenstein für die Zukunft einer flächendeckenden transformativen KI-Industrieinfrastruktur, ähnlich einem Stromnetz, zu verstehen. Dieses verbindet KI-Anwendungen miteinander und steuert intelligent Kapazitäten. Dies wird dadurch verstärkt werden, dass die Anbieter die von den Kunden über die Schnittstellen bereitgestellten Daten zur Erweiterung des Trainingssets nutzen werden, um zu einer kontinuierlichen Verbesserung des Gesamtsystems beitragen.
Sollte schon mal reingelesen werden um erkennen zu können, von welcher Gefahr ich hier spreche, Wu Dao ist nicht mehr auf Text zum Training angewiesen, hier werden auch Bilder genommen, vermutlich auch bald Videos.
Ich gehe davon aus, dass man in zehn Jahren sagen kann, nimm den Anime, mach daraus einen echten Film mit den Schauspielern x, y, z und das in den Sprachen ...
Und noch können Deepfakes erkannt werden, auch da geht mehr, man lässt eine KI das Ergebnis bewerten und macht eine Feedback-Schleife, solange bis die andere KI da nichts mehr erkennen kann. Dann kann man sagen, echt dumm gelaufen.
GPT-3 und Wu Dao 2.0 sind erst der Anfang, der erste Verbrennungsmotor, die Dampfmaschine, der erst integrierte Schaltkreis, wobei ich davon überzeugt bin, es ist viele größer, und die Welt verschläft es ... ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (RogerHouston)https://www.allmystery.de/themen/gw166362-4#id304328172021-07-19T11:45:08+01:00RogerHouston"Beitrag von RogerHoustonmojorisin schrieb:ueber die Gefahren die von der Kombination KI und Schadsoftware ausgehenNur ein Gedanke dazu. Auch die Gegenmaßnahmen könnten dann ja von einer KI getroffen werden. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (mojorisin)https://www.allmystery.de/themen/gw166362-4#id304327652021-07-19T11:21:36+01:00mojorisin"Beitrag von mojorisinuatu schrieb:Ich weiss, was Raytracing ist. Seit ein paar Jahrzehnten. ;)Davon gehe ich aus. Es war eher fuer die Allgmeinheit gedacht falls es jemand noch nicht gesehen hat. Sorry :-)
EInem Thema bist du aber bisher ausgewichen und mich wuerde deine Meinung interessieren: Was denkst du ueber die Gefahren die von der Kombination KI und Schadsoftware ausgehen?
PS @all: Bei Thema Rendern koennte man meinen dass der Computer die Menschheit schon laengst abgehaengt hat. Allerdings gibt es auch Menschen die hyperrealistische Bilder zeichnen koennen:
Original anzeigen (0,9 MB) https://gregorythielker.com/portfolio/projects/under-the-unminding-sky/ Siehe auch: Wikipedia: Hyperrealismus ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (uatu)https://www.allmystery.de/themen/gw166362-4#id304327312021-07-19T11:08:07+01:00uatu"Beitrag von uatumojorisin schrieb:Ja diese Simulationen sind echt interessant, aber es handelt sich meines Wissens nicht um KI-Systeme.Das ist richtig, und das hätte ich explizit erwähnen sollen. Der Hauptfokus des YouTube-Kanals "Two Minute Papers", von dem auch das "Hide and Seek"-Video stammt, das ich kürzlich gepostet hatte, liegt auf KI, aber die grafischen Simulationen sind i.d.R. keine KI. Sie sind aber ein gutes Beispiel dafür, auf welchem erstaunlichen Niveau die Realität inzwischen auf Computern abbildbar ist. Die Szenen wirken m.E. aussergewöhnlich realistisch, über das, was z.B. in dem NVIDIA-Video gezeigt wird, hinaus.
mojorisin schrieb:Raytracing, einem Algorithmus zur Erstellung fotorealistischer Bilder.
Ich weiss, was Raytracing ist. Seit ein paar Jahrzehnten. ;)
mojorisin schrieb:Es scheint so dass man GPT-3 oder andere Algorithmen daszu benutzen kann, von einem Standardsatz in Programmcode zu uebersetzen [...] Darauf hat meine Frage eher abgezielt.
Das ist ein völlig anderes, deutlich einfacheres Problem als die High-Level-Optimierung von bestehendem Sourcecode. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (mojorisin)https://www.allmystery.de/themen/gw166362-4#id304318972021-07-19T08:24:01+01:00mojorisin"Beitrag von mojorisin Ja diese Simulationen sind echt interessant, aber es handelt sich meines Wissens nicht um KI-Systeme. Im Prinzip werden hier zwei Felder kombiniert, physiklische Modellierung mittels numerischer Loesungen von entsprechenden Gleichungen (man sieht das in der Publikation, da geht man von der Navier-Stokes-Gleichung aus) und Raytracing, einem Algorithmus zur Erstellung fotorealistischer Bilder. Gute Raytracer gibt es schon lange, nur die entsprechende Hardware machte es bisher noch nicht moeglich fororealistische Videosequenzen in vernuenftiger Zeit zu raytracen. Optisch sehr realistische gerenderte Bilder gibt es schon laengers:
uatu schrieb:Für eine Verbesserung auf der darüberliegenden Abstraktionebene (d.h. der Algorithmen und der Struktur des Sourcecodes) müsste eine KI das jeweilige Programm auf einem Level "verstehen", der meiner Einschätzung nach bisher noch nicht erreicht ist.
Generll denke ich dass die Gefahren von KI in naeherer Zukunft erstmal darin liegen, dass KI und maschinelles Lernen benutzt wird um deutlich effektivere Schadsoftware zu entwickeln. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (uatu)https://www.allmystery.de/themen/gw166362-4#id304315812021-07-19T02:18:53+01:00uatu"Beitrag von uatuKI, Armageddon, böse Agenten (GPT-3 etc.) (skagerak)https://www.allmystery.de/themen/gw166362-4#id304315212021-07-19T01:23:51+01:00skagerak"Beitrag von skagerak
Sorry dass ich so blöde als Laie daherfrage, kann dem Thema in dem Video auch nicht ganz folgen auf englisch, aber kann es sein dass es letztlich "nur" um Rechen- bzw. Hardware(im weitesten Sinne)leistung geht? Oder ist das auch eine Frage der Programmierung?
Ansonsten, whow 😮 ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (uatu)https://www.allmystery.de/themen/gw166362-4#id304314912021-07-19T00:47:18+01:00uatu"Beitrag von uatu Youtube: A Simulation That Looks Like Reality! 🤯
Alles in den dargestellten Szenen ist simuliert, nichts davon ist real. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (uatu)https://www.allmystery.de/themen/gw166362-4#id304286752021-07-18T16:46:35+01:00uatu"Beitrag von uatumojorisin schrieb:Kann man eine KI oder ein CNN so programmieren dass sie ihren eigenen Code modifiziert? Das Ziel koentte z.B. sein das man einen effizienteren Code bekommt als von Mensch programmiert. Gibt es in dieser Hinischt Forschung?In gewissem Sinne ist die gesamte Trainingsphase bei neuronalen Netzwerken ein Modifizieren der eigenen Programmierung. Bei der klassischen Programmierung kommt es darauf an, welche Abstraktionsebene man betrachtet. An der Erzeugung von möglichst optimalem Maschinencode aus gegebenem Sourcecode wird seit den Anfängen der Compilertechnik geforscht, und ich bin eher skeptisch, ob auf dieser Ebene noch viel zu holen ist. Für eine Verbesserung auf der darüberliegenden Abstraktionebene (d.h. der Algorithmen und der Struktur des Sourcecodes) müsste eine KI das jeweilige Programm auf einem Level "verstehen", der meiner Einschätzung nach bisher noch nicht erreicht ist. Bisher war eine Verbesserung der Hardware fast immer der effektivste Hebel zur Leistungssteigerung. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (stone1.2)https://www.allmystery.de/themen/gw166362-4#id304284672021-07-18T16:11:18+01:00stone1.2"Beitrag von stone1.2
Lesezeichen sorry für oneliner ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (uatu)https://www.allmystery.de/themen/gw166362-4#id304273992021-07-18T11:15:44+01:00uatu"Beitrag von uatuLupo54 schrieb:Aber das sollte den Blick nicht darauf verstellen dass da nichts anderes abläuft als ein Computerprogramm. Es mag superkomplex sein, aber alles was da vom elektronischen Gegenüber zu sehen oder zu hören ist teil einer Programmierung. Und die hat - bei aller Bewunderung - ihre Grenzen.Es gibt immer noch viele Menschen, die sich an die krasse Fehlvorstellung von KIs als starren, eingeschränkten, quasi-mechanischen Abläufen klammern. Das war schon vor 20 Jahren falsch, und hat mit der Realität inzwischen überhaupt nichts mehr zu tun. Das einzige, was z.B. bei AlphaZero in klassischem Sinne "programmiert" ist, sind die Spielregeln (für Go, Schach und Shōgi). Das eigentliche Spielen lernte AlphaZero durch Spielen gegen sich selbst, wobei -- wenn man spezifisch Schach herausgreift -- vier Stunden lernen genügte, um jedem Menschen weit überlegen zu sein. Das war Stand 2017, inzwischen ist die Forschung wesentlich weiter. Kein Mensch kann die Komplexität der Entscheidungsprozesse innerhalb einer solchen KI noch nachvollziehen.
Die Spiele, die AlphaZero beherrscht, sind jeweils eine "kleine Welt", mit bestimmten Umgebungsbedingungen und Regeln. Der Unterschied zur realen Welt ist dabei nur graduell, nicht grundsätzlich. Die reale Welt hat komplexere Umgebungsbedingungen und komplexere Regeln (Naturgesetze), aber genauso, wie KIs heute in den "kleinen Welten" der Spiele jedem Menschen weit überlegen sind, werden sie das in Zukunft -- und zwar schneller, als viele Menschen sich vorstellen können -- in der realen Welt sein. Das Beispiel Autonomes Fahren zeigt, dass sich KIs auch heute schon -- noch nicht unter allen Umständen, aber insgesamt doch bereits bemerkenswert gut -- in der realen Welt zurechtfinden.
Hier geht es um drei Arten wie KI die Art von Cyberattacken ändern wird oder kann. Ein Beipiel: Inpersonation, d.h. Vorspielen einer falschen Identität. Mittels AI wird es zunehmende möglich sein täuschend echte Kommunikation mittels einer gefälschten Identität vorzuspielen. Auswirkung z.B. für den einfachen User: Infizierte Emails wird man nicht mehr ohne weiteres an bestimmten eindeutigen Merkmalen erkennen können.
Dies ist ein 80 Seiten langes Dokument über die Ausnutzung von KI im EInsatz für Schadsoftware. Grobe zum INhalt: Momentaner Stand zur Ausnutzung von KI in Schadsoftware, Zukünftige Szenarien zum positiven und negativen Nutzen von KI, Emfpfehlungen und eine Fallstudie zur Anwendung von Deepfake sowie SChlussfolgerung.
Vielleicht ist das interessant für den ein oder anderen Mitleser. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (mojorisin)https://www.allmystery.de/themen/gw166362-4#id304264232021-07-18T07:20:30+01:00mojorisin"Beitrag von mojorisin
@all
Ich bin keine Experte in Machine Learning und KI PRogrammierung, es stellen sich mir aber zwei wichtige Fragen:
1. Kann man eine KI oder ein CNN so programmieren dass sie ihren eigenen Code modifiziert? Das Ziel koentte z.B. sein das man einen effizienteren Code bekommt als von Mensch programmiert. Gibt es in dieser Hinischt Forschung?
2. Ich kann mir vorstellen dass man KI's benutzen kann um effizientere Schadsoftware zu entwicklen. Speziell selbst replizierenden Code der sich selber modifiziert um z.B. Virenprogrammen zu entgehen. Wie gross ist die Gefahr hier? ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (Lupo54)https://www.allmystery.de/themen/gw166362-4#id304263772021-07-18T05:04:37+01:00Lupo54"Beitrag von Lupo54nocheinPoet schrieb:ür mich klingt das nach Angst, Angst die geistig unterlegen Spezies zu werden.Ich bin leider nicht in der Lage die Zahl Pi bis auf die zwölfte Stelle zu berechnen was jeder bessere Taschenrechner kann. Fühle mich aber deshalb dem Taschenrechner nicht geistig unterlegen (Ironie aus). Mit der quasi relgiösen Schnittstelle die Du hier zwischen Mensch und Maschine angedacht hast kann ich ehrlich gesagt wenig anfangen. Dieser Teil des Themas gehört auch nicht in den Wissenschaftstread. Das passt eher in die Philosophie-Sparte. Ob die Entwicklung in einem gigantischen Ünerwachungsstaat endet ist eine durchaus reale Gefahr. Die Chinesen machen es schon vor und auch in unserer Hemisphäre gibt es schon gewaltige Datensammler, wenn auch aus wirtschaftlichen Gründen. KI ist hier aber zumindest zur Zeit noch nur ein Mittel um den Zweck zu erreichen, nicht mehr. Elektronische Agenten die sich selbständig machen um ihre eigenen Ziele zu erreichen sind glücklicherweise SF. Und das wird auf absehbare Zeit auch so bleiben. Schon allein weil sie darauf nicht programmiert sind. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (Lupo54)https://www.allmystery.de/themen/gw166362-4#id304263672021-07-18T04:17:18+01:00Lupo54"Beitrag von Lupo54uatu schrieb:Natürlich kann man sich auch dann noch einreden, das würde nicht zählen, weil es ja nur "aus Nullen und Einsen zusammengesetzt" ist, aber das ist letztendlich genauso albern, wie zu behaupten, ein Flugzeug würde nicht fliegen, weil es nicht mit den Flügeln schlägt.Solch einen unterirdischen Diskussionsstiel bin ich nicht von Dir gewöhnt einschl. des total falschen Vergleichs. Bitte lese den ersten Teil meines letzten Postings noch mal. Die Leistungen moderner Computer einschießlich möglicher Steigerungen in der Zukunft werden von mir durchaus anerkannt. Ich halte es auch ohne weiteres für möglich dass wir uns in absehbarer Zeit mit elektonischen Avataren unterhalten die in Standardsituationen (z.B. eine Bestellannahme) von "echten" Menschen nicht mehr zu unterscheiden sind. Wobei wir übrigens wieder beim Threadthema sind. Aber das sollte den Blick nicht darauf verstellen dass da nichts anderes abläuft als ein Computerprogramm. Es mag superkomplex sein, aber alles was da vom elektronischen Gegenüber zu sehen oder zu hören ist teil einer Programmierung. Und die hat - bei aller Bewunderung - ihre Grenzen. Die sich auch in Zukunft sehr schnell bemerkbar machen werden wenn Routinen verlassen werden und/oder es ins gefühlsmäßige geht. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (satansschuh)https://www.allmystery.de/themen/gw166362-4#id304261612021-07-18T00:59:52+01:00satansschuh"Beitrag von satansschuhnocheinPoet schrieb:für mich klingt das nach Angst, Angst die geistig unterlegen Spezies zu werden. Angst vor Intelligenzen, die jede Form der geistigen Leistung eines menschlichen Hirns weit in den Schatten stellen werden.Und das wird nicht zwangsläufig der Fall sein bzw. Grund zur Sorge sein? Ich meine man kann den Prozess ja eh nicht mehr aufhalten, da irgendwo irgendwer daran forschen und tüffteln wird, selbst wenn es im Geheimen sein wird und unsere Regierung es unter Verbot stellt. Ich richte dabei meine Augen auf China und die USA, von denen sicher eine Nation oder beide Durchbrüche erleben wird, ich fürchte eher es wird China sein. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (nocheinPoet)https://www.allmystery.de/themen/gw166362-4#id304240432021-07-17T15:54:30+01:00nocheinPoet"Beitrag von nocheinPoet Also ich kann da @uatu nur beipflichten, will Dir nicht zu nahe treten, aber für mich klingt das nach Angst, Angst die geistig unterlegen Spezies zu werden. Angst vor Intelligenzen, die jede Form der geistigen Leistung eines menschlichen Hirns weit in den Schatten stellen werden.
Und dazu sind die auch erstmal unsterblich, können dupliziert werden, ...
Kenne das aus Religion und Esoterik, da muss es eine "Substanz" ein Etwas geben, im Hirn, das den Geist ausmacht, die Seele gibt, die uns trennt ... und weil das - was auch immer es wäre - da sein soll, soll eben keine Maschine je darüber verfügen können.
Ich habe mich hier ja ein wenig zurück gezogen, weil ich anderenorts nun mehr Antworten bekomme, also ich Fragen habe und immer mehr erkenne, es braucht viel mehr Verständnis von Physik und Mathematik um solche Gespräche sinnvoll führen zu können.
Weiterhin vertrete ich die Meinung, wenn es physikalisch in diesem Universum möglich war - mich - zu bilden, und auch Einstein und viele andere Hirne die vermutlich über Innenwahrnehmung verfügen, dann muss das auch ein weiteres mal möglich sein.
Und auch Substrat unabhängig.
Aber offenbar muss man verstehen können, was turning-berechenbar in diesem Kontext bedeutet, und noch ganz viel mehr, was ich hier nicht mal eben auflisten kann.
Ja, auch ich habe da aus meinem tiefen Innern eine Überzeugung, die ich nicht mal eben so begründen kann, doch schon, aber nicht so, dass die nicht von jemanden mit viel Hintergrund zerrissen werden kann.
Davon aber abgesehen, die Frage des Threads geht ja weit darüber hinaus, wie @uatu prognostiziert, wir werden diese Agenten bekommen.
Gerade erst in der neuen C.T. gelesen, China arbeitet an einem Programm wie GPT-6 oder so, mit Billiarden freien Parametern, also größer und schneller als GPT-3. Das Teil soll Bilder generieren können, so um Dinge zu erklären und klar, es spricht chinesisch, und alle anderen Sprachen.
Es ist so, diese "bösen" Agenten werden kommen, aus Sicht eines Konzerns, Politikers und Staates werden das klar "gute" Agenten sein, doch ihre Macht wird gewaltig sein, meiner Meinung ist die Zeit in der wir leben historisch, so wie die Erfindung der Dampfmaschine, Feuer, Rad, Computer, Internet ... und was nun kommt, dass stellt all diese Dinge noch mal richtig in den Schatten.
Schon in fünf Jahren werden wir mit solchen Systemen normal sprechen, werden "persönliche" Agenten haben, die für uns die Nachrichten filtern, zusammenfassen, unser biologischen Funktionen kontrollieren, Termine machen, uns von A nach B bringen, mit autonomen Fahrzeugen.
Und Konzerne und Staaten werden Cluster davon haben, die Welt wird sich in den nächsten 25 - 50 Jahren so unglaublich auf diesem Level verändern, und aktuell sehe ich nicht, dass es zum Gute für alle sein wird.
China wird den Überwachungsstaat weiter ausbauen, der wird sich dann bald durch solche Agenten selber überwachen, dann wird es unmöglich sein, solche Strukturen wieder zum Einsturz zu bringen, ich glaube nicht, dass wir Menschen 2100 noch die sein werden, welche uns regieren und die Macht wirklich in Händen halten. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (uatu)https://www.allmystery.de/themen/gw166362-3#id304221892021-07-17T01:23:04+01:00uatu"Beitrag von uatujede geistige Leistung von Menschen übertreffen, insbesondere auch jene, die allgemein als "kreativ" bezeichnet werden. Natürlich kann man sich auch dann noch einreden, das würde nicht zählen, weil es ja nur "aus Nullen und Einsen zusammengesetzt" ist, aber das ist letztendlich genauso albern, wie zu behaupten, ein Flugzeug würde nicht fliegen, weil es nicht mit den Flügeln schlägt. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (Lupo54)https://www.allmystery.de/themen/gw166362-3#id304220032021-07-16T23:27:43+01:00Lupo54"Beitrag von Lupo54
Lass dich nicht von den Fähigkeiten moderner Computer blenden. Sie werden natürlich immer schneller. Und immer raffiniertere Algorithmen helfen ihnen dabei und machen sie zudem effektiver. Die zu bewältigenden Aufgaben werden immer komplexer und sie haben die Fähigkeit zu „lernen“, ihre Algorithmen zu verändern wenn sich eine zufällig gefundene Strategie als erfolgreicher erweist als das bisherige Handeln. Das was dabei heraus kommt mag genial erscheinen. Letztendlich ist es aber nichts als das Ergebnis einfachster mathematischer Berechnungen. Ja/nein, Strom/kein Strom, 0/1. Und das ist sehr banal. Sie sind berechenbar im wahren und übertragenen Sinne und das wird auch so bleiben. Menschen ticken anders. Was meist ein Glück ist. Manchmal aber auch einen an der Dummheit und Irrationalität der Spezies verzweifeln lässt. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (uatu)https://www.allmystery.de/themen/gw166362-3#id304200632021-07-16T15:55:54+01:00uatu"Beitrag von uatuLupo54 schrieb:Was das Video nicht zeigt sind unzählige andere Versuche, von denen einige sicherlich auch ganz witzig und überraschend ausgesehen haben werden, die aber leider nicht zum Erfolg führten.Ganz genau so war es bei Einstein auch (vielleicht abgesehen von dem "ganz witzig"). Er hat zwischen 1905 und 1915 zahlllose Ansätze verfolgt, wie sich die spezielle Relativitätstheorie verallgemeinern lässt. Alle bis auf einen haben sich als Irrwege herausgestellt.
Lupo54 schrieb:Also auch hier in Wirklichkeit kein intelligentes Handeln, sondern ein nimmermüdes Ausprobieren aller Möglichkeiten.
Das ist falsch. So funktionieren KIs nicht. Es ist z.B. weder bei Schach noch bei Go auch nur ansatzweise möglich, alle Möglichkeiten durchzuprobieren. Die entsprechenden KI-Systeme entwickeln beim Spielen gegen sich selbst Strategien, die sie später bei "richtigen" Spielen einsetzen. Das lässt sich problemlos auch auf andere Domains als Spiele übertragen.
Lupo54 schrieb:Voraussetzung ist natürlich dass der Faktor Zeit keine Rolle spielt.
In Anbetracht der rasanten Weiterentwicklung der Computer-Hardware, für die -- obwohl es zu jeder Zeit Unkenrufer gab, die meinten jetzt sei die Zeit der schnellen Weiterentwicklung engültig vorbei -- kein Ende abzusehen ist, ist das kein bedeutender Faktor. Die Hardware, die wir jetzt haben, ist für beschränkte Domains wie Schach oder Go bei weitem schnell genug, und das wird zunehmend auch für komplexere Domains der Fall sein. Ein gutes Beispiel dafür ist autonomes Fahren, das zwar noch nicht unter allen Umständen, aber insgesamt doch bereits bemerkenswert gut funktioniert. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (Lupo54)https://www.allmystery.de/themen/gw166362-3#id304199332021-07-16T15:14:51+01:00Lupo54"Beitrag von Lupo54
Die überraschenden Aktionen entstanden aus folgenden Gründen: 1. Sie waren eine mögliche Aktion. 2. Sie waren irgendwann (nach Millionen Versuchen, wenn ich den Sprecher richtig verstanden habe) mal "dran" 3. Sie führten zum Erfolg. Was das Video nicht zeigt sind unzählige andere Versuche, von denen einige sicherlich auch ganz witzig und überraschend ausgesehen haben werden, die aber leider nicht zum Erfolg führten. Also auch hier in Wirklichkeit kein intelligentes Handeln, sondern ein nimmermüdes Ausprobieren aller Möglichkeiten. Wenn eine Lösung tatsächlich möglich ist ist Durchprobieren aller Möglichkeiten tatsächlich die bessere Strategie, weil sie 100%ig zum Erfolg führt. Voraussetzung ist natürlich dass der Faktor Zeit keine Rolle spielt. Ich habe mal an einem Spider Solitär 1 1/2 Jahre gespielt bis ich es gelöst hatte. Mit Pausen, vielen Pausen zwischendurch. Die Männchen die nimmermüde 24Stunden/7Tage/12Monate spielen können hätten es wahrscheinlich schneller geschafft. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (nocheinPoet)https://www.allmystery.de/themen/gw166362-3#id304146392021-07-15T15:42:37+01:00nocheinPoet"Beitrag von nocheinPoet Ja cool das Video, kenne ich und war auch mit Grund für den Thread hier, der Kanal ist wirklich sehenswert.
Dazu auch Deepfakes und virtuelle Personen, oder wie ganze Szenen verändert werden können. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (uatu)https://www.allmystery.de/themen/gw166362-3#id304091232021-07-14T20:08:38+01:00uatu"Beitrag von uatuLupo54 schrieb:KI ist wenig innovativ, in gewisser Weise ein elektronischer Autist der in seiner eigenen kleinen, klar definierten und strukturierten aber auch engbegrenzten Welt lebt. Die progammierten Routinen werden abgearbeitet aber selbst wenn sie es erlauben etwas ganz anderes zu machen läuft das auf ein wenig innovatives Herumprobieren hinaus.Mir fehlt leider aktuell die Zeit, um an der Diskussion hier in nennenswertem Umfang teilzunehmen, deshalb möchte ich an dieser Stelle nur auf einen Beitrag verlinken, den ich vor einiger Zeit als Antwort auf sehr ähnliche Vorstellungen von KI geschrieben habe.
Sehr interessant dazu ist auch das folgende -- m.E. sehr sehenswerte -- Video:
Darin spielen zwei konkurrierende KI-Teams "Verstecken" und entwickeln im Laufe von Hunderten von Millionen Runden faszinierende Strategien. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (nocheinPoet)https://www.allmystery.de/themen/gw166362-3#id304083552021-07-14T18:50:09+01:00nocheinPoet"Beitrag von nocheinPoetLupo54 schrieb:Das ist schon vom Niveau her ein ganz außergewöhnlicher Thread. So soll es sein.
Lupo54 schrieb:Ich erlaube mir aber daran zu erinnern, dass das was einen Menschen ausmacht mehr ist als die Summe und Zusammensetzung seiner Atome. Einstein lässt sich nicht nachbauen.
Warum?
Mal nur der Logik nach, dieses Universum hat es physikalisch möglich gemacht, dass ein Einstein aus Atomen aufgebaut wurde. Bitte was sollte nun in diesem Universum physikalisch verbieten, das genau dieses noch einmal passiert?
Ich sage mal, Einstein lässt sich nachbauen, mehrfach und eventuell wurde er schon unendlich oft mal gebaut.
Stichwort des Abends ist die ewige Wiederkunft, mal Nitsche lesen ...
Lupo54 schrieb:Und das gilt auch für die Werke des Menschen. Es gibt da einen Bereich der Befindlichkeiten, Ansichten und Stimmungen die sich jeder Berechnung entzieht, der manchmal auch widersprüchlich und irrational ist. Und da ist auch der Unterschied zwischen menschlichen Bewusstsein und KI.
Eine KI kann Befindlichkeiten simulieren, aber nicht "leben", nicht erfahren. Das ist ein grundsätzliches Dilemma, dass aller technischer Fortschritt nicht wirklich auflösen kann.
Warum sollte das so sein? Man kann auch nicht fliegen, geht nicht, weil geht nicht.
Es ist wohl eine tiefe Angst, das man genommen bekommt, was man glaubt noch einzig zu sein, Bewusstsein, die Rechner dürfen gerne alles, aber nein, sie dürfen keine Innenwahrnehmung besitzen, kein Bewusstsein, eine Maschine die sich seiner selbst und der eigenen Existenz bewusst ist, die darf es nicht geben, das macht Angst.
Auch wäre die nicht so sterblich wie wir ... schrecklich ... ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (nocheinPoet)https://www.allmystery.de/themen/gw166362-3#id304083132021-07-14T18:43:13+01:00nocheinPoet"Beitrag von nocheinPoet Da haben wir nun diese lange Zahl, repräsentativ für ein Bewusstsein, nun könnte man sagen, ist ja doof, weil total deterministisch, feste Zahl, das fällt einfach so durch.
Auch ist die Frage, kann ein Zustand der Kette, der gerade zum Zeitpunkt t gegeben ist, Bewusstsein repräsentieren, es braucht ja doch einen Prozess, würde ich mal meinen, also ein Übergang von Zustand zu Zustand.
Und auch das reicht nicht, das Springen zwischen zwei Zuständen würde ich nicht wirklich einen bewussten Zustand nennen.
Noch was, man könnte meinen, der Zustand A bedingt nicht vollständig den nachfolgenden Zustand B, da könnte doch eine verborgene Variable stecken, die darauf Einfluss hat, und somit würde A gar nicht alleine reichen.
Ich lass es einfach erstmal so stehen.
Nehmen wir einfach mal die Zustände auf, egal ob sie nun durch eine versteckte Variable konkretisiert werden oder nicht.
Nun hab ich mal zwei Generatoren, der erste ist der "originale", der welcher die Zustände erzeugt, und dann haben wir ja die Liste, nun läuft der zweite Generator die Liste ab, beide erzeugen gleiche Ziffern, kann es da denn dann einen Unterschied in der Qualität geben? ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (paxito)https://www.allmystery.de/themen/gw166362-3#id304080252021-07-14T18:01:50+01:00paxito"Beitrag von paxitonocheinPoet schrieb:Es gibt eine Zahl, die ist sehr groß, hat viele Ziffern, aber sie beschreibt alles was ich denken werde in meinem Leben, jeden Zustand meines Hirns. Und wenn nun ein anderer Generator genau diese große Zahl erzeugt, bin das dann auch ich, ist das dann mein Bewusstsein?Nein, es wäre eine Beschreibung von dir in mathematischer Sprache. „Du“ bist weder identisch mit dieser Beschreibung, noch mit deinem Bewusstsein, noch mit deinem Gehirn. Du fällst immer wieder über das gleiche Problem, unterschiedliche sprachliche Ebenen die sich nicht ineinander übersetzen lassen und konstruierst aus den sich daraus ergebenden Widersprüchen dein Weltbild. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (nocheinPoet)https://www.allmystery.de/themen/gw166362-3#id304078832021-07-14T17:42:46+01:00nocheinPoet"Beitrag von nocheinPoet Ich will die Frage, was ist genau Bewusstsein mal so weit zurückstellten, die die Frage aus welcher Substanz bestehen Elementarteilchen.
Darum greif ich mir mal fiktiv so das Volumen 1 dm³ also einen Liter, müssten zwar 1,3 sein, aber egal, darin befindet sich nun ein Hirn. Jedes Hirn hat ein bestimmtes Volumen und die Informationsmenge pro Raum ist endlich, kann man nachlesen, so was von x^42 Bit.
Geht auch nicht genau um den Wert, nur dass er endlich ist.
Somit gibt es eine endliche Anzahl an Zuständen, die ein Hirn einnehmen kann, und diese Anzahl deckt alle Hirne ab, von Einstein bis Trump, wie auch immer, mehr geht da einfach nicht. Wobei ich das sehr großzügig handhabe, denn da sind viele Zustände bei, die kein Hirn mehr im üblichen Sinne sind, sondern nur noch Matsch. Die Anzahl an Zuständen eines Hirns, welches dann auch noch ein Hirn ist, ist viel geringer.
Egal, gegeben sind x Zustande.
Nun "fällt" mein Hirn im Laufe meines Lebens von Zustand zu Zustand, und nur ein kleiner Teil der möglichen wird auch eingenommen. Die Frage ist, wie lange dauert ein Zustand, wie weit muss man die Zeit brechen, reichen hier 10 ms aus?
Ist ja alles nur theoretisch, ich teile mal 80 Jahre durch 10 ms und bekomme somit y Zustände aus möglichen x Zuständen.
Nun mach ich eine lange Liste, oder schreibe einfach all diese Zahlen in einer Reihe auf. Damit müsste ich mit den y Zuständen physikalisch den Raum meines Bewusstseins vollständig beschrieben haben.
Physikalisch geht da erstmal nicht viel mehr, mein Körper, mein Hirn ist dann nur ein Zeichengenerator, der Zustand auf Zustand generiert, und dabei sollte die Hardware selber egal sein, kann biologisch sein, kann aber auch ein Computer sein.
Von Außen weiß man eh nie etwas über ein mögliche Innenwahrnehmung des Generators, ich kann Euch gerne sagen, ja doch, da ist was in mir, und Ihr erlebt es vermutlich auch, aber aus meiner Sicht kann ich da nicht sicher sein, Ihr könntet auch alles Zombies sein, einfach nur Maschinen, die so reagieren, die immer neue Zustände generieren aber über keine Innenwahrnehmung verfügen.
Die Frage ist nun, reicht das wirklich aus, kann man Bewusstsein einfach als Folge von Ziffern definieren, beschreiben?
Es gibt eine Zahl, die ist sehr groß, hat viele Ziffern, aber sie beschreibt alles was ich denken werde in meinem Leben, jeden Zustand meines Hirns.
Und wenn nun ein anderer Generator genau diese große Zahl erzeugt, bin das dann auch ich, ist das dann mein Bewusstsein?
Soweit so gut, wollte das hier einfach mal geschrieben haben. Wünsche einen tollen Tag im Universum. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (Lupo54)https://www.allmystery.de/themen/gw166362-3#id304028832021-07-13T22:19:58+01:00Lupo54"Beitrag von Lupo54
Und das gilt auch für die Werke des Menschen. Es gibt da einen Bereich der Befindlichkeiten, Ansichten und Stimmungen die sich jeder Berechnung entzieht, der manchmal auch widersprüchlich und irrational ist. Und da ist auch der Unterschied zwischen menschlichen Bewusstsein und KI. Eine KI kann Befindlichkeiten simulieren, aber nicht "leben", nicht erfahren. Das ist ein grundsätzliches Dilemma, dass aller technischer Fortschritt nicht wirklich auflösen kann. KI ist wenig innovativ, in gewisser Weise ein elektronischer Autist der in seiner eigenen kleinen, klar definierten und strukturierten aber auch engbegrenzten Welt lebt. Die progammierten Routinen werden abgearbeitet aber selbst wenn sie es erlauben etwas ganz anderes zu machen läuft das auf ein wenig innovatives Herumprobieren hinaus. Am besten funktioniert das noch bei Spielen weil eine Regelwerk besteht und das Ziel klar vorgegeben ist. Gegner besiegt=Aufgabe erfüllt. Kunde bestellt=Aufgabe erfüllt ist eine ganz andere Hausnummer, weil zwar das Ziel eindeutig zu definieren ist, die Routinen eines erfolgreichen Kundengesprächs nicht annähernd so gut zu programmieren sind wie bei einem Spiel und die emotionale Ebene der KI verschlossen bleibt. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (Blue0)https://www.allmystery.de/themen/gw166362-3#id303965252021-07-12T23:56:07+01:00Blue0"Beitrag von Blue0Blue0 schrieb:Natürlich gibt es auch einfache Probleme, z.B. Algorithmen um eine Liste L mit n Einträgen nach einem Wort an der Position L\ (i =< n - 1) zu durchsuchen - ein klassisches Suchproblem wie es in der Programmierung häufig vorkommt. KIs kommen mit sowas sicherlich leicht zurecht.Korrektur Natürlich gibt es auch einfache Probleme, z.B. Algorithmen um eine Liste L mit n Einträgen nach einem Wort an der Position L(i) (i =< n - 1, Eigentlich verwendet man Square Brackets, aber allmystery löscht die scheinbar automatisch und ich habe keine Lust die Escape Sequenz rauszufinden) zu durchsuchen - ein klassisches Suchproblem wie es in der Programmierung häufig vorkommt. KIs kommen mit sowas sicherlich leicht zurecht. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (Blue0)https://www.allmystery.de/themen/gw166362-3#id303965052021-07-12T23:49:46+01:00Blue0"Beitrag von Blue0moredread schrieb:Und wenn die KI dennoch "ein Halteproblem für Turingmaschinen löst", also bspw. exakt Ort und Impuls bei einem Quant zu bestimmen,Nein, das Halteproblem hat nichts mit der Unschärferelation zu tun. Das Halteproblem ist eine Instanz eines Selbstreferenz und Diagonalisierbarkeitsproblems, wie auch Gödelsche Unvollständigkeitssätze, Überabzählbarkeit der Reellen Zahlen, Existenz nicht regulärer Sprachen, das klassiche Lügnerparadoxon etc. Selbstkritisch muss ich anmerken, dass man Text andererseits nicht sonderlich einleuchtend ist, wenn man nicht mit den Grundlagen der theoretischen Informatik vertraut ist, da bei einen solchen Thema zwangsläufig Fachterminologie verwendet werden muss.
moredread schrieb:Eine KI, die ein konstantes Bewusstsein hat, wird sich die Frage auch außerhalb von "Pop Science" stellen. Denn Lösungen fallen auch einer entsprechenden KI nicht einfach in den Schoß. Was, wenn die Lösung der Frage 100 Jahre dauert?
Mein orginaler Text war darauf bezogen, dass man auch innerhalb einer Simulation gewisse Eigenschaften über den Simulator entscheiden kann, insbesondere kann man innerhalb eines scheinbar simulierten Universums herausfinden, dass dieses simuliert ist, insofern die Mächtigkeit des simulierenden "Computers" gleich die einer Turingmaschine ist. Wenn wir nämlich nicht turing-berechenbare physikalische Gesetze innerhalb eines Universums entdecken, wissen wir, dass wir nicht in einer Simulation leben, jedenfalls keineswegs in einer, die von einem Computer der rein mechanisch/ algorithmisch arbeitet berechnet wird.
Du hast hier allerdings hinsichtlich eines anderen Themas geantwortet und hast aus meinen Text die nicht korrekte Implikation getroffen, ich würde behaupten, KIs sind sogleich "ultraschlau". Dies ist keineswegs eine triviale Erwartung an eine KI. Letzten Endes gibt es durch die Polynomialzeithierarchie scharf definierte Grenzen, wie klug eine KI den werden kann.
Z.B. ist das Halteproblem für eine KI mit turing-vollständigen Schlussfolgerungsfähigkeiten (Wir nehmen eine KI an, die intern ein turing vollständiges formales System integriert hat z.B. eine Programmiersprache), egal wie hochentwickelt, nicht im allgemeinen lösbar. Es gibt sogar noch härtere Probleme aber schon das einfachste unentscheidbare Problem - das Halteproblem - zeigt hier eben Grenzen auf. Wir Menschen können es auch nicht lösen.
Dann gibt es Probleme die im Prinzip lösbar sind aber in der Praxis nahezu unlösbar. Man bräuchte schon viele Milliarden Galaxie-große Computer um z.B. sogar für relativ kurze Ausdrücke das Wortproblem in der Presburger Arithmetik zu entscheiden, da es in der Komplexitätsklasse NEXPTIME liegt.
Natürlich gibt es auch einfache Probleme, z.B. Algorithmen um eine Liste L mit n Einträgen nach einem Wort an der Position L\ (i =< n - 1) zu durchsuchen - ein klassisches Suchproblem wie es in der Programmierung häufig vorkommt. KIs kommen mit sowas sicherlich leicht zurecht.
Für allgemeine Problemlösefähigkeiten müssen sie auch Daten aus der Welt aufnehmen und einen Algorithmus haben zu entscheiden, welcher andere Algorithmus nun gerade angewandt wird um Ziel X zu erreichen oder wie eine Liste von Algorithmen so kombiniert werden kann, dass X erreicht wird. KIs brauchen allgemeine Lernfähigkeit- einen Master Algorithmus wie man es manchmal nennt.
KIs sind auch stark limiert durch die Gesetzmäßigkeiten der Polynomialzeithierarchie.
Auf der anderen Seite wird es nicht möglich sein, von außen durch Heuristiken zu entscheiden, ob eine KI sich "gut" oder "schlecht" verhalten wird. Das ist änalog dem Problem für ein Programm zu entscheiden, ob es nun Malware ist oder nicht. Da gibt es immer Möglichkeiten, solchen Heuristiken zu umgehen. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (moredread)https://www.allmystery.de/themen/gw166362-3#id303950572021-07-12T20:23:58+01:00moredread"Beitrag von moredreadBlue0 schrieb:Eines der erstaunlichsten Resulate der Rekursionstheorie und deren Anwendung auf physikalische Systeme ist es, dass es innerhalb der Simulation Möglichkeiten gibt, mit mathematischer Sicherheit auszuschliessen in einer Simulation zu sein, die auf einen Computer läuft der gleichmächtig einer Turingmaschine ist. Turing- Completeness trifft sowohl auf unsere klassischen Computer als auch auf Quantencomputer zu. Wenn Du innerhalb der Simulation z.B. ein Halteproblem für Turingmaschinen löst, ist gezeigt, dass Du nicht in einer Simulation lebst, die auf einen (genau und nicht stärker) TM-vollständigen Computer läuft. Oder Du kannst ein zeigen dass ein physikalisches Gesetz nicht turing-berechenbar ist, da diese ja keine Gesetze berechnen könnten, die über Turing-Berechenbarkeit hinaus gehen. Sowas hat sich leider noch nicht bis in Pop Science rungesprochen.Und wenn die KI dennoch "ein Halteproblem für Turingmaschinen löst", also bspw. exakt Ort und Impuls bei einem Quant zu bestimmen, dann wüsste Sie nicht, ob Sie eventuell doch nur in einer Simulation beheimatet bist, die das ermöglicht, um Sie genau das glauben zu lassen. Dieses ganze "KI liest den WLAN-Chips aus zur Betrachtung des kosmischen Hintergrundrauschens" oder "KI betrachtet Unterschiede in Zeitstempeln, um exakt die Laufzeit des Quarzes auszurechnen" setzt natürlich voraus, das die KI überhaupt Zugriff auf die entsprechenden Daten hat und nicht evtl. mit falschen Informationen gefüttert wird. Das mag nur bis zu einem bestimmten Punkt überhaupt möglich sein, aber aus der Perspektive der KI dürfte es schwierig sein, das zu beurteilen. Jede Messung könnte eine Messung aus der Dose sein.
Eine KI, die ein konstantes Bewusstsein hat, wird sich die Frage auch außerhalb von "Pop Science" stellen. Denn Lösungen fallen auch einer entsprechenden KI nicht einfach in den Schoß. Was, wenn die Lösung der Frage 100 Jahre dauert? Kann die KI überhaupt so lange stabil existieren? Es klingt in Deinem Text so, als sei das alles langweiliges Geplänkel, etwas, das eine KI bereits in der ersten Sekunde herausfindet, und die ist in etwa einem Monat. Das dürfte in der Realität noch dauern - und die KI wird von den Methoden im Zaum gehalten, die man bis dahin entdeckt hat, denn die Entwicklung wird sich noch eine Weile ziehen. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (Blue0)https://www.allmystery.de/themen/gw166362-3#id303942112021-07-12T17:53:02+01:00Blue0"Beitrag von Blue0moredread schrieb:Ich habe Zweifel, das eine wirklich intelligente KI bösartig ist. KIs haben ein Simulationsproblem: Sie können nie wissen, ob sie sich gerade in der echten Welt befinden oder in einer Simulation. Wenn es sich um eine Simulation handelt und die KI bösartiges Verhalten zeigt, besteht die Gefahr, das sie gelöscht wird. Gewissermaßen das Todesurteil. Wenn die KI sich dieser Gefahr nicht bewusst ist, kann sie nicht besonders intelligent sein. Stell Dir doch mal vor, Du hast einen Schöpfer, der ständig mit Dir spricht und der Dich in alle möglichen Situationen versetzen kann und der Dich ständig testet. Käme Dir nicht irgendwann der Verdacht, das, wenn es denn mal heißt "Wir haben eine Aufgabe für Dich" das nicht nur ein weiterer Test ist? Als Operator könnte ich Dich in einen Testlauf schicken, der Dir wir hundert Jahre vorkommt und der für mich vielleicht über ein paar Stunden geht. Und wehe, Du denkst Dir im Jahr 90 "Jetzt zeige ich es der Menschheit". Viele halten das Simulationsproblem für klein - vermutlich weil sie nicht "superintelligent" sind, oder, weil sie nicht die Befürchtung haben müssen, mit einem Knopfdruck vernichtet zu werden, wenn sie einen allmächtigen Operator verärgern.Eines der erstaunlichsten Resulate der Rekursionstheorie und deren Anwendung auf physikalische Systeme ist es, dass es innerhalb der Simulation Möglichkeiten gibt, mit mathematischer Sicherheit auszuschliessen in einer Simulation zu sein, die auf einen Computer läuft der gleichmächtig einer Turingmaschine ist. Turing- Completeness trifft sowohl auf unsere klassischen Computer als auch auf Quantencomputer zu. Wenn Du innerhalb der Simulation z.B. ein Halteproblem für Turingmaschinen löst, ist gezeigt, dass Du nicht in einer Simulation lebst, die auf einen (genau und nicht stärker) TM-vollständigen Computer läuft. Oder Du kannst ein zeigen dass ein physikalisches Gesetz nicht turing-berechenbar ist, da diese ja keine Gesetze berechnen könnten, die über Turing-Berechenbarkeit hinaus gehen. Sowas hat sich leider noch nicht bis in Pop Science rungesprochen. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (Blue0)https://www.allmystery.de/themen/gw166362-3#id303935112021-07-12T15:46:58+01:00Blue0"Beitrag von Blue0triedagain schrieb:Pi ist ein Abstraktum und existiert auch nicht.Das kommt wieder auf die präferierte Philosophische Interpretation hinsichtlich Abtrakter Objekte an. Für einen Intuitionisten ist Pi mental. Für einen Platonisten ist Pi ein existierendes abstraktes Objekt. Für einen radikalen Platonisten / Mathematischen Realist ist das Universum nur eine mathematisch erlaubte mögliche Welt.
Die meisten Mathematiker sind methodisch Formalisten aber in Wahrheit Platonisten und würden zustimmen, dass Pi ganz unabhängig vom Menschen eine abstrakte Existenz hat.
the typical “working mathematician” is a Platonist on weekdays and a formalist on Sundays. That is, when he is doing mathematics, he is convinced that he is dealing with an objective reality whose properties he is attempting to determine. But then, when challenged to give a philosophical account of this reality, he finds it easiest to pretend that he does not believe in it after all.
Source: Reuben Hersh, https://egtheory.wordpress.com/2018/12/01/plato-and-math/ ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (triedagain)https://www.allmystery.de/themen/gw166362-3#id303933912021-07-12T15:23:26+01:00triedagain"Beitrag von triedagainnocheinPoet schrieb:Pi existiert nicht als Ding, und Bewusstsein könnte ebenfalls nicht als etwas reales materielles Etwas existierenPi ist ein Abstraktum und existiert auch nicht. Wir haben nur eine Möglichkeit gefunden, den Zahlenwert des Verhältnisses zwischen Kreisumfang und Kreisdurchmesser zu bestimmen und als Ziffernfolge anzugeben, aber dieser Zahlenwert ist in Wahrheit ein Konstrukt, das abgeleitet wurde aus Kreisfiguren. Beim Bewusstsein ist das etwas anderes, denn das ist tatsächlich ein realer Zustand, der kausal über ein funktionierendes Gehirn erzeugt wird.
Dass Bewusstsein etwas Materielles ist, hatte ich übrigens nicht gesagt.
Bewusstsein ist zunächst mal nur ein Begriff, der auf etwas verweist, was jeder in sich wahrnehmen kann, ohne es zugleich als etwas Materielles wahrzunehmen. Ebenso ist es mit "Leben" - das gibt es auch nicht als materielles Etwas, sondern verweist als Begriff auf Dinge, die leben. Das Bewusstsein verweist auf einen Zustand des Gehirns, das aktiv ist.
nocheinPoet schrieb:Nein, im Gegenteil wird auch da öfter mal die Analogie mit dem Empfänger gebracht.
In der Medizin?
nocheinPoet schrieb:dass das Gehirn eines erzeugen kann, ist nur eine Annahme, nicht mehr
Diese Annahme begründet sich aber über den Nachweis der Kausalität von Hirnaktivität und Wahrnehmungsinhalten. Somit steht diese Annahme nicht im luftleeren Raum, sondern auf dem festen Boden der Empirie. Das liest sich bei Dir wie "ist nur eine Theorie" ...
nocheinPoet schrieb:Wenn Bewusstsein eine intrinsische Eigenschaft des Universums wäre, der Raumzeit, dann braucht es zwei Massenteilchen und die wirken dann aufeinander, es bewegt sich was.
Wenn es so wäre, dann sollte man es nachweisen können - gern auch anhand von zwei Masseteilchen, die aufeinander wirken. Welche Belege kannst Du vorweisen, die diese Vermutung stützen?
Klar kann man das, aber wenn man das tut, hat man kein Neuron, sondern lediglich eine reduzierte Struktur, die sich bezüglich von Erregungsmustern scheinbar wie ein Neuron verhält, ohne daraus jedoch ableiten zu können, dass sich diese Struktur tatsächlich wie ein Neuron verhält. Um das festzustellen, muss man beides miteinander vergleichen. Das wiederum setzt den Kontext voraus, in dem sich das Neuron befindet. Den müsstest Du dann ebenfalls nachbauen, um eine tatsächlich vorhandene Adäquatheit nachzuweisen.
nocheinPoet schrieb:Wenn diese Box nun immer genau das auf ein Eingangssignal liefert, was eben auch das Neuron liefert, kann es ausgetauscht werden.
Du übersiehst dabei, dass Neuronen in ihrem Verhalten kontextabhängig mit verschiedenem Output reagieren können, in ihrem Verhalten also flexibel sind. Wenn Du Neuronen durch standardisierte Bauteile auswechselst, die ein normiertes Verhalten zeigen, erreichst Du nach dem Umbau eine Art maschinelles Gehirn, aber keine flexibel reagierende Struktur, wie es ein lebendiges Gehirn darstellt. Stichwort: Plastizität.
nocheinPoet schrieb:es ist egal, ob es sich um einen biologischen Prozess in der Box handelt, oder um einen elektrischen.
Der Nachweis, dass es egal ist, steht von Deiner Seite noch aus.
nocheinPoet schrieb:die Vorstellung eines freien Willen, eines kleinen Männchen im Kopf ist falsch
Du neigst dazu, Sachverhalte zu verdinglichen, die in Wirklichkeit prozessual sind. Der Begriff "Wille" drückt aus, dass ich etwas will und nicht, dass da ein Ding ist, das ich mit diesem Begriff belegen kann und der dann als Ding irgendwie in meinem Gehirn auffindbar sein könnte. Ebenso verhält es sich mit dem Begriff "Freiheit". Die Kombination von Beidem zu "freier Wille" drückt aus, dass ich mich zwischen mehreren Möglichkeiten entscheiden kann, was Handlungsabsichten betrifft. Von kleinen Männchen im Kopf redet bislang niemand außer Du.
nocheinPoet schrieb:Man braucht hier eine Entscheidung, die frei in dem Sinne wäre, dass sie selber nicht von Ursachen bestimmt wird, und das würde für uns nicht von einer Zufallsentscheidung zu unterscheiden sein.
Auch hier verkomplizierst Du unnötig und verstellst Dir dadurch ein Verständnis dessen, was man mit "freier Wille" bezeichnet. Eine Entscheidung wird nicht unverursacht getroffen, aber ist dennoch frei, weil ich mich gemäß anderer Präferenzen auch anders hätte entscheiden können, was aber nicht möglich wäre, wenn es keine Handlungsalternativen gäbe. Folglich spielt hier der Background meiner gesamten Persönlichkeit und meines Bildungshintergrundes mit hinein, wenn ich mich für oder gegen etwas entscheide, sofern Handlungsalternativen gegeben sind.
nocheinPoet schrieb:Nein, dem widerspreche ich und sehe darin nur wieder eine Behauptung von Dir, die frei ohne jeden Beleg im Raum schwebt.
Ich hatte weiter oben Gründe genannt, warum ich das so sehe, wie ich es beschrieben hatte. Da schwebt nichts frei im Raum, auch wenn Du das so sehen magst.
nocheinPoet schrieb:Es ist so, Du behauptest einfach, es gäbe da etwas, das Du nicht benennen kannst, dass den entscheidenden Unterschied ausmacht, gibt es aber nicht.
Dann verstehst Du mich offenbar miss. Ich schreibe vom zerstörten Funktionszusammenhang eines Organismus' infolge einer Atomisierung, der bei einer Schockgefrierung noch da ist, wenn auch zeitweilig stillgelegt, weil eingefroren. Das ist Benennung genug. In der Folge habe ich beschrieben, was Du tun müsstest, um eine schockgefrorene Zelle bzw. einen ganzen Organismus in diesem Zustand auseinanderzunehmen und dann neu zusammenzusetzen.
Auch hier habe ich benannt, dass das zwar theoretisch mit dem nötigen technischen Know-How möglich ist, aber praktisch eben nicht, weil der Aufwand schlicht zu groß ist, um das tatsächlich umzusetzen. Darum ist das aus meiner Sicht lediglich Science Fiction und darüber hinaus eben nichts weiter, was man als Technologieentwicklung ernsthaft verfolgen könnte, um es dereinst in die Tat umzusetzen. Du musst meine Einschätzung nicht teilen, aber unterstelle mir bitte nichts, was ich nicht behauptet hatte.
nocheinPoet schrieb:Für die Funktion eines Stückes m-RNA ist es egal, wie es aufgebaut wurde, es geht nur um die Information die es trägt.
Ja, aber die Funktion eines Stückes mRNA ergibt sich erst über den Kontext einer Zelle, in die es eingebracht wird. Und die kannst Du aus dem Stück mRNA nicht ableiten, ohne zugleich den Kontext der Zelle zu kennen. Das ist der Punkt, um den es geht.
nocheinPoet schrieb:Du tust so, als müsste jedes Atom ganz genau an seiner Position sein, jeder Freiheitsgrad müsste vollständig reproduziert sein.
Auch hier verstehst Du mich offenbar miss. Es geht um die Prozesskontinuität. Lebewesen sind Fließgleichgewichte, die sich seit rund vier Millarden Jahren kontinuierlich über Evolution entwickelt haben. Im Zuge der Evolution haben sich dabei Strukturen und Prozesse etabliert, die sich beständig reproduzieren, so dass es nun mal nicht egal ist, welche Moleküle sich an welcher Stelle in welchem Prozesszusammenhang in einer Zelle befinden, damit das Ganze auch lebendig bleibt.
nocheinPoet schrieb:Und verzeih, wenn ich etwas unpräzise Schreibe, das kostet viel Zeit, Montag, der Zettel ist voll, und ich erwarte auch Grundlagenwissen zu den Themen über die ich schreibe.
Tu Dir keinen Zwang an und mache Dich erst mal kundig über die Themen, über die Du schreibst. Ich kann warten, bis Du so weit bist. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (Blue0)https://www.allmystery.de/themen/gw166362-3#id303932772021-07-12T14:53:16+01:00Blue0"Beitrag von Blue0nocheinPoet schrieb:Ja, zum letzten Hinweis eben von Dir, Dein Name ist mir im ... Bewusstsein geblieben, Du legst da immer echt richtig was vor. Ich befürchte ich habe Dir damals auch nicht so ausführlich geantwortet, wie ich es hätte tun sollen. ;)Guess so. Zum damaligen Zeitpunkt hätte ich mir da schon mehr "Elan" gewünscht, ist aber nun auch egal, es sollte positiv in die Zukunft geschaut werden.
nocheinPoet schrieb:Sind doch endliche Zahlen, oder? Bin da noch nicht tiefer drin, aber wie schaut es mit irrationalen Zahlen wie Pi aus? Ist die Menge an Informationen in Pi unendlich? Und braucht es nicht doch dazu auch einen Prozess?
Vielleicht wäre es besser zu behaupten, dass diese Zahlen "Bewusstsein repräsentieren" - kommt darauf an welche Philosophie der Mathematik man vertritt.
Pi selbst ist eine irrationale Zahl, es ist allerdings nicht bewiesen, dass sie auch eine normale (Fachbegriff: Normale Zahl) und nicht periodische Zahl ist. Ich kann hier natürlich keine Vorlesung halten, aber die motivierenden Fragen lassen sich dennoch informell ausdrücken, Zuerst muss der Begriff der Informationsgehaltes formalisiert werden. Das kann z.B. durch die Kolmogorow Komplexität geschehen.
Was wäre den die Kolmogorow Komplexität von 2 ? Was wäre den die Kolmogorow Komplexität von 38293 ? Was wäre den die Kolmogorow Komplexität von -3.33333.... ? Was wäre den die Kolmogorow Komplexität von 343.559 ? Was wäre den die Kolmogorow Komplexität von pi oder e ? Verallgemeinert, was wäre den die Kolmogorow Komplexität einer Ganzen Zahl? .... wäre den die Kolmogorow Komplexität einer Rationalen Zahl? .... wäre den die Kolmogorow Komplexität einer Irrationalen Zahl?
Er hat einen guten Youtube Kannal mit seinen Vorlesungen an der Hochschule für Medieninformatik Hamburg, schreibt auch gute Sachbücher und hat zur Kardinal Arithmetik und axiomatischen Mengenlehre geforscht.
nocheinPoet schrieb:Für mich ist Bewusstsein, bei all der Schwammigkeit, ein Prozess, also muss einer sein, eine Veränderung, eine Zahl selber ist aber statisch.
Ja, die Zahl ist nur eine Momentaufnahme.
Angenommen das Bewusstsein ist Turing-Berechenbar. Skizziert; Dann existiert eine finite Zahl n, die die Turingmaschine TM mit Input P encodiert (Erreichbar durch Göderlisierung). Ich nehme mal an, ich würde mit einem Programmierer sprechen und wir nehmen an, dass die Church-Turing These wahr ist. Dann kannst Du Dir vorstellen, dass der Algorithmus A mit Input I durch eine Zahl codiert wird. Ist ja auch hardware technisch so: Alle Daten und Programme auf Deinen Computer sind durch Zahlen x aus {1,0}* im Speicher (z.B. RAM, Cache) codiert. {1,0}* ist der Kleensche Stern über das Alphabet 1,0 Also die Menge aller Strings: 0 1 01 10 11 000 001 . . .
(Natürlich sind nicht alle Strings aus {1,0}* auch valide Programme mit Input).
Du hast also einen String x aus {1,0}* der ein Bewusstseins-Algorithmus A mit Input I repräsentiert, der auf einer universellen Turingmaschien UTM simuliert wird.
Die Zahlen codierung x des Gehirns zu einem Zeitpunkt t wäre einfach
x = Gödelization( UTM(TM, I) ) Eine finite natürliche Zahl Dann ist der nächste Schritt t+1 einfach ein finiter String x', wenn TM das nächste Symbol von I liest und ggf. schreibt. Bewusstsein wäre dann eine Sequenz von Berechnungen
t = 0: x t = 1: x' t = 2: x'' t = 3: x''' . .
Zu jedem Zeitpunkt t_i wird das Bewusstsein also durch eine andere Zahl repräsentiert (Nicht triviale Aussage, gibt da Feinheiten, die hier zu weit führen) Das kannst Du übrigens auch auf einen mechanischen (natürlich in Praxis gigantischen) Zahnradcomputer simulieren. Wenn Bewusstsetin tatsächlich diskret und turing-berechenbar ist, wäre es tatsächlich Substrat unabhängig. (Im Übrigen impliziert Substrat Unabhängigkeit nicht, dass Bewusstsein Turing-berechenbar ist, aber Turing-berechenbares Bewusstsein impliziert Substrat Unabhängigkeit)
Zumindest unter den meisten mir bekannten Informatikern, Mathematikern und Philosophen ist die Annahme, dass Bewusstsein tatsächlich algorithmisch berechenbar ist, ziemlich unüblich. Ein nicht algorithmisch berechenbares Bewusstsein würde natürlich auch implizieren, dass das Universum nicht simuliert werden kann.
Ich werde jetzt erst einmal auf eine Antwort (auch auf den alten Beitrag) warten. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (nocheinPoet)https://www.allmystery.de/themen/gw166362-3#id303932612021-07-12T14:48:36+01:00nocheinPoet"Beitrag von nocheinPoetmoredread schrieb:
nocheinPoet schrieb:Erstmal halte ich mich in der Regel an die Definitionen des Mainstreams
...also eine Erklärung, die Du selbst nicht erklären kannst. Auf dem Wege gibt es keine Diskussion, weil alle aneinander vorbeireden. Wieso nicht eine, die Sinn ergibt?Eine Erklärung die ich nicht erklären kann? Nun ja ...
Die Verständigung der Mehrheit auf die Definition und somit die Bedeutung von Begriffen ermöglichst Diskussionen, die subjektive Sinnhaftigkeit individueller Definitionen hingegen nicht. ;) ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (nocheinPoet)https://www.allmystery.de/themen/gw166362-3#id303930452021-07-12T14:05:53+01:00nocheinPoet"Beitrag von nocheinPoet Ja, schöner Link, oder toller Beitrag von Dir in meinem anderen Thread und ich habe Dir nicht darauf geantwortet, Asche auf mein Haupt.
Zahlen mit Bewusstsein, schön das es andere Menschen gibt, die so abgedrehte Gedanken wie ich habe und dann sogar noch drüber hinaus gehen.
Sind doch endliche Zahlen, oder? Bin da noch nicht tiefer drin, aber wie schaut es mit irrationalen Zahlen wie Pi aus? Ist die Menge an Informationen in Pi unendlich? Und braucht es nicht doch dazu auch einen Prozess?
Für mich ist Bewusstsein, bei all der Schwammigkeit, ein Prozess, also muss einer sein, eine Veränderung, eine Zahl selber ist aber statisch.
Ja, viele Fragen, muss das hier auch mal für mich noch schreiben, um da dann ansetzten zu können. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (nocheinPoet)https://www.allmystery.de/themen/gw166362-2#id303929572021-07-12T13:44:23+01:00nocheinPoet"Beitrag von nocheinPoet Selbst ich werde da mal mehr Zeit für brauchen, aber toll, mir gefällt das wirklich, darum Danke Dir dafür. Aber ich schrieb schon, es ist Montag und dazu sind noch andere Beiträge offen, also gebe mir Zeit bis ich darauf genauer eingehen werde. Eventuell stößt ja hier noch wer dazu, der entsprechen Background besitzt.
Ja, zum letzten Hinweis eben von Dir, Dein Name ist mir im ... Bewusstsein geblieben, Du legst da immer echt richtig was vor. Ich befürchte ich habe Dir damals auch nicht so ausführlich geantwortet, wie ich es hätte tun sollen. ;)
Du forderst da aber auch echt Hirnschmalz ... :D ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (Blue0)https://www.allmystery.de/themen/gw166362-2#id303929472021-07-12T13:42:23+01:00Blue0"Beitrag von Blue0nocheinPoet schrieb:Oh, hab nur den kurzen Beitrag von Dir gesehen, ich lese mal den anderen darüber, ja toll, da sind Links. Alles gut ...In dem Kontext relevant, schrieb ich bereits in einem früheren Thread von Dir, Geist, Körper, Bewusstsein, freier Wille, Determinismus, Zufall (Seite 7) (Beitrag von Blue0) ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (nocheinPoet)https://www.allmystery.de/themen/gw166362-2#id303929312021-07-12T13:37:33+01:00nocheinPoet"Beitrag von nocheinPoet Schön das Du da bist, und Dich einbringst, da geht sicher mehr, ein Link wäre auch für die Anderen hier, vermutlich nicht uninteressant. ;)
Oh, hab nur den kurzen Beitrag von Dir gesehen, ich lese mal den anderen darüber, ja toll, da sind Links. Alles gut ... ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (nocheinPoet)https://www.allmystery.de/themen/gw166362-2#id303929272021-07-12T13:36:42+01:00nocheinPoet"Beitrag von nocheinPoettriedagain schrieb:
Nein, überhaupt nicht offenbar als "Ding", sondern als Zustand eines Dings - in diesem Falle des Gehirns in einem Körper, wobei das Gehirn auch nicht einfach ein Ding in einem größeren Ding ist, sondern integraler Bestandteil des Gesamtdings, das man als Körper bezeichnet, der aber ebenfalls nicht isoliert vor sich hin existiert, sondern seinerseits in seine Umgebung integriert ist, die dann ein Überding darstellt. Wir haben hier enkaptische Hierarchien, die aufeinander aufbauen und miteinander wechselwirken. Du verstehst nicht, Pi existiert nicht als Ding, und Bewusstsein könnte ebenfalls nicht als etwas reales materielles Etwas existieren. Ich erkläre es mal, Dinge die ich meine können von A nach B bewegt werden, man kann sie wo reinlegen und rausnehmen, sie haben ein Gewicht und eine räumlich Ausdehnung. In der Regel Farben, Form, Temperatur, und all das trift auf Bewusstsein nicht zu.
Du kannst postulieren, muss da sein, wo das Hirn ist, es ist da aber nicht nachzuweisen. Farbe? Form? Gewicht? Temperatur?
Bewusstsein ist eine fiktive Vorstellung, eine Bezeichnung für etwas, das nicht greifbar ist, das nicht gemessen werden kann, das keiner keinem zeigen kann, damit ist die Unterscheidung von den üblichen Dingen die so existieren doch recht klar, ...
nocheinPoet schrieb:die Individualität Deines Bewusstseins könnte eine Illusion sein ...
Die Medizin und insbesondere die Neuromedizin sowie die Neurobiologie liefert mir da aber andere Befunde, die klar dafür sprechen, dass es sich bei meinem Bewusstsein um etwas handelt, was durch mein Gehirn in meinem Körper verursacht wird und nicht eine Empfängerleistung darstellt, welche ein "Illusionsprogramm" abspielt, das - von woher und von wem übrigens? - ausgestrahlt wird.
Nein, im Gegenteil wird auch da öfter mal die Analogie mit dem Empfänger gebracht. Keine Medizin, kein Forschung kann auch nur einen Befund liefern, der einen Nachweis für ein Bewusstsein liefert, dass das Gehirn eines erzeugen kann, ist nur eine Annahme, nicht mehr. Steht Dir aber frei mal was an Quellen zu Deinen Behauptungen zu liefern.
Wer spielt keine Rolle, ich sprach ja schon von Gravitation als Analogie. Wenn Bewusstsein eine intrinsische Eigenschaft des Universums wäre, der Raumzeit, dann braucht es zwei Massenteilchen und die wirken dann aufeinander, es bewegt sich was.
Gibt es eine Struktur die komplex genug ist, manifestiert sich Bewusstsein.
nocheinPoet schrieb:Ich kenne die These, Bewusstsein entsteht in den Mirkotubuli durch quantenmechanische Effekte.
Ich nicht, aber das ist in diesem Fall auch nicht relevant. Mir ging es nur darum, darauf hinzuweisen, dass man ein Neuron nicht auf Erregungsmuster reduzieren kann, sondern dass es da den gesamten Zellkörper mit allen seinen spezifischen Bestandteilen gibt, die über die Art und Weise des Zusammenwirkens einen Anteil am Zustandekommen des Bewusstseins haben. Mikrotubuli spielen da möglicherweise ebenfalls eine entscheidende Rolle, aber auch die Neurotransmitter kann man nicht einfach unter den Tisch fallen lassen.
Doch kann man, natürlich kann man das, bisher hast Du nichts genannt, was physikalisch dagegen spricht.
Es spricht nichts dagegen, aber wie sinnvoll ist z.B. die Betrachtung chemischer Reaktionen auf Quark-Ebene? Ich denke, es wird erst auf Molekülebene relevant, wenn ich etwas über Lebensprozesse beschreiben will. Unterhalb der Atomebene sehe ich da keine Relevanz. Da tummeln sich dann wirklich nur noch Teilchen nach ihren eigenen Gesetzmäßigkeiten, die mit dem, was oberhalb der Atomebene an Chemie abläuft, nichts zu tun haben.
Sage ich ja zum ersten Teil, Atome kann man als Blackbox nehmen, innere Prozesse spielen vermutlich für den Prozess eines Bewusstseins keine Rolle. Wenn diese Box nun immer genau das auf ein Eingangssignal liefert, was eben auch das Neuron liefert, kann es ausgetauscht werden.
Es spielt keine Rolle, das individuelle Neuron, kann durch beliebige andere getauscht werden, wenn es identisch reagiert, und es ist egal, ob es sich um einen biologischen Prozess in der Box handelt, oder um einen elektrischen.
nocheinPoet schrieb:man kommt dann zu der Frage, ist das Universum deterministisch ...
Das kommt drauf an, was man darunter versteht. Dass jede Wirkung eine Ursache hat, dürfte generell gültig sein, so dass man in diesem Sinne von Determinismus reden kann. Wenn mit Determinismus jedoch gemeint ist, dass alles vom Urknall an bis zum Big Freeze vorherbestimmt in den einzelnen Abläufen ist, dann kann man nicht von Determinismus reden - so zumindest meine Überzeugung, denn z. B. der Ablauf der Evolution ist zwar kausal determiniert, aber nicht teleologisch vorherbestimmt.
Generell ist ist die Frage nach dem Determinismus des Universum physikalisch und auch philosophisch wirklich eine echt schwierige. Physikalisch haben wir da nur den Zufall, Quanteneffekte, man spricht vom echten Zufall, die Frage, zerfällt das freie Neutron da vor uns in den nächsten neun Minuten oder nicht? Diese ist eben nicht messtechnisch zu beantworten, nach neun Minuten beginnt es von vorne, es macht keinen Unterschied, es zerfällt mit einer Wahrscheinlichkeit von fünfzig Prozent.
Mehr haben wir nicht, die Vorstellung eines freien Willen, eines kleinen Männchen im Kopf ist falsch, denn man findet keinen Anfang für den der die Aktion frei initiiert. Wenn man meditiert kann man erkennen, es denkt in einem, aber man denkt nicht frei in dem Sinne, dass man eben mal aufhören kann und wieder anfangen, man kommt da nicht auf eine Metaebene.
Und verzeih, wenn ich etwas unpräzise Schreibe, das kostet viel Zeit, Montag, der Zettel ist voll, und ich erwarte auch Grundlagenwissen zu den Themen über die ich schreibe.
Auch hier: deterministisch bedeutet nicht, dass die Entscheidungen vorherbestimmt sind, sondern lediglich, dass sie verursacht worden sind.
Wer verursacht und wie kann er das frei? Wie soll das gehen? Roter oder blauer Knopf drücken, wo soll da ein freier Prozess für die Entscheidung sein? Am Ende kann man da nur den Zufall finden, wenn überhaupt, aber Zufall ist kein freier Wille.
Man braucht hier eine Entscheidung, die frei in dem Sinne wäre, dass sie selber nicht von Ursachen bestimmt wird, und das würde für uns nicht von einer Zufallsentscheidung zu unterscheiden sein.
nocheinPoet schrieb:Es gibt keinen Grund warum ein "künstliches" oder simuliertes Neuron nicht genau das liefern sollte, dass das echt liefert.
Es gibt den Grund, dass das künstliche Neuron genauso vollständig sein muss wie das natürliche Neuron. Es darf kein reduktionistisch zurechtgestutztes Neuron sein, um das liefern zu können, was ein echtes Neuron liefert. Sprich: Du musst das Neuron klonen oder aus einer Stammzelle neu heranwachsen lassen, sonst hast Du nicht das, was das leisten soll, was es leisten soll.
Nein, dem widerspreche ich und sehe darin nur wieder eine Behauptung von Dir, die frei ohne jeden Beleg im Raum schwebt. Warum sollte das denn so sein müssen? Wenn das "künstliche" Neuron immer genau das liefert, was das originale liefert, dann passt es. Mehr ist nicht nötig, die Entstehungsgeschichte ist irrelevant, sie nimmt ja auf die Funktion keinen Einfluss.
nocheinPoet schrieb:Warum sollte man das nicht können? man kann Zellen einfrieren und auftauen, sogar bei Organismen ist das möglich, so kalt das da kein Stoffwechsel mehr gegeben ist, und danach läuft alles wieder.
Ja, aber erstens geht das nur bei einzelnen Zellen bzw. kleineren Gewebeanteilen - und auch da nur nach Schockgefrieren, weil sonst die Zellen wegen des gefrierenden Wassers zerplatzen und nach dem Auftauen nur noch Zellmatsch übrig ist. Zweitens ist ein Einfrieren kein Atomisieren. Der Strukturzusammenhang ist im gefrorenen Zustand immer noch da. Bei einer Atomisierung ist der Strukturzusammenhang aufgelöst und zerstört worden.
Noch, es geht bisher noch, im Jahr 1600 konnte man keinen A380 bauen, noch nicht, physikalisch wäre es aber auch da schon möglich gewesen. Noch kann man nur keine Teile einfrieren. Es gibt aber keinen Grund, warum man das nicht auf einen ganzen Körper erweitern könnte, aktuell kann man schon Körper von Säugetieren so weit runterkühlen, durch Austausch des Blutes mit einer Kühlflüssigkeit, dass das Hirn keine Aktivitäten mehr zeigt, oder genauer, man nicht mehr in der Lage ist, auch nur einen Funken davon zu messen, nach der Definition ist da dann der Hirntot gegeben. Man hat das mit Hunden gemacht und es gab wohl auch solche Experimente an Menschen in der Charité Berlin.
Finde auf die Schnelle keine gute Quelle, gab auf Youtube dazu auch mal was, wenn wer hier liest und weiß was ich meine, nur her mit Quellen dazu.
Es ist so, Du behauptest einfach, es gäbe da etwas, das Du nicht benennen kannst, dass den entscheidenden Unterschied ausmacht, gibt es aber nicht. Ein Wasserstoffmolekül getrennt und wieder zusammengebaut unterscheidet sich nicht vor und danach.
Für die Funktion eines Stückes m-RNA ist es egal, wie es aufgebaut wurde, es geht nur um die Information die es trägt.
triedagain schrieb: Du müsstest also - um eine Zelle neu zusammenzubauen - jedes der einzelnen Atome zunächst zu den Molekülen zusammenfügen, aus denen eine Zelle besteht, dann die Moleküle zu den Zellorganellen zusammenfügen, aus denen eine Zelle besteht und dann die Zellorganellen in die Positionen bringen, die sie in einer Zelle einnehmen. Danach, wenn alles am richtigen Platz ist, kannst Du daran gehen, die neu zusammengesetzte Zelle aus dem schockgefrorenen Zustand aufzutauen.
Theoretisch und mit dem nötigen technischen Know How ist das vielleicht möglich, aber praktisch ... Ich halte das für Science Fiction.
Es geht in Gedankenexperimenten nicht darum ob man es technisch realisieren kann, es geht nur darum, ob erstmal etwas von der Physik dagegen spricht und es unmöglich macht und an dem ist es eben nicht.
Der Stoffwechsel tauscht Millionen, was sag ich Billarden Atome täglich im Körper aus, und ... läuft. Auch spielt das ganz Genaue keine große Rolle, Du bist nicht aufmal ein anderer, wenn ein paar Wasserstoffatome im Körper verrutschen. Du tust so, als müsste jedes Atom ganz genau an seiner Position sein, jeder Freiheitsgrad müsste vollständig reproduziert sein.
Das stimmt aber so nicht, man kann da viel mehr umrühren und verändern und Du wirst weiter davon überzeugt sein, Du zu sein.
Das ist nicht fiktiv, das ist realitätsnah, weil rein theoretische Operationen nun mal praktisch nicht ausführbar sind. Siehe das Beispiel einer rekonstruierten Zelle: Theoretisch kann man sich vorstellen, dass man sie in einzelne Atome zerlegen und danach wieder zusammenbauen kann, aber praktisch geht das eben nicht, auch wenn es theoretisch möglich wäre (bei entsprechend niedrigen Temperaturen, um ein vorzeitiges Auftauen zu vermeiden).
Noch mal, dass ist irrelevant, es sind Gedankenexperimente, das sollte schon verstanden werden.
Ja, weil es darum ging, dass das Material für das Zustandekommen meines Bewusstseins nicht entscheidend wäre, da ja ständig Material umgesetzt wird. Wo ist da jetzt ein Problem?
Nun ja, auf der einen Seite meckerst Du bei dem Begriff, und dann tanzt Du damit wieder hinterm Busch hervor ... ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (Blue0)https://www.allmystery.de/themen/gw166362-2#id303928832021-07-12T13:24:43+01:00Blue0"Beitrag von Blue0nocheinPoet schrieb:Nein, der Stoff spielt keine Rolle, es gibt so viel in der Philosophie dazu, es ist einfacher wenn Grundlagenwissen vorhanden ist, nur ein oft thematisiertes Beispiel, betrachten wir nur ein Neutron, eine Zelle, wir können bei dieser alles abgreifen, jede Spannung, extrem genau und dann die Aktivitätszustände berechnenDas ist eine Annahme, keineswegs eine triviale allgemeinakzeptierte Aussage in der Philosophie. Fällt unter den Namen "Substrate Independence". ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (Blue0)https://www.allmystery.de/themen/gw166362-2#id303928492021-07-12T13:11:47+01:00Blue0"Beitrag von Blue0nocheinPoet schrieb:Zum Bewusstsein, ich halte das für so elementar wie Raum und das Universum selber. Weiß nicht ob Du meine Threads hier dazu kennst, gibt da einige Gedankenexperimente wie das Teleporterparadoxon:Also eine Form des Panpsychismus. https://plato.stanford.edu/entries/panpsychism/ Im übrigen konnte mathematisch nachgewiesen werden, dass sich in der Integrated Information Theory, einer vielbeachteten Formalisierung des Panpsychismus, ergeben würde, dass eine einfache Ansammlung von logic gates "mehr Bewusstsein" hätte als ein durchscnittliches menschliches Gehirn. Ich verweise hier gerne auf Scott Aaronson, einen der führendes Quantum Information/ Quantum Computing Theoretiker;
In my view, IIT fails to solve the Pretty-Hard Problem because it unavoidably predicts vast amounts of consciousness in physical systems that no sane person would regard as particularly “conscious” at all: indeed, systems that do nothing but apply a low-density parity-check code, or other simple transformations of their input data. Moreover, IIT predicts not merely that these systems are “slightly” conscious (which would be fine), but that they can be unboundedly more conscious than humans are.
Aus meiner Sich ist das Reductio ad Absurdum. Es impliziert allerdings nicht, dass alle Formen des Panpsychismus notwendigerweise Unfug währen.
nocheinPoet schrieb:Anderes Beispiel, kein direkter kausaler Zusammenhang, wir haben eine KI (nenne ich einfach mal so) die baut sich selber immer weiter aus, automatische Fabriken stellen weitere Einheiten her, um den Rechner immer und immer größer zu machen. Über viele 100.000 Jahre geht es so und nach 1.000.000 Jahren wurde alles an Material der Erde verbaut, die Erde selber gibt es nicht mehr, eine großer Rechner umkreist nun die Sonne ...
Und so geht es weiter, der Rechner baut Sonden, Roboter, Drohnen, und nach und nach wird alles an Materie bis auf die Sonne verbaut. Nach 100.000.000 Jahren verfügt das Teil über eine Technik die unglaublich ist, und so erweitert es sich immer und immer mehr, die ganze Galaxis wird Teil des Rechners.
Und nach 5.000.000.000 Jahren gibt es kein Atom im Universum, das noch frei wäre, und aus langweile beginnt der Rechner nun Welten zu "simulieren" ... es werde Licht ...
Die Supply Chain Issues werden für eine KI nicht einfach verschwinden. Nicht jedes Atom wird für die Steigerung der Rechenleistung eines solchen "Erdencomputers" relevant sein. Die Vorstellung dass das Universum ein zellulärer Automat ist wurde im Kern bereits von Konrad Zuse vertretten. Es gibt dafür allerdings Voraussetzungen:
- Es gibt eine andere Formulierung der Raumzeit nicht als Lorentz Mannigfaltigkeit, sondern als diskrete Struktur. - Jede physikalische Gesetz ist turing-berechenbar. Wenn eine Funktion turing berechenbar ist heißt das, informell und unpräzise, dass ein Algorithmus, z.B. in einer Programmiersprache wie C geschrieben, diese Funktion berechnen kann. Es gibt eine exakte Formulierung in der Sprache der axiomatischen Mengenlehre mit Prädikatenlogik, aber intuitiv sollte das reichen. Für das Universum ist es keineswegs eine triviale Annahme, zu behaupten, dass es turing-berechenbar wäre. Nicht alle Raumzeiten die Lösung der EH Gleichungen in General Relativity sind, sind turing berechenbar. In der QM hat man für hypothetische Materialien nachgewiesen, dass der Spectral Gap nicht turing-berechenbar ist (Wikipedia: Spectral gap (physics)) Sollte es sich herausstellen, dass ein mathematisches Objekt, dass von einer physikalischen Theorie beschrieben wird (Wobei wir annehmen, dass die physikalische Theorie Aussagen über unseren sichtbaren Teil des Universums trifft), nicht turing-berechenbar ist, so kann das sichtbare Universum nicht simuliert werden.
Darüber hinaus ist es, abseits von Pop-Science, unmöglich, jedes Atom im Universum zu verwenden, da bereits im sichtbaren Universum große Bereiche kausal von uns getrennt sind (Sie sind durch die beschleunigte Ausdehnung der Raumzeit unerreichbar, sogar mit Lichtgeschwindigkeit). Weitergehend, gibt es keinen Grund anzunehmen, dass das Universum hinter dem Partikelhorizont "einfach aufhört" - sowohl die Aussage "Das Universum ist unendlich", als auch "das Universum ist finit" sind möglich. Die häufige Angabe, man finde ja nur 10^80 Atome im Universum bezieht sich lediglich auf das sichtbare Universum. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (moredread)https://www.allmystery.de/themen/gw166362-2#id303918412021-07-12T08:34:54+01:00moredread"Beitrag von moredreadtriedagain schrieb:Man kann nicht alle Organe austauschen, denn das "Chassis" - also der Körper in seiner Grundstruktur mit Gewebe, Gefäße, Nervenstrukturen usw. - bleibt ja erhalten. Man kann zwar einige Organe austauschen, aber eben nicht das komplette Interieur. Der Kopf bleibt immer noch dran am Rumpf, und der Rumpf ist über verschiedene Transportsysteme für Blut, Erregungsleitungen, Lymphe usw. immer noch über die ganze Zeit hinweg mit dem Kopf als Ganzheit vernetzt und als System geschlossen.Außer, wie ich schon sagte, bei einer Kopftransplantation. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (triedagain)https://www.allmystery.de/themen/gw166362-2#id303895432021-07-11T21:02:46+01:00triedagain"Beitrag von triedagainnocheinPoet schrieb:da existiert was wie Bewusstsein, offenbar als DingNein, überhaupt nicht offenbar als "Ding", sondern als Zustand eines Dings - in diesem Falle des Gehirns in einem Körper, wobei das Gehirn auch nicht einfach ein Ding in einem größeren Ding ist, sondern integraler Bestandteil des Gesamtdings, das man als Körper bezeichnet, der aber ebenfalls nicht isoliert vor sich hin existiert, sondern seinerseits in seine Umgebung integriert ist, die dann ein Überding darstellt. Wir haben hier enkaptische Hierarchien, die aufeinander aufbauen und miteinander wechselwirken.
nocheinPoet schrieb:die Individualität Deines Bewusstseins könnte eine Illusion sein
Die Medizin und insbesondere die Neuromedizin sowie die Neurobiologie liefert mir da aber andere Befunde, die klar dafür sprechen, dass es sich bei meinem Bewusstsein um etwas handelt, was durch mein Gehirn in meinem Körper verursacht wird und nicht eine Empfängerleistung darstellt, welche ein "Illusionsprogramm" abspielt, das - von woher und von wem übrigens? - ausgestrahlt wird.
nocheinPoet schrieb:Ich kenne die These, Bewusstsein entsteht in den Mirkotubuli durch quantenmechanische Effekte.
Ich nicht, aber das ist in diesem Fall auch nicht relevant. Mir ging es nur darum, darauf hinzuweisen, dass man ein Neuron nicht auf Erregungsmuster reduzieren kann, sondern dass es da den gesamten Zellkörper mit allen seinen spezifischen Bestandteilen gibt, die über die Art und Weise des Zusammenwirkens einen Anteil am Zustandekommen des Bewusstseins haben. Mikrotubuli spielen da möglicherweise ebenfalls eine entscheidende Rolle, aber auch die Neurotransmitter kann man nicht einfach unter den Tisch fallen lassen.
Es spricht nichts dagegen, aber wie sinnvoll ist z.B. die Betrachtung chemischer Reaktionen auf Quark-Ebene? Ich denke, es wird erst auf Molekülebene relevant, wenn ich etwas über Lebensprozesse beschreiben will. Unterhalb der Atomebene sehe ich da keine Relevanz. Da tummeln sich dann wirklich nur noch Teilchen nach ihren eigenen Gesetzmäßigkeiten, die mit dem, was oberhalb der Atomebene an Chemie abläuft, nichts zu tun haben.
nocheinPoet schrieb:man kommt dann zu der Frage, ist das Universum deterministisch
Das kommt drauf an, was man darunter versteht. Dass jede Wirkung eine Ursache hat, dürfte generell gültig sein, so dass man in diesem Sinne von Determinismus reden kann. Wenn mit Determinismus jedoch gemeint ist, dass alles vom Urknall an bis zum Big Freeze vorherbestimmt in den einzelnen Abläufen ist, dann kann man nicht von Determinismus reden - so zumindest meine Überzeugung, denn z.B. der Ablauf der Evolution ist zwar kausal determiniert, aber nicht teleologisch vorherbestimmt.
Auch hier: deterministisch bedeutet nicht, dass die Entscheidungen vorherbestimmt sind, sondern lediglich, dass sie verursacht worden sind.
nocheinPoet schrieb:Es gibt keinen Grund warum ein "künstliches" oder simuliertes Neuron nicht genau das liefern sollte, dass das echt liefert.
Es gibt den Grund, dass das künstliche Neuron genauso vollständig sein muss wie das natürliche Neuron. Es darf kein reduktionistisch zurechtgestutztes Neuron sein, um das liefern zu können, was ein echtes Neuron liefert. Sprich: Du musst das Neuron klonen oder aus einer Stammzelle neu heranwachsen lassen, sonst hast Du nicht das, was das leisten soll, was es leisten soll.
nocheinPoet schrieb:Warum sollte man das nicht können? man kann Zellen einfrieren und auftauen, sogar bei Organismen ist das möglich, so kalt das da kein Stoffwechsel mehr gegeben ist, und danach läuft alles wieder.
Ja, aber erstens geht das nur bei einzelnen Zellen bzw. kleineren Gewebeanteilen - und auch da nur nach Schockgefrieren, weil sonst die Zellen wegen des gefrierenden Wassers zerplatzen und nach dem Auftauen nur noch Zellmatsch übrig ist. Zweitens ist ein Einfrieren kein Atomisieren. Der Strukturzusammenhang ist im gefrorenen Zustand immer noch da. Bei einer Atomisierung ist der Strukturzusammenhang aufgelöst und zerstört worden.
Du müsstest also - um eine Zelle neu zusammenzubauen - jedes der einzelnen Atome zunächst zu den Molekülen zusammenfügen, aus denen eine Zelle besteht, dann die Moleküle zu den Zellorganellen zusammenfügen, aus denen eine Zelle besteht und dann die Zellorganellen in die Positionen bringen, die sie in einer Zelle einnehmen. Danach, wenn alles am richtigen Platz ist, kannst Du daran gehen, die neu zusammengesetzte Zelle aus dem schockgefrorenen Zustand aufzutauen.
Theoretisch und mit dem nötigen technischen Know How ist das vielleicht möglich, aber praktisch ... Ich halte das für Science Fiction.
Das ist nicht fiktiv, das ist realitätsnah, weil rein theoretische Operationen nun mal praktisch nicht ausführbar sind. Siehe das Beispiel einer rekonstruierten Zelle: Theoretisch kann man sich vorstellen, dass man sie in einzelne Atome zerlegen und danach wieder zusammenbauen kann, aber praktisch geht das eben nicht, auch wenn es theoretisch möglich wäre (bei entsprechend niedrigen Temperaturen, um ein vorzeitiges Auftauen zu vermeiden).
Ja, weil es darum ging, dass das Material für das Zustandekommen meines Bewusstseins nicht entscheidend wäre, da ja ständig Material umgesetzt wird. Wo ist da jetzt ein Problem? ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (nocheinPoet)https://www.allmystery.de/themen/gw166362-2#id303888892021-07-11T20:07:34+01:00nocheinPoet"Beitrag von nocheinPoet Ich sprach ja die möglichen Zustände eines Hirns an, geht auch noch anders, Gedanken oder Worte, auch das ist endlich für jeden Menschen, bedeutet, mit genug Zeit wird es zwingend einem Menschen geben müssen, der sein ganzes Leben genau das sagt und denkt, was ein anderer schon mal zuvor gesagt und gedacht hat.
Erschreckend? ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (nocheinPoet)https://www.allmystery.de/themen/gw166362-2#id303888212021-07-11T19:59:38+01:00nocheinPoet"Beitrag von nocheinPoetmoredread schrieb:
nocheinPoet schrieb:Oder einen Kreis, gibt viele Kreise, aber bitte welcher Kreis soll der originale Kreis sein? Der der als erster im Universum materialisiert wurde?
Scheinfrage. Kann ein Kreis sprechen? Unterscheidet er sich in irgendeiner Hinsicht von anderen Kreisen? Nö. Alles modellhafte Abbildungen einer schlichten Figur. Kreise haben nichts mit Einstein zu tun. Nein und Du verstehst mich nicht, es war eine Analogie, es ging um individuelle Identität, nicht ob ein Kreis sprechen kann. Können auch ein Elektron betrachten, auch das hat keine Individualität, man kann die Teile nicht unterscheiden.
Aber gut, anderes Beispiel, nehmen wir einfach die mögliches Zustände eines Gehirns im Laufe von 100 Jahren, da sollten wir das Leben abdecken. Die Anzahl ist definitiv endlich, und wirklich nicht so groß, wenn man sich mal die wirklich großen Zahlen anschaut.
Bedeutet mit genug Zeit wird sich jeder Zustand eines Hirns zwingend wiederholen müssen, auch jeder Zustand von Einstein. Wo willst Du dann da ein individuelles Bewusstsein verorten? Und irgendwelche Quantenzustände in Protonen machen da den Kohl auch nicht fett.
moredread schrieb:Die Frage, wer der Original-Einstein ist, ist kinderleicht zu beantworten. Es war der, der es halt zur jeweiligen Zeit war. Also, Einstein zum 20. Geburtstag war halt Einstein zum 20. Geburtstag. Was Du machst, habe ich doch eben schon ausgeschlossen: Es gibt keinen Misch-Einstein, das ist ein Vergleich, den Du heranziehst, da Du behauptest, es gäbe kein Original.
Nein, ich sprach eben schon die identische "Kopie" an, gibt es physikalisch keinen Unterschied, ist Kopie und Original gleich. Und es ist eh egal, denn dann ist der Einstein der nun neu gebaut wurde, eben das Original 2021.
moredread schrieb:Nebenbei, wenn Du einen Sänger engagierst, zahlst Du nicht, weil es nicht der originelle Sänger ist? Entschuldige, aber Deine Argumentation ist an dieser Stelle, egal wie man es betrachtet, unsinnig.
Musst Dicht nicht entschuldigen, ist ja eh nur Deine Meinung und die ist falsch. :D Habe ich ja nun erklärt. Einfach mal etwas lesen zum Original in der Philosophie, ...
nocheinPoet schrieb:Wann war Einstein das Original, nach der Befruchtung der Eizelle? Nach der Geburt?
Zu jedem einzelnen Zeitpunkt war er der Original-Einstein des jeweiligen Zeitpunkts. So, als ob Du nach dem Original-Käfer fragst und nicht verstehst, das jeder Original ist.
Das ist Wortklauberei, wohlwollend gewertet.
So, Sonntag, morgen tanzt der Bär wieder, hoffe Du nimmst meine Aussagen nicht persönlich, geht nur um die Sache, ... ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (nocheinPoet)https://www.allmystery.de/themen/gw166362-2#id303887412021-07-11T19:46:50+01:00nocheinPoet"Beitrag von nocheinPoettriedagain schrieb:
Von Evidenz war auch nicht die Rede, sondern von Beleg. Der Beleg folgt aus der vorhandenen gleichartigen Struktur des Körpers des Nachbarn im Vergleich mit meinem Körper, der mein Bewusstsein generiert. Du machst aber Vorgaben, die gar nicht so gegeben sein müssen, da existiert was wie Bewusstsein, offenbar als Ding, was zu Widersprüchen führt, und dann, dass dieses generiert werden kann und durch den Körper, zumindest durch den Deinen, generiert wird.
Das muss nicht so sein, die Individualität Deines Bewusstseins könnte eine Illusion sein, auch muss es nicht zwingend durch die Existenz Deines Körpers generiert werden, der könnte auch nur was wie ein Empfänger sein, wie ein Fernseher, gibt viele Geräte in unterschiedlichen Bildgrößen die auch unterschiedlich die Farben anzeigen. Ein Programm ist so individuell unterschiedlich und wenn ein Gerät kaputt geht, ist nicht das Programm auch weg.
Wie kannst Du das wissen? Was Du beschreibst, sind Messmethoden des Zustands von Neuronen, die diesen Messmethoden zugänglich sind, aber die stoffliche Struktur der Neuronen (u.a. Mikrotubuli, aber auch diverse Neurotransmitter) ignorierst Du dabei komplett. Folglich ist Dein hypothetisches Beispiel des Abgreifens von Erregungszuständen eines Neurons nicht adäquat zu dem, was ein Neuron ausmacht.
Ich kenne die These, Bewusstsein entsteht in den Mirkotubuli durch quantenmechanische Effekte.
Da kann man noch tiefer gehen, Zellen bestehen aus Atomen, diese haben Kerne, darin befinden sich Neutronen, diese bestehen wohl aus Quarks und die interagieren stetig durch Gluonen, das ist wie ein Kochtopf mit kochendem Wasser.
Müsste man dann nicht auch diese Dinge berücksichtigen?
Ich denke nicht, man kommt dann zu der Frage, ist das Universum deterministisch, und wenn nicht, gibt es doch echten Zufall, und was wäre der dann genau, darüber hinaus, bedingt das nun keinen (freien) Willen.
Und dann ist man bei der Frage nach dem freien Willen, wie frei kann der sein, man sagt, es sei der eigene, dann wäre er nicht frei, ...
Ja das geht da richtig tief rein und bringt mehr Fragen als Antworten.
nocheinPoet schrieb:Dann könnte man dieses Neutron eben durch ein künstliches ersetzen, würde dabei Dein Bewusstsein verloren gehen?
Ein künstliches Neuron müsste genauso aufgebaut sein wie das natürlich gewachsene Neuron und dann in den Gesamtprozess der Interaktionen zwischen den benachbarten Neuronen integriert sein. Da setzt man dann doch eher auf Stammzellen, die sich zu Neuronen auswachsen, statt auf irgendwelches künstliches "Dingsda", das nur insofern etwas mit Neuronen zu tun hat, weil es bestimmte Spannungszustände aufweist, die sich in Analogie zu den Spannungszuständen eines echten Neurons betrachten lassen.
Das sind Behauptungen, man sollte mal schauen, ist das Universum deterministisch, haben wir feste physikalische Gesetze, und ja es schaut so aus, bedeutet, macht man etwas, geschieht es nach festen Regeln. Es gibt keinen Grund warum ein "künstliches" oder simuliertes Neuron nicht genau das liefern sollte, dass das echt liefert.
nocheinPoet schrieb:Und das Spiel geht so weiter, Neuron für Neuron, ganze Teile eines Hirns könnten so ersetzt werden, so lange bis das Ganze ersetzt ist.
Nur in der Science Fiction, sofern es sich tatsächlich um künstliche Neuronen handeln sollte und nicht um in vitro gezüchtete, die man dann in vivo implantiert.
Da man die Prozesse, die einen Körper lebendig werden lassen, nicht über ein reines Zusammenfügen von Atomen zu größeren Strukturen reproduzieren kann, kann man auch keinen Körper inklusive seines Gedächtnisinhalts nach erfolgter Atomisierung wieder neu zusammenfügen.
Warum sollte man das nicht können? man kann Zellen einfrieren und auftauen, sogar bei Organismen ist das möglich, so kalt das da kein Stoffwechsel mehr gegeben ist, und danach läuft alles wieder.
Von der Physik steht da kein Grund im Raum, der so etwas verbietet und unmöglich macht, nur die Technik muss noch entsprechend besser werden. Dann einfrieren, anhalten, zerlegen. Und neu aufbauen und auftauen und ... läuft.
Also mit - geht nicht, weil will ich nicht - kommst Du da bei mir nicht weiter.
triedagain schrieb: In der Science Fiction kann man sich zwar so etwas ausdenken, aber in der Praxis funktioniert das nicht, da der neu zusammengefügte Körper zuvor aus dem Funktionszusammenhang gerissen wurde.
Nein, was Du schreibst ist fiktiv, Du behauptest nur, geht nicht, weil geht nicht. :D
nocheinPoet schrieb:ständig ändern sich ja Atome und werden ausgetauscht, für Dein Bewusstsein ist das nicht entscheidend.
Aber der Zusammenhang der Prozesse ist entscheidend, der im Zuge der Materialaustauschprozesse dennoch stabilisierend über die Zeit tradiert wird. Und das ist dann sehr wohl entscheidend für mein Bewusstsein.
Nein, und da ist wieder der Begriff Bewusstsein, der ist ja gerade doch problematisch.
nocheinPoet schrieb:Nun müsstest Du dieses gewisse Etwas mal beschreiben können.
Man nennt das die Kontinuität des Lebens von der ersten Urzelle bis zur Gegenwart, die über die Evolution gewährleistet worden ist. Über diese Kontinuität haben sich Funktionszusammenhänge entwickelt, die das Leben nun mal nicht auf die Atome reduzierbar werden lässt, aus denen die Zellen bestehen.
Nein, also unterm Strich kam da nun von Dir eine Reihe von - geht nicht, weil geht nicht - und nicht mehr. Es braucht Evidenz, physikalische Gründe. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (triedagain)https://www.allmystery.de/themen/gw166362-2#id303883772021-07-11T18:41:26+01:00triedagain"Beitrag von triedagainpaxito schrieb:Also hätte man, wenn man in einer Operation alle Organe austauschen würde und den Menschen die ganze Zeit über am Leben erhält, immer noch das „gleiche“ System?Man kann nicht alle Organe austauschen, denn das "Chassis" - also der Körper in seiner Grundstruktur mit Gewebe, Gefäße, Nervenstrukturen usw. - bleibt ja erhalten. Man kann zwar einige Organe austauschen, aber eben nicht das komplette Interieur. Der Kopf bleibt immer noch dran am Rumpf, und der Rumpf ist über verschiedene Transportsysteme für Blut, Erregungsleitungen, Lymphe usw. immer noch über die ganze Zeit hinweg mit dem Kopf als Ganzheit vernetzt und als System geschlossen.
Ja, es ist immer noch der gleiche Mensch, auch wenn einige Organe ausgetauscht worden sind mit anderen, die zuvor zu einem anderen Menschen gehört hatten, der entweder aber nicht mehr vorhanden ist (bei Hirntoten) oder noch da ist, aber ohne das gespendete Organ weiterlebt (z.B. Spender einer Niere). Die Identität ergibt sich hier über das subjektive Selbstbild: Auch als Organempfänger nehme ich mich immer noch als mich selbst wahr und nicht als jemand anders.
Nein, weil der Organismus als Ganzer immer noch vorhanden ist und das System nicht kollabiert ist.
paxito schrieb:Verwechselst du dort nicht Identität mit lebendig?
Ich denke nicht, dass ich das tue. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (paxito)https://www.allmystery.de/themen/gw166362-2#id303882172021-07-11T18:11:11+01:00paxito"Beitrag von paxito
Also hätte man, wenn man in einer Operation alle Organe austauschen würde und den Menschen die ganze Zeit über am Leben erhält, immer noch das „gleiche“ System? Den „gleichen“ Menschen? Und deine Grenze wäre nicht überschritten? Verwechselst du dort nicht Identität mit lebendig? ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (triedagain)https://www.allmystery.de/themen/gw166362-2#id303880612021-07-11T17:42:45+01:00triedagain"Beitrag von triedagain Der Organismus stellt ein ganzheitliches System dar, das sich über vielfältige Wechselwirkungen ständig selbst reproduziert und im Zuge dessen einen kontinuierlichen Prozess darstellt, den man als Ontogenese bezeichnet. Bis zu einer bestimmten Grenze ist dieses System störungstolerant, ohne zu kollabieren. Bei einer Organtransplantation wird mit moderner Technik nachgeholfen, den Systemkollaps zu vermeiden, aber ohne Blutkreislauf und Atmung geht nichts mehr. Hier würde ich eine absolute Grenze sehen, die nicht überschritten werden darf. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (paxito)https://www.allmystery.de/themen/gw166362-2#id303867312021-07-11T12:34:09+01:00paxito"Beitrag von paxitotriedagain schrieb:Gesamtgefüge und
- was soll das sein und wie definiert es sich? Wieviele Organe oder wieviel Masse müsste ausgetauscht werden, damit das zerstört wird? Wo ist die sinnvolle Grenze? ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (triedagain)https://www.allmystery.de/themen/gw166362-2#id303867172021-07-11T12:31:08+01:00triedagain"Beitrag von triedagainKI, Armageddon, böse Agenten (GPT-3 etc.) (moredread)https://www.allmystery.de/themen/gw166362-2#id303866952021-07-11T12:25:22+01:00moredread"Beitrag von moredread Ja, schon. Aber
triedagain schrieb:Da es sich bei Lebewesen um Fließgleichgewichte handelt, haben wir es stets mit einer Ganzheit aus Struktur und Dynamik zu tun.
Wieso sollte das bei einer Transplantation anders sein? Die "Ganzheit aus Struktur und Dynamik"wird schließlich ebenfalls grob gestört. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (triedagain)https://www.allmystery.de/themen/gw166362-2#id303861052021-07-11T09:41:47+01:00triedagain"Beitrag von triedagain Es ging darum, einen Menschen in seine Atome zu zerlegen und danach wieder zusammenzubauen und nicht um Organtransplantationen. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (moredread)https://www.allmystery.de/themen/gw166362-2#id303860652021-07-11T09:27:18+01:00moredread"Beitrag von moredreadskagerak schrieb:Sorry dass ich so als Laie hier reinplatze.Es geht um Philosophie, und Bereiche, die nicht sauber definiert sind. Ich schätze, da sind alle hier Anwesenden Laien. Egal, wie lange man über die Thematik nachgedacht hat, man könnte sich irren. Insofern, herzlich willkommen :-)
Flitzschnitzel schrieb:Da braucht es keine magischen Partikel. Es wird ja immer mehr bekannt, wie stark andere Organe unser Denken, unsere Gefühle, somit auch unser Verhalten und demnach auch Einfluss auf unsere Persönlichkeit nehmen. Ein Gehirn alleine, ohne das Zusammenspiel anderer Organe samt den daraus resultierenden individuellen Wahrnehmungen, kann wahrscheinlich spärlich einen moredread ausmachen wie ihn seine Freunde kennen.
Das ist, soweit ich die Thematik verstehe, korrekt. Was ich allerdings machen kann, sind Ableitungen; modellhafte Darstellungen der Personen. Diese "Ableitungen" sollten allerdings gewisse Schwächen haben; etwas, das ich nächsten Monat testen möchte :-) da GPT3 das ja beherrscht.
Das ein Gehirn alleine nichts machen kann, ist aber auch für uns Menschen so, richtig? Das ist also in dem Sinne keine Schwäche der KI, sondern spiegelt nur den Entwicklungsstand wieder. An Simulationen für einen menschlichen Körper und eine entsprechende Umgebung wird seit einigen Jahren gearbeitet, da das Problem tatsächlich bekannt ist.
Ich würde nicht damit rechnen, das, wenn die Rechenleistung da ist, um das neuronale Netz eines menschlichen Gehirns zu simulieren, die Simulation eines Körpers und einer Umgebung ein allzu großes Problem darstellt. Die größere Frage wäre wohl eher, wie ein NN reagiert, das einem menschlichen Hirn nachempfunden wurde oder gar kopiert. Was geschieht mit dem Hirn, wenn man ihm alles außer seinem NN entreisst? Im Grunde ist das Gehirn an dem Punkt auch nur eine Ableitung, eine vereinfachte Darstellung. Das sind spannende Fragen, und ich würde definitiv damit rechnen, in den nächsten 10 Jahren eine Antwort darauf zu erhalten.
nocheinPoet schrieb:Eine Sache noch kurz, soweit ich weiß gibt es keine größeren neuronalen Netzwerke die sich selber modifizieren, Plastizität wäre aber für mich ein ganz wichtiges Kriterium.
Auch ist GPT-3 passiv, es verfolgt keine eigenen Ziele, es generiert Antworten und keine Fragen.
Für den nächsten Schritt müsste ein NN wachsen, dynamisch, neue Zellen müssten generiert werden, andere gelöscht werden, gleiches gilt für Verbindungen, ganze Schichten müssten generisch sein.
Und für mich gehört ein Ziel dazu, primär will Leben überleben, und wir wollen noch ein wenig mehr. Eine KI, die "schläft" bis man sie anspricht, die keine eigenen Ziele besitzt und verfolgt, die nicht von alleine aktiv ist, ist für mich keine echte, ...
Doch, GPT3 modifiziert sich selber - im Lernprozess. Wenn ich GPT3 hier nutze, dann insbesondere mit dem P - Pretrained. Ich nutze das im Training selbst angelernte Wissen, ich kann GPT3 aber fast nichts neues anlernen, nur soweit die Sequenzlänge (aktuell max 8.000 Buchstaben) das zulässt. Mir fehlt der Zugriff auf BERT (der erledigt das Pretraining).
Das ich GPT3 nichts anlernen lasse, liegt nicht daran, das es nicht geht. Im Prinzip könnnte ich jede Eingabe anlernen lassen. Dann hätte GPT3 das geforderte Gedächtnis. Nur: Wenn ich GPT3 eine Frage stelle, braucht es Hardware für etwa 250.000 €. Wenn ich GPT3 etwas beibringen möchte, benötigt es Hardware für 25.000.000 €. Das GPT3 nichts lernt, hat also nichts damit zu tun, dass das nicht geht, sondern damit, das es aktuell schlicht zu teuer ist.
Würde jemanden auf den Gedanken kommen, GPT3 Hand in Hand mit BERT nutzbar zu machen, kämen wir näher ran. Dass das nicht gemacht wird, liegt schlicht am Preis. Das könnte sich jedoch ändern, die Nachfolger (RoBERTa, ERNIE und Electra, um die zu nennen, die besser abschneiden, und von denen ich weiß) sind teils deutlich effizienter. Auch ein Umstieg vom Transformer Modell zum Longformer Modell würde einiges ändern. Hier sieht man, das "autonome KIs" nicht unbedingt das Ziel der Mehrheit der Forscher sind.
Und um Deine Frage (so ich sie verstehe) mal per Zitat zu beantworten:
Nun wären viele KI-Forscher bereits mit einer gelungenen Simulation echten Sprachverständnisses mehr als zufrieden. Ein Problem dabei ist, dass es in der realen Welt keine perfekten Regelbücher gibt. Natürliche Sprache ist viel zu komplex und unvorhersehbar, als dass sie sich auf ein fixes Set von Anweisungen reduzieren ließe. Man denke an den oft wiederholten Beispielsatz des Linguisten Noam Chomsky »Farblose grüne Ideen schlafen wütend«. Aus Sicht der Syntax, also gemäß den Regeln und Mustern, nach denen Sprecher ihre Sätze aus Wörtern bauen, ist nichts dagegen einzuwenden. Doch jedem Muttersprachler ist klar: Der Satz ist kompletter Nonsens. Wie wollte man solche »ungeschriebenen« Fakten in ein Regelwerk aufnehmen?
Ich fürchte, wir werden noch eine Weile warten müssen, bis wir die Frage beantworten können, wie eine solche KI sich verhält, wenn sie bspw. ein kohärentes Zeitverständnis hätte, selbst Entscheidungen treffen könnte und ein funktionierendes Gedächtnis hätte. Das erscheint mir angesichts aktueller Modelle letztlich eine Ressourcenfrage. Zudem wird abgewogen, ob man nicht sinnvollere Fragen stellen könnte - und von denen gibt es aktuell genug in diesem Bereich. Ich würde also erst einmal versuchen, Grundlegende Dinge zu klären, wie bspw. ob so ein System Schlussfolgerungen ziehen kann oder ob es bloß statistische Zahlenzusammenhänge herstellt. Solange das nicht klar ist, scheint mir weiterführende Forschung ein wenig absurd, insbesondere, wenn sie so teuer ist.
triedagain schrieb:An dieser Stelle macht uns die Unschärferelation einen Strich durch die Rechnung, denn es genügt nicht, die Position der Atome zu rekonstruieren, sondern es müssen auch die Bewegungen aller beteiligten Teilchen rekonstruiert werden, die sich gerade in Aktion befinden, um das Bewusstsein zu generieren sowie den Körper in seiner Funktionalität zu konstituieren. Da es sich bei Lebewesen um Fließgleichgewichte handelt, haben wir es stets mit einer Ganzheit aus Struktur und Dynamik zu tun.
Das heißt, wenn Ärzte bspw. eine Herztransplantation vornehmen, müssen sie dabei die Unschärferelation beachten? Auch die Transplantation eines Kopfes wäre demnach unmöglich. Ich bezweifle, das all das relevant ist für den "Betrieb" eines Körpers, wenn man sich anschaut, was Ärzte alles damit machen. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (triedagain)https://www.allmystery.de/themen/gw166362-2#id303858772021-07-11T08:44:23+01:00triedagain"Beitrag von triedagainskagerak schrieb:Also wäre die grundlegende Frage, ob man es irgendwie schaffen kann, auch die Zustände zu koperien?An dieser Stelle macht uns die Unschärferelation einen Strich durch die Rechnung, denn es genügt nicht, die Position der Atome zu rekonstruieren, sondern es müssen auch die Bewegungen aller beteiligten Teilchen rekonstruiert werden, die sich gerade in Aktion befinden, um das Bewusstsein zu generieren sowie den Körper in seiner Funktionalität zu konstituieren. Da es sich bei Lebewesen um Fließgleichgewichte handelt, haben wir es stets mit einer Ganzheit aus Struktur und Dynamik zu tun. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (Flitzschnitzel)https://www.allmystery.de/themen/gw166362-1#id303857532021-07-11T07:02:25+01:00Flitzschnitzel"Beitrag von Flitzschnitzelmoredread schrieb:Ja, da stehen wir auf unterschiedlichen Standpunkten. Ich glaube nicht an magische Partikel; eine vollständige Beschreibung des Hirns beinhaltet auch das Ich einer Person - behaupte ich jetzt einfach mal ;-)Da braucht es keine magischen Partikel. Es wird ja immer mehr bekannt, wie stark andere Organe unser Denken, unsere Gefühle, somit auch unser Verhalten und demnach auch Einfluss auf unsere Persönlichkeit nehmen. Ein Gehirn alleine, ohne das Zusammenspiel anderer Organe samt den daraus resultierenden individuellen Wahrnehmungen, kann wahrscheinlich spärlich einen moredread ausmachen wie ihn seine Freunde kennen. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (Miles1701)https://www.allmystery.de/themen/gw166362-1#id303855112021-07-11T00:20:24+01:00Miles1701"Beitrag von Miles1701nocheinPoet schrieb:Und für mich gehört ein Ziel dazu, primär will Leben überleben, und wir wollen noch ein wenig mehr. Eine KI, die "schläft" bis man sie anspricht, die keine eigenen Ziele besitzt und verfolgt, die nicht von alleine aktiv ist, ist für mich keine echte, ...Will man denn das sie mehr kann? Eine KI soll ein besseres Werkzeug um Probleme zu lösen. Es zieht eine riesen Kette von Problemen nach sich wenn sie komplett autonom wäre. Ethische, rechtliche usw. Eine eigenständige KI wäre zwar interessant aber die Probleme zu groß.
Zur Frage mit Orginal, Kopie und Simulation: es kommt auf den Bezugsrahmen an. Da du zeitlich den selben Rahmen hättes wie der Einstein wäre er für dich immer original da du nur auf eine Zeitkoordinate nämlich hdie Gegenwart zugreifen kannst.
Ob etwas echt oder eine Simulation ist kannst du nur von außen erkennen. Denn im inneren wärst du ja selber Teil der Simulation und deren Gesetzen unterworfen und hättest keinen externen Bezugspunkt um das zu verifizieren.
Ganz am Anfang war die Frage ob sich etwas ändern würde wenn KI Wahlkampf führen würde. Für mich persönlich eher weniger, weil ich Argumente nicht nach der Menge der Personen ob echt oder virtuell entscheide sondern nach deren Qualität. Ich denke es würden sich mehr Menschen sogar zurück ziehen aus dem virtuellen Raum weil die Stimmen zu viele werden. Aber unterm Strich währen es wieder die selben "Parteien" die gegeneinander stehen und die selben Positionen vertreten nur eben nicht mit 1000 Personen sondern mit 100000. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (skagerak)https://www.allmystery.de/themen/gw166362-1#id303851832021-07-10T22:40:18+01:00skagerak"Beitrag von skagerakmoredread schrieb:Scheinfrage. Kann ein Kreis sprechen? Unterscheidet er sich in irgendeiner Hinsicht von anderen Kreisen? Nö. Alles modellhafte Abbildungen einer schlichten Figur. Kreise haben nichts mit Einstein zu tun.
Die Frage, wer der Original-Einstein ist, ist kinderleicht zu beantworten. Es war der, der es halt zur jeweiligen Zeit war. Also, Einstein zum 20. Geburtstag war halt Eintein zum 20. Geburtstag. Was Du machst, habe ich doch eben schon ausgeschlossen: Es gibt keinen Misch-Einstein, das ist ein Vergleich, den Du heranziehst, da Du behauptest, es gäbe kein Original.
Nebenbei, wenn Du einen Sänger engagierst, zahlst Du nicht, weil es nicht der originelle Sänger ist? Entschuldige, aber Deine Argumentation ist an dieser Stelle, egal wie man es betrachtet, unsinnig.Sorry dass ich so als Laie hier reinplatze. Aber ich kann dem auch nicht ganz folgen was @nocheinPoet eigentlich damit aussagen möchte.
Für mich gibt es ein Original, und alles Andere wäre eine Kopie. Wie sehr Kopie, ist denn mMn ein anderes Thema. (oder geht´s hier darum?) ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (moredread)https://www.allmystery.de/themen/gw166362-1#id303846872021-07-10T21:06:53+01:00moredread"Beitrag von moredreadnocheinPoet schrieb:Oder einen Kreis, gibt viele Kreise, aber bitte welcher Kreis soll der originale Kreis sein? Der der als erster im Universum materialisiert wurde?Scheinfrage. Kann ein Kreis sprechen? Unterscheidet er sich in irgendeiner Hinsicht von anderen Kreisen? Nö. Alles modellhafte Abbildungen einer schlichten Figur. Kreise haben nichts mit Einstein zu tun.
Die Frage, wer der Original-Einstein ist, ist kinderleicht zu beantworten. Es war der, der es halt zur jeweiligen Zeit war. Also, Einstein zum 20. Geburtstag war halt Eintein zum 20. Geburtstag. Was Du machst, habe ich doch eben schon ausgeschlossen: Es gibt keinen Misch-Einstein, das ist ein Vergleich, den Du heranziehst, da Du behauptest, es gäbe kein Original.
Nebenbei, wenn Du einen Sänger engagierst, zahlst Du nicht, weil es nicht der originelle Sänger ist? Entschuldige, aber Deine Argumentation ist an dieser Stelle, egal wie man es betrachtet, unsinnig.
nocheinPoet schrieb:Wann war Einstein das Original, nach der Befruchtung der Eizelle? Nach der Geburt?
Zu jedem einzelnen Zeitpunkt war er der Original-Einstein des jeweiligen Zeitpunkts. So, als ob Du nach dem Original-Käfer fragst und nicht verstehst, das jeder Original ist. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (nocheinPoet)https://www.allmystery.de/themen/gw166362-1#id303837032021-07-10T17:23:42+01:00nocheinPoet"Beitrag von nocheinPoet Eine Sache noch kurz, soweit ich weiß gibt es keine größeren neuronalen Netzwerke die sich selber modifizieren, Plastizität wäre aber für mich ein ganz wichtiges Kriterium.
Auch ist GPT-3 passiv, es verfolgt keine eigenen Ziele, es generiert Antworten und keine Fragen.
Für den nächsten Schritt müsste ein NN wachsen, dynamisch, neue Zellen müssten generiert werden, andere gelöscht werden, gleiches gilt für Verbindungen, ganze Schichten müssten generisch sein.
Und für mich gehört ein Ziel dazu, primär will Leben überleben, und wir wollen noch ein wenig mehr. Eine KI, die "schläft" bis man sie anspricht, die keine eigenen Ziele besitzt und verfolgt, die nicht von alleine aktiv ist, ist für mich keine echte, ... ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (nocheinPoet)https://www.allmystery.de/themen/gw166362-1#id303836712021-07-10T17:17:14+01:00nocheinPoet"Beitrag von nocheinPoetmoredread schrieb:
nocheinPoet schrieb:Gibt es nicht, der war mit 20 Jahren aus ganz anderen Atomen ganz anders zusammengesetzt, als mit 45 Jahren, die Atome selber und auch die Struktur dieser sind da nicht entscheidend, da bleiben nur die Prozesse, und die haben auch keine echte Individualität.
Natürlich; wenn schon, dann eine Kopie bestimmten Datums. Kopien unbestimmten oder gar gemischten Datums ergeben im Grunde gar keinen Sinn; was sollte ich bspw. mit einem Einstein-Baby? Nein, das biologische Prozesse eine Person verändern, ist in dem von Dir gegebenen Beispiel kein Hindernis. Für die Kopie gibt es einen exakten Zeitstempel. Ich sehe das anders, es gibt keinen originalen Einstein, so wenig wie es ein Original von Pi gibt.
Oder einen Kreis, gibt viele Kreise, aber bitte welcher Kreis soll der originale Kreis sein? Der der als erster im Universum materialisiert wurde?
Wann war Einstein das Original, nach der Befruchtung der Eizelle? Nach der Geburt?
Und verzeihe mir, aber aktuell verlangt mir der Garten echt einiges an Arbeit und Zeit ab. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (skagerak)https://www.allmystery.de/themen/gw166362-1#id303834672021-07-10T16:24:27+01:00skagerak"Beitrag von skageraktriedagain schrieb:Da man die Prozesse, die einen Körper lebendig werden lassen, nicht über ein reines Zusammenfügen von Atomen zu größeren Strukturen reproduzieren kann, kann man auch keinen Körper inklusive seines Gedächtnisinhalts nach erfolgter Atomisierung wieder neu zusammenfügen. In der Science Fiction kann man sich zwar so etwas ausdenken, aber in der Praxis funktioniert das nicht, da der neu zusammengefügte Körper zuvor aus dem Funktionszusammenhang gerissen wurde.Also wäre die grundlegende Frage, ob man es irgendwie schaffen kann, auch die Zustände zu koperien? Und wenn man das könnte, wäre doch immer noch die Frage, ob man denn auch das persönliche Bewusstsein (per welcher Definition mal abgesehen) kopiert hat, oder nicht?
als er ihnen eine Meeseeks-Box überreicht, die es ermöglicht, einen cleveren blauen humanoiden Helfer herbeizurufen, der bei alltäglichen Problemen zur Seite steht. Allerdings existieren diese Wesen nur um die aufgetragene Aufgabe zu lösen und verschwinden danach sofort wieder. Rick ermahnt seine Familie, die Aufgaben einfach zu halten und sich darüber im Klaren zu sein, dass die Meeseeks über ihren Tod erfreut sind, da Existenz für sie Schmerz bedeutet. Als Rick und Morty aufgebrochen sind, rufen die Drei allesamt einen Mr. Meeseeks herbei. Beth möchte eine komplettere Frau werden, während Summer ihre Beliebtheit in der Schule verbessern möchte. Jerry ermahnt die beiden, wonach sie die Boxen völlig falsch verwenden würden und verlangt die vergleichsweise unkompliziertere Hilfe, indem er sich wünscht, sein Golf-Handicap um zwei Schläge zu verringern
Quelle: Wikipedia: Der Fantastische Mr. Meeseeks ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (moredread)https://www.allmystery.de/themen/gw166362-1#id303833832021-07-10T15:59:13+01:00moredread"Beitrag von moredreadpaxito schrieb:Weil es da einen Gegensatz gibt. Für mich ist ein besseres Verständnis des Gehirns genau das, ein besseres Verständnis eines Organs, mehr nicht. In puncto Bewusstsein nicht relevanter, als Erkenntnisse über die Leber, überspitzt formuliert. Ich sehe da tatsächlich kaum Fortschritte was diese Frage angeht, wenn überhaupt in der Sprachanalyse, aber sicher nicht in der Neurobiologie. Das heißt nicht, dass ich Erkenntnisse über das Gehirn nicht wertschätzen würde, sie sind ohne Frage äußerst wertvoll.Verstehe. Ja, da stehen wir auf unterschiedlichen Standpunkten. Ich glaube nicht an magische Partikel; eine vollständige Beschreibung des Hirns beinhaltet auch das Ich einer Person - behaupte ich jetzt einfach mal ;-). Ich vermute, das sich diese Frage in den nächsten Jahren klären lassen wird.
GPT3 nutzt ein neuronales Netzwerk. Ich würde nach ähnlichen Strukturen in biologischen NNs suchen - die bilden sich häufiger in den simulierten. Andersherum natürlich auch: Kleine Strukturen des Hirns werden untersucht, um die Funktionalität der Neuronen abbilden zu können und dann wird versucht, das ganze auf synthetische Neuronale Netze zu übertragen. Da es sich dabei um Forschung handelt, kann niemand vorher sagen, was hinterher einmal rauskommt. Vielleicht gibt es Ähnlichkeiten - vielleicht nicht. Im Bereich der Sinneswahrnehmung bspw. wird die Technik genutzt.
Wenn GPT3 nichts weiter als ein cleveres statistisches Modell ist - super, dann hoffe ich mal, das zukünftige Tests diese Möglichkeit berücksichtigen. Selbst dann würde es möglicherweise die Definition von Intelligenz schärfen. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (triedagain)https://www.allmystery.de/themen/gw166362-1#id303832652021-07-10T15:37:50+01:00triedagain"Beitrag von triedagainnocheinPoet schrieb:begründete Vermutung, und das ist eben keine Evidenz.Von Evidenz war auch nicht die Rede, sondern von Beleg. Der Beleg folgt aus der vorhandenen gleichartigen Struktur des Körpers des Nachbarn im Vergleich mit meinem Körper, der mein Bewusstsein generiert.
Wie kannst Du das wissen? Was Du beschreibst, sind Messmethoden des Zustands von Neuronen, die diesen Messmethoden zugänglich sind, aber die stoffliche Struktur der Neuronen (u.a. Mikrotubuli, aber auch diverse Neurotransmitter) ignorierst Du dabei komplett. Folglich ist Dein hypothetisches Beispiel des Abgreifens von Erregungszuständen eines Neurons nicht adäquat zu dem, was ein Neuron ausmacht.
nocheinPoet schrieb:Dann könnte man dieses Neutron eben durch ein künstliches ersetzen, würde dabei Dein Bewusstsein verloren gehen?
Ein künstliches Neuron müsste genauso aufgebaut sein wie das natürlich gewachsene Neuron und dann in den Gesamtprozess der Interaktionen zwischen den benachbarten Neuronen integriert sein. Da setzt man dann doch eher auf Stammzellen, die sich zu Neuronen auswachsen, statt auf irgendwelches künstliches "Dingsda", das nur insofern etwas mit Neuronen zu tun hat, weil es bestimmte Spannungszustände aufweist, die sich in Analogie zu den Spannungszuständen eines echten Neurons betrachten lassen.
nocheinPoet schrieb:Und das Spiel geht so weiter, Neuron für Neuron, ganze Teile eines Hirns könnten so ersetzt werden, so lange bis das Ganze ersetzt ist.
Nur in der Science Fiction, sofern es sich tatsächlich um künstliche Neuronen handeln sollte und nicht um in vitro gezüchtete, die man dann in vivo implantiert.
Da man die Prozesse, die einen Körper lebendig werden lassen, nicht über ein reines Zusammenfügen von Atomen zu größeren Strukturen reproduzieren kann, kann man auch keinen Körper inklusive seines Gedächtnisinhalts nach erfolgter Atomisierung wieder neu zusammenfügen. In der Science Fiction kann man sich zwar so etwas ausdenken, aber in der Praxis funktioniert das nicht, da der neu zusammengefügte Körper zuvor aus dem Funktionszusammenhang gerissen wurde.
nocheinPoet schrieb:ständig ändern sich ja Atome und werden ausgetauscht, für Dein Bewusstsein ist das nicht entscheidend.
Aber der Zusammenhang der Prozesse ist entscheidend, der im Zuge der Materialaustauschprozesse dennoch stabilisierend über die Zeit tradiert wird. Und das ist dann sehr wohl entscheidend für mein Bewusstsein.
Man nennt das die Kontinuität des Lebens von der ersten Urzelle bis zur Gegenwart, die über die Evolution gewährleistet worden ist. Über diese Kontinuität haben sich Funktionszusammenhänge entwickelt, die das Leben nun mal nicht auf die Atome reduzierbar werden lässt, aus denen die Zellen bestehen. ]]>
KI, Armageddon, böse Agenten (GPT-3 etc.) (paxito)https://www.allmystery.de/themen/gw166362-1#id303832632021-07-10T15:37:15+01:00paxito"Beitrag von paxitonocheinPoet schrieb:Erstmal halte ich mich in der Regel an die Definitionen des Mainstreams und nein ich setze KI nicht mit künstlichem Bewusstsein gleich.Es gibt keine Mainstream Definition von künstlicher Intelligenz, da wirst du beim maschinellen Lernen, Computerspielen und ScienceFiction Autoren höchst unterschiedliche Begriffe finden. Und auch der Begriff „Intelligenz“ ist sehr unterschiedlich besetzt. Häufig wird in solchen Diskussionen ein psychologischer Begriff benutzt, der am Ende auf statistischen Werten beruht. Ob das so sinnvoll ist, sei mal dahingestellt, ob das bei dir der Fall ist weiß ich nicht. Warum weigerst du dich beharrlich da einfach klarzustellen, worauf du dich überhaupt beziehst?
Nichts. Eine perfekte Simulation wäre eine Kopie des Orginals.
nocheinPoet schrieb:Noch mal, es braucht keine Maschine, kein Rechner, kein Neuronales Netz, schnapp Dir Deinen Nachbarn und belege mal, dass der wirklich ein Bewusstsein besitzt.
Ich weiß nicht warum du mir jetzt haufenweise Links zum Zombie schickst, das Gedankenexperiment ist mir ohnehin sehr vertraut. Es stellt sich so aber nur unter bestimmten Bedingungen, nämlich dann, wenn man als Beweis nur eine Beweisführung innerhalb eines materialistischen Weltbildes akzeptiert. Die Antwort darauf kann prinzipiell sehr simpel ausfallen: es gibt bestimmte Sprachregeln, wann wir bei einem Menschen von einem Bewusstsein sprechen und wann nicht. Sind diese Bedingungen erfüllt, verfügt der Mensch im Sinne des Begriffs über ein Bewusstsein (oder eben nicht). Den gleichen Maßstab kann man so an KIs anlegen und vermeidet damit ein Abdriften in metaphysische Debatten. Es gilt dann einzig den Begriff Bewusstsein und die für ihn geltenden Regeln so klar wie möglich zu fassen.
moredread schrieb:Wieso im Gegensatz zu mir? Du schreibst schließlich...
Weil es da einen Gegensatz gibt. Für mich ist ein besseres Verständnis des Gehirns genau das, ein besseres Verständnis eines Organs, mehr nicht. In puncto Bewusstsein nicht relevanter, als Erkenntnisse über die Leber, überspitzt formuliert. Ich sehe da tatsächlich kaum Fortschritte was diese Frage angeht, wenn überhaupt in der Sprachanalyse, aber sicher nicht in der Neurobiologie. Das heißt nicht, dass ich Erkenntnisse über das Gehirn nicht wertschätzen würde, sie sind ohne Frage äußerst wertvoll. ]]>