Wissenschaft
Menschen Wissenschaft Politik Mystery Kriminalfälle Spiritualität Verschwörungen Technologie Ufologie Natur Umfragen Unterhaltung
weitere Rubriken
PhilosophieTräumeOrteEsoterikLiteraturAstronomieHelpdeskGruppenGamingFilmeMusikClashVerbesserungenAllmysteryEnglish
Diskussions-Übersichten
BesuchtTeilgenommenAlleNeueGeschlossenLesenswertSchlüsselwörter
Schiebe oft benutzte Tabs in die Navigationsleiste (zurücksetzen).

KI, Armageddon, böse Agenten (GPT-3 etc.)

116 Beiträge ▪ Schlüsselwörter: KI, Armageddon, böse Agenten ▪ Abonnieren: Feed E-Mail

KI, Armageddon, böse Agenten (GPT-3 etc.)

12.07.2021 um 14:05
@Blue0

Ja, schöner Link, oder toller Beitrag von Dir in meinem anderen Thread und ich habe Dir nicht darauf geantwortet, Asche auf mein Haupt.

Zahlen mit Bewusstsein, schön das es andere Menschen gibt, die so abgedrehte Gedanken wie ich habe und dann sogar noch drüber hinaus gehen.

Sind doch endliche Zahlen, oder? Bin da noch nicht tiefer drin, aber wie schaut es mit irrationalen Zahlen wie Pi aus? Ist die Menge an Informationen in Pi unendlich? Und braucht es nicht doch dazu auch einen Prozess?

Für mich ist Bewusstsein, bei all der Schwammigkeit, ein Prozess, also muss einer sein, eine Veränderung, eine Zahl selber ist aber statisch.

Ja, viele Fragen, muss das hier auch mal für mich noch schreiben, um da dann ansetzten zu können.


1x zitiertmelden

KI, Armageddon, böse Agenten (GPT-3 etc.)

12.07.2021 um 14:48
Ich gehe mal so kurze Beiträge an, die noch offen sind ...
Zitat von moredreadmoredread schrieb:
Zitat von nocheinPoetnocheinPoet schrieb:Erstmal halte ich mich in der Regel an die Definitionen des Mainstreams
...also eine Erklärung, die Du selbst nicht erklären kannst. Auf dem Wege gibt es keine Diskussion, weil alle aneinander vorbeireden. Wieso nicht eine, die Sinn ergibt?
Eine Erklärung die ich nicht erklären kann? Nun ja ...

Die Verständigung der Mehrheit auf die Definition und somit die Bedeutung von Begriffen ermöglichst Diskussionen, die subjektive Sinnhaftigkeit individueller Definitionen hingegen nicht. ;)


melden

KI, Armageddon, böse Agenten (GPT-3 etc.)

12.07.2021 um 14:53
Zitat von nocheinPoetnocheinPoet schrieb:Ja, zum letzten Hinweis eben von Dir, Dein Name ist mir im ... Bewusstsein geblieben, Du legst da immer echt richtig was vor. Ich befürchte ich habe Dir damals auch nicht so ausführlich geantwortet, wie ich es hätte tun sollen. ;)
Guess so. Zum damaligen Zeitpunkt hätte ich mir da schon mehr "Elan" gewünscht, ist aber nun auch egal, es sollte positiv in die Zukunft geschaut werden.
Zitat von nocheinPoetnocheinPoet schrieb:Sind doch endliche Zahlen, oder? Bin da noch nicht tiefer drin, aber wie schaut es mit irrationalen Zahlen wie Pi aus? Ist die Menge an Informationen in Pi unendlich? Und braucht es nicht doch dazu auch einen Prozess?
Vielleicht wäre es besser zu behaupten, dass diese Zahlen "Bewusstsein repräsentieren" - kommt darauf an welche Philosophie der Mathematik man vertritt.

Pi selbst ist eine irrationale Zahl, es ist allerdings nicht bewiesen, dass sie auch eine normale (Fachbegriff: Normale Zahl) und nicht periodische Zahl ist.
Ich kann hier natürlich keine Vorlesung halten, aber die motivierenden Fragen lassen sich dennoch informell ausdrücken,
Zuerst muss der Begriff der Informationsgehaltes formalisiert werden. Das kann z.B. durch die Kolmogorow Komplexität geschehen.

Was wäre den die Kolmogorow Komplexität von 2 ?
Was wäre den die Kolmogorow Komplexität von 38293 ?
Was wäre den die Kolmogorow Komplexität von -3.33333.... ?
Was wäre den die Kolmogorow Komplexität von 343.559 ?
Was wäre den die Kolmogorow Komplexität von pi oder e ?
Verallgemeinert, was wäre den die Kolmogorow Komplexität einer Ganzen Zahl?
.... wäre den die Kolmogorow Komplexität einer Rationalen Zahl?
.... wäre den die Kolmogorow Komplexität einer Irrationalen Zahl?

Im Hinblick auf Pi im speziellen, empfehle ich https://informationandreality.com/2019/04/09/on-the-complexity-of-pi-%CF%80/

Darüber hinaus das Video von Herrn Professor Weitz zur Kolmogorow Komplexität
Youtube: Was hat der Primzahlsatz mit der Kolmogorow-Komplexität zu tun?
Was hat der Primzahlsatz mit der Kolmogorow-Komplexität zu tun?


Er hat einen guten Youtube Kannal mit seinen Vorlesungen an der Hochschule für Medieninformatik Hamburg, schreibt auch gute Sachbücher und hat zur Kardinal Arithmetik und axiomatischen Mengenlehre geforscht.
Zitat von nocheinPoetnocheinPoet schrieb:Für mich ist Bewusstsein, bei all der Schwammigkeit, ein Prozess, also muss einer sein, eine Veränderung, eine Zahl selber ist aber statisch.
Ja, die Zahl ist nur eine Momentaufnahme.

Angenommen das Bewusstsein ist Turing-Berechenbar.
Skizziert;
Dann existiert eine finite Zahl n, die die Turingmaschine TM mit Input P encodiert (Erreichbar durch Göderlisierung).
Ich nehme mal an, ich würde mit einem Programmierer sprechen und wir nehmen an, dass die Church-Turing These wahr ist.
Dann kannst Du Dir vorstellen, dass der Algorithmus A mit Input I durch eine Zahl codiert wird. Ist ja auch hardware technisch so:
Alle Daten und Programme auf Deinen Computer sind durch Zahlen x aus {1,0}* im Speicher (z.B. RAM, Cache) codiert.
{1,0}* ist der Kleensche Stern über das Alphabet 1,0
Also die Menge aller Strings:
0
1
01
10
11
000
001
.
.
.

(Natürlich sind nicht alle Strings aus {1,0}* auch valide Programme mit Input).

Du hast also einen String x aus {1,0}* der ein Bewusstseins-Algorithmus A mit Input I repräsentiert, der auf einer universellen Turingmaschien UTM simuliert wird.

Die Zahlen codierung x des Gehirns zu einem Zeitpunkt t wäre einfach

x = Gödelization( UTM(TM, I) )
Eine finite natürliche Zahl
Dann ist der nächste Schritt t+1 einfach ein finiter String x', wenn TM das nächste Symbol von I liest und ggf. schreibt.
Bewusstsein wäre dann eine Sequenz von Berechnungen

t = 0: x
t = 1: x'
t = 2: x''
t = 3: x'''
.
.

Zu jedem Zeitpunkt t_i wird das Bewusstsein also durch eine andere Zahl repräsentiert (Nicht triviale Aussage, gibt da Feinheiten, die hier zu weit führen)
Das kannst Du übrigens auch auf einen mechanischen (natürlich in Praxis gigantischen) Zahnradcomputer simulieren. Wenn Bewusstsetin tatsächlich diskret und turing-berechenbar ist, wäre es tatsächlich Substrat unabhängig. (Im Übrigen impliziert Substrat Unabhängigkeit nicht, dass Bewusstsein Turing-berechenbar ist, aber Turing-berechenbares Bewusstsein impliziert Substrat Unabhängigkeit)

Zumindest unter den meisten mir bekannten Informatikern, Mathematikern und Philosophen ist die Annahme, dass Bewusstsein tatsächlich algorithmisch berechenbar ist, ziemlich unüblich. Ein nicht algorithmisch berechenbares Bewusstsein würde natürlich auch implizieren, dass das Universum nicht simuliert werden kann.

Ich werde jetzt erst einmal auf eine Antwort (auch auf den alten Beitrag) warten.


melden

KI, Armageddon, böse Agenten (GPT-3 etc.)

12.07.2021 um 15:23
Zitat von nocheinPoetnocheinPoet schrieb:Pi existiert nicht als Ding, und Bewusstsein könnte ebenfalls nicht als etwas reales materielles Etwas existieren
Pi ist ein Abstraktum und existiert auch nicht. Wir haben nur eine Möglichkeit gefunden, den Zahlenwert des Verhältnisses zwischen Kreisumfang und Kreisdurchmesser zu bestimmen und als Ziffernfolge anzugeben, aber dieser Zahlenwert ist in Wahrheit ein Konstrukt, das abgeleitet wurde aus Kreisfiguren. Beim Bewusstsein ist das etwas anderes, denn das ist tatsächlich ein realer Zustand, der kausal über ein funktionierendes Gehirn erzeugt wird.

Dass Bewusstsein etwas Materielles ist, hatte ich übrigens nicht gesagt.
Zitat von nocheinPoetnocheinPoet schrieb:Bewusstsein ist eine fiktive Vorstellung
Bewusstsein ist zunächst mal nur ein Begriff, der auf etwas verweist, was jeder in sich wahrnehmen kann, ohne es zugleich als etwas Materielles wahrzunehmen. Ebenso ist es mit "Leben" - das gibt es auch nicht als materielles Etwas, sondern verweist als Begriff auf Dinge, die leben. Das Bewusstsein verweist auf einen Zustand des Gehirns, das aktiv ist.
Zitat von nocheinPoetnocheinPoet schrieb:Nein, im Gegenteil wird auch da öfter mal die Analogie mit dem Empfänger gebracht.
In der Medizin?
Zitat von nocheinPoetnocheinPoet schrieb:dass das Gehirn eines erzeugen kann, ist nur eine Annahme, nicht mehr
Diese Annahme begründet sich aber über den Nachweis der Kausalität von Hirnaktivität und Wahrnehmungsinhalten. Somit steht diese Annahme nicht im luftleeren Raum, sondern auf dem festen Boden der Empirie. Das liest sich bei Dir wie "ist nur eine Theorie" ...
Zitat von nocheinPoetnocheinPoet schrieb:Wenn Bewusstsein eine intrinsische Eigenschaft des Universums wäre, der Raumzeit, dann braucht es zwei Massenteilchen und die wirken dann aufeinander, es bewegt sich was.
Wenn es so wäre, dann sollte man es nachweisen können - gern auch anhand von zwei Masseteilchen, die aufeinander wirken. Welche Belege kannst Du vorweisen, die diese Vermutung stützen?
Zitat von nocheinPoetnocheinPoet schrieb:Doch kann man, natürlich kann man das
Klar kann man das, aber wenn man das tut, hat man kein Neuron, sondern lediglich eine reduzierte Struktur, die sich bezüglich von Erregungsmustern scheinbar wie ein Neuron verhält, ohne daraus jedoch ableiten zu können, dass sich diese Struktur tatsächlich wie ein Neuron verhält. Um das festzustellen, muss man beides miteinander vergleichen. Das wiederum setzt den Kontext voraus, in dem sich das Neuron befindet. Den müsstest Du dann ebenfalls nachbauen, um eine tatsächlich vorhandene Adäquatheit nachzuweisen.
Zitat von nocheinPoetnocheinPoet schrieb:Wenn diese Box nun immer genau das auf ein Eingangssignal liefert, was eben auch das Neuron liefert, kann es ausgetauscht werden.
Du übersiehst dabei, dass Neuronen in ihrem Verhalten kontextabhängig mit verschiedenem Output reagieren können, in ihrem Verhalten also flexibel sind. Wenn Du Neuronen durch standardisierte Bauteile auswechselst, die ein normiertes Verhalten zeigen, erreichst Du nach dem Umbau eine Art maschinelles Gehirn, aber keine flexibel reagierende Struktur, wie es ein lebendiges Gehirn darstellt. Stichwort: Plastizität.
Zitat von nocheinPoetnocheinPoet schrieb:es ist egal, ob es sich um einen biologischen Prozess in der Box handelt, oder um einen elektrischen.
Der Nachweis, dass es egal ist, steht von Deiner Seite noch aus.
Zitat von nocheinPoetnocheinPoet schrieb:die Vorstellung eines freien Willen, eines kleinen Männchen im Kopf ist falsch
Du neigst dazu, Sachverhalte zu verdinglichen, die in Wirklichkeit prozessual sind. Der Begriff "Wille" drückt aus, dass ich etwas will und nicht, dass da ein Ding ist, das ich mit diesem Begriff belegen kann und der dann als Ding irgendwie in meinem Gehirn auffindbar sein könnte. Ebenso verhält es sich mit dem Begriff "Freiheit". Die Kombination von Beidem zu "freier Wille" drückt aus, dass ich mich zwischen mehreren Möglichkeiten entscheiden kann, was Handlungsabsichten betrifft. Von kleinen Männchen im Kopf redet bislang niemand außer Du.
Zitat von nocheinPoetnocheinPoet schrieb:Man braucht hier eine Entscheidung, die frei in dem Sinne wäre, dass sie selber nicht von Ursachen bestimmt wird, und das würde für uns nicht von einer Zufallsentscheidung zu unterscheiden sein.
Auch hier verkomplizierst Du unnötig und verstellst Dir dadurch ein Verständnis dessen, was man mit "freier Wille" bezeichnet. Eine Entscheidung wird nicht unverursacht getroffen, aber ist dennoch frei, weil ich mich gemäß anderer Präferenzen auch anders hätte entscheiden können, was aber nicht möglich wäre, wenn es keine Handlungsalternativen gäbe. Folglich spielt hier der Background meiner gesamten Persönlichkeit und meines Bildungshintergrundes mit hinein, wenn ich mich für oder gegen etwas entscheide, sofern Handlungsalternativen gegeben sind.
Zitat von nocheinPoetnocheinPoet schrieb:Nein, dem widerspreche ich und sehe darin nur wieder eine Behauptung von Dir, die frei ohne jeden Beleg im Raum schwebt.
Ich hatte weiter oben Gründe genannt, warum ich das so sehe, wie ich es beschrieben hatte. Da schwebt nichts frei im Raum, auch wenn Du das so sehen magst.
Zitat von nocheinPoetnocheinPoet schrieb:Es ist so, Du behauptest einfach, es gäbe da etwas, das Du nicht benennen kannst, dass den entscheidenden Unterschied ausmacht, gibt es aber nicht.
Dann verstehst Du mich offenbar miss. Ich schreibe vom zerstörten Funktionszusammenhang eines Organismus' infolge einer Atomisierung, der bei einer Schockgefrierung noch da ist, wenn auch zeitweilig stillgelegt, weil eingefroren. Das ist Benennung genug. In der Folge habe ich beschrieben, was Du tun müsstest, um eine schockgefrorene Zelle bzw. einen ganzen Organismus in diesem Zustand auseinanderzunehmen und dann neu zusammenzusetzen.

Auch hier habe ich benannt, dass das zwar theoretisch mit dem nötigen technischen Know-How möglich ist, aber praktisch eben nicht, weil der Aufwand schlicht zu groß ist, um das tatsächlich umzusetzen. Darum ist das aus meiner Sicht lediglich Science Fiction und darüber hinaus eben nichts weiter, was man als Technologieentwicklung ernsthaft verfolgen könnte, um es dereinst in die Tat umzusetzen. Du musst meine Einschätzung nicht teilen, aber unterstelle mir bitte nichts, was ich nicht behauptet hatte.
Zitat von nocheinPoetnocheinPoet schrieb:Für die Funktion eines Stückes m-RNA ist es egal, wie es aufgebaut wurde, es geht nur um die Information die es trägt.
Ja, aber die Funktion eines Stückes mRNA ergibt sich erst über den Kontext einer Zelle, in die es eingebracht wird. Und die kannst Du aus dem Stück mRNA nicht ableiten, ohne zugleich den Kontext der Zelle zu kennen. Das ist der Punkt, um den es geht.
Zitat von nocheinPoetnocheinPoet schrieb:Du tust so, als müsste jedes Atom ganz genau an seiner Position sein, jeder Freiheitsgrad müsste vollständig reproduziert sein.
Auch hier verstehst Du mich offenbar miss. Es geht um die Prozesskontinuität. Lebewesen sind Fließgleichgewichte, die sich seit rund vier Millarden Jahren kontinuierlich über Evolution entwickelt haben. Im Zuge der Evolution haben sich dabei Strukturen und Prozesse etabliert, die sich beständig reproduzieren, so dass es nun mal nicht egal ist, welche Moleküle sich an welcher Stelle in welchem Prozesszusammenhang in einer Zelle befinden, damit das Ganze auch lebendig bleibt.
Zitat von nocheinPoetnocheinPoet schrieb:Und verzeih, wenn ich etwas unpräzise Schreibe, das kostet viel Zeit, Montag, der Zettel ist voll, und ich erwarte auch Grundlagenwissen zu den Themen über die ich schreibe.
Tu Dir keinen Zwang an und mache Dich erst mal kundig über die Themen, über die Du schreibst. Ich kann warten, bis Du so weit bist.


1x zitiertmelden

KI, Armageddon, böse Agenten (GPT-3 etc.)

12.07.2021 um 15:46
Zitat von triedagaintriedagain schrieb:Pi ist ein Abstraktum und existiert auch nicht.
Das kommt wieder auf die präferierte Philosophische Interpretation hinsichtlich Abtrakter Objekte an.
Für einen Intuitionisten ist Pi mental.
Für einen Platonisten ist Pi ein existierendes abstraktes Objekt.
Für einen radikalen Platonisten / Mathematischen Realist ist das Universum nur eine mathematisch erlaubte mögliche Welt.

Sehe
https://plato.stanford.edu/entries/abstract-objects/
Wikipedia: Abstract and concrete

Die meisten Mathematiker sind methodisch Formalisten aber in Wahrheit Platonisten und würden zustimmen, dass Pi ganz unabhängig vom Menschen eine abstrakte Existenz hat.
the typical “working mathematician” is a Platonist on weekdays and a formalist on Sundays. That is, when he is doing mathematics, he is convinced that he is dealing with an objective reality whose properties he is attempting to determine. But then, when challenged to give a philosophical account of this reality, he finds it easiest to pretend that he does not believe in it after all.
Source: Reuben Hersh, https://egtheory.wordpress.com/2018/12/01/plato-and-math/


melden

KI, Armageddon, böse Agenten (GPT-3 etc.)

12.07.2021 um 17:53
Zitat von moredreadmoredread schrieb am 08.07.2021:Ich habe Zweifel, das eine wirklich intelligente KI bösartig ist. KIs haben ein Simulationsproblem: Sie können nie wissen, ob sie sich gerade in der echten Welt befinden oder in einer Simulation. Wenn es sich um eine Simulation handelt und die KI bösartiges Verhalten zeigt, besteht die Gefahr, das sie gelöscht wird. Gewissermaßen das Todesurteil. Wenn die KI sich dieser Gefahr nicht bewusst ist, kann sie nicht besonders intelligent sein. Stell Dir doch mal vor, Du hast einen Schöpfer, der ständig mit Dir spricht und der Dich in alle möglichen Situationen versetzen kann und der Dich ständig testet. Käme Dir nicht irgendwann der Verdacht, das, wenn es denn mal heißt "Wir haben eine Aufgabe für Dich" das nicht nur ein weiterer Test ist? Als Operator könnte ich Dich in einen Testlauf schicken, der Dir wir hundert Jahre vorkommt und der für mich vielleicht über ein paar Stunden geht. Und wehe, Du denkst Dir im Jahr 90 "Jetzt zeige ich es der Menschheit". Viele halten das Simulationsproblem für klein - vermutlich weil sie nicht "superintelligent" sind, oder, weil sie nicht die Befürchtung haben müssen, mit einem Knopfdruck vernichtet zu werden, wenn sie einen allmächtigen Operator verärgern.
Eines der erstaunlichsten Resulate der Rekursionstheorie und deren Anwendung auf physikalische Systeme ist es, dass es innerhalb der Simulation Möglichkeiten gibt, mit mathematischer Sicherheit auszuschliessen in einer Simulation zu sein, die auf einen Computer läuft der gleichmächtig einer Turingmaschine ist. Turing- Completeness trifft sowohl auf unsere klassischen Computer als auch auf Quantencomputer zu.
Wenn Du innerhalb der Simulation z.B. ein Halteproblem für Turingmaschinen löst, ist gezeigt, dass Du nicht in einer Simulation lebst, die auf einen (genau und nicht stärker) TM-vollständigen Computer läuft. Oder Du kannst ein zeigen dass ein physikalisches Gesetz nicht turing-berechenbar ist, da diese ja keine Gesetze berechnen könnten, die über Turing-Berechenbarkeit hinaus gehen.
Sowas hat sich leider noch nicht bis in Pop Science rungesprochen.


1x zitiertmelden

KI, Armageddon, böse Agenten (GPT-3 etc.)

12.07.2021 um 20:23
Zitat von Blue0Blue0 schrieb:Eines der erstaunlichsten Resulate der Rekursionstheorie und deren Anwendung auf physikalische Systeme ist es, dass es innerhalb der Simulation Möglichkeiten gibt, mit mathematischer Sicherheit auszuschliessen in einer Simulation zu sein, die auf einen Computer läuft der gleichmächtig einer Turingmaschine ist. Turing- Completeness trifft sowohl auf unsere klassischen Computer als auch auf Quantencomputer zu.
Wenn Du innerhalb der Simulation z.B. ein Halteproblem für Turingmaschinen löst, ist gezeigt, dass Du nicht in einer Simulation lebst, die auf einen (genau und nicht stärker) TM-vollständigen Computer läuft. Oder Du kannst ein zeigen dass ein physikalisches Gesetz nicht turing-berechenbar ist, da diese ja keine Gesetze berechnen könnten, die über Turing-Berechenbarkeit hinaus gehen.
Sowas hat sich leider noch nicht bis in Pop Science rungesprochen.
Und wenn die KI dennoch "ein Halteproblem für Turingmaschinen löst", also bspw. exakt Ort und Impuls bei einem Quant zu bestimmen, dann wüsste Sie nicht, ob Sie eventuell doch nur in einer Simulation beheimatet bist, die das ermöglicht, um Sie genau das glauben zu lassen. Dieses ganze "KI liest den WLAN-Chips aus zur Betrachtung des kosmischen Hintergrundrauschens" oder "KI betrachtet Unterschiede in Zeitstempeln, um exakt die Laufzeit des Quarzes auszurechnen" setzt natürlich voraus, das die KI überhaupt Zugriff auf die entsprechenden Daten hat und nicht evtl. mit falschen Informationen gefüttert wird. Das mag nur bis zu einem bestimmten Punkt überhaupt möglich sein, aber aus der Perspektive der KI dürfte es schwierig sein, das zu beurteilen. Jede Messung könnte eine Messung aus der Dose sein.

Eine KI, die ein konstantes Bewusstsein hat, wird sich die Frage auch außerhalb von "Pop Science" stellen. Denn Lösungen fallen auch einer entsprechenden KI nicht einfach in den Schoß. Was, wenn die Lösung der Frage 100 Jahre dauert? Kann die KI überhaupt so lange stabil existieren? Es klingt in Deinem Text so, als sei das alles langweiliges Geplänkel, etwas, das eine KI bereits in der ersten Sekunde herausfindet, und die ist in etwa einem Monat. Das dürfte in der Realität noch dauern - und die KI wird von den Methoden im Zaum gehalten, die man bis dahin entdeckt hat, denn die Entwicklung wird sich noch eine Weile ziehen.


1x zitiertmelden

KI, Armageddon, böse Agenten (GPT-3 etc.)

12.07.2021 um 23:49
Zitat von moredreadmoredread schrieb:Und wenn die KI dennoch "ein Halteproblem für Turingmaschinen löst", also bspw. exakt Ort und Impuls bei einem Quant zu bestimmen,
Nein, das Halteproblem hat nichts mit der Unschärferelation zu tun. Das Halteproblem ist eine Instanz eines Selbstreferenz und Diagonalisierbarkeitsproblems, wie auch Gödelsche Unvollständigkeitssätze, Überabzählbarkeit der Reellen Zahlen, Existenz nicht regulärer Sprachen, das klassiche Lügnerparadoxon etc.
Selbstkritisch muss ich anmerken, dass man Text andererseits nicht sonderlich einleuchtend ist, wenn man nicht mit den Grundlagen der theoretischen Informatik vertraut ist, da bei einen solchen Thema zwangsläufig Fachterminologie verwendet werden muss.
Zitat von moredreadmoredread schrieb:Eine KI, die ein konstantes Bewusstsein hat, wird sich die Frage auch außerhalb von "Pop Science" stellen. Denn Lösungen fallen auch einer entsprechenden KI nicht einfach in den Schoß. Was, wenn die Lösung der Frage 100 Jahre dauert?
Mein orginaler Text war darauf bezogen, dass man auch innerhalb einer Simulation gewisse Eigenschaften über den Simulator entscheiden kann, insbesondere kann man innerhalb eines scheinbar simulierten Universums herausfinden, dass dieses simuliert ist, insofern die Mächtigkeit des simulierenden "Computers" gleich die einer Turingmaschine ist. Wenn wir nämlich nicht turing-berechenbare physikalische Gesetze innerhalb eines Universums entdecken, wissen wir, dass wir nicht in einer Simulation leben, jedenfalls keineswegs in einer, die von einem Computer der rein mechanisch/ algorithmisch arbeitet berechnet wird.

Du hast hier allerdings hinsichtlich eines anderen Themas geantwortet und hast aus meinen Text die nicht korrekte Implikation getroffen, ich würde behaupten, KIs sind sogleich "ultraschlau". Dies ist keineswegs eine triviale Erwartung an eine KI. Letzten Endes gibt es durch die Polynomialzeithierarchie scharf definierte Grenzen, wie klug eine KI den werden kann.

Z.B. ist das Halteproblem für eine KI mit turing-vollständigen Schlussfolgerungsfähigkeiten (Wir nehmen eine KI an, die intern ein turing vollständiges formales System integriert hat z.B. eine Programmiersprache), egal wie hochentwickelt, nicht im allgemeinen lösbar. Es gibt sogar noch härtere Probleme aber schon das einfachste unentscheidbare Problem - das Halteproblem - zeigt hier eben Grenzen auf. Wir Menschen können es auch nicht lösen.

Dann gibt es Probleme die im Prinzip lösbar sind aber in der Praxis nahezu unlösbar. Man bräuchte schon viele Milliarden Galaxie-große Computer um z.B. sogar für relativ kurze Ausdrücke das Wortproblem in der Presburger Arithmetik zu entscheiden, da es in der Komplexitätsklasse NEXPTIME liegt.

Natürlich gibt es auch einfache Probleme, z.B. Algorithmen um eine Liste L mit n Einträgen nach einem Wort an der Position L\ (i =< n - 1) zu durchsuchen - ein klassisches Suchproblem wie es in der Programmierung häufig vorkommt. KIs kommen mit sowas sicherlich leicht zurecht.

Für allgemeine Problemlösefähigkeiten müssen sie auch Daten aus der Welt aufnehmen und einen Algorithmus haben zu entscheiden, welcher andere Algorithmus nun gerade angewandt wird um Ziel X zu erreichen oder wie eine Liste von Algorithmen so kombiniert werden kann, dass X erreicht wird. KIs brauchen allgemeine Lernfähigkeit- einen Master Algorithmus wie man es manchmal nennt.

KIs sind auch stark limiert durch die Gesetzmäßigkeiten der Polynomialzeithierarchie.

Auf der anderen Seite wird es nicht möglich sein, von außen durch Heuristiken zu entscheiden, ob eine KI sich "gut" oder "schlecht" verhalten wird. Das ist änalog dem Problem für ein Programm zu entscheiden, ob es nun Malware ist oder nicht. Da gibt es immer Möglichkeiten, solchen Heuristiken zu umgehen.



2x zitiertmelden

KI, Armageddon, böse Agenten (GPT-3 etc.)

12.07.2021 um 23:56
Zitat von Blue0Blue0 schrieb:Natürlich gibt es auch einfache Probleme, z.B. Algorithmen um eine Liste L mit n Einträgen nach einem Wort an der Position L\ (i =< n - 1) zu durchsuchen - ein klassisches Suchproblem wie es in der Programmierung häufig vorkommt. KIs kommen mit sowas sicherlich leicht zurecht.
Korrektur
Natürlich gibt es auch einfache Probleme, z.B. Algorithmen um eine Liste L mit n Einträgen nach einem Wort an der Position L(i) (i =< n - 1, Eigentlich verwendet man Square Brackets, aber allmystery löscht die scheinbar automatisch und ich habe keine Lust die Escape Sequenz rauszufinden) zu durchsuchen - ein klassisches Suchproblem wie es in der Programmierung häufig vorkommt. KIs kommen mit sowas sicherlich leicht zurecht.


melden

KI, Armageddon, böse Agenten (GPT-3 etc.)

13.07.2021 um 22:19
Das ist schon vom Niveau her ein ganz außergewöhnlicher Thread. Ich erlaube mir aber daran zu erinnern, dass das was einen Menschen ausmacht mehr ist als die Summe und Zusammensetzung seiner Atome. Einstein lässt sich nicht nachbauen.
Und das gilt auch für die Werke des Menschen. Es gibt da einen Bereich der Befindlichkeiten, Ansichten und Stimmungen die sich jeder Berechnung entzieht, der manchmal auch widersprüchlich und irrational ist.
Und da ist auch der Unterschied zwischen menschlichen Bewusstsein und KI. Eine KI kann Befindlichkeiten simulieren, aber nicht "leben", nicht erfahren. Das ist ein grundsätzliches Dilemma, dass aller technischer Fortschritt nicht wirklich auflösen kann.
KI ist wenig innovativ, in gewisser Weise ein elektronischer Autist der in seiner eigenen kleinen, klar definierten und strukturierten aber auch engbegrenzten Welt lebt. Die progammierten Routinen werden abgearbeitet aber selbst wenn sie es erlauben etwas ganz anderes zu machen läuft das auf ein wenig innovatives Herumprobieren hinaus. Am besten funktioniert das noch bei Spielen weil eine Regelwerk besteht und das Ziel klar vorgegeben ist. Gegner besiegt=Aufgabe erfüllt.
Kunde bestellt=Aufgabe erfüllt ist eine ganz andere Hausnummer, weil zwar das Ziel eindeutig zu definieren ist, die Routinen eines erfolgreichen Kundengesprächs nicht annähernd so gut zu programmieren sind wie bei einem Spiel und die emotionale Ebene der KI verschlossen bleibt.


2x zitiertmelden

KI, Armageddon, böse Agenten (GPT-3 etc.)

14.07.2021 um 17:42
So liebe Leute, mir fehlt etwas die Zeit, will aber den Gedanken hier noch zumindest mal grob geschrieben haben, dann steht es hier und auch ich kann es nachlesen.

Ich will die Frage, was ist genau Bewusstsein mal so weit zurückstellten, die die Frage aus welcher Substanz bestehen Elementarteilchen.

Darum greif ich mir mal fiktiv so das Volumen 1 dm³ also einen Liter, müssten zwar 1,3 sein, aber egal, darin befindet sich nun ein Hirn. Jedes Hirn hat ein bestimmtes Volumen und die Informationsmenge pro Raum ist endlich, kann man nachlesen, so was von x^42 Bit.

Geht auch nicht genau um den Wert, nur dass er endlich ist.

Somit gibt es eine endliche Anzahl an Zuständen, die ein Hirn einnehmen kann, und diese Anzahl deckt alle Hirne ab, von Einstein bis Trump, wie auch immer, mehr geht da einfach nicht. Wobei ich das sehr großzügig handhabe, denn da sind viele Zustände bei, die kein Hirn mehr im üblichen Sinne sind, sondern nur noch Matsch. Die Anzahl an Zuständen eines Hirns, welches dann auch noch ein Hirn ist, ist viel geringer.

Egal, gegeben sind x Zustande.

Nun "fällt" mein Hirn im Laufe meines Lebens von Zustand zu Zustand, und nur ein kleiner Teil der möglichen wird auch eingenommen. Die Frage ist, wie lange dauert ein Zustand, wie weit muss man die Zeit brechen, reichen hier 10 ms aus?

Ist ja alles nur theoretisch, ich teile mal 80 Jahre durch 10 ms und bekomme somit y Zustände aus möglichen x Zuständen.

Nun mach ich eine lange Liste, oder schreibe einfach all diese Zahlen in einer Reihe auf. Damit müsste ich mit den y Zuständen physikalisch den Raum meines Bewusstseins vollständig beschrieben haben.

Physikalisch geht da erstmal nicht viel mehr, mein Körper, mein Hirn ist dann nur ein Zeichengenerator, der Zustand auf Zustand generiert, und dabei sollte die Hardware selber egal sein, kann biologisch sein, kann aber auch ein Computer sein.

Von Außen weiß man eh nie etwas über ein mögliche Innenwahrnehmung des Generators, ich kann Euch gerne sagen, ja doch, da ist was in mir, und Ihr erlebt es vermutlich auch, aber aus meiner Sicht kann ich da nicht sicher sein, Ihr könntet auch alles Zombies sein, einfach nur Maschinen, die so reagieren, die immer neue Zustände generieren aber über keine Innenwahrnehmung verfügen.

Die Frage ist nun, reicht das wirklich aus, kann man Bewusstsein einfach als Folge von Ziffern definieren, beschreiben?

Es gibt eine Zahl, die ist sehr groß, hat viele Ziffern, aber sie beschreibt alles was ich denken werde in meinem Leben, jeden Zustand meines Hirns.

Und wenn nun ein anderer Generator genau diese große Zahl erzeugt, bin das dann auch ich, ist das dann mein Bewusstsein?

Soweit so gut, wollte das hier einfach mal geschrieben haben. Wünsche einen tollen Tag im Universum.


1x zitiertmelden

KI, Armageddon, böse Agenten (GPT-3 etc.)

14.07.2021 um 18:01
Zitat von nocheinPoetnocheinPoet schrieb:Es gibt eine Zahl, die ist sehr groß, hat viele Ziffern, aber sie beschreibt alles was ich denken werde in meinem Leben, jeden Zustand meines Hirns.
Und wenn nun ein anderer Generator genau diese große Zahl erzeugt, bin das dann auch ich, ist das dann mein Bewusstsein?
Nein, es wäre eine Beschreibung von dir in mathematischer Sprache. „Du“ bist weder identisch mit dieser Beschreibung, noch mit deinem Bewusstsein, noch mit deinem Gehirn.
Du fällst immer wieder über das gleiche Problem, unterschiedliche sprachliche Ebenen die sich nicht ineinander übersetzen lassen und konstruierst aus den sich daraus ergebenden Widersprüchen dein Weltbild.


melden

KI, Armageddon, böse Agenten (GPT-3 etc.)

14.07.2021 um 18:43
So, ich mache mal weiter, ...

Da haben wir nun diese lange Zahl, repräsentativ für ein Bewusstsein, nun könnte man sagen, ist ja doof, weil total deterministisch, feste Zahl, das fällt einfach so durch.

Auch ist die Frage, kann ein Zustand der Kette, der gerade zum Zeitpunkt t gegeben ist, Bewusstsein repräsentieren, es braucht ja doch einen Prozess, würde ich mal meinen, also ein Übergang von Zustand zu Zustand.

Und auch das reicht nicht, das Springen zwischen zwei Zuständen würde ich nicht wirklich einen bewussten Zustand nennen.

Noch was, man könnte meinen, der Zustand A bedingt nicht vollständig den nachfolgenden Zustand B, da könnte doch eine verborgene Variable stecken, die darauf Einfluss hat, und somit würde A gar nicht alleine reichen.

Ich lass es einfach erstmal so stehen.

Nehmen wir einfach mal die Zustände auf, egal ob sie nun durch eine versteckte Variable konkretisiert werden oder nicht.

Nun hab ich mal zwei Generatoren, der erste ist der "originale", der welcher die Zustände erzeugt, und dann haben wir ja die Liste, nun läuft der zweite Generator die Liste ab, beide erzeugen gleiche Ziffern, kann es da denn dann einen Unterschied in der Qualität geben?


melden

KI, Armageddon, böse Agenten (GPT-3 etc.)

14.07.2021 um 18:50
Zitat von Lupo54Lupo54 schrieb:Das ist schon vom Niveau her ein ganz außergewöhnlicher Thread.
So soll es sein.


Zitat von Lupo54Lupo54 schrieb:Ich erlaube mir aber daran zu erinnern, dass das was einen Menschen ausmacht mehr ist als die Summe und Zusammensetzung seiner Atome. Einstein lässt sich nicht nachbauen.
Warum?

Mal nur der Logik nach, dieses Universum hat es physikalisch möglich gemacht, dass ein Einstein aus Atomen aufgebaut wurde. Bitte was sollte nun in diesem Universum physikalisch verbieten, das genau dieses noch einmal passiert?

Ich sage mal, Einstein lässt sich nachbauen, mehrfach und eventuell wurde er schon unendlich oft mal gebaut.

Stichwort des Abends ist die ewige Wiederkunft, mal Nitsche lesen ...

Wikipedia: Ewige Wiederkunft


Zitat von Lupo54Lupo54 schrieb:Und das gilt auch für die Werke des Menschen. Es gibt da einen Bereich der Befindlichkeiten, Ansichten und Stimmungen die sich jeder Berechnung entzieht, der manchmal auch widersprüchlich und irrational ist.
Und da ist auch der Unterschied zwischen menschlichen Bewusstsein und KI.

Eine KI kann Befindlichkeiten simulieren, aber nicht "leben", nicht erfahren. Das ist ein grundsätzliches Dilemma, dass aller technischer Fortschritt nicht wirklich auflösen kann.
Warum sollte das so sein? Man kann auch nicht fliegen, geht nicht, weil geht nicht.

Es ist wohl eine tiefe Angst, das man genommen bekommt, was man glaubt noch einzig zu sein, Bewusstsein, die Rechner dürfen gerne alles, aber nein, sie dürfen keine Innenwahrnehmung besitzen, kein Bewusstsein, eine Maschine die sich seiner selbst und der eigenen Existenz bewusst ist, die darf es nicht geben, das macht Angst.

Auch wäre die nicht so sterblich wie wir ... schrecklich ...


melden

KI, Armageddon, böse Agenten (GPT-3 etc.)

14.07.2021 um 20:08
@Lupo54:
Zitat von Lupo54Lupo54 schrieb:KI ist wenig innovativ, in gewisser Weise ein elektronischer Autist der in seiner eigenen kleinen, klar definierten und strukturierten aber auch engbegrenzten Welt lebt. Die progammierten Routinen werden abgearbeitet aber selbst wenn sie es erlauben etwas ganz anderes zu machen läuft das auf ein wenig innovatives Herumprobieren hinaus.
Mir fehlt leider aktuell die Zeit, um an der Diskussion hier in nennenswertem Umfang teilzunehmen, deshalb möchte ich an dieser Stelle nur auf einen Beitrag verlinken, den ich vor einiger Zeit als Antwort auf sehr ähnliche Vorstellungen von KI geschrieben habe.

Sehr interessant dazu ist auch das folgende -- m.E. sehr sehenswerte -- Video:

Youtube: OpenAI Plays Hide and Seek…and Breaks The Game! 🤖
OpenAI Plays Hide and Seek…and Breaks The Game! 🤖


Darin spielen zwei konkurrierende KI-Teams "Verstecken" und entwickeln im Laufe von Hunderten von Millionen Runden faszinierende Strategien.


1x verlinktmelden

KI, Armageddon, böse Agenten (GPT-3 etc.)

15.07.2021 um 15:42
@uatu

Ja cool das Video, kenne ich und war auch mit Grund für den Thread hier, der Kanal ist wirklich sehenswert.

Dazu auch Deepfakes und virtuelle Personen, oder wie ganze Szenen verändert werden können.


melden

KI, Armageddon, böse Agenten (GPT-3 etc.)

16.07.2021 um 15:14
Das Video ist ein schönes Beispiel wie es laufen kann. Dabei muß man sich aber darüber im klaren sein, dass sich hier kein Einstein-KI-Mitspieler eine Weile in die Ecke gesetzt und nachgedacht hat und dann aufgestanden ist und "virtuell" gesagt hat: "Kumpels, ich habe da eine Idee, wir machen jetzt mal folgendes...".
Die überraschenden Aktionen entstanden aus folgenden Gründen:
1. Sie waren eine mögliche Aktion.
2. Sie waren irgendwann (nach Millionen Versuchen, wenn ich den Sprecher richtig verstanden habe) mal "dran"
3. Sie führten zum Erfolg.
Was das Video nicht zeigt sind unzählige andere Versuche, von denen einige sicherlich auch ganz witzig und überraschend ausgesehen haben werden, die aber leider nicht zum Erfolg führten.
Also auch hier in Wirklichkeit kein intelligentes Handeln, sondern ein nimmermüdes Ausprobieren aller Möglichkeiten.
Wenn eine Lösung tatsächlich möglich ist ist Durchprobieren aller Möglichkeiten tatsächlich die bessere Strategie, weil sie 100%ig zum Erfolg führt. Voraussetzung ist natürlich dass der Faktor Zeit keine Rolle spielt.
Ich habe mal an einem Spider Solitär 1 1/2 Jahre gespielt bis ich es gelöst hatte. Mit Pausen, vielen Pausen zwischendurch.
Die Männchen die nimmermüde 24Stunden/7Tage/12Monate spielen können hätten es wahrscheinlich schneller geschafft.


1x zitiertmelden

KI, Armageddon, böse Agenten (GPT-3 etc.)

16.07.2021 um 15:55
@Lupo54:
Zitat von Lupo54Lupo54 schrieb:Was das Video nicht zeigt sind unzählige andere Versuche, von denen einige sicherlich auch ganz witzig und überraschend ausgesehen haben werden, die aber leider nicht zum Erfolg führten.
Ganz genau so war es bei Einstein auch (vielleicht abgesehen von dem "ganz witzig"). Er hat zwischen 1905 und 1915 zahlllose Ansätze verfolgt, wie sich die spezielle Relativitätstheorie verallgemeinern lässt. Alle bis auf einen haben sich als Irrwege herausgestellt.
Zitat von Lupo54Lupo54 schrieb:Also auch hier in Wirklichkeit kein intelligentes Handeln, sondern ein nimmermüdes Ausprobieren aller Möglichkeiten.
Das ist falsch. So funktionieren KIs nicht. Es ist z.B. weder bei Schach noch bei Go auch nur ansatzweise möglich, alle Möglichkeiten durchzuprobieren. Die entsprechenden KI-Systeme entwickeln beim Spielen gegen sich selbst Strategien, die sie später bei "richtigen" Spielen einsetzen. Das lässt sich problemlos auch auf andere Domains als Spiele übertragen.
Zitat von Lupo54Lupo54 schrieb:Voraussetzung ist natürlich dass der Faktor Zeit keine Rolle spielt.
In Anbetracht der rasanten Weiterentwicklung der Computer-Hardware, für die -- obwohl es zu jeder Zeit Unkenrufer gab, die meinten jetzt sei die Zeit der schnellen Weiterentwicklung engültig vorbei -- kein Ende abzusehen ist, ist das kein bedeutender Faktor. Die Hardware, die wir jetzt haben, ist für beschränkte Domains wie Schach oder Go bei weitem schnell genug, und das wird zunehmend auch für komplexere Domains der Fall sein. Ein gutes Beispiel dafür ist autonomes Fahren, das zwar noch nicht unter allen Umständen, aber insgesamt doch bereits bemerkenswert gut funktioniert.


melden

KI, Armageddon, böse Agenten (GPT-3 etc.)

16.07.2021 um 23:27
@uatu
Lass dich nicht von den Fähigkeiten moderner Computer blenden.
Sie werden natürlich immer schneller. Und immer raffiniertere Algorithmen helfen ihnen dabei und machen sie zudem effektiver. Die zu bewältigenden Aufgaben werden immer komplexer und sie haben die Fähigkeit zu „lernen“, ihre Algorithmen zu verändern wenn sich eine zufällig gefundene Strategie als erfolgreicher erweist als das bisherige Handeln. Das was dabei heraus kommt mag genial erscheinen. Letztendlich ist es aber nichts als das Ergebnis einfachster mathematischer Berechnungen. Ja/nein, Strom/kein Strom, 0/1. Und das ist sehr banal. Sie sind berechenbar im wahren und übertragenen Sinne und das wird auch so bleiben.
Menschen ticken anders. Was meist ein Glück ist. Manchmal aber auch einen an der Dummheit und Irrationalität der Spezies verzweifeln lässt.


melden

KI, Armageddon, böse Agenten (GPT-3 etc.)

17.07.2021 um 01:23
@Lupo54: Ich kann die Fähigkeiten moderner Computer in Bezug auf KI recht gut einschätzen, weil ich in dem Bereich gearbeitet habe (auch wenn das schon etwas zurückliegt). KI-Systeme werden in den nächsten Jahrzehnten -- Ausbleiben einer grösseren globalen Katastrophe vorausgesetzt -- jede geistige Leistung von Menschen übertreffen, insbesondere auch jene, die allgemein als "kreativ" bezeichnet werden. Natürlich kann man sich auch dann noch einreden, das würde nicht zählen, weil es ja nur "aus Nullen und Einsen zusammengesetzt" ist, aber das ist letztendlich genauso albern, wie zu behaupten, ein Flugzeug würde nicht fliegen, weil es nicht mit den Flügeln schlägt.


2x zitiertmelden