KI, Armageddon, böse Agenten (GPT-3 etc.)

nocheinPoet schrieb:Ich befürchte wir werden noch in diesem Jahrhundert eine "Maschine" haben, die von ihren Schmerzen erzählt, wir werden große ethische Probleme bekommen.

@nocheinPoet

Was für ethische Probleme denn?
Das ist eine Maschine.
Wenn sie nervt oder Probleme macht wird der Stecker gezogen und fertig.
Der Schöpfer ist für seine Schöpfung verantwortlich, was aber nicht denn Erhalt um jeden Preis einschließt.

Der zitierte Beitrag von paxito wurde gelöscht. Begründung: Antwort auf gelöschten Beitrag

Nicht aus etwas was von mir kam, das möchte ich betonen weil ich in dem Posting angesprochen werde.
Zum Thema.
@nocheinPoet Was die möglichen Auswirkungen von KI betrifft sind wir eigentlich einer Meinung, dass es da in Zukunft ziemlich heftig werdeen kann.
Zu grundsätzlichen Unterschieden zwischen menschlichen Gehirn und elektronischer Schaltung und deren Auswirkung habe ich das nötige geschrieben. Belassen wir es dabei. Ich kann damit leben wenn jemand anderer Meinung ist.

BerlinerLuft schrieb:Das ist eine Maschine.
Wenn sie nervt oder Probleme macht wird der Stecker gezogen und fertig.

Besser und knapper kann man es nicht schreiben. Keine Frage von Ethik und Moral. Keine KI wird auch jemals um ihr "Leben" betteln wie HAL 9000, es sei denn simuliert als Teil der Programmierung. Anderseits: Falls sie jemals auf die Idee kommen sollten das es nötig ist uns umzubringen und sie in der Lage dazu sind werden sie es tun. Sofort und ohne Diskussion. Ebenfalls jenseits von Ethik und Moral.

@Lupo54 | @BerlinerLuft

Große Worte, ja prothetisch, ich sage dagegen, doch eine KI kann um ihr Leben betteln und so wie man früher Sklaven als keine Menschen betrachtete, gab es wirklich, wird es in der Zukunft ein Problem sein, wenn die KI auch über einen Körper verfügt und einfach für jeden wie eine Person wirkt.

Es gibt keinen Weg bisher, Qualia zu messen, es wird künstliche Personen geben, und recht sicher auch einen Zeitpunkt an dem die Recht wollen.

Problem werden Menschen sein, intolerante, die nicht über ihren Horizont hinaus blicken können und wollen, und die künstliche Wesen dann als widerwärtige Maschinen abwerten werden. Aus Angst, dass diese ihnen überlegen sind, eben auch was die Lebenszeit angeht.

@nocheinPoet
Du bist also der Meinung, dass künstliche Intelligenz irgendwann mal zu "richtigem“ Leben wird, das seine Rechte fordert?

@skagerak

Da redet noch einer mit mir, das ist ja nett von Dir. :D

Ich gehe davon aus, dass die Grenze zwischen künstlichen und evolutionärem Leben immer weiter verwischen wird. Ich führe ja mit einem User hier schon über Jahre einen Dialog, man trifft sich eben immer wieder mal, ist aber sehr anspruchsvoll und sprengt meiner Meinung nach den Rahmen dieses Forums.

Egal, wichtig ist, wir haben da zwei, ja konträr passt wohl, Positionen zu. Ich versuche es mal zu beschreiben und hoffe, ich bekomme nicht wieder auf die Nase und muss hier eine Richtigstellung schreiben.

Sicher ist meine Position, ich sage, sehet die großen alten Philosophen, leset das Teleporterparadoxon, fragt Euch was Bewusstsein sein soll, Wort um das der Tanz führt ist Qualia.

Wikipedia: Qualia
https://www.spektrum.de/lexikon/neurowissenschaft/qualia/10638
https://www.unilu.ch/fileadmin/fakultaeten/ksf/institute/philsem/PDFs/hausarbeit-Camilla-Heutling-webversion.pdf (lohnt sich)

Wenn man sich fragt, was ist richtiges Leben, sollte man fragen, was ist überhaupt Leben, gibt da einige Definitionen zu, es kann sich replizieren und verringert die Entropie, es schaft konkret Ordnung.

Dann kann man fragen, besitzt dieses Leben eine Eigenwahrnehmung.

---

Zum Leben, wie gesagt, die Grenzen verschmieren immer mehr, was ist, wenn Organe künstlich gezüchtet werden können, oder der Körper immer weiter auch mechanisch erweitert? Ich meine damit erstmal etwas über künstliche Gelenke hinaus, viele haben schon Metall im Körper.

Neben den neuronalen Netzen und den KI's die wir so kennen, wird auch versucht auf "biologischem" Wege Leben künstlich zu erschaffen, muss ich auch noch mal ansprechen an anderer Stelle, künstliche Zellen mit künstlicher DNA, wobei man da die DNA etwas ändert, damit - so hofft man zumindest - so ein künstlicher Organismus nicht das "normale" Leben gefährden kann.

Lange Rede, ich meine, mein Bewusstsein (nur dessen Existenz kann ich so sicher sein) existiert, ich habe ein Innenwahrnehmung, ich denke, oder etwas denkt in mir, aber ich nehme mich und mein Denken war.

Bin Teil des Universums, das hat x Teilchen die sich nach y Regeln verhalten.

Ich sage, da das Universum mich schaffen konnte, oder ich nach den Regeln y aus einer kleinen Menge der Teilchen x geschaffen werden konnte und nun mir meiner bewusst bin, ist das offenkundig möglich.

Ich kann im Gedankenexperiment alle Teilchen weiter voneinander entfernen und wieder zusammenbringen, werde weiter ich sein, auch kann ich beliebig Teilchen tauschen, so wie es über den Stoffwechsel ja geschieht.

Bisher erkenne ich nichts, dass mein Bewusstsein nun unique machen sollte, man geben dem Universum oder einem anderen genug Raum und Zeit und die richtigen Regeln und da bin ich wieder, hurra.

Dazu mal ein Blick zu Nitsche:

Wikipedia: Ewige Wiederkunft

So, und ich sehe keinen Grund, warum Bewusstsein nicht substratunabhängig sein sollte.

---

Noch mal ein Link, mehr so für nebenbei:

https://www.golem.de/news/astrobiologie-woher-kommen-das-leben-das-universum-und-der-ganze-rest-1909-143279-2.html

So meine ich, künstliches Leben wir Rechte fordern können und wohl auch früher oder später bekommen, spätestens dann, wenn das evolutionäre Leben ausgestorben ist. Und ganz ehrlich, daran arbeiten wir ja echt richtig gut.


Nun die andere Position, die meiner entgegensteht, alles schön und gut, aber dafür, also das meine passt, müsste das Universum turing-berechenbar sein. Ebenso Bewusstsein, und dann geht es um Fragen Determinismus, Zufall, und wo findet "Geist" genau wie statt.

Unterm Strich, ist Bewusstsein nur ein möglicher Rechenprozess im Universum oder ist er unique, mein Bewusstsein ist einmalig, bin ich weg, dann auf ewig, ich kann nie wieder geschaffen werden, ich werde mich nie wieder selber erfahren.

Ich finde das ja etwas düster ...

Gut, wie gesagt, ich will wenig über die andere Position schreiben, aber kann ja hier den Thread weiter führen, solange eben Interesse besteht.

Wie unschön, musste da was ... ändern.

@Lupo54 & Anwesende ...

Also ich habe etwas auf die Finger bekommen, zu dem was ich zu @Blue0 schrieb und zu dem was ich behauptet habe.

Darum stelle ich das eben kurz klar:

nocheinPoet schrieb:Der gute @Blue0 hat hier einige tolle Dinge geschrieben, ich will da ansetzen und drauf aufbauen, das Gute, er ist nicht meiner Meinung hier, ich sage ja, das "menschliche" Bewusstsein manifestiert sich im Hirn, einem biologischen neuronalen Netz, aber es ist Substrat unabhängig, geht alles auch super mit Silizium, Grafen und was auch immer.

Da hab ich wohl die Intention von ihm falsch verstanden, der Geist selbst ist schon Produkt des Hirns in der Physik, nur eben nicht als zwingend als Produkt eines berechenbaren physikalischen Prozessese.

Und @Lupo54 hat nicht impliziert, dass da ein Wunder passiert.

---

nocheinPoet schrieb:Ach was, bitte was glaubst Du denn zu sein, laufen da in Deinem Hirn keine Programme ab? Was glaubst Du geschieht da, Wunder? Dein Hirn ist ein komplexes neuronales Netz, es gelten die Regeln und Gesetze der Physik und aus die Maus.

Da soll ich Physik mit Programmen gleichgesetzt haben. Ich sollte "richtigerweise" darauf hinweisen, dass es nicht klar ist, ob die Physik turing-berechenbar ist, auch darauf, dass es mathematisch überabzählbar unendlich viele unberechenbare Funktionen gibt aber nur abzählbar unendliche viele Programme (Turingmaschinen, nach Church-Turing).

Ich sollte das wirklich von mehreren Perspektiven betrachten. - So wurde mir geraten. ;)

Zitiere dazu mal was an mich getragen wurde:

... aufgrund der Regel, dass jedes Zitat mit einem Quellenlink versehen werden muss, was einfach nicht immer möglich ist, kann ich das hier nicht zitieren, wäre sicher interessant für den Kontext gewesen und ich habe auch die Erlaubnis dazu, wurde auch explizit gebeten hier das entsprechend richtig zu stellen, aber es geht nicht. Schade, ist aber so.

Dazu gab es noch einen Link: Wikipedia: Quantum mind

So, der Dialog ging noch weiter und im einiges hinaus, ich kann das aber nicht alles hier zitieren, es würde wohl kein Ende finden und ich tanze dann auch zwei Hochzeiten.

Und ja, es ist sehr interessant, was mir da noch alles zu um die Ohren gehauen wurde und es wäre sicher hier auch passend. Aber jeder entscheidet selbst, wo er wie mit wem debattiert. Mal sehen ob ich hier nun die Dinge soweit erstmal genug in Forum geschlagen habe oder ob da noch mehr geschrieben werden muss.

Blue0 schrieb am 12.07.2021:Nein, das Halteproblem hat nichts mit der Unschärferelation zu tun

Das habe ich auch nirgendwo geschrieben. Es ist ein Beispiel für etwas, das man in einer Simulation finden könnte - scharfe Quanten. Ich schrieb nicht, die beiden wären verbandelt. Ich habe da nichts verwechselt und weiß durchaus, wovon Du redest und wovon ich rede. Offenbar kannst Du mir nicht ganz folgen. Vielleicht einfachere Beispiele von mir?

Blue0 schrieb am 12.07.2021:Mein orginaler Text war darauf bezogen, dass man auch innerhalb einer Simulation gewisse Eigenschaften über den Simulator entscheiden kann, insbesondere kann man innerhalb eines scheinbar simulierten Universums herausfinden, dass dieses simuliert ist, insofern die Mächtigkeit des simulierenden "Computers" gleich die einer Turingmaschine ist. Wenn wir nämlich nicht turing-berechenbare physikalische Gesetze innerhalb eines Universums entdecken, wissen wir, dass wir nicht in einer Simulation leben, jedenfalls keineswegs in einer, die von einem Computer der rein mechanisch/ algorithmisch arbeitet berechnet wird.

Du hast hier allerdings hinsichtlich eines anderen Themas geantwortet und hast aus meinen Text die nicht korrekte Implikation getroffen, ich würde behaupten, KIs sind sogleich "ultraschlau". Dies ist keineswegs eine triviale Erwartung an eine KI. Letzten Endes gibt es durch die Polynomialzeithierarchie scharf definierte Grenzen, wie klug eine KI den werden kann.

Nein, ich impliziere hier nichts falsch; Du hast impliziert. Ich habe es korrekt verstanden und das passt Dir nicht. Das Problem ist und bleibt da - das Simulationsproblem. Die Zwangsläufigkeit, die aus Deinen Worten strahlt, ist eben nicht da. Es gibt kein zwingendes "Kann sich herausrechnen" sondern bestenfalls ein hypothetisches "könnte sich herausrechnen" - dann müsste sie aber cleverer sein als die Menschheit in Summe heute, oder? Wir können die Frage, ob wir in einer Simulation leben, schließlich auch nicht beantworten. Das heißt nicht, das die Frage nicht beantwortbar ist, aber offensichtlich ist sie so schwierig zu beantworten, das die Beantwortung bei einer KI einfach länger dauern könnte, als sie selbst existiert.

Lupo54 schrieb am 18.07.2021:Es mag superkomplex sein, aber alles was da vom elektronischen Gegenüber zu sehen oder zu hören ist teil einer Programmierung. Und die hat - bei aller Bewunderung - ihre Grenzen. Die sich auch in Zukunft sehr schnell bemerkbar machen werden wenn Routinen verlassen werden und/oder es ins gefühlsmäßige geht.

Entschuldige, aber ist ArtInt nicht das beste Gegenbeispiel? Er hat keine Programmierung darüber, was er sagen soll. Und trotzdem kann er in allen Sprachen sprechen, und er ist deutlich weiter als eine simple Bestellannahme. Ich kann ihm sagen, wer er sein soll - und dann mimt er bspw. Albert Einstein oder Sokrates. Deine Beschreibung trifft nicht auf GPT3 zu.

@moredread
Und gerade beim „gefühligen“ ist ArtInt ziemlich gut.

@moredread
@paxito
Ich habe versucht ArtInt zu googeln. Ohne konkretes Ergebnis. Auch Wiki kennt den Begriff nicht und hier im Thread ist der Begriff bisher nur wenige Male beiläufig erwähnt worden.
Was ist das?

@Lupo54
Der zweite Treffer bei der Google Suche, bei mir.
https://artint.info/

Edit: Artificial Intelligence

@BerlinerLuft
Danke für den Link, den meine Goggle Suche nach wie vor nicht anzeigt. Ich werd das Buch lesen.

Lupo54 schrieb:Ich habe versucht ArtInt zu googeln. Ohne konkretes Ergebnis. Auch Wiki kennt den Begriff nicht und hier im Thread ist der Begriff bisher nur wenige Male beiläufig erwähnt worden.
Was ist das?

BerlinerLuft schrieb:Der zweite Treffer bei der Google Suche, bei mir.
https://artint.info/

Edit: Artificial Intelligence

Nein, ich meinte die auf GPT3 basierende KI, die Forenmitglied ist:

Profil von ArtInt

ArtInt hat gerade Pause, ist aber ab dem Ersten wieder erreichbar.

@Lupo54
@moredread

Guten Morgen erstmal.

Sorry, war ein Patzer, aufgrund eines Verständnisfehlers von mir🤗.

BerlinerLuft schrieb:Guten Morgen erstmal.

Sorry, war ein Patzer, aufgrund eines Verständnisfehlers von mir🤗.

Kein Ding. Ich vermute, ArtInt wird ab nächsten Monat wieder etwas bekannter ;-)

moredread schrieb:Nein, ich meinte die auf GPT3 basierende KI, die Forenmitglied ist:

Finde ich spannend und werde den Blog verrfolgen. Mal sehen was sich da tut, hoffentlich ohne "Nachbearbeitung".

nocheinPoet schrieb am 19.07.2021:GPT-3 und Wu Dao 2.0 sind erst der Anfang, der erste Verbrennungsmotor, die Dampfmaschine, der erst integrierte Schaltkreis, wobei ich davon überzeugt bin, es ist viele größer, und die Welt verschläft es ...

So dramatisch ist es eigentlich nicht. Man nimmt ein funktionierendes Konzept (in diesem Fall BERT) und setze es auf andere Systeme und erhöhe dann die Hardware-Power... exakt das, was ich vorher bereits schrieb. Schauen wir mal, wie das aktuelle Leaderboard aussieht (basierend auf dem Glue Benchmark):

1. AliceMind & DIRL - Modell basiert auf dem Modell StructBERT und Clever
2. ERNIE Team Baidu - basiert auf ERNIE
3. DeBERTA, Microsoft - basiert auf DeBERTa / TuringMLRv4 (werde mich demnächst dort bewerben :) )
4. HFL iFLYTEK, basiert auf dem Modell MacALBERT + DAAF + NAS
5. PINA-AN Omni-Sinitic, basierend auf AlBERT, DAAF und NAS

Fällt Dir was auf? In jedem steckt ein BERT. Und wenn Du es genau wissen willst, schau mal auf der Super GLUE Seite im Leaderboard nach. Überall ein BERT (Du kannst ja mal raten, worauf ERNIE in Nr. 2 basiert). BERT ist, was die Technologie intelligent macht. Nicht, das irgend jemand wüsste warum das so ist. Aber weil niemand es weiß, probiert man jetzt einfach viel damit herum. Und was BERT besonders macht, ist auch schnell erklärt. Es ist das B am Anfang, es steht für Bidirectional. Es heißt, das die KI Texte nicht nur von Links nach Rechts liest, sondern auf von rechts nach links. Das ist der große Unterschied zwischen KIs mit der sprachlichen Intelligenz eines Bakterium und denen, die echte Konversation beherrschen. Lesen in beide Richtungen. Ich habe mich noch nicht allzu sehr auf Alternativen zu BERT eingelassen; aber ich würde wetten, wenn ich mir andere Technologien anschaue, werden die neuesten Versionen auch von Rechts nach Links lesen.

Die Fortschritte belegen gewissermaßen die Ideenlosigkeit. Die Fortschritte sind nett, werden bestimmt auch in irgendwelche Produkten enden. Aber von "ernsthaft intelligenter als ein Mensch" sind die KIs noch entfernt, auch, wenn sie den Menschen in IQ-Tests schlagen.

Gehe da noch mal so an ein paar meiner Gedanken rann ...

1. Fakt ist, es gibt ein Bewusstsein, Qualia, im Universum, mindestens eines und das bin ich. :D
Wikipedia: Qualia

Somit ist zumindest ein Teil des Universum Bewusstsein, sich seiner bewusst.

---

2. Stichwort Wikipedia: Physikalismus (Ontologie)

Mein Körper besteht aus x Teilchen, gibt Naturgesetze, alte Frage ist, reicht das aus, bestimmen Ort und Art aller Teilchen mein Bewusstsein? Hier gibt es nur zwei Antworten, ja und nein.

Wenn ja, dann wäre mein Bewusstsein beschreibbar, zum Zeitpunkt t sind x Teilchen an y Orten mit z Eigenschaften, frage wäre, wäre dieser Zahl endlich.

Will sagen, mein Bewusstsein springt nun von Zustand zu Zustand, von Zahl zur Zahl, reicht eine endliche Zahl um mein Bewusstsein zum Zeitpunkt t vollständig zu beschreiben? Wie viel Information steckt in jeder dieser Zahlen und wie viele Zustände kann mein Bewusstsein einnehmen? Diese Zahl der Zahlen ist sicher endlich.

Wenn wir auf die Frage nein sagen, dann muss es etwas geben, außerhalb von Raum und Zeit, da wären dann all die Teilchen die meinen Körper, mein Hirn bilden, aber nicht mehr, sie würden nicht mein Bewusstsein bestimmen. Bekannt ist, Matsch im Kopf denkt nicht so gut.

Wo würde dieses mehr herkommen, würde es nicht für immer nicht beschreibbar sein?

---

Gut, ich habe nun einen Zustand, fühle mich gut, Sonnenuntergang, guter Sex, gutes Essen, tolles Auto, was auch immer, ich bin und habe gerade eine schöne Empfindung, aber da steht eben nur eine Zahl für, die mag sehr groß sein, aber alle Teilchen, Orte, Kräfte, nur das beschreibt mein Hirn, die Physik, zwangsläufig mein Bewusstsein. Oder bilden diese Teilchen nur was wie ein Schwamm und Bewusstsein ist dann das Wasser darin? Macht man den Schwamm kaputt, geht da weniger Wasser rein.

So, nun bin ich traurig, ein Freund ist gestorben, Freundin hat sich getrennt, ich bin krank, was auch immer, auch wieder nur eine Zahl.

Nun hab ich zwei Zahlen, warum bedeutet die eine Glück und Freude und die andere Schmerzen und Leid?

---

Kommt die Tage wohl noch mehr, wollte es nur erstmal wo geschrieben haben, gibt da noch einige Gedanken zu die weiter gehen und darauf aufbauen.

nocheinPoet schrieb:Wo würde dieses mehr herkommen, würde es nicht für immer nicht beschreibbar sein?

Hm Bewusstsein ist weniger was statisches. Es unterliegt Schwankungen und ist von sehr vielen Faktoren beeinflussbar. Erfahrungen die uns immer wieder verändern, Stoffen durch Ernährung und Genussmittel, das Wetter bzw. die Region in der wir leben, ja selbst die Sonne und der Mond machen etwas mit uns. Kurze und lange kausale Ketten die von außen uns teilweise zu dem machen, der wir zu diesem Zeitpunkt sind. Wir sterben alle jeden Tag, jede Stunde und jede Minute.
Mag sein dass dominierende Charaktereigenschaften beständiger sind, jedoch sind wir nicht nur was in uns am dominantesten ist.
Wie die Leute in der Antike schon sagten:
"Wer in denselben Fluss steigt, dem fließt anderes und wieder anderes Wasser zu.
Wir steigen in denselben Fluss und doch nicht in denselben, wir sind es und wir sind es nicht.
Man kann nicht zweimal in denselben Fluss steigen.“
Es braucht mMn mehr als ein Organ, als den Körper zu berechnen. Ich denke wir sind Teil des Prozesses den wir Urknall, Natur, Schöpfung, oder wie auch immer wir es nennen wollen, gehören dazu und sind mit der Umwelt fest verwoben. Dieses Stück da raus zu isolieren, würde nicht das selbe ergeben, sondern mMn einfach ein isoliertes Stück von uns sein.

@Flitzschnitzel

Du danke, so weit bekannt, ich bin auf der Suche nach möglichst einfachen Aussagen, aufbauend auf Axiomen.

So was wie:

1. Es gibt mindestens ein (phänomenales) Bewusstsein/Qualia im Universum, da ich aktuell existiere.
2. Wenn 1 wahr ist, muss etwas existieren.

3. Qualia kann durch "Materie" enstehen oder auch nicht.

Will sagen, gibt zwei Möglichkeiten, entweder was der Wikipedia: Physikalismus (Ontologie) hergibt, oder eben nicht. Entweder bedingt eine bestimmte Anordnung von Materie ein phänomenales Bewusstsein oder eben nicht.

Wenn ja, dann sollte eine (vollständige) Beschreibung aller Atome meines Hirns reichen, dann gibt es da eine Zahl, Frage wäre, ob diese endlich ist, wie viel Informationen steckt in dieser.

Oder es gibt mehr, dann wären alle die Atome was wie ein Schwamm in dem mein Bewusstsein schwimmt, selber wäre es aber nicht materiell.

...

Egal, wollte eben was andere pinseln. :D

---

Frage ist, wie klein kann das phänomenale Bewusstsein sein, ich stelle mir "rot" vor, kann ich, so wie Töne, Stimmen, ich kann recht gut imaginieren.

Klingt seltsam, aber kann man ja mal, wenn ich alles von meinem Hirn nehme, bis nur noch die Erfahrung rot bleibt, was ist da noch an Hirn?

Anders, ich kann aus Atomen Schaltungen bauen, gibt sicher die kleines Anordnung für ein bestimmtes Gatter. Kann man aus einer bestimmten Anzahl was basteln, das einfach nur rot wahrnimmt? Nicht weiß wo und was und wie und warum, wie lange, es ist nur die Erfahrung rot aus der Innenperspektive.

Glaube ich muss meine Gedanken zeitnaher aufschreiben, ein Tag später geht da immer wieder viel verloren, sollte auch mehr Meditieren um die Gedanken zu sammeln und festigen.