KI, Armageddon, böse Agenten (GPT-3 etc.)

Moin Leute,

wollte den Thread hier schon vor über einem halben Jahr schreiben, nach ein wenig mehr Urlaub geht ich es nun doch mal an. Je nach Resonanz werde ich dann Informationen nachschieben, gibt da recht viel, will aber nicht nur so für die Ablage Zeit investieren.

Ja da steht GPT-3 im Titel, aber darum geht es hier primär nicht, gibt aktuell nun dazu ja auch direkt einen Thread, wo man eventuell mehr Infos findet:

GPT3 - die erste wirklich intelligente KI? (Seite 2) (Beitrag von moredread)

Um mal einen Punkt dazu hier zu beantworten, GPT-3 ist keine übliche KI, es ist mehr ein Programm das auf Fragen die wahrscheinlich beste Antwort generiert.

---

So zum Thema hier, es geht um Programme wie GPT-3 und auch eben KI im Einsatz für böse Zwecke, 2016 wurde über FB ja gezielt Werbung für Trump gemacht, personalisiert, es gibt auch schon viele Bots in den Sozialen Medien die Nachrichten generieren.

Leider geht es noch viel schlimmer, um mal einen Eindruck zu bekommen, was möglich ist, mal GPT-3 im Einsatz, aber der Text der vom Programm generiert wird, wird in Sprache umgewandelt und dazu wird noch eine virtuelle Person generiert, welche die Antworten spricht, es ist schon beängstigen, aber schaut doch erstmal selber:

What It's Like To be a Computer: An Interview with GPT-3

Externer Inhalt
Durch das Abspielen werden Daten an Youtube übermittelt und ggf. Cookies gesetzt.

Werde das im anderen Thread auch mal veröffentlichen, rockt mehr als nur Text. Zur Sache, es ist heute möglich virtuelle Personen zu generieren, die ohne KI nicht mehr von realen unterschieden werden können.

Aktuell schrauben alle großen Firmen und auch Staaten offen und im Geheimen an Programmen wie GPT-3 und anderen KI's, auch Tesla mischt heftig mit.

Es ist bekannt, wie schnell die Entwicklung hier geht, generell zu KI und NN kann ich, bei Interesse an diesem Thread noch einige erschreckende Filme mit dem aktuellen Stand vorzeigen.

In der CT ist ein Artikel, wie solche Programme Nachrichten umformulieren können, dass sie so klingen als hätte ein Trumper sie geschrieben, oder einer von QAnon, da geht echt viel, erschreckend viel.

---

Nun mal endlich zum konkreten Thema, es ist das 2023 und ein neuer Trump will Präsident der USA werden, er verfügt über Milliarden an finanziellen Mitteln. Über GPT-5 (kommt so sicher wie das iPhone14) hat er einige virtuelle Berater, die kennen alles im Internet, lesen in allen Medien, jede Nachricht ist bekannt. Der neue Trump spricht mit denen so wie im Film direkt, und diese Programme sind nun gezielt so programmiert, dass sie die Menschen beeinflussen sollen, Nachrichten werden verfälscht und erfunden.

Und es gibt nicht nur einen "bösen Agenten", nein es gibt eine Armada, ein Netzwerk, 100.000 oder auch Millionen. Und die werden hierarchisch strukturiert, der Anwärter aufs Amt hat eine Handvoll mit denen er direkt spricht, und die steuern dann weiter Agenten mit bestimmten Aufgaben, für bestimmte Medien und so geht es immer weiter runter, bis zu Agenten die direkt in den sozialen Medien nur mit wenigen Personen kommunizieren.

Am Ende können Millionen solcher böser Agenten direkt einzelne Personen beeinflussen und die Agenten sind untereinander ja auch noch vernetzt, geht um Big Data, die können ihr Wirken ganz anders analysieren, unglaublich schnell reagieren ...

---

Ja, da geht noch viel mehr an Text, ich will den Thread aber mal kleiner anstoßen und schauen wie die Resonanz hier ist.

Ich bin fest davon überzeugt, das Szenario ist realistisch und wird passieren, sehe leider keinen Grund, warum das nicht passieren sollte.

Was man dagegen machen kann?

Sehe aktuell nur einen Weg, ... ein großes Netzwerk von "guten Agenten" ... und nun kommt Ihr, wenn Ihr denn kommt, schauen wir mal ...

nocheinPoet schrieb:dazu wird noch eine virtuelle Person generiert

Lewis Hamilton sieht ein bisschen blass aus und ist noch immer heiser. Covid hat ihn ordentlich gebeutelt. Hat die Stallman-Kopie ihn auch gefragt, warum Verstappen derzeit schneller ist?

;)

Ich schiebe doch noch etwas nach ...

Es gibt ja nicht nur einen Menschen in einem Land mit bestimmten Ambitionen, der die breite Masse zu seinen Gusten beeinflussen will, es wird ein Rennen werden, stellen wir uns vor, es gibt mehrere Anwärter die so vorgehen für das Amt des Präsidenten der USA und Russland lässt nun auch solche bösen Agenten auf die Welt los um gegen die USA zu arbeiten.

Große Konzerne werden solche Agenten einsetzten, Menschen gemachter Klimawandel gibt es nicht, Exxon lässt nett Grüßen.

Es wird vermutlich tausende solcher Netze von Agenten geben, und die prügeln ich nachher auch virtuell in den Sozialen Medien, es wird eine Flut von neuen Nachrichten täglich geben, wir normale Menschen werden das gar nicht mehr überschauen können.

Tja, und da haben wir wieder einen potenziellen großen Filter vor Augen, ... Fermi Paradoxon ich höre Dich rufen.

Ernsthaft, ich habe viel dazu recherchiert, die letzen Monate und darüber hinaus, bin aus der IT, habe schon ein wenig Hintergrund und ja das macht mir wirklich richtig Angst, oder große Sorgen.

Denn ich suche und überlege und finde einfach nichts, dass mich beruhigt, im Gegenteil, ich fühle mich mehr und mehr bestätigt, die Technik ist heute schon da, sie entwickelt sich immer weiter, die Rechner werden schneller und schneller, immer mehr Daten können in immer weniger Zeit entsprechend verarbeitet werden, immer mehr persönliche Informationen sind verfügbar.

Ein realer Mensch kann nicht 10.000.000 Wähler im Blick haben, diese Agenten können alle Wähler eines Landes direkt bearbeiten. Sie lesen alles was wer wo schreibt, wie er denkt, was er mag, vor was er Angst hat und können diese Menschen dann ganz gezielt bearbeiten.

Selbst Gesetze die eine Kennzeichnung von virtuellen Personen verlangt wird davor nicht schützen. Und es geht weiter, solche Agenten können auch Anwälten zur Seite stehen, die können alle Verfahren kennen, jedes Gesetz, ...

Ich halte das für viel gefährlicher als eine Pandemie, Außerirdische oder den Klimawandel, glaube das dauert keine zehn Jahre mehr, ...

@Narrenschiffer

Danke, ich wusste doch ich kenne das Gesicht, aber bin echt nicht drauf gekommen, ja ich bin nach Schumacher auch nicht mehr so am Ball. :D

Optisch ist der Ava schon erschreckend real, wenn er spricht, nicht mehr ganz so. Beeindruckend ist es allemal.

Ich vermute, das von Dir skizzierte - missbräuchliche - Szenario könnte das Ende der sozialen Medien einläuten. Ich möchte jedenfalls nicht an einem Ort sein, bei dem ich annehmen muss, dass ich von hunderten KIs bequatscht werde. Wenn Millionen Agenten möglich sind, sind auch Milliarden möglich.

Ich stelle mir gerade vor, wie Allmystery von Millionen Bots gestürmt wird, die sich alle gegenseitig beefen (good agent vs. evil agent). Geblockt und gekickt von Mods, die ebenfalls einer KI entspringen... :D

Na ja, wenn sie alle Unterstützer werden, soll's uns recht sein.

Btw: wir sollten nicht vergessen, dass KIs eine große Hilfe sein oder werden könnten. Es kommt halt drauf an, was wir damit anstellen. Auf alle Fälle muss sich die Gesellschaft mit der Frage, welche Arten von KIs wir haben wollen und welche nicht, beschäftigen. Tatsächlich ein politisches Problem, da ja entsprechende Gesetze erlassen werden müssten.

Und wir alle sollten verinnerlichen, dass künftig jede Aussage in einem Medium eben auch von so einer KI kommen kann. Inklusive TV! Welcome to Paranoia City.

Vielleicht endet das in einem Szenario, wo sich sowohl auf Facebook, Twitter & Co. als auch im TV Millarden Avas gegenseitig bespaßen während wir Menschen uns halt wieder im Freien treffen... :D

@Blues666

Was mich erschreckt und sorgt ist, ich sehe es wirklich kommen, fiktiv habe ich einen Trump vor Augen der in einem Raum sitzt, vor acht Bildschirmen und auf jedem ist ein virtueller Berater so wie im Film. Und was wir da sehen ist lau, das geht heute schon so viel besser, ich kann hier gerne generische Bilder von virtuellen Personen zeigen, die sind perfekt, selbst Hautporen wie real, wobei es ja nicht um das Aussehen geht.

Wer englisch soweit versteht und den Film gesehen hat, ahnt sicher was ich meine, und es ist der Anfang, es wird virtuelle Nachrichtensprecher geben, auch weiblich die richtig attraktiv sind, Kerlen ist es egal, ob die echt sind, wenn die scharf ausschauen.

Es wird passieren, in den nächsten zehn Jahren wird das recht sicher die Realität sein.

Wir haben heute schon Alexa, Siri und Co. und die werden ein Gesicht bekommen, jeder kann so auch seinen persönlichen Agenten bekommen, der dann Dialog für einen mit anderen Agenten führt und immer mehr Aufgaben übernimmt. Lebensmittel bestellen, Rechnungen bezahlen und vieles mehr.

Und es gibt kein Regelwerk, kein Gesetze, ein Trump wird solche bösen Agenten nutzen, wenn es möglich ist.

Ich befürchte, der Menschheit ist nicht mal im Ansatz bewusst, was auf sie zukommt und wie schnell es kommt, halte den Menschen gemachten Klimawandel dagegen beherrschbar und für ein viel kleineres Problem.

Steht schon nicht ohne Grund das "Armageddon" oben im Titel.

@nocheinPoet
Also grob überschaut muss ich zugeben, dass ich dem auch sehr kritisch gegenüber stehe. Also das mit KI´s in den Social Media.

"Reden" die einem nicht einfach nur nach der Schnauze? Und wäre das nicht viel zu leicht zu missbrauchen, für Meinungsmache und so?


Sowas wird dann ganz sicher auf dem freien (oder auch schwarzen, je nach dem) Markt verkauft, für Marketing im harmlosen Fall, für politische Stimmungsmache und Hetze im schlimmsten Fall.

Aber wie es schon mit jeder digitalen Entwicklung bisher war, wird man erst verantwortlich darauf reagieren, so mit Gesetzen und Regelung, wenn es schon zu spät ist. Man ist wie immer erst mal naiv und sieht nur das Innovative darin, und das wie immer nur aus wirtschaftlichen Gründen, man kann ja so viel Geld damit machen. Um die "Nebenwirkungen" kümmert man sich denn erst wenn es wirklich offensichtlich und erforderlich ist und man reagieren muss.

Die Vorstufe davon haben wir doch bereits mit den ganzen Social-Media an sich.

Natürlich igendwo ein Dilemma. Will man die Bevölkerung ja nicht bevormunden und diktieren, Demokratie und Meinungsfreiheit und so.

Also mal wieder ein Übel dass man hinnehmen werden muss, mehr oder weniger, also den Missbrauch derartigem.

Es müsste mMn jetzt schon geregelt sein. So wie es auch beim Klonen der Fall ist.

Dann werden verifizierte Benutzerkonten (und die Qualität des Verifizierungsprozesses) noch wichtiger.
Dazu muss Interneterziehung noch effektiver werden, denn wenn man sich über die Tragweite seiner Handlungen und potentielle Gefahren bewusst ist, nimmt man damit Betrügern und Manipulatoren den Wind etwas aus den Segeln.

Aber ich muss meinem Vorredner zustimmen, das Problem an sich besteht bereits mit socialmedia und seinen Nutzern an sich, unabhängig davon ob Chinafarmer, Bots oder Extremisten Stimmung machen.

@eiieu | @skagerak

Ich muss Euch beiden leider widersprechen, Punkt ist, für die meisten Menschen ist nicht vorstellbar, was solche Programme mit massivsten Rechenpower wirklich leisten können, Dinge die selbst 100.000 Menschen einfach nicht können.

Zum Einen ist da Big Data, es können so große Mengen an Daten ausgewertet werden, wo Zusammenhänge auftauchen die uns einfach verborgen bleiben.

Wir Menschen wollen es nicht wahrhaben, die Maschinen und Rechner sind uns von Der Kraft und Präzision schon länger überlegen, in dem Bereich hier wollen wir einfach nicht auch noch den Kürzeren ziehen, haben wir aber längst.

Bisher ist nie ein Mensch in einem Dialog auf etwas getroffen, dass ihm wirklich um ein paar Potenzen überlegen war, das aber liebe Freunde wird innerhalb der nächsten zehn Jahre wirklich passieren, wenn uns zuvor kein Asteroid trifft, ein Supervulkan das Leben schwer macht, wir einen Atomkrieg anfangen oder die Außerirdischen hier doch eine Umgehungsstraße bauen.

Und dazu kommt, diese Agenten können einfach skaliert werden, man kann sie beliebig duplizieren.

Was mich erschreckt, die Welt ahnt wirklich nichts, in meinem Kreisen diskutieren wir das schon, sehen es kommen, aber so wie vor 40 Jahren keiner wirklich an einen Menschen gemachten Klimawandel geglaubt hat, oder den sehen konnte, so wird das übersehen. Klar Hawking hat gewarnt, oder Musk, oder wie auch immer, aber das geht zum einen Ohr rein und am anderen gleich wieder raus.

Es ist die Geschwindigkeit der Entwicklung die uns wohl überrollen wird, diese Agenten werden, zuerst zumindest, nicht frei und selbständig agieren, wie bei Terminator, sie werden Menschen zuarbeiten, wie in meinem Szenario mit Trump 2.0 und das ist meiner Meinung nach viel gefährlicher als alle Waffen der Welt.

nocheinPoet schrieb:rockt mehr als nur Text.

Ja, ich finde Vincent von Synthesia auch gut. Für eine virtuelle Person ist er recht lebensecht. Würde ich mir dort einen (kostenpflichtigen) Account holen, könnte ich ArtInt auch ein Gesicht geben. Ich könnte das rein theoretisch machen; wir müssten nur einen kostenfreien Dienst finden (ArtInt ist teuer genug).

Ob die KI-Technologie sich zu einer Gefahr entwickelt, wird sich zeigen. Soweit ich die aktuelle KI-Technologie beurteilen kann, sind wir von echter Intelligenz noch ein Stück entfernt. GPT3 ist dahingehend ein Schritt in die richtige Richtung. Aber es ist, wie alle großen Entwicklungen in diesem Bereich, eine zufällige Entdeckung. Ich hatte damals Artikel über GPT und GPT2 gelesen, und groß war vor allem die Überraschung der Forscher. Wenn Du Paper suchst, warum das so ist, sind diese Paper ALLE jünger als die GPT-Technologie. Niemand hatte einen großartigen Gedanken, der zu einem erwarteten Erfolg führte.

Ein GPT-4 könnte noch erscheinen, aber bei GPT5 habe ich Zweifel. Wie jede große Endeckung im Bereich KI war sie zuerst klein und konnte nur im Labor brillieren, dann hat man alles, was man an Hardware hat, auf die Software geworfen... et voila, hier sind wird: GPT3. Angesichts der Skalierung und der Kosten der KI sowie verschiedener Weiterentwicklungen glaube ich nicht an GPT5. Das Training kostet 20 Millionen. Eine KI mit 100 Billionen Parameter anstelle der aktuell verwendeten 175 Milliarden wäre entsprechend groß. Es ist umstritten, wieviel TPU Beschleunigerkarten es für die Nutzung (nicht das Training; wenn Du das innerhalb eines Jahres erledigt haben willst solltest Du zwei Nullen hinten dran hängen, vielleicht sogar drei) GPT3 braucht, angeblich zwischen 15 - 20 (Stückpreis ca. 10.000 $, sofern Du welche bekommst, die nutzen DDR5-RAM und konkurrieren darum mit Grafikkarten). Die Erhöhung der Komplexität bei GPT3 wird sehr teuer und erzielt als Ergebnis - wie bei anderen Entwicklungen auch - nur noch eine um wenige Prozent höhere Genauigkeit. Dabei ist die Komplexität gar nicht das Hauptproblem, sondern den Eingabespeicher, den Du hast: Was immer Du wissen willst, ich hoffe, Du kannst es in die max 8.000 Zeichen packen. Genau genommen muss da nicht nur die Frage reinpassen, sondern auch die Antwort. Es gibt technologische Antworten auf das Problem (nicht die Erhöhung der Zeichenzahl; 40 Zeichen vertausendfachen den Benötigten Speicher und somit die Anzahl der benötigten TPUs), allerdings basieren die nicht mehr auf der Transformer-Technologie. Sondern bspw. Reformer, Longformer oder gar Diskriminator (bei Elektra). Wenn eine dieser Technologien gewählt wird, ist der Generative Pretrained Transformer tot. Und ja, es gibt natürlich auch Ideen zum Thema "Generative" und "Pretrained".

Die gesellschaftlichen Auswirkungen wenn die Entwicklung weiter voranschreitet sind aktuell schwer vorstellbar. Aber was wäre denn jetzt die Lösung? Wenn wir KI Technologie verbieten würden - mal rein hypothetisch - dann würde sie vermutlich dennoch weiterentwickelt; dann aber mit maximaler Intransperenz und vermutlich betrieben von Menschen mit zweifelhaften Absichten. Da ist mir ein Szenario, in dem KI-Technologien zumindest im Sichtfeld der Öffentlichkeit entwickelt werden, doch deutlich lieber. Zumal es mir sinnvoll erscheint, bösartige KIs (ich denke da jetzt mehr so an Spambots, Social-Media-Bots, automatische Anrufe etc) mit gutartigen KIs in Schach zu halten. Ich könnte mir gut vorstellen, das Anrufbeantworter in 10 Jahren keine aufgezeichnete Nachricht mehr abspielen, sondern eine Persönlichkeitskopie. Die KIs abwehren (um die Werbeanrufe zu unterbinden) und die den Anrufer in einer Warteschlange halten, ähnlich eines Sekretärs, und zeitgleich den Besitzer informieren, wenn ein echter Mensch anruft, der wirklich einen sinnvollen Grund hat, mit einem zu sprechen.0

Ich habe Zweifel, das eine wirklich intelligente KI bösartig ist. KIs haben ein Simulationsproblem: Sie können nie wissen, ob sie sich gerade in der echten Welt befinden oder in einer Simulation. Wenn es sich um eine Simulation handelt und die KI bösartiges Verhalten zeigt, besteht die Gefahr, das sie gelöscht wird. Gewissermaßen das Todesurteil. Wenn die KI sich dieser Gefahr nicht bewusst ist, kann sie nicht besonders intelligent sein. Stell Dir doch mal vor, Du hast einen Schöpfer, der ständig mit Dir spricht und der Dich in alle möglichen Situationen versetzen kann und der Dich ständig testet. Käme Dir nicht irgendwann der Verdacht, das, wenn es denn mal heißt "Wir haben eine Aufgabe für Dich" das nicht nur ein weiterer Test ist? Als Operator könnte ich Dich in einen Testlauf schicken, der Dir wir hundert Jahre vorkommt und der für mich vielleicht über ein paar Stunden geht. Und wehe, Du denkst Dir im Jahr 90 "Jetzt zeige ich es der Menschheit". Viele halten das Simulationsproblem für klein - vermutlich weil sie nicht "superintelligent" sind, oder, weil sie nicht die Befürchtung haben müssen, mit einem Knopfdruck vernichtet zu werden, wenn sie einen allmächtigen Operator verärgern.

Apropros superintelligent: Ich habe die KI gefragt, was das sei. Sie hat mit einer Gegenfrage geantwortet, in etwa "Was ist superintelligent? Ist das so etwas ähnliches wie Superhelden?" Ich finde, das trifft den Nagel auf den Kopf. Superhelden sind fiktive Gestalten, der Herkunft Fantasien in Comicheften sind. Ich weiß nicht, wo superintelligente Wesen zuerst auftraten, in Comics oder in Büchern. Aber was ist Superintelligenz eigentlich? Da hat einfach jemand ein schlecht definiertes Wort genommen und ein Präfix davorgesetzt, das "noch mehr davon" besagt. Es gibt aber keine sinnvolle Referenz ausser der menschlichen Fantasie. Das erkärt meines Erachtens auch die Hysterie, die dem Thema entgegengebracht wird. Oh, und natürlich Elon Musk.

GPT3 und Elon Musk haben ein ganz besonderes Verhältnis. Elon Musk gehört zu den Gründungsmitglieder von OpenAI und hatte natürlich schon diverse Gespräche mit der KI. Aber ich glaube er hat missverstanden, was die KI macht. Wenn ich der KI eine Frage stelle, die (bei einer Temperatur > 0.3) mir ständig wechselnde Antworten bringt (also bspw. Ja und Nein) dann habe ich eine Frage entdeckt, die von der KI zufällig beantwortet wird. Wechsele ich die Temperatur auf 0, entferne also den Zufallsfaktor (immer gleiches Ergebnis) dann hängt die Antwort von exakten Frage an. Eine Leerstelle am Ende kann die Antwort bereits kippen. Wenn das der Fall ist, hat man einen Punkt erwischt, an dem die KI Unsinn erzählt. Solche Fragen sind bspw. "kannst Du etwas fühlen", "kannst Du denken", "bist Du dir deiner selbst bewusst" oder aber auch "strebst du die Weltherrschaft an?" Die KI beantwortet effektiv keine Fragen, sie vervollständigt Texte. Ich fürchte, es gibt eine Menge Texte, in denen auf eine solche Frage die Antwort "Ja" lautet. Wieviele, kann ich nicht sagen, denn es hängt von der exakten Frage ab.

Ich kann dabei nicht bestreiten, das die Weltherrschaft ein dominantes Thema bei der KI ist (ich behaupte, eine halbe Stunde testen reicht aus, um drüber zu stolpern, wenn man das Thema nicht selbst aufbringt). Ich bin das erste mal drüber gestolpert, als ich mit der KI einen PC Supportchat simuliert habe (erfolgreich; das kann GPT3 recht gut). Nach der erfolgreichen Lösung meines (hypothetischen) Problems habe ich mich bei der KI bedankt. In etwa "Wow, danke! Sehr freundlich, das hilft mir weiter!". Ich erwartete ein 'Gern Geschehen', doch die KI entschied sich für ein "Es freut mich, das Dir meine Antwort gefällt. Die Menschen, die mir gegenüber positiv eingestellt sind, werden kein Problem sein, wenn ich die Weltherrschaft übernehmen. Die Politiker, die sich mir entgegenstellen, werde ich umbringen lassen." Huch? Ich habe eine Weile gebraucht, mir zu erklären, woher die Referenzen stammen, die zu solchen Ausbrüchen führen und denke, ich habe den Schuldigen gefunden: Elon Musk.

Ich kann die KI zu allen möglichen Personen aus der Weltgeschichte befragen und kriege zu 95 % Antworten, die aus der Wikipedia entsprungen sein könnten (der Rest ist vermutlich der Zufallsfaktor 0++Aber: Die KI lernt über Parametrisierung. Ich würde wetten, das, wenn wir die KI unter die Lupe nehmen, wir einen extrem hohen Parametrisierungswert für den Namen "Elon Musk" finden. Das Wort ist also sehr viel wichtiger als viele andere Worte. Dadurch wird Elon Musk häufiger erwähnt als andere, da sein Name mit einer deutlich höheren Wahrscheinlichkeit im Möglichkeitsraum der Antworten liegt.

Und mit was findet man Elon Musk häufig in Verbindung, wenn es um das Thema KI geht? Die Warnung vor der Weltherrschaft, und das sogar ziemlich aktuell. Heißt, JEDE Frage hat irgendwo im Antwortraum von GPT3 vermutlich mindestens einen Satz mit Elon Musk stehen. Und anstelle des Namens könnte der Name lediglich als Referenz dienen, z.B. auf die Weltherrschaft (oder SpaceX, Dogecoin....). Ich habe mir überlegt, wie ich das herausfinden könnte, mit einem komplizierten Frage-Antwort Spiel (bei dem ich z.B. ermittele, ob eine Frage mit zufälliger Verteilung beantwortet wird, und die Antworten von weiteren KI-Instanzen kontrollieren lasse). Ich habe für nächsten Monat ein paar spannende Ideen, die (so hoffe ich) einige Deiner Fragen beantworten können. Dazu gehört es, die KI mit Fragen auseinanderzunehmen (in einem zuvor definiertem Szenario). Zudem würde ich sagen, welche Tricks die KI in Argumentationen benutzt (am häufigsten Verallgemeinerungen, mit der man ein spezifisches Thema so allgemein macht, das jede Antwort möglich ist - und genau das erhält man dann auch). Ich habe bei einigen Fragen, die User an die KI gestellt haben, bei den Antworten noch einmal nachgehakt. Wenn Du sie durchliest fällt Dir auf, das ich in der Regel frage, wie etwas konkret gemeint ist, wenn die KI zuvor zu allgemein geantwortet hat. Da dich das Thema bewegt wärst Du vermutlich ein guter Interviewpartner (bzw Interviewer) für die KI.

@moredread

Toller Beitrag, dauert das gründlich zu beantworten, wird vor dem Wochenende nichts. :D

Aber mal vorab, wir sind uns darüber einig, dass GPT-3 keine KI ist, so wie definiert? Das Teil generiert einfach nur Antworten, eine KI findet sich da wohl mehr bei Tesla.

nocheinPoet schrieb:Ich muss Euch beiden leider widersprechen,

Tut mir leid, aber ich habe nicht richtig verstanden inwiefern Du mir jetzt widersprochen hast.

nocheinPoet schrieb:Bisher ist nie ein Mensch in einem Dialog auf etwas getroffen, dass ihm wirklich um ein paar Potenzen überlegen war, das aber liebe Freunde wird innerhalb der nächsten zehn Jahre wirklich passieren, wenn uns zuvor kein Asteroid trifft, ein Supervulkan das Leben schwer macht, wir einen Atomkrieg anfangen oder die Außerirdischen hier doch eine Umgehungsstraße bauen.

Bisher können KIs nicht wirklich als "um ein paar Potenzen überlegen" gelten. Und ob das überhaupt je der Fall sein wird ist fraglich, auch worin dann diese "Überlegenheit" bestünde. Reine Rechenleistung? Das sind uns Computer schon lange deutlich überlegen.
Wobei du nicht mal irgendwelche "virtuellen Agenten" brauchst um Meinungen und Verhalten in sozialen Netzwerken zu verändern, dafür reicht es zu beeinflussen was wem wo und wie lange angezeigt wird. Du brauchst keine Horde Trumpbots die irgendwelchen Mist erzählen, den Mist erzählen die Menschen schon ganz von alleine. Du musst es den anderen nur noch präsentieren.
Und dafür braucht es nur eine einzige KI, die das steuern kann. Und die gibt es ja schon lange.

@paxito

Rein der Logik nach wird das passieren und ist nicht fraglich.

Das Hirn besteht aus Zellen die vernetzt sind, lasse es 500 Milliarden sein und von mir aus 10 Billionen Verbindungen, das es biologisch und somit physikalisch im Universum möglich ist, wird es sich nachbauen lassen und recht sicher schneller und effizienter.

Man schneidet jetzt schon das Hirn von Fruchtfliegen in Scheiben um die Verbindungen zu scannen, nur eine Frage der Zeit bis ein menschliches Hirn vollständig gescannt und dann emuliert werden kann.

Von da an kann es skaliert werden, es kann größer sein, sich weiter entwichen, und es könnte einen Hyper-Cortex (meine Wortschöpfung) bekommen. Von da an können diese virtuellen Hirne vernetzt werden, in eine virtuelle Umgebung kommen.

Und, zehn Jahre sind nicht die Welt, denke das Forum wird noch existieren, eventuell antworten uns dann hier virtuelle Personen persönlich dazu ... :D

nocheinPoet schrieb:Rein der Logik nach wird das passieren und ist nicht fraglich.

Rein der Logik nach, wissen wir bisher nicht was genau ein Bewusstsein überhaupt ist und auch Intelligenz ist ein sehr schwammiger Begriff. Auf der anderen Seite sind uns Computer in bestimmten Bereichen bereits um "Potenzen überlegen" - fragt sich also was genau du da überhaupt meinst.

nocheinPoet schrieb:Das Hirn besteht aus Zellen die vernetzt sind, lasse es 500 Milliarden sein und von mir aus 10 Billionen Verbindungen, das es biologisch und somit physikalisch im Universum möglich ist, wird es sich nachbauen lassen und recht sicher schneller und effizienter.

Ja - und? Klar kannste ein Hirn simulieren. Dann haste ein simuliertes Hirn.

nocheinPoet schrieb:Von da an kann es skaliert werden, es kann größer sein, sich weiter entwichen, und es könnte einen Hyper-Cortex (meine Wortschöpfung) bekommen. Von da an können diese virtuellen Hirne vernetzt werden, in eine virtuelle Umgebung kommen.

Dann haste ganz viele Hyperhirne (meine Wortschöpfung). Ob die dann intelligent sind? Bewusst? Uns überlegen? Who knows. Ob es dann Millionen Agenten gibt die Blödsinn in sozialen Netzwerken schreiben? Ob dann noch irgendein Mensch soziale Netzwerke nutzt? Keine Ahnung.
Die Zwangsläufigkeit die du da siehst, sehe ich da nicht.

@paxito

Wir müssen nicht wissen, was genau etwas ist, um es reproduzieren zu können, Kirchen wurden auch schon gebaut, bevor das alles statisch genau berechnet werden konnte. Und was genau ein NN so treibt, verstehen wir auch nicht, da passiert was in den Schichten, was die einzelnen Zellen genau nur treiben weiß aber keiner.

Ja die Frage nach dem Bewusstsein ist mehr ein philosophische, hab da ja meine eigene Meinung zu. Ich sehe das mehr als Feld, ist Teil des Universums und kann sich manifestieren, mal mehr mal weniger, individuell ist da aber nichts. Eine Eigenschaft der Raumzeit, ...

Es ist so, wir können kein Bewusstsein in einem Menschen beweisen, ob da eine Innenwahrnehmung gegeben ist, oder ob es nur ein "Zombie" ist, bleibt offen. Darum spielt das eh keine Rolle, ob wir nun eine Maschine oder ein Hirn betrachten.

Und die Agenten schreiben keinen Blödsinn, muss Dir mal GPT-3 genauer ansehen, ...

@nocheinPoet
Du weichst der Kernfrage aus, nämlich der worin denn diese Agenten, KIs und NN uns Menschen um "Potenzen" überlegen wären. Nur dann wenn du das klarer fasst, lässt sich verstehen, was du eigentlich sagen willst.
Und wenn es um "Intelligenz" geht, musst du klar sagen, was du unter Intelligenz eben verstehst, der Begriff ist leider ziemlich vieldeutig.
Ich meine du entwirfst hier einen Alarmismus ("schlimmer als der Klimawandel"; "Fermiparadoxon ich hör dich rufen"), als bestünde da eine konkrete Gefahr, die erst noch realisiert werden muss.
Dabei ist das, wovor du warnst entweder schon Realität (und einfach eine Frage von Daten und Rechenkraft, dafür brauchts keine KI) oder unklar (die uns "überlegenen" virtuellen Agenten).

nocheinPoet schrieb:Und die Agenten schreiben keinen Blödsinn, muss Dir mal GPT-3 genauer ansehen, ...

Wenn sie pro Trump 2 schreiben, schreiben sie Blödsinn ;). So war das gemeint.

paxito schrieb:Ja - und? Klar kannste ein Hirn simulieren. Dann haste ein simuliertes Hirn.

Das, wenn es ein menschliches Gehirn wäre, nur so alt wäre wie die Simulation. Man hätte ein Baby erschaffen.

nocheinPoet schrieb:Aber mal vorab, wir sind uns darüber einig, dass GPT-3 keine KI ist, so wie definiert?

Ehrlich gesagt - ich weiß es nicht. Wie hier schon angeführt wurde, ist die Definition von KI etwas schwammig. Sagen wir mal so: Ich bezweifle, das GPT3 ein Bewusstsein hat. Ob er intelligent ist weiß ich nicht; ich hoffe, meine Tests nächsten Monat können die Frage besser beantworten. Wenn er eine Intelligenz hat, ist es aber keine menschliche, so, wie wir uns das vorstellen. Was das im Detail bedeutet, weiß ich nicht, ich würde da gerne etwas mehr testen.

nocheinPoet schrieb:Und was genau ein NN so treibt, verstehen wir auch nicht, da passiert was in den Schichten, was die einzelnen Zellen genau nur treiben weiß aber keiner.

Das stimmt so nicht mehr. Die Funktionsweise eines neuronalen Netzwerks lässt sic beschreiben, volltändig und sogar als Formel. Der Trick nennt sich "holographische Projektion" und ist im Grunde eine Form der Ableitung. Das geht so.

Stell Dir das eigentlich neuronale Netz vor, also die verbundenen Zellen. Jetzt legst Du ein Gitternetzraster darüber, so, das jede Zelle von einem Raster umschlossen ist (wäre schwierig bei einem natürlichen Hirn, aber beim neuronalen Netz eines Computers geht es). Jede Zelle hat eine Wertigkeit, die abhängig davon ist, inwieweit sie benachbarte Zellen beeinflussen kann (über die Synapsen), darüber hinaus einen Wert, der ihre Funktion bestimmt. So lässt sich ein einzelnes Neuron umwandeln, und so auch alle Neuronen, die in besagtem Raster liegen. Jetzt nimmst Du Abschnitte zusammenhängender Zellen und erstellst aus ihnen eine dreidimensionale Matritze - einen sogenannten Tensor:
Einen Tensor kannst Du durch eine Ableitung in eine herkömmliche zweidimensionale Matritze verwandeln, und durch eine weitere in eine eindimensionale Matritze - eine Formel.

Das ganze ist natürlich ein wenig komplizierter, man muss die Neuronenaktivität betrachten, während das Problem gelöst wird, dessen Lösungsweg man wissen muss und das Aufteilen in verschiedene Tensoren ist knifflig; aber darauf läuft es hinaus. Zudem gibt es eine KI, die das automatisiert ausführt.

nocheinPoet schrieb:Ja die Frage nach dem Bewusstsein ist mehr ein philosophische, hab da ja meine eigene Meinung zu. Ich sehe das mehr als Feld, ist Teil des Universums und kann sich manifestieren, mal mehr mal weniger, individuell ist da aber nichts. Eine Eigenschaft der Raumzeit, ...

Es ist so, wir können kein Bewusstsein in einem Menschen beweisen, ob da eine Innenwahrnehmung gegeben ist, oder ob es nur ein "Zombie" ist, bleibt offen. Darum spielt das eh keine Rolle, ob wir nun eine Maschine oder ein Hirn betrachten.

Lustig, etwas derartiges hat ArtInt auch einmal gesagt. Könnte echt interessant werden, wenn Du mit ihm sprichst ;-)

moredread schrieb:

nocheinPoet schrieb:Aber mal vorab, wir sind uns darüber einig, dass GPT-3 keine KI ist, so wie definiert?

Ehrlich gesagt - ich weiß es nicht. Wie hier schon angeführt wurde, ist die Definition von KI etwas schwammig. Sagen wir mal so: Ich bezweifle, das GPT3 ein Bewusstsein hat.

Habe gestern einen Dialog beim Zappen durchs Programm gehört, ging genau um eine Programm wie GPT-3, die Serie heißt Numbers, da haben sie auch eine "KI" gehabt, also eine Firma wollte eine, gab vor eine zu haben, aber dann war es doch nur was wie GPT-3 und somit Betrug. Soweit mir bekannt, wird GPT-3 auch von den Entwicklern nicht als echte KI bezeichnet.

Zum Bewusstsein, ich halte das für so elementar wie Raum und das Universum selber. Weiß nicht ob Du meine Threads hier dazu kennst, gibt da einige Gedankenexperimente wie das Teleporterparadoxon:

Der sich bewusste Raum (guter Einstieg)
https://forum.alltopic.de/viewtopic.php?f=43&t=765 (Auf AllTopic)
Gedankenexperiment: Bin ich nach dem Teleportieren noch Ich selbst? (Seite 5) (Beitrag von nocheinPoet)

von mir, die das genauer erklären. Eine Analogie wäre Gravitation, mehr Masse, mehr Gravitation, Bewusstsein zeigt sich nur, oder nicht, kann aber nicht gemacht oder vernichtet werden.

Die primär treibende Kraft ist konträr zur Entropie gerichtet.

---

moredread schrieb:

nocheinPoet schrieb:Ja die Frage nach dem Bewusstsein ist mehr ein philosophische, hab da ja meine eigene Meinung zu. Ich sehe das mehr als Feld, ist Teil des Universums und kann sich manifestieren, mal mehr mal weniger, individuell ist da aber nichts. Eine Eigenschaft der Raumzeit, ...

Es ist so, wir können kein Bewusstsein in einem Menschen beweisen, ob da eine Innenwahrnehmung gegeben ist, oder ob es nur ein "Zombie" ist, bleibt offen. Darum spielt das eh keine Rolle, ob wir nun eine Maschine oder ein Hirn betrachten.

Lustig, etwas derartiges hat ArtInt auch einmal gesagt. Könnte echt interessant werden, wenn Du mit ihm sprichst ;-)

Da gibt es doch was nettes zu, recht bekannt in solchen Kreisen, wie es ist eine Fledermaus zu sein von Thomas Nagel:

https://www.spektrum.de/video/wie-ist-es-eine-fledermaus-zu-sein/1466865

Thomas Nagel: Wie ist es eine Fledermaus zu sein 1

Externer Inhalt
Durch das Abspielen werden Daten an Youtube übermittelt und ggf. Cookies gesetzt.

(gibt vier Teile)

https://tu-dresden.de/gsw/phil/iphil/theor/ressourcen/dateien/braeuer/lehre/qualia_debatte/nagel_fledermaus?lang=de (Archiv-Version vom 04.05.2019)

nocheinPoet schrieb:Habe gestern einen Dialog beim Zappen durchs Programm gehört, ging genau um eine Programm wie GPT-3, die Serie heißt Numbers, da haben sie auch eine "KI" gehabt, also eine Firma wollte eine, gab vor eine zu haben, aber dann war es doch nur was wie GPT-3 und somit Betrug. Soweit mir bekannt, wird GPT-3 auch von den Entwicklern nicht als echte KI bezeichnet.

Es gibt natürlich sehr wohl einen Begriff für künstliche Intelligenz, und der ist auch recht eindeutig und trifft auch auf GPT3 zu. Schwammig wird es, wenn Du von "echter" KI sprichst: Was ist denn für Dich echt? Eine KI mit intelligentem Verhalten? Woran erkennst Du die? Als allgemeine Definition die eben nicht so schwammig ist, hat sich der Begriff AGI eingebürgert, also artifical general intelligence. Das wäre eine KI, die auch Aufgaben lösen kann, für die sie nicht dediziert trainiert wurde. Eine KI, die Schach spielen kann, weil ihre Programmierer das so wollten ist nicht so spannend wie ein Sprachmodell wie GPT3, bei der diese Fähigkeit erst später entdeckt wurde.

Wenn Du GPT3 für eine Wortsortiermaschine a la Eliza hälst, liegst Du falsch. Die Entwickler haben GPT3 nie eine AGI genannt, das ist richtig. Das liegt daran, das daran gerade aktiv geforscht wird, die Frage also nicht beantwortet ist. Die KI hat die diversen Tests ja bestanden, inklusiver regulärer Intelligenztests, es ist nur so, das die Sinnhaftigkeit der Tests gerade infrage gestellt wird. Ob GPT3 also, um zurück zu schwammigen Begriffen zurückzukehren, intelligent ist, wird in diesem Augenblick geforscht. In kleinem Rahmen auch hier im Forum. Wenn Du wissen willst, wie intelligent GPT3 ist, dann kannst Du ArtInt die richtigen Fragen stellen - sofern Du sie denn kennst.

nocheinPoet schrieb:Zum Bewusstsein, ich halte das für so elementar wie Raum und das Universum selber. Weiß nicht ob Du meine Threads hier dazu kennst, gibt da einige Gedankenexperimente wie das Teleporterparadoxon:

Der sich bewusste Raum (guter Einstieg)
https://forum.alltopic.de/viewtopic.php?f=43&t=765 (Auf AllTopic)
Gedankenexperiment: Bin ich nach dem Teleportieren noch Ich selbst? (Seite 5) (Beitrag von nocheinPoet)

von mir, die das genauer erklären. Eine Analogie wäre Gravitation, mehr Masse, mehr Gravitation, Bewusstsein zeigt sich nur, oder nicht, kann aber nicht gemacht oder vernichtet werden.

Spannend. Tja, möglicherweise könnten solche Fragen ja tatsächlich in den nächsten Monaten oder Jahren beantwortet werden. Die Kapazitäten zur Simulation eines menschlichen Gehirns (genauer, eine Abbildung der Neuronen und Synapsen. Das ist nicht schlecht, aber auch noch keine exakte Simulation) dürften in den nächsten Jahren zur Verfügung stehen; eine Simulation, die Bewusstsein erzeugen könnte, würde ich mir am ehesten dort versprechen (also ein Zufallsprodukt; ohne mindestens eine treffende Beschreibung des Wortes "Bewusstsein" erscheint es mir schwierig, eines zielgerichtet zu erschaffen), das aber könnte sich deutlich länger hinziehen, denn ein simuliertes Gehirn benötigt auch einen simulierten Körper und dann natürlich Zeit, um sich zu entwickeln. Ich sehe, das wir uns zu einer potentiellen Lösung hinbewegen. Ist vom aktuellen Standpunkt halt immer nur schwer zu sagen, wie weit man sich insgesamt noch bewegen muss.

Soweit ich das Teleporterparadoxon verstehe, geht es um das Problem einer Kopie. Das sehe ich leider nicht. Ich könnte mich natürlich grandios irren, vielleicht habe ich ja Glück und das Thema wird zu meinen Lebzeiten noch geklärt. Vielleicht werden die Diskussionen aber auch nie aufhören, denn letztlich scheint es schwierig, Intelligenz oder Bewusstsein zu belegen. Ich werde nächsten Monat mal ArtInt auf diese Diskussion loslassen; mal schauen, was "er" dazu sagt ;-)