Technologische Singularität

@stefan33:

stefan33 schrieb:Aber wie gesagt, ich glaube nicht, dass das noch sehr lange so weiter geht, da wir durch die Erderwärmung in existenzielle Probleme kommen werden. Dann ist erst mal wieder Überleben angesagt. Internet interessiert dann nicht mehr.

Ich glaube, dass Du Dich da gewaltig täuschst. Im Bewusstsein, dass ich mir mit der folgenden Aussage vermutlich den Zorn vieler Mitleser zuziehen werde: Ich bin nicht nur überzeugt, sondern sicher, dass die Erderwärmung verglichen mit der derzeitigen Entwicklung im KI- und Robotik-Sektor von untergeordneter Bedeutung ist. There, I said it. ;)

Ich bin allerdings wenig motiviert, eine kontroverse Diskussion über diesen Punkt zu führen. Niemand kann die Zukunft sicher vorhersagen.

Ja, das war auch die Meinung einer Reihe von Wissenschaftlern, die vor einiger Zeit befragt wurden, was denn die größte Bedrohung der Menschheit sei. Da kam KI noch vor der Erderwärmung.

Natürlich weiß das niemand. Es kann sein, dass es zunächst so aussehen wird, als wenn die Ki dominiert. Aber wenn die Erderwärmung erst mal richtig Fahrt aufgenommen hat und die Auswirkungen wirklich extrem sind (ganz Norddeutschland unter Wasser usw.), dann haben wir andere Probleme, als mit irrsinnigen Strommengen eine KI am laufen zu halten. Dann geht es ums Überleben. Sehr vieles wird zusammenbrechen. Schon jetzt ist vieles extrem fragil.

Also mal ganz langsam: Die KI, eine Erfindung, die Dinge kreieren kann, soll schlimmer sein, als die Erderwärmung, eine ausschließlich negative Auswirkung der Industrialsierung? Das ist Angstmache. Davon wissen nicht einmal intelligente KIs etwas, wenn ich sie frage, und sie bewerten das ganze auch anders. Der Klimawandel ist ganz klar gefährlicher und das lässt sich auch sehr leicht belegen. Inklusive aktueller Entwicklungen der KI. Ich würde ja sagen "behaupte etwas anderes", aber Du kannst den Kram den Du schreibst ja selbst mal bei einer KI eingeben. Wir haben Maschinen die Fragen beantworten - wären die Menschen nur klug genug um sie zu nutzen...

@moredread:

moredread schrieb:Die KI, eine Erfindung, die Dinge kreieren kann, soll schlimmer sein, ...

Da liegt ein Mißverständnis vor. Ich schrieb (sinngemäß) "bedeutender", nicht "schlimmer". Das ist ein erheblicher Unterschied.

moredread schrieb:... wären die Menschen nur klug genug um sie zu nutzen...

Ich arbeite jeden Tag durchschnittlich mehrere Stunden mit aktuellen KIs (siehe meine aktuelle Beitragshistorie). Bei bestimmten Themen bin ich allerdings skeptisch (das gilt für Modelle aller Anbieter), ob sie tatsächlich neutral sind.

Ich habe allerdings, wie ich oben schon schrieb, keine Lust, eine kontroverse Diskussion über diesen speziellen Aspekt zu führen, da letztendlich niemand weiss, wie sich die Dinge wirklich entwickeln werden.

moredread schrieb:Also mal ganz langsam: Die KI, eine Erfindung, die Dinge kreieren kann, soll schlimmer sein, als die Erderwärmung, eine ausschließlich negative Auswirkung der Industrialsierung? Das ist Angstmache. Davon wissen nicht einmal intelligente KIs etwas, wenn ich sie frage, und sie bewerten das ganze auch anders. Der Klimawandel ist ganz klar gefährlicher und das lässt sich auch sehr leicht belegen. Inklusive aktueller Entwicklungen der KI. Ich würde ja sagen "behaupte etwas anderes", aber Du kannst den Kram den Du schreibst ja selbst mal bei einer KI eingeben. Wir haben Maschinen die Fragen beantworten - wären die Menschen nur klug genug um sie zu nutzen...

Allerdings benötigt KI ja auch Strom wird also auch den Klimawandel befeuern.

Das ist richtig. Aber der Klimawandel wird niemals Deine Steuererklärung machen, die KI aber möglicherweise das Problem des Klimawandels lösen. Der Klimawandel an sich kann nichts, hat aber viele doofe Nebenwirkungen. Kritik an der KI beruft sich in der Regel auf Ängste, die auf dem Film "Blade Runner" oder "Terminator" basieren, nicht auf der Realität. Das sind eventuelle Probleme zukünftiger Generationen. Erinnert mich an die Diskussionen über die Vor- und Nachteile davon auf dem Mond zu leben in den 60er Jahren. Ja, das macht bestimmt gesellschaftliche und religiöse Probleme (also das Leben auf dem Mond). Darüber können dann gerne die streiten, die die Option haben, dort zu leben. So sieht es halt auch mit der ASI aus (etwas das besser ist als schnöde AGI, Superintelligenz halt, auch ein schicker neuer Hypebegriff).

Ich nutze nun seit einiger Zeit GPT 6 Astra, und sehe meine Aussage von vor ca. eineinhalb Jahren klar bestätigt (der umfangreiche Beitrag, aus dem das Zitat stammt, erläutert mehr über meine allgemeine Sichtweise zu KI):

uatu schrieb am 02.02.2025:Der Tornado, der die Menschheit in die technologische Singularität führt, hat begonnen sich zu drehen.

Anfang bis Mitte letzten Jahres konnten die Frontier-Modelle meiner Erfahrung nach mit Softwareprojekten von ein paar Hundert bis höchstens einigen wenigen Tausend Codezeilen gut umgehen, aber das hat sich inzwischen drastisch geändert. Ich habe kürzlich GPT 6 Astra Codex (mit Max Reasoning und maximalem Kontext-Fenster) ein sehr anspruchsvolles Projekt mit einer sechstelligen Zahl an Codezeilen auf eine andere Plattform portieren lassen, und das Modell hat stundenlang ohne irgendeinen Eingriff selbsttätig eine Version nach der anderen compiliert, Fehler und Unschönheiten gefunden und behoben, darunter sogar Fehler in der Originalversion, die gar nichts mit der Portierung zu tun hatten, dabei -- ohne irgendwelche entsprechende Anweisungen -- umfangreiche Hilfs- und Testprogramme geschrieben, Dokumentation erstellt, und letztendlich im ersten Anlauf (!) ein nahezu perfektes Ergebnis abgeliefert. Die Entwicklung einer hardwarenahen Software lief ähnlich beeindruckend ab.

Ein kurzer allgemeiner Hinweis: Ich spreche hier von Frontier-Modellen mit hohen Reasoning- und ggf. weiteren leistungserhöhenden Einstellungen. Gratis- oder Sofort-antworten-Modelle sind damit noch nicht mal annähernd vergleichbar.

Obwohl Softwareentwicklung nicht mein Haupt-Arbeitsgebiet ist, habe ich ziemlich tiefgehende Erfahrung damit. Ich habe u.a. kommerzielle Compiler, Interpreter, CPU-Emulatoren, Gerätetreiber, Mathematik-Bibliotheken, und vieles andere entwickelt oder die Entwicklung geleitet. Aber obwohl ich die aktuelle KI-Entwicklung seit Jahrzehnten vorhergesagt habe (was z.T. auch hier im Forum nachzulesen ist), staune ich selbst über die ungeheure Leistungsfähigkeit der aktuellen Modelle. Das übersteigt jetzt schon die Fähigkeiten jedes Menschen bei weitem. Ja, ich hätte die oben beschriebenen Projekte auch selbst umsetzen können, aber ich hätte Wochen gebraucht für was Codex nur Stunden brauchte.

Noch sind Menschen im Entwicklungs-Loop neuer KI-Modelle, aber der Anteil, den bestehende KIs selbst beitragen, steigt. Das ist genau die Entwicklung, die dem Konzept der Technologischen Singularität entspricht, und sie beschleunigt sich immer weiter. Ich weiss nicht, wo sie hinführt, aber ich glaube nicht, dass sie aufhaltbar ist.

stefan33 schrieb am 13.02.2025:Ja, das war auch die Meinung einer Reihe von Wissenschaftlern, die vor einiger Zeit befragt wurden, was denn die größte Bedrohung der Menschheit sei. Da kam KI noch vor der Erderw

Es muss nicht so kommen, wenn es gut kontrolliert wird.
Natürlich, wenn man es laufen lässt, sich "selbst" überlässt kann es unter umständen sehr gefährlich werden, siehe "terminator", wenn sich eine oder mehrere wichtige KIs selbstständig machen und den Menschen als Bedrohung ansehen.

uatu schrieb am 11.09.2026:Anfang bis Mitte letzten Jahres konnten die Frontier-Modelle meiner Erfahrung nach mit Softwareprojekten von ein paar Hundert bis höchstens einigen wenigen Tausend Codezeilen gut umgehen, aber das hat sich inzwischen drastisch geändert. Ich habe kürzlich GPT 6 Astra Codex (mit Max Reasoning und maximalem Kontext-Fenster) ein sehr anspruchsvolles Projekt mit einer sechstelligen Zahl an Codezeilen auf eine andere Plattform portieren lassen, und das Modell hat stundenlang ohne irgendeinen Eingriff selbsttätig eine Version nach der anderen compiliert, Fehler und Unschönheiten gefunden und behoben, darunter sogar Fehler in der Originalversion, die gar nichts mit der Portierung zu tun hatten, dabei -- ohne irgendwelche entsprechende Anweisungen -- umfangreiche Hilfs- und Testprogramme geschrieben, Dokumentation erstellt, und letztendlich im ersten Anlauf (!) ein nahezu perfektes Ergebnis abgeliefert. Die Entwicklung einer hardwarenahen Software lief ähnlich beeindruckend ab.

Ein kurzer allgemeiner Hinweis: Ich spreche hier von Frontier-Modellen mit hohen Reasoning- und ggf. weiteren leistungserhöhenden Einstellungen. Gratis- oder Sofort-antworten-Modelle sind damit noch nicht mal annähernd vergleichbar.

Hi :-)
Hast du auch Erfahrung mit Claude und kannst beide Modelle vergleichen hinsichtlich ihrer Leistungsfähigkeit?