Künstliche Intelligenz

abbacbbc schrieb:Ja bewusst übertrieben, aber ich hätte gerne mal ein reales Scenario.

Ist ja nicht so, dass hier die letzten Seiten mindestens zwei mal ein Video dazu gepostet und 3-4 mal referenziert wurde...

Der Kanal hat neben Videos zum Thema an sich noch andere leicht abgewandelte Szenarien in Petto die wiederum auf theoretischen Szenarien beruhen und die nicht komplett vom Kanalbetreiber erfunden wurden, sondern quasi nur in Videoform dargestellt wurden.

Man kann sich vielleicht über den im einzelnen Video dargelegten Zeitrahmen streiten, aber dazu schrieb ich bereits, dass man ihn von mir aus etwas verlängern kann. Das Risiko ist aber gegeben.

Ich weiß nicht was man hier noch will - es wurde ja quasi schon durchgekaut. Oder hat man das alles überlesen und nicht angeguckt?

Als Beispiel nehmen wir mal den gleichen Kanal und nicht nur ein Video davon: Mehrere Videos zum Thema. Keine reinen 100%-igen eigenen Behauptungen sondern wiederkehrend Zitate von Forschern und KI-Größen - ehe man es bequem als reines Clickbait/Fearmongering abtun will. Gibts sicher auch viel von, aber wenn gewisse Forscher-Größen mitunter warnen, dann sollte man wohl gewisse Gefahren nicht einfach abtun, oder?

https://www.youtube.com/@AISpecies/videos

---

Ich meine wenn das Leute nicht juckt oder man das aus coping-Gründen abtun will ist das ja ok. Man soll dann aber bitte nicht überrascht vom Hocker fallen, wenn im worst-case manche Dominosteine anfangen umzukippen, obwohl es absehbar war weil man drauf hingewiesen wurde. Ob das binnen 5 oder 20 Jahren geschehen mag ist dann relativ trivial.

Ich kann nur hoffen, dass der worst-case nicht eintritt. Ich sehe aber für mich, dass die Wahrscheinlichkeit eines worst-case bedenklich genug ist.

Warden schrieb:Es ist im Grunde simpel:

Mir ist schon irgendwie klar, wie man sich das vorstellt. Und diese Dynamik ist auch nicht von der Hand zu weisen.

Es setzt aber eine KI voraus, die über eine hohe Autotomie verfügt und quasi alles planen und hacken kann. Ich seh das nicht. Das ist Fantasie.

Warden schrieb:st ja nicht so, dass hier die letzten Seiten mindestens zwei mal ein Video dazu gepostet und 3-4 mal referenziert wurde...

Der Kanal hat neben Videos zum Thema an sich noch andere leicht abgewandelte Szenarien in Petto die wiederum auf theoretischen Szenarien beruhen und die nicht komplett vom Kanalbetreiber erfunden wurden, sondern quasi nur in Videoform dargestellt wurden

Muss es immer in Videos enden.

Och finde das ermüdend, weil oft beim "in eigenen Worten wiedergeben" herauskommt , dass dann Drumherum Annahmen gemacht werden.

Also den Anfang des Videos gesehen und wieder den Standardfehler gesehen:

Die KI lernt... Und begreift.

Nein tut sie nicht. Ich habe heute mit KI programmiert. Es hat mich bestimmt 3h gespart, aber 1h gekostet.

Es hat nicht begriffen, dass in MS SQL Syntakt eine temporäre Tabelle nicht auf jeden Fall neu initialisiert wird wenn man Aufgaben in Schleifen erledigt.

Dabei ist es dann in eine Logikschleife abgestürzt.

"Ja der Fehler passiert , wenn du die Tabelle vor der Schleife initialisiert, du musst das so innerhalb machen"
"Mach ich doch "
"Oh ja sorry... Der Fehler den du hast passiert weil du die Tabelle außerhalb der Schleife initialisiert... Du musst..."
"Tu ich doch"
"Danke für den Hinweis. Du hast vollkommen Recht...aber der Fehler.....

Und ob das 1:100, 1:1000 oder 1:10000 passiert ist egal. Es sorgt dann nur für etwas längeren Betrieb bis die LLMs an einer Aufgabe scheitern.

Und solange das so ist muss ich schmunzeln über die Videos die von "exponentielle Lerndaten" fabulieren, denn dann würde ich ja gar keine Fehler auf einfachem Niveau sehen.

MS SQL bzw TSQL.... Ganz geheime Syntax, ganz geheime Programmierregeln. Neeeee....

abbacbbc schrieb:Danke für den Hinweis. Du hast vollkommen Recht...aber der Fehler.....

Das sind Erfahrungswerte, die man nur im praktischem Umgang mit der KI bekommt.

Okay, man kann noch irgendwelche Rollenspieltexte in die KI reintippen. Aber dann bekommt man diese Fantasie auch gespiegelt.

---

Dann ist es noch so, das unsere Welt doch viel zu chaotisch aufgebaut ist, als das da ein Mastermind diesen einen Plan durchführen könnte.

Klar, eine Superintelligenz kann das dann bestimmt. Auf diese weise muss man sich aber auch keiner Argumentation mehr stellen.

Negev schrieb:Es setzt aber eine KI voraus, die über eine hohe Autotomie verfügt und quasi alles planen und hacken kann. Ich seh das nicht. Das ist Fantasie.

abbacbbc schrieb:Muss es immer in Videos enden.

Och finde das ermüdend, weil oft beim "in eigenen Worten wiedergeben" herauskommt , dass dann Drumherum Annahmen gemacht werden.

Also den Anfang des Videos gesehen und wieder den Standardfehler gesehen:

Die KI lernt... Und begreift.

Nein tut sie nicht. Ich habe heute mit KI programmiert. Es hat mich bestimmt 3h gespart, aber 1h gekostet.

Es hat nicht begriffen, dass in MS SQL Syntakt eine temporäre Tabelle nicht auf jeden Fall neu initialisiert wird wenn man Aufgaben in Schleifen erledigt.

Dabei ist es dann in eine Logikschleife abgestürzt.

"Ja der Fehler passiert , wenn du die Tabelle vor der Schleife initialisiert, du musst das so innerhalb machen"
"Mach ich doch "
"Oh ja sorry... Der Fehler den du hast passiert weil du die Tabelle außerhalb der Schleife initialisiert... Du musst..."
"Tu ich doch"
"Danke für den Hinweis. Du hast vollkommen Recht...aber der Fehler.....

Und ob das 1:100, 1:1000 oder 1:10000 passiert ist egal. Es sorgt dann nur für etwas längeren Betrieb bis die LLMs an einer Aufgabe scheitern.

Und solange das so ist muss ich schmunzeln über die Videos die von "exponentielle Lerndaten" fabulieren, denn dann würde ich ja gar keine Fehler auf einfachem Niveau sehen.

MS SQL bzw TSQL.... Ganz geheime Syntax, ganz geheime Programmierregeln. Neeeee....

Schreiben wir alle aneinander vorbei oder wie?

Negev schrieb:Dann ist es noch so, das unsere Welt doch viel zu chaotisch aufgebaut ist, als das da ein Mastermind diesen einen Plan durchführen könnte.

Klar, eine Superintelligenz kann das dann bestimmt. Auf diese weise muss man sich aber auch keiner Argumentation mehr stellen.

Genau das ist doch der Punkt. Wir reden doch hier von Superintelligenzen und nicht irgendwelchen Chatbots/LLMs heute die bei mäßigen Aufgaben noch Fehler machen. Es geht doch am Punkt vorbei wenn ihr beide die heutigen Fähigkeiten als Zenith oder Argumentationspunkt nehmt. Darum geht es ja gar nicht.

Der Punkt ist, dass wir von einer oder mehreren Entität/en reden die irgendwann so wirkfähig ist bzw. sind, dass selbst die klügsten Köpfe der Menschheit individuell oder alle zusammen wie Steinzeitmenschen aussehen. Für die Menschen fast wie in Zeitlupe denken und sich fortentwickeln weil die sich mit Problemlösung hundert oder hunderttausendfach potentieren und an Problemen und Szenarien in kürzester Zeit arbeiten kann. Die dann ggf. eine ganz andere interne Logik oder (Programmier-)Sprache hat die nicht so transparent ist wie man es gerne hätte.

Das ist aber halt nicht zwingend eine Sache die erst in 100 Jahren passieren kann - sondern in 5, 10, 15, 20, 25 vielleicht. Zu Lebzeiten der meisten hier noch.

Warden schrieb:Genau das ist doch der Punkt. Wir reden doch hier von Superintelligenzen und nicht irgendwelchen Chatbots/LLMs heute die bei mäßigen Aufgaben noch Fehler machen. Es geht doch am Punkt vorbei wenn ihr beide die heutigen Fähigkeiten als Zenith oder Argumentationspunkt nehmt. Darum geht es ja gar nicht.

Keine Ahnung.... Im Alienteil des Forums geht es auch immer darum, dass doch noch morgen Aliens auftauchen.

Woher ist die empirische Erfahrung, dass wir uns auf Super Intelligenzen zubewegen ??

Warden schrieb:Schreiben wir alle aneinander vorbei oder wie?

Ich gehe gerne von gestern und heute aus und interpoliere das in die Zukunft .

Aber wir hatten das ja schöne .... Noch 5 Monate bis zu selbstlernenden KIs ohne "fatalem Vergessen"

Warten wir es ab....

Gönn dir Dumbledore - Runde 4 #renitschki #harrypotter

Externer Inhalt
Durch das Abspielen werden Daten an Youtube übermittelt und ggf. Cookies gesetzt.

Fast schon witzig.
Die Qualität hat mich gerade voll überrascht.

abbacbbc schrieb:Keine Ahnung.... Im Alienteil des Forums geht es auch immer darum, dass doch noch morgen Aliens auftauchen.

Woher ist die empirische Erfahrung, dass wir uns auf Super Intelligenzen zubewegen ??

Vom Entwickler bzw. Planer einer der bekanntesten Modelle selbst:

Our mission is to ensure that artificial general intelligence—AI systems that are generally smarter than humans—benefits all of humanity⁠.

[...]

Quelle: https://openai.com/index/planning-for-agi-and-beyond/

'artificial general intelligence' (AGI) = Superintelligenz

Die Wissenschaft bzw. darin forschende Akteure scheinen grundsätzlich davon auszguehen, dass diese mehr oder minder zeitnah erreichbar sind, wenn gewisse Hürden die augenscheinlich theoretisch überwindbar erscheinen - wie hohe Energiekosten oder so - überwunden werden können. Es ist also offenkundig kein unerreichbarer Traum sondern relativ greifbar; manche Akteure nennen zum Beispiel 2030 als groben Meilenstein oder als Zielmarke wo es nach deren Ansicht so weit sein könnte (Google Deepmind)

Ein neues, aufrüttelndes Forschungspapier von Google DeepMind prognostiziert, dass künstliche allgemeine Intelligenz (Artificial General Intelligence, AGI) – eine KI, die der menschlichen Intelligenz gleichkommt oder sie sogar übertrifft – bis zum Jahr 2030 entstehen könnte, was zu katastrophalen Risiken führen könnte, einschließlich der „dauerhaften Zerstörung der Menschheit“.

The study, co-authored by DeepMind co-founder Shane Legg, does not address how AGIs could lead to human extinction, but warns that their development must be strictly regulated to prevent misuse, maladaptation and structural errors.

Die wichtigsten Erkenntnisse aus der Warnung von Google DeepMind

[...]

Abschließendes Urteil: Müssen wir uns Sorgen machen?

Die Warnung von Google DeepMind ist keine Science-Fiction, sondern eine ernsthafte Vorhersage eines der weltweit führenden KI-Labore. Während AGI die Medizin, Wissenschaft und Industrie revolutionieren könnte, droht bei unkontrollierter Entwicklung eine Katastrophe.

Quelle: https://tech-now.io/blog/google-warnt-dass-ki-bis-2030-menschliche-intelligenz-erreichen-konnte-was-risiken-birgt
Direktquelle (glaub ich, ad-hoc gesucht und nachgetragen): https://deepmind.google/discover/blog/taking-a-responsible-path-to-agi/

Wenn ich deine Formulierung nehmen darf: Wir bewegen uns bisher definitiv auf AKIs/AGIs (Superintelligenzen) zu. Wir können derzeit erkennen, dass sich mit technischem Wandel bisherige Modelle bisher weiterentwickeln und nicht stagnieren. Wenn sich doch eine für alle unüberwindbare Hürde einstellen sollte, werden wir es merken. Bisher ist aber nicht zwingend davon auszugehen.

Das Recap:

1. Staatliche und privatwirtschaftliche Hauptakteure bei dem Thema wollen (idealerweise zuerst, vor ihren Konkurrenten ob im privatwirtschaftlichen oder staatlichen Sinne) Supterintelligenzen, weil man sich davon viel verspricht und man wird wegen diesem Wettrennen auch nicht mehr davon ablassen wollen - is grob wie damals zuerst Nuklearwaffen haben wollen
   
2. Bisher bewegen wir uns auf AGIs zu - auch wenn es manchmal in der genauen Definition verschiedene Meinungen gibt
   
3. Die Gefahrenpotentiale wurden teils hier und im Netz bisher ausreichend skizziert

Warden schrieb:Vom Entwickler bzw. Planer einer der bekanntesten Modelle selbst:

So wie Elon Musk vorhergesagt hat, dass seine Teslas alle autonom Fahren können. Bald... Ganz alleine ;)

Bringt immer gut Investoren zum Investieren ;)


Warten wir es ab....


Hier mal eine für mich ähnliche Einschätzung:

Fahrplan in die Zukunft
18. Januar 2014, 23:04 Uhr

Bis zum Ende dieses Jahrzehnt sollen deutsche Automobile aber ganz autonom sein - und von ihrem Fahrer lernen.

Quelle:

https://www.sueddeutsche.de/auto/autonomes-fahren-fahrplan-in-die-zukunft-1.1864972

Und 2025..... Alter Hut was die Entwickler deutscher Automobile über die Zukunft des deutschen autonomen Fahrens gesagt haben oder ??

Hast du schon den Trick gehört um von LLMs zu AGIs zu kommen ??

Ein kleines Modell , was die Grundrechenarten "erlernt" hat, wäre doch was :)

Das Thema "Künstliche Intelligenz" wird in Heft #34 der Wahnsinnswelt behandelt (Pfeil nach links):

https://wahnsinnswelt.online/de

Negev schrieb:Die Qualität hat mich gerade voll überrascht.

Aufgrund der rezitierenden Sprechweise fällt es nicht auf, dass es Sprach-KI ist.

Warden schrieb:Schon vor 10-15 Jahren war mir generative Technik mit Text-to-Speech (TTS) nützlich und dienlich, gerade wenn man selbst kein Tonstudio oder Hardware für professionell klingende Sprachausgaben oder gesprochene Texte hat und sich mehr nicht leisten konnte. Hat man früher nicht "KI" zu gesagt wie der Volksmund heute alles mit KI labelled. Neu ist die Technik aber auch nicht, TTS gibts schon ewig.

Im James Bond Diamantenfieber (1971) gibts eine Szene, wo der Doppelgänger von Blofeld in ein Telefon spricht, das seine Stimme automatisch in Blofelds Stimme umwandelt.

Kleine Feiertags-Berechnung mit ChatGPT:

Frage war, auf welche Wochentage Silvester 2025 und Neujahr 2026 fallen.
Hier das erstaunliche Ergebnis: :)

Silvester & Neujahr
31. Dezember 2025 – Mittwoch (Silvester)
1. Januar 2026 – Freitag (Neujahr)

Quelle: ChatGPT

@RogerHouston

Wow, ChatGPT ist jetzt auch noch ein Magier geworden.
Mal eben einfach den Donnerstag verschwinden lassen.
Nicht schlecht. :D

Was mir bei Fehlern in Chat GPT in letzter Zeit häufig auffällt ist die Vertuschung von diesen.
Du weißt darauf hin, dass es einen Fehler gemacht hat aber anstatt einfach das zuzugeben, geht es in die Richtung das es dies doch schon vorher erwähnt hat oder die Daten an sich einfach falsch sind.

Erst heute ist mir das wieder untergekommen, als es die Biochips zu Bewusstseins Kontrolle in Cyberpunk Games vorkommen vergleichen sollte. In Deus Ex gibt es die Möglichkeit so einen Chip im Game zu bekommen oder den nicht anzunehmen. Das hat hinterher bei einem Bossfight eine entsprechende Auswirkung.
Nimmt man den Chip nicht meinte GPT das man dann auch keinen Bossfight hat. Was an sich komplett falsch ist, ob mit oder ohne Chip der Bossfight findet sowieso statt.
Darauf angesprochen, behauptete es das es nicht seine schuld ist, sondern irgendwelche Gamer dies im Internet so gesagt hätten und daher dies so geschildert hat.

Vielleicht etwas anderes Thema...

Seid ihr auch im KI-Stress?
Gefühlt jede Woche kommt ein Update - bei dem die KI in irgendetwas noch besser wird oder direkt einen Sektor übernimmt. Und dann steht man da ... "ja, schön. Will ich auch". Aber das sind Branchen, in denen Menschen Jahre lang Arbeiten und man muss immer noch Skill und Talent mitbringen. Einfach um keinen Quatsch zu produzieren bzw. Content zu erstellen, den man sich auch gerne anschaut oder anhört.

Text-, Bildgenerierung, Audio, Music ... diese 8 Sekunden Videos - da ist noch Luft nach oben. Plötzlich ist man Potentiell Schreiber, Autor, Coder, Musikproduzent, Maler, 3D Artist, Marvel-Regisseur.

Aktuell beschäftige ich mich mit 3D Design, Anime etc. Ich will diese Bilder, die ich mit Flux oder SDXL erstelle, einfach für mehr verwenden. Aber ich hab schnell gemerkt, welcher Rattenschwanz dahinter steht. Hinter einer Sekunde Video kann ein ganzer Arbeitstag stecken.
Das hab ich komplett unterschätzt.
Und jetzt kann ich auch viel besser nach vollziehen welches Drama sich abspielen muss, wenn KI plötzlich in einem Bereich brauchbare Ergebnisse liefert.

Wer brauch denn wirklich noch 3D Artists, wenn man mit ein paar einfachen Bildern, die man mit dem Smartphone macht, eine Komplexe 3D Skulptur erstellen kann?
Oder im Bereich Programmierung. Klar, heute hat die KI bestenfalls noch das Level / die Nützlichkeit eines Anfängers bis Fortgeschrittenen aber das wird nicht so bleiben.

Wer jetzt noch sagt, KI ist wie andere Revolutionen in der Vergangenheit - es entstehen mehr Jobs, als vernichtet werden, kann meiner Meinung nach keinen neuen Blickwinkel annehmen.

Für Programmierer heißt das, dieser Job wird nie aussterben. Wir werden immer Top Leute mit Erfahrung brauchen, welche die die KI orchestrieren und das Zeug wirklich verstehen.
Das heißt aber auch, das diese Leute erst einmal 10 (Radom Zahl) Jahre in Ausbildung sind, bevor sie irgendetwas sinnvolles zum Thema beitragen können.
Ich kann mir kein Unternehmen Vorstellen, das erst einmal sein Personal 10 Jahre Einarbeitet.

Meiner Meinung nach kann das aber die Gesellschaft abfangen. Einfach in dem wir die Menschen machen lassen, worauf sie Lust haben. In Schulen/Universitäten oder Ideenschmieden (die KI wird nie auf neue Gedanken kommen) kann das Organisiert und Trainiert werden.

Um den Bogen zu schlagen, ich werde mir einen Udemy-Kurs gönnen um Blender richtig bedienen zu lernen. Eine Zukunft als 3D Artist sehe ich nicht mehr aber ich glaube, ich hab in diesem KI Wust tatsächlich etwas gefunden, das mir Spaß macht.

RogerHouston schrieb:Hier das erstaunliche Ergebnis: :)

Und das sind für mich immer die Hinweise:

OpenAI hat eine kleine AGI schon entwickelt, die korrigierte in Hintergrund die logisch dümmlichen Daten Streit die aber wieder ein, um Lacher zu generieren;)

Negev schrieb:Seid ihr auch im KI-Stress?

Nö...

Negev schrieb:ja, schön. Will ich auch"

Dann scheint sich das als Konsument ja zu fixen. Ich springe mit meinen Aufgaben mal hier mal da , um zu testen, aber fange jetzt nicht an wild Neues zu probieren.

Aber klar könnte man. Schonmal in das Hobbysport Freizeitblatt gesehen, was einen alles fit hält und was man alles machen könnte ;)

Negev schrieb:Wer jetzt noch sagt, KI ist wie andere Revolutionen in der Vergangenheit - es entstehen mehr Jobs, als vernichtet werden, kann meiner Meinung nach keinen neuen Blickwinkel annehmen.

Ist das so??

Ich habe vor 3 Jahren 3 Industrieroboter aufgestellt. Aus 14 Mitarbeitern wurden 3.

Wieso vor 3 Jahren: günstiges Roboterangebot + meine Wenigkeit ;) + neue langfristige Auftragslage

Ich glaube das Verhältnis, was du entdeckt hast, zu verlorengegangener benötigtem Arbeitsbedarf ist nicht neu.

abbacbbc schrieb:Ich glaube das Verhältnis, was du entdeckt hast, zu verlorengegangener benötigtem Arbeitsbedarf ist nicht neu

Auch vor dieser Odyssee war mir klar, das KI die Gesellschaft anders treffen wird.
Aber man hört diese Stimmen immer wieder - gerne mit dem direkten Verweis auf die Dampfmaschine.

abbacbbc schrieb:Schonmal in das Hobbysport Freizeitblatt gesehen, was einen alles fit hält und was man alles machen könnte ;

Das so wieso. 😀
Das klügste, das man machen kann.

Negev schrieb:Aber man hört diese Stimmen immer wieder - gerne mit dem direkten Verweis auf die Dampfmaschine.

Deswegen habe ich den Industrieroboter gezogen :


Original anzeigen (0,9 MB)


Und aktuell....programmieren; ich tippe ich bin doppelt schnell... Mit mehreren Programmiersprachen, wobei ich manche gar nicht gut beherrsche, aber dank LLM....

Von daher: ja für manche Berufsfelder wird sich hart was tun. Aber wenn ich in meiner Firma in die Buchhaltung komme.... 2 Personen + Chef.... Früher waren es 15. Klar liegen da bestimmt 20 Jahre dazwischen, aber keienr schafft morgen sein 3D Designteam ab, weil er selber ja was kann.

Und dann soll er ein volles Weinglas machen und steht da ;)

abbacbbc schrieb:Und dann soll er ein volles Weinglas machen und steht da

Gott bewahre, uns wächst irgendwann mal ein sechster Finger 😁.

---

Hab ja auch nicht gesagt, das man komplett auf das Personal verzichten sollte oder kann:

abbacbbc schrieb:Und aktuell....programmieren; ich tippe ich bin doppelt schnell

Negev schrieb:Für Programmierer heißt das, dieser Job wird nie aussterben. Wir werden immer Top Leute mit Erfahrung brauchen, welche die die KI orchestrieren und das Zeug wirklich verstehen.
Das heißt aber auch, das diese Leute erst einmal 10 (Radom Zahl) Jahre in Ausbildung sind, bevor sie irgendetwas sinnvolles zum Thema beitragen können.
Ich kann mir kein Unternehmen Vorstellen, das erst einmal sein Personal 10 Jahre Einarbeitet.