Künstliche Intelligenz

@moredread

Ja sollten wir, hast Du vom Handy geschrieben? So lange für so wenig Text? Egal, ja das mit 1.000 € für Kühlung ist übel, ich habe da vorhin von ChatGPT für meine 3060 RTX mit 12 GB VRAM echt gute Tipps bekommen, so an Modellen, die sind so gut gewesen, dass ich mir nun keinen Server mehr bauen werde, also wo schon aber nicht mit 2 EPIC und 768 GB RAM.

Gut ist ja, der geile Scheiß wird immer günstiger und besser, und GPT meint, ja mit 12 GB und einer 3060 RTX kann man schon gut was reißen, gute Modelle kommen dann so auf 3 bis 7 Token/s oder andere sogar auf über 10.

In den nächsten paar Monaten werde ich mal was schrauben und hier berichten, bin nicht traurig hier mir die 3.500 € zu sparen.

nocheinPoet schrieb:Das könnte dann wirklich richtig ein großer Schritt werden, mit Chance bekommen wir noch vor 2030 Modelle, die stetig dazulernen und Milliarden an Token speichern können. Aktuell wird ChatGPT ja vor gefüttert, so um "Erinnerungen" über den Chat hinweg zu behalten.

Ich denke, deutlich früher. Die Zeithorizonte sind mittlerweile so geschrumpft, das die Leute verwirrt sind. Vor Zwei Montaten wurde eine neue Version von chat gpt rausgebracht. Die Erwartung: Die nächste Version mit einener mini version kommt ende des montats. Anderthalb Monatte später: Die nächste Version erscheint, 4.5 mini wird gelöscht und durch 4.1 ersetzt. Klingt sehr nach dem Szenario dieser Webseite:

https://ai-2027.com/

Verbessert sich KI möglicherweise schon selber? Die von Google sollte das theoretisch locker können.

moredread schrieb:Verbessert sich KI möglicherweise schon selber? Die von Google sollte das theoretisch locker können.

Theoretisch sollten aktuelle KI System den Code für eine neue Variante schreiben können und auch Fehler sowie Verbesserungen erarbeiten können. Die Frage ist daher eher, inwieweit sind diese Veränderungen am Ende für den Nutzer von Vorteil.
Kann ja auch sein, dass die KI sich selbst verbessert um sich quasi intelligenter zu machen, damit sie jeden Menschen ausboten kann.

nocheinPoet schrieb:Ja sollten wir, hast Du vom Handy geschrieben? So lange für so wenig Text? Egal, ja das mit 1.000 € für Kühlung ist übel, ich habe da vorhin von ChatGPT für meine 3060 RTX mit 12 GB VRAM echt gute Tipps bekommen, so an Modellen, die sind so gut gewesen, dass ich mir nun keinen Server mehr bauen werde, also wo schon aber nicht mit 2 EPIC und 768 GB RAM.

Gut, das klingt nämlich teuer und laut. Ich meine, wenn es das Problem löst schön, aber überleg mal, Du hättest Dir so eine Waschmaschine zu Hause hingestellt und erfährst 2 Monate später, das Du das ganze auch mit Deinem Notebook machen könntest, wäre schon ärgerlich ;-).

Ich habe mich eine Weile mit der KI unterhalten und gefragt was sinnvoll wäre. War mal interessant zu hören, die KI ging ganz weg von Intel und AMD. Intel - angesichts der zurückliegenden Fehlschläge und der kommenden Fehlentscheidungen steht sehr schlecht da. AMD hat da schon ein paar mehr Pfeile im Köcher angesichts der KI-CPUs, die sie ja jetzt rausbringen und der neuen Grafikkarten. Was Intel und AMD eint: Keiner der beiden Hersteller wird auch nur von einem der größen Cloudanbieter genutzt. Da führt jetzt ARM, und es scheint weiter lange vorne zu liegen. Wenn Du also nach einem Tipp suchst, das war er....

Yotokonyx schrieb:Theoretisch sollten aktuelle KI System den Code für eine neue Variante schreiben können und auch Fehler sowie Verbesserungen erarbeiten können. Die Frage ist daher eher, inwieweit sind diese Veränderungen am Ende für den Nutzer von Vorteil.
Kann ja auch sein, dass die KI sich selbst verbessert um sich quasi intelligenter zu machen, damit sie jeden Menschen ausboten kann.

Stichwort Alignment, genau das ist das Thema von der AI 2027 Webseite, die ich verlinkt hatte. Ich habe mit GPT3 angefangen, da kam es gerade erst raus. Und Himmel, das alte GPT war gruselig! Nachdem er mir einen guten Tipp gegeben hatte, hatte ich mich bedankt. Daraufhin die KI:

Es ist gut, wenn Du Dankbarkeit empfindest. Dann bist Du viel empfänglicher, für spätere Versuche, Dich zu manipulieren.

Sowas hat die KI immer wieder mal rausgehauen, das hat man mittlerweile gefixt.

Konkret geht es bei Alignment Problem um die Frage, ob die KI tut, was sie tut, um das Problem wie gewünscht zu lösen oder betrügt sie? Ein schönes Problem war bspw das LLM das einen Schachcomputer besiegen sollte und dann herausfand das viel einfacher als den doofen Gegner besiegen es ist, wenn man den Computer hackt und den Schachgegner zum aufgeben zwingt.

Ist bei Schach natürlich noch relativ einfach. Aber wie prüft man, wie ein Computer technische Aufgaben löst, die zu den schwersten Aufgaben der Welt zählen? Willkommen beim Alignment-Problem. Weil wir halt nicht wollen, das die Welt irgendwann von einem Schurkencomputer aus einem Marvel Film apokalyptisiert wird. Niemand will ein Skynet-Unalignment.