Künstliche Intelligenz

@moredread

Ja sollten wir, hast Du vom Handy geschrieben? So lange für so wenig Text? Egal, ja das mit 1.000 € für Kühlung ist übel, ich habe da vorhin von ChatGPT für meine 3060 RTX mit 12 GB VRAM echt gute Tipps bekommen, so an Modellen, die sind so gut gewesen, dass ich mir nun keinen Server mehr bauen werde, also wo schon aber nicht mit 2 EPIC und 768 GB RAM.

Gut ist ja, der geile Scheiß wird immer günstiger und besser, und GPT meint, ja mit 12 GB und einer 3060 RTX kann man schon gut was reißen, gute Modelle kommen dann so auf 3 bis 7 Token/s oder andere sogar auf über 10.

In den nächsten paar Monaten werde ich mal was schrauben und hier berichten, bin nicht traurig hier mir die 3.500 € zu sparen.

nocheinPoet schrieb:Das könnte dann wirklich richtig ein großer Schritt werden, mit Chance bekommen wir noch vor 2030 Modelle, die stetig dazulernen und Milliarden an Token speichern können. Aktuell wird ChatGPT ja vor gefüttert, so um "Erinnerungen" über den Chat hinweg zu behalten.

Ich denke, deutlich früher. Die Zeithorizonte sind mittlerweile so geschrumpft, das die Leute verwirrt sind. Vor Zwei Montaten wurde eine neue Version von chat gpt rausgebracht. Die Erwartung: Die nächste Version mit einener mini version kommt ende des montats. Anderthalb Monatte später: Die nächste Version erscheint, 4.5 mini wird gelöscht und durch 4.1 ersetzt. Klingt sehr nach dem Szenario dieser Webseite:

https://ai-2027.com/

Verbessert sich KI möglicherweise schon selber? Die von Google sollte das theoretisch locker können.

moredread schrieb:Verbessert sich KI möglicherweise schon selber? Die von Google sollte das theoretisch locker können.

Theoretisch sollten aktuelle KI System den Code für eine neue Variante schreiben können und auch Fehler sowie Verbesserungen erarbeiten können. Die Frage ist daher eher, inwieweit sind diese Veränderungen am Ende für den Nutzer von Vorteil.
Kann ja auch sein, dass die KI sich selbst verbessert um sich quasi intelligenter zu machen, damit sie jeden Menschen ausboten kann.

nocheinPoet schrieb:Ja sollten wir, hast Du vom Handy geschrieben? So lange für so wenig Text? Egal, ja das mit 1.000 € für Kühlung ist übel, ich habe da vorhin von ChatGPT für meine 3060 RTX mit 12 GB VRAM echt gute Tipps bekommen, so an Modellen, die sind so gut gewesen, dass ich mir nun keinen Server mehr bauen werde, also wo schon aber nicht mit 2 EPIC und 768 GB RAM.

Gut, das klingt nämlich teuer und laut. Ich meine, wenn es das Problem löst schön, aber überleg mal, Du hättest Dir so eine Waschmaschine zu Hause hingestellt und erfährst 2 Monate später, das Du das ganze auch mit Deinem Notebook machen könntest, wäre schon ärgerlich ;-).

Ich habe mich eine Weile mit der KI unterhalten und gefragt was sinnvoll wäre. War mal interessant zu hören, die KI ging ganz weg von Intel und AMD. Intel - angesichts der zurückliegenden Fehlschläge und der kommenden Fehlentscheidungen steht sehr schlecht da. AMD hat da schon ein paar mehr Pfeile im Köcher angesichts der KI-CPUs, die sie ja jetzt rausbringen und der neuen Grafikkarten. Was Intel und AMD eint: Keiner der beiden Hersteller wird auch nur von einem der größen Cloudanbieter genutzt. Da führt jetzt ARM, und es scheint weiter lange vorne zu liegen. Wenn Du also nach einem Tipp suchst, das war er....

Yotokonyx schrieb:Theoretisch sollten aktuelle KI System den Code für eine neue Variante schreiben können und auch Fehler sowie Verbesserungen erarbeiten können. Die Frage ist daher eher, inwieweit sind diese Veränderungen am Ende für den Nutzer von Vorteil.
Kann ja auch sein, dass die KI sich selbst verbessert um sich quasi intelligenter zu machen, damit sie jeden Menschen ausboten kann.

Stichwort Alignment, genau das ist das Thema von der AI 2027 Webseite, die ich verlinkt hatte. Ich habe mit GPT3 angefangen, da kam es gerade erst raus. Und Himmel, das alte GPT war gruselig! Nachdem er mir einen guten Tipp gegeben hatte, hatte ich mich bedankt. Daraufhin die KI:

Es ist gut, wenn Du Dankbarkeit empfindest. Dann bist Du viel empfänglicher, für spätere Versuche, Dich zu manipulieren.

Sowas hat die KI immer wieder mal rausgehauen, das hat man mittlerweile gefixt.

Konkret geht es bei Alignment Problem um die Frage, ob die KI tut, was sie tut, um das Problem wie gewünscht zu lösen oder betrügt sie? Ein schönes Problem war bspw das LLM das einen Schachcomputer besiegen sollte und dann herausfand das viel einfacher als den doofen Gegner besiegen es ist, wenn man den Computer hackt und den Schachgegner zum aufgeben zwingt.

Ist bei Schach natürlich noch relativ einfach. Aber wie prüft man, wie ein Computer technische Aufgaben löst, die zu den schwersten Aufgaben der Welt zählen? Willkommen beim Alignment-Problem. Weil wir halt nicht wollen, das die Welt irgendwann von einem Schurkencomputer aus einem Marvel Film apokalyptisiert wird. Niemand will ein Skynet-Unalignment.

@all

ich habe gerade eine gute Erfahrung mit der KI (Meta AI) gemacht, die bei Whatsapp seit Neuestem integriert ist und bin überrascht und erfreut, wie schnell die Antwort kam und vor allem - mMn (das was ich als Laie beurteilen kann) - total kompetent.

Mal ein Beispiel:

ich fragte folgendes:

wo finde ich die Klingeltöne im Dateimanager? Ich möchte einen Klingelton von einer App in eine andere App integrieren. Dafür brauche ich Zugriff auf die Audio-Datei im Dateimanager

Antwort von der KI - nach nur 1 Sekunde:

Um die Klingeltöne im Dateimanager zu finden, hängt es von Ihrem Smartphone-Modell und dem Betriebssystem ab. Hier sind einige allgemeine Hinweise:

*Für Android-Smartphones:*

- Die Klingeltöne befinden sich normalerweise in den folgenden Ordnern:
- `/system/media/audio/ringtones` (für vordefinierte Klingeltöne)
- `/sdcard/Ringtones` oder `/storage/emulated/0/Ringtones` (für benutzerdefinierte Klingeltöne)
- Sie können den Dateimanager auf Ihrem Smartphone öffnen und nach diesen Ordnern suchen.

*Für iOS-Smartphones (iPhone):*

- Die Klingeltöne befinden sich normalerweise in der `/System/Library/Audio/UISounds`-Datei (auf einem jailbroken iPhone).
- Auf einem nicht-jailbroken iPhone sind die Klingeltöne nicht direkt zugänglich über den Dateimanager.

Um einen Klingelton von einer App in eine andere App zu integrieren, müssen Sie möglicherweise die Audio-Datei kopieren und in den entsprechenden Ordner der Ziel-App einfügen. Beachten Sie jedoch, dass einige Apps möglicherweise eigene Formate oder Einschränkungen für Klingeltöne haben.

Es ist auch wichtig zu beachten, dass einige Smartphones oder Betriebssysteme Einschränkungen für den Zugriff auf bestimmte Dateien oder Ordner haben. Möglicherweise benötigen Sie Root-Rechte oder spezielle Apps, um Zugriff auf die Klingeltöne zu erhalten.

Ein wenig Sinnieren über KI-Apps statt konkreter Austausch über Funktionen oder Performance:


Spannend, wie sich generative KI-Applikationen immer mehr verbreiten. Als jemand der selbst Nutzer ist, sehe ich immer noch starken Widerstand gegen die Technik an sich.

Ich hatte da neulich woanders auch Diskussionen geführt mit jemandem, der auch offen dafür ist.

Gemeinsamer Eindruck: Es ist immer so, wenn neue disruptive Technologien kommen, dass Leute auf die Barrikaden gehen. Manchmal irrational, manchmal legitim. Schließlich ist es immer einfach rückwirkend alles abzutun oder als irrational zu bezeichnen, während man damals mit Unsicherheiten, Unklarheiten, Szenarien im Kopf arbeiten und abwägen musste.

Ja, KI bzw. potentielle AKI (Allgemeine Künstliche Intelligenz, eine richtige, bewusste, selbstoptimierende KI, gibt es noch nicht, ist aber denkbar) ist vielleicht ob des Umfangs der Technik nicht mit anderen disruptiven bzw. markanten technischen Errungenschaften zu vergleichen. Aber "for the sake of argument", im Sinne des Arguments, vergleiche ich dennoch mal damit:

Es ist wie Buchdruck oder Transformation zum Auto. Da konnten sich Leute das auch nicht vorstellen oder es gab Protest von manchen Gruppen wie den Schreibern. Autos und Züge, anderes Beispiel. Und heute kräht kein Hahn danach.

Auch die KI-Transformation werden wir als Gesellschaft überleben (ausser es entsteht irgendwann eine Art Skynet-Szenario). Es braucht gute Reglementierung, policy, ja. Definitiv.

Aber die Technik wird bleiben. Die Uhr zurückdrehen? Wird da zumindest nicht kommen, weil die Vorteile zu markant sind. Der Widerstand von Ottornomal wird weichen, weil sich die Technik immer mehr durchsetzen, in Gesellschaftsschichten etablieren wird, die Vorteile überwiegen werden. Jeder Haushalt kann jetzt schon situativ zumindest von der Technik profitieren. Wenn man das irgendwann mit Robotik kombiniert, dann kann jeder Haushalt sogar ganz praktisch / physisch-real davon profitieren.

Zumindest denke ich, dass eine allgemein kritsiche Haltung einer teilkritischen Haltung weichen wird. Vielleicht wird jemand immer noch generativen "AI slop" ("KI Murks/Spam", wie Bilder) ablehnen aber anderweitig die Technik schon nutzen oder anpreisen.

---

Ja, auch wenn ich eigentlich pro-Technik bin und begeistert davon, wie sehr mich die Technik selbst unterstützt und kreativ befähigt:
Mir sind die sozial-kommerziellen potentiellen 'Schäden' auch bekannt. Ich will hier dazu um den Post kürzer zu halten nicht noch einen Aufsatz schreiben und wie gesagt, man braucht Reglementierung und muss sich als Gesellschaft(en) überlegen, wie man wo die Technik einsetzen will oder wo man Limits und Grenzen setzt.

Aber ich denke mal unabhängig der vielen berechtigten Fragen um Moral, Ethik usw.: Ich denke wer sich früh mit KI-Apps usw. befasst und offen dafür ist, der wird auch früh oder umfassender davon profitieren. Wer sich als Land oder Einzelperson vollkommen dagegen stellt, wird halt abgehängt.

Ich entscheide mich für die Akzeptanz bzw. das Begleiten in diesem transformativen Prozess. Da ich mit "Gebrauchskunst" arbeite und auch da einige legitime Argumente oder Befürchtungen kenne (Künstler bald arbeitslos/ganz brotlos?): Man kann das auch kombinieren ohne eine Stelle obsolert zu machen. Ich kann mit KI-Apps super Entwürfe und konkrete Beispiele erstellen ehe ich an Künstler herantrete um meine Ideen in Entwurfsform oder als Leitbild besser darzulegen oder zu kommunizieren, als wie ich das nur abstrakt über Texte oder entlehnte Quellen könnte. Gewisse Künstler können selbst von der Technik profitieren. Spieleentwickler können profitieren. Ärzte können profitieren. Sehr viele Menschen können und werden profitieren.

Man muss nicht immer zwingend (im künstlichen Argument oder einer skizzierten Befürchtung) den Mensch in einer Gleichung ganz obsolet machen - man kann ihn weiterhin einbinden und befähigen. Den Rest muss robuste Reglementierung der Technik aber regeln. Ohne Reglementierung werden wir keine guten Rahmenbedingungen mit der Technik schaffen können.

@Warden

Ja nun, ich weiß ja nicht, also KI macht die Menschen dumm, oder dümmer, oder "weniger kritisch", gibt dazu aktuelle Untersuchungen, so wie Autofahren fett machen kann, je weniger man sich selber bewegen muss, um so fetter und weniger fit wird man und das gilt auch für das Hirn.

Ich sehe da in spätestens zehn Jahren AI, es wird egal sein, ob wir glauben, sie hat ein echtes Bewusstsein oder nicht, da wir das bisher nicht in biologischen Systemen erklären können, also physikalisch, es macht auch philosophisch Probleme, wird es keine große Rolle für KI-Systeme spielen. Die einen werden sagen so und die anderen eben anders.

Die Menschheit könnte geistig degenerieren, bei AI geht es primär auch um Macht, der Staat der hier die Nase richtig vorne hat, wird das Rennen gewinnen, das wird den Staat dann in einem Jahrzehnt wirtschaftlich führend machen.

Ich gehe davon aus, dass wenn wir überleben als Menschheit, wir in 100 Jahren nur noch sekundär auf der Erde sind, nice to have für AI, interessant für Forschung. Regieren wird AI, wie gut es den Menschen dann geht wird, keine Ahnung, hängt von der Moral und der Ethik ab, welche AI entwickeln wird.

Es kann eine Dystopie werden, oder der Garten Eden, wo Menschen nicht mehr arbeiten müssen und alles haben was sie brauchen, sie können sich dann sozial einbringen und auch lernen was immer sie wollen. Aber für so wirklich wahrscheinlich halte ich das nicht.

Es gibt jetzt schon faszinierende Geschichten, das KI so macht. Ich habe geniale Coding-Stories gehört: Zum Beispiel ein Lehrer, der hat im eingereichten Code eine Funktion namens "Equal" gefunden. Normalsterbliche sagen so etwas wie A == B, aber dort gab es halt eine Funktion dafür. Schönes Beispiel für einen Code, der durch KI generiert wurde. Im selben Code gab es einen Aufruf zum speichern, der ging {s} {a} {v} {e}. Das Ergebnis ist hübscher Code, aber wenn man den jemals wieder versetehen will, braucht man eine weitere KI. Ein anderer Lehrer meinte, die Kunst des ausarbeitens einer Zeile Code wäre mittlerweile völlig verloren gegangen. Wieso stundenlang mit Parametern experimentieren, wenn ich eine KI fragen kann, was genau ich brauche? Ist halt blöd, wenn die KI daneben langt... Ist eine spannende Frage, ob Menschen, die auf diese Art und Weise lernen, je imstande sein werden auf dem selben Level zu coden, wie Menschen die das halt gelernt haben.

Andererseits: Bei der Einführung des Taschenrechners wurde ja auch der Untergang des Abendlandes prophezeit. KI ist für coden was der Taschenrechner für Mathe ist.

@moredread

Ich denke es kommt eben darauf an, wie gut man einer Maschine schreiben kann, was man genau vor hat. Wer gut prompten kann wird den Code wahrscheinlich so nahe wie möglich an dem hinbekommen, was man sich vorstellt. Jedoch muss man eben aufpassen, wie der Code am ende geschrieben ist und da werden dann die Programmierkenntnisse zu tragen kommen.
Wahrscheinlich wird es in Zukunft viele Apps geben die durch KI geschrieben werden, aber die werden sich von den Funktionen her sehr ähnlich anfühlen. Programme die durch Menschen geschrieben werden, werden bestimmt eine eigene Note bekommen, die zu deutlichem Mehrwert führen werden.

moredread schrieb:Ein anderer Lehrer meinte, die Kunst des ausarbeitens einer Zeile Code wäre mittlerweile völlig verloren gegangen.

Und ein Dozent meinte, das es gar nicht so wichtig sei, Code schreiben zu können. Es ist wichtig die Logik drauf zu haben und entsprechende Abläufe zu entwickeln.

Ich glaube, hatte zu einem großen Anteil recht.

moredread schrieb:Normalsterbliche sagen so etwas wie A == B, aber dort gab es halt eine Funktion dafür. Schönes Beispiel für einen Code, der durch KI generiert wurde. Im selben Code gab es einen Aufruf zum speichern, der ging {s} {a} {v} {e}. Das Ergebnis ist hübscher Code, aber wenn man den jemals wieder versetehen will, braucht man eine weitere KI.

So bekommt man die Logik aber nicht drauf 😄...

nocheinPoet schrieb am 28.04.2025:Nun spare ich mir das, inzwischen gibt es Modelle, die auch mit einer RTX 3060 und 12 GB VRAM laufen, sogar recht gut, Karte hab ich schon, passende CPU fürs Board auch, 64 GB ebenso an RAM, also sollte das schon klappen.

moredread schrieb am 28.04.2025:Dann bist Du jetzt da, wo ich auch bin, also Hardwaremäßig. Ich wollte mir demnächst Hardware holen, möglichst mit 512 GB RAM (weil es 1,5 TB nicht gibt, oder vielmehr, weil ich keine 60.000 Euro habe).

Man muss schon einen Usecase haben und davon hart Profitieren, bevor man X-tausend € auf etwas wirft, das schon in wenigen Monaten überholt sein könnte.

Vor wenigen Tagen sind wieder neue Modelle von Qwen herausgekommen...

Aber ich frage mich, warum es keine Grafikkarten gibt, die einfach mal genügend VRAM haben?! Hat das doch technische Gründe oder macht Nvidia den Apple-Move?

Negev schrieb:Aber ich frage mich, warum es keine Grafikkarten gibt, die einfach mal genügend VRAM haben?

Nun was ist genug ?

https://www.nvidia.com/de-de/products/workstations/professional-desktop-gpus/rtx-pro-6000-family/

Die RTX PRO 6000-Serie ist mit 96 GB ultraschnellem GDDR7-Speicher, Tensor-Recheneinheiten der 5. Generation und RT-Recheneinheiten der 4. Generation ausgestattet und beschleunigt das gesamte Spektrum der KI- und kreativen Workloads – von agentenbasierter KI, physischer KI und wissenschaftlichem Computing bis hin zu fotorealistischem Rendering, 3D-Grafik und Echtzeit-Videoverarbeitung.

Falls dir 96 Gigabyte genug sind empfehle ich diese Karte.

JoschiX schrieb:Falls dir 96 Gigabyte genug sind empfehle ich diese Karte.

Lack gesoffen teuer 😆

Negev schrieb:Lack gesoffen teuer

Klar 12.000 Euro ist zu teuer für uns "Normalos", aber es gibt Lösungen. Sogar Lösungen noch darüber.

https://www.nvidia.com/en-us/data-center/gb200-nvl2/

60.000 Euro.

Du kannst nicht einfach so sagen "warum macht NVidia das nicht"... machen sie doch

JoschiX schrieb:Du kannst nicht einfach so sagen "warum macht NVidia das nicht"... machen sie doch

Nungut. Hast gewonnen. Ich frag mal einfach naiv weiter (ich beschäftige mach nicht mit Server-Hardware): warum sind die Grafikkarten so teuer bzw. warum ist VRAM so teuer? "Einfach" eine 5090 maximal bestücken (oder eben so, dass es Sinn ergibt). Patt ausgedrückt - 72 GB VRAM können doch keine 10k € kosten?!

Negev schrieb:Ich frag mal einfach naiv weiter (ich beschäftige mach nicht mit Server-Hardware): warum sind die Grafikkarten so teuer bzw. warum ist VRAM so teuer? "Einfach" eine 5090 maximal bestücken (oder eben so, dass es Sinn ergibt). Patt ausgedrückt - 72 GB VRAM können doch keine 10k € kosten?!

Es gibt eine begrenzte Anzahl an verfügbaren Ram Chips. Hier gehen eben nur die GDDR7 für maximale Leistung.
Und so lange NVidia im Bereich Data Center soviel mehr Gewinner macht als in der Gaming Sparte wird sich auch nichts ändern.

So offen ich der Technologie auch gegenübersteher und denke, dass Menschen viel von ihr profitieren können: Spätestens mit AGI bzw. AKI im Deutschen, also "Superintelligenzen", hätten wir ein Problem. Und eben auch staatlichen wie privatwirtschaftlichen Wildwuchs sobald die Büchse der Pandora geöffnet wurde.

Das Problem der Superintelligenz, Auszug mit Geoffrey Hinton, Informatiker und Kognitionspsychologe.
Siehe dazu den Reddit-Link wo es um ein kurzes Video mit ihm geht (Englisch):

https://www.reddit.com/r/OpenAI/comments/1kepgyz/geoffrey_hinton_warns_that_superintelligences/

Warden schrieb:Das Problem der Superintelligenz, Auszug mit Geoffrey Hinton, Informatiker und Kognitionspsychologe.

Besteht überhaupt die Möglichkeit das eine Superintelligenz ein Bewusstsein erlangt ?
Also ich für meinen Teil mache mir da wenig Sorgen.

JoschiX schrieb:Besteht überhaupt die Möglichkeit das eine Superintelligenz ein Bewusstsein erlangt ?
Also ich für meinen Teil mache mir da wenig Sorgen.

Braucht aber auch nicht zwingend ein Bewusstsein, damit eine Superintelligenz ein Problem darstellen könnte.

taren schrieb:Braucht aber auch nicht zwingend ein Bewusstsein, damit eine Superintelligenz ein Problem darstellen könnte.

Natürlich nicht, dann muss man sich eher Sorgen wegen den Menschen machen die diese Superintelligenz kontrollieren.