Frage an die Programmierer unter uns...

Es geht um das Thema lernende Systeme und künstliche Intelligenz.

Und es geht darum, dass ich z.b. schon mit 16 Jahren angefangen hab für Computer zu programmieren und also nächstes Jahr schon 30 Jahre lang damit zu tun habe mehr oder weniger. Im Normalfall ist es so, wenn ich eine Aufgabe gestellt bekomme, dass es dann in meinem Kopf losrattert und ich mir ungefähr vorstellen kann wie ich es lösen kann und dann lege ich los und programmiere das.

Eigentlich halte ich mich auch für einen ganz passablen Programmierer.
Aber wenn ich mir vorstellen soll, wie man ein lernendes System oder eine richtige KI programmieren könnte, da versagt bei mir alle Vorstellungskraft trotz der vielen Jahren Erfahrung. Bin ich denn wirklich so schlecht? :)

Deswegen würde mich mal von euch Programmierern interessieren wie das bei euch ist. Hättet ihr im Kopf ein Konzept parat wie man ein lernendes System - eine KI programmieren könnte, habt ihr da schon mal drüber nachgedacht oder sogar mal an so etwas gearbeitet?
Oder geht es euch wie mir dass das euren Horizont übersteigt?

@RayWonders

Warum fragst Du nicht eine KI?

Ich habe auch ganz früh angefangen, war nicht mal 16, glaub zu erst hatte ich einen ITT2020 und dann eine VC20 und dann einen Amiga 500. Auf den ITT hab ich Logo programmiert, aber nicht so mit Turtle sondern rekursiv, so Menüs und so, richtig guten Scheiß. Also Logo ist wo schon recht mächtig.

Dann Basic auf dem VC20, und dann Assembler, richtig, meinen ersten 3D-Würfel hab ich noch auf dem ITT geschrieben in Logo, einer aus meiner Klasse meint, ich packe das nicht, war keine große Sache. Dann war ich in Berlin zu Besuch und ein Kumpel hatte einen Amiga 500, ich war echt neidisch, die haben nur gedaddelt und gekifft, ich habe dann programmiert und gekifft. Die Wette war, ich code da in einer Nacht einen 4D-Würfel, den man mit einer rot/grün-Brille 3D sehen kann, lief. Da waren die glasigen Augen von denen aber echt groß.

War aber nur eine Parallelprojektion vom Hypercube, also recht trivial, zwei Würfel und die Ecken verbunden, günstig im Raum angeordnet, Rotation ging so natürlich nicht. Ich habe dann ein paar Monate später den Amiga gekauft und dann mit Basic weitergemacht, richtig cool kam die Kugel in 3D, erst die Punkte, auch wieder rot/grün und dann wurden die von hinten mit Linien verbunden, das gab es damals einfach noch nicht, die Leute denen ich das gezeigt habe, die haben immer vor den Monitor gegriffen, 3D eben, da gab es einiges Staunen. Etwas später kam ich drauf, wie man 4D nach 3D bekommt, so richtig projiziert, es ist ein Schatten, man braucht was wie eine Lichtquelle im 4D Raum. Die Gleichungen geschrieben und dann gewartet und echt cool. Rotation in 3D, die Matrizen selber geschrieben, auch Matrizenmultiplikation, war schon eine coole Zeit, man fühlt sich wie ein Held.

Dann Mandelbrot auf dem Amiga, dann den in Assembler auf den 68000 und auf dem 68020, ja und dann noch ganz viel anderen Scheiß.

War ja aber gar nicht gefragt, ich wollte nur angeben, also KI, ich hatte ganz am Anfang mit dem Amiga mal auch die Idee, ich nannte das Programm "Mämon", warum auch immer, man konnte Text eingeben und jedes Wort wurde in einer Matrix gespeichert und dazu dann Nummern, also wie die verknüpft sind. Und daraus konnten dann neue Sätze gebildet werden, es war nicht so wirklich KI, aber hin und wieder schon seltsam, was da rauskam.

Zu dem aktuellen hier nun, Du kannst mit 3000 € recht sicher was programmieren, man findet alles dazu an Informationen im Netz, Du kannst also selber so ein LLM schreiben. Vieles ist ja vorgegeben, es ist nicht das Problem so etwas zu programmieren.

Das Problem ist das Training, nebenbei war hier immer schon meine Idee, einer KI einfach das ganze Internet an Text zu geben. Also Training ist das Problem, dafür brauchst Du ein echt schnelles Netz, und dann dauert das, und kostet viel Strom. Wenn Du das nur mit einem Rechner lokal versuchst, kannst Du sicher ein paar Jahre trainieren und kommst nicht an das rann, was es gibt.

Ich würde also ein LLM nehmen, dass Open Source ist und das schon trainier ist, und dass dann Feintuning.

Aber wie gesagt, gibt dazu alles was man wissen muss im Netz.