Frage an die Programmierer unter uns...

Atrox schrieb am 15.06.2025:Die Frage, die du also zuerst beantworten solltest, ist also nicht, ob es komplex ist eine KI zu programmieren, sondern zunächst zu entscheiden, welches Problem du genau lösen möchtest.

ein Problem was ich nicht lösen könnte wäre Text zu verstehen und entsprechend intelligent zu antworten. und wenn es nur die Antwort ist "Auf diese Frage habe ich keine Antwort" (was im Übrigen die AI von WhatsApp anscheinend sehr ungern tut, sie schreibt dann einen Haufen Infos rundherum um das Thema nur um nicht sagen zu müssen dass sie mir bei dem Thema nicht helfen kann)

@RayWonders

Nun ja, einen Transformator, ein Large Language Model (LLM) ist auch nicht so einfach programmiert, sonst hätten wir das schon früher gehabt, denn es läuft ja auch auf Hardware, die 15 Jahre alt ist.

Es baut auf neuronalen Netzen auf, da gibt es dann einige Layer die übereinander liegen, aktuell so 96 und mehr, die müssen richtig vernetzt werden. Das von WA läuft nicht lokal, es gibt aber Modelle, die können schon auf einem Handy laufen, aber die kommen nicht an ChatGPT ran.

Du, dann ist Dein "Ansatz" nicht richtig, man programmiert da nichts, um Text zu verstehen, Neuronale Netze und Transformatoren sind schon was:
https://www.iese.fraunhofer.de/blog/wie-funktionieren-llms/

https://weissenberg-group.de/was-ist-ein-large-language-model/#:~:text=Zum%20IPA%20Whitepaper-,Wie%20funktioniert%20ein%20LLM%3F,zwischen%20den%20Token%20zu%20ermitteln

Also, diese Modelle sind nicht so aufgebaut, wie man normal ein Programm aufbaut, mit if ... then ... else, das ist etwas ganz anderes.

wie kommst du von ursprünglich dem hier:

nocheinPoet schrieb am 10.06.2025:Zu dem aktuellen hier nun, Du kannst mit 3000 € recht sicher was programmieren, man findet alles dazu an Informationen im Netz, Du kannst also selber so ein LLM schreiben. Vieles ist ja vorgegeben, es ist nicht das Problem so etwas zu programmieren.

zu dem hier:

nocheinPoet schrieb:Nun ja, einen Transformator, ein Large Language Model (LLM) ist auch nicht so einfach programmiert

zuerst sagst du es ist kein Problem so etwas zu programmieren und jetzt plötzlich schwenkst du um und sagst es ist nicht einfach.

danke für die Links.. vermutlich würde ich dann ansatzweise etwas verstehen aber die ersten Menschen die neuronale Netze programmiert haben hatten ja auch keine Hilfe und Erklärungen, die konnten sich was vorstellen. das ebend fehlt mir..

wie z.b. das programmieren eines dynamischen Labyrinths. als mich mal jemand vor diese Aufgabe gestellt hat, da hab ich lange überlegt und mir ist keine Lösung eingefallen. es gibt aber im Internet Anleitungen dafür, mit deren Hilfe hätte ich dann vermutlich auch was hinbekommen.. das meine ich aber nicht, ich meine die bloße Architektur eines lernenden Systems von selbst mir vorstellen zu können, ohne dass mir einer erst 20h Vorträge halten muss.. wie gesagt die allerersten die hatten ja auch niemanden der es ihnen erklärt..

@RayWonders

Ja, kommt darauf an, wie man es verstehen will, natürlich kannst Du zu Hause alleine kaum was wie ChatGPT programmieren, aber schon ein LLM, auch schon eines, dass etwas taugt, also ich sage mal 20 % von dem Besten was es gibt.

Das Problem ist das Training, das kotest viel Energie und Rechenzeit, und somit viel Geld.

RayWonders schrieb:Was ich aber meine ist, dass man ein System programmiert, dem man Bilder vorlegen kann ohne irgendwas mehr zu sagen als "Mit Hund" "Mit Katze" "Ohne beides". und nach 1000 gelernten Bildern hat man schon Erfolge wenn es diese beiden Tiere erkennen soll auf Bildern.. ich sehe einfach nicht wie man das programmieren sollte, ebend ohne nicht schon bestimmte Vorbedingungen hart rein zu coden..

Schau dir mal Pytorch, Tensorflow und Convolutional Neural Networks an. Das ist nicht ansatzweise so schwierig, wie es klingt. Mit NVIDIA Karten ab der 10er Serie kannst du das auch von zuhause trainiere n.

RayWonders schrieb:wie z.b. das programmieren eines dynamischen Labyrinths. als mich mal jemand vor diese Aufgabe gestellt hat, da hab ich lange überlegt und mir ist keine Lösung eingefallen

So im Sinne von einem Ameisenalgorithmus?

Atrox schrieb:So im Sinne von einem Ameisenalgorithmus?

Nein, das würde ich hinbekommen. Ich meine das Generieren eines Labyrinthes. Zum Beispiel man hat vorgegeben eine Fläche von 50x50 und soll darauf Wände und Wege so anordnen dass ein Labyrinth entsteht und jedes mal eine andere Variation bei jedem mal Starten..

RayWonders schrieb:Nein, das würde ich hinbekommen. Ich meine das Generieren eines Labyrinthes. Zum Beispiel man hat vorgegeben eine Fläche von 50x50 und soll darauf Wände und Wege so anordnen dass ein Labyrinth entsteht und jedes mal eine andere Variation bei jedem mal Starten..

Das fand ich auch manchmal etwas tricky.
Ich poste mal die Quellcodedateien:
(Ist aber in einer älteren Java Version geschrieben)


Dateianhang: Animation.java (3 KB)

Dateianhang: Bomb.java (27 KB)

Dateianhang: Bomberman.java (2 KB)

Dateianhang: Brick.java (4 KB)

Dateianhang: Game.java (24 KB)

Dateianhang: Level.java (11 KB)

Dateianhang: Player.java (11 KB)

Es gibt da natürlich noch die Ordner für Bilder und Sounds/Musik, aber das poste ich jetzt hier nicht mit hoch.

Ach so, Edit: Dieses Spiel habe ich selbst programmiert, ohne Hilfen.

RayWonders schrieb:Nein, das würde ich hinbekommen. Ich meine das Generieren eines Labyrinthes. Zum Beispiel man hat vorgegeben eine Fläche von 50x50 und soll darauf Wände und Wege so anordnen dass ein Labyrinth entsteht und jedes mal eine andere Variation bei jedem mal Starten..

Achso, und du läufst dann selber durch?

Da ist Blender ganz gut, eine komplette Game Engine zu schreiben ist möglich, aber ein dickes Brett, wenn man es in Python macht.

Atrox schrieb:Da ist Blender ganz gut, eine komplette Game Engine zu schreiben ist möglich, aber ein dickes Brett, wenn man es in Python macht.

muss ja nicht mal in 3D sein. es geht rein um das Konzept den Algorithmus wie man ein Labyrinth mehrfach zufällig vom Grundriss her generiert..

Atrox schrieb:Achso, und du läufst dann selber durch?

die Anfrage kam in SecondLife, also ja, man hätte dann auch durchlaufen können. aber ich hab den Auftrag nicht angenommen weil ich das nicht konnte..

RayWonders schrieb:muss ja nicht mal in 3D sein. es geht rein um das Konzept den Algorithmus wie man ein Labyrinth mehrfach zufällig vom Grundriss her generiert..

Ein zufälliger Grundriss ist ja machbar mit Matplotlib und Numpy.

Ich glaube das Programmieren ist am Ende des Tages überhaupt nicht das Problem. Wichtiger ist ein Konzept bzw. der Lösungsansatz. Eine gute Übung, um in dieses Denken reinzukommen ist zum Beispiel das „Game of Life“ nachzubauen.

Atrox schrieb:Ein zufälliger Grundriss ist ja machbar mit Matplotlib und Numpy.

ich will aber nicht dass eine Library mir eine Funktion dafür anbietet. Ich möchte den Algorithmus zum Generieren gern selbst programmieren. es geht einfach darum einen Pfad auf einem Spielfeld zu generieren und dann wird der Pfad so erweitert um 'falsche Pfade', dass das Spielfeld voll wird und einen einigermaßen sinnvolles Labyrinth ergibt..

RayWonders schrieb:und dann wird der Pfad so erweitert um 'falsche Pfade'

diese falschen Pfade müssten dann z.b. eine bestimmte Mindestlänge haben, bringt ja nix wenn der Weg so kurz ist und man sieht sofort dass es eine Sackgasse ist..

und das ganze ebend dann random, bei mehrfachem Generieren entstehen jedes mal einzigartige Labyrinthe..

RayWonders schrieb:ich will aber nicht dass eine Library mir eine Funktion dafür anbietet. Ich möchte den Algorithmus zum Generieren gern selbst programmieren

Ok, dann bleiben zumindest in Python ja erstmal Listen und der Print-Befehl. Die Logik würde ich wie folgt unterteilen:

Außenwände

Hier kannst du die Größe des Labyrinths als Teil der Funktionsparameter einfügen. Gleichzeitig definiert das auch die Länge deiner Listen.

Richtiger Weg

Hierfür braucht es Regeln. Nicht zu kurz hast du genannt. Dann darf der Weg nicht über die Grenzen hinweg gehen. Und dann muss es Start und Stop jeweils am Rand des Labyrinths geben. Python müsste Built-in random Funktionen haben. Da bin ich mir aber nicht ganz sicher weil ich dafür normalerweise numpy verwende.

Falsche Wege

Sobald der richtige Weg gezeichnet ist, hast du noch ganz viele Nullen in deinen Listen. Hier soll es Kontaktpunkte mit dem richtigen Weg geben. Dadurch wird dann beim zeichnen eines falschen Weges aus einer 0 keine 1, sondern umgekehrt (um quasi die Tür zu öffnen).

Visualisierungen

Da hier nur der Print-Befehl bleibt, wenn du auf Packages verzichten möchtest, könntest du die ganzen Listen in Sonderzeichen umwandeln (Rauten oder Sternchen). Hier könnte man sogar noch ein paralleles Konstrukt an Listen erstellen, um zu zeigen, ob es sich um waagerechte oder senkrechte Linien handelt und das mit - und | printen.

So wäre zumindest mein erster Denkansatz. Maximale Anzahl an Wänden müsste auch noch irgendwo mit rein.

Atrox schrieb:Hierfür braucht es Regeln. Nicht zu kurz hast du genannt. Dann darf der Weg nicht über die Grenzen hinweg gehen. Und dann muss es Start und Stop jeweils am Rand des Labyrinths geben.

Und das ist eben nicht so trivial. Läuft man einen Kreis, blockiert man sich selbst. Dann muss man wieder zurücklaufen und einen anderen Weg finden. Und man muss sicherstellen, dass man wirklich zum Ziel gelangt.

Bei den falschen Pfaden muss man darauf achten, dass nicht einzelne Positionen oder Pfade entstehen, die keine Verbindung zum richtigen Pfad haben. Im Extremfall wäre das ein Punkt, der von vier Wänden umgeben ist. Ich denke, so etwas will man nicht.

Ein Ansatz, der mir einfällt: Man zieht eine gerade Linie von Start zu Ziel. Dann unterteilt man die Gerade in zufällig lange Stücke und ersetzt sie durch Umwege. Die dabei entstehenden Geradenstücke behandelt man dann rekursiv ebenso. Also so ein bisschen wie man Fraktale generiert.

Entwickle selbst Software (für wissenschaftliche Anwendungen) mit machine learning.
Das dürfte allerdings wenig dem entsprechen was man sich aktuell allgemein unter "KI" (Chatbot, kann ein Computerspiel lösen etc.) vorstellt.

Atrox schrieb:Schau dir mal Pytorch, Tensorflow und Convolutional Neural Networks an. Das ist nicht ansatzweise so schwierig, wie es klingt. Mit NVIDIA Karten ab der 10er Serie kannst du das auch von zuhause trainiere n.

Genau sowas nutze ich.
Bei den Anwendungen, siehe oben, geht es konkret um die Klassifizierung von Signalen.

RayWonders schrieb:Was ich aber meine ist, dass man ein System programmiert, dem man Bilder vorlegen kann ohne irgendwas mehr zu sagen als "Mit Hund" "Mit Katze" "Ohne beides". und nach 1000 gelernten Bildern hat man schon Erfolge wenn es diese beiden Tiere erkennen soll auf Bildern.. ich sehe einfach nicht wie man das programmieren sollte, ebend ohne nicht schon bestimmte Vorbedingungen hart rein zu coden..

Diese Algorithmen bauen - vereinfacht gesagt - basierend auf einem "training set" intern Regeln zur Erkennung der Objekte auf, sog. "supervised learning". Umgangssprachlich würde ich es als "Lernen am Beispiel" bezeichnen.
Als Entwickler präsentierst du dabei dem Algorithmus eine Reihe von Bildern mit entsprechendem Label ("Katze", "Hund", "ohne", "Katze und Hund"); anhand dieser lernt der Algorithmus sie zu unterscheiden und wird diese Kriterien auf ein "target set" (= das was du klassifizieren willst) anwenden. Dabei sollten sich "training set" und "target set" möglichst ähnlich sein - sprich, trainiert mit Fotostudioaufnahmen von Tieren könnte das Programm ziemliche Probleme mit der Identifikation dieser Tiere auf Aufnahmen mit wesentlich geringerer Auflösung und z.B. aus einer Nachtsichtkamera haben.

Üblicherweise nutzt man Programmbibliotheken wie z.B. scikit-learn, Pytorch, Tensorflow. Theoretisch kann man die darin enthaltenen Funktionalitäten auch selbst nachprogrammieren, sprich, z.B. CNN von Grund auf selbst entwickeln.