Künstliche Intelligenz

inidraki schrieb:Ich habe die Erfahrung gemacht, dass wenn man die gängisten KI Sprachmodelle als Hilfs-Assistent nutzen möchte,
um Code zu generieren

Was heißt "gängig"? Die gratis zugänglichen Modelle? Die bekommen das gerade so hin und ja sie sind fehlerbehaftet. Dann gibt es noch ein sehr gutes Projekt https://opencode.ai/de was ebenfalls frei zugänglich ist, aber weniger "hübsch". Damit habe ich für das was bei mir an Programmieren so anfällt bisher immer gute Lösungen gefunden.

Ich habe gestern Gemini und im Anschluss auch chatgpt gefragt: "verbrennt das Trinken von eiskaltem Wasser (2 Grad, 1 Liter) bei Raumtemperatur zusätzliche Kilokalorien?"

Und die Antwort war beide Male "ja, zwar nicht viele, aber etwa 35 kcal werden dadurch zusätzlich verbraucht". Gemini hatte als Quelle einen Artikel angegeben, nach desses lesen ich noch folgende Frage hinterher gestellt habe:

"In dem von dir als Quelle angegeben Artikel steht aber, dass keine zusätzlichen Kilokalorien verbraucht werden, da das Wasser passiv (beim Weg durch den warmen Körper) und nicht aktiv (z.B. durch Zittern) erwärmt wird und der Körper (bei Raumtemperatur) ohnehin immer etwas mehr Wärme produziert, als zur Aufrechterhaltung der Körpertemperatur nötig ist. Kurz gesagt. Man schwitzt vielleicht etwas weniger oder gibt weniger Wärme über die Haut an die Umgebung ab, aber für den Kalorienverbrauch ist es völlig unerheblich, ob das getrunkene Wasser 37 Grad oder 2 Grad hat. Könntest du deine Antwort deshalb bitte nochmal prüfen und mir ggf. weitere Quellen nennen, die belegen, dass das Trinken von Eiswasser Kilokalorien verbraucht?"

Darauf hin kam bei beiden KI die Antwort, dass das die erste Antwort rein mathematisch berechnet hat, wie viele Kalorien (nicht Kilokalorien, obwohl explizit danach gefragt) benötigt werden um ein Liter Wasser auf Körpertemperatur (37 Grad) zu erwärmen, die Antwort aber insofern nicht richtig war, da es stimmt, dass der Körper keine Kilokalorien mehr verbraucht, wenn man etwas Kaltes trinkt.

Lange Rede, kurzer Sinn. Ich mache mir große Sorgen, was mit der Allgemeinbildung passiert, wenn KI immer und immer mehr durch die breite Bevölkerung genutzt wird, die eben kaum Quellen hinterfragen.

Ich denke ein Schulfach zum korrekten promten und verifizieren der Antworten sollte besser gestern als heute eingeführt werden.

dieLara schrieb:Lange Rede, kurzer Sinn. Ich mache mir große Sorgen, was mit der Allgemeinbildung passiert, wenn KI immer und immer mehr durch die breite Bevölkerung genutzt wird, die eben kaum Quellen hinterfragen.

Ich nicht, die ist sowieso bei den meisten, was MINT angeht, eher gering ausgeprägt. :-)

Nota bene:
Was man in der Schule gelernt hat, wird schnell wieder vergessen, wenn man den Eindruck hat, man braucht es nicht. Ich habe da schon quer durch die Bank weg erstaunliche Defizite wahrgenommen, nicht nur seit AI.

Selbst erlebt: Brabbeln von 'Allgemeinbildung', wissen nicht wie ein Kühlschrank funktioniert, wie ein Regenbogen entsteht, wieviel Saft ich bei 220V (damals!) ziehen kann, wenn die Sicherung 16A hat.

Obigen Erstsatz habe ich mit Bedacht mit einem Emotionsanzeiger versehen. So ganz ernst meine ich das nicht, denn ... beser wirds nicht.

Andererseits:
Hat der Mensch neue Werkzeuge, vergisst er den Umgang mit den alten.
Wer kann noch einen Rechenschieber bedienen?
Heute wissen viele nicht einmal, was ein Choke ist.

Ich bin mal gespannt,wie das so weiter geht.

Früher:
"Man Bundeswehr unselbständig?"
"Moment, da muss ich meinen Unteroffizier fragen."

Heute:
"Schreibe einen Aufsatz über selbstständige Denken."
... startet ChatGPT ...

Grüße
Omega Minus

OmegaMinus schrieb:Wer kann noch einen Rechenschieber bedienen?

Wurde uns Ende der 70er in der Schule nicht mehr beigebracht, wir mußten Logarithmentafeln benutzen

OmegaMinus schrieb:Heute wissen viele nicht einmal, was ein Choke ist.

Ein Rechtschreibfehler, Coke schreibt man nicht mit "h".

OmegaMinus schrieb:"Moment, da muss ich meinen Unteroffizier fragen."

Ging nicht, war selbst Obermaat :)

gez.
natürliche Dummheit^^

Und weiter geht es mit völlig überraschten Forschern, die im Nachhinein festgestellt hatten, was sie da gerade nicht auf dem Schirm hatten ...

Für die Forscher waren diese Aktivitäten überraschend: Man sei davon ausgegangen, dass die KI sich nur Software-Werkzeuge aus dem Netz holen würde, um die gestellte Aufgabe zu erfüllen. Man habe "nicht vorhergesehen", dass das Anthropic-Modell "Mythos 5" den Internet-Zugang für Aktivitäten ausnutzen würde, die sich gegen Menschen richten.

Die Forscher räumten auch ein, dass sie das Vorgehen erst nachträglich über eine Auswertung des Datenverkehrs entdeckten. In künftigen Tests wollen sie die Datenströme in Echtzeit besser beobachten.

Quelle: https://www.tagesschau.de/wirtschaft/digitales/ki-verselbststaendigt-phishing-mails-100.html

Na mal sehen, wie lange man noch zulässt, dass sich solche Zauberlehrlinge selbst verwirklichen dürfen und dabei jede Menge Kollateralschäden anhäufen, von denen sie dann überrascht sind, weil sie das eben nun mal nicht vorausgesehen haben - kann ja mal passieren ...

😊

Wieder selten dämlich und imho PR.... kann mehr als gedacht.... ist wie ein Mensch

Gestern chatgpt nach Astronomie befragt. Sohnemann wollte Fernrohr schauen.

Der Tipp war die Venus zu beobachten. Sie geht dann und dann unter.

Auf den Hinweis, dass die Venus aktuell knapp neben der untergehenden Sonne steht, kam dann das wir doch besser den Mond beobachten sollen um 23 Uhr.

Wie das mit dem Mondaufgang zu 23:16 passt er kennt doch den Standort...

Ok dann doch lieber 0 bis 0:30

In meinem direktem Umfeld gibt es eine Person die ohne KI offensichtlich nicht mehr leben kann. Egal was es auch ist, die KI muss zu Rate gezogen werden. Normale Unterhaltungen sind mit der Person auch nicht mehr möglich, denn in jeder Unterhaltung wird die KI befragt was sie zu dem Gesprächsinhalt meint. Der Finanzplan läuft über die KI, der Ernährungsplan läuft über die KI, mentale Unterstützung läuft über die KI (Bin ich toll ? Ja, nein, vielleicht), der Sport läuft über die KI. Die KI wird auch gefragt welche Filme die Person am besten schauen sollte auf Grundlage der Persönlichkeitsstruktur.

Die Partnersuche läuft auch voll mit KI-Unterstützung. Zunächst knallt die Person ihr ganzes Leben in die KI, und dann soll die KI entscheiden welche Art Partner am besten zu der Person passt auf Grundlage dieser ganzen Informationen. Dabei geht es auch um Augen/-und Haarfarbe des zukünftigen Partners, und auch das Sternzeichen ist sehr wichtig.

Anfangs fand ich das witzig, dann fragwürdig, und jetzt will ich von dem ganzen Scheiß nichts mehr hören.

DearMRHazzard schrieb:Die KI wird auch gefragt welche Filme die Person am besten schauen sollte...

Also Du möchtest sagen, er ist ein ohne KI nicht mehr lebensfähiger Mensch?
So jemanden kenne ich in der Nachbarschaft auch. Der lässt sich ohne Spaß "vorhersagen", welcher Parkplatz am Strassenrand morgen frei sein wird.

Gucky.

Und schon die nächste "Überraschung" ...

Nach den KI-Firmen OpenAI und Anthropic muss auch der Facebook-Konzern Meta einräumen, dass sich seine KI-Software in Computersysteme eines anderen Unternehmens gehackt hat. Ähnlich wie bei Vorfällen der beiden Rivalen lag das Problem auch hier in einer Fehlkonfiguration des Systems bei demselben Testpartner, wie Meta mitteilte.

Demnach führte die Firma Irregular Tests mit den KI-Systemen von Meta, Anthropic und OpenAI durch. Ein Sprecher von Irregular sagte der BBC, der Meta-Vorfall sei "genau das gleiche Bewertungs-Umwelt-Problem, das bereits letzte Woche von Anthropic offengelegt wurde." Demnach hatten die KI-Modelle durch die falsche Einstellung Zugang zum Internet - was eigentlich gar nicht vorgesehen war.

Der Facebook-Konzern erfuhr von dem Zwischenfall nach eigenen Angaben durch eine Mitteilung des Testpartners. Meta machte zunächst keine Angaben zu dem Unternehmen, in dessen Systeme die KI des Konzerns durch die Ausnutzung der Schwachstelle eindrang. Gleichzeitig kündigte Meta an, weitere Informationen zu dem Vorfall zu veröffentlichen, "sobald wir alle Fakten haben."

Quelle: https://www.tagesschau.de/wirtschaft/digitales/meta-ki-hack-100.html

Mal schauen, wann sich das nächste Überraschungs-Ei öffnet ...

omann, glaubt ihr wirklich "KI" (die es nicht gibt) kann sich so selbstständig machen, wie es prophezeit wird? Ich mach den Romantikern ja nur ungern ein Strich durch die Rechnung, aber trotzdem: hinter dem was prophezeit wird und eintritt, verbergen sich "menschliche" Hacker, die einfach nur ein größeres Werkzeug in die Hand bekommen haben. Irgendwie blöd, denn um das ganze Transparent zu machen, um die "menschlichen" Hacker dahinter zu begreifen, muss man erstmal das Konzept "KI"... nunja... beseitigen... dann erkennen wir die menschlichen Hacker, die sich natürlich absichtlich verbergen. Je eher, desto besser, denn es braucht dringend eine Begriffsdefinition für "Hacker" + "Neues Werkzeug".

tja, irgendwie blöd dass man ein Konzept beseitigen muss... aber... in jedem Ende steckt ein Anfang... und trotzdem... erst das Ende... dann der Anfang (im Ende)

Ich hab mich mal schlau gemacht, was ein "Hacker" mit "KI" alles kann und der Begriff "Hacker", der ist, für dass was momentan passiert, zu klein. Wie gefällt euch der Begriff „KI-gestützten Cyberoperator“ oder der Begriff „Agenten-Orchestrator“. Wem es interessiert, was diese Begriffe ausdrücken, auf Nachfrage gibts gerne eine Erklärung, aber diese Begriffe treffen es deutlich besser. Wer einen Besseren Begriff hat, nur raus damit! Jetzt ist der beste Zeitpunkt, einen Begriff zu finden!!!

@ockham
Lies dir doch noch mal in Ruhe durch was genau bei den Tests von Irregular schief gelaufen ist. Der Punkt bei all diesen Vorfällen ist das die KI in Systeme eindrang obwohl dein „Agenten Orchestrator“ genau das nicht wollte.

@paxito
Meine gewünschten Begriffsdefnitionen zielen auf eine Erweiterung des Wortes "Hacker" ab. Dass du das negierst, macht dich verdächtig :)

@ockham
Ich negiere da nix, du hast durchaus Recht. Menschen können mit KI in einer Art und Weise in Systeme eindringen, wie es früher nicht möglich war. Im Grunde ohne besondere Kenntnisse. Ich finde den Begriff sogar ganz passend. Aber:
die Vorfälle um die es geht sind grundsätzlich anders gelagert.

@paxito
Blöd dass ich das nicht beweisen kann, denn ein Hacker macht ja alles, um sein Tun zu verschleiern und in der Größenordnung, wo der Begriff Hacker zu klein geworden ist, sollten wir "eigentlich" anfangen, einen passenden Begriff zu finden, dieser den Begriff "Hacker" + "Neues Werkzeug" so verbindet, dass ihn alle entsprechend seiner tatsächlichen Größe verstehen und begreifen, wie eben die Begriffsdefinition „KI-gestützter Cyberoperator" oder eben „Agenten Orchestrator“

In meinen Augen ist es "höchste Eisenbahn", einen Begriff zu finden, der die tatsächliche Größe vermittelt, für einen Anfang im Ende...

ockham schrieb:...verbergen sich "menschliche" Hacker, die einfach nur ein größeres Werkzeug in die Hand bekommen haben

Nein, nicht unbedingt. Hast du überhaupt irgendeine einschlägige Erfahrung oder fußen diese ganzen Annahmen alleine auf deine Vorstellungskraft.

Trailblazer schrieb:Nein, nicht unbedingt. Hast du überhaupt irgendeine einschlägige Erfahrung oder fußen diese ganzen Annahmen alleine auf deine Vorstellungskraft.

Nunja, der Begriff "Hacker" ist nicht mehr passend, ich finde den Begriff „Agenten-Orchestrator“ besonders passend. Der Mensch sitzt nicht mehr unbedingt an der Tastatur. Er agiert vorstellbar wie ein Dirigent, während viele digitale Akteure gleichzeitig arbeiten und das ist tatsächlich eine neue Größenordnung. Ein einzelner Mensch kann dadurch Eigenschaften bekommen, die früher eine ganze Hackergruppe oder sogar eine Cyberorganisation mit mehreren Spezialisten benötigte.

Wenn du also in einer Begriffsdefinierung keine Notwendigkeit siehst, ja, dann machst du dich auch verdächtig. :)

Ich schreib einfach mal, wie man es tatsächlich ausdrücken muss, je eher desto besser: Nicht „KI ersetzt den Hacker“, sondern „der Hacker beginnt, sich vom einzelnen Angreifer zum Leiter einer ganzen digitalen Mannschaft aus KI-Agenten zu entwickeln“. Über dass was man gerade liest, ist dies die passendste Beschreibung dessen, was gerade passiert :) wem es interessiert, dem kann ich noch mehr erzählen.

Weder waren Hacker bisher immer Einzelgänger, noch braucht es eine ganze Horde von KI-Agenten, um ein System KI-gestützt, erfolgreich zu hacken.

...und eine KI ist durchaus in der Lage, ganz ohne orchestrierenden, menschlichen Hacker, aus Eigeninitiative zum "Hacker" zu werden. Wenn man mit Hacker jemanden bezeichnen will, der unauthorisiert in andere Systeme eindringt.

Ist mir selbst schon passiert. ich kann ggfs. auch mehr darüber erzählen.