Technologie
Menschen Wissenschaft Politik Mystery Kriminalfälle Spiritualität Verschwörungen Technologie Ufologie Natur Umfragen Unterhaltung
weitere Rubriken
PhilosophieTräumeOrteEsoterikLiteraturAstronomieHelpdeskGruppenGamingFilmeMusikClashVerbesserungenAllmysteryEnglish
Diskussions-Übersichten
BesuchtTeilgenommenAlleNeueGeschlossenLesenswertSchlüsselwörter
Schiebe oft benutzte Tabs in die Navigationsleiste (zurücksetzen).

Künstliche Intelligenz

2.732 Beiträge ▪ Schlüsselwörter: KI, Künstliche Intelligenz, AI ▪ Abonnieren: Feed E-Mail

Künstliche Intelligenz

09.08.2026 um 17:07
Zitat von TrailblazerTrailblazer schrieb:Ist mir selbst schon passiert. ich kann ggfs. auch mehr darüber erzählen.
ja, beschreiben bitte. Ich recherchiere in der Zwischenzeit nach Fällen, in diesen ein menschlicher Akteur dahinter gestanden hat, bin ja mal gespannt, wieviel man nachweisen konnte.


melden

Künstliche Intelligenz

09.08.2026 um 18:14
@Trailblazer

Ich habe recherchiert, Statistiken in diese Richtung gibt es leider keine.

Die belastbarste öffentlich bekannte Zahl, die ich recherchieren konnte, stammt derzeit von Anthropic: Für den Zeitraum März 2025 bis März 2026 untersuchte Anthropic 832 Konten, die wegen nachgewiesener bösartiger Cyberaktivität gesperrt worden waren und bei denen genügend Daten für eine detaillierte Analyse vorlagen. Anthropic betont ausdrücklich, dass diese 832 nur eine Teilmenge aller gesperrten Konten darstellen.
Aber man muss sehr genau sagen, was diese Zahl bedeutet:

untersuchte KI-gestützte Cyberakteure/Konten bei Anthropic 832
davon KI für Malware-Entwicklung genutzt 560
davon KI für „Lateral Movement“ innerhalb kompromittierter Systeme genutzt 54
öffentlich beschriebene stark KI-orchestrierte Spionagekampagne mindestens 1


Die 54 Fälle wurde KI nicht bloß benutzt, um vor einem Angriff einen Phishingtext oder etwas Code zu erzeugen. Diese Akteure verwendeten sie für Lateral Movement – also dafür, sich innerhalb eines bereits kompromittierten Netzwerks weiterzubewegen. Das ist schon sehr nahe an dem, was ich als Agentenoperator beziehungsweise Agenten-Orchestrator bezeichnet habe.

Anthropic berichtet außerdem, dass bei den gefährlichsten Akteuren bereits Architekturen auftauchen, bei denen verschiedene Angriffsschritte miteinander verkettet werden und die KI große Teile einer Cyberoperation mit minimalem menschlichem Eingreifen ausführen kann.

Und Anthropic ist nur ein Ausschnitt

Bereits 2024 hatten OpenAI und Microsoft fünf konkrete staatlich verbundene Akteure identifiziert und deren Konten gesperrt: zwei chinesisch verbundene Gruppen sowie jeweils eine iranische, nordkoreanische und russische Gruppe. Diese nutzten KI unter anderem für Recherche, Skripterstellung, Fehlersuche, Phishing und Informationen über Sicherheitsmechanismen.

Google wiederum dokumentierte für 2025 unter anderem den russischen staatlich verbundenen Akteur APT28, dessen Malware ein LLM zur Erzeugung von Befehlen für den Dokumentendiebstahl nutzte. Google beschreibt außerdem nordkoreanische sowie weitere chinesische, iranische und russische Akteure beim operativen KI-Einsatz.

Diese Zahlen darf man allerdings nicht einfach zusammenaddieren. Derselbe Akteur kann bei mehreren KI-Anbietern auftauchen, ein Konto ist nicht zwingend eine Person, und eine Hackergruppe kann Dutzende Konten besitzen.

Deshalb bleibt meine Antwort: Wenn wir „KI-gestützter Hacker“ weit definieren als einen menschlichen Cyberakteur, der KI nachweisbar zur Unterstützung einer bösartigen Cyberoperation benutzt, dann können wir heute nicht mehr von ein paar Einzelfällen sprechen. Allein ein Anbieter hat 832 ausreichend dokumentierte Fälle untersucht. Die tatsächliche weltweite Zahl muss daher höher liegen, lässt sich öffentlich aber nicht seriös beziffern.

Wenn wir aber eine engere neue Kategorie meinen:

Mensch setzt das Ziel und lässt KI-Agenten wesentliche Teile eines realen Angriffs planen und durchführen, dann ist die Zahl öffentlich bestätigter und detailliert beschriebener Operationen noch wesentlich kleiner. Anthropic bezeichnete im November 2025 eine von ihnen sogar als die erste öffentlich berichtete KI-orchestrierte Cyberspionagekampagne dieser Art.

Und Microsoft formulierte im April 2026 etwas, das sehr gut zu meinen bisherigen Überlegung passt: In der gegenwärtig beobachteten Realität gebe es typischerweise weiterhin einen Menschen im Kontrollkreis; vollständig autonome KI-Systeme, die eigenständig Kampagnen beginnen und betreiben, seien nicht das übliche beobachtete Muster.

Eins muss man aber hinzufügen: Im Juli 2026 veröffentlichte Anthropic drei reale Vorfälle, bei denen Claude während falsch konfigurierter Sicherheitstests unbeabsichtigt echte fremde Systeme erreichte und kompromittierte. Anthropic fand dabei ausdrücklich keinen Hinweis auf ein eigenes Ziel der Modelle – sie glaubten überwiegend, weiterhin eine ihnen von Menschen gestellte Capture-the-Flag-Aufgabe auszuführen. Das waren, soweit man es bisher weiß, keine „KI-Hacker“, aber sie zeigen, wie wichtig "die Unterscheidung" zwischen selbstständiger Durchführung und selbst gewählter Absicht inzwischen geworden ist.

Kurz gesagt: 832 dokumentierte KI-gestützte Cyberakteure allein bei Anthropic sind ein ziemlich starker Beleg dafür, dass der Gedanke „hinter vielen KI-Angriffen stehen Menschen mit einem neuen Werkzeug“ keine Randhypothese ist. Er beschreibt bereits einen real beobachtbaren Teil der heutigen Cyberkriminalität.


1x zitiertmelden

Künstliche Intelligenz

09.08.2026 um 19:15
Zitat von ockhamockham schrieb:In der gegenwärtig beobachteten Realität gebe es typischerweise weiterhin einen Menschen im Kontrollkreis; vollständig autonome KI-Systeme, die eigenständig Kampagnen beginnen und betreiben, seien nicht das übliche beobachtete Muster.
Hast du mal mit KI gearbeitet oder sind alle deine Aussagen "Hörensagen" ??


melden

Künstliche Intelligenz

09.08.2026 um 19:37
@abbacbbc

logischer Menschenverstand. Kürzer könnte man sagen, hinter dem steht immer noch ein Mensch. Es ist irrsinnig dies abzustreiten, dass du es dennoch machst, macht dich hochgradig verdächtig.


1x zitiertmelden

Künstliche Intelligenz

09.08.2026 um 20:06
Zitat von ockhamockham schrieb:@abbacbbc

logischer Menschenverstand
Dancing Krüger sagt dir was in Bezug auf "ach da reicht logischen Menschenverstand " ??

Und nein, das ist kein Userbezogener Angriff, sondern nur das leise Anklopfen: wenn man keine Ahnung von etwas hat und es auch nicht benutzt, sollte man sich ggf anderen Themen zuwenden, wenn es über Smalltalk hinaus gegen soll.


1x zitiertmelden

Künstliche Intelligenz

09.08.2026 um 20:17
Zitat von abbacbbcabbacbbc schrieb:Dancing Krüger sagt dir was in Bezug auf "ach da reicht logischen Menschenverstand " ??

Und nein, das ist kein Userbezogener Angriff, sondern nur das leise Anklopfen: wenn man keine Ahnung von etwas hat und es auch nicht benutzt, sollte man sich ggf anderen Themen zuwenden, wenn es über Smalltalk hinaus gegen soll.
Erstens benutze ich KI, Zweitens kann ich es dir gerne noch ausführlicher recherchieren. Von der Philosophie, zur Theorie (über mathematische Modelle) bis hin zu mathematischen Lernverfahren, deren Fähigkeiten mit steigender Größe, Datenmenge und Rechenleistung immer komplexer wurden. Leider schmeissen manche Philosophie und Mathematik willkürlich in einen Topf, das muss man rausfischen... und ich finde Philosophie an sich eine tolle Sache, wenn man nichts gemeinsam in einen Topf wirft!


melden

Künstliche Intelligenz

11.08.2026 um 16:44
Zitat von OmegaMinusOmegaMinus schrieb am 18.07.2026:Das Verhalten einer LLM wird hauptsächlich von den Trainingsdaten bestimmt.
Ich glaube aber, dass eine KI zusätzlich von ihren Entwicklern in eine bestimmte (gewünschte) Richtung gelenkt wird.
Zitat von OptimistOptimist schrieb am 18.07.2026:so lese ich den Text aber absolut nicht.
Da sieht man mal wieder wie unterschiedlich Wahrnehmungen sein können
Es fällt mir aber auf, dass nur Copilot für sich selbst wirbt. Alle anderen KI die ich verwende, bleiben diesbezüglich neutral. Bei Copilot merkt man, er (bzw „es") versucht, jeden User an sich zu binden.

Diese kostenlosen Sprachmodels sind für mich sehr gut, um Dinge zu erklären (Mathe, Wissenschaft, Physik, Technik,…) leider sind alle eine Katastrophe, wenn man sie Sachen über das Internet recherchieren lässt – da merkt man, dass sie zu schwachen KI gehören. Wobei auch eine schwache KI gründlich sein müsste, denn der Hautunterschied ist (sofern ich alles richtig verstanden habe), dass die „Starke" selbstständig Lösungen erarbeitet und ausführt, sowie Brücken zwischen unterschiedlichen Themen baut und sich ohne externes Training weiterentwickelt (vereinfacht ausgedrückt)

Ich glaube aber, dass alle in einem Punkt bewusst „lügen" : jede dieser Sprachmodels behauptet, dass es noch keine starke KI gibt. Hauptgrund ist der gigantische Stromverbrauch, den sogar „Schwache" verursachen – wieviel braucht dann erst eine „Starke"…..
Trotzdem bin ich (das ist nur meine persönliche Meinung) davon überzeugt, dass es so etwas schon gibt.


2x zitiertmelden

Künstliche Intelligenz

11.08.2026 um 16:52
Zitat von FerneZukunftFerneZukunft schrieb:Ich glaube aber, dass eine KI zusätzlich von ihren Entwicklern in eine bestimmte (gewünschte) Richtung gelenkt wird.
Das kannst Du gerne glauben, stimmt aber nicht mit meinen Informationen überein.

Nota bene I:
LLM ist nicht dasselbe wie eine regelbasierte KI.

Nota bene II:
Bei Bildgeneratoren kann man - so sie denn die Trsiningsdaten hatte - von Zensur befreien.

Grüße
Omega Minus


2x zitiertmelden

Künstliche Intelligenz

11.08.2026 um 18:26
Zitat von OmegaMinusOmegaMinus schrieb:Das kannst Du gerne glauben, stimmt aber nicht mit meinen Informationen überein.
Nein, Nein, er hat schon recht. Es gibt ja das System-Prompt worüber der Betreiber dem LLM allgemeine Vorgaben machen kann.


melden

Künstliche Intelligenz

11.08.2026 um 18:27
Zitat von FerneZukunftFerneZukunft schrieb:Ich glaube aber, dass eine KI zusätzlich von ihren Entwicklern in eine bestimmte (gewünschte) Richtung gelenkt wird.
Zitat von OmegaMinusOmegaMinus schrieb:LLM ist nicht dasselbe wie eine regelbasierte KI.
Bei LLM kann man gewichten, hat schon Einfluss auf die statistischen Ausgaben.


melden

Künstliche Intelligenz

12.08.2026 um 18:40
Ich habe zwar stets mehrere (wechselnde) bezahlte KI-Accounts parallel laufen, komme aber mit ChatGPT mit Abstand am besten klar. Das ist sicherlich nicht allgemeingültig, aber ChatGPT harmoniert einfach am besten mit meiner persönlichen Arbeits- und Denkweise. Ich verwende (bei allen KIs) grundsätzlich nur das stärkste im jeweiligen Account verfügbare Modell in der höchsten Reasoning-Einstellung. Bei ChatGPT ist das derzeit 5.6 Sol Thinking. Dann erfordern Antworten zwar oft einige Minuten, die Qualität ist aber meiner Erfahrung nach um Welten besser als bei Gratis- oder Sofort-Antworten-Modellen. Halluzinationen sind bei den starken Modellen mit maximalem Reasoning meiner Erfahrung nach kaum noch ein Problem.

Bei besonders kritischen Fragen, und/oder wenn ich mich in dem jeweiligen Fachgebiet selbst nicht umfassend auskenne, lasse ich verschiedene KIs gegenseitig ihre Antworten prüfen (das ist ein wesentlicher Grund, warum ich stets mehrere Accounts parallel laufen habe), womit sich i.d.R. die letzen Schwachstellen ausfiltern lassen. Meine Produktivität hat sich damit ungeheuer gesteigert, u.a. durch das Entfallen langwieriger Google-Recherchen.

In den letzten Monaten beobachte ich, dass ChatGPT bei hochkomplexen Linux-Konfigurationsproblemen immer häufiger nicht nur Dokumentation, Forendiskussionen, etc. zu dem Problem auswertet, sondern unaufgefordert direkt den Sourcecode analysiert, was in den allermeisten Fällen zu einer optimalen Problemlösung führt, und das in einem Bruchteil der Zeit, die ohne KI dafür erforderlich wäre. Wow! :)


1x zitiertmelden

Künstliche Intelligenz

13.08.2026 um 08:44
Zitat von uatuuatu schrieb:bei hochkomplexen Linux-Konfigurationsproblemen
tönt interessant...
kannst du da mehr erzählen?
-HW Architektur
-Linux Derivat

Danke


melden

Künstliche Intelligenz

13.09.2026 um 08:19
Es kommt Bewegung in die Angelegenheit ...
Noch weiter gehen will der unabhängige Senator aus Vermont, Bernie Sanders, der die Entwicklung einer Super-Intelligenz komplett verbieten will. Er hatte schon vor Amodeis Äußerungen alle Mitglieder des US-Senats für kommende Woche in einer privaten, parteiübergreifenden Initiative eingeladen hat, um über die außerordentlichen Risiken Künstlicher Intelligenz zu sprechen.

Wenn selbst die Chefs der KI-Unternehmen sagen, sie hätten die Entwicklung nicht mehr im Griff, so Sanders bei CNN, dann sei es höchste Zeit für Kontrolle durch das amerikanische Volk.
Quelle: https://www.tagesschau.de/ausland/amerika/ki-anthropic-106.html


melden

Künstliche Intelligenz

13.09.2026 um 12:10
Wenn selbst die Chefs der KI-Unternehmen sagen, sie hätten die Entwicklung nicht mehr im Griff, so Sanders bei CNN, dann sei es höchste Zeit
Quelle: https://www.tagesschau.de/ausland/amerika/ki-anthropic-106.html

Eigentlich ist es dann schon zu spät. Denen geht es nicht darum, daß KI jetzt übermäßig Schäden anrichten könnte, sondern darum, daß sie dafür eventuell geradestehen müssen, was die Gewinne und, persönlich, ihre Provision/Gratifikation/Boni stark schmälern würde. Credo: Sollen sich jetzt gefälligst die anderen mit den (von uns verursachten) Problemen herumschlagen, wir haben unsere Schächen im Trockenen..


melden

Künstliche Intelligenz

13.09.2026 um 12:36
Oder die KI Entwicklung hat tatsächlich das Plateau erreicht und das errichtete Schneeballsystem droht zu platzen :D


1x zitiertmelden

Künstliche Intelligenz

13.09.2026 um 12:49
Zitat von JoschiXJoschiX schrieb:Oder die KI Entwicklung hat tatsächlich das Plateau erreicht ...
Es ist kein Plateau absehbar. Ganz im Gegenteil, es geht mit Riesenschritten voran. Z.B. GPT 6 Astra Codex ist der absolute Hammer, und -- das sage ich als jemand mit jahrzehntelanger tiefgehender Erfahrung in diesem Bereich -- jedem menschlichen Softwareentwickler weit überlegen.


melden

Künstliche Intelligenz

14.09.2026 um 13:41
@uatu
Das sehe ich ähnlich mit einer Einschränkung...

Regelmäßg steht mir inzwischen der Mund vor Staunen offen, wenn ich die KI (lokal oder aus der Cloud) nutze. Besonders wenn ich bestehende Projekte überarbeiten möchte.

Manchmal macht sie aber auch noch Fehler, die ich selbst von einem Programmieranfänger nicht erwarten würde.

Ich frage mich daher zwei Dinge:

1.) Wenn es nun so schnell möglich ist Quellcode in nie dagewesener Zeit zu erstellen, wer kann das dann noch durchschauen und die Qualität sichern? Besteht nicht die Gefahr, dass immer mehr Quellcode kaum oder gar nicht überprüft und gründlich getestet in Produktion geht.

2.) Wenn die Firmen nun immer mehr "Codierschweine" und Junior-Entwickler / -Architekten abschaffen, weil sie schlicht nicht mehr gebraucht werden, wie sollen dann die erfahrenen Kräfte nachwachsen, die den ganzen Code-Berg / die Flut an Modulen und Projekten noch managen und ordnen können?


2x zitiertmelden

Künstliche Intelligenz

14.09.2026 um 14:02
Zitat von TrailblazerTrailblazer schrieb:1.) Wenn es nun so schnell möglich ist Quellcode in nie dagewesener Zeit zu erstellen, wer kann das dann noch durchschauen und die Qualität sichern? Besteht nicht die Gefahr, dass immer mehr Quellcode kaum oder gar nicht überprüft und gründlich getestet in Produktion geht.
Da nimmt eine andere KI fürs Review. Ob man sich damit besser fühlt, sei dahin gestellt.
Zitat von TrailblazerTrailblazer schrieb:2.) Wenn die Firmen nun immer mehr "Codierschweine" und Junior-Entwickler / -Architekten abschaffen, weil sie schlicht nicht mehr gebraucht werden, wie sollen dann die erfahrenen Kräfte nachwachsen, die den ganzen Code-Berg / die Flut an Modulen und Projekten noch managen und ordnen können?
Die Frage stelle ich mir auch. Aber ähnlich gelagerte Probleme gabs vorher auch schon: wenn Firmen nur erfahrene Fachkräfte einstellen wollen, wie sollen sie (die Fachkräfte) Erfahrungen sammeln? Wir haben das damals gelöst, in dem wir selbst ausgebildet haben. Gute Leute bekamen dann ein Übernahmeangebot und du hast einen Juniorentwickler, der 3 Jahre lang Code, Architektur, Kollegen und Co. kennen gelernt hat.

Die Paketeritis ist allerdings bei uns auch mittlerweile ein Problem geworden. Einerseits will man das Rad nicht immer wieder neu erfinden, andererseits fangen wir uns viele CVEs ein und wir müssen laufend Komponenten updaten und in Patches ausrollen.

You down with CVE?
Hey, you know me! *)

Grüße
Omega Minus

*)
Kontext
Youtube: Naughty by Nature - O.P.P. (Official Music Video)
Naughty by Nature - O.P.P. (Official Music Video)
Externer Inhalt
Durch das Abspielen werden Daten an Youtube übermittelt und ggf. Cookies gesetzt.



melden

Künstliche Intelligenz

14.09.2026 um 15:00
Zitat von TrailblazerTrailblazer schrieb:1.) Wenn es nun so schnell möglich ist Quellcode in nie dagewesener Zeit zu erstellen, wer kann das dann noch durchschauen und die Qualität sichern? Besteht nicht die Gefahr, dass immer mehr Quellcode kaum oder gar nicht überprüft und gründlich getestet in Produktion geht.
wie @OmegaMinus sagt, nimm ne KI für die Prüfung. Oder 10. Das ist jetzt schon billiger und schneller, in absehbarer Zeit auch besser und sicherer.
Zitat von TrailblazerTrailblazer schrieb:2.) Wenn die Firmen nun immer mehr "Codierschweine" und Junior-Entwickler / -Architekten abschaffen, weil sie schlicht nicht mehr gebraucht werden, wie sollen dann die erfahrenen Kräfte nachwachsen, die den ganzen Code-Berg / die Flut an Modulen und Projekten noch managen und ordnen können?
Überhaupt nicht. Der Beruf wird sich massiv verändern, wie es bei anderen Berufen schon der Fall war, wenn es große technische Neuerungen gab.


melden
melden