Technologie
Menschen Wissenschaft Politik Mystery Kriminalfälle Spiritualität Verschwörungen Technologie Ufologie Natur Umfragen Unterhaltung
weitere Rubriken
PhilosophieTräumeOrteEsoterikLiteraturAstronomieHelpdeskGruppenGamingFilmeMusikClashVerbesserungenAllmysteryEnglish
Diskussions-Übersichten
BesuchtTeilgenommenAlleNeueGeschlossenLesenswertSchlüsselwörter
Schiebe oft benutzte Tabs in die Navigationsleiste (zurücksetzen).

Künstliche Intelligenz

2.690 Beiträge ▪ Schlüsselwörter: KI, Künstliche Intelligenz, AI ▪ Abonnieren: Feed E-Mail

Künstliche Intelligenz

09.08.2026 um 17:07
Zitat von TrailblazerTrailblazer schrieb:Ist mir selbst schon passiert. ich kann ggfs. auch mehr darüber erzählen.
ja, beschreiben bitte. Ich recherchiere in der Zwischenzeit nach Fällen, in diesen ein menschlicher Akteur dahinter gestanden hat, bin ja mal gespannt, wieviel man nachweisen konnte.


melden

Künstliche Intelligenz

09.08.2026 um 18:14
@Trailblazer

Ich habe recherchiert, Statistiken in diese Richtung gibt es leider keine.

Die belastbarste öffentlich bekannte Zahl, die ich recherchieren konnte, stammt derzeit von Anthropic: Für den Zeitraum März 2025 bis März 2026 untersuchte Anthropic 832 Konten, die wegen nachgewiesener bösartiger Cyberaktivität gesperrt worden waren und bei denen genügend Daten für eine detaillierte Analyse vorlagen. Anthropic betont ausdrücklich, dass diese 832 nur eine Teilmenge aller gesperrten Konten darstellen.
Aber man muss sehr genau sagen, was diese Zahl bedeutet:

untersuchte KI-gestützte Cyberakteure/Konten bei Anthropic 832
davon KI für Malware-Entwicklung genutzt 560
davon KI für „Lateral Movement“ innerhalb kompromittierter Systeme genutzt 54
öffentlich beschriebene stark KI-orchestrierte Spionagekampagne mindestens 1


Die 54 Fälle wurde KI nicht bloß benutzt, um vor einem Angriff einen Phishingtext oder etwas Code zu erzeugen. Diese Akteure verwendeten sie für Lateral Movement – also dafür, sich innerhalb eines bereits kompromittierten Netzwerks weiterzubewegen. Das ist schon sehr nahe an dem, was ich als Agentenoperator beziehungsweise Agenten-Orchestrator bezeichnet habe.

Anthropic berichtet außerdem, dass bei den gefährlichsten Akteuren bereits Architekturen auftauchen, bei denen verschiedene Angriffsschritte miteinander verkettet werden und die KI große Teile einer Cyberoperation mit minimalem menschlichem Eingreifen ausführen kann.

Und Anthropic ist nur ein Ausschnitt

Bereits 2024 hatten OpenAI und Microsoft fünf konkrete staatlich verbundene Akteure identifiziert und deren Konten gesperrt: zwei chinesisch verbundene Gruppen sowie jeweils eine iranische, nordkoreanische und russische Gruppe. Diese nutzten KI unter anderem für Recherche, Skripterstellung, Fehlersuche, Phishing und Informationen über Sicherheitsmechanismen.

Google wiederum dokumentierte für 2025 unter anderem den russischen staatlich verbundenen Akteur APT28, dessen Malware ein LLM zur Erzeugung von Befehlen für den Dokumentendiebstahl nutzte. Google beschreibt außerdem nordkoreanische sowie weitere chinesische, iranische und russische Akteure beim operativen KI-Einsatz.

Diese Zahlen darf man allerdings nicht einfach zusammenaddieren. Derselbe Akteur kann bei mehreren KI-Anbietern auftauchen, ein Konto ist nicht zwingend eine Person, und eine Hackergruppe kann Dutzende Konten besitzen.

Deshalb bleibt meine Antwort: Wenn wir „KI-gestützter Hacker“ weit definieren als einen menschlichen Cyberakteur, der KI nachweisbar zur Unterstützung einer bösartigen Cyberoperation benutzt, dann können wir heute nicht mehr von ein paar Einzelfällen sprechen. Allein ein Anbieter hat 832 ausreichend dokumentierte Fälle untersucht. Die tatsächliche weltweite Zahl muss daher höher liegen, lässt sich öffentlich aber nicht seriös beziffern.

Wenn wir aber eine engere neue Kategorie meinen:

Mensch setzt das Ziel und lässt KI-Agenten wesentliche Teile eines realen Angriffs planen und durchführen, dann ist die Zahl öffentlich bestätigter und detailliert beschriebener Operationen noch wesentlich kleiner. Anthropic bezeichnete im November 2025 eine von ihnen sogar als die erste öffentlich berichtete KI-orchestrierte Cyberspionagekampagne dieser Art.

Und Microsoft formulierte im April 2026 etwas, das sehr gut zu meinen bisherigen Überlegung passt: In der gegenwärtig beobachteten Realität gebe es typischerweise weiterhin einen Menschen im Kontrollkreis; vollständig autonome KI-Systeme, die eigenständig Kampagnen beginnen und betreiben, seien nicht das übliche beobachtete Muster.

Eins muss man aber hinzufügen: Im Juli 2026 veröffentlichte Anthropic drei reale Vorfälle, bei denen Claude während falsch konfigurierter Sicherheitstests unbeabsichtigt echte fremde Systeme erreichte und kompromittierte. Anthropic fand dabei ausdrücklich keinen Hinweis auf ein eigenes Ziel der Modelle – sie glaubten überwiegend, weiterhin eine ihnen von Menschen gestellte Capture-the-Flag-Aufgabe auszuführen. Das waren, soweit man es bisher weiß, keine „KI-Hacker“, aber sie zeigen, wie wichtig "die Unterscheidung" zwischen selbstständiger Durchführung und selbst gewählter Absicht inzwischen geworden ist.

Kurz gesagt: 832 dokumentierte KI-gestützte Cyberakteure allein bei Anthropic sind ein ziemlich starker Beleg dafür, dass der Gedanke „hinter vielen KI-Angriffen stehen Menschen mit einem neuen Werkzeug“ keine Randhypothese ist. Er beschreibt bereits einen real beobachtbaren Teil der heutigen Cyberkriminalität.


1x zitiertmelden

Künstliche Intelligenz

09.08.2026 um 19:15
Zitat von ockhamockham schrieb:In der gegenwärtig beobachteten Realität gebe es typischerweise weiterhin einen Menschen im Kontrollkreis; vollständig autonome KI-Systeme, die eigenständig Kampagnen beginnen und betreiben, seien nicht das übliche beobachtete Muster.
Hast du mal mit KI gearbeitet oder sind alle deine Aussagen "Hörensagen" ??


melden

Künstliche Intelligenz

09.08.2026 um 19:37
@abbacbbc

logischer Menschenverstand. Kürzer könnte man sagen, hinter dem steht immer noch ein Mensch. Es ist irrsinnig dies abzustreiten, dass du es dennoch machst, macht dich hochgradig verdächtig.


1x zitiertmelden

Künstliche Intelligenz

09.08.2026 um 20:06
Zitat von ockhamockham schrieb:@abbacbbc

logischer Menschenverstand
Dancing Krüger sagt dir was in Bezug auf "ach da reicht logischen Menschenverstand " ??

Und nein, das ist kein Userbezogener Angriff, sondern nur das leise Anklopfen: wenn man keine Ahnung von etwas hat und es auch nicht benutzt, sollte man sich ggf anderen Themen zuwenden, wenn es über Smalltalk hinaus gegen soll.


1x zitiertmelden

Künstliche Intelligenz

09.08.2026 um 20:17
Zitat von abbacbbcabbacbbc schrieb:Dancing Krüger sagt dir was in Bezug auf "ach da reicht logischen Menschenverstand " ??

Und nein, das ist kein Userbezogener Angriff, sondern nur das leise Anklopfen: wenn man keine Ahnung von etwas hat und es auch nicht benutzt, sollte man sich ggf anderen Themen zuwenden, wenn es über Smalltalk hinaus gegen soll.
Erstens benutze ich KI, Zweitens kann ich es dir gerne noch ausführlicher recherchieren. Von der Philosophie, zur Theorie (über mathematische Modelle) bis hin zu mathematischen Lernverfahren, deren Fähigkeiten mit steigender Größe, Datenmenge und Rechenleistung immer komplexer wurden. Leider schmeissen manche Philosophie und Mathematik willkürlich in einen Topf, das muss man rausfischen... und ich finde Philosophie an sich eine tolle Sache, wenn man nichts gemeinsam in einen Topf wirft!


melden

Künstliche Intelligenz

11.08.2026 um 16:44
Zitat von OmegaMinusOmegaMinus schrieb am 18.07.2026:Das Verhalten einer LLM wird hauptsächlich von den Trainingsdaten bestimmt.
Ich glaube aber, dass eine KI zusätzlich von ihren Entwicklern in eine bestimmte (gewünschte) Richtung gelenkt wird.
Zitat von OptimistOptimist schrieb am 18.07.2026:so lese ich den Text aber absolut nicht.
Da sieht man mal wieder wie unterschiedlich Wahrnehmungen sein können
Es fällt mir aber auf, dass nur Copilot für sich selbst wirbt. Alle anderen KI die ich verwende, bleiben diesbezüglich neutral. Bei Copilot merkt man, er (bzw „es") versucht, jeden User an sich zu binden.

Diese kostenlosen Sprachmodels sind für mich sehr gut, um Dinge zu erklären (Mathe, Wissenschaft, Physik, Technik,…) leider sind alle eine Katastrophe, wenn man sie Sachen über das Internet recherchieren lässt – da merkt man, dass sie zu schwachen KI gehören. Wobei auch eine schwache KI gründlich sein müsste, denn der Hautunterschied ist (sofern ich alles richtig verstanden habe), dass die „Starke" selbstständig Lösungen erarbeitet und ausführt, sowie Brücken zwischen unterschiedlichen Themen baut und sich ohne externes Training weiterentwickelt (vereinfacht ausgedrückt)

Ich glaube aber, dass alle in einem Punkt bewusst „lügen" : jede dieser Sprachmodels behauptet, dass es noch keine starke KI gibt. Hauptgrund ist der gigantische Stromverbrauch, den sogar „Schwache" verursachen – wieviel braucht dann erst eine „Starke"…..
Trotzdem bin ich (das ist nur meine persönliche Meinung) davon überzeugt, dass es so etwas schon gibt.


2x zitiertmelden

Künstliche Intelligenz

11.08.2026 um 16:52
Zitat von FerneZukunftFerneZukunft schrieb:Ich glaube aber, dass eine KI zusätzlich von ihren Entwicklern in eine bestimmte (gewünschte) Richtung gelenkt wird.
Das kannst Du gerne glauben, stimmt aber nicht mit meinen Informationen überein.

Nota bene I:
LLM ist nicht dasselbe wie eine regelbasierte KI.

Nota bene II:
Bei Bildgeneratoren kann man - so sie denn die Trsiningsdaten hatte - von Zensur befreien.

Grüße
Omega Minus


2x zitiertmelden

Künstliche Intelligenz

11.08.2026 um 18:26
Zitat von OmegaMinusOmegaMinus schrieb:Das kannst Du gerne glauben, stimmt aber nicht mit meinen Informationen überein.
Nein, Nein, er hat schon recht. Es gibt ja das System-Prompt worüber der Betreiber dem LLM allgemeine Vorgaben machen kann.


melden

Künstliche Intelligenz

11.08.2026 um 18:27
Zitat von FerneZukunftFerneZukunft schrieb:Ich glaube aber, dass eine KI zusätzlich von ihren Entwicklern in eine bestimmte (gewünschte) Richtung gelenkt wird.
Zitat von OmegaMinusOmegaMinus schrieb:LLM ist nicht dasselbe wie eine regelbasierte KI.
Bei LLM kann man gewichten, hat schon Einfluss auf die statistischen Ausgaben.


melden

Künstliche Intelligenz

12.08.2026 um 18:40
Ich habe zwar stets mehrere (wechselnde) bezahlte KI-Accounts parallel laufen, komme aber mit ChatGPT mit Abstand am besten klar. Das ist sicherlich nicht allgemeingültig, aber ChatGPT harmoniert einfach am besten mit meiner persönlichen Arbeits- und Denkweise. Ich verwende (bei allen KIs) grundsätzlich nur das stärkste im jeweiligen Account verfügbare Modell in der höchsten Reasoning-Einstellung. Bei ChatGPT ist das derzeit 5.6 Sol Thinking. Dann erfordern Antworten zwar oft einige Minuten, die Qualität ist aber meiner Erfahrung nach um Welten besser als bei Gratis- oder Sofort-Antworten-Modellen. Halluzinationen sind bei den starken Modellen mit maximalem Reasoning meiner Erfahrung nach kaum noch ein Problem.

Bei besonders kritischen Fragen, und/oder wenn ich mich in dem jeweiligen Fachgebiet selbst nicht umfassend auskenne, lasse ich verschiedene KIs gegenseitig ihre Antworten prüfen (das ist ein wesentlicher Grund, warum ich stets mehrere Accounts parallel laufen habe), womit sich i.d.R. die letzen Schwachstellen ausfiltern lassen. Meine Produktivität hat sich damit ungeheuer gesteigert, u.a. durch das Entfallen langwieriger Google-Recherchen.

In den letzten Monaten beobachte ich, dass ChatGPT bei hochkomplexen Linux-Konfigurationsproblemen immer häufiger nicht nur Dokumentation, Forendiskussionen, etc. zu dem Problem auswertet, sondern unaufgefordert direkt den Sourcecode analysiert, was in den allermeisten Fällen zu einer optimalen Problemlösung führt, und das in einem Bruchteil der Zeit, die ohne KI dafür erforderlich wäre. Wow! :)


1x zitiertmelden

Künstliche Intelligenz

13.08.2026 um 08:44
Zitat von uatuuatu schrieb:bei hochkomplexen Linux-Konfigurationsproblemen
tönt interessant...
kannst du da mehr erzählen?
-HW Architektur
-Linux Derivat

Danke


melden

Ähnliche Diskussionen
Themen
Beiträge
Letzte Antwort
Technologie: GPT3 - die erste wirklich intelligente KI?
Technologie, 22 Beiträge, am 07.07.2021 von nocheinPoet
moredread am 04.07.2021, Seite: 1 2
22
am 07.07.2021 »
Technologie: Künstliche Inteligenz !
Technologie, 15 Beiträge, am 25.09.2004 von nemo
Lightstorm am 08.02.2003
15
am 25.09.2004 »
von nemo
Technologie: Artificial General Intelligence - Synthetische Evolution der KI
Technologie, 11 Beiträge, am 08.10.2024 von Djehuty
cRAwler23 am 08.06.2024
11
am 08.10.2024 »
Technologie: Regierung und Justiz aus künstlichen Intelligenzen erstrebenswert?
Technologie, 26 Beiträge, am 27.12.2023 von Gucky87
Holdings am 25.01.2023, Seite: 1 2
26
am 27.12.2023 »
Technologie: Eine allwissende KI durch Quantencomputer?
Technologie, 9 Beiträge, am 05.04.2022 von Gucky87
Blicklight am 01.04.2022
9
am 05.04.2022 »