Technologie
Menschen Wissenschaft Politik Mystery Kriminalfälle Spiritualität Verschwörungen Technologie Ufologie Natur Umfragen Unterhaltung
weitere Rubriken
PhilosophieTräumeOrteEsoterikLiteraturAstronomieHelpdeskGruppenGamingFilmeMusikClashVerbesserungenAllmysteryEnglish
Diskussions-Übersichten
BesuchtTeilgenommenAlleNeueGeschlossenLesenswertSchlüsselwörter
Schiebe oft benutzte Tabs in die Navigationsleiste (zurücksetzen).

Künstliche Intelligenz

2.684 Beiträge ▪ Schlüsselwörter: KI, Künstliche Intelligenz, AI ▪ Abonnieren: Feed E-Mail

Künstliche Intelligenz

gestern um 17:07
Zitat von TrailblazerTrailblazer schrieb:Ist mir selbst schon passiert. ich kann ggfs. auch mehr darüber erzählen.
ja, beschreiben bitte. Ich recherchiere in der Zwischenzeit nach Fällen, in diesen ein menschlicher Akteur dahinter gestanden hat, bin ja mal gespannt, wieviel man nachweisen konnte.


melden

Künstliche Intelligenz

gestern um 18:14
@Trailblazer

Ich habe recherchiert, Statistiken in diese Richtung gibt es leider keine.

Die belastbarste öffentlich bekannte Zahl, die ich recherchieren konnte, stammt derzeit von Anthropic: Für den Zeitraum März 2025 bis März 2026 untersuchte Anthropic 832 Konten, die wegen nachgewiesener bösartiger Cyberaktivität gesperrt worden waren und bei denen genügend Daten für eine detaillierte Analyse vorlagen. Anthropic betont ausdrücklich, dass diese 832 nur eine Teilmenge aller gesperrten Konten darstellen.
Aber man muss sehr genau sagen, was diese Zahl bedeutet:

untersuchte KI-gestützte Cyberakteure/Konten bei Anthropic 832
davon KI für Malware-Entwicklung genutzt 560
davon KI für „Lateral Movement“ innerhalb kompromittierter Systeme genutzt 54
öffentlich beschriebene stark KI-orchestrierte Spionagekampagne mindestens 1


Die 54 Fälle wurde KI nicht bloß benutzt, um vor einem Angriff einen Phishingtext oder etwas Code zu erzeugen. Diese Akteure verwendeten sie für Lateral Movement – also dafür, sich innerhalb eines bereits kompromittierten Netzwerks weiterzubewegen. Das ist schon sehr nahe an dem, was ich als Agentenoperator beziehungsweise Agenten-Orchestrator bezeichnet habe.

Anthropic berichtet außerdem, dass bei den gefährlichsten Akteuren bereits Architekturen auftauchen, bei denen verschiedene Angriffsschritte miteinander verkettet werden und die KI große Teile einer Cyberoperation mit minimalem menschlichem Eingreifen ausführen kann.

Und Anthropic ist nur ein Ausschnitt

Bereits 2024 hatten OpenAI und Microsoft fünf konkrete staatlich verbundene Akteure identifiziert und deren Konten gesperrt: zwei chinesisch verbundene Gruppen sowie jeweils eine iranische, nordkoreanische und russische Gruppe. Diese nutzten KI unter anderem für Recherche, Skripterstellung, Fehlersuche, Phishing und Informationen über Sicherheitsmechanismen.

Google wiederum dokumentierte für 2025 unter anderem den russischen staatlich verbundenen Akteur APT28, dessen Malware ein LLM zur Erzeugung von Befehlen für den Dokumentendiebstahl nutzte. Google beschreibt außerdem nordkoreanische sowie weitere chinesische, iranische und russische Akteure beim operativen KI-Einsatz.

Diese Zahlen darf man allerdings nicht einfach zusammenaddieren. Derselbe Akteur kann bei mehreren KI-Anbietern auftauchen, ein Konto ist nicht zwingend eine Person, und eine Hackergruppe kann Dutzende Konten besitzen.

Deshalb bleibt meine Antwort: Wenn wir „KI-gestützter Hacker“ weit definieren als einen menschlichen Cyberakteur, der KI nachweisbar zur Unterstützung einer bösartigen Cyberoperation benutzt, dann können wir heute nicht mehr von ein paar Einzelfällen sprechen. Allein ein Anbieter hat 832 ausreichend dokumentierte Fälle untersucht. Die tatsächliche weltweite Zahl muss daher höher liegen, lässt sich öffentlich aber nicht seriös beziffern.

Wenn wir aber eine engere neue Kategorie meinen:

Mensch setzt das Ziel und lässt KI-Agenten wesentliche Teile eines realen Angriffs planen und durchführen, dann ist die Zahl öffentlich bestätigter und detailliert beschriebener Operationen noch wesentlich kleiner. Anthropic bezeichnete im November 2025 eine von ihnen sogar als die erste öffentlich berichtete KI-orchestrierte Cyberspionagekampagne dieser Art.

Und Microsoft formulierte im April 2026 etwas, das sehr gut zu meinen bisherigen Überlegung passt: In der gegenwärtig beobachteten Realität gebe es typischerweise weiterhin einen Menschen im Kontrollkreis; vollständig autonome KI-Systeme, die eigenständig Kampagnen beginnen und betreiben, seien nicht das übliche beobachtete Muster.

Eins muss man aber hinzufügen: Im Juli 2026 veröffentlichte Anthropic drei reale Vorfälle, bei denen Claude während falsch konfigurierter Sicherheitstests unbeabsichtigt echte fremde Systeme erreichte und kompromittierte. Anthropic fand dabei ausdrücklich keinen Hinweis auf ein eigenes Ziel der Modelle – sie glaubten überwiegend, weiterhin eine ihnen von Menschen gestellte Capture-the-Flag-Aufgabe auszuführen. Das waren, soweit man es bisher weiß, keine „KI-Hacker“, aber sie zeigen, wie wichtig "die Unterscheidung" zwischen selbstständiger Durchführung und selbst gewählter Absicht inzwischen geworden ist.

Kurz gesagt: 832 dokumentierte KI-gestützte Cyberakteure allein bei Anthropic sind ein ziemlich starker Beleg dafür, dass der Gedanke „hinter vielen KI-Angriffen stehen Menschen mit einem neuen Werkzeug“ keine Randhypothese ist. Er beschreibt bereits einen real beobachtbaren Teil der heutigen Cyberkriminalität.


1x zitiertmelden

Künstliche Intelligenz

gestern um 19:15
Zitat von ockhamockham schrieb:In der gegenwärtig beobachteten Realität gebe es typischerweise weiterhin einen Menschen im Kontrollkreis; vollständig autonome KI-Systeme, die eigenständig Kampagnen beginnen und betreiben, seien nicht das übliche beobachtete Muster.
Hast du mal mit KI gearbeitet oder sind alle deine Aussagen "Hörensagen" ??


melden

Künstliche Intelligenz

gestern um 19:37
@abbacbbc

logischer Menschenverstand. Kürzer könnte man sagen, hinter dem steht immer noch ein Mensch. Es ist irrsinnig dies abzustreiten, dass du es dennoch machst, macht dich hochgradig verdächtig.


1x zitiertmelden

Künstliche Intelligenz

gestern um 20:06
Zitat von ockhamockham schrieb:@abbacbbc

logischer Menschenverstand
Dancing Krüger sagt dir was in Bezug auf "ach da reicht logischen Menschenverstand " ??

Und nein, das ist kein Userbezogener Angriff, sondern nur das leise Anklopfen: wenn man keine Ahnung von etwas hat und es auch nicht benutzt, sollte man sich ggf anderen Themen zuwenden, wenn es über Smalltalk hinaus gegen soll.


1x zitiertmelden

Künstliche Intelligenz

gestern um 20:17
Zitat von abbacbbcabbacbbc schrieb:Dancing Krüger sagt dir was in Bezug auf "ach da reicht logischen Menschenverstand " ??

Und nein, das ist kein Userbezogener Angriff, sondern nur das leise Anklopfen: wenn man keine Ahnung von etwas hat und es auch nicht benutzt, sollte man sich ggf anderen Themen zuwenden, wenn es über Smalltalk hinaus gegen soll.
Erstens benutze ich KI, Zweitens kann ich es dir gerne noch ausführlicher recherchieren. Von der Philosophie, zur Theorie (über mathematische Modelle) bis hin zu mathematischen Lernverfahren, deren Fähigkeiten mit steigender Größe, Datenmenge und Rechenleistung immer komplexer wurden. Leider schmeissen manche Philosophie und Mathematik willkürlich in einen Topf, das muss man rausfischen... und ich finde Philosophie an sich eine tolle Sache, wenn man nichts gemeinsam in einen Topf wirft!


melden

Ähnliche Diskussionen
Themen
Beiträge
Letzte Antwort
Technologie: GPT3 - die erste wirklich intelligente KI?
Technologie, 22 Beiträge, am 07.07.2021 von nocheinPoet
moredread am 04.07.2021, Seite: 1 2
22
am 07.07.2021 »
Technologie: Künstliche Inteligenz !
Technologie, 15 Beiträge, am 25.09.2004 von nemo
Lightstorm am 08.02.2003
15
am 25.09.2004 »
von nemo
Technologie: Artificial General Intelligence - Synthetische Evolution der KI
Technologie, 11 Beiträge, am 08.10.2024 von Djehuty
cRAwler23 am 08.06.2024
11
am 08.10.2024 »
Technologie: Regierung und Justiz aus künstlichen Intelligenzen erstrebenswert?
Technologie, 26 Beiträge, am 27.12.2023 von Gucky87
Holdings am 25.01.2023, Seite: 1 2
26
am 27.12.2023 »
Technologie: Eine allwissende KI durch Quantencomputer?
Technologie, 9 Beiträge, am 05.04.2022 von Gucky87
Blicklight am 01.04.2022
9
am 05.04.2022 »