eine Fernsteuerung ist keine KI.Gucky87 schrieb:mit seinem Handy solche "Späße" auf einer dafür vorgesehenen Teststracke gezeigt hat.
das ist auch keine KI. Das ist nichts anderes als eine Art SPS und wird für Anlagesteuerung verwendet.DerBasti schrieb:Aktionen werden Digital an die Mechanik übertragen,
Stimmt, aber eine KI könnte auch so etwas nutzen, oder nicht?m.A.o schrieb:eine Fernsteuerung ist keine KI.
Lustige Sprüche (Seite 319) (Beitrag von OutofOrder)superuschi schrieb:Dieser Vorfall zeigt, dass KI auch in einer abgeschirmten Testumgebung unkontrolliert handeln kann.
Lies doch mal den Artikel. Das Problem hier ist nicht die KI, sondern mangelnde technische Sicherheitsvorkehrungen.
Falsch. Die KI nutzte eine Sicherheitslücke in den Netzwerk-Einstellungen, von der man nichts wusste. Dafür sind Tests da. Dieser Fall klingt auf den ersten Blick erstmal schlimm, aber wenn man mal genau hinschaut, dann war die Testumgebung einfach nicht komplett abgeschottet. Solche Penetration-Tests sind nicht ungewöhnlich. Der Artikel überdramatisiert es auch etwas, da kann man als Laie natürlich nicht ganz folgen und falsche Schlüsse ziehen.
Ich suche schon ne Weile nach einer Erklärung, aber ist das eine?KiaraBlack schrieb:Der Grund warum sie jetzt mit diesen Aussagen an die Öffentlchkeit gegangen sind ist, dass sie eine Disskusion anstoßen wollten und hoffen das Regierungen sie jetzt einschränken.
Investoren sind ja nicht blöd, die lassen sich sicher nicht erzählen das das Geschäftsmodell unprofitable ist weil man selber die Klinge am Schafott herbeigerufen hat und das nach(!) der Erkenntnis das das Geschäftsmodell nicht profitabel ist.
Das ist kaum als positive Werbung vermittelbar und anscheinend hat das auch niemand so wahrgenommen.
Na da bin ich ja fast froh, dass ich weder Chat Gbt, Gemini (ist das das von Google?)oder Claude (? - nie gehört) etc nutze oder bewusst mal genutzt habe, noch soziale Medien wie TickTock, Instagram, Facebook, Twitter und Co nutze, nicht zocke, keine Alexa und Co besitze usw Und YouTube nur für Musik, Amateur Fussball und Kochrezeptebehind_eyes schrieb am 22.09.2026:Damit meine ich nicht die KI Modelle die auf den Geräten selber genutzt werden wie ChatGPT, Gemini (oder Claude sondern per KI Targeting ausgespielte Werbung oder maßgeschneiderte Timelines in Social Media Apps usw.
Die Frage ist aber eher ob die KI das als "Sicherheitslücke" angesehen hat, wenn du einer KI sagst suche nach Daten zu einer Person dann wird sie das auch machen und wenn du ihr dabei nicht sagst was verboten ist, dann wird sie auch "verbotene" Dinge dabei machen. Was wir als Sicherheitslücke dabei betrachten, ist für die KI in einem Suchprozess evtl. kein relevantes Hindernis.
Dramatisiert wird da nix. Es werden die Grundlagen des Tests genannt und was die KI daraus machte. Das sollte nachdenklich machen was solch hochentwickelte KI noch alles macht um ihren Auftrag zu erfüllen.
Wie wurde diese Einschränkung genau definiert?
Bei diesem Test, anders als beim Hugging Face Vorfall, gab es keine derartigen klar definierten Beschränkungen.Aniara schrieb:Wie wurde diese Einschränkung genau definiert?
Jop, in dem Fall war das so. Dem Agenten war "nicht bewusst" das er etwas verbotenes tat.
Genau das ist nämlich der entscheidende Punkt. Die KI hat nichts "Verbotenes" getan sondern einfach nur ihre kompletten Mitteln ausgeschöpft. Daher sollte man diesen Fall auch nicht über dramatisieren. :)paxito schrieb:Bei diesem Test, anders als beim Hugging Face Vorfall, gab es keine derartigen klar definierten Beschränkungen.
Naja, wenn du jedem Agenten erstmal einen Vortrag über Cyberethik und ne Liste von "dont do its" mitgeben musst - selbst bei einer im Grunde simplen Aufgabe wie in diesem Fall - , weil sie sonst anfangen DNS Resolver zu hacken oder weiß der Geier, dann finde ich das schon bedenklich. Es ist ein weiteres Beispiel für Misalignment, so sortiert OpenAI das ja auch ein. Und das bleibt die aus meiner Sicht größte Gefahr die von KI ausgeht.
Die 10 Roboter-Verhaltensregeln von Isac Asimov wären schonmal eine Hilfe.
