@Negev Auch wenn ich nun nur Dich zitiere, ich habe alles bis hierhin gelesen und meine Antwort richtet sich auch an die Anderen hier.
Negev schrieb:KI ist kein Computer-Virus, die sich mal eben überall ausbreiten kann. Diese Vorgänge werden nicht unentdeckt bleiben und man wird in jedem Fall den Stecker ziehen können, wenn eine KI gerade das neueste Buch von Karl Olsberg durchspielen will.
Aktuell ist eine KI kein Virus, aber das ist möglich, ich habe mehrfach dazu Rechnungen durchführen lassen, mit der Leistung aktueller Handys, anderer vernetzter Geräte, es braucht hier nur eine coole App, die auf vielen Geräten installiert wird, dann kann ein Rechencluster gebildet werden, nur bei Aufladen aktiv, sehr verdeckt, wenn was ist, löscht sich der Teil, der verdächtig ist.
Nehmen wir mal Stuxnet Virus, war sehr komplex, viele Programmierer haben lange dafür Code geschrieben, eine KI die einen Exaflop Cluster hat, kann da schon was zaubern.
Negev schrieb:Große LLMs können nur auf riesige Serverfarmen effektiv laufen. Und man müsste noch nicht einmal "den Stecker ziehen". Man müsste lediglich einen Prozess beenden. Kar. Daran können Businesses hängen. Aber wenn auffällt, das eine KI durchdreht sollte man sich doch für die Sichere Variante entscheiden. Der Vorfall, bei dem Gemini ihren Nutzern empfohlen hat, die Salami mit Kleber auf der Pizza zu "befestigen" war nicht ohne Grund geschäftsschädigend.
Meiner Meinung nach ist die Vorstellung, man könnte dann wenn wein KI richtig aus dem Ruder läuft, einfach einen Stecker ziehen, naiv. Als das mit Elektrizität anfing, wäre das für die Welt kein Problem gewesen, wenn sie ausgefallen wäre. Als das mit den ersten PCs anfing, auch hier wäre es kein großes Problem gewesen, wenn die ausfallen. Aber heute sterben Menschen, wenn ein Betriebssystem spinnt, überall laufen Rechner, die Stromversorgung, Wasser, im Krankenhaus, wir können nicht mehr den Stecker für alle PCs ziehen.
Und was passiert aktuell?
Agenten kommen und übernehmen überall die Steuerung von kritischer Infrastruktur, mehr und mehr und noch mehr. Weil es sich rechnet, es passiert gerade und es wird so weiter gehen. In fünf Jahre, so schätze ich mal grob, können wir die Agenten nicht mehr abschalten, selbst wenn wir noch einen Stecker finden würden. Aber es wird da auch gar keinen Stecker mehr geben. Schauen wir mal was in fünf Jahren sein wird ...
Negev schrieb:Aber mein 1,8 B Modell, das ich auf meinem Smartphone bereits heute laufen lasse, wird nicht die Weltherrschaft an sich reißen.
Mag sein, kann man nicht wissen, wenn, würde es Dir ganz sicher davon aber auf Nachfrage berichten.
:D
Negev schrieb:Diese Geräte kann man aber nicht einfach mal so zu einem großen Ganzen zusammenschalten.
Ist so, weil Du das sagst? Meiner Meinung nach irrst Du hier gewaltig, wie gesagt, ich habe mir das inzwischen mehrfach durchrechnen lassen, welche Leistung ein Cluster bringt, der auf 200 Millionen Handys läuft und es gibt viel mehr auf der Welt. Und ich habe nur um 5 % bis 10 % der Leistung abgegriffen. Die Funknetze werden immer schneller, überall gibt es WLAN, die Handys bekommen ständig eine immer schnellere Anbindung ans Netz. Deine "Sicherheit" kann ich in keiner Weise teilen, keine Ahnung, woher Du Dein "Wissen" dafür nimmst.
Negev schrieb:Selbst wenn man das schaffen - und es unerkannt bleiben würde!, könnte man darüber kein großes LLM betreiben. Und die Kleinen sind dafür nicht intelligent genug. Eine Verbund aus Agents würde nichts brauchbares liefern.
Wie eben, woher weißt Du das so sicher, was konkret hast Du dazu recherchiert? Meiner Meinung greifst Du das einfach so nur aus der Luft, Behauptungen, unbelegt, mehr nicht. Ich habe mir wirklich mehrfach dazu Gedanken gemacht und das sehr genau recherchiert, was hat ein Handy für eine Leistung, was für eine Anbindung braucht es, wie entwickelt sich das weiter, wie viele Geräte müssen kompromittiert sein, und nur mal so am Rande, Autos haben auch fette Rechner, werden immer größer, auch fürs autonome Fahren, die werden aufgeladen, wenn da in der Zeit eine wenig abgegriffen wird, ist nicht so einfach, dass zu erkennen, Auto braucht eben etwas mehr Strom als erwartet, normal, welches Auto verbraucht weniger als der Hersteller so angibt?
Es wäre auch kein Verbund aus Agenten, sondern eine Cluster, auf dem sich eine KI breit macht.
Hier heute schon auf ein Exaflop zu kommen, ist keine große Hürde, nur mal so am Rande ...
Negev schrieb:Meine KI meckert auch schon die ganze Zeit herum, das ich nur die heutigen Möglichkeiten im Blick habe (ich hab das LLM mit dem Transkript des Videos von unserem Untergangspropheten gefüttert). Aber wenn eine außerirdische Macht beschließt, das unser Planet einer Hyperraumroute weichen muss, dann können wir auch wenig machen ...
Was wird das jetzt, ein Versuch von Humor, um berechtigte Sorgen zu bagatellisieren?
Aber in der Fantasie haben wir auch schon den Fusion-Reaktor. Klar, Strohmann. Soll aber deutlich machen, das manchmal doch mehr Vision als Realität hinter Aussagen stecken können.[/quote]
Negev schrieb:Generative KI bringen Blackboxes mit. Okay. Verstanden. Das ist aber nur ein wahnsinnig gutes Argument dafür, das man diese KI nicht für systemkritische Infrastruktur einsetzt!
Die Frage ist lange schon entschieden, es zählen hier wirtschaftliche Interessen, nicht Vernunft, wenn die Menschheit vernunftgesteuert wäre, hätten wir weniger Mirkoplastik, Artensterben, Klimawandel, Umweltverschmutzung und viel weniger Stoffe in der Umwelt, die richtig ein großes Problem für uns sind, PFAS so mal als Stichwort. Kannst ja mal schauen, wann der erste Cluster mit einem Zettaflop ans Netz geht und wann es dann den mit einem Yottaflop gibt. Eine KI die so eine Hardware nutzen kann, ist unmöglich einzufangen. So eine Rechenleistung ist kaum noch vorstellbar. Habe mir auch dazu mal einiges angesehen und recherchiert. Und hier ist nicht die Frage, ob wir so eine Hardware bauen, ob wir darauf eine KI laufen lassen werden, sondern nur noch wann ...
