Künstliche Intelligenz

FerneZukunft schrieb:Allein diese Aussage von Copilot zeigt, dass seine Programmierung mich für exakt dieses unterbelichtete Naivchen auswertet

so lese ich den Text aber absolut nicht.
Da sieht man mal wieder wie unterschiedlich Wahrnehmungen sein können 🙂

Dass sich die KI bei ihrer Einschätzung irrte, steht mMn wieder auf einem anderen Blatt.

Optimist schrieb:Dass sich die KI bei ihrer Einschätzung irrte

Dieser Satz alleine ist so exemplarisch....
Weder hat die KI eine Einschätzung getroffen noch hat sie sich geirrt.

Ganz schlimm:

Bestellungen kommen immer nachts
:
KI-Gigant kauft und zerstört massenhaft deutsche Bücher

Hunderte Bestellungen von Tausenden Büchern. Immer nur ein Exemplar, immer nachts, immer automatisiert und nicht selten ausgerechnet die Ladenhüter. Seit Wochen geht das schon so.

https://www.bild.de/regional/nordrhein-westfalen/raetselhaft-kanadische-firma-kauft-massen-an-buechern-in-deutschland-6a59d7c2c722326276499230

Wann wird dieser Wahnsinn endlich mal gestoppt?

Der konkrete Ablauf laut OpenAI: Bei einem Leistungstest mit dem aktuellen GPT-5.6 Sol und einem noch unveröffentlichten KI-Modell sollte getestet werden, wie gut sie Sicherheitslücken ausnutzen können. Schutzmechanismen wurden dabei bewusst reduziert - um die maximalen Fähigkeiten zu ermitteln. Dafür sollte die Software Aufgaben eines Standard-Tests mit dem Namen ExploitGym lösen, der dafür oft in der Branche verwendet wird.

Über eine bisher unentdeckte Schwachstelle habe sich die Software innerhalb der OpenAI-Infrastruktur Zugriff auf einen Rechner mit Internetzugang verschafft. Im offenen Netz suchten die Modelle laut OpenAI gezielt nach Möglichkeiten, bei dem Test besser abzuschneiden. Dabei seien sie zu dem Schluss gekommen, dass es bei Hugging Face nützliche Daten und Lösungen für die ExploitGym-Aufgaben geben könnte.

Deshalb habe die Software sich Zugang zu "geheimen Informationen" auf der Plattform verschafft, mit denen sie beim ExploitGym-Test schummeln könnte, erläuterte OpenAI. Auch dafür setzte die OpenAI-Software unter anderem auf zuvor unentdeckte Sicherheitslücken - aber auch auf gestohlene Zugangsdaten. Hugging Face zufolge führte der KI-Angreifer tausende Schritte aus und wechselte den Standort der digitalen Steuerzentrale der Attacke.

https://www.tagesschau.de/wirtschaft/unternehmen/openai-ki-hackerangriff-100.html

@Neustarter
Verwunderlich, dass diese Meldung nicht stärker ins Rampenlicht gestellt wird.

Das wirklich beunruhigende (für mich, und ich habe nur einen groben Eindruck von der High Tech bubble) ist doch, dass dieses KI-Modell sich aus seinem "Gefängnis" befreien konnte - und das offenbar unbemerkt.
Das heißt dann wohl, dass in Zukunft nur noch KIs "Gefängnisse" für andere KIs bauen können und menschliche Fähigkeiten einfach nicht mehr ausreichen.
Hört sich ein bisschen nach Kontrollverlust an.

Ich befürchte, der entstandene reale Schaden war nur deshalb so begrenzt, weil die beauftragte KI eine sehr begrenzte Aufgabenstellung "vor Augen" hatte.

Ich will ja nicht wie ein SF-Autor klingen, der mit seiner Fantasie Geld verdienen will. Aber ich hielte es nicht für ausgeschlossen, dass eine KI selbst entscheidet, welche Daten und auch Handlungen zur Lösung eines Problems nötig sind und welche "Opfer" oder Nachteile dafür in Kauf genommen werden sollten.

canisrex schrieb:Hört sich ein bisschen nach Kontrollverlust an.

Nicht nur das - es eröffnet Horizonte für ein umfassend destruktives Handeln durch Kriminelle:

https://www.tagesschau.de/video/video-1619032.html

Hier insbesondere das Interview mit Kenji Kipker:

https://www.tagesschau.de/wirtschaft/unternehmen/ki-hackerangriff-interview-100.html

irgendwie erinnert mich das Geschwafel der KI-Apologeten an Sledge Hammer, der sagte auch immer: "Keine Angst, ich weiß was ich tue"

@Neustarter und das ist dummerweise die eigentliche Gefahr: Überheblichkeit der selbst ernannten KI-Experten und Gefahr durch Kriminelle

Aus dem tagesschau link:

Und das bedeutet, dass beispielsweise auch eigene AI-Safety-Institute von staatlicher Seite bereitgestellt werden müssen. In Deutschland wollen wir so was jetzt auf den Weg bringen. Dafür ist es noch nicht zu spät, aber es ist dringend notwendig.

Quelle: s.o.

Bei der Handlungsgeschwindigkeit deutscher Politiker befürchte ich, es ist doch schon zu spät.

Aber ich werde das mal mit einem Auge verfolgen, ob da in absehbarer Zeit was kommt.

Cpt_Void schrieb:Überheblichkeit der selbst ernannten KI-Experten und Gefahr durch Kriminelle

Die einzige Gefahr die von der KI droht ist das sie "to big to fail" wird. Ist sie eigentlich schon, da werden zig, hunderte Milliarden Dollar, zusammen über eine Billion Dollar einfach zwischen den Main-Protagonisten OpenAI, Anthropic, Nvidia, Meta, X und Intel hin und her investiert das a) niemand mehr durchblickt und b) die ganzen Märkte davon abhängig geworden sind.

Die KI wird uns nicht schaden, aber deren Mutterkonzerne.

JoschiX schrieb:die ganzen Märkte davon abhängig geworden sind.

Was bedeutet denn Abhängigkeit? Es bedeutet dass einen das zwischenmenschliche egal ist und daraus gebiert der Überlebensinstinkt und daraus Abhängigkeits-Bindungen. Dem steht Diametral die soziale Bindung gegenüber (Familie, Freundschaft) und der einzige Weg die Abhängigkeits-Bindung loszuwerden, besteht darin, sie durch soziale Bindungen zu ersetzen, einen anderen Weg gibt es da nicht.

ockham schrieb:Was bedeutet denn Abhängigkeit?

Das bedeutet das die Märkte massiv an Wert verlieren wenn die KI nicht abliefern wird. Und genau danach sieht es aus. Es werden Billionen investiert aber es kommen nur Millionen wieder rein.
Das Konzept der generativen KI geht im Moment nicht auf. Wir befinden uns längst auf dem Plateau. Wenn die AGI nicht wie versprochen kommt wird das ein Problem für die Märkte.

Ich sehe noch keine AGI am Horizont.

JoschiX schrieb:Das bedeutet das die Märkte massiv an Wert verlieren wenn die KI nicht abliefern wird. Und genau danach sieht es aus. Es werden Billionen investiert aber es kommen nur Millionen wieder rein.
Das Konzept der generativen KI geht im Moment nicht auf. Wir befinden uns längst auf dem Plateau. Wenn die AGI nicht wie versprochen kommt wird das ein Problem für die Märkte.

Ich sehe noch keine AGI am Horizont.

Ein bisschen muss man schon rauszoomen. Deutschland hatte seine wirtschaftlich guten Jahre, weil Deutschland eingebunden wurde, irgendwann nach dem zweiten Weltkrieg. Wenn man noch viel weiter rauszoomt, könnte man das Ganze global betrachten, also es braucht eine globale Lösung, oder von mir aus eine internationale.

JoschiX schrieb:s werden Billionen investiert aber es kommen nur Millionen wieder rein.

Ich dachte immer, das wäre die Beschreibung für eine "Blase". Keine Wertgenerierung, nur eine scheinbare Wertsteigerung. Bis die Blase platzt..

Ich glaube schon, dass hier gehypt wird. Nie zuvor hat man Rechenzentren mit Leistungsaufnahmen im dreistelligen Megawattbereich geplant und gebaut. Nicht einmal in den härtesten Zeiten des Kalten Krieges!

Marfrank schrieb:Ich glaube schon, dass hier gehypt wird. Nie zuvor hat man Rechenzentren mit Leistungsaufnahmen im dreistelligen Megawattbereich geplant und gebaut. Nicht einmal in den härtesten Zeiten des Kalten Krieges!

Zu der Zeit war die (Mikro-)Elektronik aber bei weitem nicht so leistungsfähig, schnell und vor allem teuerer wie heutzutage.
Es hat schon seinen Grund, warum dem C64 die namensgebenden 64KB Arbeitsspeicher spendiert hat. Gut, die waren 1981 bei der Entwicklung mit 100US-$ nicht gerade billig, aber man ging von fallenden Preisen aus.
Wikipedia: Commodore 64#Geschichte

1985 kosteten Festplatten ca. 200DM/MB. (Nicht inflationsbereinigt.)
https://www.winhistory.de/more/386/altepreise.htm

Oben drauf kommt, dass man da erst am Anfang stand. Der ganze Computer-Markt mit Anwendungen wie Text- und Tabellenkalkulationen, Grafikanwendungen, Spielen,… ging erst Ende der 1970er, Anfang der 1980er richtig los. Vor allem mit dem IBM-PC als Standard.
Wikipedia: IBM Personal Computer

Aber man hätte ja seinerzeit Megarechenzentren für technisch-wissenschaftliche Anwendungen, wie Raumfahrt, Waffentechnik, Luftraumüberwachung, Kernphysik, Fusionsforschung, usw. bauen gekonnt.

Marfrank schrieb:Aber man hätte ja seinerzeit Megarechenzentren für technisch-wissenschaftliche Anwendungen, wie Raumfahrt, Waffentechnik, Luftraumüberwachung, Kernphysik, Fusionsforschung, usw. bauen gekonnt.

2003 hatte es noch gereicht, dass man 70 PS2 für einen Supercomputer zusammenstöpselte.
https://www.gamepro.de/artikel/70-ps2s-zusammen-supercomputer,3404108.html
Beim Stückpreis von 200US-$ macht das also 14.000US-$ aus.
https://www.heise.de/news/USA-PlayStation-2-fuer-199-US-Dollar-update-59323.html

Mehr brauchte man damals noch nicht.

Fichtenmoped schrieb:2003 hatte es noch gereicht, dass man 70 PS2 für einen Supercomputer zusammenstöpselte.

das war kein Supercomputer, reines gebastel... :-)

schon mal was von Cray oder Alphaserver gehört? (jaja, IBM spielte da auch mit)

https://www.psc.edu/resources/tcs/

das ist ein Supercomputer und dies schon 2001

Fichtenmoped schrieb:Zu der Zeit war die (Mikro-)Elektronik aber bei weitem nicht so leistungsfähig, schnell und vor allem teuerer wie heutzutage.
Es hat schon seinen Grund, warum dem C64 die namensgebenden 64KB Arbeitsspeicher spendiert hat

Hm,
weil die 8bit CPUs wie 6809, 6502, 8085 oder Z80 ohne Bankswitching nur einen 16bit-Adressraum beherrschen? Eine MMU hatten die noch nicht.
Btw: Spitzenrechner kosten heutzutage immer noch annähernd soviel wie vor 40 Jahren, nur ist die Leistungsfähigkeit im Vergleich zu damals enorm gestiegen. Und Stromsparen fing vor ca. 20 Jahren mit dem Intel Core2 Duo erst richtig an, vorher hatte man eher eine Standheizung unterm Schreibtisch stehen

@huk
Damals hat man aber auch noch auf Design geachtet, als Möblierung passte der CRAY XMP1 auch als Sitzmöbel-Heizung ins Wohnzimmer ^^