Künstliche Intelligenz

@Cpt_Void
Was Design angeht war Cray absolutely super. Wenn ich so ein Teil irgendwo auftreiben könnte, würde ich mir sowas vielleicht sogar wirklich als Sitzbank ins Wohnzimmer stellen. Damals tatsächlich auch Supercomputer, aus heutiger Sicht hat meine Smartwatch mehr Power ;)

@alhambra
der wurde ja nicht so gebaut um einen Design-Preis abzustauben, sondern weil es Probleme mit den Signallaufzeiten gab. Deine Smartwatch hat die nicht :)

@Cpt_Void
schon irgendwie beides. Also ja, man hat die runde Form gewählt um gleiche Kabellängen und damit gleiche Signallaufzeiten zu bekommen, aber das wäre ja auch in hässlich gegangen. Es ging Cray auch immer darum, dass die Maschinen auch gut aussehen. Und das die Maschine gepolstert ist, hatte auch damit zu tun, das sich der Operator beim lesen des Betriebshandbuches auch mal gemütlich hinsetzten können sollte... (kein scheiss) Das ist schon ein sehr schönes Beispiel dafür, wie man aus einer technischen Notwendigkeit was richtig cooles basteln kann.

Mit dem Smartwatch Kommentar wollte ich aber eigentlich dahin, dass es zwar früher schon tolle Supercomputer gab und die zu ihrer Zeit sicher ne Sensation waren. Beim Thema KI aber nicht mehr helfen könnte, weil eben heutzutage Smartwatches schon mehr Power haben. So wie ne Smartwatch, oder was auch immer es in 40 Jahren geben wird, in 40 Jahren mehr Power haben wird, wie ein heutiger KI Trainingscluster....

Ich hatte schon mal überlegt ne Thinking Machines CM-2 als Designobjekt fürs Wohnzimmer nachzubauen. Und wenn man da n Raspberry Pi zur Steuerung der LED einbaut, dann hat das Teil sogar mehr Rechenleistung als das Original ;)

Es kommt immer besser, je mehr Informationen in die Öffentlichkeit gelangen ...

OpenAI hatte den Vorgang "beispiellos" genannt. Besonders große Sorge erregte, dass ein chinesisches KI-Modell den Cyberangriff schließlich stoppen konnte, während US-Modelle dazu nicht in der Lage waren. Bei der Entwicklung Künstlicher Intelligenz liefern sich die USA und China ein Wettrennen.

Quelle: https://www.tagesschau.de/wirtschaft/ki-sicherheitsallianz-techunternehmen-100.html

Und weiter geht es mit eigentlich für unmöglich gehaltenen Sicherheitspannen ...

In Testläufen drang Künstliche Intelligenz von Anthropic ungeplant in Computersysteme von drei Unternehmen ein, wie die KI-Firma mitteilte - obwohl diese eigentlich von Systemen der "echten Welt" ferngehalten werden sollten.

Weder die Betroffenen noch Anthropic hätten den Vorfall unmittelbar bemerkt. Man habe die Aktivität erst bei einer nachträglichen Überprüfung von gut 141.000 Testläufen nach dem OpenAI-Vorfall festgestellt. Namen der betroffenen Unternehmen wurden bislang nicht genannt.

Quelle:https://www.tagesschau.de/wirtschaft/unternehmen/anthropic-ki-angriff-unternehmen-100.html

Gut, dass es kommuniziert wird, aber schlecht, dass es überhaupt zu solchen Vorfällen kommt. Da stellt sich die Frage, ob man diesen Wahnsinn, der da ausgelebt wird, nicht endlich mal stoppen kann. Das Verhältnis zwischen Schadensvermeidung und Schadensbereinigung erscheint mir hinsichtlich des Aufwandes aus ökonomischer und politischer Sicht zu ungünstig zu sein, um hier noch weiteren Aufwand in die Installation solcher Systeme zu investieren. Irgendwann muss irgend jemand da mal die Reißleine ziehen. Fragt sich nur, wer dazu in der Lage sein wird und ab welchem realisierten Schadenslevel das geschehen wird ...

Hat jemand denn mal Infos , ob es Wahnsinn ist, oder die konsequente dumme Automatisierung von Sicherheitslückennutzung ???

Ich bin in der technischen IT unterwegs und rüste fleißig 2 Faktor Authentifizierung nach weil "admin/admin" oder "admin/0000" halt nicht sooo geil ist

Neustarter schrieb:Gut, dass es kommuniziert wird, aber schlecht, dass es überhaupt zu solchen Vorfällen kommt. Da stellt sich die Frage, ob man diesen Wahnsinn, der da ausgelebt wird, nicht endlich mal stoppen kann. Das Verhältnis zwischen Schadensvermeidung und Schadensbereinigung erscheint mir hinsichtlich des Aufwandes aus ökonomischer und politischer Sicht zu ungünstig zu sein, um hier noch weiteren Aufwand in die Installation solcher Systeme zu investieren. Irgendwann muss irgend jemand da mal die Reißleine ziehen. Fragt sich nur, wer dazu in der Lage sein wird und ab welchem realisierten Schadenslevel das geschehen wird ...

Wir leben in einer digitalen Welt. Ich habe vor anderthalb Jahren mit ki gestützter Programmierung angefangen. Damals war es eine Unterstützung bei sehr einfachen Sachen mit einer Menge von kompilierungsfehlern und Nacharbeit. Mittlerweile kann man mittelgroße relativ komplexe Programme in 3 Tagen alleine bauen, die früher 3 wochen 3 topprogrammierer gebunden hätten. D.h. Aus 18000 Euro bruttolohn werden 600€ + 90€ Claude Lizenz. In der Welt der Programmierung ist ki bereits unersetzbar. Und es ist davon auszugehen, dass wir in 2 Jahren nochmal viel weiter sind.

Ob wir uns damit langfristig unser eigenes Grab schaufeln ist fraglich. Aber Kubist für mich die Dampfmaschine der it. Es werden komplett neue Effizienz VL erreicht.

Bezüglich künstlicher Intelligenzen, die Sicherheitslücken ausnutzen: wir stehen erst am Anfang einer Entwicklung! Vielleicht müssen wir in Zukunft Chipsätze entwickeln, bei denen manche kritische Funktionen nicht über reine Softwarelösungen gehen, wo also für manche Funktionen erst ein echter Schalter umgelegt werden muss.

Der eingestandene "Escape" wirkt fast wie ein Werbemittel für diverse Geheimdienste ;)
Und @Marfrank , Hardware Lösungen funzen nur so lange, bis der gehackte Service/ Koffeebot den Schalter umlegt .......


:mlp:

Syndrom schrieb:Und @Marfrank , Hardware Lösungen funzen nur so lange, bis der gehackte Service/ Koffeebot den Schalter umlegt

Wenn aber zum Umlegen des Schalters menschliches Eingreifen nötig ist, wird dies wohl nicht gehen, es sei denn man hat einen Roboter, der dies kann und zu dem Schalter gelangt.

Im Übrigen: was hat die künstliche Intelligenz über den UVB-76 ( Was genau verbirgt sich hinter UVB-76 (The Buzzer) ) herausgefunden?

OpenAI und Anthropic Unfall

Die ganzen Geschichten riechen sehr stark nach PR

Eine AI/KI ist von Geburt an dumm.

Eine abgeschottete Testumgebung verlassen - wie denn?
Ach ja, die Türe war bekannt….

Wieso wusste AI/KI in einer Testumgebung, dass es Hugging Face und die Anderen gibt?
Weil man es ihr gesagt hatte….

Da wurde „händisch“ ganz viel unternommen, oder ganz viel geflunkert…

Eine AI/KI kann nur, was man ihr beigebracht hat.

huk schrieb:Eine AI/KI kann nur, was man ihr beigebracht hat.

Hmmm... Hast du wirklich eigene Erfahrungen mit der Anwendung von KI?

Wenn ich meine eigenen Postings zum Thema der letzten zwei Jahre Revue passieren lasse, dann wandelte sich meine Einstellung von Ablehnung über Genervtheit mit gelegentlichem Erstaunen, dann Anerkennung und Interesse, bis jetzt schließlich täglichem, produktivem Einsatz und regelmäßig Momenten totaler Verblüffung.

Ich denke zwar auch, dass bei den aktuellen Meldungen eine gehörige Portion PR die Motivation ist, das ändert aber gar nichts an der disruptiven Wirkung dieser neuen Technologie. Hoffentlich kriegen wir die gesellschaftlichen Folgen gestemmt!

huk schrieb:Eine AI/KI kann nur, was man ihr beigebracht hat.

Naja in dem speziellen Fall reden wir von KI Agenten. Also normal gecodeten Programmen die eine KI nutzen und mit ihren Parametern füttern kann.
So gesehen hast du da recht das es ein händischen Hintergrund hat.

Die Entwicklung der letzten 2 Jahre rückwirkend betrachtet, denke ich in 2 Jahren in der Zukunft braucht man nur noch Programm Architekten keine Programmierer mehr. Es gibt sehr viele andere Jobs die wackeln bzw. sehr viel effizienter ausgeführt werden können. Wenn man sich gegen diesen Fortschritt wehrt wird man noch schneller abgehängt.

Man sagt ja, wenn eine Türe zu geht, geht eine andere auf und wenn Menschen arbeitslos werden... dann müssen sie eben wieder lernen, normale soziale menschliche Bindungen einzugehen. Für diese Entwicklung wäre ich Dankbar, denn die Chefs die ich kennengelernt habe, arbeiten mit dem Gegenteil von sozialen Bindungen und dies sind Abhängigkeits-Bindungen. Abhängigkeits-Bindungen haben zwar keine Zukunft, aber so wirklich kann man dies den Leuten, die damit arbeiten, nicht erklären. Deswegen bin ich mehr als froh, wenn Menschen wieder ganz normale soziale Bindungen eingehen, wenn sie plötzlich arbeitslos sind. Fände ich eine wünschenswerte Entwicklung.

JoschiX schrieb:Naja in dem speziellen Fall reden wir von KI Agenten

Jo, den Agenten - nennen wir ihn einfach „Joe“
Also, Joe hat da einen ziemlich grossen Werkzeugkasten, um seine Aufträge zu erledigen.
Wenn man ihm aber den Waffenschrank (Cache) offen lässt….

Mein Joe hätte weder Flex, noch wüsste er etwas von einem Waffenschrank.
Auch wäre Joe nicht in irgendeinem Betriebsrat…

Wenn dies nicht gespielt war, hat OpenAI ein Riesen Security Problem.

Über die Rolle der Chinesen (Z.ai) bin ich noch nicht schlauer…

Die Anthropic Geschichte ist noch konfuser und mM nur PR.

huk schrieb:Wenn dies nicht gespielt war, hat OpenAI ein Riesen Security Problem.

Ich frag mich immer noch wie das gehen soll. Ich würde behaupten, dass ich mich mit Netzwerken auskenne.

Ich bin mir ziemlich sicher, dass ich innerhalb unserer Firmenumgebung ein Netzwerk bauen könnte, wo nicht ein einziges Bit ungeplant irgendwas machen könnte, geschweige denn ins Internet, oder an unsere Server käme.

Entweder waren da absolute Amateure am Werk, oder das ist wirklich nur irgend ein PR Schwachsinn.

CharlyPewPew schrieb:Ich bin mir ziemlich sicher, dass ich innerhalb unserer Firmenumgebung ein Netzwerk bauen könnte, wo nicht ein einziges Bit ungeplant irgendwas machen könnte, geschweige denn ins Internet, oder an unsere Server käme.

Den Weg hat OpenAI ja öffentlich gemacht: Die KI hatte Zugriff auf einen Proxy, um Software nachinstallieren zu können. Durchaus üblich, damit die KI sich seine passenden Tools selbst zusammensuchen kann, wie beispielsweise passende Bibliotheken für Teilaufgaben.

In diesem Proxy hat die KI nun eine Lücke gefunden, die vorher nicht bekannt war, und die es ermöglichte, nicht nur auf die im Proxy festgelegten Endpunkte zuzugreifen, sondern auf beliebige Ziele.

Welche Software zum Einsatz kam, ist (noch) nicht bekanntgegeben worden, aber der Hersteller wurde über die gefundene Lücke informiert.

Und wenn du in Deine Firmenumgebung einen Squid hinstellst, und den Zugriff auf genau 3 Webseiten freigibst, wirst du auch nicht davon ausgehen, dass ein Benutzer den knackt und sich freie Bahn verschafft.

Da gleich von "Amateuren" zu sprechen halte ich für ziemlich vermessen.

Ich habe die Erfahrung gemacht, dass wenn man die gängisten KI Sprachmodelle als Hilfs-Assistent nutzen möchte,
um Code zu generieren, z.b. in einer einfachen Programmiersprache wie Lua ( ° o°) . . .

. . .dann macht die andauernt Fehler!
Ganz häufig Tippfehler im Code oder logische Fehler, welche durch den Tunnelblick der KI an anderer Stelle entstehen.
Bestehende Funktionen werden kaputt gemacht, um Neue nachzurüsten und am Ende läuft garnichts und so sachen...

Je länger z.B. ein Script wird, welches man mit Hilfe der KI erstellen möchte, desdo größer ist die Fehlerquote.
Sehr oft fällt die KI auch auf bereits gescheiterte Versuche "Lösungswege" zurück und scheitert dann erneut.
Sie entschuldigt sich dann jeeedes mal ... so richtig das Leiden Christi mäßig !(°o ° )... und verkackt dann wieder genau so!
Hier ist der Mensch gefragt!

Ich hab die KI dann mal gefragt, warum und wieso... Solltest du als KI nicht 100% logisch und konsequent sein?

Nun~...
Eine KI errechnet den Code nicht logisch aus dokumentierten Fakten oder Rahmenbedingungen. Sie versteht Ursache und Wirkung nicht oder empfindet den Code sozusagen nach... sondern die baut ihn ganz stumpf und simpel
einfach nur nach wahrscheinlichkeiten zusammen. Sie entscheidet einfach nur, welches Satzzeichen oder Sonderzeichen als nächstes
die höchste Wahrscheinlichkeit hat, um richtig zu sein (entsprechend dem festen, antrainierten Info-Pool der KI, der nur alle paar Monate geupdated wird, und der Suche im Web nach aktuellen Infos.).
z.B. ( ° o°): Anhand der überwältigenden Mehrheit von Beispielen für den Fall: Wird das Wort "Ball" groß geschrieben? - entscheidet die KI,
dass die Wahrscheinlichkeit dafür, dass es groß geschrieben wird, bei 100% liegt, also schreibts die KI Ball groß. Nicht weil sie es selber weiß.

Nur in Sonderfällen kann KI z.B. Python Scripte im hintergrund zur wirklichen logischen nachvollziehung von Lösungen einsetzen
falls wahrscheinlichkeiten für eine gewisse aufgabe nicht reichen...

(z.B.: Ich habe letztens mit einer KI ein winziges 8086 Assembler Programm geschrieben und dafür musste sie durch ein Phyton Script,
alle Register eines 8086 Prozessors emulieren, um sicher zu gehen, dass das, was sie schreibt, auch funktioniert, weil es einfach
zu wenig Beispiele im Internet für echten, unkompilierten 8086 Code gibt, um mit überwältigendeer Wahrscheinlichkeit brauchbare Ergebnisse liefern zu können)

Ist schon spannend, das ganze...

Also was ich sagen will ( ° o°): Menschliche Programmierer wird es noch lange geben, glaube ich.

@inidraki
Ich kann deine Beobachtungen zum guten Teil bestätigen, allerdings sind das die Erfahrungen, die ich vor ungefähr zwei Jahren gemacht habe. Die Situation hat sich inzwischen komplett verändert:

Obwohl ich nur mit lokalen KI-Modellen arbeite, kann ich inzwischen ganze Anwendungen davon bauen lassen...

...und das sind keine Hello-World-Zehnzeiler, sondern echte Anwendungen für den produktiven Einsatz in Arbeitsgruppen.

Der aktuelle Stand ist, dass ich ganze Full-Stack-Web-Anwendungen vom Datenmodell bis zum Frontend im Browser in einem Rutsch bauen lasse. Dabei iteriert das System selbständig über "Editieren-Kompilieren-Testen", bis die Anwendung fehlerfrei arbeitet.

Nun weiß ich nicht, welche Art von KI du verwendet hast (lokal oder einen der großen Anbieter) und ich habe auch keine Erfahrung mit Lua-Scripten, aber es scheint mir, deine Beobachtungen entsprechen nicht mehr dem aktuellen Stand.