Künstliche Intelligenz

Vielleicht bin ich gerade zeitweilig in einem negativen Feedback-Loop aber je mehr ich mir dazu anschaue, desto mehr Sorgen mache ich mir um die nahe Zukunft. Ja, das muss kein Garant für die Zukunft sein, dennoch sind die Zeichen alarmierend, da auch führende Experten usw. hiervor warnen, man also durchaus eine gewisse Ernsthaftigkeit beim Thema einnehmen oder annehmen sollte.

How AI Could Cause the 7th Mass Extinction

Externer Inhalt
Durch das Abspielen werden Daten an Youtube übermittelt und ggf. Cookies gesetzt.

Es wird auf das Video in Gänze verwiesen.
Der Kanal warnt mit unterlegten Daten und Zitaten von Experten auf die Gefahren von Superintelligenzen, ein-zwei Videos wurden von dort zuvor hier schon gepostet. Teile der Szenarien (wie den "Killswitch", ein mechanisches Verteilen oder Distribuieren davon halte ich für realer als sinngemäß Knopf drücken, ausser es wäre über Radiowellen oder sonst was aktivierbar) teile ich nicht aber Abwandlungen davon sind sehr wohl denkbar

An den Thread/Leute die mitlesen: Aus meiner Sicht sind die Gefahren sehr substantiell und die Szenarien denkbar. Ob man nun einen Alarmismus teilen will oder nicht, pessimistisch rate ich:

Sich bei genug Interesse mit dem Thema zu beschäftigen und sich fortzubilden und / oder die Vorzüge der Technik solange es geht voll auszukosten - da die Zeit tickt.

Selbst wenn man als Individuum mal so gar keinen Bock aif A(K)I-Alarmismus hat: Probiert alles, habt ne schöne Zeit, nutzt Technik wo es geht zur Erleichterung - solange es halt bis zu überbordender Regulierung oder dem Worst-Case geht :D

Ich denke da schlicht: Ich kann den Worst-Case nicht ausschließen. Ich bedenke die Möglichkeit des Eintretens, da viele Faktoren darin münden können und es denkbar scheint. Wenn man sich anschaut, was der Mensch schon der Umwelt und anderen Spezies angetan hat, so muss diese Fortführung von diesem Zyklus bei einer intelligenteren Spezies zu unserem Nachteil auch bedacht werden. Man sollte also in seiner Lebensplanung ggf. gewisse Dinge ein bisschen vorziehen.

Das gilt ja auch generell da niemand weiß was in z.B. 5 Jahren sein kann. Vielleicht gibts sonstige Krisen, Klima, Kriege und dann sollte man manches, wo man noch kann, lieber vorziehen ehe höhere Gewalt einen Strich durch die Rechnung macht. Ob das nun eine kleine / mittlere geplante Anschaffung oder eine Reise oder sonst was ist, was man auch vorziehen könnte.

Ansonsten schauen wir gespannt, wie sich die Technik weiter entwickelt. Um ggf. etwas positiv den Post abzuschließen muss man auch immer die Vorteile der Technik bzw. der Fortentwicklung der Technik bedenken. Auch wenn ein worst-case Szenario im Raum schwebt existieren ja viele viele Vorteile ... die leider nicht ganz ohne Nachteile wie Stellenverlust einhergehen werden.

@Warden

Wenn man sich die Szenarien so durchliest die passieren könnten, erscheinen so Welten wie in Cyberpunk 2077 und Deus Ex gar nicht mal so unrealistisch. Ich gehe davon aus, dass wir einige Menschen erleben werden die sich tatsächlich mit KI Chips verbinden werden, damit sie ihre angebliche Leistung und Effizienz steigern können.
Auch wenn dies wahrscheinlich nur eine Illusion sein wird, da die KI das Meiste übernehmen wird.

Es hat schon seinen Grund, weswegen die reichsten der Reichsten in diese ganzen Konzerne investieren, die diese Technologie erforschen und entwickeln. Die wollen sich eine komplett autonome Welt erschaffen, in der es keine normalen Arbeiter mehr gibt, die deren Kapital auffressen und es ggf. sogar noch gefährden mit politischen und sozialen Ideen. Nein, diese Technologie soll dafür sorgen diese Risiken weiter einzudämmen.

Was das ganze bedrohlich macht ist die schwierige Vorhersehbarkeit, was genau passieren wird.
Es kann sein, dass gewisse Entwicklungen sich verzögern oder gar nicht zu Stande kommen oder sich schneller entwickeln als gedacht. Ist tatsächlich schwierig einzuschätzen. Aber grade auch vermehrt Einsatz von KI in der Forschung kann Entwicklungen theoretisch enorm beschleunigen.

@Warden
Ich wiederhole mich: 6 von 9 planetare Grenzen reißen wir. Kosmische Katastrophen nicht mit gezählt. Politische und gesellschaftliche Bedrohungen nicht mitgezählt. Persönliche Bedrohungen nicht mitgezählt.

Eine KI, die vermeintlich Bewusstsein erlangt und beschließt uns zu killen - das steht ganz weit hinten auf meiner Liste. Vielleicht noch hinter der Invasion von Echsen-Menschen.

Experten können sich irren. In solchen Videos beweisen diese eben viel Phantasie.

Yotokonyx schrieb:Die wollen sich eine komplett autonome Welt erschaffen, in der es keine normalen Arbeiter mehr gibt, die deren Kapital auffressen und es ggf. sogar noch gefährden mit politischen und sozialen Ideen.

Klingt erstmal schlüssig. Aber letztlich sind die in der absoluten Minderheit! Das System funktioniert, will am Ende der Rechnung noch genügend Menschen von dieser Gesellschaft profitieren. Was ist aber, wenn diese Kette unterbrochen wird?
Zudem funktioniert die Wirtschaft so, das es Konsumenten Bedarf.

Ich hoffe einfach, das die Ablenkdebatten irgendwann mal nicht mehr greifen werden und endlich über die wahren Probleme gesprochen werden kann.

Negev schrieb:Zudem funktioniert die Wirtschaft so, das es Konsumenten Bedarf.

Das ist auch vollkommen richtig so. Durch Automatisierung kann man jedoch vieles ausgliedern und vereinfachen.
Oder besser gesagt, man kann deutlich weniger Personal einplanen was erstmal mehr Gewinn bedeutet. Dies wird auch erstmal eine Zeit lang gut gehen, bis es eben theoretisch zusammenbricht. Doch es wäre denkbar, irgendwann alles komplett durch KI und Robotik bewerkstelligen zu lassen und die, die das ganze Kapital haben sind diejenigen die noch da sein werden und das miterleben können.

Negev schrieb:Ich hoffe einfach, das die Ablenkdebatten irgendwann mal nicht mehr greifen werden und endlich über die wahren Probleme gesprochen werden kann.

Die wahren Probleme werden ja zum Teil schon angesprochen, aber durch die "Das ist neu also muss es schlecht sein und kann doch nicht sein" Fraktion immer wieder blockiert, heruntergespielt oder man macht ein anderes Fass auf.
Ein gutes Beispiel ist die aktuelle Energiepolitik der Regierung. Aber das ist ein anderes Thema.

Bezogen auf KI gelten zumindest in weiten Teilen in Deutschland auch die Aussage, wird sich nicht durchsetzen und das wird die nicht können etc. Ja, KI ist kein göttliches Universal Werkzeug das alles kann, aber wenn man diese klug einsetzt, kann es die Prozesse und Strukturen in einem Unternehmen deutlich straffen und vereinfachen.

Yotokonyx schrieb:Ja, KI ist kein göttliches Universal Werkzeug das alles kann, aber wenn man diese klug einsetzt, kann es die Prozesse und Strukturen in einem Unternehmen deutlich straffen und vereinfachen.

Ich will nicht generell oder ständig den Teufel an die Wand malen aber wenn man hier im Zeitstrahl denkt, ist KI es absolut: Sie hat das Potential, uns als dominante Spezies komplett zu ersetzen, wenn sie einflussreich genug ist und auf autonome Plattformen (Roboter jedweder Art) setzen kann. Wir haben binnen 5 Jahren (oder 10-15 von mir aus, viel länger dürfte es nicht mehr dauern) technisch gesehen mit Superintelligenzen eine selbstoptimierende Technikrevolution, die dann auch auf Robotik setzen kann. Schafft der Mensch nicht diese zeitnah voranzubringen, dann schafft eine Superintelligenz das.

Die Robotermodelle von Boston-Dynamics usw. sind ja schon ziemlich fortgeschritten. Da hat (Super-)KI ja noch nicht mal wirklich mitgemischt in der Forschung oder Erweiterung. Spätetens wenn KI mit diversen Robotermodellen (vom humanoiden Zweibeiner bis zum Fahrzeugartigen Bau- oder Minenroboter) mitmischen kann wäre sie komplett kompetitiv bzw. überlegen.

Aus meiner beschränkten menschlichen Sicht wäre eine selbstoptimierende Superintelligenz wie ein Gott. Auf jeden Fall im Vergleich selbst zu uns.

Aber gut, wenn wir keinen langen/großen Zeitstrahl...maßstab nehmen, muss ich zustimmen. Kurzfristig - jetzt und in naher Zukunft - ist es eine zeitig besser werdende Hilfe die nicht immer und überall in jedem Anwendungsfall wertig ist, aber sein kann. Situativ kann man damit viel machen, universell aber nicht zwingend. Nur wird das halt nicht lange/ewig so bleiben, denke ich. Zumindest wenn man der erwarteteten Steigerung der Leistung keinen Riegel vorschiebt.

Yotokonyx schrieb:Bezogen auf KI gelten zumindest in weiten Teilen in Deutschland auch die Aussage, wird sich nicht durchsetzen und das wird die nicht können etc.

Klingt eher wie Bauchgefühl, weil ich denke, dass viele staatliche und privatwirtschaftliche Akteure (auch in DEU) die Relevanz von KI verstanden haben - aber halt nicht so viel Investitionsmasse und / oder Prioritätensetzung daran haben wie USA und China als dominante Beispiele im KI-Wettrüsten.

Wer soll das denn sonst sein mit "wird sich nicht durchsetzen"? Ein abstrakter 'Volksmund'? Wer das äußert lebt halt hinterm Mond. Nein, eher Mars.

Eigentlich muß die technische Entwicklung so schnell voranschreiten? Sollten wir nicht erst einmal die heutige Computergeneration fehlerfrei machen?

abbacbbc schrieb am 13.07.2025:So wie Elon Musk vorhergesagt hat, dass seine Teslas alle autonom Fahren können. Bald... Ganz alleine

Kommt allerdings auch auf die eingesetzte Technologie an, als Mensch der schlecht sehen kann bist du beim Autofahren auch benachteiligt.

Marfrank schrieb:Eigentlich muß die technische Entwicklung so schnell voranschreiten? Sollten wir nicht erst einmal die heutige Computergeneration fehlerfrei machen?

Das sind ja nicht "wir" die das bestimmen oder beeinflussen. Das liegt an den Unternehmen.
Nehmen wir Intel zum Beispiel. Die hatten in den letzten 3 Jahren nicht wirklich was innovatives am Start. Deren Aktie ist in den 3 Jahren um 50% gefallen, die entlassen gerade überall Personal und stoppen neue Projekte um sich erst einmal zu fangen. Da reden einige schon von drohender Insolvenz und Liquidierung. Das ist Intel, wer hätte das noch vor 3 Jahren geglaubt ?
Die Nvidia Aktie hat im gleichen Zeitraum fast 1000% zugelegt und wissen gar nicht wohin mit der ganzen Kohle.

Marfrank schrieb:Sollten wir nicht erst einmal die heutige Computergeneration fehlerfrei machen?

Ich würde behaupten, dass das unmöglich ist.

Aber ich bin sofort dabei, wenn es darum geht, bestehende Systeme zunächst mit einfachen, stabilen Algorithmen auszustatten – also grundlegende Digitalisierung. Angesichts der Tatsache, dass im Jahr 2025 noch immer Faxgeräte im Einsatz sind, wirkt das eher wie ein Meme als wie ernstzunehmende Politik.

Man muss nicht jeden Prozess sofort mit generativer KI übergießen.

Ich habe gerade eine Eingebung:

NI + KI = C

C = Konstante (Wissen)
NI = natürliche Intelligenz (biologisch)
KI = künstliche Intelligenz

Je mehr wir KI benutzen, desto mehr verdummen wir!

Hier eine neue KI von Proton Schweiz mit mehr Datenschutz:
https://lumo.proton.me/guest


siehe Tabelle https://lumo.proton.me/about

the_moonshine schrieb:Hier eine neue KI von Proton Schweiz mit mehr Datenschutz:

Yes, we all trust the trustworthy Schweizer technology from the excellent Switzerland :trollengel:
-> Crypto AG


Nee im Ernst: Würde mich interessieren, falls es Berichte darüber gibt, ob das Ding gut ist.
Andererseits: Ich für meinen Teil wechsele nicht bei jeder Gelegenheit den bzw. die Anbieter. Für den Workflow in Projekten ist es wichtig, das Modell einschätzen zu können, und dafür muss man einige Erfahrungen mit ihm gemacht haben. Man kennt dann die Schwächen, kann aber mit ihnen umgehen. Und nach meinen bisherigen Erfahrungen würde ich meinen, sie haben alle gravierende Schwächen, und die sind auch vergleichbar.

Auf der einen Seite heißt es:

Dort laufen mehrere Open-Source-Sprachmodelle (LLMs), derzeit sind es Mistral Small 3 und Nemo von Mistral, OpenHands 32B von Nvidia sowie OLMO 2 32B vom Allen Institute for AI.

Also kein eigenes Modell.

Dann:

Lumo beherrscht derzeit elf Sprachen flüssig, darunter Englisch, Deutsch, Spanisch, Französisch, Italienisch, Chinesisch und Russisch.

https://www.heise.de/news/Proton-veroeffentlicht-datenschutzfreundlichen-KI-Chatbot-Lumo-10498983.html

Was denn nun?

@Nemon

Ich arbeite normal mit Copilot.
Oder Gemini.

You.com (Anmeldung mit Google) finde ich auch sehr gut, da es die Antworten
sinnvoll strukturiert ausgibt.

Die Möglichkeiten, Deepfakes zu erstellen, ist mit Wan 2.2 nochmal um min. 300 % gestiegen.
Vor einer weile hab ich ja schon von FramePack berichtet:
Beitrag von Negev (Seite 74)

Mit Wan ist Hunyuan komplett verstört.
Man kann das, was man sehen will, in relativ natürlicher sprache eingeben und bekommt meistens auch das, was man will. Zudem kann man das Modell auf einem vergleichsweise schwachen Rechner ausführen. 5 Sekunden Video sind in knapp 4 Minuten erstellt. Damit kann man tatsächlich arbeiten.

Ich erzähl nix neues aber glaubwürdigkeit im internet würde ich mir vollkommen von der backe schmieren.
Und am besten sollte man nichts mehr von sich oder anderen ins internet stellen! Jedes Bild oder Sprach-Sempel kann für alles benutzt werden.

Ich habe viele Modelle in den letzten Wochen genutzt, alles für lau versteht sich. Sehr gut ist hier Manus, er hebt sich von allen anderen Modellen ab, er übernimmt Wissen und Informationen aus einem Chatfester in ein neues, wenn der Kontext aufgebraucht ist. Leider wechselt er dann von dem Chat in den Agentenmodus was Credits kostet, gibt aber bisher jeden Tag 300 für lau dazu, die addieren sich aber nicht auf.

Sehr gut ist auch Claude, so für Dialoge, sachlich und kompetent. Für Recherche nutze ich Grok und Gemini, Gemini kann echt tolle Berichte erstellen und sehr viele Infos sehr gut zusammentragen.

GPT 4, nun ja, nett, aber oft hinter den anderen zurück, und nun GPT 5, ja ist besser, aber man muss schon recht deutlich sagen, was man haben will. Dann kann er, ich sehe weiter Claude und Manus aber vorne.

Obwohl ich hier immer den Ball flach gehalten habe, was die Entwicklung von KI angeht, habe ich mir für ChatGPT 5 etwas mehr ... AGI gewünscht.

Klar, ChatGPT kann nun besser programmiert, halluziniert weniger und so weiter. Es ist halt ein Update und kein Schritt in Richtung Weltuntergang.

Stand heute, würde ich die Bild- und Videogeneratoren als potentiell gefährlicher ansehen für die Gesellschaft.

Die AfD nutz ja schon solche Tools für ihre Zwecke aus.

Weidel hatte ein offenbar mit Hilfe von künstlicher Intelligenz erstelltes Foto gepostet, auf dem mehrere lachende, arabisch aussehende Männer hinter einem blonden Mädchen im Schwimmbad zu sehen sind. Das Foto zeigt nicht das tatsächliche Tatgeschehen.

https://www.swr.de/swraktuell/baden-wuerttemberg/hasskommentare-weidel-instagram-post-100.html

Und WAN 2.2 ist wirklich komplett unzensiert. Aus einem Mädchen, das "nur" bedrängt wird, kann man sehr wahrscheinlich auch etwas anderes machen...

Davon ab; auf der einen Seite finde ich es gut, das man unzensierte Modelle hat - ich ärgere mich, wenn Gewalt okay ist - darstellung von Nacktheit aber nicht? make love, not war?!

Dann kann man das ganze aber auch für besagte Dinge missbrauchen.

Die Menschen sind nicht bereit dafür...

WAN 2.2 kommt ja aus China. Auch die sind fleißig dabei, explizite Nacktheit zu zensieren. Warum kommt aus diesem Land nun ein solches Modell? Wissen die etwa, das wir mit so viel Freiheit nicht umgehen können?

Negev schrieb:Und WAN 2.2 ist wirklich komplett unzensiert. Aus einem Mädchen, das "nur" bedrängt wird, kann man sehr wahrscheinlich auch etwas anderes machen...

Hab schon auf Reddit nen kritischen Auszug von nem Schwurbelpost gesehen, wo in dem Video zwei vermeintliche Rentner im Wohnzimmer über kalte Heizung / hohe Kosten lamentieren.

War komplett KI-gemacht sah aber so realistisch aus wie noch nie, gefühlt. Darunter viele Kommentare die das so geglaubt haben. Selbst wenn man die Bot-Kommentare (Bots/KI reagiert auf Bot/KI-Content - Totes Internet-Theorie) abzieht verfängt so was wohl.

@Warden
Nur mal als Gedanke ‐ Brainstorming... vielleicht sollten Linke nun auch anfangen, diese neue Technik zu nutzen? Muss ja nicht komplett gelogen sein. Ich denke an einen Trump, der sich an kleine Mädchen vergeht? Oder an Menschen, die sterben müssen, weil ein multi multi Milliardär 0,01% Quartalszahl herausholt.

Scheiße mit Scheiße bekämpfen...

Negev schrieb:Nur mal als Gedanke ‐ Brainstorming... vielleicht sollten Linke nun auch anfangen, diese neue Technik zu nutzen? Muss ja nicht komplett gelogen sein. Ich denke an einen Trump, der sich an kleine Mädchen vergeht? Oder an Menschen, die sterben müssen, weil ein multi multi Milliardär 0,01% Quartalszahl herausholt.

Scheiße mit Scheiße bekämpfen...

Auch wenn da "Muss ja nicht komplett gelogen sein" (was dann, aber ein bisschen?) steht: Dann ist man nicht besser als die Rechten (oder Steigbügelhalter eines feindlich eingestellten, Fake-News nutzenden Auslands), die man dahingehend kritisiert. So einfach ist das. Scheiße mit Scheiße bekämpfen heißt für mich primär "Fake News mit Fake News bekämpfen" - wo das noch logisch oder dienlich sein soll erschließt sich mir nicht.

(Also sofern das nicht entsprechend als Überspitzung und generative bzw. unechte Darstellung erkennbar bzw. gekennzeichnet ist und absichtlich in die Irre führen soll. Eine überspitzte Darstellung zur Verstärkung eines Arguments - wie Satire - zu nutzen wäre wohl anders. Aber dann ist es meist auch erkennbar und weniger das Problem.

Warden schrieb:Dann ist man nicht besser als die Rechten

Während man sich überlegt, wie man dieser Welle an Fake News und Hetze begegnet, sickert dieser Mist in die Gesellschaft. Schmutzkampagnien sind noch neu in der Geschichte. Einfache Botschaften wirken eben besser. Ich fürchte, das werden Linke akzeptieren und sich anpassen müssen.