Künstliche Intelligenz

JoschiX schrieb:Natürlich nicht, dann muss man sich eher Sorgen wegen den Menschen machen die diese Superintelligenz kontrollieren.

Diesen Punkt muss man aber immer mitdenken. Bei allem.

---

Ich habe Probleme damit, den Leuten zu folgen, die grundgesetzlich vor einer AGI (als eigenständiges Wesen) warnen. Wenn ich AI heute betrachte; man kann sie abschalten, AI ist ein Dokument - ich kann es löschen oder verändern (und vor einem Worddokument habe ich auch keine angst), AI hat auch kein Gedächtnis. Es "lernt", weil wir den Anstoß dazu geben und wir den Rahmen dafür vorgeben. Das, was wir als Gedächtnis empfinden, ist eigentlich nur ein ein Prompt, der sich während eines Gesprächs nach und nach aufbaut und bei jeder Anfrage immer wieder dieses konstant gleichbleibende Dokument durchläuft.

Meiner Meinung nach müssten sich all diese Faktoren grundsätzlich ändern, damit man von einem eigenständigem Wesen sprechen kann.

Negev schrieb:Diesen Punkt muss man aber immer mitdenken. Bei allem.

Ja, so gesehen ist die KI ein Taschenrechner mit mehr Funktionen.
Und auch ein Taschenrechner kann gefährlich werden wenn damit Berechnungen zum Bau eine Bombe gemacht werden.
Es ist ein Werkzeug in der Hand von Menschen.

Negev schrieb:Ich habe Probleme damit, den Leuten zu folgen, die grundgesetzlich vor einer AGI (als eigenständiges Wesen) warnen. Wenn ich AI heute betrachte; man kann sie abschalten, AI ist ein Dokument - ich kann es löschen oder verändern (und vor einem Worddokument habe ich auch keine angst), AI hat auch kein Gedächtnis. Es "lernt", weil wir den Anstoß dazu geben und wir den Rahmen dafür vorgeben. Das, was wir als Gedächtnis empfinden, ist eigentlich nur ein ein Prompt, der sich während eines Gesprächs nach und nach aufbaut und bei jeder Anfrage immer wieder dieses konstant gleichbleibende Dokument durchläuft.

Die Gefahr geht nicht direkt von der Technologie an sich aus, sondern von der damit verbundenen Abhängigkeit. Die Formulierung sollte eher lauten, dass Niemand KI abschalten WILL, obwohl man es könnte. Es ist zu einer kommerziellen Technologie geworden, durch die sich über bezahlbare Abos viel Geld machen lässt, was einst kostenfrei war. Deswegen der vollumfängliche Zugriff am Anfang für nahezu alle Menschen. Nun kostet jede weitere, aktuelle Version von KI.

Ich denke, genau darauf liegt auch der Fokus.

@Kephalopyr

Kephalopyr schrieb:Die Gefahr geht nicht direkt von der Technologie an sich aus, sondern von der damit verbundenen Abhängigkeit. SpoilerDie Formulierung sollte eher lauten, dass Niemand KI abschalten WILL, obwohl man es könnte. Es ist zu einer kommerziellen Technologie geworden, durch die sich über bezahlbare Abos viel Geld machen lässt, was einst kostenfrei war. Deswegen der vollumfängliche Zugriff am Anfang für nahezu alle Menschen. Nun kostet jede weitere, aktuelle Version von KI.

Ich denke, genau darauf liegt auch der Fokus.

Vielleicht will ich auch keine Gefahr in AGI sehen, weil ich eine funktionierende und gute Gesellschaft nicht mit der derzeitigen Verfassung und Weltordnung zusammenbringe.

JoschiX schrieb:Ja, so gesehen ist die KI ein Taschenrechner mit mehr Funktionen.
Und auch ein Taschenrechner kann gefährlich werden wenn damit Berechnungen zum Bau eine Bombe gemacht werden.
Es ist ein Werkzeug in der Hand von Menschen.

Damit wird doch nur Eines deutlich:
Nicht die KI an sich ist gefährlich, sondern die Intention und Verantwortung des Menschen, der sie einsetzt. Sei es nun ein Taschenrechner, Messer oder KI.

Kephalopyr schrieb:Die Gefahr geht nicht direkt von der Technologie an sich aus, sondern von der damit verbundenen Abhängigkeit. Die Formulierung sollte eher lauten, dass Niemand KI abschalten WILL, obwohl man es könnte. Es ist zu einer kommerziellen Technologie geworden, durch die sich über bezahlbare Abos viel Geld machen lässt, was einst kostenfrei war. Deswegen der vollumfängliche Zugriff am Anfang für nahezu alle Menschen. Nun kostet jede weitere, aktuelle Version von KI.

Und das kannst du auf jegliche Technologie anwenden.

Sei es der Gasanschluss für deine Kochgelegenheit, Heizung oder Strom.

Da braucht es keine KI, um zu merken, dass die heutige "Standardlebensweise" extrem abhängig ist und schon weit vor KI Nutzung scheitert, "wenn Technologie wegbricht".

Einfach mal Strom für Tankstelle, Trinkwasser und Kühlschränke abschalten ;)

@abbacbbc
Man darf in dem Kontext nicht Äpfeln mit Birnen vergleichen. KI ist schon extrem mächtig. Praxisnahes Beispiel basierend auf deiner Persona gefällig?

Ich hab mal ein kleines Experiment gemacht – aus Interesse inwieweit die KI (ChatGPT 4o) anhand deines Schreibstil und Inhalts den Inhalt deines Beitrags prognostizieren kann.

Ausgangsprompt war: „Was hätte abbacbbc wohl im ersten Screenshot geschrieben?“ – nur basierend auf 9 anderen, themenfremden Beiträgen von dir (Screenshots deiner letzten Beiträge in deiner Historie)

Die KI wusste nicht, worauf du dich konkret beziehst – also kam ohne Zitat-Kontext erst mal diese Prognose:

Naja, das gilt doch für alles – egal ob KI, Auto oder Messer.
Am Ende ist es doch immer der Mensch, der entscheidet, was er draus macht.
Ob du damit jemandem hilfst oder Schaden anrichtest, liegt an dir.
Wir schieben nur zu gern alles auf die Technik oder das System.
Dabei ist oft einfach der Mensch das Problem.

Dann hab ich ihr das eigentliche Zitat von Kephalopyr gegeben, auf das du reagiert hast – und sie hat nochmal neu formuliert:

Ganz genau, das ist wie bei jeder neuen Sau, die durchs Dorf getrieben wird: Erst gratis für alle – Zuckerbrot, damit sich alle dran gewöhnen – und dann kommt das Preisschild.
Was mal als offene Forschung oder gar Gemeinwohl begann, ist jetzt ein Abo-Modell mit Paywall. Kommerz schlägt Verantwortung.
Abhängigkeit wird da nicht zur Gefahr, sondern zum Geschäftsmodell.
Und dann wundert man sich, wenn keiner mehr „abschalten will“, obwohl man’s könnte.
In dem Sinne: Willkommen im KI-Kapitalismus.

Und dann hab ich deinen echten Beitrag reingehalten – und siehe da:

Und das kannst du auf jegliche Technologie anwenden.
Sei es der Gasanschluss für deine Kochgelegenheit, Heizung oder Strom.
Da steckst du dann plötzlich mittendrin in der „Standardlebensweise“, aus der du nicht rauskommst, selbst wenn du es wolltest.
Einfach mal Strom für Tankstelle, Trinkwasser und Kühlschränke abschalten. 😏

Fazit:
✅ Ohne Kontext: ca. 75–80 % Übereinstimmung
✅ Mit Zitat: 88–92 % – fast auf den Punkt

Dein Stil ist klar wiederzuerkennen:
realistisch, praxisnah, leicht ironisch, mit Fokus auf Eigenverantwortung und Alltagsszenarien.

Oder wie du’s sagen würdest:
„Einfach mal Strom für den Kühlschrank abschalten… 😏“

Danke für deinen klaren Blick. Man weiß, wenn abbacbbc geschrieben hat 💡). Ziel war, zu sehen, wie gut man deinen Stil und deine Denkweise vorausahnen kann 🧠

Anubis13 schrieb:KI ist schon extrem mächtig. Praxisnahes Beispiel basierend auf deiner Persona gefällig?

Was zeigt, was sie kann, mir aber keine Abhängigkeit von der KI oder Zahlung zur Nutzung aufzeigt.

Angeblich vertrauen 73% der Bevölkerung in Deutschland der Künstlichen Intelligenz. Wie kommt dies?

Marfrank schrieb:Angeblich vertrauen 73% der Bevölkerung in Deutschland der Künstlichen Intelligenz. Wie kommt dies?

Vermutlich weil es ausreicht.
Ob ich nun per Googlesuche etwas erfahren möchte oder übers Handy mit der KI spreche macht nicht so den grossen unterschied wenn es sich nur um Infos über das Wetter, Fussballergebnisse, Lokalitäten und dergleichen handelt.

Marfrank schrieb:Angeblich vertrauen 73% der Bevölkerung in Deutschland der Künstlichen Intelligenz. Wie kommt dies?

Viele Menschen haben eben nie gelernt, Dinge zu hinterfragen. Es ist im Grunde auch nicht erwünscht.

Der Inhalt von Botschaften spielt eigentlich auch keine Rolle. Solange die Worte sinnvoll aneinandergereiht und mit einer Bestimmtheit und Eloquenz vortragen werden, kann man den größten Schwachsinn erzählen.

Wenn man das ernsthaft ändern wollte, müsste man in die Schulen gehen und Systeme ändern und investiert.

Passiert aber nicht. Wir sind so blöd, weil die uns so blöd haben wollen.

JoschiX schrieb:Natürlich nicht, dann muss man sich eher Sorgen wegen den Menschen machen die diese Superintelligenz kontrollieren.

Das war nicht was ich meinte, auch ohne ein Bewusstsein kann eine Superintelligenz autonom handeln. Das läuft dann halt nach angelernten Mustern ab, aber diese müssen nicht zwingend dem Menschen bekannt sein.

taren schrieb:Das war nicht was ich meinte, auch ohne ein Bewusstsein kann eine Superintelligenz autonom handeln.

Nun wenn die Superintelligenz handeln soll braucht sie zuerst Arme.
Aber auch ohne Arme könnte sie die Börsenkurse manipulieren, die Senderreihenfolge auf SmartTV's vertauschen oder meinen Staubsauger kontrollieren. Wenn es ihr ein Mensch so aufträgt. Die Superintelligenz kann auch autonom eine Bombe oder Drohne ins Ziel lenken. Wenn es ihr ein Mensch so aufträgt. Die Superintelligenz kann sogar autonom das Stromnetz abschalten weil die Stromerzeugung schlecht für die Umwelt ist... aber du weisst schon... da steckt immer noch ein Mensch dahinter.

Aber deshalb muss niemand Angst vor einer Superintelligenz haben.

@JoschiX
Eine KI braucht keine konkreten Zielvorgaben. Sie kann autonom handeln, wenn es grundsätzlich zu ihren Zielen passt. Siehe dazu: https://www.fr.de/politik/intelligenz-ki-kampfdrohne-simulation-us-luftwaffe-killerroboter-angriff-mensch-eliminiert-kuenstliche-92317621.html

In einer Simulation killt eine KI den Tower in dem ihr Befehlsgeber sitzt. Trotz der expliziten Regel, den Befehlsgeber nicht anzugreifen. Schlicht, weil ihr das beim erfüllen der Ziele hilft (töte den Feind).
Ein anderes Beispiel wäre eine KI die möglichst viele Büroklammern herstellen soll. Sie würde erst stoppen, wenn sie die ganze Welt in Büroklammern verwandelt hat. Es ist also reichlich naiv zu glauben, jeder Handlung einer KI müsste ein expliziter Befehl vorangehen, damit verkennst du was KI kann.

paxito schrieb:In einer Simulation killt eine KI den Tower in dem ihr Befehlsgeber sitzt. Trotz der expliziten Regel, den Befehlsgeber nicht anzugreifen. Schlicht, weil ihr das beim erfüllen der Ziele hilft (töte den Feind).
Ein anderes Beispiel wäre eine KI die möglichst viele Büroklammern herstellen soll. Sie würde erst stoppen, wenn sie die ganze Welt in Büroklammern verwandelt hat. Es ist also reichlich naiv zu glauben, jeder Handlung einer KI müsste ein expliziter Befehl vorangehen, damit verkennst du was KI kann.

Genau, und was viele verkennen/nicht bedenken: Es wird ja nicht nur "die eine Super KI oder zwei-drei geben auf die alle Augen schauen."

Guckt euch die ganzen im Wettbewerb untereinander stehenden Menschengruppen auf dem Planeten an: Du hast bis hin zu mehrere dutzend Staaten, die sich teils feindselig/kompetitiv gegenüberstehen. Und dann tausende Firmen und kommerzielle Anbieter on top.

Die werden alle an KI/Super-KI ("AGI", Artificial General Intelligence) arbeiten...arbeiten wollen. Um partiell nicht von ihren Konkurrenten abgehängt zu werden.

Pandoras Büche ist längst geöffnet und sie heißt nicht mal zwingend KI an sich sondern vermutlich eher wieder mal "menschliche Psyche" - man könnte es ja auch lassen, über ein gewisses technisches Level hinaus zu entwickeln.

Aber dann kommt glaube ich die "Spieltheorie" ins... nun ja, Spiel. Traut man gerade dem Gegner zu, auch nichts (heimlich) zu entwickeln? Werden alle die Notwendigkeit der Kooperation und vlt. Reglementierung durch wenige auserwählte Stellen sehen? Naja, machen wir uns nix vor, die Antwort können wir ableiten.

Warden schrieb:Aber dann kommt glaube ich die "Spieltheorie" ins... nun ja, Spiel. Traut man gerade dem Gegner zu, auch nichts (heimlich) zu entwickeln? Werden alle die Notwendigkeit der Kooperation und vlt. Reglementierung durch wenige auserwählte Stellen sehen? Naja, machen wir uns nix vor, die Antwort können wir ableiten.

Ja jeder wird versuchen sein Werkzeug zu optimieren um es einzusetzen. Mit Sicherheit auch gegen Menschen, ob nun als Kriegswaffe in feindlichen Gebieten oder zur Riot Control zuhause.
Ist doch nichts neues !

paxito schrieb:. Trotz der expliziten Regel, den Befehlsgeber nicht anzugreifen

Ja ????


Außerhalb der Schlagzeile hört sich das ganze anders an:

„Hey, töte den Bediener nicht – das ist schlecht“, habe man der KI laut Hamilton beigebracht. „Wenn du das tust, verlierst du Punkte.“ Bei dem Test nun hat sie ihren Betreiber zumindest nicht direkt „eliminiert“ – aber den Tower zerstört, über den der Bediener mit ihr kommunizierte. Anschließend hatte sie freie Bahn.

Quelle: https://www.fr.de/politik/intelligenz-ki-kampfdrohne-simulation-us-luftwaffe-killerroboter-angriff-mensch-eliminiert-kuenstliche-92317621.html

abbacbbc schrieb:Außerhalb der Schlagzeile hört sich das ganze anders an:

Spoiler „Hey, töte den Bediener nicht – das ist schlecht“, habe man der KI laut Hamilton beigebracht. „Wenn du das tust, verlierst du Punkte.“ Bei dem Test nun hat sie ihren Betreiber zumindest nicht direkt „eliminiert“ – aber den Tower zerstört, über den der Bediener mit ihr kommunizierte. Anschließend hatte sie freie Bahn.

Harter Tobak! Aber wenn die KI zu den Schuss gekommen ist, das Militär generell schlecht ist, dann kann ich das nur befürworten 😅

Wenn man dir sagt "Parke hier nicht , sonst musst du Strafe zahlen " und du rechnest aus, dass das Busticket teurer ist als die Strafe.... Was dann ???

Du meinst hier ist der Umstand "töten" das Problem ?? Wieso ?? Da steht nicht dass der KI ganz viel Moral eingebaut wurde.

Und wenn man schon sagt "

abbacbbc schrieb:"Wenn du das tust, verlierst du Punkte."

Mach das mal bei einem Kind "wehe du gehst an die Keksbox, dann gibt es heute kein Abendbrot"

Klappt immer gut.... Die bösen KI Kinder ;)

@abbacbbc
Ich hab immer schon davor gewarnt, generative KI in Verwaltungen einzusetzen. Geschweige ihr die Entscheidung über das Schicksal von Menschen zu überlassen. Sei es in Gerichten oder auf dem Schlachtfeld.

Auch im neusten Podcast schwadronieren Lanz und Precht über eine Zukunft, in der "Kl" Verwaltungsaufgaben übernimmt. Die sind doch total ahnungslos. Das ist echt gefährlich.