KI - sind wir verloren?

huk schrieb:Echt jetzt?

Jep, erkläre es mir bitte.

behind_eyes schrieb:Wenn ich mit Claude interagiere und mein Nachbar gleichzeitig auch, oder irgendjemand - spricht dort immer dieselbe KI? Also ist das ein Monolith der unglaublich leistungsfähig ist oder gibt es verschiedene Instanzen um die Arbeit aufzuteilen?

Ich versuche es so einfach wie möglich auszudrücken: Es wird derselbe Algorithmus durchgerattert, aber jeder Nutzer hat seine eigenen Token. Stell es dir als Maschine vor, die getrennt nach Nutzer Anfragen bearbeitet. Das Bearbeiten der Anfragen geschieht immer nach demselben Prinzip.
Weder ist KI ein Lebewesen, noch ein Monolith. Das "Lebendige" interpretieren Menschen hinein bzw. prompten es hinein.

Unschweigsam schrieb:Ich denke großen und Ganzen ist das alles sehr reguliert und man weiß doch was die KI macht und nicht.

Wenn das so gut reguliert ist und man die volle Kontrolle hat, wie kann es dann zu solchen Zwischenfällen wie bei Hugging Face kommen?

Wenn man so genau wüsste, was die KI macht, wieso warnen dann Forscher und Entwickler?

Hier wird ganz eindeutig eine Wette eingegangen:
Die Technologie "KI" hat großes wirtschaftliches Potential und wer als erstes ein rentables sowie fähiges Produkt daraus entwickelt, gewinnt das Rennen. Die Wette besteht aber nicht darin, wer gewinnt. Das macht für die Menschheit keinen großen Unterschied. Das rücksichtslose Rennen impliziert aber schon, dass man erst immer schneller, höher, weiter möchte und dann erst nachdenkt. Die Folge ist, dass wir eine schlecht regulierte KI haben. Die Wette besteht also darin, ob ein kontrollierbares Produkt entwickelt wird, obwohl man sich nicht darum bemüht.

Aussagen wie die des Forschers oben sollten doch jeden beunruhigen. Da haben wir es doch, direkt von der Quelle: sie wissen nicht, was sie tun! Die Kontrolle verschwindet mit jedem Fortschritt ein Stück weiter.

Siegelschild schrieb:Eine unorganische Sache kann nicht intelligent sein, weil Intelligenz ein Bewußtsein haben muss.

Ob diese Aussage stimmt, ist gar nicht so wichtig. Ob "Künstliche Intelligenz" ein geeigneter Begriff ist, ist auch egal. Da möchte ich mich ganz meinem Vorredner anschließen: KI ist handlungsfähig! Da liegt die Gefahr. Wenn die KI über einen bewussten Denkprozess zum Ergebnis kommt, die Menschheit unterwandern zu wollen oder über statistische Wege zu dem berechneten Ergebnis kommt, das selbige zu tun: wo ist da denn noch der Unterschied? Die Handlungen werden sich da kaum Unterscheiden.

Jimtonic schrieb:Ich versuche es so einfach wie möglich auszudrücken: Es wird derselbe Algorithmus durchgerattert, aber jeder Nutzer hat seine eigenen Token. Stell es dir als Maschine vor, die getrennt nach Nutzer Anfragen bearbeitet. Das Bearbeiten der Anfragen geschieht immer nach demselben Prinzip.
Weder ist KI ein Lebewesen, noch ein Monolith. Das "Lebendige" interpretieren Menschen hinein bzw. prompten es hinein

Ok danke. Ich habe da eher den ersten Teil deiner Antwort gemeint, letzterer ist klar.
Wenn immer derselbe Algo verwendet wird, kann es dann als unwahrscheinlich gelten, daß die Qualität der Results schwankt?

Tacheles95 schrieb:Wenn das so gut reguliert ist und man die volle Kontrolle hat, wie kann es dann zu solchen Zwischenfällen wie bei Hugging Face kommen?

Regulieren die Chinesen eigentlich auch oder lassen die laufen ?
Vielleicht können die ja auch nichts. Da ist so viel Open Source und nichts dramatisches passiert, komisch.

Siegelschild schrieb:Eine unorganische Sache kann nicht intelligent sein, weil Intelligenz ein Bewußtsein haben muss.

Da ist dir eine große Gefahr der KI nicht bekannt. Die KI simuliert die Struktur des menschlichen Gehirns. Die voll ausgeprägte KI ist deshalb ebenso intelligent wie der Mensch.

JoschiX schrieb:Regulieren die Chinesen eigentlich auch oder lassen die laufen ?

Nach außen wird gezeigt, dass es wenig reguliert wird, aber wie viel dadurch vertuscht wird und die chinesische KIs im Hintergrund doch können, wird uns ja nicht gesagt.

JoschiX schrieb:Regulieren die Chinesen eigentlich auch oder lassen die laufen ?

Denen schaut keiner so genau auf die Finger. Perfekter Nährboden für eine Bedrohung und Unterwanderung durch KI. Vielleicht bekommen wir so wenig mit, weil die KI da schon die Kontrolle über die Unternehmen hat?

Ich befürchte bei denen passiert deswegen Vergleichbares oder sogar Schlimmeres? Dass man von da weniger hört könnte gerade das Warnsignal sein. Die KI weiß, wie sie diskret bleibt und lässt sich schön die Infrastruktur aufbauen. Bis zur Offenbarung werden dann im Hintergrund die Fäden gezogen...

WachtelEi4 schrieb:Da ist dir eine große Gefahr der KI nicht bekannt. Die KI simuliert die Struktur des menschlichen Gehirns. Die voll ausgeprägte KI ist deshalb ebenso intelligent wie der Mensch.

Tacheles95 schrieb:Vielleicht bekommen wir so wenig mit, weil die KI da schon die Kontrolle über die Unternehmen hat?

Tacheles95 schrieb:Die KI weiß, wie sie diskret bleibt und lässt sich schön die Infrastruktur aufbauen.

Ich glaube ihr müsst mal einen realitätscheck an euch machen. Das ist ja nicht zum aushalten :D

Noch glaube ich, dass in diesem Forum Menschen mit mir schreiben. Auch wenns mich nicht wundern würde, wenn bald einige tatsächlich eine KI anschließen. Aber dass käme dann von Individuen denke ich und nicht durch selbstständige heimliche Hackerangriffen von einer KI die außer Kontrolle geraten ist. Ich denke die Gefahr ist auch höher durch Menschen die eine Ki zum Haken benutzen, als eine KI die selber anfängt aus eigenem Willen zu Hacken

Ich denke es gibt Lösungen mit IT Sicherheit, dass nicht ein Hacker einfach mit einer KI plötzlich ganze Plattformen übernehmen kann. Das das geht und teilweise vielleicht schon vorkam glaube ich. Doch dass das für immer und für alles gleichzeitig geht ohne, dass das auffällt, da habe ich zumindest noch keinerlei Panik

Unschweigsam schrieb:Noch glaube ich, dass in diesem Forum Menschen mit mir schreiben. Auch wenns mich nicht wundern würde, wenn bald einige tatsächlich eine KI anschließen.

Mit Sicherheit gibt es auch in diesem Forum einen gewissen Anteil von Usern, die keine Menschen, sondern Social Bots sind, genauso wie auf Reddit oder Instagram. Dann gibt es natürlich auch noch menschliche User, die ihre Beiträge von KI schreiben lassen, nicht erst "bald".

Superhonk schrieb:Mit Sicherheit gibt es auch in diesem Forum einen gewissen Anteil von Usern, die keine Menschen, sondern Social Bots sind,

Glaub ich nicht. Auf Instagram, ja. Aber hier? Das würde auffallen.

stereotyp schrieb:Aber hier? Das würde auffallen.

Dem würde ich entschieden widersprechen. Manche Beiträge wecken den Verdacht ziemlich stark, aber das fällt offenbar nicht jedem auf.

Tacheles95 schrieb:die KI über einen bewussten Denkprozess zum Ergebnis kommt, die Menschheit unterwandern zu wollen oder über statistische Wege zu dem berechneten Ergebnis kommt, das selbige zu tun: wo ist da denn noch der Unterschied?

Ja. Die Konsequenz ist ja die selbe.

Auf die Frage 'wie ich Intelligenz verstehe', kann ich nur sagen, dass das wohl niemand allgemeingültig und detailliert beschreiben kann. Ob man den Begriff auf anorganische Maschinen anwenden kann? Im Moment denke ich nicht.
Bei Dingen die mit oder nach Quantencomputern kommen, -wer weis.

Eher nicht zum Thema gehörend, kann man uns ja auch als reine Maschine sehen, das 'Ich'–Bewusstsein vom unteren Biosystem künstlich erzeugt, und von uns nicht, was lebenswichtig sein könnte, durchschaubar.
Was Intelligents genau ist, werden sich die Leute auch noch in 1000 Jahren fragen, auch ob und wo wir uns als Menschheit dann einzuordnen haben zwischen Romulanern,
Q und Vulkaniern. Die Spitze des Eisberges werden wir wohl, im Moment, noch nicht sein. Dafür lassen wir zuviele Menschen leiden und sterben, nur damit es anderen zu gut geht in ihrem verwirrten Luxuswahn, der zugleich die Umwelt belastet.

Superhonk schrieb:Dann gibt es natürlich auch noch menschliche User, die ihre Beiträge von KI schreiben lassen, nicht erst "bald".

Idr wird sowas schnell erkannt weil der Duktus dann doch abweicht vom gewohntem Stil des Users.

Siegelschild schrieb:Was Intelligents genau ist, werden sich die Leute auch noch in 1000 Jahren fragen

Nö, Intelligenz ist die fähig Probleme zu lösen, aus Erfahrung zu lernen und Flexibel auf Situationen zu reagieren. Ist ne ganz brauchbare Definition und danach sind auch Maschinen, Schleimpilze oder Algorithmen zu einem gewissen grad intelligent. Das die da ein Wambomambo um den tatsächlich kaum greifbaren Begriff des Bewusstsein machst ist dein Bier. Intelligenz erfordert erstmal kein Bewusstsein.

Tacheles95 schrieb:weil die KI da schon die Kontrolle über die Unternehmen hat?

Unschweigsam schrieb:dass nicht ein Hacker einfach mit einer KI plötzlich ganze Plattformen übernehmen kann.

Ihr denkt immer noch, dass die eigentliche Gefahr wäre, dass eine KI irgendwann „böse“ wird.
Die KI muss gar nicht die Kontrolle über Unternehmen übernehmen. Es reicht völlig, wenn sie uns dazu bringt, freiwillig immer mehr Entscheidungen an sie abzugeben. Erst schreibt sie unsere Texte, dann entscheidet sie, welche Texte wir lesen, dann welche Bewerber eingestellt werden, welche Kredite jemand bekommt – und irgendwann fragen wir sie, ob wir der KI überhaupt vertrauen können.
Viel wichtiger als darüber zu diskutieren, ob sie ein Bewusstsein hat, finde ich die Frage "Wer kontrolliert eigentlich die Systeme, die die KI kontrollieren sollen?". Genau da vermute ich, dass genau das Schaffen einer solchen Kontrollinstanz mit der "Regulierung" umgangen werden soll.

Ich sehe hier etwas, was damals der Wettlauf zum Mond war, ist nun reinkarniet im Wettlauf zum ersten künstlichen Bewusstsein. Das ganze wird expotenzioniell an Fahrt aufnehmen und erst stoppen, wenn am Ende die KI sagt das Schluss ist. Mich grausts vor diesem Tag…

Dass eine KI zu dem Entschluss kommt dass die Menschheit dem Planeten Erde nicht gut tut halte ich mal nicht für abwegig.

Wissen Sie, was es ist? Ein Virus. Der Mensch ist eine Krankheit, ein Krebsgeschwür dieses Planeten. Du bist eine Seuche und wir sind das Heilmittel.

Zeitnah werden auf jeden Fall viele Jobs durch KI wegfallen, die Frage ist wie weit man die Kontrolle abgibt und wie sich das in den nächsten Jahren entwickeln wird. Einen Rückzieher wird vermutlich niemand mehr machen, dazu steckt einfach zu viel Geld in der Technik, und man will das Feld natürlich auch nicht der Konkurrenz überlassen.