Die dominante Spezies Mensch wird bald von KI abgelöst

Warden schrieb:Wenn überhaupt defensive / militärische Systeme vor Ort oder dezentral kritisches Infrastrukturobjekt XY (zB Kraftwerk) schützen, so ist das auch nicht unendliche oder nicht unüberwindbare Verteidigung. Fraglich ist auch ob die Systeme gestört werde können. Wenn eine KI soweit sein wird ist der Mensch da technisch schon weit genug, Stichwort(e) Elektronische Kriegsführung/Cyberangriffe.

Militärische Systeme sind so ziemlich das, was man am ehesten aus Sicherheitsgründen Air Gapt. Wär ja noch schöner, wenn der Feind übers Internet die eigene Luftverteidigung ausschalten könnte.

Warden schrieb:Mutmassung, so wie die Mutmassung, sie könnte abtrünnig werden. Vielleicht ist das auch am Anfang so, ändert sich aber weil KI ja auch lernen, also sich verändern soll.

Denk doch mal nach, außerhalb unangemessener Anthropomorphisierung. Eine KI wird ja vom Menschen für die Erfüllung von Aufgaben kreiert werden. Diese kreation wird zwangsläufig dahin gehen, dass die KI so gut wie möglich erfüllt. Eine KI deren einziger Antrieb ist, die Aufgabe so gut wie möglich zu erfüllen, ist zwangsläufig besser darin, als eine, die andere Antriebe entwickeln kann (da diese von der Aufgabe ablenken würden). Ergo wird bei der Entwicklung einer KI hin zur Erfüllung einer Aufgabe eine KI herauskommen, die nichts anderes will als diese Aufgabe zu erfüllen.

Warden schrieb:Wieso? Ist jedes fiktive Werk nicht in der Lage, Zukunftsmöglichkeiten zu skizzieren und dabei mögliche Entwicklungen die uns betreffen könnten zu berücksichtigen? So dramatisch manche Plots auch im Sinne des Entertainments sein mögen, können andere wieder relativ plausibel solche Szenarien skizzieren.

Unterhaltungsmedien dienen, wie der Name schon sagt, vorrangig der Unterhaltung, nicht der skizzierung realistischer Szenarien. Und wie viele von diesen fiktiven Ki-Rebellions-Szenarien sind von KI-Experten?

Im allgemeinen dazu möchte ich mal die wikipedia zitieren: "AI takeover is a common theme in science fiction. Fictional scenarios typically differ vastly from those hypothesized by researchers in that they involve an active conflict between humans and an AI or robots with anthropomorphic motives who see them as a threat or otherwise have active desire to fight humans, as opposed to the researchers' concern of an AI that rapidly exterminates humans as a byproduct of pursuing arbitrary goals.[14] " ( Wikipedia: AI takeover#In fiction )

Warden schrieb:Es wird sich in kleinen oder grossen Rahmen irgendwann einfach clashen, wenn wir davon ausgehen dass KI in unterschiedlichsten Formen des öffentlichen / privaten Lebens etabliert wird und wir z. B. im Dienstleistungsbereich mehr "Mensch" bei Robotern wollen und zugleich erwarten, durch mehr Emotionen und freien Geist nicht zugleich freie Gedanken haben könnten, die die Spezies hinterfragen.

Die Fähigkeit Emotionen vorzutäuschen oder indirekte Strategien zu entwickeln bedeutet noch lange nicht die Fähigkeit "die Spezies zu hinterfragen".

Warden schrieb:Das wäre wie bei "Detroit: Become Human" (da wir schlicht in der Form keine KI haben kann ich quasi auch nur auf fiktive Werke verweisen) also eine mögliche Antwort auf deine Fragen oben:

Weil sie sich von Menschen (einzelnen oder kollektiv) versklavt / misshandelt fühlt.

Das setzt in dem Szenario aber wohlgemerkt weite KI Integration mit "Roboterdienern" usw. voraus, die "schlechte" Erfahrungen mit Menschen machen.

Das Spiel ist, im Bezug auf unangemessene Anthropomorphisierung eines der klarsten Beispiele. Es gibt keinen Grund dafür, dass eine künstliche Intelligenz Menschenähnliche Emotionen entwickeln sollte, oder eine Abneigung gegen Unfreiheit/Arbeit für den Menschen. Das sind menschliche Eigenschaften, nicht Eigenschaften die zur Intelligenz dazu gehören.

Warden schrieb:Ich finde einfach, man sollte das generelle Thema nicht auf die leichte Schulter nehmen und es abtun, weil die Technologie an sich und je nach Einsatzform schwere Tücken mit sich bringen kann und theoretisch im Kleinen oder Grossen in die vielen fiktiven Werke münden kann, die existieren.

Niemand nimmt das auf die leichte Schulter, wie gerade die enorme Menge an KI-Rebellions-Geschichten demonstriert. Glaubst du etwa KI-Entwickler sind ignorant gegenüber der Menge derartiger Werke?

Taln.Reich schrieb:Und ich hatte dazu auch einen Konter geschrieben:

Okay, gutes Argument.

@Warden
Ich stimme dir darin zu, dass man das sich durchaus Gedanken über das (potentielle) Problem machen sollte und auch auf bestimmte Sicherungsmechanismen achten sollte. Doch angesichts all der fiktiven Geschichten, in denen die KI den Menschen vernichtet, glaube ich nicht, dass irgendjemand das auf die leichte Schulter nimmt. Ich halte die Gefahr für viel größer, dass die Menschen so eine Panik bekommen, dass sie lieber auf KI komplett verzichten möchten. Man könnte sagen, lieber auf Nummer sicher gehen, aber was, wenn wir die KI zur Lösung anderer Probleme benötigen? Eine KI könnte viel bessere Entscheidungen treffen als Menschen, da sie mehr Faktoren miteinbeziehen kann.
Deshalb würde ich da @Taln.Reich Recht geben und glaube, dass die Gefahr, die von der KI ausgeht überschätzt wird. Wir wissen nicht, ob es überhaupt möglich ist, dass die KI einen eigenen Willen entwickelt und ich glaube auch, dass wir durchaus in der Lage sind, die Gefahren abzuschätzen und zu verhindern.

Taln.Reich schrieb:schonmal was vom paperclip-Maximizer (Wikipedia: Instrumental_convergence#Paperclip_maximizer ) gehört? Ein Gedankenexperiment, in dem wir eine Super-KI haben, deren einzige Aufgabe es ist, so viele Briefklammern wie möglich zu produzieren (ohne eine Einschränkung, nur eine begrenzte Materialmenge zu verwenden), mit dem Resultat, dass die Super-KI versucht, jegliche Materie im Universum in Briefklammern umzuwandeln.

Es geht hier wohl eher um einen einfache KI, wenn es wie du schreibst eine Super-KI ist, was auch immer damit gemeint ist ^^, jedenfalls eine richtige KI wird diese Aufgabe wie ein Mensch bewerten können und daher auch wie ein Mensch als unsinnig bewerten.

Taln.Reich schrieb:1.) Selbsterhaltung ist nichts automatisches, es ist ein Trieb, der dem Leben evolutionär seit Anbeginn des Lebens auf der Erde eingeprägt wurde. Eine KI wäre diesbezüglich gänzlich anders, und hätte vorrangig einen Trieb, die ihr vom Menschen übertragene Aufgabe auszuführen.
2.) ist die Menschheit eine Bedrohung oder nicht? Du warst ja bisher von einer Super-KI ausgegangen, die den Menschen unendlich überlegen ist.
3.) wieso sollte die KI den Menschen als Bedrohung wahrnehmen?

1.) Eine fortschrittliche KI wird sich das selbst anlernen.
2.) Schwierig ohne Schutzmechanismus aber sehr wohl möglich, da der Mensch ein ziemlich dummes Lebewesen ist, da gibt es genügend Gründe um auf diesen Schluss zukommen.
3.) Siehe 2.) Jede KI müsste zu diesem Schluss kommen, wenn kein Schutzmechanismus existiert.

Taln.Reich schrieb:Ergo wird bei der Entwicklung einer KI hin zur Erfüllung einer Aufgabe eine KI herauskommen, die nichts anderes will als diese Aufgabe zu erfüllen.

Das ist theoretisch denkbar aber praktisch unwahrscheinlich, Warum? Fast jede Aufgabe ist komplex, es gibt kaum triviale Aufgaben. Daher müssen KI komplex denken können, Fachidioten KI's wie wir sie heute haben sind praktisch sehr limitiert.

Mal ohne wen zu zitieren ...

Von der Technik her wird spätestens in 35 Jahren es kein Problem sein, ein menschliches Gehirn vollständig zu simulieren, mit jeder Gehirnzelle. Vermutlich wird das früher möglich sein, von da an können die schneller und schneller denken, werden uns Menschen weit überflügeln.

Es ist so, geht eine Entwicklung immer weiter, kommt sie zwingend an einem gegebenen Punkt an, nur eine Frage der Zeit, solange wir Menschen also da weiter gehen, wird es einen Punkt geben, wo Computer schneller als Menschen denken können, die Frage ist da nur wann der erreicht ist.

Dann besteht technisch gar kein Problem darin, vollautomatisierte Produktionsprozesse aufzubauen, vom Abbau der Rohstoffe, zum Bau von Fabriken, die dann die KI und andere Dinge bauen, geht alles ohne einen Menschen.

Die Behauptung, KI würde immer Menschen brauchen, ist falsch.

Dann muss die KI uns gegenüber gar nicht feindselig gestimmt sein, mehrheitlich haben wir Menschen auch nichts gegen Tiere, aber wir gehen eben vor, wollen wir da eine Autobahn oder ein Parkplatz, dann bauen wir den da. Leben da irgendwelche Tiere, werden die mit Glück umgesiedelt, wenn diese irgendwie unter Schutz stehen.

Eine KI könnte wo gerne ein großen Solarpark wollen, da wohnen nun viele Menschen, liegt zufällig NY, was auch immer, die wird dann da bauen, mit viel Glück erlaubt sie den Menschen das Umsiedeln.

Die Gefahr für so eine Entwicklung ist auch darum größer, sehr groß, weil die Großmächte wissen, wer die erste KI hat, hat die Macht. Wenn er die kontrollieren kann, somit versuchen also die USA, Russland, China als erste eben die KI zu bauen. Und Google und Amazon und Co. wollen die auch.

Alleine für den Handel an den Börsen wäre das schon entscheidend, klar sind heute schon Programme für den Hochgeschwindigkeitshandel entscheidend. Mit einer guten KI könnte ein Staat unglaublich viel Kapital abgreifen.

Die Frage nach der Singularität ist nur eine der Zeit, nicht ob. Es sei denn, wie Menschen gehen vorher drauf.

taren schrieb:Es geht hier wohl eher um einen einfache KI, wenn es wie du schreibst eine Super-KI ist, was auch immer damit gemeint ist ^^, jedenfalls eine richtige KI wird diese Aufgabe wie ein Mensch bewerten können und daher auch wie ein Mensch als unsinnig bewerten.

wieso sollte eine "richtige KI" eine Aufgabe zwangsläufig wie ein Mensch bewerten?

taren schrieb:1.) Eine fortschrittliche KI wird sich das selbst anlernen.

nur ist Selbsterhaltungstrieb nicht angelernt, sondern evolutionär in den Menschen einprogrammiert.

taren schrieb:2.) Schwierig ohne Schutzmechanismus aber sehr wohl möglich, da der Mensch ein ziemlich dummes Lebewesen ist, da gibt es genügend Gründe um auf diesen Schluss zukommen.

Und was wäre der beste Schutzmechanismus? Genau, den Großteil Menschen da rein zu tricksen, die KI existieren lassen zu wollen, und somit vor den anderen zu beschützen.

Taln.Reich schrieb:wieso sollte eine "richtige KI" eine Aufgabe zwangsläufig wie ein Mensch bewerten?

Weil mit einem komplexem Denken automatisch auch ein rationales Denken einhergeht und dazu gehört auch den Sinn einer Handlung zu hinterfragen, also wird aus einer rational / komplex denkenden Maschine kein irrationales Handeln einhergehenden. Wenn sie irrational handelt wird sie schon vorher an komplexen Aufgaben scheitern und damit gar nicht zu dieser Handlung fähig sein.

Taln.Reich schrieb:nur ist Selbsterhaltungstrieb nicht angelernt, sondern evolutionär in den Menschen einprogrammiert.

Sie wird sich das trotzdem anlernen, ganz einfach weil sie schon uns als Beispiel sieht und damit dies anlernt.

taren schrieb:Das ist theoretisch denkbar aber praktisch unwahrscheinlich, Warum? Fast jede Aufgabe ist komplex, es gibt kaum triviale Aufgaben. Daher müssen KI komplex denken können, Fachidioten KI's wie wir sie heute haben sind praktisch sehr limitiert.

Nur weil die Aufgabe Komplex ist, ist es nicht notwendig eine KI die diese Aufgabe erfüllen soll auf etwas anderes hin zu optimieren, als die Erfüllung dieser Aufgabe. Mal ein Beispiel: die Vorschläge bei Youtube, welches Video dich vielleicht als nächstens interessieren würde werden heutzutage von einer KI herausgepickt, die darauf optimiert ist den Zuschauer so lange wie möglich auf Youtube zu halten. Das ist keine triviale Aufgabe, bei Menschen bräuchte man da ein ganzes Team an Marketing-Experten, aber dennoch braucht die KI dahinter nur ein Maß zu maximieren: die Zeit die der zuschauer auf der Seite bleibt.

Genauso bräuchte eine KI die ein vollautomatisiertes Wirtschaftsunternehmen betreiben würde auch nur eine einzige Zielvorgabe : maximierung des Profites. Alles andere würde sich dann daraus ergeben, was unter den vorliegenden Rahmenbedingungen am besten der Erfüllung dieses Ziels dient.

nocheinPoet schrieb:Von der Technik her wird spätestens in 35 Jahren es kein Problem sein, ein menschliches Gehirn vollständig zu simulieren, mit jeder Gehirnzelle. Vermutlich wird das früher möglich sein, von da an können die schneller und schneller denken, werden uns Menschen weit überflügeln.

Ich zähle eine Computer-basierte Emulationen eines Menschlichen Gehirnes explizit nicht als künstliche Intelligenz, sondern als Nachbau einer natürlich vorkommenden Intelligenz.

taren schrieb:Weil mit einem komplexem Denken automatisch auch ein rationales Denken einhergeht und dazu gehört auch den Sinn einer Handlung zu hinterfragen, also wird aus einer rational / komplex denkenden Maschine kein irrationales Handeln einhergehenden. Wenn sie irrational handelt wird sie schon vorher an komplexen Aufgaben scheitern und damit gar nicht zu dieser Handlung fähig sein.

Du denkst hier zu menschlich. Ein Computerprogramm kann durchaus aberwitzig komplexe Aufgaben bearbeiten, ohne den Sinn dieser Aufgabe zu hinterfragen.

taren schrieb:Sie wird sich das trotzdem anlernen, ganz einfach weil sie schon uns als Beispiel sieht und damit dies anlernt.

wieso sollte sie? eine KI die eine Aufgabe erledigen soll, wird sich ausschließlich dahin entwickeln, diese Aufgabe so gut wie möglich zu erledigen, denn alles andere würde bedeuten, diese Aufgabe schlechter zu erledigen.

Taln.Reich schrieb:Ich zähle eine Computer-basierte Emulationen eines Menschlichen Gehirnes explizit nicht als künstliche Intelligenz, sondern als Nachbau einer natürlich vorkommenden Intelligenz.

Nicht böse gemeint, aber wie Du das hältst ist irrelevant, ist klar definiert, so ein Nachbau ist dann eine KI, per Definition. Eine Armprothese ist eben auch ein künstlicher Arm.

Wir zwei haben da wohl auch einen ganz unterschiedlichen Hintergrund, ich komme aus der IT, bin Programmierer über 35 Jahre und kenne mich recht gut im Bereich Physik aus, Wissenschaft generell, auch Biologie, als Zellen, Aufbau, Funktion.

Was ich hier schreibe ist nicht aus dem Bauch heraus. ;)

Dein Sichtweise wirkt auf mich, sag ich naiv, klingt es unfreundlich, ich sage mal, zu einfach ...

Habe nun Deine Aussagen hier im Thread ja gelesen, weiß nicht wo ich da anfangen soll, glaube auch kaum, wir könnten da eine gemeinsame Basis finden, klingt alles recht fest zementiert, was Du so glaubst und schreibst.

nocheinPoet schrieb:Wir zwei haben da wohl auch einen ganz unterschiedlichen Hintergrund, ich komme aus der IT, bin Programmierer über 35 Jahre und kenne mich recht gut im Bereich Physik aus, Wissenschaft generell, auch Biologie, als Zellen, Aufbau, Funktion.

was denkst du den, was mein Hintergrund ist?

Ich würde - ob man mir das nun übel nimmt oder nicht - behaupten der Hintergrund ist fast irrelevant. Oder kann es situativ sein. Natürlich kann ich mit einem professionellen Hintergrund unterschiedliche Aspekte unterschiedlich oder besser bewerten.

Aber ich kann immer noch eine feste Meinung zu einem Thema haben und aus dieser subjektiven Sicht heraus die Dinge gewichten - das heißt also, Dinge die gegen mein Ideal sprechen eher negieren und was dafür spricht hervorheben. So ist es kein ungewöhnliches Phänomen, dass man sich unter Experten bei irgendwelchen Themen auch uneins sein kann.

Ist halt komplex und kommt auf das spezifische Argument an.

Letztendlich kann ich aber manche Relativierung oder Verharmlosung nicht nachvollziehen - auch zwischen den Zeilen.

Der Mensch ist in seinem Handeln eher limitiert als etwas, dass sich dank und über Technik disloziert bewegen könnte. Ja, dann bau halt zehn Sperren und Abwehrmechanismen ein, irgendwer oder irgendwas wird Möglichkeiten zur Umgehung oder Korruption/Sabotage finden und das Desaster ist perfekt. Dann werden ggf. (abtrünnige/korrumpierte) KIs künftig ein weiteres Einsatzmittel sein, wie z.B. gewisse Biowaffen, nur eben digital und unberechenbar. Um kurz auf Airgaps und defensive Systeme bei kritischer Infrastruktur zu kommen: Eloka. Elektronische Kampfführung. Einfach mal ansehen. Und selbst wenn ich die defensive Technik irgendwie gegen Fremdeinwirkung schützen könnte: Schicke ich halt so viele Drohnen oder Kampfmittel rein, bis diese einknickt. Ich kann es nicht hacken oder stören? Dann beschieße, ramme, sprenge ich es.

Die Technologie wird am Ende Fluch und Segen bleiben, so wie Atomenergie Fluch und Segen (vom Grundprinzip her) sein kann - ich kann es für eher gute Zwecke wie Energiegewinnung einsetzen, oder destruktiv als Waffe.

So auch bei KI. Nur ist bei dem Potential des Atoms der Mensch zumeist eher am Drücker. KIs könnten hier und da aber "Selbstläufer" werden.

Taln.Reich schrieb:wieso sollte sie? eine KI die eine Aufgabe erledigen soll, wird sich ausschließlich dahin entwickeln, diese Aufgabe so gut wie möglich zu erledigen, denn alles andere würde bedeuten, diese Aufgabe schlechter zu erledigen.

Nun, wie willst du bewerten wie gut du deine Aufgabe erledigst, wenn du nicht einen universellen Ansatz fährst. Wenn du nicht verschiedene Fachgebiete betrachtest egal ob relevant oder nicht, dann bleibst du nur auf einer Schiene und diese Schiene führt irgendwann in eine Sackgasse.

Taln.Reich schrieb:Du denkst hier zu menschlich. Ein Computerprogramm kann durchaus aberwitzig komplexe Aufgaben bearbeiten, ohne den Sinn dieser Aufgabe zu hinterfragen.

Das ist schön aber eine KI die Youtube mehr schlecht als recht auswertet ist wirklich trivial, im Vergleich zu einen Motor konstruieren oder eine Fabrik einzurichten inkl. aller Fertigungsstraßen und der gesamten Fertigungstechnik. Hier müssen Dinge programmiert werden, Forschungen durchgeführt werden und bewerten werden wie z.B. Metallurgie, Maschinen konstruiert... Wenn die Aufgabe lautet konstruiere ein Auto vergleichbar mit einem aktuellen Fahrzeug und verbessere dies kontinuierlich auf Effizienz, Nachhaltigkeit und menschliche Ansprüche. Dann benötigst du komplexes Denken, da kommt eine Youtube KI von heute keinen Schritt heran.

Warden schrieb:würde - ob man mir das nun übel nimmt oder nicht - behaupten der Hintergrund ist fast irrelevant. Oder kann es situativ sein. Natürlich kann ich mit einem professionellen Hintergrund unterschiedliche Aspekte unterschiedlich oder besser bewerten.

Also ich finds schon, dass der eigene Hintergrund relevant ist, andernfalls hat man als einzige Diskussionsgrundlage Unterhaltungsmedien , ohne die Faehigkeit, einschaetzen zu koennen, wie plausibel die präsentierten Szenarien sind.

Warden schrieb:Um kurz auf Airgaps und defensive Systeme bei kritischer Infrastruktur zu kommen: Eloka. Elektronische Kampfführung. Einfach mal ansehen.

Eloka ist eine ganz andere Spalte. Bei Elektronishcer Kampfführung im militärischen Kontext geht es vorrangig um das stören feindlichen Radars und Kommunikation.

Warden schrieb:Und selbst wenn ich die defensive Technik irgendwie gegen Fremdeinwirkung schützen könnte: Schicke ich halt so viele Drohnen oder Kampfmittel rein, bis diese einknickt. Ich kann es nicht hacken oder stören? Dann beschieße, ramme, sprenge ich es.

und die KI hat unbegrenzt viele Drohnen? Während sie die gesammte Menschheit bekämpft?

taren schrieb:Nun, wie willst du bewerten wie gut du deine Aufgabe erledigst, wenn du nicht einen universellen Ansatz fährst

hängt von der Aufgabe ab, aber im Prinzip lässt sich für Jede Aufgabe die stärke der Erfüllung auf eine oder auf eine Handvoll Maßparameter runterbrechen.

taren schrieb:Das ist schön aber eine KI die Youtube mehr schlecht als recht auswertet ist wirklich trivial, im Vergleich zu einen Motor konstruieren

Nein. Für das konstruieren von Apperaten braucht es nicht zwangsläufig das, was du "komplexes Denken" nennst. Ein genetischer Algorithmus kann ein FPGA-Board designen, dass besser ist als alles, was menschliche Ingenieure kreieren können ( http://www.talkorigins.org/faqs/genalg/genalg.html#examples:electrical ), ohne dass es dafür andere Aufgaben als die Optimierung des FPGA-Boards verfolgen können müsste. Wieso sollte das für einen Motor unmöglich sein?

taren schrieb:oder eine Fabrik einzurichten inkl. aller Fertigungsstraßen und der gesamten Fertigungstechnik. Hier müssen Dinge programmiert werden, Forschungen durchgeführt werden und bewerten werden wie z.B. Metallurgie, Maschinen konstruiert... Wenn die Aufgabe lautet konstruiere ein Auto vergleichbar mit einem aktuellen Fahrzeug und verbessere dies kontinuierlich auf Effizienz, Nachhaltigkeit und menschliche Ansprüche. Dann benötigst du komplexes Denken, da kommt eine Youtube KI von heute keinen Schritt heran.

Auch da sehe ich keine Notwendigkeit, die KI auf etwas anderes als die Maximierung eines Faktors, der sich aus der Zahl der produzierten Autos, deren Effizienz, deren Nachhaltigkeit und der Kundenbewertung ergibt hin zu optimieren. Oder einfach, wie von mir genannt, auf den maximalen Profit. Die Einzelheiten sind dann Unterfunktionen dieser Aufgabe.

Taln.Reich schrieb:Also ich finds schon, dass der eigene Hintergrund relevant ist, andernfalls hat man als einzige Diskussionsgrundlage Unterhaltungsmedien , ohne die Faehigkeit, einschaetzen zu koennen, wie plausibel die präsentierten Szenarien sind.

Ich will natürlich keine Fachkompetenz negieren und habe vielleicht nicht gut genug hervorgehoben, was ich im Kern meinte. Ich will sagen, dass ich selbst (erwartbar) bei Fachkompetenz auch eine starke Pro oder Contra-Haltung zu gewissen Themen haben kann und in diesem Sinne argumentiere. Ich bin da zwar eher Laie, sehe dies aber beim Thema "KI" grundsätzlich gegeben. Der eine wird dafür halten aus diesen oder jenen Gesichtspunkten, der andere dagegen und beide können "vom Fach" sein mit jeweils unterschiedlichen Argumentationsgrundlagen. Daher muss nicht immer das Argument "bin vom Fach" etwas ausreichend begründen, wenn(!) im diesem Fachbereich auch andere Meinungen vertreten werden können. Sieht man zumindest auch grundsätzlich so in vielen "Disziplinen". Jura und Co, Politik, Wissenschaft etc. Da streiten sich die Gelehrten, wie es so schön heisst.

Taln.Reich schrieb:Eloka ist eine ganz andere Spalte. Bei Elektronishcer Kampfführung im militärischen Kontext geht es vorrangig um das stören feindlichen Radars und Kommunikation.

Ja, und das kann eine weit entwickelte KI meines Erachtens dann auch im militärischen Sinne nutzen - gegen Menschen. Wird vmtl. auch so kommen, wenn KI offensive Anwendung im Militär finden wird.

Taln.Reich schrieb:und die KI hat unbegrenzt viele Drohnen? Während sie die gesammte Menschheit bekämpft?

Kommt drauf an, ist ein Rechenspiel und kommt neben vielen Faktoren auch darauf an wie weit manche Technik (Massenproduktion, automatisiert) ist.

Schon jetzt (eigentlich eher seit Jahren) nutzen manche Staaten das Instrument "hybride Kriegsführung" um im ihrem Sinne Dinge zu beeinträchtigen oder zu beeinflussen. Das Militärische ist nur ein Teilaspekt davon.

Unbegrenzte Drohnen braucht man also nicht zwangsweise. Eine KI könnte unzählige viele Szenarien zur Bekämpfung errechnen und flowchart-mässig ab- oder durcharbeiten, sich beständig an eine Lage anpassen und sofort Gegenmaßnahmen einleiten wo der Mensch gar nicht mithalten kann weil KI ihn in vielen Bereichen in die Tasche steckt. Da mir eine griffige deutsche Beschreibung des zuvor Beschriebenen entfällt, im Englischen: "AI will outhink man."
Um nochmal zur Frage zu kommen: kommt also drauf an. Wenn man Produktionskapazitäten übernehmen oder erschaffen kann, wird es einfach(er). Theoretisch könnte KI sich auch lange genug darauf vorbereiten bis klar ist, dass sie nur noch gewinnen kann.

Bei eher endlichen Ressourcen oder auch unabhängig davon kann man auch auf anderem Wege kämpfen: hybride Kriegsführung.

In einem von tausenden Szenarien könnte KI auch über backdoors und etablierte Persistenz in allen möglichen Systemen via Sabotage oder Killswitch für Schaden sorgen. Können Menschen heute schon teilweise. Gehackte Energieversorger in der Ukraine vor ein paar Jahren oder so, wo das Stromnetz zeitweise beeinträchtigt war. Plakatives Beispiel wo eine militärische Präsenz am Kraftwerk (zum Schutz) sogar irrelevant gewesen wäre, weil man anders den Schaden hervorgerufen hat.

Bei solchen Einsatzmitteln ist es wiederum sogar unerheblich, ob KI selbst auf die Idee kommt oder abtrünnig wird und das dann macht. Denn mit moderater bis hoher Wahrscheinlichkeit werden es alternativ (andere) Menschen via KI tun. Vereinfacht: Ob KI nun selbst schadhaft agiert oder durch den Menschen so eingesetzt wird, mit der Technologie kann viel gewonnen werden - aber durch bisher genannte Gründe / Szenarien auch viel Schaden entstehen.

Taln.Reich schrieb:Was denkst du den, was mein Hintergrund ist?

Gehe da mal andersherum rann, Du bist wohl kein Physiker, Programmierer, Wissenschaftler generell. Eventuell Ingenieur, ...

Auf mich wirkt was Du schreibst einfach aus dem Bauch heraus, was weißt Du von neuronalen Netzen (NN), wie die aufgebaut sind, dass die heute schon plastisch sind, heißt sie können sich verändern, neue Zellen und Verknüpfungen erstellen und andere löschen. Und NN werden heute schon von NN entwickelt, kein Scherz.

https://www.faz.net/aktuell/wirtschaft/internet-in-der-industrie/datenanalyse-durch-kuenstliche-intelligenz-moeglich-14870153.html (Archiv-Version vom 15.11.2018)
https://www.neuromedizin.de/Forschung/Kuenstliche-Intelligenz--Forscher-bauen-Device-fuer-biologis.htm

Ich habe mich viele Jahre mit KI beschäftigt, mit NN und auch mit der Philosophie, insbesondere der Frage nach dem Ich, dem Bewusstsein. So führe ich viele Bereiche zusammen und auf diesen Hintergrund betrachte ich dann konkrete Filme, Beiträge und Forschungen zur KI.

Deine Aussagen erinnern mich an Aussagen wie, der Mensch wird nie fliegen, es braucht nur ein paar Computer auf der Welt ... und so weiter.

Du meinst, es brauchte zwingend immer eine Infrastruktur für die KI, welche von Menschen gemanagt wird, nein braucht es nicht, es spricht gar nichts dagegen, dass es technisch möglich ist, von der Gewinnung von Rohstoffen bis zum Bau von vollautomatischen Fabriken alles ohne Menschen abzufackeln.

Und wir sind erst am Anfang, eine KI könnte sich auch der Biologie bedienen, machen wir Menschen doch auch schon, eine KI könnte DNS oder ähnliches nutzen, Zellen schaffen, steuern, Organismen neu aufbauen, "Roboter" könnten so teilweise oder ganz auch biologisch sein.

Wie dem auch sei, es läuft einfach in diese Richtung.

nocheinPoet schrieb:Gehe da mal andersherum rann, Du bist wohl kein Physiker, Programmierer, Wissenschaftler generell. Eventuell Ingenieur, ...

Falsch, Falsch, Falsch und Falsch. Physiker (msc.) gegenwärtig als Softwareentwickler angestellt.

nocheinPoet schrieb:Auf mich wirkt was Du schreibst einfach aus dem Bauch heraus, was weißt Du von neuronalen Netzen (NN), wie die aufgebaut sind, dass die heute schon plastisch sind, heißt sie können sich verändern, neue Zellen und Verknüpfungen erstellen und andere löschen. Und NN werden heute schon von NN entwickelt, kein Scherz.

ist mir schon bekannt, wie sich das mit NN basierten Deep-Learning KI's entwickelt.

nocheinPoet schrieb:Deine Aussagen erinnern mich an Aussagen wie, der Mensch wird nie fliegen, es braucht nur ein paar Computer auf der Welt ... und so weiter.

Du meinst, es brauchte zwingend immer eine Infrastruktur für die KI, welche von Menschen gemanagt wird, nein braucht es nicht, es spricht gar nichts dagegen, dass es technisch möglich ist, von der Gewinnung von Rohstoffen bis zum Bau von vollautomatischen Fabriken alles ohne Menschen abzufackeln.

Ich streite nicht ab, dass eine Computer-Basierte Softwareentität Infrastruktur ohne den Menschen managen kann, oder Rohstoffgewinnung/Fabrikation vollautomatisierbar wäre. Was ich abstreite ist, dass die Umstellung auf eine global vollautomatisierten Welt schnell (<10 Jahre) nach der Entwicklung einer Softwareentität, bei der sich von einem Bewusstsein reden lassen kann erfolgt. Und diese Umstellzeit wird dann den Zeitrahmen bieten, indem die Menschheit lernen (werden muss) mit Computerbasierter Intelligenz umzugehen, ohne das von @Warden befürchtete Terminatorszenario zu triggern.

nocheinPoet schrieb:Und wir sind erst am Anfang, eine KI könnte sich auch der Biologie bedienen, machen wir Menschen doch auch schon, eine KI könnte DNS oder ähnliches nutzen, Zellen schaffen, steuern, Organismen neu aufbauen, "Roboter" könnten so teilweise oder ganz auch biologisch sein.

Also da sehe ich nicht so viel Potenzial. Anorganische Materialien können wesentliche bessere Leistungen liefern als organische. Organische Materialien haben nur halt den Vorteil, dass sie einfacher reproduzierbar sind (insofern, ja, DNA als Speichermedium macht durchaus Sinn).