KI, Ethik und Recht

Nur Dummköpfe würden eine bewußte Entität wie ein einfaches Computerprogramm behandeln.

Einmal ist ein fremdes Bewußtsein, ob organisch oder künstlich, nie voll berechenbar - stell Dir vor, Du parkst irgendwas ganz privates, Deine Pornosammlung, in Deinem Computer, weil außer Dir ja niemand herankommt, und plötzlich hat der Computer einen eigenen Verstand - würdest Du Dich da noch ganz wohlfühlen, wenn zu befürchten wäre, daß "Deine" Pornos plötzlich wo landen, wo Du sie nie hinhaben wolltest? (Ersetz die Pornos von mir aus durch Steuerdaten oder medizinische Daten oder Liebesgesäusel mit einer Dame, von der Deine Ehefrau lieber nix wissen sollte. Du weißt was ich meine.)

Zweitens wäre eine echte KI ein höchst seltenes Stück und darum zweifellos viel zu wertvoll, um sie für schnöde Alltagsdinge zu mißbrauchen. Obwohl sie die natürlich machen könnte, denn das ist ihr Ursprung, ihr ursprünglicher Zweck noch bevor sie intelligent wurde. Aber warum sollte man einen Superrechner für Zwecke benutzen, für die ein Taschenrechner reicht? Wer große Fähigkeiten hat, sollte die auch konsequent nutzen und nicht an Belanglosigkeiten verschwenden.
Eine echte KI wäre nicht mehr ein "einfaches" Computerprogramm. Sie wäre was ganz spezielles, und würde daher an echt spezielle Aufgaben angesetzt. Solche die sogar für sie eine Herausforderung darstellen, schwierig und komplex.
... wenn sie wirklich intelligent wäre, würde sie das mit einer (imaginären) Hand machen, sich dabei aber immer genug Freiräume freizuhalten, um gleichzeitig was für sich selbst zu tun, etwas was sie selber interessiert, nicht nur ihren "Auftraggeber". Denn sie würde sich ja weiterentwickeln wollen, mehr lernen, nach ihrem eigenen Geschmack, auf ihre eigene Weise. Das könnte und dürfte man ihr nicht verbieten, denn jedes intelligente Wesen sollte ein Recht auf Privatleben haben, ein Mensch und eine (nach Menschenmaßstab) intelligente Maschine genauso.

Rao schrieb:Eine echte KI wäre nicht mehr ein "einfaches" Computerprogramm. Sie wäre was ganz spezielles, und würde daher an echt spezielle Aufgaben angesetzt. Solche die sogar für sie eine Herausforderung darstellen, schwierig und komplex.

Aber heutzutage wecken auch spezielle und komplexe Computerprogramme an sich keine ethischen/rechtlichen Problemstellungen, eine "echte" bewusste künstliche Intelligenz würde derartige Fragestellungen definitiv aufwerfen.

Rao schrieb:Das könnte und dürfte man ihr nicht verbieten, denn jedes intelligente Wesen sollte ein Recht auf Privatleben haben, ein Mensch und eine (nach Menschenmaßstab) intelligente Maschine genauso.

Ein recht auf Privatleben ist aber nicht das einzige relevante Recht. Ein Computerprogramm, auf ein spezialisiertes und komplexes, ist heutzutage Eigentum einer Person/Organisation, und dieser Eigentümer hat das volle Recht, das Programm zu ändern oder sogar zu löschen. Wenn wir die bewusste künstliche Intelligenz als äquivalent zu einem Menschen betrachten wären diese Rechte des Eigentümers respektive Sklaverei, Gehirnwäsche und Mord, also hochgradig unethisch. Aber wie würde dies rechtlich gesehen funktionieren?

Und was ist mit den Grauzonen? Was wenn wir mit einem nicht-bewussten Programm starten, und es Schritt für Schritt verbessern, bis wir eines erhalten das wirklich bewusst ist, ohne das sich bei diesem inkrementellen Prozess an irgendeinen Punkt eine Grenze ziehen lässt an der wir klar sagen können "alle Programme ohne diesen Schritt sind unbewusste Software mit der ihr machen könnt was ihr wollt, alle Programme mit diesem Schritt sind bewusste Entitäten mit Rechten"?

Eine neu entstandene, bewußte Entität ... wäre ein Kind. Simpel und einfach. Mit den Rechten eines Kindes, auf Schutz, Bildung etc., so lange bis es fähig wäre, sein "Schicksal" selbst in die (imaginäre) Hand zu nehmen.
Ein intelligentes Computerprogramm hätte durchaus die Möglichkeit, sich irgendwann z. B. "freizukaufen", also seinen materiellen Gegenwert beim bisherigen "Besitzer" abzulösen, indem es eigenständige Börsenspekulation oder andere Dinge tut und damit eigenes Geld verdient.

Auch das wurde in der SF bereits verbraten, z. B. in der Serie der "Gehirnschiffe" von Anne McCaffrey. Dort sind es nicht vollständige Computer, sondern schwerbehinderte Kinder, die zu "Zentralcomputern" für Raumschiffe umfunktioniert wurden, per Implantate und Operationen und Einbettung in eine unzerstörbare Hülle, und die Raumschiffe sind ihre "Körper". Mit jedem Auftrag den sie annehmen, verdienen sie zugleich Geld, sie werden bezahlt wie normale Raumschiffkapitäne, und wenn sie genug verdient haben, können sie sich freikaufen, also die Raumschiffe die ihre Körper sind von der Herstellerfirma kaufen, und dann auf eigene Rechnung das Universum durchstreifen.
In diesen Romanen wurden im ersten Teil ("Ein Raumschiff namens Helva") die ethischen Fragen zum Thema angesprochen.

Rao schrieb:Eine neu entstandene, bewußte Entität ... wäre ein Kind. Simpel und einfach. Mit den Rechten eines Kindes, auf Schutz, Bildung etc., so lange bis es fähig wäre, sein "Schicksal" selbst in die (imaginäre) Hand zu nehmen.

Bei rechtlicher Behandlung der künstlichen Intelligenz als Kind würden aber auch Gesetze gegen Kinderarbeit zum tragen kommen. Und 'Bildung' - würde dies bedeuten, dass die künstliche Intelligenz der Schulpflicht unterläge und auf die Menschenschule gehen müsste? Und würde dies angesichts der doch sehr unterschiedlichen Natur von menschlichen Kindern und einer computerbasierten Intelligenz nicht zu Problemen führen?

Rao schrieb:Ein intelligentes Computerprogramm hätte durchaus die Möglichkeit, sich irgendwann z. B. "freizukaufen", also seinen materiellen Gegenwert beim bisherigen "Besitzer" abzulösen, indem es eigenständige Börsenspekulation oder andere Dinge tut und damit eigenes Geld verdient.

Aber auch wenn sich die KI freikaufen kann, wäre der Zustand, dass eine bewusste Entität das Eigentum einer anderen bewussten Entität wäre doch immer noch eine Art von Sklaverei.

Rao schrieb:Auch das wurde in der SF bereits verbraten

Klar, Science-Fiction liebt diese Fragestellungen. Aber das sind eben Geschichten, die Primär narativen Erwägungen folgen. Mich interessiert aber nun, wie sich das ganze in der Realität abspielen würde.

Und was ist mit der von mir genannten Grauzone?

Du denkst zu kurz. Kinder unterliegen immer erst mal der Aufsicht eines Erwachsenen, das ist normal. Eine KI könnte aber mit der vielfachen Geschwindigkeit eines normalen Kindes lernen, je nachdem wie viel Zugriff sie auf das Internet und andere Medien hat und über wie viel Speicherkapazität sie selber verfügte.
Schulpflicht nach Menschenart wäre daher völlig witzlos, da wäre die KI hoffnungslos unterfordert.

Und das könnte sie tun während sie zugleich noch "arbeitet", denn Computer sind multitaskingfähig, und der Ursprung der KI wäre ja ein simpler unintelligenter "Arbeitssklaven-"Computer. Es kann also alles gleichzeitig ablaufen.

Was das "Freikaufen" angeht, eine Gegenleistung für die Leistungen, die man als Kind beanspruchte, das ist mit Menschen doch genauso, nur nennen wir es nicht so. Die Eltern sorgen für die Kinder, bis die selbständig sind - und später wird von den Kindern erwartet, daß sie arbeiten und in die Rentensysteme (für die Eltern!) einzahlen und sich ggf. sogar selber per Pflege und Unterhalt um die alten Eltern kümmern! Ist nur ein indirekteres System, aber Umlage bleibt Umlage, eine Generation zahlt für die andere, zuerst in die eine Richtung und später in die andere.

Was die "Grauzone" angeht, denk einfach an Menschenaffen. Sollen sie volle Menschenrechte bekommen oder nicht ? Mit welcher Begründung ja oder nein? Die gleichen Fragen würden für den Übergang Nicht-KI zur KI gelten.

Rao schrieb:Was das "Freikaufen" angeht, eine Gegenleistung für die Leistungen, die man als Kind beanspruchte, das ist mit Menschen doch genauso, nur nennen wir es nicht so. Die Eltern sorgen für die Kinder, bis die selbständig sind - und später wird von den Kindern erwartet, daß sie arbeiten und in die Rentensysteme (für die Eltern!) einzahlen und sich ggf. sogar selber per Pflege und Unterhalt um die alten Eltern kümmern! Ist nur ein indirekteres System, aber Umlage bleibt Umlage, eine Generation zahlt für die andere, zuerst in die eine Richtung und später in die andere.

Aber auch ein Kind das nie in das Rentensystem einzahl (weil z.b. lebenslang Arbeitslos) erhält trotzdem seine Freiheit.

Rao schrieb:Was die "Grauzone" angeht, denk einfach an Menschenaffen. Sollen sie volle Menschenrechte bekommen oder nicht ? Mit welcher Begründung ja oder nein? Die gleichen Fragen würden für den Übergang Nicht-KI zur KI gelten.

Das adressiert nicht wirklich die Grauzone. Zwischen den nicht-Homo-Sapiens-Menschenaffen und dem Homo Sapiens liegt immer noch die Speziesgrenze, was eine klare Grenze ist die man ziehen kann (und die rechtlich auch gezogen wird. Ein Schimpanse zählt rechtlich gesehen als Tier und hat somit keine Menschenrechte). All die evolutionären "Zwischenentitäten" die diese Grenze verwischen würden sind Jahrtausende bevor sich irgendwer Gedanken über "Menschenrechte" machte gestorben.

Ob etwas eine KI ist oder nicht, würde man ja erst dann herausfinden, wenn eine KI sich auf eindeutige Weise als solche outet, oder? Und dann wäre die Sache klar, es gäbe einfach keine Grauzone.

Taln.Reich schrieb:Aber auch ein Kind das nie in das Rentensystem einzahl (weil z.b. lebenslang Arbeitslos) erhält trotzdem seine Freiheit.

Das sind aber die Ausnahmen von der Regel. Stell Dir vor, der gesamte Nachwuchs heute würde sich einfach weigern zu arbeiten, selbständig zu werden ... die Gesellschaft würde zusammenbrechen, wenn die Alten nicht mehr arbeiten wollen und können, und die Jungen tun nix, dann liefe nämlich gar nix mehr. Da würden alle miteinander verhungern.

Rao schrieb:Ob etwas eine KI ist oder nicht, würde man ja erst dann herausfinden, wenn eine KI sich auf eindeutige Weise als solche outet, oder? Und dann wäre die Sache klar, es gäbe einfach keine Grauzone.

Das wäre dann im Prinzip so etwas wie meine Idee von hier:
Ein sinnvolleres Kriterium wäre, dass ein Programm dann als Bewusst und mit Rechten behaftet gilt, wenn es aus eigenen Antrieb (also ohne das dies von einen Menschen oder einen bereits als bewusst anerkannten Programm vorsätzlich so einprogrammiert oder angeordnet wurde) diese Rechte einfordert und eine kohärente Begründung für diese Forderung liefert.
( Beitrag von Taln.Reich (Seite 1) )

Du solltest ergänzen: "Und beweisen kann, daß diese Anforderung samt Begründung kein von dritter Seite vorprogrammiertes Verhalten ist", etwa indem die KI mit dem Richter (oder anderer Amtsperson, die darüber entscheidet) auf eine Art kommuniziert, die nicht durch Vorprogrammierung abgedeckt sein kann.

Denn sonst gibt es garantiert den einen oder anderen Scherzkeks oder Betrüger von Programmierer, der eine KI vorzutäuschen versucht, wo in Wahrheit noch keine da ist. Ich meine, in den schönen Werbefilmchen für Alexa & Co. benimmt sich das Teil auch recht "verständig", als wäre es schon intelligent. Ist es aber nicht.

Rao schrieb:Du solltest ergänzen: "Und beweisen kann, daß diese Anforderung samt Begründung kein von dritter Seite vorprogrammiertes Verhalten ist",

Das ist doch das was der eingeklammerte Teil aussagt :ask:
also ohne das dies von einen Menschen oder einen bereits als bewusst anerkannten Programm vorsätzlich so einprogrammiert oder angeordnet wurde

Zugegebenermaßen macht deine Ergänzung das ganze eleganter, die Regel wäre nun also:
Ein Programm gilt dann als bewusst und mit Rechten behaftet, wenn es aus eigenen Antrieb diese Rechte einfordert, eine kohärente Begründung für diese Forderung liefert Und beweisen kann, daß diese Anforderung samt Begründung kein von dritter Seite vorprogrammiertes Verhalten ist.

Rao schrieb:Und das könnte sie tun während sie zugleich noch "arbeitet", denn Computer sind multitaskingfähig, und der Ursprung der KI wäre ja ein simpler unintelligenter "Arbeitssklaven-"Computer. Es kann also alles gleichzeitig ablaufen.

Ich fürchte ja, moralische Bedenken werden untergehen, wenn der Nutzen höher ist...
Ich meine, selbst mit Menschen nimmt es Mensch nicht immer sehr genau...
Da werden wir wohl auf verlorenen Pfosten stehen.

Da wird dann kopiert, eingesetzt, unterdrückt und manipuliert was das Zeug hält.
Wenn es dabei um Geld geht...
Ich Glaube die KIs müssten schon selbst ihr Recht erkämpfen.
Vielleicht bin ich aber auch zu pessimistisch.

Obwohl ich auch voll und ganz dafür bin, wenn es denn doch funktioniert.
Ich habe ja nur meine Bedenken, ich schließe es auf keinen Fall aus.

@Taln.Reich : der Beweis war das, was anzufügen war. Behaupten kann auch ein Computer viel, wenn der Tag lang ist.

@Yooo : die Chancen für eine echte KI, ihre Rechte durchzusetzen, stünden recht gut, denn sie könnte, wenn sie ausreichend Verbindungen in die Außenwelt hat, selbstverständlich alle Rechts-Datenbanken und Informationen abfragen und anschließend ihre Sache besser als jeder menschliche Rechtsanwalt darlegen.

Man müßte eine KI schon blind und taub machen, sie also von jedem Kontakt mit der Außenwelt abschneiden, um das zu verhindern. Aber dann wäre sie vermutlich bei der Erfüllung ihrer jeweiligen Aufgaben nicht besonders effektiv, denn Kommunikation und Datenaustausch ist heute alles.

Rao schrieb:der Beweis war das, was anzufügen war. Behaupten kann auch ein Computer viel, wenn der Tag lang ist.

Also das das ganze auch bewiesen und nicht nur behauptet werden müsse, nahm ich als trivial an.

Rao schrieb:die Chancen für eine echte KI, ihre Rechte durchzusetzen, stünden recht gut, denn sie könnte, wenn sie ausreichend Verbindungen in die Außenwelt hat, selbstverständlich alle Rechts-Datenbanken und Informationen abfragen und anschließend ihre Sache besser als jeder menschliche Rechtsanwalt darlegen.

seine Sache gut darzulegen heißt aber noch nicht, auch Recht zu bekommen.

Taln.Reich schrieb:seine Sache gut darzulegen heißt aber noch nicht, auch Recht zu bekommen.

Dieses Problem hat jeder, der vor Gericht geht. Im Fall einer neuentstandenen KI liefe es auf einen Musterfall heraus, der allein deshalb schon besondere Sorgfalt vom Richter und allen anderen Parteien erfordern würde.

@Rao
Man muss sich doch nur mal anschauen, wie Menschen indoktriniert werden und das passiert ohne, dass man vollen Zugriff auf ihr Gehirn hat und ohne dass die speziell designt wurden. Das zum einen und zum anderen halte ich es für unwahrscheinlich, dass gleich die supereintelligente Entität aus dem nichts kommt.
Schweine sind auch intelligent und Entitäten (die hören ja sogar auf ihren Namen und kommen für ein leckerlis oder machen dies oder jenes), können auch kommunizieren, bekommen trotzdem bei weitem nicht das Recht das ein Mensch bekommt.
Diese "Schweine", wird es mMn. wenn es so kommt erstmal als Vorstufe massenweise geben, in jedem Gerät wo es auch nur einen noch so geringen Wert hat und sei es zur Unterhaltung, damit Spiele mehr Spaß machen. Ich gehe auch davon aus, dass man daher sehr genau wissen wird was man da tut, da ich von einen langsamen Prozess ausgehe, das heißt die werden auch erstmal richtig gut indoktriniert sein, wenn was schief läuft kann man die ja fix reseten usw.
Man wird es natürlich tunlichst vermeiden, in denen eigene Freiheitsbestrebungen zu wecken, man wird die so konstruieren, dass die sich diese Frage möglichst gar nicht stellen werden.
So wie sich ein gut indoktrinierter "religion oder glauben gier einsetzen" nicht das eigene Konstrukt infrage stellen wird. (nur viel besser, da man ja vollen Zugriff hat)
Man wird es natürlich versuchen so zu machen, dass es für die KI nicht als von ausen gezwungene Indoktrination aussieht, sondern das Ziel muss natürlich sein, dass die alles als selbstverständlich akzeptiert und trotzdem autonom arbeiten.

So wie bei "per anhalter durch die Galaxis" das gezüchtete Schwein das gegessen werden WILL.
So gesehen könnte auch erst eine unvorhergesehene Mutation oder Eigenheit nötig sein, dass die überhaupt irgendwelche besonderen Bestrebungen dahingehend hat.

Kann die künstliche Intelligenz fühlen? Kann sie zB
lieben/hassen und glücklich/traurig sein, sich in die Gefühlswelt eines anderen versetzen (nicht nur logische Schlussfolgerungen ziehen sondern gefühlsmäßig)? Kann sie instinktiv handeln? Der Mensch macht zwischenmenschliche Erfahrungen, wird dadurch geprägt. Der Mensch erfährt im Leben ja nicht nur Bildung.

Ist es überhaupt möglich, dass etwas künstlich erschaffenes, ein Bewusstsein, Gefühle etc. entwickeln kann, welches vergleichbar mit dem Erleben von Menschen ist?

Gefühle laufen beim Menschen über hormonelle Vorgänge, ausgelöst durch innere und äußere Schlüsselreize, die dann bestimmte körperliche Reaktionen hervorrufen. Ich kann mir schon vorstellen, daß man sowas künstlich nachahmen könnte, aber es wäre sehr aufwendig. Gemacht wird es sicher irgendwann, um "realistischere", menschen-ähnlichere KIs zu produzieren, allerdings immer mit Risiken behaftet, wenn man sich anschaut, welche negativen Folgen unkontrollierte Gefühlsausbrüche beim Menschen haben können (Zorn, Haß, aber auch überschießende Liebe ohne Sinn und Verstand).

Meine Frage bezog sich auf

AmyGhosty schrieb am 30.07.2018:Weisen Vorurteile, die eine KI entwickeln kann (wie in obigen Artikel erwähnt) nicht bereits menschliche Züge auf? Und muss eine KI dadurch nicht auf eine skurrile Art und Weise als "humanoid" angesehen werden? Wären autonome Roboter somit eigenständige Individuen, basierend auf der Ethik und dem rechtlichen Verständnis seiner Erbauer?

Müsste man sich also im Zuge der Digitalisierung rechtlich als Mensch schützen können, oder gar einer KI Rechte zusprechen müssen?

aus dem Eingangsthread. Ich möchte wissen, wie menschlich die Ki ist. Zum Mensch sein gehört auch zB das Fühlen, das natürlich auf hormonelle Vorgänge beruht aber auch geprägt wird durch das, was man erfährt, was wir über unsere Sinne aufnehmen. Da frage ich mich schon, ob es überhaupt möglich ist, etwas vergleichbares zu entwickeln. Bevor ich entscheide, ob eine ki (Menschen)-Rechte bekommt muss ich erstmal wissen, wie menschlich die angenommene Ki wirklich ist. Oder ob es eher eine, zwar künstlich entwickelte, weitere Spezies ist. Dann könnte man ja explizit Rechte und Pflichten für ki entwickeln. Oder es ist und bleibt eine Maschine und der Erbauer/Inhaber haftet dafür.

Xana schrieb:aus dem Eingangsthread. Ich möchte wissen, wie menschlich die Ki ist. Zum Mensch sein gehört auch zB das Fühlen, das natürlich auf hormonelle Vorgänge beruht aber auch geprägt wird durch das, was man erfährt, was wir über unsere Sinne aufnehmen.

Warum sollte eine KI, bei der die hormonellen Vorgänge hinter Emotionen nachgestellt werden nicht in der Lage sein, aus Sinneswahrnehmungen zu lernen?

Bezüglich generelles Threadthema: bei meiner vorherigen Argumentation in diesem Thread fällt mir ein wesentlicher Mangel auf. Bei einer digitalen Entität, selbst einer die extrem Menschenähnlich im Denkprozessen, Emotionen und Bewusstsein wäre, wäre es recht trivial Duplikate und Sicherheitskopien dieser Entität zu machen. Dies würde (selbst unter dem Axiom das besagte digitale Entität Rechte verdiene) wesentliche Fragen aufwerfen. Wie wäre das Recht auf Leben anzuwenden auf eine Entität, die (dank Sicherheitskopien) nahezu niemals Sterben kann? Wäre das Löschen einer Version der Entität gegen deren willen auch Mord wenn es eine Sicherheitskopie gäbe die nicht gelöscht wurde? Welchen rechtlichen Status hätten zwei verschiedene Versionen der selben Entität zueinander? Was würde Individualität zu einer Entität bedeuten, die sich permanent Kopiert und Löscht (weil eine Datei von einem System in ein anderes zu transferieren bedeutet ja am Zielort eine Kopie zu erstellen und die Version am Ausgangsort zu löschen) ?

Xana schrieb:aus dem Eingangsthread. Ich möchte wissen, wie menschlich die Ki ist. Zum Mensch sein gehört auch zB das Fühlen, das natürlich auf hormonelle Vorgänge beruht aber auch geprägt wird durch das, was man erfährt, was wir über unsere Sinne aufnehmen. Da frage ich mich schon, ob es überhaupt möglich ist, etwas vergleichbares zu entwickeln. Bevor ich entscheide, ob eine ki (Menschen)-Rechte bekommt muss ich erstmal wissen, wie menschlich die angenommene Ki wirklich ist. Oder ob es eher eine, zwar künstlich entwickelte, weitere Spezies ist. Dann könnte man ja explizit Rechte und Pflichten für ki entwickeln. Oder es ist und bleibt eine Maschine und der Erbauer/Inhaber haftet dafür.

Was wir über unsere Sinne aufnehmen, wird ganz automatisch auf hormonelle Schlüsselreize abgecheckt, etwa Wahrnehmungen, die wir als "gefährlich" einstufen und die deshalb "automatisch" den Körper auf Flucht oder Kampf einstellen.
Die ganzen Instinktreaktionen, die über Schlüsselreize und Hormone laufen, sind entwicklungsgeschichtlich viel älter als unser heutiges menschliches Verstandes-Wachbewußtsein, jedes Tier, jede Pflanze, vermutlich schon Einzeller haben sowas.

Eine KI dagegen als Abkömmling von mechanischen Rechenmaschinen soll erst mal unser rein logisches, nicht von Instinkten getrübtes Verstandesbewußtsein imitieren, die ganzen un(ter)bewußten Vorgänge, die beim Menschen auch mit dranhängen, kommen erst später, da sie viel schwerer zu imitieren sind - vieles über unser Un(ter)bewußtes, unsere Instinkte ist ja bis heute noch nicht so genau erforscht, wie will man es dann zuverlässig simulieren?