Technologische Singularität

uatu schrieb:Jetzt versuchst Du, den Begriff "Spielfeld" passend zu Deiner Argumentation zurechtzubiegen. Das "Spielfeld" bei einem Schachprogramm ist der Rahmen, den das Programm nach den Vorstellungen der Entwickler einhalten soll. Haben die Entwickler irgendwas übersehen, wodurch ein Zug auf das Feld Z9 möglich ist, dann hat das Schachprogramm "das Spielfeld verlassen". Genau das ist Microsoft mit Tay passiert: Das Programm hat den Rahmen verlassen, den es nach den Vorstellungen seiner Entwickler einhalten sollte.

Nein, das Spielfeld ist das, was nach den Eingangsgrundbedingungen das Spielfeld ist. Andernfalls könnte man auch sagen, dass ein Dampfhammer sein Spielfeld verlassen habe, wenn jemand seinen Arm unter diesen legt und folglich zertrümmert bekommt. Solange ein Mechanismus (ob physisch oder software) sich entsprechend der Eingangskonstruktion verhält, kann man nicht sagen, dass sie ihr Spielfeld verlassen habe, selbst wenn sie durch Bedienfehler Dinge tut die der Entwickler so nicht vorgesehen hat.

@Taln.Reich:

Taln.Reich schrieb:Nein, das Spielfeld ist das, was nach den Eingangsgrundbedingungen das Spielfeld ist.

Es gibt keine abstrakten "Eingangsgrundbedingungen". Das "Spielfeld" ist einzig und allein der Rahmen, der nach den Vorstellungen der Entwickler zulässig sein soll. Beginnt ein System -- aus welchem Grund auch immer -- sich ausserhalb dieses Rahmens zu bewegen, hat es "das Spielfeld verlassen". Das gilt für ein Schachprogramm genauso wie für Tay.

uatu schrieb:Es gibt keine abstrakten "Eingangsgrundbedingungen". Das "Spielfeld" ist einzig und allein der Rahmen, der nach den Vorstellungen der Entwickler zulässig sein soll. Beginnt ein System -- aus welchem Grund auch immer -- sich ausserhalb dieses Rahmens zu bewegen, hat es "das Spielfeld verlassen". Das gilt für ein Schachprogramm genauso wie für Tay.

Wenn ein Toaster, der keine Sicherung hat, in die Badewanne fällt während der Besitzer noch darin sitzt verhält er sich auch außerhalb des vom Entwickler vorgesehenen Rahmens. Hat also der nicht mit Sicherung versehene, in die Badewanne fallende Toaster das Spielfeld verlassen?

@Taln.Reich

Was Du vorschlägst ist egal, es geht darum was passieren wird. Und schau mal mit den Atomwaffen, ist auch eine Gefahr für die ganze Welt und dennoch wollen immer mehr Länder welche haben.

Wir wissen, was damit passieren kann, alles nur nichts Gutes.

Und?

Wo ist die "Vernunft" der Menschheit, haben wir die nun kollektiv abgeschafft und können uns darauf verlassen, dass da kein Land welche bauen wird, weil die ja so gefährlich sind?

Nein, eben.

Und so ist es auch mit der KI, interessant das Putin da das schon so klar erkannt hat. Es wird kommen, wenn wir uns vorher nicht selber in die Steinzeit zurück versetzten wird das so in 30 - 50 Jahren kommen ist unausweichlich.

Es wird keine Einigung aller Länder geben, keine KI so zu schrauben, sie "einzusperren", ganz sicher nicht.

Habe den Eindruck, da ist was in Dir, dass sich den Tatsachen so nicht stellen will, Du willst es einfach nicht wahr haben.

Es wird passieren, ganz sicher.

@Taln.Reich:

Taln.Reich schrieb:Wenn ein Toaster, der keine Sicherung hat, in die Badewanne fällt während der Besitzer noch darin sitzt verhält er sich auch außerhalb des vom Entwickler vorgesehenen Rahmens. Hat also der nicht mit Sicherung versehene, in die Badewanne fallende Toaster das Spielfeld verlassen?

Das Beispiel mit dem Toaster taugt nichts, weil der Toaster sich nicht aktiv bewegt. Nimm einen Rasenäherroboter, der in einen Swimmingpool "fährt", dann passt es. Ja, der Rasenmäherroboter hat in diesem Fall "das Spielfeld verlassen".

nocheinPoet schrieb:Und so ist es auch mit der KI, interessant das Putin da das schon so klar erkannt hat.

Erneut, Rhetorik ist billig, was zählt sind Forschungsprojekte.

nocheinPoet schrieb:Es wird kommen, wenn wir uns vorher nicht selber in die Steinzeit zurück versetzten wird das so in 30 - 50 Jahren kommen ist unausweichlich.

Hat man das vor 30- bis 50 Jahren nicht auch schon gesagt?

uatu schrieb:Das Beispiel mit dem Toaster taugt nichts, weil der Toaster sich nicht aktiv bewegt. Nimm einen Rasenäherroboter, der in einen Swimmingpool "fährt", dann passt es. Ja, der Rasenmäherroboter hat in diesem Fall "das Spielfeld verlassen".

Welche Rolle spielt es, ob er sich bewegt? Tay bewegte sich ja auch nicht. Und selbst in deinem Beispiel: wäre ein Rasenmäherroboter, der erkennt wenn er den Rasen verlässt und entsprechend umkehrt wenn nicht explizit anders angeordnet nicht intelligenter als einer der in den Swimmingspool fährt?

@Taln.Reich:

Taln.Reich schrieb:Erneut, Rhetorik ist billig, was zählt sind Forschungsprojekte.

Du biegst Dir alles so zurecht, damit es zu irgendwie zu Deiner Argumentation passt. Natürlich gibt es russische KI-Forschungsprojekte, ich werde mir aber nicht die Mühe machen, sie für Dich rauszusuchen. Ausserdem würde ich eine sehr eindrückliche Rede des Präsidenten an eine Million (!) Schüler als erheblich bedeutender einstufen, als irgendein bestimmtes Forschungsprojekt.

uatu schrieb:Natürlich gibt es russische KI-Forschungsprojekte, ich werde mir aber nicht die Mühe machen, sie für Dich rauszusuchen.

Wenn Putin als einziger Staatschef die Bedeutung von KI erkannt hat, dann sollte man doch erwarten, dass die KI-Projekte entsprechend hohe Priorität, damit hohes Budget und somit hohe Aufmerksamkeit genießen, sie müssten also einfach zu finden sein.

uatu schrieb: Ausserdem würde ich eine sehr eindrückliche Rede des Präsidenten an eine Million (!) Schüler als erheblich bedeutender einstufen, als irgendein bestimmtes Forschungsprojekt.

Sehe ich genau anders herum. Worte, egal an wieviele Schüler gerichtet, Kosten nichts, ein Forschungsprojekt hingegen kann Milliarden kosten. Daher würde ich letzteres als bedeutender empfinden.

@Taln.Reich:

Taln.Reich schrieb:Welche Rolle spielt es, ob er sich bewegt? Tay bewegte sich ja auch nicht.

"Das Spielfeld verlassen" ist ein aktiver, kein passiver Vorgang. Ein Schachprogramm macht aktiv Züge, und Tay tweetet aktiv Tweets. Ein Toaster fällt aber nicht aktiv irgendwo runter.

uatu schrieb:"Das Spielfeld verlassen" ist ein aktiver, kein passiver Vorgang. Ein Schachprogramm macht aktiv Züge, und Tay tweetet aktiv Tweets. Ein Toaster fällt aber nicht aktiv irgendwo runter.

Er fällt nicht aktiv in die Badewanne - aber er bleibt aktiv im Betrieb nachdem er hinein gefallen ist.

@Taln.Reich

Taln.Reich schrieb:Erneut, Rhetorik ist billig, was zählt sind Forschungsprojekte.

Das war keine Rhetorik, lerne bitte den Begriff richtig. Und ich kenne viel der Forschung, ich einwickel selber über 35 Jahre Software. Bin fast von Anfang an dabei. Und Du?

Was weißt Du darüber, was so geht, über die Physik und überhaupt?

Rhetorik und Wunschdenken kommt da nur von Dir. Du willst es nicht wahrhaben, weiß nun nicht ob Du da im Menschen was göttliches siehst, aber es wirkt auf jeden Fall so, dass es Dich wohl abwerten würde, wenn eine "Maschine" Dir vom IQ überlegen wäre.

Da scheint echt was an Dir zu kratzen.

Taln.Reich schrieb:Hat man das vor 30 - bis 50 Jahren nicht auch schon gesagt?

Ich bin nicht man und da hat "man" sich eben von der Zeit her geirrt. Kommt öfter mal vor, mal dauert es länger, mal geht es viel schneller.

Das belegt aber ganz sicher nicht, dass es nicht kommen wird und nicht kommen kann.

Kann auch sein, dass ich mich da irre, dass es 100 Jahre oder länger dauern wird, ist aber wenig wahrscheinlich.

Geht um Wissen und Informationen und Tatsachen, @uatu und ich wissen eben, wo wir aktuell von der Rechenleistung stehen, wie die sich in den letzten 30 Jahren entwickelt hat und wo die in 30 Jahren zu 99,9 % dann sein wird.

Wir werden dann ohne Probleme ein menschliches Hirn vollständig simulieren können, jedes Neutron, jede Synapse, alles.

Und das kann natürlich dann auch nach oben skaliert werden.

Es ist unausweichlich, dass wir in 50 Jahren Rechner haben werden, die ohne Probleme ein menschliches Hirn schneller laufen lassen können, als ein biologisches Hirn.

Und bisher hat der Mensch alles gemacht was geht, sei sicher, es wird versucht werden, da gibt es kein moralische globale Instanz, die verhindert das in den Laboren der Welt in allen Ländern nicht versucht werden wird, ein Hirn zu emulieren.

nocheinPoet schrieb:Was weißt Du darüber, was so geht, über die Physik und überhaupt?

Ich hzabe einen Bsc. in Physik und arbeite derzeit an meiner Masterarbeit darin.

nocheinPoet schrieb:Rhetorik und Wunschdenken kommt da nur von Dir. Du willst es nicht wahrhaben, weiß nun nicht ob Du da im Menschen was göttliches siehst, aber es wirkt auf jeden Fall so, dass es Dich wohl abwerten würde, wenn eine "Maschine" Dir vom IQ überlegen wäre.

Nö, ich sehe im Menschen nichts göttliches, und sehe mich auch nicht abgewertet wenn eine super-intelligente Maschine existieren würde. Ich bin nur skeptisch sowohl gegenüber der "Sobald KI auftritt bekommen wir ein Terminator/Matrix/Papaerclip-Maximizer-Szenario" Panikgemeinde als auch der "Sobald KI auftritt bekommen wir ganz schnell die Singularität und alles wird möglich" Fangemeinde.

nocheinPoet schrieb:Wir werden dann ohne Probleme ein menschliches Hirn vollständig simulieren können, jedes Neutron, jede Synapse, alles.

Und das kann natürlich dann auch nach oben skaliert werden.

Es ist unausweichlich, dass wir in 50 Jahren Rechner haben werden, die ohne Probleme ein menschliches Hirn schneller laufen lassen können, als ein biologisches Hirn.

Von der Rechenleistung vielleicht her, ja, aber werden wir auch wissen wie sich diese Simulation implementieren lässt? Ich hoffe zwar ja, aber als garantiert würde ich dasnicht nehmen.

@Taln.Reich: Auf was für Spitzfindigkeiten willst Du bei dem Beispiel mit dem Toaster noch ausweichen? Das Beispiel taugt ganz einfach nichts. Tatsache ist, dass Tay klar und eindeutig aktiv den Verhaltensrahmen verlassen hat, den ihre Entwickler vorgesehen hatten. Genau wie bei einem Schachprogramm der vorgesehene Rahmen die Felder A1 bis H8 sind, und ein Zug auf Z9 ein "Verlassen des Spielfelds" darstellt, stellen auch die rassistischen, ausserhalb des vorgesehenen Verhaltensrahmens liegenden Tweets von Tay ein "Verlassen des Spielfelds" dar. Da Du das offensichtlich nicht begreifen willst, sehe ich keinen Sinn in einer weiteren Diskussion dieses Punkts.

uatu schrieb:Auf was für Spitzfindigkeiten willst Du bei dem Beispiel mit dem Toaster noch ausweichen? Das Beispiel taugt ganz einfach nichts. Tatsache ist, dass Tay klar und eindeutig aktiv den Verhaltensrahmen verlassen hat, den ihre Entwickler vorgesehen hatten. Genau wie bei einem Schachprogramm der vorgesehene Rahmen die Felder A1 bis H8 sind, und ein Zug auf Z9 ein "Verlassen des Spielfelds" darstellt, stellen auch die rassistischen, ausserhalb des vorgesehenen Verhaltensrahmens liegenden Tweets von Tay ein "Verlassen des Spielfelds" dar. Da Du das offensichtlich nicht begreifen willst, sehe ich keinen Sinn in einer weiteren Diskussion dieses Punkts.

Ich begreife schon, was du meinst, aber was ich meine, ist das sich jede Technologie anders als vom Entwickler vorgesehen verhält, wenn sie Bedingungen ausgesetzt wird, für die der Entwickler sie nicht vorsah. Im Fall des Toasters ist nicht vorgesehen das dieser Unterwasser arbeitet, im Fall des Schachprogramms nicht dass die Möglichkeit eines Zuges nach Z9 ausgeschlossen wurde und Im Fall von Tay dass das von den Menschen als Vorlage betrachtete Verhalten derartig weit vom erhofften abweicht.

@uatu

uatu schrieb:Lediglich die Geschwindigkeit und die Integrationsdichte sind bei einem FPGA geringer als bei einem hartverdrahteten Prozessor. Je nach Hersteller und Typ kann man aber ziemlich beeindruckende Leistungen erreichen.

Das streite ich ja gar nicht ab. Ich wollte nur deutlich machen das unser Gehirn eher einer rekonfigurierbaren Hardware ähnelt, als einem hardwarekonfigurierten Baustein. Aber ich will hier auch nicth abschweifen, letzendlich ging es ja nur darum das man ein künstlich neuronaes Netz sicherlich auch Emotionen und Gefühle erlernen kann. Diese Dinge ja auch nur Muster, die es zu erkennen und zu verabeiten gilt.

uatu schrieb:Tatsache ist, dass Tay klar und eindeutig aktiv den Verhaltensrahmen verlassen hat, den ihre Entwickler vorgesehen hatten. Genau wie bei einem Schachprogramm der vorgesehene Rahmen die Felder A1 bis H8 sind, und ein Zug auf Z9 ein "Verlassen des Spielfelds" darstellt, stellen auch die rassistischen, ausserhalb des vorgesehenen Verhaltensrahmens liegenden Tweets von Tay ein "Verlassen des Spielfelds" dar.

ICh bin mir nicht ganz sicher ob das so stimmt. Beim Schachspiel gibt es eine genau definierte Welt die exakten Regelen gehorcht z.B. mit Feldern von A1 bis H8. Ein Feld F9 ist schlicht nicht existent, ein Programm kann gar keinen solchen Zug durchführen.

Bei Tay ist es nicht so das er sich außerhalb der Regel verhalten hat, sicherlich hat man nirgends eingegeben du darfs keine rassitischen Statements machen.

Man hat einfach mal eine KI mit Input gefüttert, sei es mit Texten und Meinungen aus dem Internet, und herausgekommen ist nicht das die KI den Verhaltensrahmen verlassen hat, den den kann man so gar nicht abstecken, sie hat sich nur anders verhalten als die Entwickler es gedacht hätten, aber im Endeffekt die Sachen ausgespuckt die man auch reingesteckt hat (Das zeigt im Internet ist n Haufen rassistischer SCheiß unterwegs)

Um zurückzukommen auf dein Schachspiel: WEnn wir eine KI nur auf Schach programmieren, bzw nur mit den Schachregelen füttern, und sie erweitert dann selbstständig ihre Welt in dem sie plötzlich neue Felder einführt, dann hätten wir etwas Erstaunliches. Denn das benötigt Selbstreflektion ob die gegebenen Regeln auch Sinn machen und sie gegebenfalls selbstständig zu ändern.

Um das auf Tay zu übertragen. Man hat die KI mit allen Möglichen Statements aus dem Internet gefüttert, wobei offensichtlich viel rechtes Gedankengut dabei war. Der Algorithmus hat dann wohl erkannt das diese häufigen Statements wohl richtig sein müssen. Es ist nichts besonderes. Das was bei Tay also herausgekommmen ist, ist nichts besonderes, nur natürlich blöd für Microsoft das ihre Software plötzlich Nazizeugs verbreitet. Aber das hängt nur damit zusammen mit was man das Programm füttert.

Erstaunlich oder bedrohlich wird das ganze erst wenn man eine KI mit INformationen füttert um sie anzulernen, z.B. mit menschliche Sprache
um Texte künstlich auszugeben, und man füttert die Maschine an einem Punkt mit einem Satz und die KI gibt etwas anderes aus z.B. Ich habe jetzt keine Lust mehr. Solange also immer das rauskommt was man eigentlich auch reingesteckt hat ist alles halb so wild, sobald aber eine Maschine außerhalb ihres Erlernten Entscheidungen trifft die auf Selbstreflektion hindeuten ist Vorsicht angeboten.

Widerspruch auf einen Befehl oder eine Eingabe wäre also das Problem.

@mojorisin:

mojorisin schrieb:Beim Schachspiel stellt gibt es eine genau definierte Welt die regelen gehorcht z.B. mit Feldern von A1 bis H8. Ein Feld F9 ist schlicht nicht existent, ein Programm kann gar keinen solchen Zug durchführen.

Es gibt keine "genau definierte Welt", sondern nur einen von den Entwicklern vorgesehenen Rahmen. Man könnte z.B. ein Schachprogramm "für Kinder" entwerfen, das nur 6 x 6 Felder, und entsprechend weniger Figuren hat. Das "Spielfeld" ist immer der von den Entwicklern vorgesehene Rahmen.

mojorisin schrieb:Man hat einfach mal eine KI mit Input gefüttert, sei es mit Texten und Meinungen aus dem Internet, und herausgekommen ist nicht das die KI den Verhaltensrahmen verlassen hat, den den kann man so gar nicht abstecken, sie hat sich nur anders verhalten als die Entwickler es gedacht hätten.

Die Entwickler hatten eine grobe Vorstellung vom Verhaltensrahmen, sonst hätte Microsoft Tay seinerzeit nicht so hastig abgeschaltet. Genau diesen Verhaltensrahmen hat Tay verlassen.

mojorisin schrieb:Bei Tay ist es nicht so das er sich außerhalb der Regel verhalten hat, sicherlich hat man nirgends eingegeben du darfs keine rassitischen Statements machen.

Entscheident ist der Rahmen, den sich die Entwickler vorgestellt haben (vielleicht ohne, dass bestimmte Aspekte davon während der Entwicklung konkret ausgesprochen wurde). Bei dem ganzen Problem des "Verlassen des Spielfelds" geht es darum, dass ein System aktiv etwas tut, das (deutlich) den Vorstellungen der Entwickler zuwider läuft. Der technische Grund (Kurzschluss, "vergessene" Regeln, widersprüchliche Regeln, ...) ist nebensächlich. Auch ein Schachprogramm, das aus irgendeinem Grund einen Zug auf Z9 macht, verhält sich nach seinen Regeln (mit denen dann offensichtlich irgendwas nicht stimmt). In letzterem Fall ist das "Verlassen des Spielfelds" offensichtlich, aber es gibt keinen prinzipiellen Unterschied zu dem unerwünschten Verhalten von Tay.

uatu schrieb:Entscheident ist der Rahmen, den sich die Entwickler vorgestellt haben (vielleicht ohne, dass bestimmte Aspekte davon während der Entwicklung konkret ausgesprochen wurde). Bei dem ganzen Problem des "Verlassen des Spielfelds" geht es darum, dass ein System aktiv etwas tut, das (deutlich) den Vorstellungen der Entwickler zuwider läuft. Der technische Grund (Kurzschluss, "vergessene" Regeln, widersprüchliche Regeln, ...) ist nebensächlich. Auch ein Schachprogramm, das aus irgendeinem Grund einen Zug auf Z9 macht, verhält sich nach seinen Regeln (mit denen dann offensichtlich irgendwas nicht stimmt). In letzterem Fall ist das "Verlassen des Spielfelds" offensichtlich, aber es gibt keinen prinzipiellen Unterschied zu dem unerwünschten Verhalten von Tay.

Jede Technologie verhält sich anders als vom Entwickler vorgesehen, wenn Bedingungen ausgesetzt/auf eine Weise benutzt, die der Entwickler nicht vorsah.

@uatu

uatu schrieb:Entscheident ist der Rahmen, den sich die Entwickler vorgestellt haben

Es ist ja egal was man sich vorstellt, wichtig ist wie man die Software konzeptionell erstellt. Während also ein Schachcomputer keinen Zug auf Z9 machen kann, da diese Feld gar nicht einprogrammiert ist, kann Tay natürlich rassistische Statements machen solange man das nicht vorher softwaretechnisch unterbindet.

Mein Punkt ist fogender: Tay, mag unerwünschten Output gehabt haben, aber es liegt nicht an der KI selbst sondern einfach nur an der unzureichenden Umsetzung der Programmierung. Also ein Fehler vom Menschen verursacht.

Problematisch wäre wenn man z.B. fest definierte Regeln vorgibt, z.B. keine rassischten Statetments, die KI aber selber Wege findet diese Regel zu umgehen oder gar einfach ignoriert weil sie das selbst so will. Im Beispiel auf den Schachcomputer: Er fügt irgendwann selbständig, entgegen der Regeln und zum eigenen Vorteil, neue Felder hinzu. Wenn eine KI also anfängt zu reflektieren und Regeln absichtlich umgeht dann wird es problematisch. Bei Tay ist das aber nicht der Fall gewesen.

Siehe hier:

Artificial intelligence researcher Roman Yampolskiy commented that Tay's misbehavior was understandable because it was mimicking the deliberately offensive behavior of other Twitter users, and Microsoft had not given the bot an understanding of inappropriate behavior.

Wikipedia: Tay (bot)#Initial release

@mojorisin:

mojorisin schrieb:Während also ein Schachcomputer keinen Zug auf Z9 machen kann, da diese Feld gar nicht einprogrammiert ist, kann Tay natürlich rassistische Statements machen solange man das nicht vorher softwaretechnisch unterbindet.

Es ist ohne weiteres denkbar, dass ein Schachprogramm durch fehlerhafte Regeln einen Zug auf Z9 macht. Vermutlich würde ein solcher Zug bei den meisten Schachprogrammen durch irgendwelche Überprüfungen abgefangen, aber grundsätzlich ausgeschlossen ist das nicht. Auch wenn ich kein konkretes Beispiel habe, gehe ich stark davon aus, dass es in der Geschichte der Schachprogramme gelegentlich passiert ist, dass ein Programm durch fehlerhafte Regeln einen Zug auf ein nicht existierendes Feld machen wollte.

Es gibt keinen prinzipiellen Unterschied zwischen fehlerhaften Regeln bei einem Schachcomputer ein paar fehlenden Regeln bei Tay. Am Rande: Es ist im Endeffekt egal, ob ein solches Problem durch fehlerhafte oder fehlende Regeln ausgelöst wird. Man könnte beide Szenarien auch umgekehrt konstruieren.

mojorisin schrieb:Problematisch wäre wenn man z.B. fest definierte Regeln vorgibt, z.B. keine rassischten Statetments, die KI aber selber Wege findet diese Regel zu umgehen oder gar einfach ignoriert weil sie das selbst so will. Wenn eine KI also anfängt zu reflektieren und Regeln absichtlich umgeht dann wird es problematisch.

Auch eine KI, die Regeln umgeht, oder ignoriert, wird sich auf unterster Ebene immer noch streng logisch verhalten. Das Problem tritt genau dann ein, wenn Menschen -- anders als beim Schach -- das Regelwerk (sowohl das ursprünglich vorhandene, als auch neu "dazugelernte" Regeln) und dessen Wechselwirkungen mit der Realität nicht mehr überblicken. Genau das ist bei Tay in kleinem Rahmen passiert, und wird bei "richtigen" KIs in ganz grossem Rahmen passieren.