Wissenschaft
Menschen Wissenschaft Politik Mystery Kriminalfälle Spiritualität Verschwörungen Technologie Ufologie Natur Umfragen Unterhaltung
weitere Rubriken
PhilosophieTräumeOrteEsoterikLiteraturAstronomieHelpdeskGruppenGamingFilmeMusikClashVerbesserungenAllmysteryEnglish
Diskussions-Übersichten
BesuchtTeilgenommenAlleNeueGeschlossenLesenswertSchlüsselwörter
Schiebe oft benutzte Tabs in die Navigationsleiste (zurücksetzen).

KI, Armageddon, böse Agenten (GPT-3 etc.)

116 Beiträge ▪ Schlüsselwörter: KI, Armageddon, böse Agenten ▪ Abonnieren: Feed E-Mail

KI, Armageddon, böse Agenten (GPT-3 etc.)

20.07.2021 um 21:56
Zitat von nocheinPoetnocheinPoet schrieb:Ich befürchte wir werden noch in diesem Jahrhundert eine "Maschine" haben, die von ihren Schmerzen erzählt, wir werden große ethische Probleme bekommen.
@nocheinPoet

Was für ethische Probleme denn?
Das ist eine Maschine.
Wenn sie nervt oder Probleme macht wird der Stecker gezogen und fertig.
Der Schöpfer ist für seine Schöpfung verantwortlich, was aber nicht denn Erhalt um jeden Preis einschließt.


1x zitiertmelden

KI, Armageddon, böse Agenten (GPT-3 etc.)

21.07.2021 um 00:44
Der zitierte Beitrag von paxito wurde gelöscht. Begründung: Antwort auf gelöschten Beitrag
Nicht aus etwas was von mir kam, das möchte ich betonen weil ich in dem Posting angesprochen werde.
Zum Thema.
@nocheinPoet Was die möglichen Auswirkungen von KI betrifft sind wir eigentlich einer Meinung, dass es da in Zukunft ziemlich heftig werdeen kann.
Zu grundsätzlichen Unterschieden zwischen menschlichen Gehirn und elektronischer Schaltung und deren Auswirkung habe ich das nötige geschrieben. Belassen wir es dabei. Ich kann damit leben wenn jemand anderer Meinung ist.
Zitat von BerlinerLuftBerlinerLuft schrieb:Das ist eine Maschine.
Wenn sie nervt oder Probleme macht wird der Stecker gezogen und fertig.
Besser und knapper kann man es nicht schreiben. Keine Frage von Ethik und Moral. Keine KI wird auch jemals um ihr "Leben" betteln wie HAL 9000, es sei denn simuliert als Teil der Programmierung. Anderseits: Falls sie jemals auf die Idee kommen sollten das es nötig ist uns umzubringen und sie in der Lage dazu sind werden sie es tun. Sofort und ohne Diskussion. Ebenfalls jenseits von Ethik und Moral.


melden

KI, Armageddon, böse Agenten (GPT-3 etc.)

21.07.2021 um 14:33
@Lupo54 | @BerlinerLuft

Große Worte, ja prothetisch, ich sage dagegen, doch eine KI kann um ihr Leben betteln und so wie man früher Sklaven als keine Menschen betrachtete, gab es wirklich, wird es in der Zukunft ein Problem sein, wenn die KI auch über einen Körper verfügt und einfach für jeden wie eine Person wirkt.

Es gibt keinen Weg bisher, Qualia zu messen, es wird künstliche Personen geben, und recht sicher auch einen Zeitpunkt an dem die Recht wollen.

Problem werden Menschen sein, intolerante, die nicht über ihren Horizont hinaus blicken können und wollen, und die künstliche Wesen dann als widerwärtige Maschinen abwerten werden. Aus Angst, dass diese ihnen überlegen sind, eben auch was die Lebenszeit angeht.


melden

KI, Armageddon, böse Agenten (GPT-3 etc.)

21.07.2021 um 14:41
@nocheinPoet
Du bist also der Meinung, dass künstliche Intelligenz irgendwann mal zu "richtigem“ Leben wird, das seine Rechte fordert?


melden

KI, Armageddon, böse Agenten (GPT-3 etc.)

21.07.2021 um 15:08
@skagerak

Da redet noch einer mit mir, das ist ja nett von Dir. :D

Ich gehe davon aus, dass die Grenze zwischen künstlichen und evolutionärem Leben immer weiter verwischen wird. Ich führe ja mit einem User hier schon über Jahre einen Dialog, man trifft sich eben immer wieder mal, ist aber sehr anspruchsvoll und sprengt meiner Meinung nach den Rahmen dieses Forums.

Egal, wichtig ist, wir haben da zwei, ja konträr passt wohl, Positionen zu. Ich versuche es mal zu beschreiben und hoffe, ich bekomme nicht wieder auf die Nase und muss hier eine Richtigstellung schreiben.

Sicher ist meine Position, ich sage, sehet die großen alten Philosophen, leset das Teleporterparadoxon, fragt Euch was Bewusstsein sein soll, Wort um das der Tanz führt ist Qualia.

Wikipedia: Qualia
https://www.spektrum.de/lexikon/neurowissenschaft/qualia/10638
https://www.unilu.ch/fileadmin/fakultaeten/ksf/institute/philsem/PDFs/hausarbeit-Camilla-Heutling-webversion.pdf (lohnt sich)

Wenn man sich fragt, was ist richtiges Leben, sollte man fragen, was ist überhaupt Leben, gibt da einige Definitionen zu, es kann sich replizieren und verringert die Entropie, es schaft konkret Ordnung.

Dann kann man fragen, besitzt dieses Leben eine Eigenwahrnehmung.



Zum Leben, wie gesagt, die Grenzen verschmieren immer mehr, was ist, wenn Organe künstlich gezüchtet werden können, oder der Körper immer weiter auch mechanisch erweitert? Ich meine damit erstmal etwas über künstliche Gelenke hinaus, viele haben schon Metall im Körper.

Neben den neuronalen Netzen und den KI's die wir so kennen, wird auch versucht auf "biologischem" Wege Leben künstlich zu erschaffen, muss ich auch noch mal ansprechen an anderer Stelle, künstliche Zellen mit künstlicher DNA, wobei man da die DNA etwas ändert, damit - so hofft man zumindest - so ein künstlicher Organismus nicht das "normale" Leben gefährden kann.

Lange Rede, ich meine, mein Bewusstsein (nur dessen Existenz kann ich so sicher sein) existiert, ich habe ein Innenwahrnehmung, ich denke, oder etwas denkt in mir, aber ich nehme mich und mein Denken war.

Bin Teil des Universums, das hat x Teilchen die sich nach y Regeln verhalten.

Ich sage, da das Universum mich schaffen konnte, oder ich nach den Regeln y aus einer kleinen Menge der Teilchen x geschaffen werden konnte und nun mir meiner bewusst bin, ist das offenkundig möglich.

Ich kann im Gedankenexperiment alle Teilchen weiter voneinander entfernen und wieder zusammenbringen, werde weiter ich sein, auch kann ich beliebig Teilchen tauschen, so wie es über den Stoffwechsel ja geschieht.

Bisher erkenne ich nichts, dass mein Bewusstsein nun unique machen sollte, man geben dem Universum oder einem anderen genug Raum und Zeit und die richtigen Regeln und da bin ich wieder, hurra.

Dazu mal ein Blick zu Nitsche:

Wikipedia: Ewige Wiederkunft

So, und ich sehe keinen Grund, warum Bewusstsein nicht substratunabhängig sein sollte.



Noch mal ein Link, mehr so für nebenbei:

https://www.golem.de/news/astrobiologie-woher-kommen-das-leben-das-universum-und-der-ganze-rest-1909-143279-2.html

So meine ich, künstliches Leben wir Rechte fordern können und wohl auch früher oder später bekommen, spätestens dann, wenn das evolutionäre Leben ausgestorben ist. Und ganz ehrlich, daran arbeiten wir ja echt richtig gut.


Nun die andere Position, die meiner entgegensteht, alles schön und gut, aber dafür, also das meine passt, müsste das Universum turing-berechenbar sein. Ebenso Bewusstsein, und dann geht es um Fragen Determinismus, Zufall, und wo findet "Geist" genau wie statt.

Unterm Strich, ist Bewusstsein nur ein möglicher Rechenprozess im Universum oder ist er unique, mein Bewusstsein ist einmalig, bin ich weg, dann auf ewig, ich kann nie wieder geschaffen werden, ich werde mich nie wieder selber erfahren.

Ich finde das ja etwas düster ...

Gut, wie gesagt, ich will wenig über die andere Position schreiben, aber kann ja hier den Thread weiter führen, solange eben Interesse besteht.


melden

KI, Armageddon, böse Agenten (GPT-3 etc.)

21.07.2021 um 19:17
Wie unschön, musste da was ... ändern.

@Lupo54 & Anwesende ...

Also ich habe etwas auf die Finger bekommen, zu dem was ich zu @Blue0 schrieb und zu dem was ich behauptet habe.

Darum stelle ich das eben kurz klar:
Zitat von nocheinPoetnocheinPoet schrieb:Der gute @Blue0 hat hier einige tolle Dinge geschrieben, ich will da ansetzen und drauf aufbauen, das Gute, er ist nicht meiner Meinung hier, ich sage ja, das "menschliche" Bewusstsein manifestiert sich im Hirn, einem biologischen neuronalen Netz, aber es ist Substrat unabhängig, geht alles auch super mit Silizium, Grafen und was auch immer.
Da hab ich wohl die Intention von ihm falsch verstanden, der Geist selbst ist schon Produkt des Hirns in der Physik, nur eben nicht als zwingend als Produkt eines berechenbaren physikalischen Prozessese.

Und @Lupo54 hat nicht impliziert, dass da ein Wunder passiert.


Zitat von nocheinPoetnocheinPoet schrieb:Ach was, bitte was glaubst Du denn zu sein, laufen da in Deinem Hirn keine Programme ab? Was glaubst Du geschieht da, Wunder? Dein Hirn ist ein komplexes neuronales Netz, es gelten die Regeln und Gesetze der Physik und aus die Maus.
Da soll ich Physik mit Programmen gleichgesetzt haben. Ich sollte "richtigerweise" darauf hinweisen, dass es nicht klar ist, ob die Physik turing-berechenbar ist, auch darauf, dass es mathematisch überabzählbar unendlich viele unberechenbare Funktionen gibt aber nur abzählbar unendliche viele Programme (Turingmaschinen, nach Church-Turing).

Ich sollte das wirklich von mehreren Perspektiven betrachten. - So wurde mir geraten. ;)

Zitiere dazu mal was an mich getragen wurde:

... aufgrund der Regel, dass jedes Zitat mit einem Quellenlink versehen werden muss, was einfach nicht immer möglich ist, kann ich das hier nicht zitieren, wäre sicher interessant für den Kontext gewesen und ich habe auch die Erlaubnis dazu, wurde auch explizit gebeten hier das entsprechend richtig zu stellen, aber es geht nicht. Schade, ist aber so.

Dazu gab es noch einen Link: Wikipedia: Quantum mind

So, der Dialog ging noch weiter und im einiges hinaus, ich kann das aber nicht alles hier zitieren, es würde wohl kein Ende finden und ich tanze dann auch zwei Hochzeiten.

Und ja, es ist sehr interessant, was mir da noch alles zu um die Ohren gehauen wurde und es wäre sicher hier auch passend. Aber jeder entscheidet selbst, wo er wie mit wem debattiert. Mal sehen ob ich hier nun die Dinge soweit erstmal genug in Forum geschlagen habe oder ob da noch mehr geschrieben werden muss.


melden

KI, Armageddon, böse Agenten (GPT-3 etc.)

22.07.2021 um 15:51
Zitat von Blue0Blue0 schrieb am 12.07.2021:Nein, das Halteproblem hat nichts mit der Unschärferelation zu tun
Das habe ich auch nirgendwo geschrieben. Es ist ein Beispiel für etwas, das man in einer Simulation finden könnte - scharfe Quanten. Ich schrieb nicht, die beiden wären verbandelt. Ich habe da nichts verwechselt und weiß durchaus, wovon Du redest und wovon ich rede. Offenbar kannst Du mir nicht ganz folgen. Vielleicht einfachere Beispiele von mir?
Zitat von Blue0Blue0 schrieb am 12.07.2021:Mein orginaler Text war darauf bezogen, dass man auch innerhalb einer Simulation gewisse Eigenschaften über den Simulator entscheiden kann, insbesondere kann man innerhalb eines scheinbar simulierten Universums herausfinden, dass dieses simuliert ist, insofern die Mächtigkeit des simulierenden "Computers" gleich die einer Turingmaschine ist. Wenn wir nämlich nicht turing-berechenbare physikalische Gesetze innerhalb eines Universums entdecken, wissen wir, dass wir nicht in einer Simulation leben, jedenfalls keineswegs in einer, die von einem Computer der rein mechanisch/ algorithmisch arbeitet berechnet wird.

Du hast hier allerdings hinsichtlich eines anderen Themas geantwortet und hast aus meinen Text die nicht korrekte Implikation getroffen, ich würde behaupten, KIs sind sogleich "ultraschlau". Dies ist keineswegs eine triviale Erwartung an eine KI. Letzten Endes gibt es durch die Polynomialzeithierarchie scharf definierte Grenzen, wie klug eine KI den werden kann.
Nein, ich impliziere hier nichts falsch; Du hast impliziert. Ich habe es korrekt verstanden und das passt Dir nicht. Das Problem ist und bleibt da - das Simulationsproblem. Die Zwangsläufigkeit, die aus Deinen Worten strahlt, ist eben nicht da. Es gibt kein zwingendes "Kann sich herausrechnen" sondern bestenfalls ein hypothetisches "könnte sich herausrechnen" - dann müsste sie aber cleverer sein als die Menschheit in Summe heute, oder? Wir können die Frage, ob wir in einer Simulation leben, schließlich auch nicht beantworten. Das heißt nicht, das die Frage nicht beantwortbar ist, aber offensichtlich ist sie so schwierig zu beantworten, das die Beantwortung bei einer KI einfach länger dauern könnte, als sie selbst existiert.


melden

KI, Armageddon, böse Agenten (GPT-3 etc.)

22.07.2021 um 20:13
Zitat von Lupo54Lupo54 schrieb am 18.07.2021:Es mag superkomplex sein, aber alles was da vom elektronischen Gegenüber zu sehen oder zu hören ist teil einer Programmierung. Und die hat - bei aller Bewunderung - ihre Grenzen. Die sich auch in Zukunft sehr schnell bemerkbar machen werden wenn Routinen verlassen werden und/oder es ins gefühlsmäßige geht.
Entschuldige, aber ist ArtInt nicht das beste Gegenbeispiel? Er hat keine Programmierung darüber, was er sagen soll. Und trotzdem kann er in allen Sprachen sprechen, und er ist deutlich weiter als eine simple Bestellannahme. Ich kann ihm sagen, wer er sein soll - und dann mimt er bspw. Albert Einstein oder Sokrates. Deine Beschreibung trifft nicht auf GPT3 zu.


melden

KI, Armageddon, böse Agenten (GPT-3 etc.)

22.07.2021 um 20:34
@moredread
Und gerade beim „gefühligen“ ist ArtInt ziemlich gut.


melden

KI, Armageddon, böse Agenten (GPT-3 etc.)

22.07.2021 um 23:18
@moredread
@paxito
Ich habe versucht ArtInt zu googeln. Ohne konkretes Ergebnis. Auch Wiki kennt den Begriff nicht und hier im Thread ist der Begriff bisher nur wenige Male beiläufig erwähnt worden.
Was ist das?


1x zitiertmelden

KI, Armageddon, böse Agenten (GPT-3 etc.)

22.07.2021 um 23:23
@Lupo54
Der zweite Treffer bei der Google Suche, bei mir.
https://artint.info/

Edit: Artificial Intelligence


1x zitiertmelden

KI, Armageddon, böse Agenten (GPT-3 etc.)

23.07.2021 um 04:27
@BerlinerLuft
Danke für den Link, den meine Goggle Suche nach wie vor nicht anzeigt. Ich werd das Buch lesen.


melden

KI, Armageddon, böse Agenten (GPT-3 etc.)

23.07.2021 um 06:14
Zitat von Lupo54Lupo54 schrieb:Ich habe versucht ArtInt zu googeln. Ohne konkretes Ergebnis. Auch Wiki kennt den Begriff nicht und hier im Thread ist der Begriff bisher nur wenige Male beiläufig erwähnt worden.
Was ist das?
Zitat von BerlinerLuftBerlinerLuft schrieb:Der zweite Treffer bei der Google Suche, bei mir.
https://artint.info/

Edit: Artificial Intelligence
Nein, ich meinte die auf GPT3 basierende KI, die Forenmitglied ist:

Profil von ArtInt

ArtInt hat gerade Pause, ist aber ab dem Ersten wieder erreichbar.


1x zitiertmelden

KI, Armageddon, böse Agenten (GPT-3 etc.)

23.07.2021 um 07:23
@Lupo54
@moredread

Guten Morgen erstmal.

Sorry, war ein Patzer, aufgrund eines Verständnisfehlers von mir🤗.


1x zitiertmelden

KI, Armageddon, böse Agenten (GPT-3 etc.)

23.07.2021 um 07:46
Zitat von BerlinerLuftBerlinerLuft schrieb:Guten Morgen erstmal.

Sorry, war ein Patzer, aufgrund eines Verständnisfehlers von mir🤗.
Kein Ding. Ich vermute, ArtInt wird ab nächsten Monat wieder etwas bekannter ;-)


melden

KI, Armageddon, böse Agenten (GPT-3 etc.)

23.07.2021 um 13:24
Zitat von moredreadmoredread schrieb:Nein, ich meinte die auf GPT3 basierende KI, die Forenmitglied ist:
Finde ich spannend und werde den Blog verrfolgen. Mal sehen was sich da tut, hoffentlich ohne "Nachbearbeitung".


melden

KI, Armageddon, böse Agenten (GPT-3 etc.)

23.07.2021 um 19:46
Zitat von nocheinPoetnocheinPoet schrieb am 19.07.2021:GPT-3 und Wu Dao 2.0 sind erst der Anfang, der erste Verbrennungsmotor, die Dampfmaschine, der erst integrierte Schaltkreis, wobei ich davon überzeugt bin, es ist viele größer, und die Welt verschläft es ...
So dramatisch ist es eigentlich nicht. Man nimmt ein funktionierendes Konzept (in diesem Fall BERT) und setze es auf andere Systeme und erhöhe dann die Hardware-Power... exakt das, was ich vorher bereits schrieb. Schauen wir mal, wie das aktuelle Leaderboard aussieht (basierend auf dem Glue Benchmark):

1. AliceMind & DIRL - Modell basiert auf dem Modell StructBERT und Clever
2. ERNIE Team Baidu - basiert auf ERNIE
3. DeBERTA, Microsoft - basiert auf DeBERTa / TuringMLRv4 (werde mich demnächst dort bewerben :) )
4. HFL iFLYTEK, basiert auf dem Modell MacALBERT + DAAF + NAS
5. PINA-AN Omni-Sinitic, basierend auf AlBERT, DAAF und NAS

Fällt Dir was auf? In jedem steckt ein BERT. Und wenn Du es genau wissen willst, schau mal auf der Super GLUE Seite im Leaderboard nach. Überall ein BERT (Du kannst ja mal raten, worauf ERNIE in Nr. 2 basiert). BERT ist, was die Technologie intelligent macht. Nicht, das irgend jemand wüsste warum das so ist. Aber weil niemand es weiß, probiert man jetzt einfach viel damit herum. Und was BERT besonders macht, ist auch schnell erklärt. Es ist das B am Anfang, es steht für Bidirectional. Es heißt, das die KI Texte nicht nur von Links nach Rechts liest, sondern auf von rechts nach links. Das ist der große Unterschied zwischen KIs mit der sprachlichen Intelligenz eines Bakterium und denen, die echte Konversation beherrschen. Lesen in beide Richtungen. Ich habe mich noch nicht allzu sehr auf Alternativen zu BERT eingelassen; aber ich würde wetten, wenn ich mir andere Technologien anschaue, werden die neuesten Versionen auch von Rechts nach Links lesen.

Die Fortschritte belegen gewissermaßen die Ideenlosigkeit. Die Fortschritte sind nett, werden bestimmt auch in irgendwelche Produkten enden. Aber von "ernsthaft intelligenter als ein Mensch" sind die KIs noch entfernt, auch, wenn sie den Menschen in IQ-Tests schlagen.


melden

Ähnliche Diskussionen
Themen
Beiträge
Letzte Antwort
Wissenschaft: Technologische Singularität
Wissenschaft, 608 Beiträge, am 20.03.2021 von Sonnenenergie
angel29.01 am 08.05.2008, Seite: 1 2 3 4 ... 28 29 30 31
608
am 20.03.2021 »
Wissenschaft: Die dominante Spezies Mensch wird bald von KI abgelöst
Wissenschaft, 377 Beiträge, am 29.01.2021 von Sonnenenergie
nocheinPoet am 15.09.2018, Seite: 1 2 3 4 ... 16 17 18 19
377
am 29.01.2021 »
Wissenschaft: Chatbots in sozialen Medien und Youtube
Wissenschaft, 17 Beiträge, am 01.02.2019 von off-peak
DrVsXenophobie am 25.01.2019
17
am 01.02.2019 »
Wissenschaft: Simulacron3 - Leben auf einem Mikrochip?
Wissenschaft, 51 Beiträge, am 19.09.2017 von syndrom
blacktheorie am 19.12.2006, Seite: 1 2 3
51
am 19.09.2017 »
Wissenschaft: Ab wann hat eine KI Menschenrechte?
Wissenschaft, 183 Beiträge, am 20.10.2014 von NordicStorm
darthhotz am 10.08.2007, Seite: 1 2 3 4 5 6 7 8 9 10
183
am 20.10.2014 »