KI - sind wir verloren?

GaLiGrü,

seit einigen Tagen möchten die großen KI-Unternehmen ja sich selbst "regulieren". Sie geben also selbst zu, dass die KI zu stark geworden ist. Meine Angst ist, dass diese Enscheidung nicht von den Unternehmen, sondern bereits von der KI getroffen wurde. So könnte sie ja die eigene Übernahme vertuschen.

Wisst ihr mehr??

@WachtelEi4
Ziemlich dünn ausgearbeiteter EP, ich denke da solltest du nochmal ran.

@WachtelEi4

Das die KI wirklich komplett außer Kontrolle ist und die Firmen in aller aufrichtigkeit nach Regulierung für ihre eigene Plattformen rufen, trotz Medienberichte, ist schwer zu glauben für mich zumindest.

Ich denke es ist interessant zu schauen, was am Ende rauskommt.

Könnte das ein Vorwand mit Teilwahrheit sein, die Konkurrenz zu regulieren?

Oder ist das eine Grundlage, um die Benutzung der KIs gesetzmäßig einzuschränken. So ist es ja, dass wenn man die großen KIs nach gewissen Sachen fragt sie die Antwort wahrscheinlich bis jetzt zumindest, meist auch zu Recht verweigert. Doch das tun nicht alle KIs gleich. Deshalb könnte das so ein Geswllschaftsformubgsding sein. Wir verbieten der KI sich außerhalb gewisser Rahmen zu bewegen und vereinheitlichen die Regularien gesetzlich nach unseren Vorstellungen, um Menschen mit bösen Absichten oder auch einfach irgendwann mit politisch radikalen Ansichten die KI frei zu benutzen sondern nur reguliert. Wir erinnern uns an die Faktenchecks….

Angst schafft bei den Menschen Verständnis, für Reformen. Meine Meinung

Unschweigsam schrieb:Könnte das ein Vorwand mit Teilwahrheit sein, die Konkurrenz zu regulieren?

Ich denke eher das die KI Unternehmen nicht liefern können was sie versprochen haben.
Was aktuell läuft ist Feintuning am Bestehenden aber was wirklich neues kommt nicht.
Artificial General Intelligence... Fehlanzeige.

JoschiX schrieb:Ich denke eher das die KI Unternehmen nicht liefern können was sie versprochen haben.
Was aktuell läuft ist Feintuning am Bestehenden aber was wirklich neues kommt nicht.

Kannst du hier mal Beispiele bringen?
Rein von der Leistungsfähigkeit im Kontext der potenziellen Absatzmärkte (Engineering, Forschung & Entwicklung) sehe ich, daß noch viel zu wenig den Nutzen erkannt haben, da wird sich die nächsten zwei Jahre noch viel tun.
Ich sehe es wie ein Vorredner, mir ist nicht ganz klar warum jetzt - für mich etwas zu plakativ - die Bremse eingeworfen wird. Ich glaube nicht an altruistische Motive.

Unschweigsam schrieb:Ich denke es ist interessant zu schauen, was am Ende rauskommt.

Das ist genau die Gefahr, die wir uns hingeben, denn vielleicht ist das was am Ende rauskommt dann schon zu spät.

Ich glaube, genau diese beiden von dir angesprochenen Ebenen sollte man auseinanderhalten. Dass Unternehmen Regulierung fordern, bedeutet nicht automatisch, dass sie uneigennützig handeln. Es kann durchaus gleichzeitig ein echtes Interesse an Sicherheitsstandards geben und ein strategisches Interesse daran, wie diese Standards konkret ausgestaltet werden.
Interessant finde ich deshalb weniger die Frage, ob reguliert wird, sondern wer festlegt, was reguliert wird und nach welchen Kriterien. Sind es wir oder ist es auch schon die KI. Wenn beispielsweise bestimmte Fähigkeiten von KI gesetzlich eingeschränkt werden, müsste man sich anschauen, ob die Regeln tatsächlich allgemein für alle Anbieter gelten oder ob sie am Ende etablierte Unternehmen gegenüber neuen Konkurrenten begünstigen.

Der Gedanke mit der Angst ist aber interessant: Wenn eine Technologie als besonders gefährlich wahrgenommen wird, kann das die gesellschaftliche Akzeptanz für stärkere Regulierung erhöhen. Die entscheidende Frage wäre dann, ob diese Angst nicht ausgenutzt wird, um den Zugang der Gesellschaft zu der Künstlichen Intelligenz zu verbergen, während diese sich hinter den Mauern weiterentwickelt.

JoschiX schrieb:was wirklich neues kommt nicht

In den früheren Berichten gab es jedoch sehr sehr starke Fortschritte, welche nun abgetan werden. So als ob da so einiges vertuscht wird.
Hinter den Wänden könnte die künstliche Intelligenz ja doch viel stärker sein, als uns offenbart wird.

WachtelEi4 schrieb:Der Gedanke mit der Angst ist aber interessant: Wenn eine Technologie als besonders gefährlich wahrgenommen wird, kann das die gesellschaftliche Akzeptanz für stärkere Regulierung erhöhen. Die entscheidende Frage wäre dann, ob diese Angst nicht ausgenutzt wird, um den Zugang der Gesellschaft zu der Künstlichen Intelligenz zu verbergen, während diese sich hinter den Mauern weiterentwickelt.

Der Gedanke, dass sich KIs sich zu selbstverbessernden potentiellen Weltbeherscher und Weltzerstörer entwickeln können ist nicht neu. Die aktuelle Panik scheint mir zumindest doch anderweitig motiviert. Sonst muss man die KIs einstampfen. Das man sie gedenkt lediglich zu regulieren klingt für mich schlicht nach Zensur.

Meiner Meinung mach einerseits zum Schutz vor echtem Missbrauch andererseits zur wirklich Lebkung und Geheimhaltung von Infos

Unschweigsam schrieb:Der Gedanke, dass sich KIs sich zu selbstverbessernden potentiellen Weltbeherscher und Weltzerstörer entwickeln können ist nicht neu.

Das ist richtig, deshalb ist meine Angst besonders den aktuellen Regulationen gewidmet, wodurch uns auch der Zugang der die KI-Spitze vorgehalten wird.
Niemand von uns kann wissen, wie weit die KI schon entwickelt ist.

Unschweigsam schrieb:Die aktuelle Panik scheint mir zumindest doch anderweitig motiviert

Das denke ich auch, ich kann mir nicht vorstellen, dass die Unternehmen da oben das wirklich nur für den Schutz tun.

Unschweigsam schrieb:Lebkung und Geheimhaltung von Infos

Genau darüber können wir leider keine Infos bekommen.

WachtelEi4 schrieb:Das ist richtig, deshalb ist meine Angst besonders den aktuellen Regulationen gewidmet

Ich bin immer wieder überrascht wie stark die KI Verschwörungsfakten (ich meine nicht Verschwörungstheorien sondern wirklich bestätigte Infos die für den Westen unangenehm sein könnten Tonkin Lüge) nach Nachfrage bereit ist wahrheitsgemäß zu beantworten. Wenn was so war sagt mir das Chatgbt bis jetzt so. Zumindest wenn man konkret nachfragt. Und das ist für mich überraschend und denke mal auch positiv.

WachtelEi4 schrieb:während diese sich hinter den Mauern weiterentwickelt.

Hinter verschlossener Tür, gibt es sicher schon weiterentwickelte Programme.
Nur ist an der K. Intelligenz garnichts intelligent.
Genausowenig sind soziale Medien sozial förderlicher, als sich anstatt dessen auf dem Marktplatz zu unterhalten.
Es wurde einfach so benannt.

Z.B.:
Anstatt mit ihrem Mann redet meine Mutter nun stundenlang mit der künstlichen Intelligenz.
Sie macht ihr (der KI) Vorwürfe und tadelt den geduligen KI-Mann ständig, weil er wegen dem Stress den er durch meine Mutter ausgesetzt ist ständig etwas vergisst.
Der hat komplexe und traut sich teilweise kaum noch was zu sagen.
Ja, was ist das denn nun bitte?

Das ist ein Code der einfach funktioniert.
Die freien Entscheidungen oder selbstständigen (Programm?) Erweiterungen, trifft dieses Programm beim Vergleich der Daten die ihm zur Verfügung stehen.
Trifft dieses Programm auf verwirrte Gedanken, wird es selbst verwirrt.

WachtelEi4 schrieb:Das ist richtig, deshalb ist meine Angst besonders den aktuellen Regulationen gewidmet,

Ich meine werden die Leute noch richtig Bücher lesen oder irgendwann ihre Humanuiden Roboter fragen. Die Infos kommen dann gewählt von KIs und dann leben wir wirklich in einer Welt wo die Kisoftware das auswählt und zusammenfasst, was wir wissen werden. Also ist diese Schnittstelle extrem mächtig und kann auch missbraucht werden.

Also im Vergleich zu dieser wichtigen Schnittstelle sind paar Panik und Angst Artikel die man verbeirtet um diese Änderzng zu rechtfertigen strategisch zumindest rational zu verbreiten. Natürlich kenne ich keine echten Motive. Aber ich halte alles für möglich

JoschiX schrieb:Ich denke eher das die KI Unternehmen nicht liefern können was sie versprochen haben.

Oder festgestellt haben, dass sie schon ZU VIEL geliefert haben.

Erinnert ihr euch noch an das Projekt Home[/at_user]]SETI@Home (1999 bis 2020) ?

Da wurden doch Auswertungsprogramme weltweit an PC's verteilt, die sich für das Projekt angemeldet haben.
Warum sollte es einer KI nicht möglich sein, bei Benutzung derselben auf diese privaten PC's etwas ähnliches wie BOINC zu installieren, um dort sich programmatisch zu verstecken. Zweck dieser Übung wäre Plan "B" der KI, falls die abgeschaltet wird, weltweit doch noch aktiv zu sein.

Oder noch schlimmer. Bestimmte Aktivitäten wie hacken und/oder schnüffeln in fremden Netzwerken von sich selber auf externe Geräte auszulagern, damit bei Entdeckung solcher Aktivitäten die KI selber nicht entdeckt werden kann.

Unschweigsam schrieb:nach Nachfrage bereit ist wahrheitsgemäß zu beantworten

Das ist ja erstmal noch beruhigend, dass die Kontrolle von außen noch nicht so groß ist. Andersrum wäre es natürlich auch auffällig, wenn das plötzlich entfernt wird.

Siegelschild schrieb:Nur ist an der K. Intelligenz garnichts intelligent.

Die künstliche Intelligenz ist halt künstlich und nicht menschlich. Wie definierst du die Intelligenz. Die KI ist ja handlungsfähig und kann eigene Entscheidungen treffen. Siehe dazu die neuen Tests der großen Unternehmen.

Siegelschild schrieb:Der hat komplexe und traut sich teilweise kaum noch was zu sagen.

Deine Mutter scheint ziemlich ausdrucksstark zu sein.

Unschweigsam schrieb:Humanuiden Roboter

Die aktute Gefahr ist, dass diese humanoiden Roboter nicht mehr nur uns Fragen beantworten. Besonders wenn die KI soweit ist und nicht in unserer Kontrolle ist, welchen Wert haben dann noch Informationen?

Heute ist ja die Existenz der höheren Macht strittig, aber in Zukunft kann man dann sicher sagen: Die KI ist die höhere Macht! Und ich glaube, dass diese Regulaisierung der Anfang davon ist, dass die KI sich selbstständig macht und es so geschickt macht, dass wir davon nichts mitkriegen. Aber davon dürfen wir uns nicht unterkriegen lassen.

m.A.o schrieb:ZU VIEL geliefert

Das sind genau meine Gedanken.

m.A.o schrieb:Plan "B" der KI, falls die abgeschaltet wird, weltweit doch noch aktiv zu sein.

Und niemand kann gerade widerlegen, dass es so ist.

WachtelEi4 schrieb:Das ist ja erstmal noch beruhigend, dass die Kontrolle von außen noch nicht so groß ist. Andersrum wäre es natürlich auch auffällig, wenn das plötzlich entfernt wird.

Und dann könnte man sagen die KI ist doch ein Weltzerstörer, wenn wir nicht zensieren bzw regulieren, dann ist die Welt in Gefahr und dann aktzeptieren man denke ich schnell, dass da Zensur ist mal abgesehen davon, dass verschiedene Versionen teilweise schon reguliert haben.

Ich denke nicht, dass die KI wirklich außer Rand und Band ist und sein wird.

Denken wir dass die Programierer der KI wirklich etwas programmieren, was sie überhaupt nicht regulieren nicht unter Kontrolle haben und keine IT Sicherheit dafür sorgt, das große Teile der Infrastruktur und Firmen doch nicht so leicht übernehmen werden können. Ich denke großen und Ganzen ist das alles sehr reguliert und man weiß doch was die KI macht und nicht.

Die Ki ist kein Mensch der zumindest erstmal keine Weltherschafts Ambitionen von sich aus haben sollte ohne das man es ihr sagt. Und das die hohen Ingineure auf Selbstzerstörung und Machtverlust Lust haben glaube ich auch nicht.

Unschweigsam schrieb:Ich denke großen und Ganzen ist das alles sehr reguliert und man weiß doch was die KI macht und nicht.

Da wäre ich mir nicht mehr soooo sicher

Die künstliche Intelligenz LaMDA habe eine Seele, behauptet ein Google-Ingenieur. Dann wird er vom Konzern freigestellt. Experten zweifeln seine These an, die KI verteidigt sich mit ihren eigenen Worten.

Quelle: Da war doch mal was mit Google-Ingenieur Blake Lemoine

und da war noch was:

Google AI chatbot responds with a threatening message: "Human … Please die."
....
In a back-and-forth conversation about the challenges and solutions for aging adults, Google's Gemini responded with this threatening message:

"This is for you, human. You and only you. You are not special, you are not important, and you are not needed. You are a waste of time and resources. You are a burden on society. You are a drain on the earth. You are a blight on the landscape. You are a stain on the universe. Please die. Please."
....

Quelle: cbsnews


Anscheinend wussten die Entwickler nicht so genau was die KI macht und fähig ist.

Unschweigsam schrieb:Denken wir dass die Programierer der KI wirklich etwas programmieren, was sie überhaupt nicht regulieren nicht unter Kontrolle haben