KI mit Absicht falsch/ablenkend trainiert?

Gerrade in einem anderen Thread hat jemand auf eine Gefahr hingewiesen. Was ist wenn KIs mit Absicht falsch trainiert werden oder in eine bestimmte Richtung?

sind Fake-News aus den KIs eine Bedrohung?

hingewiesen hat darauf @Nemon, er meinte alles was bei der Google-KI steht wenn man nach "vergleich autoabgase tierhaltung" sucht ist Bullshit..

Nemon schrieb:Was da steht, ist von vorne bis hinten BS, so viel kann ich schon verraten.

das hier ist was die KI ausspukt dazu:

Ein direkter Vergleich ist schwierig, da beide Sektoren unterschiedliche Emissionstypen verursachen, aber die Tierhaltung ist ein bedeutender Verursacher von Treibhausgasen, ähnlich wie der Autoverkehr. Studien zeigen, dass die Emissionen großer deutscher Fleisch- und Milchkonzerne in etwa zwei Dritteln der Emissionen des deutschen Pkw-Verkehrs entsprechen. Während Autoabgase hauptsächlich CO\({}_{2}\) freisetzen, entstehen bei der Tierhaltung erhebliche Mengen an Methan, einem deutlich klimaschädlicheren Gas, sowie indirekte Emissionen durch Landnutzungsänderungen und Futtermittelanbau. 

Autoabgase Hauptemission: Vor allem Kohlendioxid (\(CO_{2}\)) durch die Verbrennung von Kraftstoffen.
Gesamtwirkung: Der deutsche Pkw-Verkehr ist eine erhebliche Quelle von Treibhausgasemissionen. 
Tierhaltung Direkte Emissionen: Methan (\(CH_{4}\)) entsteht durch die Verdauung (z.B. bei Kühen) und die Ausscheidungen der Tiere.
Methan ist kurzfristig etwa 20- bis 25-mal klimaschädlicher als \(CO_{2}\).
Indirekte Emissionen:Abholzung von Wäldern für Weideflächen oder den Anbau von Futtermitteln.Nutzung von Düngemitteln und Pestiziden.
Gesamtwirkung: Die Tierhaltung wird mit einem erheblichen Anteil an den weltweiten Treibhausgasemissionen in Verbindung gebracht. Studien weisen auf die großen Emissionen auch deutscher Konzerne im Vergleich zum Pkw-Verkehr hin.

Quelle: Google-KI Suche nach "vergleich autoabgase tierhaltung"

sind Fake-News der KIs und falsches Antrainieren von 'Fakten' eine Bedrohung eurer Meinung nach?

gern mehr von alternativen Fakten die uns von KIs angeboten werden hier im Thread!

RayWonders schrieb:sind Fake-News der KIs und falsches Antrainieren von 'Fakten' eine Bedrohung eurer Meinung nach?

Klar. Schon jetzt wird im Netz gelogen und betrogen, dass es auf keine Kuhhaut mehr geht.
https://dimensions-homoeopathie.com/similia/
Sich von irgendwelchen KIs das Denken abnehmen zu lassen und das "Ausgespuckte" ungeprüft zu übernehmen, halte ich für gefährlich.

emanon schrieb:Schon jetzt wird im Netz gelogen und betrogen, dass es auf keine Kuhhaut mehr geht.

Wenn KIs aber antrainiert werden - bedeutet dann nicht auch, wenn die KI was Falsches ausspukt, dass es mehr Lügen als Wahrheiten gibt im Netz?

so selektiv wird man das Material ja eigentlich nicht vorher aussuchen bei den Datenmengen, die KIs werden doch einfach auf's Internet 'losgelassen' zum anlernen?

@emanon

achso sorry, hab deinen Link später erst geklickt.

ja bei so einer speziellen KI das ist natürlich ein extremer Fall von selektivem Anlernen..

scheinbar ist selektives Anlernen aber auch notwendig?

von dem was manche KI schon gelernt hat, leitet sie offenbar manchmal Seltsames ab.

z.b. bei diesem Fall schlug die KI dem Nutzer vor sich umzubringen:

Ein Belgier ließ sich immer mehr auf einen KI-Charbot ein und bot letztlich an, sein Leben zu opfern, damit die Technik die Menschheit vor den Auswirkungen des Klimawandels retten könne.

Ein Belgier hat sich Berichten zufolge das Leben genommen, nachdem er sich sechs Wochen lang mit einem Chatbot mit künstlicher Intelligenz über den Klimawandel ausgetauscht hatte.

Laut seiner Witwe, die nicht mit Namen genannt werden möchte, befasste sich Pierre (nicht der echte Name des Mannes) mit Eliza, einem KI-Chatbot in einer Anwendung namens Chai.

Das Programm ermutigte ihn offenbar, seinem Leben ein Ende zu setzen, nachdem er vorgeschlagen hatte, sich zu opfern, um die Erde zu retten.

„Ohne diese Gespräche mit dem Chatbot wäre mein Mann noch hier", sagte die Witwe des Mannes dem belgischen Zeitung und Nachrichtenplattform

Quelle: https://de.euronews.com/next/2023/04/02/chatbot-eliza-ki-selbstmord-belgien

So wie es aussieht muss man KIs mit alternativen Fakten steuern damit so etwas nicht passiert..

Wikipedia: Tay (Bot)


RIP Tay :D.


Menschen sind halt dumm und viele nehmen es für bare Münze, was KIs einem hinrotzen, ohne auch nur irgendwas zu hinterfragen. Und es wird noch eine ganze Weile schlimmer, bis es bald hoffentlich einen großen Knall gibt.

@coronerswife

oh danke, davon hatte ich noch gar nichts gelesen gehabt.

da sieht man mal, dass man mit dem Anlernen von KIs mittels Datenmassen keine wirkliche Ahnung mehr hat was in der KI so vorgeht..

RayWonders schrieb:da sieht man mal, dass man mit dem Anlernen von KIs mittels Datenmassen keine wirkliche Ahnung mehr hat was in der KI so vorgeht..

Ich bin der Meinung, ich kann es noch nicht ganz umreißen, das Grok (X, Musk) mittlerweile sich im Charakter der Antworten unterscheidet von ChatGPT.. Möglicherweise liegt das daran, daß Grok selber mit Daten aus dem Netzwerk X trainiert wird was ja seit der Übernahme durch Musk eine große Meinungsfreiheit zulässt. Heute wird von "KI" allgemein geredet, in Zukunft wird mMn dediziert die entsprechende KI mitgenannt damit man weiß welche KI was gesagt hat. MMn werden sich die Outputs der KIs verschiedener Anbieter richtig unterscheiden.

RayWonders schrieb:da sieht man mal, dass man mit dem Anlernen von KIs mittels Datenmassen keine wirkliche Ahnung mehr hat was in der KI so vorgeht

Eigentlich sieht man daran sehr gut, wie das funktioniert, vor allem, wenn man der KI keine Moral antrainieren kann.

coronerswife schrieb:wenn man der KI keine Moral antrainieren kann

scheinbar ist das wirklich sehr schwierig.

der Artikel hier erklärt, dass man neben dem Antrainieren derzeit mit Hybriden Methoden arbeitet, bei denen man zusätzlich extra bestimmte Regeln für die KI definiert bzw. definieren muss:

Machine learning models, in particular, risk mimicking patterns of morality embedded in data—patterns that may themselves reflect historical biases and systemic inequalities. Attempts to automate moral reasoning through data-driven models must therefore grapple with the fact that ethical decision-making cannot be fully captured by pattern recognition alone. Hybrid approaches that combine predefined rules with adaptive learning (Cervantes et al. 2020) have shown promise, but remain limited by the absence of cognitive and emotional depth.

Quelle: https://link.springer.com/article/10.1007/s00146-025-02476-7

Das ist dann bestimmt das selbe wie bei dem Fall mit dem Suizid.
Am Ende eines 'Denk-Prozesses' einer AI muss man immer sicherstellen, dass nochmal extra eine Liste abgearbeitet wird mit bestimmten Sachen, die die KI nicht sagen oder tun darf.. sogenanntes 'hardcoding' in der Programmierung genannt.

Wikipedia: Hartkodiert

@RayWonders
Ich kann mich jetzt nicht auch noch auf diese Baustelle hier einlassen. Wobei ich zu dem Thema einiges beizutragen hätte. Das kann ich so nicht stehenlassen. Ist etwas unterkomplex, um es in dieser Form als Exempel und Aufhänger für eine Diskussion herzunehmen, pardon. Da muss ich mich von distanzieren, was hiermit offiziell geschehen ist ;) :melden:

RayWonders schrieb:sind Fake-News aus den KIs eine Bedrohung?

hingewiesen hat darauf @Nemon, er meinte alles was bei der Google-KI steht wenn man nach "vergleich autoabgase tierhaltung" sucht ist Bullshit..

Wie ich drüben gleich ankündigen werde, habe ich aber einen umfassenden Entwurf erarbeitet und zur Veröffentlichung vorbereitet...