DeepFakes und ihre Folgen im privaten und öffentlichen Raum

@klompje1

behind_eyes schrieb:dann finden diese Inhalte auch immer weniger Beachtung. Das Netz wird somit größtenteils zum Abfalleimer und wenige seriöse Quellen setzen sich durch. Vielleicht.

So mag es Menschen ergehen, die ernsthaft nach seriösen Quellen suchen. Was ist mit den anderen? Die wählen einen Trump...

Deine Perspektive ist schön und wünschenswert! Aber ich glaube, wir sind am Arsch 😅

Negev schrieb:Was ist mit den anderen? Die wählen einen Trump...

Weiß nicht ob solche Kampagnen wie Trump sie gefahren hat in 100Jahren noch ziehen, Menschen sind ja im Kern nicht blöd, nur leicht zu täuschen und zu missbrauchen, also ich denke wenn eine gewisse Lernkurve eingetreten ist haben bestimmte Inhalte keine Relevanz mehr.

Eigenes Beispiel der letzten Tage, meine Ma:
Sie hat mich Zeit ihres Lebens gewarnt vor Finanzbetrug, windigen Geschäften, alles nachrechnen usw.
Jetzt ist sie älter und sah vor paar Tagen ein Video, indem Merz & Weidel bei Maischberger saßen und Weidel den Merz auffahren lassen wollte indem sie in nötigte, zuzugeben das er in einen Fond investierte der wirklich hochprofitabel ist und dessen Kenntnis sich dem Normalbürger entzieht.... Merz gab es schüchtern zu, Maischberger wollte Fakenews vermeiden und forderte einen Zuschauer auf die sogleich zu testen... Der Zuschauer machte bis zum Ende der Sendung aus 250 dann 330EUR....Ma war erbost wie es sein kann das die Reichen von Fonds wissen die für Normalo nicht existent sind.
Sie nannte mir den Fond und ich fand sogut wie nix dazu weil sie mir einen falschen Namen genannt hatte, mysteriös dachte ich mir. Dann suchte ich das Maischberger Video in der Mediathek - nix... Gut, kann gelöscht worden sein, zu heikel ;-)
Nach einer halben Stunde stolperte ich erstmals in die deep fake Ecke, es gab ne Warnmeldung (glaube dpa) die genau solch ein Video auf Facebook thematisierte und warnte.
Ich sendete das meiner Ma und die war regelrecht schockiert wie gut der fake doch gemacht war - jetzt weiß sie das bei Prominenten und Finanzen Vorsicht gegeben sein muss in Videos, auch wenn die Aussprache noch so gut zum Bild passt, sie kennt jetzt die Machart und Naja, so wird es jedem gehen der mal auf sowas reingefallen ist. Also ich denke das solche Tricks nur eine begrenzte Haltbarkeit haben.

Negev schrieb am 21.08.2025:Wenn es um Fakes geht, bei denen die Stimme eine tragende Rolle spielt, sollte man Codewörter vereinbaren. Ein Sprachsample dürfte für einen Fake genügen. Hier stelle ich mir etwa einen Anruf vor, bei dem man sich mit dem Namen meldet — das ist eine mögliche Angriffsfläche.

Es wird nur noch so möglich sein; Codewörter oder eben Infos, die nur „die echte Person“ wissen kann.

Und wir sind leider schon mittendrin:

In Oberfranken hat eine 82-Jährige einen Schockanruf erhalten, bei dem im Hintergrund die Stimme ihrer Tochter zu hören gewesen sein soll

…forderte die angebliche Beamtin eine Kaution von 45 000 Euro von der Seniorin

Im Hintergrund des Anrufs sei die Tochter der Seniorin zu hören gewesen. Sie habe den Unfall und die Kautionsforderung bestätigt

Laut Polizei wurden die Stimmen der Angehörigen mit Hilfe von Künstlicher Intelligenz vorgetäuscht und im Telefonat eingespielt. Wie genau dies funktionierte, war zunächst nicht klar. Der Familie sei der Schwindel aufgefallen. Sie verständigte sich untereinander und erkannte so den Betrug. Dadurch sei verhindert worden, dass die 82-Jährige das Geld zahlte.

Quelle: https://www.sueddeutsche.de/bayern/lichtenfels-schockanruf-stimme-ki-gefaelscht-li.3308747

Wenigstens konnte es hier verhindert werden. Fraglich aber, wie eben die Stimme der Tochter erstellt werden konnte. Entweder kannte man die Stimme oder hatte eine Aufnahme…oder die Betrüger hatten ganz viel Glück, die Stimme so zu generieren, dass sie als die Stimme der Tochter durchging.

Trotzdem…das werden wir wohl zukünftig öfters lesen/mitbekommen und nicht nur bei Rentnern.

Sehr schade, dass KI genutzt wird, um Schaden anzurichten. Dabei kann sie so wertvoll und positiv eingesetzt werden.

CaiaLia schrieb:Es wird nur noch so möglich sein; Codewörter oder eben Infos, die nur „die echte Person“ wissen kann.

Mal paar Gedanken dazu, wie sowas gehen könnte.
Ich nutze beruflich viel Remotezugänge auf IT-Systeme unterschiedlicher Company's. Die Vielfalt ist abartig, die Anleitungen zur Nutzung werden immer länger und ein solches Verfahren sticht gut raus für mich:
Ich habe eine feste Pin-Nummer die aus mehreren Zahlen besteht. In einem Fenster wird für jede Zahl zwischen 0-9 ein "zufällig" generiertes Zeichen angezeigt... So zufällig ist dieses Zeichen natürlich nicht, es wird über eine Verschlüsselung erstellt und so wird ein Passwort generiert welches ich nutzen kann. Ich kann nach diesem Verfahren zu jederzeit ein neues Passwort generieren, es wird auf dem VPN akzeptiert, das alte hingegen funktioniert nicht mehr.
Wenn man dieses Verfahren mal abstrahiert auf ein Abbild eines Menschen welcher zum Beispiel einen durch seine einzigartige DNA eine Verschlüsselung erzeugt welche aller paar Sekunden einen passenden Schlüssel anzeigt (z.bsp. Durch einen kleinen Aufkleber auf einem Körperteil der die DNA lesen kann) und die Grafikengine des Endgerätes enthalten ebenfalls eine Technologie diesen Schlüssel auszulesen und zeigen sofort an, ob der erzeugte Schlüssel gültig ist. Das Ganze hat natürlich nur solange Vertrauen wie der Algorithmus als nicht geknackt gilt, er muss dafür natürlich open source sein.
Nur paar Gedanken.

behind_eyes schrieb:in 100Jahren

In 100 Jahren bin ich tot 😁
Wenn ich mal so selbstsüchtig sein darf... aber ja, grundgesetzlich versteh ich dein Punkt. Nur, wie wird die Welt aussehen? In 100 Jahren?

behind_eyes schrieb:Durch einen kleinen Aufkleber auf einem Körperteil der die DNA lesen kann

Fakes zu Identifizieren käme einer Sisyphos Aufgabe gleich. Und es ist ein Wettrüsten. Könnte man nicht stattdessen dafür sorgen, das man Originale klar erkennt?
Ich stelle mir grade etwas in Richtung Blockchain vor. Nur mal als diffuse Idee...
In allen Medien könnte man diese Informationen einbetten. Funktioniert offensichtlich beim Bitcoin und fälschungssicher muss das ja auch sein...

Negev schrieb:Könnte man nicht stattdessen dafür sorgen, das man Originale klar erkennt?

Na genau das soll meine obige Idee ja machen.

Negev schrieb:In allen Medien könnte man diese Informationen einbetten. Funktioniert offensichtlich beim Bitcoin und fälschungssicher muss das ja auch sein...

Ja genau, sowas in der Art kann ich mir gut vorstellen. Es muss aber meiner Meinung nach direkt aus der Identität der gefilmten Person abgeleitet sein, also richtig echt, DNA usw.

behind_eyes schrieb:also richtig echt, DNA

Das mit der DNA könnte sich als Fehler entpuppen.
Zwar ist sie zweifelsohne sehr komplex aber man kommt verhältnismäßig leicht an eine Probe ran - siehe Filme 😀.

Negev schrieb:Das mit der DNA könnte sich als Fehler entpuppen.
Zwar ist sie zweifelsohne sehr komplex aber man kommt verhältnismäßig leicht an eine Probe ran - siehe Filme

Das ist dann aber "tote" DNA. Gibt vielleicht ne Möglichkeit das zu trennen.

Negev schrieb am 21.08.2025:Was also tun?
Eigentlich kann man sich dagegen kaum wehren.

Na ja, eigentlich ist das kein neues Problem. Es ist nur eine Abwandlung.

"Früher" hat man (mangels technischer Alternativen) nur verbal gelogen. Ich behaupte, @Negev würde ein Schaf begatten, um Dich damit lächerlich zu machen. Das ist gelogen, aber es steht halt erst mal so da. Ich kann es an eine öffentlich sichtbare Wand malen und die Leute werden es sehen.

Dann kam die Fotografie auf. Und zunächst war das ein "Beleg für die Realität". Lange Zeit waren Bilder recht gut geeignet, um als Beleg zu dienen. Die Menschen haben sich daran gewöhnt, dass ein Bild wahrscheinlich wahr ist.
Der Unterschied jetzt ist nur, dass das Fälschen von Bildern jetzt genau so einfach geworden ist, wie eine Lüge an eine Wand zu malen.

Dazu kommt ein weiterer Umstand: Heute ist es sehr einfach, mit geringsten Mitteln eine Vielzahl an Menschen zu erreichen. Teilweise so, dass eine Strafverfolgung sehr erschwert bis unmöglich ist. Das Problem müssen wir nun mit der Zeit vernünftig lösen.

Wir müssen mit der neuen Realität leben lernen. Bilder sind keine Gewähr mehr für Wahrheit (waren sie seit langer Zeit nicht mehr, aber gute Fälschungen waren aufwändig). Und wir müssen uns von der Vorstellung eines rechtsfreien Raum im Internet verabschieden.

azazeel schrieb:Und wir müssen uns von der Vorstellung eines rechtsfreien Raum im Internet verabschieden

Gefährlicher Gedanke. Erstens war das Internet nie ein Ort, in dem man tun und lassen konnte, was man wollte! Und dann, wohin führt uns dieser Gedanke? Zur totalen Überwachung? Wirst du auf der Straße permanent verfolgt? Beobachtet man dich, in welche Läden zu gehst? Hört man dir bei jedem deiner privaten Gespräche zu?

Auf der anderen Seite gibt es da diese großen Social Media Kanäle. Hier könnte man eine Ausweispflicht einführen. Dann könnte man gleichzeitig Altersbeschränkungen durchsetzen. Aber dadurch, das jeder Account mit einer realen Person in Verbindung gebracht werden kann, würden sich die Leute vielleicht eher benehmen.

Private Gruppen müssen aber privat bleiben!

Wie gesagt, das was am Stammtisch erzählt wird hat niemand zu interessieren. Leider ist dieser Stammtisch mit Social Media verdammt groß - das Niveau ist aber in teilen das gleiche.

Wir sollten weiterhin nicht alles glauben was im Internet ist.

Ansonsten sollten wir uns damit abfinden dass es in der Kultur auch KI Generierte Kulturschaffende gibt.

Wir sollten Dinge die von Menschen geschaffen sind mehr schätzen als zuvor, selbst den sogenannten ,, Müll".

Und zuletzt, wir sollten nicht für jeden Mist KI Nutzen.

PStanisLove schrieb:Wir sollten weiterhin nicht alles glauben was im Internet ist.

Die Herausforderung liegt doch darin, daß das Internet mittlerweile überall ist, es spricht selbst aus Mündern von Menschen am Tisch.
Die Grenzen der Wahrnehmung des "Internet" verschwimmen immer mehr.

Negev schrieb:Gefährlicher Gedanke. Erstens war das Internet nie ein Ort, in dem man tun und lassen konnte, was man wollte! Und dann, wohin führt uns dieser Gedanke? Zur totalen Überwachung? Wirst du auf der Straße permanent verfolgt? Beobachtet man dich, in welche Läden zu gehst? Hört man dir bei jedem deiner privaten Gespräche zu?

Das ist ein bisschen albern, hier mit Extremen zu argumentieren.
Im Internet kann man viel eher ungestraft Straftaten begehen, als im realen Leben. Das bedeutet nicht, dass es darum geht, in beiden Bereichen eine totale Überwachung zu generieren. Es geht darum, ein vergleichbares Maß an Kontrolle zu etablieren.
Im realen Leben haben wir über Jahrhunderte hinweg uns an ein vernünftiges Maß an Kontrolle herangetastet. Eine Balance zwischen individueller Freiheit und Schutz anderer Rechte.
Im Internet ist das nicht der Fall. Das ist - in dieser Beziehung - noch immer "Neuland" (auch wenn Merkel dafür verspottet wurde, hat sie damit recht). Ein Bereich, der in manchen Bereichen noch nicht so verlässlich in der Abwägung verschiedener Rechtsgüter entwickelt ist, wie das in echten Leben der Fall ist. Weil es einfach noch nicht vergleichbar lange existiert und damit noch nicht die Vielzahl der verschiedenen Problematiken entstanden sind. So eine Abwägung ist ein langer Prozess.

Und es ist wirklich ermüdend, wenn das erste Argument ist, solche Entwicklungen wären gefährlich, weil das Extrem gefährlich ist. Extreme sind immer gefährlich. Es ist immer Aufgabe eines Rechtsstaates, Extreme zu verhindern.

Negev schrieb:Private Gruppen müssen aber privat bleiben!

Das ist in der realen Welt aber auch nicht absolut gegeben. Unter bestimmten Umständen kann dieses sehr wichtige und sehr schützenswerte Recht aufgehoben werden. Mit hohen Hürden (z.B. Richtervorbehalt) können private Gespräche auch den Bereich das "Geheimen" verlassen. Auch hier ist das Extrem (absolute Geheimhaltung des Privatbereichs) nicht wünschenswert. Es ist immer eine Abwägung der unterschiedlichen Grundrechte. Auch unter Berücksichtigung der Gewichtung.
Ein privater Chat - so wie ein privates Gespräch in der eigenen Wohnung - ist grundsätzlich schützenswert. Und zwar stark schützenswert. Aber es ist eben nicht absolut. Deine Wohnung kann unter bestimmten Umständen durchsucht werden, Deine Post kann unter bestimmten Umständen gelesen werden, Deine Gespräche können unter bestimmten Umständen mitgehört werden - warum soll das nicht auch für Kommunikation mit anderen technischen Mitteln gelten?
Hier ist die Frage, leben wir in einem Rechtsstaat oder nicht. In einem (funktionierenden) Rechtsstaat wie in Deutschland müssen wir auch akzeptieren, dass es Mechanismen gibt, die auf faire Weise unterschiedliche Rechtsgüter gegeneinander abwägen. Es kann nicht sein, dass der "Stärkere" die Grundrechte anderer verletzen kann, nur weil er der Stärkere ist und sich erfolgreich verstecken kann.

In einem Unrechtsstaat gilt das natürlich nicht. Aber man kann nicht die Umstände in einem Unrechtsstaat für die Bewertung heran ziehen, was in einem Rechtsstaat gelten soll.

Negev schrieb:Leider ist dieser Stammtisch mit Social Media verdammt groß

Die Analogie passt nicht so richtig. Ein öffentliches Posting ist ja gerade kein Stammtisch. Es ist, als stellte ich mich (maskiert) in ein Stadion und schreie über Lautsprecher meine Meinung heraus. Hier ist der Punkt, an dem das Internet neue Umstände definiert, die wir als Gesellschaft nun auch neu bewerten müssen.
Wir müssen neu bewerten, wo im "Internet" die eher privaten Bereiche liegen und wo die eher öffentlichen. Und wir müssen die Abwägungen neu durchdenken. Wenn wir auf den Schutz der freien Meinungsäußerung achten (zu recht), müssen wir auch auf den Schutz derjenigen achten, die dadurch geschädigt werden können. Wie oft musste ich schon lesen, dass die Adressaten von Äußerungen das halt hinzunehmen hätten, damit ja das Recht der freien Meinungsäußerung nicht beschnitten würde.
Aber es ist auch ein wichtiges Grundrecht, dass der Staat vor Beleidigung und Bedrohung schützt.

PStanisLove schrieb:Wir sollten weiterhin nicht alles glauben was im Internet ist.

Das ist aber nicht erst seit "KI" so, aber seither sollte man noch mehr aufpassen.

PStanisLove schrieb:Und zuletzt, wir sollten nicht für jeden Mist KI Nutzen.

Das sehe ich ganz genauso.

Nur der Mensch tut genau das, was er immer schon tat:
Wenn Dollars im Auge glänzen, vergisst er seine Tugenden oft.

Gucky.

Zuerst musste die Menschheit lernen, nicht alles zu glauben, was irgendwo erzählt wird - unabhängig davon, wie glaubhaft es wirkt.
Dann musste die Menschheit lernen, nicht alles zu glauben, was irgendwo geschrieben steht - unabhängig davon, wie glaubhaft es wirkt.
Dann musste die Menschheit lernen, nicht alles zu glauben, was irgendwo im Internet zu finden ist - unabhängig davon, wie glaubhaft es wirkt.
Und jetzt muss die Menschheit halt lernen, nicht alles zu glauben, was sie in Form von Bildern, Videos, Audiomitschnitten etc. hört - unabhängig davon, wie glaubhaft es wirkt.

Ist ja nicht so, als ob diese Entwicklung sich nicht schon länger abgezeichnet hätte.

Ob das jetzt gut oder schlecht ist, mag ich gar nicht bewerten - es ist halt so. Damit verliert die digitale Welt einfach mal wieder ein weiteres Stück Glaubwürdigkeit - was auf der anderen Seite aber auch dem "Real Life" wieder mehr Bedeutung gibt, zumindest wenn man Wert auf Wahrheit und Wahrhaftigkeit legt. Zumindest empfinde ich es so.

@Pusemuckel
Die Menschen müssen einfach quellenkritischer werden. Das geschieht nicht automatisch, das muss man aktiv lernen. Das ist eigentlich Teil einer schulischen Ausbildung und Voraussetzung für den mündigen Bürger.

Bislang war das in vielen Bereichen nicht Teil der Selektion. Wenn früher einer dachte: "Oh, die Beere sieht aber hübsch aus, die esse ich", nahm er sich damit ggf. aus dem Genpool. Aber etwas zu glauben, was ein anderer sagt - oder gar zeigte, war lange Zeit (solange es kleine soziale Gruppen gab) eher besser als schlechter. Vertrauen ist eine grundlegende menschliche Stärke im Zusammenleben. Das macht den Missbrauch von Vertrauen so einfach. Und verstärkt wird das durch die Systematik des Internets. Jeder kann jederzeit alles behaupten und hat potentiell Milliarden Zuhörer.

Aber es ist gar nicht so schwer, kritisch zu sein. Wir dürfen nur nicht mit dem Bauchgefühl arbeiten, sondern mit der Ratio. das kann man prima lernen.

Bin mal gespannt, wann Youtube mit DeepFakes von Geistern, Seeungeheuern und Reptiloiden geflutet wird.
Für Mysterforen wie dieses könnte es sogar gut sein, vielleicht gibt's dann eine ähnliche Mitgliederschwemme wie früher, als die ersten "mysteriösen", verwackelten und verschwommenen Bilder und Videos im Netz auftauchten. Nur jetzt in 1A Qualität. (Wenn auch natürlich genauso Fake.)