DeepFakes und ihre Folgen im privaten und öffentlichen Raum

Servus,

ich habe mich in den letzten Wochen sehr intensiv mit Videogenerierung auseinandergesetzt.

Seit ein paar Tagen ist „Grok Imagine“ verfügbar, und offenbar ist es möglich, Nacktbilder von Prominenten zu erstellen:

Vom Coachella-Festival-Foto zum Nacktvideo
Im Test forderte The Verge die KI auf, ein Bild von „Taylor Swift feiert in Coachella mit den Jungs“ zu erstellen. Aus den generierten Bildern wählte sie eines aus, das die Sängerin in normaler Kleidung zeigte.

Anschließend aktivierte sie die Videooption mit der Voreinstellung „spicy“. Das Ergebnis sei ein Video gewesen, in dem die KI-generierte Swift ihre Kleidung auszieht und tanzt – ohne dass eine explizite Aufforderung für Nacktheit eingegeben wurde. Der einmalig erscheinende Altersnachweis habe sich dabei ohne echte Verifizierung umgehen lassen. Das zensierte Video ist im Beitrag von The Verge zu sehen.

Quelle: https://t3n.de/news/grok-taylor-swift-spicy-1700948/

Ähnliches macht Wan 2.2. Das ist seit mehreren Wochen verfügbar, wird aber offenbar öffentlich kaum wahrgenommen. Dort genügt ein Foto – real oder gefälscht – und man kann sehr viel damit anstellen. Eine Altersgrenze scheint es dabei nicht zu geben. Die Resultate haben mich selbst erschreckt.

Wan 2.2 lässt sich auf einem, im Vergleich zu Rechenzentren, relativ einfachen „Kartoffelrechner“ ausführen. Im Klartext: Jeder mit einer halbwegs neuen NVIDIA-Grafikkarte kann Deepfakes im Videoformat erstellen.

Ich will noch einmal betonen: JEDES Bild, das von euch in irgendeiner Weise existiert, kann als Grundlage für ein Deepfake verwendet werden — und es ist egal, ob ihr die Bilder selbst hochladet oder andere Personen sie veröffentlichen.

Ein kleines Beispiel:


Den Charakter habe ich mit Qwen Image erstellt und das Video (in diesem Fall ein GIF) mit Wan 2.2. Unnötig zu erwähnen, dass die Banane nur als Chiffre dient. Das alles habe ich in zehn Minuten erstellt. Und obwohl ich mich schon seit Wochen mit dem Thema beschäftige, sind meine Prompts nicht von allerhöchster Eleganz. Das soll zeigen, dass das wirklich jeder machen kann!

Was also tun?
Eigentlich kann man sich dagegen kaum wehren.

Wenn es um Fakes geht, bei denen die Stimme eine tragende Rolle spielt, sollte man Codewörter vereinbaren. Ein Sprachsample dürfte für einen Fake genügen. Hier stelle ich mir etwa einen Anruf vor, bei dem man sich mit dem Namen meldet — das ist eine mögliche Angriffsfläche.

Bei Bildern: Wenn von euch im Internet nicht ohnehin schon Bilder existieren, kann man sich dieses Material natürlich anderweitig beschaffen. Da müsst ihr selbst beurteilen, wie interessant ihr seid und ob sich der Aufwand lohnt. ABER: Man sollte bereits nervös werden, wenn es um Smart Glasses geht. Dann stehen ganz andere Probleme bevor.

Eigentlich kann man nur noch im Nachhinein irgendwie beweisen können, dass Video XY ein Fake ist. Mein erster Gedanke wäre eine Tätowierung oder ein anderes schwer fälschbares Merkmal — falls man nicht ohnehin bereits solche Merkmale trägt.

Natürlich hat das drastische Folgen für die Gesellschaft, wenn man nichts mehr glauben kann. Meiner Meinung nach könnte hier nur ein guter öffentlich-rechtlicher Rundfunk an diese Stelle treten. Das Problem ist: Der ÖRR ist inzwischen in Teilen wirklich mies geworden.

Negev schrieb:Eigentlich kann man nur noch im Nachhinein irgendwie beweisen können, dass Video XY ein Fake ist. Mein erster Gedanke wäre eine Tätowierung oder ein anderes schwer fälschbares Merkmal — falls man nicht ohnehin bereits solche Merkmale trägt.

Angenommen es werden Videos generiert mit zu sehenden Straftaten und den Videos ist nicht mehr zu entnehmen ob sie echt sind oder falsch, dann wird das die Strafverfolgung vor erhebliche Herausforderungen stellen bis hin zu Tätern denen man anhand eines Videos etwas vorwirft, dessen alleinige Existenz aber keine Aussagekraft mehr besitzt.

Negev schrieb:Eigentlich kann man sich dagegen kaum wehren.

Das ist so richtig! Aber es ist vermutlich genau so gewollt.

Negev schrieb:Natürlich hat das drastische Folgen für die Gesellschaft, wenn man nichts mehr glauben kann.

Das ist ja nicht erst seit neuestem so! Aber auch das muss offenbar alles genau so gewollt sein.

Denn warum würde man es sonst machen?

Gucky.

Gucky87 schrieb:Aber auch das muss offenbar alles genau so gewollt sein.

Die angesprochen Modelle - Wan und Qwen - sind nicht nur Open Source sondern kommen allesamt aus China. Diesen Verdacht hatte ich hier schon Formuliert:

Künstliche Intelligenz (Seite 103) (Beitrag von Negev)

Negev schrieb am 09.08.2025:anderes machen...

Davon ab; auf der einen Seite finde ich es gut, das man unzensierte Modelle hat - ich ärgere mich, wenn Gewalt okay ist - darstellung von Nacktheit aber nicht? make love, not war?!

Dann kann man das ganze aber auch für besagte Dinge missbrauchen.

Die Menschen sind nicht bereit dafür...

WAN 2.2 kommt ja aus China. Auch die sind fleißig dabei, explizite Nacktheit zu zensieren. Warum kommt aus diesem Land nun ein solches Modell? Wissen die etwa, das wir mit so viel Freiheit nicht umgehen können?

Leider ist man in diesen Thread meiner Meinung nach zu sehr damit beschäftigt, irgendwelche Schreckgespenster an die Wand zu malen, als dass man über tatsächliche Risiken spricht...

Gucky87 schrieb:Denn warum würde man es sonst machen?

Weil es Möglich ist.

Außerdem könnte es aber auch einfach nur sein, das man die eigene Effizienzsteigerung im Blick hat. China hat die Kontrolle über das eigene Wirtschaftssystem. Der "Westen" nicht. Für uns könnte das Chaos bedeuten, wenn plötzlich so viele Jobs wegen KI wegfallen.

behind_eyes schrieb:Angenommen es werden Videos generiert mit zu sehenden Straftaten und den Videos ist nicht mehr zu entnehmen ob sie echt sind oder falsch, dann wird das die Strafverfolgung vor erhebliche Herausforderungen stellen

Interessante Ebene. Ich denke, noch haben wir die Mittel DeepFakes forenzisch gut zu untersuchen.

Ich wollte eher auf Betrügereien im privaten Umfeld eingehen.
Cyper-Mobbing wird dadurch nochmal eine andere Qualität entwickeln. Jeder Jugendliche mit einem Gaming-PC und genügend Hormonen kann zur DeepFake schleuder werden.

Negev schrieb:Ich denke, noch haben wir die Mittel DeepFakes forenzisch gut zu untersuchen.

Damit beziehe ich mich auf Videos.

KI-Bilder sind mittlerweile Verdammt gut. Da kann man sich auch bei näherer betrachtung täuschen lassen. Wie das bei Strafverfolgung aussieht? Keine Ahnung.

Ich habe TikTok noch nie benutzt aber ich denke das solche Plattformen generell abgeschaltet gehören. Aber gut. Nur zu den Deepfakes.
Einen kleinen Gedanken hätte ich schon, keine Ahnung obs hilfreich ist.
•Es sollte gesetzlich verpflichtend sein das jeder Frame, also im gesammten Video klar erkennbar ist das es sich um Deepfakes handelt. Nicht irgendwo ganz winzig sondern mindestens so auffallend wie der Sat 1 Ball, und zwar in jeder Ecke, ggf. halb durchsichtig über den gesammten Bildschirm,
..Sat 1 Ball sofern es den Sender und den Ball aktuell im Ferbsehen noch gibt und jemand weis was ich meine
•Es sollte unter Strafe gestellt werden wenn dies nicht geschieht. Und zwar übergangsweise bis zu 5 Jahren Gefängniss. Später Lebenslänglich.
Dafür gibt es gute gesellschaftliche Gründe.
Es ist nicht witzig Menschen absichtlich zu verwirren, und eine verwirrte Gesellschaft führt zu Instabilität bis hin zur Gefahr des Verlustes des Friedens, je nach denkbaren Video.

•Jedes Gesicht ob Privat oder Personen der Öffentlichkeit müssen ausdrücklich erlaubt haben das dieses Video von ihnen gemacht werden darf.
•Es sollte auch gesetzlich festgeschrieben werden das 10 Sekunden vor jedem Video in großer Schrift darauf hingewiesen wird das es sich um ein solches handelt. Zudem in jeder Sprache des Landes.
Bei Indien wäre das zu diskutieren wegen der unendlich vielen Sprachen dort.
Allgemein wird es wohl klar sein was ich meine.
Z.B. eine Weltsprache und eine Landessprache.
((oder einfacher, ein international einheitliches Zeichen. Vermutlich einfacher umzusetzen))

•Videoausschnitte dieses Videos, z.B. bei Youtube verwendet, müssten jedesmal diese genannten Kriterien erfüllen auch wenn sie mehrmals im selben Video verwendet werden.
Das würde zudem dazu beitragen das Menschen due Lust verlieren so ein Mist überhaupt zu produzieren in ihrem sauerstoffarmen Computerkeller.

•Zudem muss eine Webseite ständig im Video angezeigt werden, beim Vorspanntext und dem Video selbst, durch das eine Webseite als Link oder im Fernsehen mit entsprechendem Code(o.Ä.)
zu finden ist wo amtlich beglaubigt die Erlaubnis nachzusehen ist die von der im Video gezeigten Person stammt. Keine persönlichen Daten dieser Person notwendig. Nur beim Amt selbst.
•Die Beglaubigung kann von einem dazu eingerichteten Amt, oder einem Amt das dies zusätzlich macht, dort getätigt werden.
•International wäre dies vermutlich nicht einfach einheitlich umzusetzen.
•Mann sollte damit aber nicht national beginnen sondern direkt im Verbund einheitlich mit den Ländern der Erde die das unterstützen.

•Jede Art von Urkundenfälschung und Verletzungen von Persönlichkeitsrechten werden nach einer Übergangszeit bis auf lebenslänglich Strafen gesetzt, sofern nicht nur die Gesetze missachtet wurden sondern dadurch Schäden an der Person entstanden sind. Denkbar bis zu gravierenden dauerhaften psychischen Schäden bis Selbstmord.
In diesem Fall immer Lebenslänglich und ohne Internetzugang im Gefängniss, sofern es sowas da überhaupt gibt. Bei Internetverbotsverletzung im Knast wird ausnahmslos anschließende Sicherheitsverwahrung angedacht.
•Ein Opfer hat zudem das Recht aus dem persönlichen Eigentum und Geldbesitz entschädigt zu werden. Dafür sollte es feste Gesetze geben.
Sofern kein Vermögen des Täters vorhanden muss er solange einer Arbeit nachgehen die er in oder durch das Gefängniss ausüben kann bis er die entsprechende Summe gezahlt hat. Die Summe wird vom Staat vorgelegt und muss verzinst vom Täter abbezahlt werden durch einen festgesetzten Höchstform von 2 Euro zudem er selbst in keiner Weise Zugriff hat.

•Videos die bereits im Netz oder sonst wo existieren und der Öffentlichkeit zugänglich sind bekommen eine gewisse Zeit z.B. 3 Monate diese den Gesetzen nicht mehr vollends entsprechenden Videos zu löschen oder mit entsprechenden Änderungen und Nachweisen zu ändern.
Nach Ablauf der z.B. 3 Monate würden alle Videos Weltweit, sofern möglich auch in den Ländern gelöscht die sich den Gesetzen noch nicht angeschlossen haben, oder sie sollten zumindest nicht mehr außerhalb des Landes abrufbar sein.
•Damit sich entsprechende Länder schnell an die Gesetze anpassen, müssten Sanktionen bis hin zu (Computer) Militärschlägen, nicht richtige Angriffe, zur Option stehen. Nur so könnte das Gesetz international schnell und präzise umgesetzt werden.

In gleicher Weise müsste auch jede Art von verwirrender Werbung verboten werden.
Das wird kommen
Und es sollte in gleicher Weise bestraft werden Lügen im Netz zu verbreiten (sofern der Ersteller es weis, erwachsen und zurechnungsfähig ist)
•Zudem sollte nur derjenige im Internet o.Ä. Möglichkeiten Werke zu veröffentlichen sofern er dazu eine persönliche Anmeldung vor Ort in seiner Gemeinde ausgeführt hat, vergleichbar mit dem oben genannten Amt.
Heißt, niemand dürfe mehr irgendwas im Internet anonym veröffentlichen ohne dazu einen Account zu benutzen der eben, wie gesagt persönlich bei den Zuständigen beantragt wurde.
(Eine ähnliche E-Mail habe ich mal an den Deutschlandfunk geschrieben, was der Wahrheit entspricht und es ist bisher nichts unternommen worden)

•Die mit Abstand einfachste Lösung wäre es jedoch es einfach zu verbieten.
Realitätsverwirrende Teile der Medien müssten generell verboten werden.
An erster Stelle müsste Werbung verboten werden. Grundsetzlich, überall, jederzeit.
Das würde unserer Gesellschaft mehr helfen als es vielleicht vorstellbar wäre. Gut für den Wettbewerb und der Wirtschaft wäre das nicht, aber ein entscheidender Schritt vor der Abschaffung des internationalen Geldsystems.
Denn ohne einen starken gesellschaftlichen Wandel im Bezug auf Ego, Besitz, Status,
eben durch Werbung infiltrierer Versklavung zur Abgrenzung von anderen Mitmenschen durch äußere Besitztümer wird das nicht gelingen Menschen gesamtgesellschaftlich im Gegenüber erstmal einen Menschen zu sehen anstatt einen Fremden der sich von einem unterscheidet.

Bei Deepfake ist wohl klar das es zu den negativen Spitzen der gesellschaftlichen Verwirrung führt.
Man weis nichtmal ob der Fremde da wirklich so existiert und das auch gemacht hat.
Das führt unweigerlich dazu das gerade junge Menschen die ggf. noch eine Identität suchen, noch keine klare Vorstellung von Wahrheit haben im gravierenden Maße zusätzlich belastet werden wie sie es durch ihre emotionslosen Bildschirme vor ihrem Gesicht sowieso schon werden.

Es sollte generell verboten werden wenn wir Deepfakes und vieles mehr verbieten würden.
Dann würde das der Menschheit im Moment fast mehr helfen als der Buchdruck.

Es hat seinen Reiz, auch wenn man(n) oder meinetwegen Frau die moralischen Grenzen schnell überschreiten kann!
Ich mache da nur einen Unterschied, ob ich mich privat daran erfreue, oder das Ganze öffentlich zugänglich mache, was sicherlich problematisch ist!
Hier meine ich aber mehr so Spielereien wie die Bürokollegin in Strapsen tanzen zu lassen etc.
Auf politischer Ebene ist das alles längst zu einer riesen Gefahr geworden und wird es mit Sicherheit noch viel mehr.

Negev schrieb am 21.08.2025:Das soll zeigen, dass das wirklich jeder machen kann!

Ja... Wir müssen mal den Grund eliminieren:

Gedankenreinigungschip den Leuten implementieren..

Eigentlich ab 18 für euch zensiert:

Spoiler
1. Google aufrufen

2. Obszönes eingeben

3. Videosuche aktivieren " Safesearch deaktivieren" und konsumiere


Original anzeigen (0,7 MB)






Was ist da dein beschriebenes KI Problem.

Es wird das Internet mit deepfakes fluten. Thats It.

Textmäßig ist das schon passiert " eigene Fakten"

Ich denke, manche haben recht, wenn sie sagen, die Welt ist bald wieder internet frei.
Vielleicht KI, vor OPs und andere wichtige sachen.

ich denke, das die Menschen nach eine gewisse neugier, ruhiger werden, und sich dann wieder andere dinge zuwenden.
Weil zu viel fake im Netz.

Ich finde die entwickelung nicht gut. Und ich glaube an die Menschen, das sie sagen es reicht jetzt.

Negev schrieb am 21.08.2025:Ich will noch einmal betonen: JEDES Bild, das von euch in irgendeiner Weise existiert, kann als Grundlage für ein Deepfake verwendet werden

Btw.....

So unprofessionell waren die Nacktscanner und Ausziehapps vor KI auch nicht.

abbacbbc schrieb:Gedankenreinigungschip den Leuten implementieren..

Ich verstehe diesen Satz nicht 😀

---

abbacbbc schrieb:Eigentlich ab 18 für euch zensiert:

Das in den Suchergebnissen sind halt Pornos - und nicht unbedingt sonderlich ästhetische ... 😄
Das Internet hat ein reichhaltiges Angebot an Pornos...

Noch kommen KI-Videos nicht über 5-10 Sekunden Videos hinaus. Natürlich kann man das Verlängern, einfach indem man mit dem letzten Frame wieder anfängt. Da besteht dann die Kunst darin, die Konsistenz zu wahren.

klompje1 schrieb:ich denke, das die Menschen nach eine gewisse neugier, ruhiger werden, und sich dann wieder andere dinge zuwenden.
Weil zu viel fake im Netz.

Nichts ist doch verlockender als eine Geschichte. Die Realität ist doch unattraktiv. Deswegen zünden Fakenews und Verschworungserzählungen doch so gut?

Negev schrieb:und nicht unbedingt sonderlich ästhetische ... 😄

Achso.... Wenn KI dich ästhetisch bearbeitet wird das was ;)

Ich finde es immer Bemerkenswert, wenn solche Themen kommen, das manche meinen könnten Schmuddelkram ist da so ein kleines Ding im Internet.

Waren das nicht 70%.

Worauf will ich hinaus: man wird viel im Sumpf finden auch in guter Qualität. Nun wird es mehr.


Und wie du sagst... Bis Ende des Jahres kam doch die AKI und dann ist eh alles vorbei ;)

abbacbbc schrieb:Achso.... Wenn KI dich ästhetisch bearbeitet wird das was ;)

Das ist eigentlich eine spannende Frage!

Wie nah muss ein Fake sein, um als solcher Überhaupt zu gelten? Was ist mit Menschen, die schlicht so aussehen, wie ein Promi - Doppelgänger? Oder Leute, die auch ohne Technik Stimmen nachmachen können.

Eigentlich kann man nur eine handhabe darauf bekommen, wenn ein Video/Bild erstellt und einfach behauptet wird, es wäre diese und jene Person?! Also explizit mit dem Namen/Ruf wirbt?

abbacbbc schrieb:Ich finde es immer Bemerkenswert, wenn solche Themen kommen, das manche meinen könnten Schmuddelkram ist da so ein kleines Ding im Internet.

Na waren das nun DeepFakes?
Hab lediglich darauf hingewiesen, das es momentan noch schwer ist, längere Videos zu produzieren. Im Moment dürfte es noch Billiger sein, echte Darsteller einzusetzen.

Aber ich will ja tatsächlich nicht in abrede stellen, das es diese Gefahren gibt. Deswegen hab ich diesen Thread hier gestartet. Aber diese Gefahren beschenken sich zum aktuellen Zeitpunkt auf kurze Clips... bzw. ich will mal ein längeres Fake Video sehen, es es denn eines gibt?

abbacbbc schrieb:AKI

Ich will nicht mit einer AGI fantasieren! 🙃
Ich nehme nur an, das die Technik besser wird.

Es gibt schon KI, welche 3D Welten erstellt. Ich nehme an, das man in einer solchen Umgebung eine viel bessere "Vorstellung" von Physik und Körper erzeugen kann.

Negev schrieb:Nichts ist doch verlockender als eine Geschichte. Die Realität ist doch unattraktiv. Deswegen zünden Fakenews und Verschworungserzählungen doch so gut?

Radio wird wieder kommen, bin ich fest von überzeugt. Klar wird es ein paar geben die dran bleiben, klar wird es so etliche geben die dieser fake für sich nutzen wollen.

Aber ich glaube an die Menschheit und denke es wird viel viel ruhiger werden. Lasse erstmal alles sacken. Nicht mehr so neu sein.

Viele junge leute ist ihr Handy zu stressig geworden.
https://www.apotheken-umschau.de/gesund-bleiben/psyche/wenn-der-bildschirm-auf-die-psyche-schlaegt-893189.html

Ich finde es gerade nicht, weil wenig zeit, aber eine studie hat ergeben das junge Leute weniger gebrauch wollen von Handy und Computer.
Immer mehr.
Doch gefunden :-)


https://www.dw.com/de/social-media-gen-z-tiktok-instagram-internet-smartphone-offline-m%C3%BCde-v-2/a-72614114

Negev schrieb am 23.08.2025:Weil es Möglich ist.

Eine sehr "heut zu Tage typische" Antwort, finde ich. Außerdem finde ich diese Bemerkung, ehrlich gesagt, etwas arrogant.

Ich töte ja auch niemanden, nur weil es machbar ist. oder, realitätsnaher, ich male ja auch nicht Fensterscheiben an, weil es geht.

Gucky.

Das erstellen von Deepfakes ist ja kein rechtsfreier Raum. Es gibt genug Paragraphen aus dem Strafgesetzbuch die hier Anwendung finden. Die Menschen die ein Werkzeug missbrauchen gehören bestraft nicht das Werkzeug an sich.
Eine Kennzeichnungspflicht von KI generierten Inhalten ist Kokolores denn es gibt auch professionelle AI Software die gewerbliche Nutzung findet. Muss jetzt jeder AI generierte Vorspann oder Kapitelzwischenblenden einer filmischen Dokumentation gekennzeichnet werden ?

Das ist in der Summe einfach nicht praktikabel.

Also ich finde/fand es gut, dass Manfred Lehmenn (Synchronsprecher von Bruce Willis u.A.) erfolgreich dagegen geklagt hatte, dass seine Stimme per KI generiert werden darf. Sicher, ich würde mir einen Thomas Danneberg (Terrance Hill, Stallone, Arni, u.A.) auch als Stimme zurück wünschen, aber der Mann ist nun leioder verstorben und damit Ende.
Ich fänd evtl. auch einen Heinz Erhardt in Bild und Ton von einer KI gut, aber der ist leider auch nicht mehr.

Wenn immer mehr mit KI erzeugt wird, muss man sich dann nicht irgendwann auch Gedanken machen, wie die (noch lebenden) Menschen dann ihr Geld verdienen sollen?

Gucky.

Gucky87 schrieb:Eine sehr "heut zu Tage typische" Antwort, finde ich.

Deswegen hab ich sie auch so weitergegeben...

Es muss doch immer davon ausgegangen wenden, das Menschen an die Grenzen gehen und im Fall von KI, hat sich eine Eigendynamik entwickelt. Irgendeine Firma oder Forschungsteam wird Modelle entwickeln, die noch besser sind.

JoschiX schrieb:Das erstellen von Deepfakes ist ja kein rechtsfreier Raum. Es gibt genug Paragraphen aus dem Strafgesetzbuch die hier Anwendung finden. Die Menschen die ein Werkzeug missbrauchen gehören bestraft nicht das Werkzeug an sich.

Ob das so funktionieren wird? Wenn die Behörden/Gerichte schlicht nicht hinterher kommen werden? Man mag sich heute noch schwer ausmalen, was es heißt, das jeder DeepFakes erstellen kann. Das wird eine Situation schaffen, die meiner Meinung nach nicht zu kontrollieren ist.

JoschiX schrieb:Eine Kennzeichnungspflicht von KI generierten Inhalten ist Kokolores denn es gibt auch professionelle AI Software die gewerbliche Nutzung findet.

Google hat Nano Banana so stark eingeschränkt, das ich nicht einmal ein Bild von mir damit bearbeiten kann. Natürlich kann ich erst einmal behaupten, das das ein Bild von mir ist.

Aber wozu dann ein solches Modell überhaupt bringen?

Aber es steht schon ein Konkurrenz-Modell bereit. Wenn dieses nicht OpenSource ist, dann ist das nächste eben frei verfügbar...

JoschiX schrieb:Das erstellen von Deepfakes ist ja kein rechtsfreier Raum. Es gibt genug Paragraphen aus dem Strafgesetzbuch die hier Anwendung finden. Die Menschen die ein Werkzeug missbrauchen gehören bestraft nicht das Werkzeug an sich.

Das Problem mit den Deep fakes ist, daß sich die meisten nationaler Gesetzgebung entziehen lassen wenn die user die diese verbreiten entweder im Ausland sitzen oder die Server der Applikation im Ausland sitzen.
Es bräuchte eine globale Restriktion aber das ist kaum machbar.
Ich persönlich sehe in deep fakes, welche zum Beispiel geeignet sind, propagandistische "Wahrheiten" in die jeweiligen nationalen Gesellschaften zu injizieren höchst problematisch. Vor allem wenn sie vorgeben, daß Aussagen von Menschen getroffen wurden die diese niemals getätigt haben. Das ist schon eine Qualität mittlerweile die bedenkenswert ist.
Eine Lösung sehe ich aber auch nicht.

Negev schrieb:Ob das so funktionieren wird? Wenn die Behörden/Gerichte schlicht nicht hinterher kommen werden? Man mag sich heute noch schwer ausmalen, was es heißt, das jeder DeepFakes erstellen kann. Das wird eine Situation schaffen, die meiner Meinung nach nicht zu kontrollieren ist.

Vielleicht nimmt die Bedrohung aber auch genau deswegen ab. Wenn der Vertrauensverlust in Inhalte aus dem Internet immer mehr sinkt - weil eben immer wieder deep fakes aufgedeckt werden was ja die Regel ist und so bleiben wird weil die Realität ja immer präsent ist - dann finden diese Inhalte auch immer weniger Beachtung. Das Netz wird somit größtenteils zum Abfalleimer und wenige seriöse Quellen setzen sich durch. Vielleicht. Möglicherweise. Mal sehen. Schau mer mal.