Vorwürfe gegen Christian Ulmen - Der Fall Collien Fernandes

Wenn ihr euch über Merz' Pinocchio Nase unterhalten wollt, dann macht das doch hier:

DeepFakes und ihre Folgen im privaten und öffentlichen Raum

Das Topic ist doch ziemlich eindeutig. Dass es auch um Grundsatzfragen geht, klar - aber hier geht es um Collien und Christian. :|
Ihr labert das gerade weg.

anthe schrieb:Die wichtigere Frage wäre mMn, wie leicht verfügbar/kostenlos/anonym nutzbar dürfen die dafür notwendigen Apps und Programme sein?
Hier könnte der Gesetzgeber durchaus auf europäischer Ebene ansetzen.
Wenn das ganze eben nicht mehr mit einem dreizeiligen Prompt, einem aus LinkedIn geklauten Profilbild und einer kostenlosen App möglich wäre, wäre ja schonmal ein Schritt getan.

Bezüglich Verbreitung von Deepfakes einschränken:
Anscheinend sind Plattformen wie Pornhub da schon weiter als so manches soziale Netzwerk, wenn man der ZDF-Doku glauben mag.

Ein Beispiel aus der Industrie:
Es gibt Mehr-Achs-Fräsmaschinen und Drehmaschinen mit denen man easy und erforderlicher Qualität ballisitische Waffen herstellen kann. Das wichtigste Bauteil ist der Lauf einer Waffe, ob nun für einen Panzer oder eine Pistole ist erstmal egal. In diesem Lauf gibt es charakteristische Merkmale ohne die der Lauf, welcher das Projektil führt, nicht funktioniert.
Entwirft man jetzt ein CAD mit einer solchen Charakteristik und lädt es in die Fräsmaschine um einen solchen Lauf zu fertigen, erfolgt zuerst eine Prüfung des Programms. Erkennt diese jene charakteristischen Merkmale, wird das Programm nicht ausgeführt.
Das unterliegt formal der Dual-Use-Bestimmung und ist so ziemlich in jeder geeigneten und vor allem exportieren Anlage der Fall.

Ich könnte mir vorstellen das KI-Modelle, legale hier nutzbare, sehr bald Algorithmen haben um den Inhalt der Prompts zu untersuchen und zu entscheiden ob sie es machen oder nicht. Glaube Grok hatte hin und wieder schon solche Restriktionen drin, aber das ist bis jetzt völlig unabhängig von irgendwelchen gesetzlichen Vorgaben scheint es mir.

Röhrich schrieb:Und diese soll nun verändert werden, dass Bildmanipulation, die eine Person diskreditiert unter Strafe gestellt wird.

Bildmanipulation und Diskreditierung ist nicht pauschal Deepfake und darum ging es.

Röhrich schrieb:Was machen die?

Hier ab Minute 02:20 erläutert es deren Vizepräsidentin für Contentstrategie: https://www.zdf.de/play/reportagen/die-spur-deepfake-pornos-collien-ulmen-fernandes-100/deepfake-pornos-geschaeft-mit-dem-missbrauch-100
Uploadfilter, um geschütztes Material auszusortieren, keine Rachepornos, und vor dem endgültigen Livestellen checkt es noch einmal ein Mensch.

calligraphie schrieb:Ist Frau Fernandes wirklich damit geholfen, dass sich zb Dunja Hayali mit ihr solidarisiert?

Laut ihrer eigenen Aussage haben ihr der massive Zuspruch und die Solidaritätsbekundungen gut getan.

In der vergangenen Wahlperiode hatte das damals vom FDP-Mann Marco Buschmann geführte Ministerium allerdings erhebliche Zweifel, ob das deutsche Strafrecht im Zusammenhang mit KI-basierten Deepfakes und entsprechenden Persönlichkeitsverletzungen überhaupt Schutzlücken aufweist.

Der Deutsche Anwaltverein lehnte die Einführung neuer Strafvorschriften ebenfalls ab. Dass es speziell bei den Deepfakes Strafbarkeitslücken gibt, die geschlossen werden müssen, müsse bezweifelt werden, sagte DAV-Vorstandsmitglied Niko Härting im Gespräch mit LTO.

Interessant, dass sich ausgerechnet Männer dagegen aussprechen Gesetzeslücken zu schliessen bzw keine wahrnehmen wollen.
Das Problem betrifft fast ausschliesslich Frauen.

Italien zeigt, wir es gehen kann.
Offenbar ist man dort auch deshalb weiter, was konkrete Gesetze angeht, weil Meloni selbst Opfer von Deep Fakes war.

Italien hatte vergangenen September die Steilvorlage geliefert: Der Mittelmeerstaat ist das erste europäische Land, das die Verbreitung gefälschter Aufnahmen, die mit Künstlicher Intelligenz (KI) erstellt wurden, mit bis zu fünf Jahren Haft bestraft. In das italienische Strafgesetzbuch wurde hierzu der Tatbestand der "unrechtmäßigen Verbreitung von KI-generierten oder manipulierten Inhalten" eingeführt. Der "hinterlistige Einsatz von KI" soll dabei als strafverschärfender Umstand gewertet werden.

Dass Italien hier Vorreiter ist, hat auch damit zu tun, dass Ministerpräsidentin Giorgia Meloni selbst Opfer sogenannter Deepfakes geworden. Eine Pornoplattform hatte manipulierte Aufnahmen von ihr veröffentlicht.

Quelle: https://www.lto.de/recht/nachrichten/n/digitale-gewalt-deepfakes-bmjv-hubig-kuendigt-gesetzentwurf-an

Zaunkönigin schrieb:Interessant, dass sich ausgerechnet Männer dagegen aussprechen Gesetzeslücken zu schliessen bzw keine wahrnehmen wollen.
Das Problem betrifft fast ausschliesslich Frauen.

Ich habe nichts dagegen, wenn Personen bestraft werden, die solche Porno Fakes erstellen und verbreiten.
Wenn diese von Frau Fernandes angezeigte Tat eine Strafe bis zu 5 Jahre nach sich ziehen kann, dann ist meiner Ansicht nach die Rechtslage ausreichend.
Vielleicht haben wir da eher ein Problem in den Verfolgungsbehörden? Die entweder überlastet sind wegen irgendwelche Memes und Massenanzeigen oder nicht ausreichend geschult bei der Internetkriminalität.
Und das Frauen vermutlich meist die Opfer sind, davon gehe ich auch aus.
Außerdem sollte jeder das Recht haben, auch Männer und Divers, sich gegen Fakepornos zur Wehr zu setzen und zur Anklage zu bringen.

Ich halte es aber für nicht klug, wenn daraus dann Gesetze erlässt, dass man einen Politiker nicht mehr als Clown abbilden darf, weil das dekreditierend wäre.

Der Deutsche Anwaltverein lehnte die Einführung neuer Strafvorschriften ebenfalls ab. Dass es speziell bei den Deepfakes Strafbarkeitslücken gibt, die geschlossen werden müssen, müsse bezweifelt werden, sagte DAV-Vorstandsmitglied Niko Härting im Gespräch mit LTO.

Das ist ein bisschen witzig. Haben die Angst vor zuviel Arbeit? Oder zu wenig, falls die Plattformen von selber strenger werden beim Ausfiltern klagewürdiger Inhalte?

anthe schrieb:Das ist ein bisschen witzig. Haben die Angst vor zuviel Arbeit?

Eher vor zu wenig Arbeit. Wenn alles schön geregelt ist, sinken die Unstimmigkeiten an denen Anwaltschaften natürlich auch sehr gut verdienen.

behind_eyes schrieb:Entwirft man jetzt ein CAD mit einer solchen Charakteristik und lädt es in die Fräsmaschine um einen solchen Lauf zu fertigen, erfolgt zuerst eine Prüfung des Programms. Erkennt diese jene charakteristischen Merkmale, wird das Programm nicht ausgeführt.
Das unterliegt formal der Dual-Use-Bestimmung und ist so ziemlich in jeder geeigneten und vor allem exportieren Anlage der Fall.

Gutes Beispiel. Technisch möglich wäre wohl so einiges, aber solange die Gesetze der Realität um Jahre hinterher hinken, herrscht halt Wildwest.

Zaunkönigin schrieb:Interessant, dass sich ausgerechnet Männer dagegen aussprechen Gesetzeslücken zu schliessen bzw keine wahrnehmen wollen.

Der deutsche Anwaltverein hat keine Frauen?

Aniara schrieb:Der deutsche Anwaltverein hat keine Frauen?

Beitrag nicht verstanden?
Hat sich eine der Frauen öffentlich geäußert?

Zaunkönigin schrieb:Beitrag nicht verstanden?
Hat sich eine der Frauen öffentlich geäußert?

na ja komm, aus dem was Du verlinkt hast geht aber eben nicht hervor, was Du hier schreibst:

Zaunkönigin schrieb:Interessant, dass sich ausgerechnet Männer dagegen aussprechen Gesetzeslücken zu schliessen bzw keine wahrnehmen wollen.
Das Problem betrifft fast ausschliesslich Frauen.

Ich nehme an der Deutsche Anwaltsverein ist skeptisch, weil neue Strafvorschriften ja auch umgesetzt werden müssen, was in dem Fall zwangsläufig mit einer massiven Regulierung von Technologien einhergehen würde. Sonst könnten Betreiber ihre Plattformen garnicht mehr rechtssicher führen. Und da kommt es schnell zur Kollision mit der Datenschutz-Grundverordnung und generell mit Grundrechten. (z.B. Informationelle Selbstbestimmung, Meinungsfreiheit und Pressefreiheit)

anthe schrieb:Uploadfilter, um geschütztes Material auszusortieren, keine Rachepornos, und vor dem endgültigen Livestellen checkt es noch einmal ein Mensch.

Uploadfilter sind nicht unproblematisch, u.a. wegen ihrer technischen Unzulänglichkeit.
Das ist zum Beispiel auch eine der Regulationen, die schnell zu Grundrechtsverletzungen führt, etwa durch Overblocking.
Oder im umgekehrten Fall rutschen bedenkliche Inhalte durch.
Dass am Ende nochmal ein Mensch kontrollieren soll, klingt erstmal gut, aber ich nehme an, das werden dann völlig unterbezahlte und überlastete Arbeitskräfte sein. Ähnlich wie die Content-Moderatoren in den sozialen Medien.
Das alles qualitativ hochwertig durch menschliche Arbeitskraft zu überwachen wäre so teuer, dass es praktisch nicht umsetzbar ist.