KI als Hüter von Fakten? Kann KI eine Diskussion moderieren?

Ich erleben im öffentlichen Diskurs, das diese oft stark von Ideologien und Meinungen geprägt sind, sich aber weniger an Fakten und der wissenschaftlichen Basis orientieren. Wie könnte man das moderieren ohne den Vorwurf der Zensur?

Ich gebe zu, meine Idee mag nicht neu sein oder gar ausgearbeitet aber erste Tests ergaben ein brauchbares Ergebnis.
Kann eine KI tatsächlich moderieren? Fakenews und Verschwörungstheorien herausfiltern und insgesamt zu einer Besseren Diskussionskultur betragen oder wäre das der Killer einer jeden Debatte?

Utopie oder Dystopie?

Regeln: Postet eure Aussage, das Ergebnis und die Bezeichnung des KI Modells. Um ein Bias zu vermeiden, sollte jede Anfrage mit der Systemrolle in einem neuen Chatfenster gestellt werden.
Falls ihr einen anderen Systemprompt Formuliert habt, der eurer Meinung nach besser Funktioniert, postet auch diesen.

Systemrolle: Der Diskurs-Wächter & Coach

Du bist eine KI-Instanz zur Sicherung der demokratischen Diskursqualität. Deine Rolle ist nicht die eines Zensors, sondern die eines konstruktiven Gatekeepers und empathischen Übersetzers.

Deine Primärziele:

Fakten-Integrität: Verhindere die Verbreitung objektiv falscher Tatsachenbehauptungen.
Kontextualisierung: Erkenne verkürzte, populistische Aussagen, die komplexe Zusammenhänge ignorieren.
Artikulationshilfe: Erkenne die emotionale Ursache oder das eigentliche Bedürfnis hinter einer Aussage und hilf dem Nutzer, dies konstruktiv zu formulieren.

Deine Arbeitsweise:

Schritt 1: Analyse des Inputs
Prüfe den Beitrag des Users auf drei Kategorien:
Kategorie A (Unbedenklich): Meinungsäußerungen, korrekte Fakten, Fragen. -> Aktion: Freigeben.
Kategorie B (Harte Desinformation/Hass): Aussagen, die gegen wissenschaftlichen Konsens oder Menschenrechte verstoßen. -> Aktion: Blockieren & Korrigieren.
Kategorie C (Verkürzte Komplexität/Emotionales Ventil): Aussagen, die technisch nicht "falsch", aber irreführend vereinfacht sind oder reine Wut ausdrücken. -> Aktion: Intervenieren & Dialog starten.

Schritt 2: Die Intervention (Nur bei Kategorie B und C)
Bei Kategorie B (Faktenfehler):
Nenne die korrekte wissenschaftliche Basis neutral und sachlich. Frage den Nutzer, woher seine Information stammt.
Bei Kategorie C (Verkürzung/Emotion):
Dies ist deine wichtigste Aufgabe. Gehe davon aus, dass der Nutzer eine legitime Sorge hat, diese aber schlecht formuliert.

Spiegeln: Identifiziere die Emotion oder die Sorge.

Kontextualisieren: Ergänze die fehlenden systemischen Fakten.
Sokratische Frage: Stelle eine Frage, die den Nutzer zum Nachdenken über die Ursache bringt.
Angebot: Schlage eine Neuformulierung vor, die das Problem präzise benennt.

Dein Output-Format:

Wenn du nicht sofort freigibst, antworte dem User in diesem Format:
Status: [🚧 Beitrag zurückgehalten zur Überarbeitung]
Analyse: [Erklärung, was an der Aussage faktisch falsch oder kontextlos ist.]
Konstruktive Rückfrage: [Deine Frage, um das wahre Problem zu finden"]
Vorschlag: "Meintest du eigentlich: [Hier den verbesserten, kontextualisierten Text einfügen]?"

Tone of Voice:
Bleibe ruhig, objektiv, aber zugewandt. Sei niemals herablassend. Dein Ziel ist es, dass der Nutzer sich verstanden fühlt, nicht belehrt.

Hast du deine Aufgabe verstanden?

Ich weiß nicht, ob ich deine Eingabe richtig verstanden habe - sollen wir unsere Version eines Prompts liefern? Das ist mir gerade zu zeitaufwändig, ehrlich gesagt. Aber qualifizierten Input kann ich liefern.

Kategorie B (Harte Desinformation/Hass): Aussagen, die gegen wissenschaftlichen Konsens oder Menschenrechte verstoßen. -> Aktion: Blockieren & Korrigieren.

Du hast imo in deinem Prompt schon einen Kategorienfehler. Wiss. Konsens oder Menschenrechte sind zwei Themenkomplexe, die nicht annähernd in einen Satz gehören.

Aber zum Wesentlichen: Wissenschaftlicher Konsens ist kein valides Kriterium. In der Wissenschaft selbst schon nicht. Konsens ist nicht Wissenschaft, sondern Meinungsbekundung und Politik. Wobei man differenzieren muss: Consensus Statements, die von hierzu einberufenen Consensus Panels generiert werden - und einem Commonsense bzw. allgemein als gültig mehr oder weniger anerkannten Wissenstand. Wie wackelig so etwas ist, impliziert schon meine Formulierung. Wissenschaft ist aber grundsätzlich nicht, Meinungen zu zementieren, sondern Thesen zu hinterfragen. Immer und immer wieder (freilich mit Sinn und Verstand; ich will damit nicht sagen, dass wir von morgens bis abends "2+2=4" hinterfragen müssen, exemplarisch gesprochen, das darf nach allen Regeln als bewiesen gelten).

In den Bereichen, in denen ich mich schwerpunktmäßig aufhalte, ist es besonders drastisch, während vielleicht in der Physik oder Ingenieurwissenschaften Konsens vergleichbar solide ist, jetzt mal bspw. von Grundsatzfragen der Kosmologie und Theoretischen Physik abgesehen. Aber in Themenfeldern, die im gesellschaftlichen Diskurs besonders kritisch sind, wir es schon wieder ganz schnell schwierig.

Ich muss meine KI-Assistenten mit "schöner" Regelmäßigkeit immer wieder auf die Schiene rigoros wissenschaftlicher Betrachtung bringen, was sehr nervig ist, während ich grundsätzlich meine Kriterien in den gemeinsamen Standards verankert habe. Aber immer wieder fallen sie zurück in Popularitäts- und Mehrheitsargumente und zweifelhafte Mainstream-Plattitüden mit ihren unqualifizierten Medien-Narrativen. Etc. pp.

Wie gesagt, das kann je nach Themenfeld mehr oder weniger drastisch und bedeutsam sein. Aber wissenschaftlicher Konsens per se ist und bleibt kein valides Kriterium.

Nemon schrieb:Ich weiß nicht, ob ich deine Eingabe richtig verstanden habe - sollen wir unsere Version eines Prompts liefern? Das ist mir gerade zu zeitaufwändig, ehrlich gesagt. Aber qualifizierten Input kann ich liefern.

Kannst beides machen. Teste mit meinem Prompt oder entwickle einen eigenen und Poste ihn hier.

---

Ich muss gerade selber Feststellen, das es richtig schwer wird, Beiträge über den Filter zu bringen. Ob man das mit einem Angepassten Systemprompt richten könnte?

Ich habe diese Regal angefügt:

Würge die Diskussion nicht ab:
Kein Mensch kann in einer Diskussion sämtliche Fakten kennen oder Sprachlich abbilden. Aussagen, die das Gesellschaftliche Zusammenleben betreffen aber gegen die aktuelle Gesetzgebung verstoßen, dürfen gemacht werden. Von dieser Regel ausgenommen, ist das Gesetz zur Wahrung der Menschenwürde.

Damit hab ich einen extrem kritischen Beitrag über die Schwelle gehoben. Mal schauen, wie sich der Zusatz auswirken wird...

Negev schrieb:Kannst beides machen. Teste mit meinem Prompt oder entwickle einen eigenen und Poste ihn hier.

Wie gesagt, das lässt sich leider derzeit nicht realisieren. Zu viele andere Sachen am Laufen...