ChatGPT bei Allmystery als Quelle* nicht mehr zulassen?

sooma schrieb:Ich bin auch für das Streichen:

Bei Zweifeln an der Richtigkeit der Informationen muss der User spätestens auf Nachfrage eine weitere Quelle nachliefern, die nicht von KI generiert wurde.

Alles Quatsch, nehme alles zurück und behaupte das Gegenteil! Bitte meines streichen :D

Luminita schrieb:Nachdem die KI hier nicht schreibt, ist sie kein User. Externe Inhalte müssen alle gleichermaßen geprüft werden. Ob KI oder nicht. Genauso können Artikel in Zeitungen falsch sein und durch einen weiteren Artikel belegt oder widerlegt werden.
KI hier zu verbieten, ist meiner Ansicht nach rückschrittlich und weltfremd

Also ich persönlich bin nicht für ein Verbot sondern für einen expliziteren Umgang damit, andernfalls müsste man die Nutzung verbieten. Aber eben nur andernfalls.
Meine Hauptpunkte sind nach wie vor:
1. Prompt Transparenz
2. Quellenangabe (durch die KI) in Antworten von der KI

Luminita schrieb:Eine KI ist durchaus eine Quelle

Verstehe nicht, warum das so sein sollte.

Luminita schrieb:Eine Quelle muss nicht vertrauenswürdig sein, nur weil sie Quelle heißt. ;)

Was ist nun eine Quelle? Sprechen wir über Stammtisch oder etwas in der Qualität eines Zeitungsartikel oder eine Aussage eines Wissenschaftlers in seiner Funktion?

Wenn der Stammtisch schon als Quelle gilt, dann verstehe ich, wo hier das Missverständnis liegt.

Andernfalls würde ich Anforderungen an die Quelle stellen, wie: Überprüfbarkeit und Transparenz.
Beides trifft auf ein LLM nicht zu! Sogar wenn man alle Daten offen legt, wird man bei der KI nie zum gleichen Ergebnis kommen. Eine KI nimmt den Input des Users, die Trainingsdaten und andere "Quellen" aus dem Internet und Würfelt daraus einen Text zusammen. Zwar sinkt die Wahrscheinlichkeit für Halluzinationen (schöne Referenz zum Stammtisch) aber diese sind Systembedingt.

Luminita schrieb:KI hier zu verbieten, ist meiner Ansicht nach rückschrittlich und weltfremd.

Vielleicht verstehen mich da andere falsch? Aber ich bin gegen ein Verbot. Ich fordere dazu auf, das man KI nutzen darf, ohne es auszeichnen zu müssen.

@Luminita
ich habe den Eindruck, du hat nicht ganz erfasst, was wir heute in Sachen KI und Quelle herausgearbeitet haben. Lies es noch mal ganz genau :nerd:

@Luminita

Ich sehe das ziemlich kritisch, denn wenn man sich nur auf den Output der Prompts verlässt, ohne die Informationen zu überprüfen, ergeben sich unweigerlich fehlerhafte, oder nicht korrekte Beiträge.

Was sollte auch so schwierig daran sein, Informationen selbst zu recherchieren?
Wer KI benutzt um eine Antwort für einen Diskussionsbeitrag leisten zu können, ist doch irgendwie irrsinnig, oder nicht?

Negev schrieb:Sprechen wir über Stammtisch oder etwas in der Qualität eines Zeitungsartikel oder eine Aussage eines Wissenschaftlers in seiner Funktion?

All diese Dinge sind Quellen, wenn du sie benutzt, um deine Aussagen zu belegen. Die Qualität einer Quelle ist eine andere Frage.

Nemon schrieb:ich habe den Eindruck, du hat nicht ganz erfasst, was wir heute in Sachen KI und Quelle herausgearbeitet haben. Lies es noch mal ganz genau :nerd:

Nein, ich denke nicht, dass das nötig ist.

Tanne schrieb:Ich sehe das ziemlich kritisch, denn wenn man sich nur auf den Output der Prompts verlässt, ohne die Informationen zu überprüfen, ergeben sich unweigerlich fehlerhafte, oder nicht korrekte Beiträge.

Auf jeden Fall, genauso wie bei jeder anderen Quelle kann auch KI falsche Informationen ausgeben.

Tanne schrieb:Wer KI benutzt um eine Antwort für einen Diskussionsbeitrag leisten zu können, ist doch irgendwie irrsinnig, oder nicht?

Der Unterschied zu einer Suchmaschine ist nicht so groß, sofern man die KI entsprechend nutzt. ;)

Luminita schrieb:

Tanne schrieb:Ich sehe das ziemlich kritisch, denn wenn man sich nur auf den Output der Prompts verlässt, ohne die Informationen zu überprüfen, ergeben sich unweigerlich fehlerhafte, oder nicht korrekte Beiträge.

Auf jeden Fall, genauso wie bei jeder anderen Quelle kann auch KI falsche Informationen ausgeben.

Aber man selbst kann "cross-referenzieren", dass heisst, es mit anderen Quellen abgleichen.
Wenn man sich aber einfach auf KI-Suchphrasen verlässt, ohne es mit anderen Quellen zu überprüfen, dann sehe ich da ein erhebliches Risiko im Sinne von "Fehlinformationen".

Eine KI liegt nicht immer richtig, so auch bei Nachrichtenquellen, deswegen muss man Informationen mit anderen halbwegs verlässlichen Quellen abgleichen, damit man wenigstens die tatsächliche Information herauskristallisieren kann.

Luminita schrieb:Der Unterschied zu einer Suchmaschine ist nicht so groß, sofern man die KI entsprechend nutzt. ;)

Das stimmt, aber da bleibt das Problem das Gleiche: Man muss es überprüfen.

Luminita schrieb:All diese Dinge sind Quellen, wenn du sie benutzt, um deine Aussagen zu belegen. Die Qualität einer Quelle ist eine andere Frage.

Okay gut. Ist ein Punkt.

Bei der nächsten Gelegenheit mach ich dann Folgendes:
Ich sprech mit einem Bekannten über Thema xy (mit Forenbezug natürlich).
Passend füg ich ein detailliertes Gesprächsprotokoll ins Forum ein. Input 2 Bier.

Ist doch albern?

Ich verstehe die Erwähnung von KI im Regelwerk nicht. Ist doch alles abgedeckt. Man ist für seinen Text verantwortlich.

Negev schrieb:Ich verstehe die Erwähnung von KI im Regelwerk nicht. Ist doch alles abgedeckt. Man ist für seinen Text verantwortlich.

Jepp, und den Text einer KI deklarierst du dann als deinen?

Tanne schrieb:Jepp, und den Text einer KI deklarierst du dann als deinen?

Warum sollte ich irgendeinen Text posten, nur um mich im selben Atemzug davon zu distanzieren, indem ich ihn als "fremd" markiere?

Wenn ein Mathematiker einen Taschenrechner nutzt, markiert er dann in seiner Arbeit die Stellen, die das Gerät für ihn gerechnet hat? Sicher nicht. Er nutzt das Werkzeug, um ein Ergebnis zu erzielen, für das er als Autor geradesteht.

@Negev

Das Eine ist Berechnung, das Andere Aussage, und bei einer Aussage darf man ja wohl erfahren woher sie kommt.

Und dass man, egal ob Rechnung oder Aussage, es überprüft, sollte doch wohl klar sein.