ChatGPT bei Allmystery als Quelle* nicht mehr zulassen?

sooma schrieb:Ich bin auch für das Streichen:

Bei Zweifeln an der Richtigkeit der Informationen muss der User spätestens auf Nachfrage eine weitere Quelle nachliefern, die nicht von KI generiert wurde.

Alles Quatsch, nehme alles zurück und behaupte das Gegenteil! Bitte meines streichen :D

Luminita schrieb:Nachdem die KI hier nicht schreibt, ist sie kein User. Externe Inhalte müssen alle gleichermaßen geprüft werden. Ob KI oder nicht. Genauso können Artikel in Zeitungen falsch sein und durch einen weiteren Artikel belegt oder widerlegt werden.
KI hier zu verbieten, ist meiner Ansicht nach rückschrittlich und weltfremd

Also ich persönlich bin nicht für ein Verbot sondern für einen expliziteren Umgang damit, andernfalls müsste man die Nutzung verbieten. Aber eben nur andernfalls.
Meine Hauptpunkte sind nach wie vor:
1. Prompt Transparenz
2. Quellenangabe (durch die KI) in Antworten von der KI

Luminita schrieb:Eine KI ist durchaus eine Quelle

Verstehe nicht, warum das so sein sollte.

Luminita schrieb:Eine Quelle muss nicht vertrauenswürdig sein, nur weil sie Quelle heißt. ;)

Was ist nun eine Quelle? Sprechen wir über Stammtisch oder etwas in der Qualität eines Zeitungsartikel oder eine Aussage eines Wissenschaftlers in seiner Funktion?

Wenn der Stammtisch schon als Quelle gilt, dann verstehe ich, wo hier das Missverständnis liegt.

Andernfalls würde ich Anforderungen an die Quelle stellen, wie: Überprüfbarkeit und Transparenz.
Beides trifft auf ein LLM nicht zu! Sogar wenn man alle Daten offen legt, wird man bei der KI nie zum gleichen Ergebnis kommen. Eine KI nimmt den Input des Users, die Trainingsdaten und andere "Quellen" aus dem Internet und Würfelt daraus einen Text zusammen. Zwar sinkt die Wahrscheinlichkeit für Halluzinationen (schöne Referenz zum Stammtisch) aber diese sind Systembedingt.

Luminita schrieb:KI hier zu verbieten, ist meiner Ansicht nach rückschrittlich und weltfremd.

Vielleicht verstehen mich da andere falsch? Aber ich bin gegen ein Verbot. Ich fordere dazu auf, das man KI nutzen darf, ohne es auszeichnen zu müssen.

@Luminita
ich habe den Eindruck, du hat nicht ganz erfasst, was wir heute in Sachen KI und Quelle herausgearbeitet haben. Lies es noch mal ganz genau :nerd:

@Luminita

Ich sehe das ziemlich kritisch, denn wenn man sich nur auf den Output der Prompts verlässt, ohne die Informationen zu überprüfen, ergeben sich unweigerlich fehlerhafte, oder nicht korrekte Beiträge.

Was sollte auch so schwierig daran sein, Informationen selbst zu recherchieren?
Wer KI benutzt um eine Antwort für einen Diskussionsbeitrag leisten zu können, ist doch irgendwie irrsinnig, oder nicht?

Negev schrieb:Sprechen wir über Stammtisch oder etwas in der Qualität eines Zeitungsartikel oder eine Aussage eines Wissenschaftlers in seiner Funktion?

All diese Dinge sind Quellen, wenn du sie benutzt, um deine Aussagen zu belegen. Die Qualität einer Quelle ist eine andere Frage.

Nemon schrieb:ich habe den Eindruck, du hat nicht ganz erfasst, was wir heute in Sachen KI und Quelle herausgearbeitet haben. Lies es noch mal ganz genau :nerd:

Nein, ich denke nicht, dass das nötig ist.

Tanne schrieb:Ich sehe das ziemlich kritisch, denn wenn man sich nur auf den Output der Prompts verlässt, ohne die Informationen zu überprüfen, ergeben sich unweigerlich fehlerhafte, oder nicht korrekte Beiträge.

Auf jeden Fall, genauso wie bei jeder anderen Quelle kann auch KI falsche Informationen ausgeben.

Tanne schrieb:Wer KI benutzt um eine Antwort für einen Diskussionsbeitrag leisten zu können, ist doch irgendwie irrsinnig, oder nicht?

Der Unterschied zu einer Suchmaschine ist nicht so groß, sofern man die KI entsprechend nutzt. ;)

Luminita schrieb:

Tanne schrieb:Ich sehe das ziemlich kritisch, denn wenn man sich nur auf den Output der Prompts verlässt, ohne die Informationen zu überprüfen, ergeben sich unweigerlich fehlerhafte, oder nicht korrekte Beiträge.

Auf jeden Fall, genauso wie bei jeder anderen Quelle kann auch KI falsche Informationen ausgeben.

Aber man selbst kann "cross-referenzieren", dass heisst, es mit anderen Quellen abgleichen.
Wenn man sich aber einfach auf KI-Suchphrasen verlässt, ohne es mit anderen Quellen zu überprüfen, dann sehe ich da ein erhebliches Risiko im Sinne von "Fehlinformationen".

Eine KI liegt nicht immer richtig, so auch bei Nachrichtenquellen, deswegen muss man Informationen mit anderen halbwegs verlässlichen Quellen abgleichen, damit man wenigstens die tatsächliche Information herauskristallisieren kann.

Luminita schrieb:Der Unterschied zu einer Suchmaschine ist nicht so groß, sofern man die KI entsprechend nutzt. ;)

Das stimmt, aber da bleibt das Problem das Gleiche: Man muss es überprüfen.

Luminita schrieb:All diese Dinge sind Quellen, wenn du sie benutzt, um deine Aussagen zu belegen. Die Qualität einer Quelle ist eine andere Frage.

Okay gut. Ist ein Punkt.

Bei der nächsten Gelegenheit mach ich dann Folgendes:
Ich sprech mit einem Bekannten über Thema xy (mit Forenbezug natürlich).
Passend füg ich ein detailliertes Gesprächsprotokoll ins Forum ein. Input 2 Bier.

Ist doch albern?

Ich verstehe die Erwähnung von KI im Regelwerk nicht. Ist doch alles abgedeckt. Man ist für seinen Text verantwortlich.

Negev schrieb:Ich verstehe die Erwähnung von KI im Regelwerk nicht. Ist doch alles abgedeckt. Man ist für seinen Text verantwortlich.

Jepp, und den Text einer KI deklarierst du dann als deinen?

Tanne schrieb:Jepp, und den Text einer KI deklarierst du dann als deinen?

Warum sollte ich irgendeinen Text posten, nur um mich im selben Atemzug davon zu distanzieren, indem ich ihn als "fremd" markiere?

Wenn ein Mathematiker einen Taschenrechner nutzt, markiert er dann in seiner Arbeit die Stellen, die das Gerät für ihn gerechnet hat? Sicher nicht. Er nutzt das Werkzeug, um ein Ergebnis zu erzielen, für das er als Autor geradesteht.

@Negev

Das Eine ist Berechnung, das Andere Aussage, und bei einer Aussage darf man ja wohl erfahren woher sie kommt.

Und dass man, egal ob Rechnung oder Aussage, es überprüft, sollte doch wohl klar sein.

Tanne schrieb:Und dass man, egal ob Rechnung oder Aussage, es überprüft, sollte doch wohl klar sein.

ich spreche jetzt über die Gemini Google-KI.

ich verstehe ehrlich gesagt nicht wieso ich die Quell-Links unbedingt vorher anklicken soll, bevor ich den Inhalt den die KI anbietet teile. Vertraue ich dem LLM nicht, dass es die Daten gar nicht von dort her hat? Oder vertraue ich nicht auf den Anbieter der Quelle (wie ja manche Seiten gesperrt sind auf AllMy)? Was genau ist der Zweifel an der KI bei dieser Sache? Bei den meisten Themen sind es reine Fakten die nicht irgendwie getrübt sein könnten durch Meinungen. Und die anderen Prompts und Anfragen die würde ich dann auch nicht von KI beantworten lassen..

oder mal anders gefragt - wenn ich Google-KI Zusammenfassung hernehme und die Quellen dazu

gebe aber dann im Forum lediglich die Links an und Zitate daraus, dann weiß doch auch keiner, dass ich ursprünglich die Quelle KI genutzt hatte?

RayWonders schrieb:ich verstehe ehrlich gesagt nicht wieso ich die Quell-Links unbedingt vorher anklicken soll, bevor ich den Inhalt den die KI anbietet teile. Vertraue ich dem LLM nicht, dass es die Daten gar nicht von dort her hat? Oder vertraue ich nicht auf den Anbieter der Quelle (wie ja manche Seiten gesperrt sind auf AllMy)? Was genau ist der Zweifel an der KI bei dieser Sache? Bei den meisten Themen sind es reine Fakten die nicht irgendwie getrübt sein könnten durch Meinungen. Und die anderen Prompts und Anfragen die würde ich dann auch nicht von KI beantworten lassen

Bei politischen Fragen hatte ich es mehrfach, das die Behauptung der KI sich nicht mit der von der KI angegebenen Quelle deckt. Seitdem schaue ich mir die Quelle immer an oder vermeide es ganz.
Wenn mir wiedermal sowas über den Weg läuft, kann ich es gerne hier posten.

RayWonders schrieb:oder mal anders gefragt - wenn ich Google-KI Zusammenfassung hernehme und die Quellen dazu

gebe aber dann im Forum lediglich die Links an und Zitate daraus, dann weiß doch auch keiner, dass ich ursprünglich die Quelle KI genutzt hatte

Korrekt, dann haste aber nicht "die KI hat gesagt" zwischengeschaltet, da bist du direkt für das Zitat verantwortlich und musst nicht extra nochmal gebeten werden eine alternative Quelle anzugeben. Mit KI-Gläubigen Usern ein Riesenunterschied in der Diskussion.

behind_eyes schrieb:Korrekt, dann haste aber nicht "die KI hat gesagt" zwischengeschaltet, da bist du direkt für das Zitat verantwortlich und musst nicht extra nochmal gebeten werden eine alternative Quelle anzugeben.

ich hinterfrage ja nur den Sinn?

wenn ich angebe ich hab KI genutzt dann wird misstraut - nutze ich aber die Quellen die KI mir gegeben hat dann wird nicht misstraut. Die Daten sind dieselben..

RayWonders schrieb:wenn ich angebe ich hab KI genutzt dann wird misstraut - nutze ich aber die Quellen die KI mir gegeben hat dann wird nicht misstraut. Die Daten sind dieselben..

Nope.
Wenn du angibst du hast KI genutzt und der Output weist keine Quellen auf, dann wird dieser Information zu Recht misstraut weil man die Quelle ja garnicht überprüfen kann. Die KI ist dann nur ein weiterer User der irgendwas plappert.

Erschwerend kommt ein weiteres Merkmal hinzu, welches die von dir geschilderte Analogie nicht hergibt:
Wenn KI verwendet wird und sogar die KI eine Quelle angibt, dann passiert das meistens nur als Link. Es wird also eine Behauptung durch die KI aufgestellt die durch einen Link der KI belegt werden soll, kein Zitat vom Inhalt einer Quelle!
Behauptest du selber, ist es Usus die Stelle in der Quelle zu zitieren, das wird bei KI Nutzung schon garnicht mehr gemacht hier.

behind_eyes schrieb:Wenn KI verwendet wird und sogar die KI eine Quelle angibt, dann passiert das meistens nur als Link. Es wird also eine Behauptung durch die KI aufgestellt die durch einen Link der KI belegt werden soll, kein Zitat vom Inhalt einer Quelle!

ich hab halt kein so großes Misstrauen in die KI. Wenn da ein Link angegeben wird, dann glaube ich daran, dass die Inhalte daraus generiert wurden.

behind_eyes schrieb:Bei politischen Fragen hatte ich es mehrfach, das die Behauptung der KI sich nicht mit der von der KI angegebenen Quelle deckt. Seitdem schaue ich mir die Quelle immer an oder vermeide es ganz.
Wenn mir wiedermal sowas über den Weg läuft, kann ich es gerne hier posten.

ja das wäre mal ganz interessant. ich hab auch schon von einer Meldung gelesen, dass bis zu 40% von KI generierten Inhalten falsch sein können. Aber was soll das bis zu hier. das ist wie in der Werbung wenn sie einen Preis ab sagen, das hat wenig Aussagekraft!

RayWonders schrieb:. Vertraue ich dem LLM nicht, dass es die Daten gar nicht von dort her hat?

RayWonders schrieb:Wenn da ein Link angegeben wird, dann glaube ich daran, dass die Inhalte daraus generiert wurden.

Verstehst Du es denn nicht?!

Luminita schrieb:

sooma schrieb:Verstehst Du es denn nicht?!

ich werd einfach in Zukunft den Links folgen und nicht angeben dass die KI mir geholfen hat die Links zu finden. dann gibts auch kein Misstrauen..

RayWonders schrieb:ich hab halt kein so großes Misstrauen in die KI. Wenn da ein Link angegeben wird, dann glaube ich daran, dass die Inhalte daraus generiert wurden.

Prüf das mal die nächsten male.

RayWonders schrieb:ich werd einfach in Zukunft den Links folgen und nicht angeben dass die KI mir geholfen hat die Links zu finden. dann gibts auch kein Misstrauen..

Vor allem dann nicht, wenn du ja hier deine Quelle zitieren musst und nicht nur den Link angeben musst.

Wir hier auf Allmy verwenden aber die KI selber als Quelle und das ist imo nicht richtig.
Wenn KI als Behaupter angegeben wird müsste diese ihre Quelle benennen und ein direktes Zitat aus der Quelle angeben um sie einem User gleichzustellen.

Möchte man das nicht, fällt man auf die normale Belegpflicht zurück mit allem was wir kennen, Link, Zitat.