Ich bin mir nicht sicher, ob dies der richtige Ort ist, um darüber zu schreiben, aber es ist das nächstliegende Thema, das ich finden konnte.
In letzter Zeit nehmen KI-generierte Beiträge zu; neue Nutzer mit komplizierten Textwänden, die ein bisschen zu gut geschrieben sind. Der entscheidende Hinweis sind ähnliche Beiträge, die auf einem anderen Discourse-Forum auftauchen.
Mein Verdacht ist, dass ein Nutzer, der zuvor wegen der störenden Nutzung von KI gebannt wurde, zurückkehrt, um sein neuestes Modell zu testen. Diese neuen Beiträge sind von deutlich besserer Qualität als frühere Versuche. Die nächste Generation KI-generierter Beiträge wird es so schwer machen, sie von menschlichen Texten zu unterscheiden, dass wir den Unterschied vielleicht nie mehr kennen werden. Die Frage ist, was man dagegen tun kann, falls man überhaupt etwas tun kann?
Hier ist also ein Vorschlag, möglicherweise ein SCHLECHTER Vorschlag, aber hier ist er trotzdem … Wir brauchen eigene KI-Antworter, die auf verdächtige neue Nutzer antworten, offensichtliche Fragen beantworten und auf menschlich generierte Antworten testen. Das müsste vielleicht in einer Art Sandbox geschehen, damit es für den neuen Nutzer nicht offensichtlich ist, dass er getestet wird.
Das Originalkonzept stammt von Randall Munroe.