Не уверен, что это подходящее место для обсуждения этой темы, но это ближайшая тема, которую я смог найти.
В последнее время мы наблюдаем рост числа постов, сгенерированных ИИ: новые пользователи с длинными, сложными текстами, написанными чуть ли не слишком хорошо. Главный аргумент — появление похожих постов на другом форуме Discourse.
Я подозреваю, что это пользователь, ранее забаненный за унизительное использование ИИ, вернувшийся, чтобы проверить свою последнюю модель. Эти новые посты значительно лучше по качеству, чем предыдущие попытки. Следующее поколение постов, сгенерированных ИИ, будет настолько трудно отличить от человеческого письма, что мы, возможно, никогда не узнаем разницы. Вопрос в том, что можно с этим поделать, если что-то вообще можно сделать?
Так вот, у меня есть предложение, возможно, плохое, но вот оно: Нам нужны собственные ИИ-ответчики, чтобы отвечать на подозрительных новых пользователей, отвечая на очевидные вопросы и проверяя, является ли ответ сгенерированным человеком. Возможно, это нужно делать в某种 песочнице, чтобы новому пользователю не было очевидно, что он проходит тест.
Первоначальная идея принадлежит Рэндаллу Манроу.