Другая тема, в которой спрашивали администраторов сообществ, разрешают ли они ответы ИИ, заставила меня задуматься. С новой функцией рабочих процессов и несколькими другими полезными вещами, например, с кастомным плагином геймификации, не составит труда собрать систему, в которой реальные люди получают голоса уважения от других пользователей, а ИИ — голоса против. Чем больше уважения у пользователя, тем весомее его голос — и «за», и «против».
Система доверия, встроенная в Discourse, по сути, делает то же самое.
Я своими глазами видел, как спамеры пытаются обмануть систему. Они создают тему с ИИ, а затем голосуют «за» собственную тему с другого аккаунта. ИИ спамит сам себя
Думаете, мою систему «уважения» тоже легко будет обмануть, или она сможет сама поддерживать порядок на форуме, поощрять общение между людьми и снизить нагрузку на администраторов?
Похоже, плагин Post Voting отлично впишется в эту систему.
Вот что меня интересует: были ли аккаунты, настолько активно использующие ИИ, что они лайкали посты, делились ими и достигали третьего уровня (TL3)? Если да, то это может стать проблемой.
Возможно, тогда решением будет изменить критерии продвижения на количество собранных очков. Но это будет фундаментальным изменением всей системы. Это продвигает более агрессивную (в буквальном смысле) геймификацию форума ради заработка очков. Но, знаете, агрессивная публикация качественного, не созданного ИИ контента тоже может быть хорошим делом…
Проблема в том, что всё больше людей используют ИИ для формирования своих мыслей. Мы видим это по растущему числу людей, которые просто копируют тему и вставляют её в редактор — у меня даже есть бот, который может запросить эту метрику, что добавляет ещё одно измерение для проверки «ИИ-ности» поста.
Когда люди становятся добровольными посредниками и верят, что цифровой контент, который они публикуют, — это их собственные мысли, система уважения рушится.
Для того чтобы это работало, вам нужна общая основа, или система ценностей, среди всех участников форума. По моему мнению, это просто невозможно в любой большой группе людей, не говоря уже об онлайн-сообществе.
Я думаю, что марионетки и избирательные кольца — это уже то, что делают люди, и агенты неизбежно начнут делать то же самое, если сочтут, что это помогает им достичь своих целей.
Я считаю, что это гонка вооружений, и потому её невозможно выиграть. Вопрос в том, какие контрмеры экономически оправданы.
Ранее я, возможно, упоминал схему мета-модерации Slashdot — она всегда казалась мне весьма впечатляющей. Скорее всего, она не так уж отличается от плагина для голосования, но, возможно, включает дополнительные механизмы. Slashdot был одним из ранних популярных сайтов, которому пришлось решать эти проблемы — это часть истории, из которой мы можем извлечь уроки, если захотим.
