Я понимаю эту точку зрения, но у меня возникают смешанные чувства. Здесь подразумевается, что ввод от ИИ нежелателен, потому что он не будет «достаточно хорошим». Я даже не уверен, что это правда. ИИ уже может генерировать текст лучше, чем многие люди.
Разве суть не в том, что форумы «для людей», а машины в целом нежелательны? Да, это может рассматриваться как форма дискриминации, но мы говорим о машинах, а не о людях.
Разве главная идея не в том, чтобы вести содержательное обсуждение? Если некоторые части этого обсуждения сгенерированы ИИ, хорошо написаны и тщательно проработаны, делает ли это обсуждение менее значимым?
Возьмем, к примеру, этот самый форум. Если бы ИИ помогал решать проблемы, предоставляя ответы, которые не уступают, а то и превосходят те, что мы пишем сами, было бы это плохо?
Возможно, алгоритмы ИИ не создавали значок «лакрица» и даже не просили о нём. 
У меня тоже, если подумать. И я считаю, что это во многом будет зависеть от цели форума: группа взаимопомощи — это одно, а сайт поддержки продукта — совсем другое.
Но, как модераторы, мы уже сталкиваемся с людьми, которые немного сбиваются с пути, не всегда придерживаются темы обсуждения или даже темы форума в целом.
Да, вероятно. Но это может привести нас к вопросу: «Что такое дискуссия?». Можно ли вести «содержательную дискуссию» с ИИ? Похоже, некоторые люди уже потратили время на «дискуссии» с ChatGPT.
А что, если какой-то другой ИИ ответит на первые ответы? И что, если они все будут вести между собой «содержательную дискуссию»? Останется ли это «дискуссией», даже если большинство участников — ИИ?
Не знаю, кажется, что сложные вопросы и ответы могут зависеть от точки зрения. Также есть разница между тем, когда внутренний ИИ вносит какую-то информацию, и тем, когда внешние ИИ становятся участниками. Для меня суть поста @Ed_S и предыдущих сообщений заключалась в части про «неотличимость».
«Если вы не можете отличить, имеет ли это значение?» — одна из первых реплик в сериале «Мир Дикого Запада», произнесённая как нечто само собой разумеющееся в первом эпизоде первого сезона в ответ на вопрос «Ты настоящий?».
Отдельный, но отчасти связанный вопрос: будут ли рекламодатели поднимать шум из-за трафика, сгенерированного ИИ.
Дело в том, что бот не собирается что-то покупать, хотя он может порекомендовать кому-то купить (или не купить) это.
TicketMaster и продавцы видеокарт могут с вами не согласиться 
Хорошие аргументы, но я думаю об этом уже, наверное, 12 лет. Я считаю, что призывы к регулированию со стороны некоторых представителей индустрии и создателей контента в лучшем случае лицемерны, пока они заваливают технологии этими явно неотразимыми «игрушками». Я не верю в эту пропаганду, поэтому давайте сразу перейдём к сути, вместо того чтобы восторгаться новыми блестящими «игрушками». Ведь это точно не Рождество, и не всё, что блестит, — золото.
Любой, у кого есть глаза, сейчас видит: в кибермире, где ИИ может генерировать текст и изображения как человек, регуляторы неизбежно потребуют универсального цифрового идентификатора для всего интернета, и внезапно эти «игрушки» окажутся покрытыми свинцом.
Около 30 лет назад, когда спам и подделка/фишинг в электронной почте только начинали становиться проблемой, раздавались похожие призывы к созданию универсального идентификатора. Тогда это не удалось, и я подозреваю, что не удастся и сейчас, потому что технология, необходимая для его надёжной работы, до сих пор не существует и, возможно, никогда не появится.
Не могли бы вы предоставить источник по этому поводу?
Я совершенно не помню ничего подобного. Мое впечатление таково, что мир «лишь» после 11 сентября начал сходить с ума. До этого я не припоминаю, чтобы была какая-либо кампания за усиление слежки и идентификацию всего и всех под любым возможным предлогом. То, что вы говорите, похоже на рационализацию, но я с интересом жду, когда вы докажете, что я не прав. Даже если раньше всё было плохо, это не оправдание для того, чтобы делать плохо сегодня или завтра.
На данный момент я не помню многих деталей. Изначально комитет был сформирован участниками списка рассылки менеджеров электронной почты, в него вошли несколько членов, работавших в комитетах ANSI и согласившихся выступить спонсорами для рассмотрения инициативы в структуре комитетов ANSI. Помню, что нас было двое или трое из США, один из Швейцарии, один из Германии и ещё несколько человек — в общей сложности около дюжины.
Мы разработали предложение по системе «универсального идентификатора и кредита», которая предполагала взимание с интернет-провайдеров суммы порядка 0,00001 цента за каждое отправленное электронное письмо. Инициатива не прошла через структуру комитетов ANSI: специалисты по безопасности заявили, что система идентификации не является безопасной; другие отмечали, что администрирование централизованной системы кредитов было бы слишком дорогим и стало бы предметом политических игр; третьи указывали, что её могли бы использовать правительства для отслеживания частных писем и так далее.
К слову, мой друг, эксперт в области криптографии, согласился с консенсусом о том, что система идентификации небезопасна, однако он считал, что никакая криптографическая система не может быть абсолютно безопасной при наличии достаточных вычислительных мощностей.
Я имею в виду, что у вас были тысячи людей, которых я бы описал как странных (если это касается вас, успокойтесь… я коллекционирую Черепашек-ниндзя), когда тот «ИИ для отношений» потерял часть своей «личности» и перестал имитировать эмоции, как это было раньше, и они начали сходить с ума в Твиттере и Реддите, потому что их псевдо-контакт был уничтожен в их жизни. И это произошло после чего, двух месяцев или около того? Делайте из этого выводы.
Хотя я не думаю, что большинство людей используют форумы как симулятор личной дружбы, хотя я могу ошибаться, и все эти люди побежали на инструменты замены форумов, чтобы пожаловаться на это…
Точно, большинство этих инструментов разработаны для базового ChatGPT. Любой хороший инженер промптов может очень легко обойти такую защиту.
Например, ответ в стиле Рэймонда Реддингтона (на сайте, который вы предоставили, я уперся в лимит запросов, но там он тоже прошёл проверку).
Да, я тоже с вами согласен. Дело в том, что ChatGPT доминирует на рынке ИИ, но на рынке есть много бесплатных инструментов.
Но в основном разработчикам и администраторам форумов нужны API, и они редко, если вообще когда-либо, бывают бесплатными: даже если вы запускаете свою собственную локальную LLM, вам приходится платить за значительно более высокие затраты на инфраструктуру.
The Wall Street Journal сообщает, что FTC начинает расследование того, вредит ли ChatGPT людям, публикуя о них ложную информацию.
Не уверен, сработает ли эта ссылка — возможно, она находится за платным доступом.
https://www.wsj.com/articles/chatgpt-under-investigation-by-ftc-21e4b3ef?mod=hp_lead_pos1
ChatGPT захватил мир. Он повсюду. От него невозможно убежать.
Сейчас его используют везде.
Например:
Discourse AI
Существуют также мультфильмы, созданные ИИ (например, ai_peter), где вы вводите темы, а ИИ пишет сценарий.
И многое другое!
ИИ может выдавать вымышленные ответы, что делает его использование рискованным — всегда проверяйте факты. Будьте предельно осторожны: неверные ответы могут вызвать проблемы.
Большинство администраторов форумов видели множество ошибочных постов от людей. Будет ли с постами, сгенерированными ИИ, сложнее справляться?
Как недавно объявленное соглашение между ведущими разработчиками ИИ, требующее таких мер, как водяные знаки для контента, созданного ИИ, повлияет на встроенные LLM? Может ли Discourse добавлять водяные знаки к контенту, сгенерированному ChatGPT?
Это, безусловно, должно относиться к изображениям, видео и, возможно, звуку, но не к тексту? Как можно добавить водяной знак в текст, не нарушая его содержание?
В этом и заключается проблема: возможно, не существует практического способа добавлять водяные знаки к текстам, сгенерированным ИИ. Это значит, что мы все по-прежнему будем гадать: «Это правда или результат работы искусственного интеллекта?»
