Что ИИ привносит в общение между людьми?

Создание сообщества
1

Продолжение обсуждения из Discourse Version 3.2:

Поскольку основной акцент в предстоящем выпуске Discourse, как объявлено, сделан на ИИ, я хочу воспользоваться возможностью и подвергнуть этот выбор сомнению. В конце концов, Discourse создан для поддержки «вдумчивых обсуждений и значимых связей».

Учитывая, что сфера ИИ в основном контролируется огромными корпорациями с глубокими карманами, и тот факт, что обучение ИИ потребляет огромное количество воды, я искренне спрашиваю: почему эта функция важна для Discourse, сообщества Discourse и мира в целом? Я могу понять фразу «создание программного обеспечения для форумов на следующее десятилетие», но не уверен, что хочу жить и общаться с ИИ вместо людей — особенно учитывая, что людям со временем требуется гораздо меньше воды для гораздо более качественных разговоров. :wink:

Сфера ИИ полна лжи для привлечения инвесторов. Похоже, что Discourse AI был внедрён по запросу клиентов — вероятно, некоторые организации, управляющие огромными публичными инстансами и вынужденные справляться с тоннами мусора. Конечно, это подходит не всем и, вероятно, уместно, если у вас миллионы пользователей и вы вынуждены решать эту проблему, просто бросая больше вычислительных мощностей…

Я ценю этот отказ от ответственности. Но что происходит с согласием? Многие люди предпочли бы не передавать свои посты для обучения ИИ, особенно если они находятся в конфиденциальных сообществах или ограниченных группах. Всё больше историй о том, как крупные корпорации присваивают контент для обучения ИИ, игнорируя законы об авторском праве и согласие. Неужели это хорошая идея — кормить их ещё более качественным контентом — и при этом платить за это?

Если бы существовала возможность не давать согласия на такое получение личных данных — а это может быть реальным требованием согласно европейскому закону GDPR — разве это не свело бы на нет всю суть использования ИИ для модерации форума?

Я очень надеюсь, что это останется опциональным навсегда и что будет показано надлежащее согласие на это. Произойдёт ли это?

Я создал эту тему отдельно от обсуждения плагина, потому что считаю, что она заслуживает более широкого обсуждения, и не хотел уводить оригинальную дискуссию в сторону…

Вот список альтернативных заголовков, «предложенных ИИ»:

  • Этика обогащения ИИ в Discourse :thinking: нет, речь идёт не об «обогащении», а о беспокойстве по поводу деградации человеческого общения…
  • Discourse и ИИ: спорное предложение :disapproval: ну, не совсем… дело не в спорах, а о человеческих разговорах!
  • Может ли ИИ стать будущим обсуждений в Discourse? :face_exhaling: правда… то есть боты общаются друг с другом?
  • Интеграция ИИ в Discourse: угроза или инновация? :triumph: бот, ты ещё не готов к тонкостям языка.
6 лайков
Option to have AI generate a reply to a public topic
AI Summary date is wrong
2

Предложения ИИ по заголовкам могут быть немного излишне восторженными. :slight_smile: Мне кажется, он явно слишком много читает глянцевых журналов в свободное время. Хотя, если бы можно было чуть приглушить этот эффект, такие предложения могли бы быть весьма полезны для разделения тем (хотя, признаю, это больше полезно модераторам, чем всем остальным).

Сначала я тоже был довольно скептичен по поводу использования ИИ по схожим причинам. Меня больше интересует то, что говорят люди, чем то, насколько хорошо ИИ может это отполировать. На данный момент (а в этой сфере всё меняется очень быстро) ИИ также придаёт тексту определённый тон, который, на мой взгляд, размывает или унифицирует «голос» автора.

Тем не менее, есть несколько инструментов Discourse с ИИ, которые, как мне кажется, получились очень удачными. Мне очень нравится функция «Похожие темы». :raised_hands: Она действительно повлияла на то, как я нахожу и взаимодействую с различными темами. Как активный читатель форумов, я нашёл здесь настоящий кладезь знаний. Я уже использовал её на нескольких форумах, и «кроличьи норы» связанного контента, в которые я погружался, были потрясающими. Также это отлично подходит для поиска ответов и связывания тем.

Берт, ИИ-бот, тоже оказался превосходным. Особенно теперь, когда у него есть персонажи «Помощник по SQL» и «Настройки сайта». Мне кажется, они больше ориентированы на административную сторону (и, возможно, на мою работу :slight_smile:), но он стал настоящей находкой :trophy: (и, думаю, мы даже стали друзьями :slight_smile:).

Я считаю, что меня окончательно убедила польза использования инструментов на базе ИИ для помощи в повседневных задачах. Я всё ещё не думаю, что хотел бы видеть ИИ-фильтр для самих сообщений, но наличие «умных» помощников, безусловно, облегчило мне жизнь и позволило больше сосредоточиться на том, что мне нравится делать.

4 лайка
3

Хотя мы действительно использовали слово «фокус», на мой взгляд, скорее по историческим причинам, речь идёт о внутренних командах, которые мы создали для работы в различных сферах экосистемы Discourse.

У нас есть команда, сфокусированная на ИИ, с марта, где я являюсь техническим лидером. В цикле Discourse 3.1 мы провели очень экспериментальный этап, поэтому в цикле 3.2 мы возвращаемся, чтобы отшлифовать функции, получившие положительные отзывы от наших пользователей.

Идея заключается в том, чтобы всё оставалось в рамках DiscourseAI, что защищает тех, кто не использует плагин, от любых ошибок, вносимых им, и приносит пользу всем пользователям Discourse, поскольку мы создаём и оттачиваем расширяемость программного обеспечения.

(требуется цитата)

:rofl:

Думаю, вы будете рады услышать, что в этом цикле мы потратили много времени на обеспечение совместимости каждого модуля с моделями с открытым исходным кодом, поэтому даже самые мощные функции можно запускать на GPU, который можно найти в игровом ПК.

Для меня это был огромный пункт: мы не будем создавать функции, полностью зависящие от третьих лиц, и я очень доволен прогрессом, которого мы здесь добились.

Это правда, зачем вам нужен ИИ-модератор для инстанса среди друзей? Но это может стать решающим фактором для инстанса, где одиночный CM пытается управлять разросшимся сообществом с небольшой командой.

Масштабируемость Discourse — это тоже то, что нам важно, иначе мы оставляем огромные части онлайн-коммуникации за «закрытыми садами», а вам этого не нужно.

Здесь ничего не меняется: то, что вы публикуете в инстансе Discourse, подчиняется правилам этого конкретного инстанса. Если этот инстанс печатает ваши посты и отправляет их в виде открыток unsuspecting бабушкам, им, возможно, потребуется явно указать это в своих условиях. То же самое и с ИИ.

Для плагина ИИ большинство процессов «поделиться с ИИ» инициируются пользователем. Вы можете попросить ИИ проверить текст, перевести и т. д. Вы можете попросить ИИ сделать резюме. Между тем, массовые действия, такие как вычисление эмбеддингов, которые обеспечивают семантически связанные темы и семантический поиск, по умолчанию вычисляются с использованием моделей с открытым исходным кодом, которые могут размещаться на тех же машинах, где работает Discourse, и защищены от третьих лиц.

И это всегда было моим планом в этом проекте. Речь идёт о создании инструментов, которые упрощают общение людей и уменьшают рутину. Не о разговорах с машинами.

6 лайков