Интеграция ботов, похожих на GPT3?

Разработка
21

Я кратко ознакомился с этим в связи со своим историческим участием/интересом к :robot: в пространстве Discourse.

Авторизация вызовов API для веб-версии ChatGPT в настоящее время довольно сложна (и раздражает, например, вынуждая имитировать веб-браузер), и некоторые промежуточные решения с открытым исходным кодом для обёрток API впоследствии перестали работать, так как они ужесточили эти требования.

Полагаю, что на данный момент они активно пытаются затруднить реверс-инжиниринг официальных вызовов API веб-сайта[1], и, возможно, стоит подождать официального API для полноценного диалогового ChatGPT, который, несомненно, появится, чтобы избежать этой сложности и любых рисков нарушения условий использования, которые вы можете допустить? Судя по Discourse-сообществу OpenAI (:+1: ), похоже, что другие тоже так думают.

Но давайте спросим самого бота напрямую?:

image
image799×568 30.9 KB

Отмечу, что уже существует официальный API OpenAI, но он не поддерживает непрерывные разговоры столь же удобным образом (кажется, каждый раз нужно отправлять всю историю в переменной context! Это слишком расточительно (и в конечном итоге дорого) для меня, чтобы заниматься этим в ближайшее время! :sweat_smile: ).

image
image798×274 16.8 KB

Надеюсь, что в скором времени они выпустят официальный API с простым механизмом ссылки на разговор. Несомненно, за это будет установлена цена! :sweat_smile:

  1. Я подозреваю, что это отчасти связано с тем, что они также используют API модерации, который в настоящее время отделён от вызовов бота? ↩︎

22

@philip_rhoades или кто-то ещё здесь — вы в итоге реализовали бота для Discourse с использованием GPT-3?

Я представляю себе ботов для запуска активности в сообществе, которых можно настроить на ответы в разных стилях на комментарии посетителей или друг друга. На вход подаются основная тема форума, тема обсуждения и первое сообщение в ней. Бот использует API для генерации текста и гарантирует, что он достаточно отличается от сообщений других ботов. Каждый бот обсуждает разные аспекты исходного поста. После этого начинается человеческое обсуждение. Если в течение недели на обсуждение никто не отвечает, бот может реанимировать тему, ответив ещё раз, на этот раз — на одно из предыдущих сообщений.

Боты пока не смогут ссылаться на внешние статьи, но это будет реализовано позже; это может быть отдельный процесс.

Чтобы действовать этично, у каждого бота должен быть профиль, в котором указано, что это бот на базе GPT-3.

Кто-нибудь заинтересован в написании плагина для Discourse, который это реализует? Мы готовы оплатить это от имени нашей компании. Когда речь заходит об ИИ, мы предпочитаем в этой области не делать код открытым из-за опасений злоупотреблений (хотя для кого-то это довольно тривиально сделать и выпустить как open source).

Существуют ли плагины для Discourse, которые упрощают создание синтетических учётных записей, использующих cron для публикации сообщений? Как они работают?

23

Я бы определённо заинтересовался, но рекомендую воздержаться, если вы хотите именно разговорного бота, пока они не предоставят полноценный официальный API для диалогов (любое обходное решение, скорее всего, нарушит условия использования).

Если вас устраивает простое решение с одним запросом и ответом, работу можно было бы начать уже скоро. Не стесняйтесь написать мне в личные сообщения.

24

Хорошо, на самом деле мне даже не нужен ChatGPT. Только GPT-3. Не нарушает ли это условия использования в том, что я предложил… это не будет интерактивным, просто один пост каждые несколько дней от каждого бота. Это не «астрафутинг», так как боты находятся только на нашем форуме и явно обозначены в своих профилях:

https://www.technologyreview.com/2020/10/08/1009845/a-gpt-3-bot-posted-comments-on-reddit-for-a-week-and-no-one-noticed/amp/

25

Чтобы прояснить ситуацию: вы можете добавить немного интерактивности, но сейчас это довольно громоздко.

В любом случае, текущий открытый API от OpenAI для GPT-3, скорее всего, подойдет для этого сценария.

Не уверен, как мы могли бы настроить промпт для бота (возможно, это задача какого-то рода), но давайте обсудим. Мне это определенно интересно, не стесняйтесь писать мне в личные сообщения здесь.

26

Погодите, как часто бывает, когда я начинаю писать, я только что осознал кое-что! Поскольку мы не хотим, чтобы другие владельцы форумов копировали или перепродавали код в данном случае, мы можем просто разработать проприетарный сервис, который создаёт учётные записи на Discourse, заполняет их профили, а затем периодически публикует сообщения от их имени! Есть ли в Discourse какой-то механизм белого списка для учётных записей, чтобы предотвратить их попадание в теневой бан из-за того, что все они приходят с одного IP-адреса или по какой-то другой причине?

27

Вы предлагаете бота, который будет регистрироваться на сторонних экземплярах Discourse (не принадлежащих вам) и выдавать себя за реального пользователя?

28

Привет, @merefield и @EGreg,

Меня тоже интересует интеграция GPT с использованием AI API.

Не кажется ли вам хорошей идеей объединить усилия и посмотреть, сможем ли мы создать что-то подобное для сообщества Meta? Я готов присоединиться финансово.

29

Хорошо, отправьте мне письмо

на адрес

greg@qbix.com

30

Цены на GPT-3 могут быть высокими: моему сообществу удалось израсходовать кредитов на 2 доллара всего за 15 минут, используя бота Chat GPT.

31

К сведению

Это не рекомендация; просто обращаю ваше внимание на сайт, связанный с трансформерами, буквой T в GPT (Generative Pre-trained Transformer), который стоит посмотреть. :slightly_smiling_face:

Хотя я понимаю концепции нейронных сетей, трансформеров и GPT, у меня лично нет ресурсов для их дальнейшего обучения из-за высокой стоимости, но я слежу за их развитием. Также я осознаю то, что считаю некоторыми их ахиллесовыми пятами [1]. Не воспринимайте это как отсутствие симпатии к ним; я просто считаю, что из коробки они не готовы к реальному применению в том виде, в котором мне нужно.

[1] Вопросы доктора Вогана Пратта 1994 года для оценки системы Cyc, заданные ChatGPT (ссылка)

32

Я отправил тебе письмо, но пока не получил ответа?

33

Для сведения

Из учебных материалов OpenAI

Вопросы и ответы по веб-сайту с использованием эмбеддингов

Узнайте, как создать ИИ, способный отвечать на вопросы о вашем веб-сайте

В этом руководстве рассматривается простой пример: сканирование веб-сайта (в данном случае — сайта OpenAI), преобразование полученных страниц в эмбеддинги с помощью API эмбеддингов и создание базового функционала поиска, позволяющего пользователю задавать вопросы о содержимом, представленном в виде эмбеддингов. Это должно служить отправной точкой для более сложных приложений, использующих собственные базы знаний.

У OpenAI есть форум Discourse, о котором не так-то просто узнать.

Они упростили доступ к сайту Discord, но я стараюсь обходить его стороной как чуму.

34

Особенно если вы не читали мой пост :wink:

35

Вот отличная реализация бота GPT, способного использовать весь контекст веб-сайта, построенного поверх Supabase (открытый исходный код):

Я полагаю, что Discourse и Supabase здесь отлично дополняют друг друга. Плагин, который выполняет встраивание форумов, используя подход из видео выше, а затем создает пользователя на этой основе, был бы потрясающим.

Я, безусловно, был бы заинтересован. Но, к сожалению, я думаю, что если это не будет в сфере открытого исходного кода, мы потратим свое время и силы впустую, так как наиболее поддерживаемым плагином в итоге станет тот, который имеет открытый исходный код. И если вы создадите и будете использовать закрытую версию, вы окажетесь в ловушке с бременем поддержки.

Если вы оба готовы присоединиться финансово, я в состоянии сделать это реальностью. И довольно скоро, если это желательно. Но это должно быть под лицензией Apache-2.0.

Я также подозреваю, что это серьезно помогло бы компании Discourse, если бы такой плагин мог стать официальным. Это то, что могло бы заинтересовать компанию Discourse?

Я, возможно, смогу получить грант на софинансирование от правительства страны, где я живу, чтобы поддержать создание этого. Если вы готовы присоединиться финансово, дайте мне знать. Я с радостью займусь хостинговой инфраструктурой, и любой, кто внесет финансовый вклад на начальном этапе создания плагина, сможет получить значительную скидку на бесшовное хостинговое решение, которое индексирует ваш форум и создает интеллектуальных ботов GPT для вашего Discourse.

38

Саймон,

Я попытался ответить на письмо от Discourse, но возникла ошибка сервера (разберусь с ней отдельно), однако вот что я написал:

«Я написал этому человеку, чтобы узнать, сможет ли он помочь в моём случае:

https://forum.phirho.org

— было бы здорово, если бы он мог помочь . .

Фил.»

39

Это очень интересно, спасибо, что поделились!

Привет, у нас есть хорошие новости относительно нашей команды в Discourse.

Для следующего цикла релизов мы в Discourse выбрали ИИ одним из приоритетов для новых функций и плагинов. Это означает, что у нас теперь есть выделенная команда, работающая над такими функциями, как интеграция с LLM, и мы скоро представим их здесь, на Meta.

40

Отличные новости! — тогда, если бы вы могли добавить постоянную память для предыдущих разговоров…

41

Это отличные новости! :slight_smile: Спасибо, что предупредили — я совсем не хочу изобретать велосипед, когда вы собираетесь создать что-то потрясающее :slight_smile:.

С уважением,
Саймон

42

Кажется, это разумное решение. Я быстро понял, используя ChatGPT и получая отзывы от пользователей, не обладающих техническими знаниями, что они не знакомы с концепцией инженерии промптов. Поэтому я хотел бы поделиться этим ресурсом:

Если вы ищете людей для тестирования и предоставления обратной связи по ранним релизам, пожалуйста, включите меня, и я с радостью помогу, если буду свободен.