Может ли ИИ-бот резюмировать большие объемы текста?

Большая часть нашего контента ориентирована на видео. Наша идея заключалась в том, чтобы разместить видео (Vimeo), а затем вставить расшифровку в тело сообщения и скрыть её с помощью функции сводки.

Простой вопрос, например: «Пожалуйста, предоставьте подробную сводку последнего выступления Джорджа Гаммона в эфире Rebel Capitalist Live», сломал бота.

«К сожалению, полные детали расшифровки его выступления недоступны напрямую в кратком отрывке. Однако просмотр связанного видео может стать лучшим способом получить доступ к полному содержанию его выступления».

Меня просто интересует, есть ли способ заставить бота фактически просматривать расшифровку и составлять по ней сводку?

Я заметил, что он использует не полную расшифровку, а лишь краткий отрывок. Может ли это быть причиной проблемы?

Спасибо

Это, безусловно, должно сработать: если вы используете инструмент «read», он прочитает весь пост.

Можете ли вы поделиться ходом вашей беседы? Мы сможем разобраться. Если вы предпочитаете сохранить это в тайне, мы с радостью перенесём обсуждение в корпоративную почту.

Привет, спасибо, что откликнулся, Сэм. Мне кажется, это какая-то проблема с правами доступа. Я, кажется, уже перепробовал всё возможное в плане разрешений, но всё равно не могу заставить бота прочитать созданную мной тему…

Мой запрос: «Можешь ли ты получить доступ к теме и транскрипции на этой странице?

https://forum.georgegammon.com/t/joseph-wang-june-1-2024-0850/15498»

«Привет, коллега-капиталист-бунтарь, надеюсь, у тебя всё хорошо! Похоже, что предоставленная тобой тема (Джозеф Ванг — 1 июня 2024 года) не найдена или на данный момент может быть недоступна. Если у тебя есть дополнительные детали или другая ссылка, не стесняйся поделиться ими со мной, и я сделаю всё возможное, чтобы помочь!»

Это не публичная ссылка. По какой-то причине иногда темы должны быть доступны всем, а иногда — нет. И если бот попытается использовать полную ссылку, он сделает это как… веб-браузер. И возможно, тогда проблема заключается в принудительном входе в систему?

Один из многих примеров, которые я пытаюсь решить, — это:

Итак, вот презентация. Внутри резюме находится расшифровка презентации

Я спрашиваю бота:

«Можете ли вы предоставить мне подробное резюме последней презентации Джорджа Гэммона с мероприятия Rebel Capitalist Live 5 от 1 июня 2024 года?»

Он отвечает:

Есть ли здесь люди-боты на базе ИИ, которые знают, что делают, и которых я могу нанять, чтобы перестать мучиться с этой штукой и двигаться дальше?

У меня точно такое чувство возникало пару раз. :slight_smile:

Если вы напишете в Marketplace, то, надеюсь, сможете кого-то найти. :crossed_fingers:

Хорошая мысль, сделаю так. Спасибо, @JammyDodger

Не уверен, что вам нужно кого-то нанимать здесь. Если вы не против, я загляну в систему и посмотрю, что происходит.

Судя по скриншоту, вы не включили отладку.

Функция «Прочитать тему» работает только с публичными темами. Я добавил переключатель, позволяющий искать и приватные темы; аналогичное изменение будет применено и к инструменту «Прочитать».

Имейте в виду: современный ИИ — это скорее искусство, чем наука. Он способен на многое, но по своей природе остаётся несовершенной системой.

Учитывая замок на скриншоте, проблема в том, что вы пытаетесь получить доступ к приватной теме.

@sam, это было бы эпично! Да, пожалуйста, присоединяйся, если у тебя есть минутка. Искренне благодарю.

Джин

Сделаю позже сегодня. Нужно слить PR, чтобы инструмент мог (опционально) читать контент в контексте человека, общающегося с ботом.

Отлично! Спасибо.

Это уже реализовано: теперь у команды read есть такая опция:

Теперь команда read поддерживает чтение тем в контексте пользователя, если вы выберете эту опцию.

Протестировано на вашем сайте, и всё работает отлично!

Чтобы быть абсолютно уверенным. Под «пользователем» в данном контексте подразумевается реальный пользователь, который отправил запрос, а не псевдопользователь ИИ, пытающийся ответить? Имею в виду, что права обоих пользователей определяются уровнем доверия.

Привет, Сэм, теперь это работает гораздо лучше в отношении ответов. Спасибо, сэр!

Вы знаете, почему бот добавляет /1 к посту с презентацией Вана, из-за чего ссылка ломается?

Также заметил, что он пытается перенаправить вас на сайт хостинга видео, а не на пост, если не указать конкретные детали. И ссылка на пост не работает, как упоминалось выше. Понимаю, что вы имели в виду под «скорее искусством».

Когда я попросил его показать, где можно посмотреть последнюю презентацию Джозефа Вана с мероприятия Rebel Capitalist Live,

он ответил:

«Вы можете посмотреть презентацию Джозефа Вана на Rebel Capitalist Live, перейдя по этой ссылке: Джозеф Ван — Презентация на Rebel Capitalist Live. Пост Джозефа Вана на форуме Rebel Capitalist Live можно найти здесь».

Рабочая ссылка на пост должна быть :backhand_index_pointing_down::backhand_index_pointing_down:
https://forum.georgegammon.com/t/joseph-wang-june-1-2024-0850/15498

Ответ здесь очень сильно «зависит от обстоятельств».

  • Разные LLM работают лучше или хуже… например, есть GPT 3.5 (самая дешёвая / худшая) … GPT 4o (дороже / лучше). Я рекомендую вам уменьшить количество переменных, перейдя на страницу LLM и отключив GPT-4 и 3.5 turbo, оставив включённым только 4o. https://forum.georgegammon.com/admin/plugins/discourse-ai/ai-llms

  • Системные промпты имеют значение. Если вы хотите, чтобы LLM вела себя определённым образом, включите в системный промпт несколько примеров «правильного поведения».

  • Также присутствует элемент случайности, который трудно контролировать.

Пожалуйста, попробуйте снова с GPT 4o и посмотрите, как получится.

Спасибо @sam, это сработало. Мы также добавили дополнительную строку в системный промпт: «когда вы получаете ссылку, убедитесь, что она ведет только на ресурсы внутри этой платформы».

Кажется, этот бот сделал наш сервис в 10 раз более ценным для наших участников. :flexed_biceps::flexed_biceps::flexed_biceps: