Это здорово! Отличная работа!
В процессе диагностики я обнаружил ещё одну ошибку: на странице конфигурации LLM (/admin/plugins/discourse-ai/ai-llms/%/edit) при выборе любого из вариантов «Отключить поддержку нативных инструментов (использовать инструменты на основе XML) (опционально)» или «Отключить потоковые завершения (преобразовать потоковые запросы в непотоковые)» и нажатии кнопки «Сохранить» появляется временное уведомление «Успешно!», но после перезагрузки страницы оба или любой из выбранных вариантов оказываются снятыми.
Проблемы с сбросом соединения всё ещё сохраняются, и я продолжаю их исследовать. Похоже, это сочетание обработки сокетов в Ruby-коде (FinalDestination / разрешение DNS / Faraday) и контейнера Debian 12, запущенного на виртуальной машине Ubuntu 24.04.
Я развернул тестовую виртуальную машину Ubuntu 22.04, и там проблем нет: все эмбеддинги и инференс работают идеально. Сбросов соединения не наблюдалось.
Я продолжу работать над этой проблемой, возможно, она связана с новым способом, которым Ubuntu 24.04 управляет TCP-стеком через netplan.