Я только что протестировал Chatbot с новой по умолчанию моделью 3B llama3.2 локально и должен сказать, что это НЕВЕРОЯТНО.
Инструменты работают, и это очень быстро.
Отличная работа, Meta!
Это фантастический вариант для разработки или экспериментов с низкими затратами или при ограниченном доступе к интернету.
Настройки:
(В этом случае выпадающий список моделей игнорируется, так как вы указали опцию пользовательской модели)
У вас должен быть установлен и запущен ollama.