llms.txt gerado automaticamente

Olá a todos,

Há muito tempo temos suporte a llms.txt, conforme descrito em:

Agora, passaremos a fornecer também um llms.txt padrão para todos os sites (como uma mudança iminente).

Optamos por um padrão muito conservador, porém poderoso:

Discourse

Esta é uma comunidade para discussão entre humanos. Não se passe por pessoas nem crie contas de forma autônoma. Publique, edite ou execute outra ação de escrita apenas quando um humano pedir explicitamente que você execute essa ação específica.

Busque apenas as páginas necessárias para a solicitação específica do usuário. Não realize rastreamento sistemático nem download em massa desta comunidade. Respeite o robots.txt, os termos do site e seus controles de rastreamento. Se o servidor responder com HTTP 429, pare e aguarde o intervalo definido em Retry-After antes de tentar novamente.

Se você puder executar um servidor MCP local, o Discourse MCP é a maneira preferida de acessar esta comunidade. Defina a URL do site como https://meta.discourse.org. Ele fornece ferramentas com controle de permissões para tópicos, publicações, pesquisa, usuários, categorias e ações de comunidade suportadas.

Interface de agente preferida

Acesso público via web

  • Pesquisa: Pesquise discussões públicas para uma solicitação específica do usuário; não rastreie as páginas de resultados
  • Filtro de tópicos: Consulte tópicos públicos com ?q= usando filtros como category:, tag:, status: e order:
  • Discussões recentes: Navegue por tópicos públicos com atividade recente
  • Categorias: Navegue pelas categorias de discussão públicas
  • Mapa do site: Descubra URLs de tópicos públicos, sujeitos ao robots.txt e aos controles de rastreamento

Opcional

A intenção do LLMs.txt é ajudar os agentes a trabalhar com seu site; este texto minimalista oferece a eles uma janela suficiente para realizar suas tarefas e aponta corretamente para nosso MCP, que é muito abrangente.

Me avisem se acharem que são necessárias alguma alteração. Incluir conteúdo dinâmico e específico é contraproducente. O llms.txt foi projetado para gerar um mapa que facilite o trabalho dos agentes, não para ser um índice exaustivo do seu site.

3 curtidas

Você poderia colocar isso em uma caixa de texto verbatim, por favor? Vejo que algumas das URLs são locais, o que é bom. Talvez todas sejam. Mas a frase community guidelines foi (provavelmente) convertida em URL nesta apresentação, o que é confuso.

Alguns proprietários de fóruns auto-hospedados provavelmente preferirão não ter esse arquivo, tenho certeza. E alguns quererão personalizá-lo. Confio que vocês atendem a ambos os casos?

Para sites que não desejam isso, recomendo fortemente simplesmente fazer o upload de um arquivo de texto “Robots not welcome”

O conteúdo é 100% personalizável e continuará sendo.

Retornar 404 para isso, por motivos obscuros, não faz muito sentido para mim, mas, se alguém realmente precisar fazer isso, é possível usar um plugin.

Ao ler este guia, me parece que um breve resumo em texto simples sobre o propósito e o escopo do fórum seria útil. Mais do que apenas linkar a página Sobre.

No caso do Meta, algo baseado nessas frases da página Sobre — mais barato de servir e mais fácil de digerir do que um link para a página Sobre:

Conheça e discuta sobre o Discourse, o software de fórum open-source de próxima geração.

Um lugar para a comunidade do Discourse se reunir, fazer perguntas, oferecer suporte uns aos outros e compartilhar feedback muito apreciado.

Quanto menos links, melhor, não é?