Há muitas suposições nisso. Talvez seja melhor perguntar o que eu quis dizer antes de reagir à sua inferência.
1 Curtiu
Você não está sozinho. Eu também gostaria de saber se LLMs foram usados em um projeto ou não.
Além da qualidade do código, existem também questões éticas suficientes em torno dos LLMs, e as pessoas deveriam ao menos poder tomar uma decisão informada sobre o software que instalam e os projetos que apoiam. Existem maneiras de usar LLMs para criar um bom software, com o devido cuidado? Provavelmente sim. Existem maneiras éticas de usar LLMs, dado o estado atual da indústria e da política? Acho que isso é muito mais difícil.
Mas antes de começarmos outro debate longo aqui, por favor: isso é apenas sobre transparência, para que as pessoas possam tomar suas próprias decisões antes de instalar algo.
5 Curtiram
Então, por favor, explique-me onde estou errado?
Ou: o que você quis dizer?
Isso é definitivamente o ponto central do que eu quero. Eu só quero transparência desde o início para que as pessoas saibam em que estão se metendo. No que diz respeito à ética: como alguém que passou meses envenenando os treinadores de LLMs e fez de tudo para manter essa tecnologia fora da minha vida e de todas as minhas bases de código, seria inerentemente hipócrita da minha parte decidir que está tudo bem usá-la para criar aplicativos eu mesmo ou usar aplicativos 100% criados por um LLM.
Felizmente, não é tão difícil fazer uma verificação prévia, e minha política atual é checar os contribuidores; se eu vejo muitos commits feitos por um LLM, eu simplesmente saio e não uso o projeto. Tudo o que estou sugerindo aqui é um pequeno rótulo autodirigido para avisar as pessoas, mas há alguns pontos razoáveis contra isso neste tópico. Eu entendo tudo sobre como isso economiza tempo e torna a tecnologia acessível a mais pessoas, mas não acho que seja irrazoável querer se afastar dela. 
7 Curtiram
Não vou entrar nessa, vou esperar ver como as coisas se resolvem.
Claramente, algumas pessoas têm um interesse no resultado. Dei minha opinião e ofereci alguns pensamentos.
Não tenho interesse em impor minha opinião aos outros nem em deixar que outros a imponham a mim.
Estou fora disso. Vou esperar a poeira baixar.
Só acrescentando a ideia de que, se essa for uma preocupação, você não precisa se preocupar com plugins/temas, porque você não consegue mais usar o Discourse de jeito nenhum. Todos nós estamos usando IA intensamente nos dias de hoje para desenvolvê-lo.
9 Curtiram
Eu sei, e num mundo ideal eu não usaria nenhum software codificado por LLM. Infelizmente, o mundo não é ideal e nem sempre tenho escolha. Isso só torna mais importante preservar essa opção onde ainda for possível.
8 Curtiram
Apenas para deixar isso perfeitamente claro aqui:
Eu desenvolvo o Discourse usando meus agentes. Não escrevi mais do que algumas poucas linhas de código nos cerca de 10 meses em que estive trabalhando nisso. Neste ano, escrevi recursos significativos e corrigi inúmeras falhas.
Se você está procurando um projeto com proibição de codificação agêntica, temo que terá que procurar em outro lugar.
9 Curtiram
Eu não pedi por uma proibição, e o autor do tópico também não. O tema é “Exigir que temas e plugins gerados por LLM sejam marcados como tal”.
4 Curtiram
Por que os temas precisam disso, se temos uma isenção para o núcleo?
1 Curtiu
Imagino que a lógica seja: não conseguimos evitar que o núcleo seja feito por IA, mas podemos oferecer uma opção para as demais partes?
Entendo o que está sendo pedido (e por quê), mas acho que seria mais eficiente fazer o que foi sugerido anteriormente e criar uma tag AI-free (livre de IA), para ser usada por quem considera essa distinção importante.
4 Curtiram
Então, a questão é o que constitui “livre de IA”? Eu faço perguntas ao Ask Discourse ou ao Claude sobre coisas específicas ao desenvolver algo, mas não uso IA para gerar todo o projeto. Até que ponto um nome assim cobriria o uso de IA? Literalmente 0%, chats de IA apenas para esclarecimentos, ou geração completa? Acho que essa distinção deve ser feita de forma clara.
5 Curtiram
Para mim, pessoalmente, livre de IA significaria:
“Eu escrevi todo o código manualmente e, se me perguntarem sobre qualquer linha aleatória de código neste projeto, eu sei o que ela faz – ou, no mínimo, consigo descobrir depois de uma leitura rápida, caso precise me lembrar.”
Mas sim, a definição teria que ser clara e tenho certeza de que nem todos terão a mesma.
Dito isso, se a questão for sobre preocupações éticas/ambientais, então até mesmo fazer perguntas à IA faz parte do problema…
É uma caixinha de surpresas.
4 Curtiram
Um começo simples seria “nenhum código gerado por LLM neste projeto”. Provavelmente você não consegue tornar isso 100% exato; é principalmente uma declaração de intenção. Eu frequentemente vejo paralelos com o veganismo: se levado ao extremo, eventualmente você acaba com contradições e escolhas impossíveis. Mas esse não é o ponto. O ponto é minimizar o dano desnecessário.
Eu vejo muito dano vindo do uso de LLMs: para a qualidade de código a longo prazo, para nosso ambiente, para nossa sociedade e para nossa própria saúde mental. Quando olho para um projeto de software no qual vou depender, quero saber se o desenvolvedor tenta evitar isso ou se está totalmente a favor. Se ele considera a questão importante o suficiente para rotular seu projeto como “livre de IA”, isso já é uma declaração útil para mim.
4 Curtiram
É lamentável que as coisas tenham que ser assim, pois ainda tenho fortes preocupações éticas com a forma como as empresas de IA basicamente roubam código da internet, destroem livros e, de modo geral, executam rastreadores abusivos que roubam tudo sem respeitar o servidor hospedeiro (mesmo que se olhe além da crise desnecessária de DRAM!), tudo isso para chegar primeiro na corrida de LLMs que ninguém queria. Já parei de usar vários aplicativos porque a qualidade do código piorou tanto, como o VS Code, que ficou lento, ineficiente em memória e, de modo geral, cheio de bugs. Os pacotes de atualização do Formbricks pararam de funcionar, meu player de música ficou lento e inchado (quando adicionar recursos fica tão fácil, você começa a perder o escopo do projeto e adiciona tudo) e parou de tocar música metade do tempo.
Mas o problema é que eu gosto do Discourse, então não quero parar de usá-lo. Não é como uma IDE ou um player de música, onde não tenho nenhum apego, ou até mesmo meu sistema operacional, porque eu já odiava o Windows antes de parar de usá-lo em 2024. A menos que o software fique extremamente cheio de bugs ou lento como resultado das LLMs, é improvável que eu decida parar de usá-lo.
Não estou buscando ser totalmente “preto ou branco” sobre toda essa situação, mas não consigo superar as preocupações éticas ou de privacidade que vêm associadas ao uso de uma LLM.
4 Curtiram
Compartilho algumas das suas observações e, como alguém que valoriza a privacidade, entendo que, para evitar o uso de IA, você teria que parar de usar o clearnet.
Independentemente da tecnologia em si, ela possui, por natureza, vínculos comerciais com aqueles que tecnicamente viabilizam o uso da Internet: Cloudflare, Amazon, Google, Meta, Microsoft.
Estamos diante de uma mudança de era digital, que continuará a aprofundar tanto sua luz quanto sua escuridão. Enquanto ainda pudermos navegar sem um ID, entendo que podemos escolher o caminho do meio, ou seja, usar a IA conscientemente.
E acho que é isso que o Discourse faz, ou o que eu faço por conta própria, mesmo fazendo parte do grupo que você mencionou, que projeta plugins ou componentes sem saber como fazê-lo. Eu faço isso em particular, os testo e estou sempre aprendendo, porque trabalho em um projeto alternativo, descentralizado e de nicho que não recebe financiamento há anos e não encontrei ninguém disposto a fazê-lo por menos de milhares de dólares.
Há diferentes nuances a analisar e não acredito que uma simples etiqueta resolva o problema em sua raiz ou no seu centro. Na minha filosofia de vida, fazer é melhor do que dizer, então gostaria de saber de que forma e em relação a isso, você realmente age no final das contas.
4 Curtiram
Não estou tentando ser chato, mas você acha que o uso de IA é um problema técnico, em geral, para softwares bem estabelecidos feitos por desenvolvedores competentes? E estou falando apenas da eficiência, estabilidade e segurança dos aplicativos.
Já vi muitos aplicativos ficarem lentos, inchados, maliciosos ou quebrados muito antes de existirem LLMs.
Uso muitos aplicativos no meu dia a dia e até agora não notei nenhum problema técnico supostamente causado pelo uso de IA em seu código. E tenho certeza de que, hoje em dia, 95%, senão mais, desses aplicativos são feitos com IA em algum grau.
Se eu usar um aplicativo feito por desenvolvedores incompetentes, certamente terei uma experiência ruim, com IA ou não.
Como qualquer pessoa, já vi dramas como “olhem para este aplicativo famoso feito por um desenvolvedor famoso que quebrou por causa de IA”, acredito que isso aconteceu (e vai acontecer de novo).
Também acho que isso é uma ocorrência rara; acredito que desenvolvedores talentosos não precisaram da IA para seus projetos falharem em algum momento, por qualquer motivo.
Estou preocupado (e às vezes repugnado) com as IAs por muitos motivos, incluindo alguns dos que você mencionou, mas não tanto por “meu aplicativo de música agora é ruim por causa da IA” (e, de novo, não estou dizendo que isso não aconteça).
7 Curtiram
Depende da autorregulação. Fazer a IA executar tarefas triviais, como escrever testes, não é realmente a mesma coisa que construir aplicativos inteiros (ou plugins, neste caso) e publicá-los como se fossem seus. Tenho certeza de que, se eu acordasse amanhã e decidisse “no que eu estava pensando, LLMs são super éticos e podem realmente ajudar meu fluxo de trabalho!”, então, sim, eu seria capaz de superar o burnout e desenvolver coisas mais rápido, como alguns outros desenvolvedores mais experientes fazem. Mas, pessoalmente, isso tira toda a diversão da programação e do desenvolvimento. Eu gosto de programar como hobby e como trabalho — terceirizar isso para um LLM tira qualquer sensação de prazer da equação, porque você não está realmente codificando; você está apenas digitando prompts o dia todo.
Isso sempre foi um problema (o Windows 10 foi lançado em 2015). A IA se tornando popular e “boa” em programação apenas acelerou isso, porque tornou muito fácil adicionar bloat ao seu aplicativo. Digamos que eu tivesse um aplicativo de navegação e, de repente, decidisse um dia que queria adicionar um player de FLAC embutido com toneladas de integrações. Obviamente, isso não precisa existir, está muito fora do escopo de um aplicativo de navegação e seria um desperdício do meu tempo ou do tempo dos meus desenvolvedores. Mas, em vez disso, se eu for ao Claude e disser “adicione um player de música ao meu aplicativo com x, y e z”, então eu posso simplesmente adicioná-lo e lançá-lo. O que era “isso pode ser legal, mas é inútil e desperdício de tempo” acaba se tornando um recurso real que meus usuários imaginários agora todos têm, o que aumenta a pegada do aplicativo, tornando-o mais lento e mais pesado em RAM/armazenamento. Isso é apenas imaginário no final das contas, mas o cenário absolutamente não é e está acontecendo com muitos aplicativos.
Com ou sem LLMs, é responsabilidade do desenvolvedor criar um bom aplicativo. Um desenvolvedor descuidado, com IA ou não, ou fará um aplicativo ruim ou fará um decente, mas se deixará levar e o estragará. Fica claro que não sou estritamente contra LLMs da mesma forma que sou com modelos de geração de imagem e vídeo; eu apenas acredito que eles têm um lugar, e esse lugar não é codificar para a grande maioria das pessoas que não podem usar a tecnologia de forma responsável.
5 Curtiram
Ainda não acompanhei toda a conversa e estou com a cabeça muito cheia para procurar as referências adequadas, mas encontrei alguns « sistemas de rotulagem » ou « estruturas de divulgação » que talvez valesse a pena investigar, caso ainda não estejam « no seu radar ». A questão hoje é menos sobre se a IA foi usada ou não, e mais sobre como. Existe uma enorme diferença entre dar a um LLM um parágrafo de instruções para que ele gere um plugin e depois pedir que ele « teste e corrija erros », e entre manter a direção geral e a supervisão do desenvolvimento, usando o LLM para executar seu trabalho de forma controlada. Para mim, pedir às pessoas que fornecem código que façam uma autodeclaração seria algo a ser considerado.
(P.S.: Estou mais familiarizado com essas questões no campo da escrita, do que na programação, é claro.)
3 Curtiram
Sim, compartilho sua opinião sobre isso, é uma preocupação 
3 Curtiram