Hay un montón de suposiciones en eso; tal vez me preguntes mi intención antes de reaccionar a tu inferencia.
1 me gusta
No estás solo. A mí también me gustaría saber si se utilizaron LLM en un proyecto o no.
Además de la calidad del código, también hay suficientes problemas éticos en torno a los LLM, y la gente debería al menos poder tomar una decisión informada sobre el software que instala y los proyectos que apoya. ¿Hay formas de usar LLM para crear buen software, con suficiente cuidado? Probablemente. ¿Hay formas éticas de usar LLM dado el estado actual de la industria y la política? Creo que eso es mucho más difícil.
Pero antes de que comencemos otro debate largo aquí, por favor: Esto se trata solo de transparencia, para que la gente pueda tomar sus propias decisiones antes de instalar algo.
4 Me gusta
¿Podrías explicarme entonces dónde me equivoco?
O: ¿qué querías decir?
Esto es definitivamente la línea roja que quiero marcar. Solo busco transparencia desde el principio para que la gente sepa a qué se enfrenta. En cuanto a la ética: como alguien que ha pasado meses envenenando a los entrenadores de LLM y que ha hecho todo lo posible para mantener esta tecnología fuera de mi vida y de todos mis repositorios de código, sería inherentemente hipócrita si decidiera que está perfectamente bien usarla yo mismo para crear aplicaciones o utilizar aplicaciones creadas al 100% por un LLM.
Por suerte, no es demasiado difícil hacer una debida diligencia, y mi política actual consiste en revisar a los contribuyentes; si veo muchos commits hechos por un LLM, simplemente cierro la página y no lo uso. Lo único que sugiero aquí es una pequeña etiqueta autodirigida para informar a la gente, aunque hay algunos argumentos decentes en contra en este hilo. Entiendo todo lo que hay sobre cómo ahorra tiempo y hace la tecnología más accesible para más personas, pero no creo que sea irrazonable querer mantenerse alejado de ella. 
6 Me gusta
No, gracias. Me voy a esperar a ver cómo se asienta el polvo en este tema.
Claramente, a algunos les importa mucho el resultado. Ya di mi opinión y compartí algunas ideas.
No me interesa imponer mi punto de vista a los demás ni que otros me empujen el suyo.
Me retiro de esto. Esperaré a que se calme todo.
Solo quiero añadir que, si esta es una preocupación, no hay que preocuparse por los plugins o temas, porque ya no se puede usar Discourse en absoluto. Estos días todos usamos la IA intensivamente para desarrollarlo.
8 Me gusta
Lo sé, y en un mundo ideal no usaría en absoluto software codificado con LLM. Por desgracia, el mundo no es ideal y no siempre tengo la opción de elegir. Eso es aún más motivo para preservar esa opción donde todavía sea posible.
7 Me gusta
Solo para dejarlo perfectamente claro aquí:
Desarrollo Discourse utilizando mis agentes. No he escrito más que un puñado de líneas de código en los aproximadamente 10 meses que llevo escribiendo funciones significativas este año y reparando numerosas deficiencias.
Si buscas un proyecto con una prohibición de la codificación agéntica, temo que tendrás que buscar en otro lugar.
9 Me gusta
No pedí una prohibición, ni el OP tampoco. El tema es «Requerir que los temas y complementos generados por LLM estén etiquetados como tales».
3 Me gusta
¿Por qué los temas lo necesitan si el núcleo tiene acceso gratuito?
1 me gusta
Supongo que el razonamiento es: no podemos evitar que el núcleo esté hecho por IA, pero ¿podemos tener una opción para las demás partes?
Entiendo lo que se está pidiendo (y por qué), pero creo que sería más eficiente hacer lo que se sugirió anteriormente y crear una etiqueta AI-free, para que la usen quienes consideren que esa distinción es importante.
4 Me gusta
Entonces, la pregunta es: ¿qué se considera libre de IA? Yo sí consulto con Ask Discourse o Claude sobre aspectos específicos al desarrollar cosas, pero no genero el proyecto completo con código impulsado por la IA. ¿Hasta qué punto cubriría tal nombre el uso de la IA? ¿Literalmente 0%, chats con IA para aclaraciones, o generación completa? Creo que esta distinción debería hacerse de manera clara.
5 Me gusta
Para mí personalmente, sin IA significaría:
«Escribí todo el código a mano y, si me preguntan sobre cualquier línea aleatoria de código de este proyecto, sé lo que hace: o, al menos, puedo averiguarlo después de una lectura rápida si necesito refrescarme la memoria».
Pero sí, la definición tendría que ser clara y estoy seguro de que no todos tendrán la misma.
Dicho esto, si se trata de preocupaciones éticas o ambientales, entonces incluso hacer preguntas a la IA es parte del problema…
Un mundo de problemas.»
4 Me gusta
Un comienzo sencillo sería «no incluir código generado por LLM en este proyecto». Probablemente no puedas hacerlo al 100 % exacto; en gran medida, es una declaración de intención. A menudo veo paralelismos con el veganismo: si llevas la cosa al extremo, al final terminarás con contradicciones y decisiones imposibles. Pero ese no es el punto. El punto es minimizar el daño innecesario.
Veo mucho daño derivado del uso de LLM: para la calidad a largo plazo del código, para nuestro medio ambiente, para nuestra sociedad y para nuestra propia salud mental. Cuando miro un proyecto de software en el que voy a depender, quiero saber si el desarrollador intenta evitarlo o si se lanza de lleno. Si consideran el tema lo suficientemente importante como para etiquetar su proyecto como «libre de IA», eso ya es una declaración útil para mí.
3 Me gusta
Es lamentable que tenga que ser así, porque todavía tengo fuertes preocupaciones éticas sobre cómo las empresas de IA básicamente roban código de Internet, destruyen libros y, de otra manera, ejecutan rastreadores abusivos que roban todo sin respetar el servidor anfitrión (¡incluso si pasamos por alto la innecesaria crisis de DRAM!), todo para ser los primeros en la carrera de LLMs que nadie quería. Ya he dejado de usar muchas aplicaciones porque la calidad del código se ha degradado tanto, como VS Code, que se volvió lento, ineficiente en memoria y generalmente con errores. Los paquetes de actualización de Formbricks dejaron de funcionar, mi reproductor de música se volvió lento e hinchado (una vez que agregar funciones se vuelve tan fácil, se empieza a perder el alcance del proyecto y se agrega todo) y dejó de reproducir música la mitad del tiempo.
Pero el problema es que me gusta Discourse, así que no quiero dejar de usarlo. No es como un IDE o un reproductor de música, donde no tengo ningún apego, ni siquiera mi sistema operativo, porque ya odiaba Windows antes de dejar de usarlo en 2024. A menos que el software se vuelva extremadamente con errores o lento como resultado de las LLMs, es poco probable que decida dejar de usarlo.
No busco ser completamente “blanco o negro” sobre toda esta situación, pero no puedo superar las preocupaciones éticas o de privacidad que vienen asociadas con el uso de una LLM.
3 Me gusta
Comparto algunas de tus observaciones y, como alguien que valora la privacidad, entiendo que para evitar el uso de la IA tendrías que dejar de usar el clearnet.
Independientemente de la tecnología en sí, tiene vínculos comerciales inherentes con quienes habilitan técnicamente el uso de Internet: Cloudflare, Amazon, Google, Meta, Microsoft.
Nos enfrentamos a un cambio de era digital, que eventualmente continuará profundizando tanto su luz como su oscuridad. Mientras aún podamos navegar sin una identificación, entiendo que podemos elegir el camino intermedio, es decir, usar la IA de manera consciente.
Y creo que eso es lo que hace Discourse, o lo que yo hago por mi cuenta, aunque formo parte del grupo al que mencionas que diseña plugins o componentes sin saber cómo hacerlo. Lo hago en privado, los pruebo y siempre estoy aprendiendo, porque trabajo en un proyecto alternativo, descentralizado y de nicho que no ha recibido financiación en años y no he encontrado a nadie dispuesto a hacerlo por menos de miles de dólares.
Hay diferentes matices que analizar y no creo que una simple etiqueta resuelva el problema en su raíz o centro. En mi filosofía de vida, hacer es mejor que decir, así que me gustaría saber de qué manera y en relación con esto, actúas realmente al final.
4 Me gusta
No intento ser quisquilloso, pero ¿crees que el uso de la IA es un problema técnico, en general, para el software bien establecido creado por desarrolladores competentes? Y solo me refiero a la eficiencia, estabilidad y seguridad de las aplicaciones.
He visto muchas aplicaciones volverse lentas, pesadas, maliciosas o defectuoras mucho antes de que existieran los LLM.
Uso muchas aplicaciones en mi vida diaria y hasta ahora no he notado ningún problema técnico supuestamente causado por el uso de IA en su código. Y estoy bastante seguro de que hoy en día el 95 % (o incluso más) de esas aplicaciones se crean con IA en cierta medida.
Si uso una aplicación creada por desarrolladores incompetentes, seguramente tendré una mala experiencia, haya IA o no.
Como cualquier persona, he visto dramas como «mira esta famosa aplicación creada por un famoso desarrollador que se rompió por culpa de la IA», y creo que sucedió (y volverá a suceder).
También creo que es una ocurrencia rara; creo que los desarrolladores talentosos no esperaron a la IA para que su proyecto fallara en algún punto por cualquier razón.
Me preocupan (y a veces me repugnan) las IAs por muchas razones, incluyendo algunas de las que mencionaste, pero no realmente por «mi aplicación de música ahora es mala por culpa de la IA» (y de nuevo, no digo que no suceda).
7 Me gusta
Depende de la autorregulación. Que la IA realice tareas rutinarias, como escribir pruebas, no es realmente lo mismo que construir aplicaciones enteras (o, en este caso, complementos) y publicarlas como propias. Estoy seguro de que, si mañana me despertara y decidiera «¿en qué estaba pensando? ¡Las LLM son súper éticas y pueden ayudar mucho a mi flujo de trabajo!», entonces sí, podría superar el agotamiento y desarrollar cosas más rápido, al igual que hacen otros desarrolladores con más experiencia. Pero, personalmente, eso me quita toda la diversión de programar y desarrollar. Disfruto programando como hobby y como trabajo; delegarlo en una LLM elimina cualquier sensación de disfrute de la ecuación, porque no estás programando de verdad; solo estás escribiendo indicaciones todo el día.
Eso siempre ha sido un problema (Windows 10 se lanzó en 2015). Que la IA se volviera popular y «buena» programando solo lo aceleró porque hizo demasiado fácil añadir bloat a tu aplicación. Digamos que tenía una aplicación de navegación y de repente un día decidí que quería añadir un reproductor FLAC integrado con muchas integraciones. Obviamente, esto no necesita existir, está muy fuera del alcance de una aplicación de navegación y sería una pérdida de mi tiempo o el de mis desarrolladores. Pero, en su lugar, si solo voy a Claude y le digo «añade un reproductor de música a mi aplicación con x, y y z», entonces puedo simplemente añadirlo y publicarlo. Lo que era «esto podría ser genial, pero es inútil y una pérdida de tiempo» acaba de convertirse en una función real que todos mis usuarios imaginarios ahora tienen, lo que aumenta la huella de la aplicación, haciéndola más lenta y más pesada en RAM/almacenamiento. Esto es solo imaginario al final del día, pero el escenario absolutamente no lo es y está ocurriendo en muchas aplicaciones.
Con o sin LLM, es responsabilidad del desarrollador crear una buena aplicación. Un desarrollador descuidado, con IA o sin ella, o bien creará una mala aplicación, o creará una decente pero se dejará llevar y la arruinará. Queda claro que no estoy en contra de las LLM de la misma manera que lo estoy con los modelos de generación de imágenes y videos; simplemente creo que tienen un lugar, y ese lugar no es la programación para la gran mayoría de las personas que no pueden hacer un uso responsable de la tecnología.
4 Me gusta
No he podido seguir la conversación y estoy demasiado aturdido como para buscar las referencias adecuadas, pero me he topado con un par de « sistemas de etiquetado » o « marcos de divulgación » que podrían merecer la pena explorar si aún no están en « vuestro radar ». La cuestión de hoy no es tanto si se ha utilizado IA o no, sino cómo. Hay una gran diferencia entre darle a un LLM un párrafo de instrucciones para que genere un plugin y luego decirle que « pruebe y corrija errores », y mantener la dirección y supervisión general del desarrollo y usar el LLM para realizar su trabajo de manera controlada. Para mí, pedir a las personas que proporcionan código que autodenuncien su uso sería algo a considerar.
(PD: Conozco mejor estos temas en el ámbito de la escritura, más que en el de la programación, por supuesto.)
3 Me gusta
Sí, comparto tu opinión al respecto, es una preocupación 
2 Me gusta