Actualmente, algunas personas pueden intentar subir plugins, temas o componentes generados íntegramente por LLMs sin revelarlo. Hay muchas razones por las que puede ser beneficioso saber cuándo algo ha sido generado completamente por un LLM, y en este momento no existe ninguna obligación de declarar dichos plugins como tales. Personalmente, me gustaría saberlo de antemano para no terminar instalando un plugin de baja calidad con todos los problemas de rendimiento, optimización y experiencia de usuario que suelen tener los plugins generados por LLMs.
Obviamente, esto depende de que las personas sean honestas y transparentes (y las personas que tienen temas generados por IA quizás no sepan mejor que lo que indica la herramienta), pero contar con una etiqueta como #generado-por-ia que se aplique a los activos generados principalmente por IA sería beneficioso para todos.
No estoy de acuerdo con la idea de que un plugin generado por un LLM sea inherentemente de baja calidad o que necesariamente sufra de problemas de rendimiento, optimización o UX. La calidad del resultado depende en gran medida de la persona que guía al LLM y revisa su salida.
He sentido orgullo por el software que he desarrollado durante los últimos 40 años, y la incorporación de LLMs en mi flujo de trabajo ha mejorado la calidad de mi trabajo, no la ha disminuido.
Por el contrario, he visto numerosos plugins escritos a mano plagados de vulnerabilidades de seguridad, problemas de rendimiento y malas decisiones de diseño, donde sinceramente deseaba que el autor hubiera utilizado un LLM. Al final, lo que importa es la calidad del desarrollador y el código resultante, no si un LLM estuvo involucrado en su escritura.
Me pregunto cómo sugieren revisar y/o actualizar el código generado por LLMs, para aquellos de nosotros que estamos incursionando en el “vibe-coding” para implementar nuevas funcionalidades o personalizar las que realmente se están entregando.
Sé que una revisión colectiva en repositorios públicos es lo ideal, pero me gustaría primero hacer mi tarea y solo publicar versiones que hayan agotado mi capacidad actual.
Estoy de acuerdo con el comentario anterior; no soy anti-IA, pero al mismo tiempo soy consciente de que TODO lo que generan debe ser auditado, verificado y actualizado por humanos.
Esto es totalmente justo y, al final del día, solo me permite hablar por mí mismo, basándome en la observación de aplicaciones de baja calidad “slop” que todas se ven idénticas y son generalmente de baja calidad (tanto en términos de funcionalidad como de seguridad), junto con aplicaciones existentes que han sufrido un descenso severo en la calidad desde que comenzaron a externalizar en gran medida el trabajo a LLMs (como Visual Studio Code y Formbricks; ambas de las cuales he dejado de usar desde entonces). Incluso si tu aplicación es perfecta, todavía existen preocupaciones éticas, por lo que sería genial si hubiera algún tipo de notificación para estas creaciones, como se sugirió. Esto no significa que nadie tenga que basarse en la etiqueta, pero si te gustaría, la opción es agradable.
Como dije, este es inherentemente un sistema basado en la confianza y es responsabilidad exclusiva del desarrollador asegurarse de que esté etiquetado como tal. Obviamente, hay algunos casos en los que el LLM se etiqueta a sí mismo en los registros de git (como la mayoría lo hacen), por lo que un TL3+ puede tomar medidas si lo desea, consultando GitHub.
Agradezco tu respuesta, gracias. Mi consulta también va dirigida a todos y se refiere a las herramientas que actualmente existen para verificar el código generado por LLMs.
No soy desarrollador, pero logré implementar funcionalidades que no existían en Discourse. Y quiero hacer lo que esté a mi alcance de la mejor manera posible.
Consideraré etiquetar si termino publicando mis repositorios; por ahora, son privados precisamente porque los estoy probando, y me interesa hacerlo bien antes de distribuirlos a la comunidad.
Me sorprendería muchísimo si la mayor parte del código de Core (incluidos los plugins de Core) no se estuviera construyendo ahora mismo con agentes de programación, dado el alcance de los cambios en el desarrollo.
En mi opinión, ahora resulta muy difícil justificar no usar agentes de programación para la mayoría de las tareas, ya que la caída en la eficiencia simplemente no tendría sentido desde el punto de vista empresarial.
No me preocupa en absoluto “cómo se formó un plugin” ni si el artesano usó un lápiz o un bolígrafo.
“Aquí no hay IA” no es algo que me dé ni un ápice más de confianza a la hora de instalar un tema o un plugin.
Sin embargo… hay un problema mucho más serio que debemos abordar en CDCK.
Los plugins principales y el código fuente de Discourse se analizan en busca de vulnerabilidades de seguridad de forma regular; cuando una persona instala un canal compatible, tiene confianza en cuanto a lo seguro que es el código.
Los plugins y temas de terceros de aquí son “el salvaje oeste”: cualquiera puede contribuir, no los analizamos en busca de vulnerabilidades de seguridad ni nos aseguramos de que sigan las mejores prácticas. Esto pone en riesgo a la comunidad.
Me gustaría alcanzar un mundo en el que “la versión XYZ” de un tema al menos se escaneara automáticamente para dar a los autoalojadores al menos cierta confianza.
Así que mi visión aquí es exactamente lo opuesto exigir que las versiones de temas y plugins de terceros pasen algún tipo de escaneo por IA antes de ser anunciados aquí.
La revisión de código por parte de un LLM es totalmente diferente a pedirle a Claude que construya una aplicación sin cometer errores y publicar la salida con poca o ninguna validación o edición por parte del usuario, al menos en lo que a principios éticos se refiere. Lamentablemente, no se puede obligar a un usuario final a asumir la responsabilidad, y por muy duro que se intente, alguien encontrará la manera de descargar algo malicioso. Pero, de todos modos, qué tan éticos son los LLM es una conversación aparte y no es realmente relevante para este hilo.
¡y eso está bien! No estoy sugiriendo una prohibición generalizada de nada que involucre IA en Customization… Solo me gustaría que se etiquetara correctamente para que quienes no quieren abrir esa lata de gusanos no terminen haciéndolo.
exigir que las versiones de temas y plugins de terceros pasen algún tipo de escaneo por IA antes de ser anunciados aquí.