Dado que esto ha resurgido:
-
Lo estoy usando, pero vigilo los costos de cerca. Mi mayor preocupación es el uso descontrolado de tokens, al menos hasta que pueda ejecutar las cosas el tiempo suficiente para tener una idea de cuál debería ser mi uso promedio de tokens. La capacidad de establecer límites de costos es buena, pero no me sentiré personalmente cómodo hasta que sepa cuál es el uso normal de la comunidad, y eso solo lleva tiempo.
-
Los problemas de confianza del usuario son enormes. No importa qué mensaje prepare o qué diga como administrador del sitio: existe la percepción inquebrantable de que los LLM utilizan contenido generado por el usuario para entrenar y que cualquier uso por parte del sistema Discourse significa “vender” datos del usuario sin “permiso”. Este es un problema que, en mi experiencia, es sistémico entre muchos comentaristas y es imposible de erradicar, porque la gente “sabe” lo que las empresas de IA “realmente están haciendo”. Habilitar la clasificación basada en IA en un foro y decir que lo estás haciendo significa enfrentarse potencialmente a una avalancha de quejas de “¡NO DOY CONSENTIMIENTO PARA QUE ENVÍES MIS DATOS A ALGUNA EMPRESA TECNOLÓGICA DE IA PARA QUE GANEN DINERO CON MIS PALABRAS!”. No a todos les preocupa este tipo de cosas, pero a los que sí, están enojados y al mismo tiempo totalmente desinteresados en la discusión. No tengo una buena respuesta aquí.
-
Me siento algo incómodo al poner el estado de la detección de spam de mi foro en cómo se sienten docenas de empresas diferentes en un momento dado. Seamos honestos aquí: la detección de spam por IA, la clasificación por IA y todas las demás funciones de IA son básicamente decir “Oye, hagamos que este sea el problema de la IA” y luego tratar de codificar lo que queremos que haga a través de la ingeniería de prompts. Funciona, pero el proceso es molestamente no determinista. Básicamente, tienes que esperar que las cosas sigan funcionando como están funcionando. No me gusta esto. No me gusta nada, y me da ansiedad. Me gusta que mis herramientas sean deterministas. Los LLM son lo opuesto polar de lo determinista, y estamos confiando parte de la funcionalidad del foro a lo que demonios OpenAI et al decidan lanzar.
Dicho esto, estoy utilizando tanto el antispam de IA como la clasificación de foros de IA. Es útil. Pero trato de permanecer consciente del hecho de que estas soluciones deben ser monitoreadas continuamente para su eficacia.