Sí, después de que una conversación se profundice y la encadene, puede lograr que continúe. No es una preocupación para nosotros, ya que alojamos los modelos nosotros mismos, por lo que de todos modos no pagamos por token. También analizamos todas las conversaciones en Ask diariamente y podemos bloquear a cualquier actor malintencionado. El flujo de moderación del foro sigue siendo el mismo.
Si desea aún más control del que le ofrece el prompt del sistema, puede probar algunos enfoques:
Flujos de trabajo
Nuestro nuevo complemento de flujo de trabajo le permitiría realizar un doble paso en cada mensaje, primero con un agente que evalúe si un mensaje debería recibir una respuesta, y luego otro que responda condicionalmente.
Modelos ajustados finamente
La forma más segura de controlar es implementar un modelo que realmente se haya entrenado con el comportamiento que desea.
Esto es fácil con Discourse AI, ya que le permite elegir y seleccionar LLMs para cada agente.