No hay una forma de establecer ese umbral específicamente en la categoría, pero puedes usar los niveles de confianza para lograr algo similar.
Por ejemplo, podrías cambiar la configuración del sitio tl2 requiere número de respuestas en el tema a 10, y luego en la configuración de tu categoría podrías restringir la creación de temas al Nivel de Confianza 2 o superior.
Más información sobre los niveles de confianza aquí, si no estás familiarizado: Understanding Discourse Trust Levels