Dudo que podamos prevenir todas las alucinaciones, pero en este caso, quizás podríamos incluir indicaciones más claras en el prompt para empezar con el hecho de que no se encontraron resultados.
1 me gusta