@MachineScholar Realmente quiero agradecerte por tu análisis de costos y por ayudarme a entender esto. Estoy un poco abrumado con toda la información nueva, pero los jóvenes pasantes de informática parecen absorber la información como una esponja. Puede que estén pensando 8 veces más rápido que yo…
Tengo un pasante trabajando en el plugin de IA para dos comunidades diferentes de Discourse. Estamos pagando a los pasantes, pero son baratos y ciertamente entusiastas. El pasante que principalmente hace el trabajo de IA está en un programa de informática de la Universidad de California y a menudo me pregunto cómo son las discusiones en el campus en un grupo tan joven donde el futuro es tan claramente suyo para crearlo.
También me pregunto cómo es tu propio entorno de investigación. Pareces estar profundamente involucrado en la tecnología. Qué buen momento para estar involucrado. Tan emocionante.
Probablemente comenzaré un nuevo tema en mi próxima pregunta. El pasante está implementando Google Custom Search y acceso a tokens de GitHub para el bot de IA. No estoy muy seguro de qué son estas cosas. Sin embargo, espero que el bot de IA pueda acceder a los repositorios de GitHub para revisar la documentación… No estoy seguro de lo que es posible. Tampoco sé si se utiliza la Generación Aumentada por Recuperación (RAG) en el plugin de IA de Discourse.
Con respecto a la eficacia de DeepSeek R1 frente a o1, otro pasante me estaba hablando de usarlo para sus proyectos de CS utilizando la interfaz de usuario de la aplicación web (usando ChatGPT Plus). Por lo tanto, la prueba fue súper informal, pero el entusiasmo por DeepSeek por parte de uno de los pasantes fue grande.
El pasante que realmente está trabajando en la implementación de IA ha sido mucho más reservado sobre las diferencias entre los LLM. Principalmente está proporcionando tablas de costos y uso con comentarios limitados hasta ahora sobre las diferencias de uso. Haremos que todos los LLM estén disponibles para la comunidad y les pediremos que evalúen. Por lo tanto, es inteligente por parte del pasante mantener su opinión baja en este momento.
Gracias de nuevo por tu ayuda en mi camino.