Gracias por el artículo del blog, fue una lectura interesante, Sam 
Esto ha estado por toda internet, pero ¿es la amenaza de seguridad (“nuestros modelos son demasiado peligrosos”) la razón real o principal para no lanzarlos?
Algunas personas afirman que se inclina más hacia un truco de relaciones públicas, aunque sin eliminar por completo el potencial de los modelos. Un ejemplo: On Anthropic's Mythos Preview and Project Glasswing - Schneier on Security
Ciertamente no sé nada sobre todos esos temas complejos, pero soy cauteloso cuando leo artículos que se difunden con rapidez en todos los sitios de noticias y comunidades en línea. Supongo que hay ciertas salvedades en lo que se afirma. Que probablemente haya algo de verdad y otra información que necesita aclaración, o que está sobrevalorada.
No tengo ninguna duda de que los modelos son increíblemente rápidos para encontrar y probablemente explotar vulnerabilidades, y tú mismo lo destacaste con el ejemplo de código de Discourse.
Sobre el artículo en sí, solo señalar algo que me pareció extraño al leerlo:
El código cerrado siempre ha sido una defensa más débil para el SaaS de lo que la gente quiere admitir. Una aplicación web no es algo que se lanza una vez y se mantiene oculto. Grandes partes de ella se entregan directamente al navegador del usuario en cada solicitud: JavaScript, contratos de API, flujos del lado del cliente, lógica de validación y comportamiento de las funciones. Los atacantes ya pueden inspeccionar todo eso, y la IA hace que esa inspección sea drásticamente más barata. Cerrar el repositorio puede ocultar algunos detalles de implementación del lado del servidor, pero no hace que el sistema sea invisible. Lo que principalmente hace es reducir cuántos defensores pueden inspeccionar el panorama completo.
Luego, más adelante:
El código cerrado puede comprar cierta oscuridad, pero la oscuridad es frágil. El código se filtra, los binarios se desensamblan, las APIs se mapean y los atacantes aprenden mucho simplemente interrogando al sistema en ejecución. La verdadera defensa no es mantener el código oculto para siempre. Se trata de construir software y prácticas operativas que resistan cuando llegue el escrutinio.
Al leer el segundo párrafo, tuve la sensación de que ya lo había leído.
Subí con el scroll y noté que los dos párrafos son muy, muy similares. Ambos dicen lo mismo, pero con una redacción diferente.
Entiendo la necesidad de resumir, pero en este caso, realmente tuve la sensación de haber leído básicamente lo mismo unos párrafos antes.