Eu tenho muitos problemas com ferramentas baseadas em LLM (e com os resultados delas). Não apenas os problemas de segurança, legais, de confiabilidade e ambientais. Mas isso não é o principal aqui.
A segurança, em sua definição ampla, é o problema importante aqui. Se o código foi gerado por IA ou não.
Que ferramentas a CDCK usa para verificações de segurança? Várias delas também seriam importantes para criações de terceiros.
Mas há mais coisas para verificar. Com quais sistemas externos a criação de terceiros se comunica? A maioria das ferramentas de análise de segurança aceita que o software se comunique com servidores externos, sem um heartbeat. Mas um componente de tema puramente cosmético não deve realizar nenhuma chamada para um servidor externo. Portanto, a criação de terceiros pode conter falhas de segurança, ou conter problemas que podem prejudicar a disponibilidade. Mas eles também podem exfiltrar dados.