J’ai de nombreuses réserves concernant les outils basés sur les LLM (et leurs résultats). Ce ne sont pas seulement les problèmes de sécurité, juridiques, de fiabilité et environnementaux. Mais ce n’est pas le point principal ici.
La sécurité, au sens large, est le vrai enjeu ici, que le code soit généré par une IA ou non.
Quels outils CDCK utilise-t-il pour les contrôles de sécurité ? Certains d’entre eux seraient également importants pour les créations tierces.
Mais il y a encore plus de points à vérifier. Avec quels systèmes externes la création tierce communique-t-elle ? La plupart des outils d’analyse de sécurité acceptent qu’un logiciel communique avec des serveurs externes, sans mécanisme de vérification de vie (heartbeat). Mais un simple composant cosmétique ne devrait effectuer aucun appel vers un serveur externe. La création tierce peut donc contenir des failles de sécurité, ou des problèmes susceptibles de nuire à la disponibilité. Elle pourrait également exfiltrer des données.