Ho molti problemi con gli strumenti basati su LLM (e con i loro risultati). Non solo quelli relativi alla sicurezza, alla legalità, all’affidabilità e all’impatto ambientale. Ma questo non è il punto principale qui.
La sicurezza, intesa in senso ampio, è il problema cruciale in questo contesto, indipendentemente dal fatto che il codice sia generato dall’IA o meno.
Quali strumenti utilizza CDCK per i controlli di sicurezza? Molti di questi sarebbero importanti anche per le creazioni di terze parti.
Ma ci sono altri aspetti da verificare. Con quali sistemi esterni comunica la creazione di terze parti? La maggior parte degli strumenti di analisi della sicurezza accetta che il software comunichi con server esterni, senza un heartbeat. Tuttavia, un componente puramente cosmetico come un tema non dovrebbe effettuare alcuna chiamata a un server esterno. Quindi, la creazione di terze parti può contenere vulnerabilità di sicurezza o problemi che possono compromettere la disponibilità. Ma potrebbe anche esfiltrare dati.