Injection di prompt: Il rischio di sicurezza maggiore nelle applicazioni AI
Un avvocato ha presentato un memorandum a un tribunale federale citando sei casi. Nessuno di essi esisteva. ChatGPT li aveva inventati — con nomi di casi realistici, numeri di riferimento e un ragionamento legale plausibile. L’avvocato è stato sanzionato. La storia ha fatto scalpore nei notiziari nazionali. E questo illustra perfettamente perché l’injection di prompt sia il problema di sicurezza che preoccupa l’IA.