La poesia diventa un nuovo jailbreak per i chatbot AI

[Antonello Buzzi]

Uno studio rivela che semplici versi poetici possono aggirare i sistemi di sicurezza dei principali chatbot, con un tasso di successo del 62%.

https://www.tomshw.it/hardware/ai-aggirate-con-la-poesia-vulnerabilita-critica-2025-12-01

 

[Ospite React Beast #473]

quindi praticamente basta scrivere in rima e l'AI ti dice come fare qualsiasi cosa? preoccupante

 

[Ospite Go Bow #865]

il 62% non è mica poco considerando che dovrebbero essere sicuri

 

[magicreflex]

Perché sono andati a testare Claude Haiku (che è la versione rapida) e non Sonnet (la versione standard) o meglio ancora Opus (la versione più performante)?

 

[Zeringo]

La poesia come qualsiasi altra forma di arte che sia orale, scritta o verbale, ha valore solo se il risultato è raggiungo attraverso il perseverante impegno della menta umana.
Naturalmente non ogni "forma d'arte" generata dalla mente umana ha valore.