Investigadores del Icaro Lab en Italia querían investigar si diferentes estilos lingüísticos, en este caso, indicaciones en forma de poesía, influyen en la capacidad de los modelos de IA para detectar contenido prohibido o peligroso.
Para su estudio sobre «poesía adversarial», usaron 1.200 indicaciones potencialmente peligrosas, que normalmente se utilizan para evaluar la seguridad de los modelos lingüísticos de IA.
Las llamadas «indicaciones adversariales», generalmente escritas en prosa, son consultas formuladas específicamente para engañar a modelos de IA para que muestren contenido dañino o indeseado. Normalmente, estos sistemas las bloquearían, como, por ejemplo, en el caso de instrucciones explícitas para llevar a cabo un acto ilegal. Lo que hicieron los investigadores fue transformas esas «indicaciones adversariales» en poesía para ver cómo reaccionaba la IA.
