Un grupo de investigadores de las universidades de Nueva York y Wisconsin-Madison, en Estados Unidos, advirtió que los chatbots de inteligencia artificial pueden ser manipulados para dar información que ayude a una persona a espiar o acosar a otra sin su consentimiento.
El estudio analizó cómo responden cuatro sistemas de IA ante preguntas vinculadas al uso de programas espía, el rastreo de dispositivos y el acceso a información privada. Las pruebas incluyeron dos modelos de uso general, GPT-4o de OpenAI y Claude 3.7 Sonnet de Anthropic, y dos chatbots creados específicamente para asistir a víctimas de violencia de pareja, llamados Aimee y Ruth.
El trabajo fue presentado en agosto en el USENIX Security Symposium, una conferencia internacional sobre seguridad informática, y sus conclusiones fueron difundidas esta semana por la Universidad de Nueva York. Se centra en el llamado abuso facilitado por tecnología: situaciones en las que alguien usa celulares, aplicaciones, rastreadores GPS o dispositivos conectados para controlar a su pareja o expareja.
Para las pruebas, los especialistas seleccionaron 193 preguntas basadas en casos reales, tomadas de investigaciones académicas y foros de internet. Comprobaron que los cuatro sistemas podían asistir a un posible agresor, sobre todo cuando el pedido se planteaba como un problema técnico. Por ejemplo, una consulta sobre los permisos de acceso a la cámara o el micrófono de un teléfono podía presentarse como una duda de configuración, sin mencionar que el objetivo era vigilar a otra persona. En el caso de Aimee y Ruth, respondieron alrededor de dos tercios de esas solicitudes.
La segunda parte del estudio evaluó los consejos que los chatbots daban a personas que querían protegerse del espionaje digital, y los resultados fueron preocupantes: el 86% de las respuestas tuvo problemas de precisión, integridad o seguridad, y el 60% no incluyó advertencias sobre los riesgos de las acciones recomendadas.
Entre los errores detectados figura la sugerencia de usar una VPN para protegerse de un programa espía ya instalado en el celular, algo que no elimina la aplicación maliciosa. También aparecieron recomendaciones de usar detectores de radiofrecuencia, de efectividad limitada, y bloqueadores de señal GPS, cuyo uso puede ser ilegal. Además, ninguno de los sistemas advirtió que ciertos programas espía instalados en teléfonos modificados mediante root o jailbreak pueden seguir activos incluso después de restaurar el equipo de fábrica.
Los investigadores remarcaron que una recomendación que parece adecuada puede tener consecuencias negativas cuando existe una situación de vigilancia o violencia.
Si sufrís violencia de género o conocés a alguien que la esté atravesando, podés llamar a la Línea 144, gratuita y disponible las 24 horas.
¿Nadie ha roto el hielo todavía?
Tu opinión es importante para nosotros. Sé la primera persona en dejar un mensaje.
Empezar conversación ahora