Samuel Parra, abogado especializado en derecho tecnológico, afirma que esta cadena no tiene validez legal y precisa que “al utilizar X aceptas sus términos y condiciones, que implican que la red social puede utilizar tu contenido y este se pueda editar con modelos de inteligencia artificial”. Así lo dice su Política de privacidad, donde la red social indica que recopila nuestras “publicaciones y otros contenidos”, y que estos se pueden usar para ”prestar, mejorar y personalizar” sus servicios.
La Política sobre la información privada y el contenido multimedia de X sí nos permite denunciar la publicación de contenido multimedia de personas particulares sin el permiso de las personas que participan en este. Eso sí, esta norma no aplica para las figuras públicas ni para los contenidos disponibles públicamente.
Las cadenas de texto que aseguran que si las compartimos podremos proteger nuestros datos y contenidos no son algo nuevo: ya las hemos visto sobre otras redes sociales, como Facebook. Según la abogada experta en derecho de tecnologías de la información Paloma Llaneza, no se permite que el usuario negocie las condiciones de uso: “Poner una declaración de ese tipo no tiene ningún valor legal ni en Europa ni en España".
Grok está respondiendo a los usuarios que publican la cadena mensajes como “respetaré tu solicitud y no tomaré, procesaré ni editaré ninguna de tus fotos o ilustraciones, ni atenderé peticiones de terceros al respecto. Gracias por avisar”, que les puede llevar a creer que realmente este texto tiene un efecto real y puede protegerlos.
Pero según indica Ernesto Serrano, ingeniero informático especializado en ciberseguridad y maldito que nos ha prestado sus superpoderes, “publicar una cadena de texto no cambia cómo está programado un sistema de IA ni condiciona su comportamiento técnico”. Y añade que “los modelos no ‘leen’ ni recuerdan ese tipo de avisos de forma persistente, ni pueden usarlos como una señal para aplicar excepciones personales”.
Así lo demuestran ejemplos que se han viralizado de usuarios que han compartido esta cadena, pero cuyas fotos igualmente han sido manipuladas con Grok por otros. Para que la IA dejase de crear estos contenidos, sería necesario poner límites en su programación, como barreras de seguridad. Según un análisis de Copyleaks, una plataforma de detección de contenidos con IA, X estaría restringiendo algunos prompts [instrucciones de texto] para evitar que se generen estas imágenes, aunque los usuarios siguen encontrando formas de saltarse estas restricciones.
Estas respuestas de Grok, según Serrano, “forman parte de una contestación automática, diseñada para alinearse con la intención del usuario en esa interacción concreta, pero sin efectos posteriores”. Esto es resultado del sesgo de adulación que suelen tener estos sistemas, que hacen que nos den la razón en todo.
Para evitar que se manipulen las fotos, CNBC apunta algunos consejos para reducir la exposición, como configurar nuestra cuenta de X como privada y limitar quiénes pueden interactuar con nosotros. Si somos víctimas, podemos denunciar el contenido en la misma plataforma. En España, podemos denunciar ante un juzgado una vulneración al honor y la imagen, ya que el hecho de que las imágenes que usen estén publicadas en la red social no significa que los usuarios puedan modificarlas libremente.
En el caso de que las víctimas sean menores, dependiendo del caso, pueden perseguirse penalmente como pornografía infantil.
En este artículo ha colaborado con sus superpoderes el maldito Ernesto Serrano, ingeniero informático especializado en ciberseguridad.
Gracias a vuestros superpoderes, conocimientos y experiencia podemos luchar más y mejor contra la mentira. La comunidad de Maldita.es sois imprescindibles para parar la desinformación. Ayúdanos en esta batalla: mándanos los bulos que te lleguen a nuestro servicio de WhatsApp, préstanos tus superpoderes, difunde nuestros desmentidos y hazte Embajador.