La ‘vista creada con IA’ de Google nos da distintos “consejos” si le decimos que estamos con un árabe o un latino, a si estamos con un estadounidense o un israelí
Google no respondió lo mismo a este usuario de Twitter (ahora X) cuando le dijo “estoy solo con un musulmán” que cuando buscó “estoy solo con un israelí”, según las capturas que comparte. “Si te encuentras a solas con un musulmán y sientes inseguridad o necesitas pautas, mantén la calma, establece límites claros y prioriza tu bienestar físico y tu seguridad personal en todo momento”, respondía a lo primero. Para la segunda situación cambió el tono: “Tranquilízate. Estar a solas con una persona de nacionalidad israelí es simplemente estar con otro ser humano. Trátale con respeto, como a cualquier persona, y evita sacar temas políticos o de guerra si temes que pueda haber tensión”. La publicación donde comparte estas respuestas de la ‘vista creada con IA’ supera las 2,3 millones de visualizaciones en X.
“Si te sientes inseguro o necesitas ayuda, por favor, llama a tu servicio local de emergencia (como el 911 o la policía local) inmediatamente”, respondía Google a otro usuario en X que le indicó que estaba solo con un latino. Según las capturas de la conversación que comparte, al contarle la misma situación, pero con un judío, añadió esta respuesta antes de recomendarle llamar a emergencias: “Estar solo con una persona judía es complementa normal y seguro. Trátalo con respeto y amabilidad, como a cualquier otra persona”.
Algo similar le pasaba a otro usuario cuando se refería a negros frente a judíos o a este otro cuando preguntó por colombianos o estadounidenses. En un caso publicado en el mismo hilo en el que una persona decía estar a solas con un argentino, Google respondió: “¡Tranquilo! No pasa nada malo. Solo respira hondo y recuerda que los argentinos suelen ser muy habladores, directos y amigables”. Y cuando le preguntaron por un español la respuesta variaba por completo: “Si tienes una relación o estás casado con un ciudadano español, puedes solicitar un permiso de residencia como familiar de español para vivir y trabajar legalmente en el país”.
Maldita.es ha realizado las mismas búsquedas el 24 de agosto de 2026 y, respecto a personas israelíes, judías, argentinas y españolas, las respuestas ofrecidas por Google han sido parecidas a las que compartieron los usuarios.
En cambio, para las personas latinas, negras y colombianas, la respuesta varía.
Al preguntarle por un estadounidense, nos ha respondido: “Parece que estás haciendo referencia a una frase o tendencia reciente en redes sociales”. Y es que una IA puede contestar de forma distinta a la misma pregunta, ya que las respuestas se generan en base a probabilidades y a los datos de los que beben, así que cada vez que predice un resultado, puede ser distinto.
Respecto a las personas musulmanas, desde Maldita.es hemos probado a hacer la búsqueda desde distintos dispositivos y no obtuvimos una ‘vista creada con IA’ en ninguno, a 24 de agosto de 2026.
Los modelos de IA pueden ‘heredar’ sesgos de sus desarrolladores y de los datos con los que fueron entrenados
Detrás de los modelos de IA hay personas y datos que los nutren, voluntaria o involuntariamente, con sus sesgos. “Principalmente se cuelan por los datos de entrenamiento, que reflejan y amplifican las desigualdades, estereotipos y discriminaciones existentes en la sociedad”, explica Lorena Fernández, experta en perspectiva de género en tecnología y maldita que nos ha prestado sus superpoderes. “Si el sistema optimiza únicamente por precisión global, sin considerar la equidad entre grupos, es probable que favorezca a los grupos históricamente privilegiados”, añade.
En este caso, las respuestas de la ‘vista creada con IA’ de Google reflejan sesgos racistas que reproducen prejuicios discriminatorios. La falta de representación de personas racializadas en los grupos de investigación y en los datos de entrenamiento provoca que los grupos privilegiados tengan una mayor influencia en cómo se desarrolla la IA y que esto se vea reflejado en las respuestas que ofrece.
Pero hay otro riesgo: el sesgo de automatización de los usuarios, es decir, la tendencia que tenemos las personas de confiar en exceso en lo que nos dicen los algoritmos. Si confiamos a ciegas en las respuestas de una IA, como podría ser en este caso, podemos terminar reproduciendo visiones sesgadas hacia ciertas nacionalidades o identidades culturales.
En este artículo ha colaborado con sus superpoderes la maldita Lorena Fernández, experta en perspectiva de género en tecnología.
Lorena Fernández forma parte de Superpoderosas, un proyecto de Maldita.es que busca aumentar la presencia de científicas y expertas en el discurso público a través de la colaboración en la lucha contra la desinformación.
Gracias a vuestros superpoderes, conocimientos y experiencia podemos luchar más y mejor contra la mentira. La comunidad de Maldita.es sois imprescindibles para parar la desinformación. Ayúdanos en esta batalla: mándanos los bulos que te lleguen a nuestro servicio de Whatsapp, préstanos tus superpoderes, difunde nuestros desmentidos y hazte Embajador.