MENÚ
¡Feliz sábado, malditos y malditas! ¿Cómo estáis? Por aquí, tristes y preocupadas: el miércoles leímos en The New York Times que un adolescente que había creado un vínculo emocional con un chatbot de IA se suicidó. La familia del menor ha demandado a la empresa, Character.AI, que permite crear tu propios chatbots y decirles cómo deben actuar; el menor había usado uno que imita a Daenerys Targaryen, el personaje de Juego de Tronos. El niño había compartido con su chatbot sus sentimientos amorosos y sus intenciones de quitarse la vida, y parece que entendió que podría reunirse con ella habiendo fallecido.
La empresa emitió justo el mismo día un comunicado diciendo que va a revisar sus protocolos: “Estamos desconsolados por la trágica pérdida de uno de nuestros usuarios (...). Como empresa, nos tomamos muy en serio la seguridad de nuestros usuarios y seguimos añadiendo nuevas funciones de seguridad”. La cosa es que permiten que menores de edad usen sus chatbots. Analizaremos las peligrosas implicaciones de todo esto. Hoy, vamos con IA en Facebook y desinformación en EEUU.
Niños que hacen esculturas y manualidades… que no existen
Facebook parece haberse convertido en una interminable galería de imágenes creadas con inteligencia artificial. La red social está llena de páginas de spam que se dedican a publicar contenidos generados con esta tecnología y que tienen cosas en común: son de baja calidad y muchos representan a niños posando junto a obras de arte de barro, plástico o paja, o pasteles que han preparado. Otras enseñan a niños negros sonriendo o a perros posando junto al atardecer.
Además, todas van acompañadas del mismo tipo de mensajes. “Esta hermosa obra de arte fue creada por un niño artista…”. “Esta fotografía es tan bonita…”. “La hice con mis propias manos 😊, pero nadie lo aprecia 😞”. Textos cursis o grandilocuentes para generar empatía o lástima. La realidad es que esos niños no existen.
¿Qué buscan estas páginas? ¿Por qué le interesaría a alguien que nos creamos que es real que hay un niño haciendo una escultura de barro de Messi? Pues POR dinero. Las páginas que las publican acumulan miles de seguidores, lo que les permite generar ingresos al monetizar su contenido con anuncios en el perfil o sistemas de suscripción. Logran todas esas interacciones porque despistan sobre el origen artificial de las imágenes, captan la atención de los usuarios y muchos de ellos creen que son reales, y acaban siguiendo las cuentas. Tener más seguidores les permite aumentar las interacciones, lo que a su vez les ayuda a generar ingresos.
También utilizan estas publicaciones para redirigir a los usuarios a granjas de contenido o a webs para timarlos, vender productos que no existen y engañarlos para que entreguen sus datos personales. Aquí te contamos todo para que estés alerta y no te la cuelen.
No son los únicos contenidos falsos que hay en redes sociales: en Facebook hay cuentas que difunden desinformaciones y teorías sin pruebas sobre la vida privada de famosos, como Shakira o Messi. (Efectivamente, parece haber algún tipo de fijación con el futbolista).
Desinfo en las elecciones de EEUU de la mano de Elon Musk
De Donald Trump como un héroe en el huracán Helene o salvando gatitos, a Kamala Harris sexualizada, desprestigiada o vinculada a Epstein, hace un par de semanas te conté que las imágenes generadas con inteligencia artificial se están usando para influir políticamente y desinformar en las elecciones presidenciales de EEUU. Esta semana lo mostramos en vídeo, para que puedas compartirlo en Twitter o Instagram, porque juntos es más difícil que nos la cuelen.
Y es que no paran de intentar colárnosla sobre este tema: llevamos desmentidos 41 bulos y desinformaciones sobre las elecciones de Estados Unidos de 2024 y sus candidatos. Esto es peligroso porque los votantes estadounidenses corren el riesgo de ir a votar desinformados y sin tener en su mano toda la información correcta.
Esta semana hemos analizado cómo Elon Musk (dueño del renombrado Twitter, X; Tesla y robots humanoides; y SpaceX) está financiando indirectamente algunas de estas desinformaciones e informaciones confusas que circulan sobre la candidata demócrata, Kamala Harris. Ya vimos cómo afirmaba que Harris era comunista usando una imagen falsa generada con IA.
Ahora hemos analizado la web progress2028.com, que se hace pasar por una campaña de Harris que incluye versiones exageradas o engañosas de sus propuestas que desinforman a los votantes. La web se promociona por mensajes de texto y anuncios en Facebook e Instagram, en los que se han invertido más de 178.000 dólares durante la última semana y que han llegado principalmente a mujeres en los estados bisagra (aquellos que pueden determinar los resultados de las elecciones).
Sin embargo, no es su equipo el que está detrás de esta página ni de estas medidas, sino la organización política sin ánimo de lucro Building America's Future, que apoya la candidatura de Donald Trump y que ha recibido donaciones de Musk.
También hay anuncios en Facebook, Instagram, YouTube y Snapchat contra Harris pero, dependiendo de dónde estés, te saltará uno u otro. En Míchigan han aparecido anuncios online en los que se asegura que la candidata demócrata Kamala Harris apoya a Israel. Míchigan es un estado con mucha población árabe-musulmana. Sin embargo, en Pensilvania, que tiene la mayor población judía de EEUU, hay anuncios en redes sociales donde muestran a Harris apoyando a Palestina.
Estas campañas publicitarias han sido pagadas por Future Coalition PAC, un comité de acción política que recibe contribuciones de la misma organización política de antes, a la que ha donado Musk. No es el único PAC en el que el empresario está poniendo dinero: ha donado al menos 75 millones de dólares a America PAC, que él mismo creó y que está siendo investigado.
Por cierto, la próxima semana no hay Tech en un clic, pero puedes estar pendiente de toda la actualidad tech y de los temas relacionados con las elecciones de EEUU en nuestra web y en la newsletter del resumen de la semana de Maldita.es.
En tres bits
Ciberestafas no, gracias. Como estamos en la Semana Mundial de la Alfabetización Mediática e Informacional y cualquier excusa es buena para estar ciberprotegido, aquí te dejamos una lista de herramientas tecnológicas que puedes usar para protegerte de las ciberestafas. Apunta: utiliza analizadores de URL para ver si una página web es fraudulenta, haz una comprobación de los dominios de las páginas web y sospecha si han sido creados recientemente, reporta las páginas webs maliciosas para ayudar a otros usuarios, verifica si tus datos se han filtrado en una brecha de seguridad de una empresa, usa generadores y gestores de contraseñas para mantener tus claves a salvo, instala un antivirus en tus dispositivos para más seguridad y, sobre todo, mantén la calma y observa bien todo lo que te llega por internet. Esas son las claves, pero aquí tienes los detalles.
IA sin límites ni regulación tampoco, gracias. Las prisas no son buenas, y cuando hablamos de tecnología y de cómo esta puede afectar a nuestros derechos fundamentales, menos. Sin embargo, hay movimientos que promueven lo contrario: el aceleracionismo efectivo o ‘e/acc’ (igual te suena ver esto en cuentas de X) es un movimiento tecnooptimista que promueve el desarrollo acelerado y sin límites regulatorios de la inteligencia artificial para, dicen, alcanzar el progreso social y la abundancia. Hemos hablado con dos expertas y un experto para entender si esto tiene sentido. Spoiler, no: si se hace a lo loco puede haber consecuencias, como modelos opacos (cajas negras) o sistemas de IA que respondan a intereses políticos y económicos. No todo es pesimismo, porque claro que se puede ser optimista si el desarrollo de la IA se hace con control y responsabilidad. Nos gusta especialmente una reflexión de Teresa Rodríguez de las Heras, miembro del Grupo Experto de la Comisión Europea de Responsabilidad y Tecnologías, que nos transmitió la idea de que la tecnología no se enfrenta al ser humano, sino que lo acompaña.
Aprender más vocabulario sí, gracias (pero mejor leyendo libros). “Es surrealista. Hemos creado una máquina que puede hablar, que aprendió a hacerlo de nosotros, de nuestra cultura. Y ahora nosotros estamos aprendiendo de la máquina. Es la primera vez en la historia que una tecnología humana puede enseñarnos cosas de manera tan explícita”. Esto dice el coautor de una investigación que ha concluido que la influencia de la inteligencia artificial generativa de textos está haciendo que las personas incorporen palabras promovidas por ChatGPT en conferencias y escenarios académicos. Esto que puede parecer inofensivo esconde posibles consecuencias nada inofensivas para la inteligencia colectiva e influir en nuestro vocabulario, como analizan en El País.
¿Tienes dudas sobre el día a día online? ¿Hay algún tema del mundo de la tecnología que te genere curiosidad y sobre el que te gustaría que ampliáramos información? ¿Quieres compartir algún tema interesante con la comunidad maldita? ¡Escríbenos a [email protected]! Y no olvides suscribirte.
