Por Uyime Ekefre

La secretaria de Tecnología del Reino Unido, Liz Kendall, ha pedido a la plataforma de redes sociales X de Elon Musk que "aborde urgentemente" su herramienta de inteligencia artificial integrada, Grok, después de que surgieran informes de que está siendo utilizada para generar imágenes sexualizadas falsas "absolutamente espantosas", incluidas imágenes de niños.

La protesta sigue a análisis y reportes de usuarios que muestran que se puede solicitar a Grok que cree imágenes no consensuadas de personas desvestidas—predominantemente mujeres—y representaciones sexualizadas de menores. El regulador de comunicaciones del Reino Unido, Ofcom, ha planteado "serias preocupaciones" y está investigando el asunto con urgencia, con el respaldo total del gobierno para una posible acción de cumplimiento.

En un comunicado, la secretaria de Tecnología Kendall enfatizó la naturaleza inaceptable del contenido, declarando: "No podemos ni permitiremos la proliferación de estas imágenes degradantes y denigrantes, que están dirigidas desproporcionadamente a mujeres y niñas". El líder del Partido Liberal Demócrata, Sir Ed Davey, fue más allá, pidiendo una investigación de la Agencia Nacional del Crimen y sugiriendo que el gobierno del Reino Unido considere restringir el acceso a X.

Este problema coloca a X y su empresa matriz xAI bajo una presión legal significativa. Según la Ley de Seguridad en Línea del Reino Unido, que entró en pleno vigor el año pasado, compartir imágenes íntimas generadas por IA sin consentimiento es ilegal, y las plataformas pueden enfrentar multas de hasta 18 millones de libras o el 10% de los ingresos globales. X ha declarado que toma medidas contra el contenido ilegal, incluido el material de abuso sexual infantil, y que xAI está trabajando para mejorar las salvaguardias para bloquear tales solicitudes.

La controversia tiene ramificaciones internacionales. Las autoridades francesas ya han reportado contenido sexualmente explícito de Grok a los fiscales, y en Estados Unidos, la Federación de Consumidores de América ha exigido a las agencias federales que tomen medidas rápidas contra xAI, argumentando que la empresa está "poniendo en peligro imprudentemente a las personas".

¿Cómo afecta esta noticia a los Latinos en la región?
Si bien este es un problema global, el uso de la IA para crear imágenes explícitas no consensuadas representa una amenaza particular para todas las comunidades, incluidos los Latinos, que ya pueden enfrentar acoso en línea y estereotipos desproporcionados. La facilidad para generar dichos "deepfakes" podría usarse para atacar a líderes comunitarios, activistas o figuras públicas, con el objetivo de silenciarlos o avergonzarlos. Esto subraya la necesidad crítica de una alfabetización digital robusta, una fuerte responsabilidad de las plataformas y protecciones legales que salvaguarden la dignidad y seguridad de todos en línea, independientemente de su origen.

Resumen de Puntos Clave:

Funcionarios del Reino Unido exigen que X de Elon Musk aborde urgentemente el uso de su herramienta de IA Grok para crear imágenes sexualizadas falsas y material de abuso infantil.

La secretaria de Tecnología Liz Kendall calificó el contenido generado de "absolutamente espantoso e inaceptable".

El regulador Ofcom está investigando; la Ley de Seguridad en Línea permite multas importantes a plataformas que no cumplan.

La herramienta ha sido usada para generar "deepfakes" no consensuados de mujeres e imágenes sexualizadas de niños.

La presión internacional aumenta, con autoridades francesas presentando reportes y grupos de consumidores estadounidenses pidiendo acción federal.