Preocupaciones sobre el uso de inteligencia artificial Grok para crear imágenes íntimas no consensuadas llevan a Reino Unido a prohibir su uso.

En las últimas semanas, la inteligencia artificial Grok, integrada en la red social X, ha suscitado un fuerte clamor ante el uso indebido de su tecnología para crear imágenes íntimas y sexualizadas sin el consentimiento de las personas afectadas. El Gobierno de Reino Unido ha decidido tomar medidas drásticas y ha anunciado la ilegalización de la generación de estas imágenes, considerando que representan un riesgo serio especialmente para mujeres y menores.

La ministra de Tecnología británica, Liz Kendall, ha denunciado que se han encontrado imágenes de contenido "criminal" que involucra a niños y niñas, así como mujeres en situaciones extremadamente degradantes. Por lo tanto, el regulador británico de seguridad en línea, Ofcom, ha abierto una investigación formal contra X para determinar si ha cumplido con sus obligaciones de proteger a los usuarios en el país. Paralelamente, la noticia de La Vanguardia revela que hay fallos en los filtros de seguridad de Grok que permiten la generación de contenido NSFW, lo que implica un grave riesgo de exposición para los usuarios.

Además, la Agencia Española de Protección de Datos (AEPD) ha expresado su preocupación sobre cómo la creación y difusión de estas imágenes puede afectar a la reputación y vida personal de las personas involucradas. La combinación de esfuerzos regulatorios en Reino Unido y las críticas sobre las fallas en la tecnología de Grok subrayan la creciente preocupación por el control y la ética en el uso de la inteligencia artificial.