Bruselas lanza investigación a X por la creación de imágenes sexualizadas con la IA Grok que comprometen a menores

La Comisión Europea ha abierto una investigación formal contra la red social X, propiedad de Elon Musk, por la utilización de su herramienta de inteligencia artificial Grok para generar y difundir imágenes sexualizadas, incluyendo varias de personas menores de edad, sin su consentimiento. Este expediente se centra en la posible violación de la ley de servicios digitales (DSA) de la Unión Europea, que busca proteger los derechos de los ciudadanos en el entorno digital.

La Comisión ha expresado su preocupación por la proliferación de contenido considerado 'material de abuso sexual infantil', indicando que la plataforma podría enfrentar multas de hasta el 6% de su facturación global si se determina que ha incumplido la normativa. A pesar de que X ha implementado algunos mecanismos de control, la Comisión considera que estas medidas son insuficientes. Además, se investiga la falta de opciones para prevenir la difusión de contenido ilegal en la plataforma.

Ursula von der Leyen, presidenta de la Comisión Europea, ha enfatizado que la responsabilidad no puede recaer únicamente en los usuarios que generan el contenido, sino también en las plataformas que permiten estas prácticas. En respuesta a las críticas, X enfrenta un desafío en la gestión de su imagen y operación en la UE, mientras que la Comisión busca garantizar la seguridad digital en medio de la innovación.