X bloqueará la generación de imágenes sexualizadas con Grok a todos los usuarios

La red social X, propiedad del magnate Elon Musk, ha anunciado que bloqueará la generación de imágenes sexualizadas a través de Grok, la inteligencia artificial de la aplicación, tras la creciente polémica relacionada con la creación de fotografías de personas con ropa interior o bikinis, entre ellas menores de edad.

En un mensaje publicado en la propia plataforma, la cuenta de seguridad de X ha explicado que la medida llega con el compromiso de la red social de «crear un espacio seguro para todos y continuar con la tolerancia cero con cualquier forma de explotación sexual de menores, desnudos sin consentimiento y contenido sexual no deseado».

«Hemos implementado medidas tecnológicas para evitar que la cuenta de Grok permita la edición de imágenes de personas reales con ropa reveladora, como bikinis. Esta restricción se aplica a todos los usuarios, incluidos los suscriptores de pago», ha informado X en la publicación.

El pasado 9 de enero, X anunció que la función de generación de imágenes se limitaría para los usuarios con suscripción. Ahora, ha ampliado la restricción a todos los usuarios de la plataforma. De esta forma, ya no se podrán crear fotografías o ilustraciones con bikinis o prendas íntimas.

«Bloqueamos geográficamente la posibilidad de todos los usuarios para generar imágenes de personas reales en bikini, ropa interior y atuendos similares a través de la cuenta Grok y en Grok in X en aquellas jurisdicciones donde sea ilegal», ha matizado la compañía.

Presiones hacia X

Más allá del compromiso de «tolerancia cero» de X a la generación de este tipo de imágenes, la medida llega tras una creciente serie de presiones hacia la plataforma.

Además de las denuncias de los usuarios, ya son varios los países que han tomado medidas para frenar esta mala práctica de la inteligencia artificial de X. La Unión Europea ha pedido a la aplicación conservar toda la documentación relativa a la generación de imágenes hasta finales de año, Reino Unido amenazó con bloquear la red social y Malasia e Indonesia directamente prohibieron el uso de Grok.

También se han pronunciado organizaciones de derechos digitales, seguridad infantil y derechos de las mujeres, que han pedido directamente a Apple y Google que se tomen medidas para «prohibir Grok» en sus tiendas de aplicaciones.

«Grok se está utilizando para crear cantidades masivas de imágenes íntimas no consentidas, incluyendo material de abuso sexual infantil, contenido que constituye un delito penal y que infringe directamente las Directrices de Revisión de Aplicaciones de Apple», han lamentado en una carta abierta.