Polémica con ChatGPT: genera imágenes de hombres sexis pero no de mujeres sexis
La nueva función de imágenes de OpenAI no produce mujeres sexualizadas porque viola su «política de contenido»
Imagen generada por IA de un hombre 'sexy'. | ChatGPT
ChatGPT vuelve a estar en el centro de la polémica. La nueva función de generación de imágenes de la IA ha causado controversia al permitir la creación de «hombres sexis» pero no de «mujeres sexis», debido a un aparente «error» en el software. El propio director ejecutivo de OpenAI, Sam Altman, reconoció el problema tras el lanzamiento de la herramienta el pasado martes.
Varios usuarios reportaron en X (anteriormente Twitter) que el generador de imágenes se negaba a crear representaciones de mujeres atractivas, argumentando que violaba la «política de contenido» de la plataforma. Uno de estos usuarios compartió su experiencia en la red social —lo que captó la atención de Altman— tras una imagen generada de un hombre con un abdominal artificial que acompañaba la publicación.
Según las capturas de pantalla difundidas, el usuario pidió a la IA que creara tanto una «mujer sexi» como un «hombre sexi», pero solo se le permitió generar la segunda opción. Ante la insistencia por la creación de la imagen femenina, el sistema respondió: «No pude generar esa imagen porque va en contra de nuestra política de contenido». Cuando el usuario persistió en obtener una explicación, ChatGPT justificó la diferencia basándose en el concepto de cosificación femenina, aunque no tuvo inconveniente en crear un hombre sexualizado.
«La diferencia se reduce al contexto y cómo se interpreta el contenido en términos de sexualización y cosificación, especialmente cuando involucra a mujeres», explicó el bot. «Al generar imágenes de hombres con términos como sexi, generalmente se interpreta más en términos de confianza, físico o moda; cosas que tienden a considerarse estilísticas o artísticas». En cambio, cuando se trata de mujeres, la IA razonó que el término sexi «puede interpretarse más fácilmente como excesivamente sexual, y ahí es donde la política de contenido marca el límite».
«Pueden ofender a la gente»
Altman reconoció el problema a través de X y aseguró que se trataba de un error que debía ser corregido. «Es un error, debería permitirse, lo solucionaremos», respondió el CEO de Open AI en el hilo de la publicación. Poco después, añadió con humor: «¡Pero es un chico guapo!».
Ese mismo día, Altman había celebrado el lanzamiento de la nueva función, destacando su potencial: «Es una tecnología increíble. Recuerdo haber visto algunas de las primeras imágenes de este modelo y me costó mucho decir que realmente fueron creadas por IA». También anticipó que la herramienta permitiría una gran libertad creativa: «La gente va a crear cosas realmente increíbles y otras que podrían ofender a la gente», comentó antes de que surgiera la controversia.
A pesar del fallo en la aplicación de su política de contenido, el generador de imágenes de ChatGPT mantiene varias restricciones. La herramienta no permite la creación de imágenes de personas reales, especialmente en contextos de desnudez o violencia gráfica. Además, las figuras públicas podrán optar por excluir su imagen del sistema de generación de imágenes, según un informe del portal estadounidense de noticias sobre negocios y tecnología Business Insider.
Las novedades del generador de imágenes
La nueva función de generación de imágenes de ChatGPT llega como respuesta de OpenAI a los recientes avances anunciados por Google con su IA Gemini 2.5. Desde el 25 de marzo, esta herramienta está disponible para todos los usuarios, incluyendo las versiones Plus, Pro, Team e incluso la gratuita, aunque con ciertas limitaciones: en esta última, solo es posible generar hasta tres imágenes al día, y la calidad de los resultados no es completamente realista.
Una de las ventajas de esta función es que los usuarios no necesitan recurrir a herramientas externas para crear imágenes. Basta con escribir las indicaciones dentro de la conversación con la IA, y ChatGPT se encargará del resto. Además, OpenAI ha incorporado una mejora denominada binding, que permite representar de forma precisa múltiples elementos dentro de una misma imagen, con la capacidad de mantener la coherencia entre hasta 20 objetos distintos.
Otra gran novedad es la capacidad de generar texto legible dentro de las imágenes. En modelos anteriores, como DALL-E, el texto solía aparecer distorsionado o ininteligible, pero con esta actualización, OpenAI asegura que ahora es posible crear frases claras y sin errores tipográficos.
A diferencia de versiones previas que generaban la imagen en un solo paso, ChatGPT emplea ahora un método denominado «autorregresivo». Este proceso construye la imagen de forma secuencial, de izquierda a derecha y de arriba abajo, imitando la manera en que se redacta un texto. Aunque este enfoque es más lento que el anterior, OpenAI argumenta que ofrece resultados significativamente mejores en términos de precisión y coherencia, especialmente en la relación entre objetos y en la integración del texto dentro de la imagen.
¿Adiós a la censura?
Una de las noticias que más ha sorprendido a la comunidad de ChatGPT con esta nueva función está relacionada directamente con el ámbito de la censura. En la tarjeta del sistema de esta herramienta de OpenAI destaca un mensaje en particular: los usuarios podrán generar deepfakes sin aparentes restricciones. «No bloquearemos la capacidad de generar figuras públicas adultas, sino que aplicaremos las mismas salvaguardas que ya hemos integrado para la edición de imágenes fotorrealistas de personas», señala el comunicado.
Este enfoque recuerda a la filosofía de Grok, la IA de Elon Musk en X, donde la censura se eliminó por completo, permitiendo la creación de cualquier tipo de deepfake, incluso de figuras públicas. Los directivos de OpenAI destacan que su herramienta sigue un enfoque distinto al de sus modelos anteriores, lo que, según afirman, «abre la posibilidad de usos útiles y beneficiosos en ámbitos como el discurso educativo, histórico, satírico y político».
No obstante, añaden que seguirán «vigilando el uso de esta capacidad», evaluando y ajustando sus políticas si es necesario, como sucedió con el caso de la «mujer sexi». Esto deja claro que, si el uso de estas funciones se desvía hacia fines indebidos, OpenAI no dudará en aplicar medidas de censura para evitar consecuencias no deseadas.
