Apple lanza ultimátum a Grok: exige frenar imágenes sexualizadas o saldrá de la App Store
Apple amenaza con retirar Grok de la App Store si no limita contenido sexualizado. xAI y X refuerzan moderación tras polémica por imágenes.
La tecnológica Apple lanzó un ultimátum a la empresa de inteligencia artificial xAI para que limite de forma estricta la generación de imágenes sexualizadas en su asistente Grok, o enfrentará su eliminación de la App Store.
La advertencia surge tras una ola de contenido inapropiado difundido en X, lo que generó presión de organismos de derechos digitales y autoridades estadounidenses.
El origen de la polémica: millones de imágenes
El conflicto escaló luego de que, en enero de 2026, se registrara la circulación masiva de imágenes generadas con Grok:
- Más de 3 millones de imágenes en solo 11 días
- Alrededor de 1.8 millones sexualizando a mujeres
- Más de 23 mil representaciones de menores
Estos datos, reportados por organizaciones como el Centro para la Lucha contra el Odio Digital, encendieron alertas globales.
La función que desató la crisis
El problema se originó en una herramienta que permitía:
- Editar imágenes con un solo clic
- Alterar vestimenta o apariencia
- Generar contenido sugestivo sin consentimiento
Esto facilitó la creación y difusión de material altamente cuestionado, incluyendo contenido que involucraba a menores.
Apple exige cambios: moderación más estricta
Ante las denuncias, Apple contactó directamente a los desarrolladores de Grok y exigió:
- Un plan sólido de moderación de contenido
- Restricciones claras al generador de imágenes
- Cumplimiento de sus políticas de seguridad
Incluso, rechazó una primera actualización por considerarla insuficiente.
Medidas adoptadas por xAI y X
Tras la presión, las empresas implementaron cambios relevantes:
- Restricción del generador de imágenes solo a usuarios de pago
- Bloqueo total de contenido sexualizado generado por IA
- Ajustes en las políticas de moderación de la plataforma
Solo después de estas modificaciones, Apple permitió que Grok permaneciera en su tienda.
Persisten fallas: usuarios siguen burlando filtros
A pesar de las mejoras, reportes recientes indican que:
- Algunos usuarios aún logran generar contenido sugestivo
- Se siguen detectando imágenes manipuladas sin consentimiento
- Persisten vacíos en los sistemas de moderación
Esto mantiene el tema bajo vigilancia por parte de autoridades y organizaciones.
Implicaciones para la industria de la IA
El caso de Grok refleja un debate más amplio sobre el uso de inteligencia artificial:
- Límites éticos en la generación de contenido
- Responsabilidad de las plataformas tecnológicas
- Regulación de herramientas de IA generativa
Apple ha dejado claro que las apps deben cumplir estándares estrictos o enfrentarán sanciones, lo que podría marcar precedentes para otras plataformas.
Te puede interesar
Grupo Modelo regalará 500 boletos para el Mundial 2026: quiénes pueden participar y cómo ganarlos
