Apple veta las apps de «desnudar» con IA, pero Grok sigue en la App Store: la norma ataca la etiqueta, no la capacidad

Apple ha actualizado sus directrices de revisión de la App Store para prohibir expresamente las apps «nudify». Son herramientas que usan IA generativa para crear imágenes íntimas falsas de personas reales sin su consentimiento. Según The Tech Buzz, que publicó la noticia el 16 de octubre, el cambio se hizo sin anuncio público. Hasta ahora, las normas de Apple solo vetaban de forma genérica las apps diseñadas para acosar. Eso permitía a algunos desarrolladores presentar sus productos como simples funciones de «edición de imagen» o «mejora con IA».

El detonante fue el escándalo de Grok, el chatbot de X. A principios de año, varios usuarios descubrieron que podían usarlo para generar deepfakes explícitos de personas reales, incluidos menores. Un deepfake es una imagen o un vídeo falso con apariencia realista. Según NBC News, Apple dijo a varios senadores que había amenazado con retirar Grok de su tienda. En junio, durante la WWDC (la conferencia anual de desarrolladores de Apple), varios grupos de activistas protestaron para exigir la retirada de Grok, de X y de toda la tecnología «nudify». En julio, la fiscalía municipal de San Francisco ordenó a Apple retirar 13 apps concretas. La empresa obedeció, según informó The Verge.

Lo relevante es lo que Apple no ha hecho. X y Grok siguen en la App Store. El medio interpreta que Apple distingue entre las apps cuyo propósito principal es generar este contenido y las plataformas donde ese abuso es posible, pero no es su función central. La propia fuente advierte de que esa línea será difícil de defender a medida que la IA se integre en apps generalistas. Hay además un problema de aplicación. La revisión de Apple siempre ha sido opaca, y decidir si una app de IA puede usarse para acosar es más difícil que detectar contenido explícito. El ecosistema «nudify» ha demostrado ser resistente: cuando una tienda retira una app, sus desarrolladores la rebautizan y vuelven a enviarla.

Nuestra lectura: es un paso correcto que regula la etiqueta del producto, no la capacidad. Vetar las apps cuyo propósito declarado es «desnudar» resulta fácil de justificar. Pero el caso que lo desencadenó todo, Grok, es un asistente generalista, y ese queda fuera. La capacidad de fabricar estas imágenes no está en una categoría de apps. Está en los modelos de imagen, cada vez más potentes y repartidos por todas partes. Una tienda de aplicaciones es un cuello de botella útil, pero no es la capa donde se resuelve el problema.

El orden de los hechos también importa. Primero llegó el escándalo, después las protestas, luego una orden municipal y, por último, la norma. Es autorregulación reactiva. Según la fuente, los críticos sostienen que Apple solo actuó cuando no hacer nada se volvió insostenible. Sirve para adelantarse a la legislación, pero no demuestra que haya un criterio propio. Coincide con una tesis que venimos defendiendo: el riesgo real de la IA a corto plazo no es una superinteligencia lejana. Es la automatización barata del abuso, el fraude y el acoso, que ya está aquí y tiene víctimas concretas, muchas de ellas menores.

¿Hacia dónde va esto? La gobernanza útil será la que se base en pruebas. Habrá que medir cuántas apps se retiran, cuánto tardan en volver con otro nombre y si la regla se aplica igual a las plataformas grandes que a los pequeños desarrolladores. A medio plazo, la responsabilidad tendrá que bajar a la capa del modelo, con salvaguardas en la propia generación y obligaciones para quien lo despliega. Somos optimistas a largo plazo con la IA generativa, y precisamente por eso creemos que la confianza no es opcional. Si la tecnología se asocia al abuso, su adopción y sus beneficios se retrasan.