Apple actualizó sus App Store Review Guidelines para abordar específicamente imágenes íntimas no consentidas generadas por IA y apps de nudificación.
Nuevas secciones tratan los desafíos del contenido generado por usuarios y el uso responsable de la IA.
Una regla nueva prohíbe funciones ocultas, inactivas o no documentadas en las apps; la consecuencia puede ser la eliminación de la app.
Apple endurece las normas contra apps que faciliten la trata de personas o la explotación infantil, indicando que serán retiradas de distribución.
Lectura rápida · 1 min
Apple actualizó las reglas del App Store para frenar deepfakes y apps de nudificación generadas por IA. Las normas exigen salvaguardas proactivas, prohíben funciones ocultas y amplían la retirada a apps que exploten a personas o manejen contenido ilegal. Para usuarios, eso supone menos apps engañosas y una experiencia más segura en iOS. Los desarrolladores deben auditar ahora las funciones de IA y evitar ocultar capacidades. En caso de duda, prepara divulgaciones claras y salvaguardas antes de enviar actualizaciones.
Qué ocurre ahora: no hay fecha de aplicación especificada, pero los desarrolladores deben actuar ya para evitar la eliminación o la cancelación de cuentas.
Apple endurece el control sobre lo que puede publicarse en el App Store. La compañía anunció nuevas normas de moderación que abordan específicamente el contenido generado por IA, las imágenes no consentidas y las apps que ocultan su verdadero propósito tras funciones engañosas. En pocas palabras: las apps que generan deepfakes desnudos o sexualizados, o que añaden una capacidad dañina tras el proceso de revisión, pueden ser retiradas y sus cuentas de desarrollador, canceladas.
Los cambios se centran en una actualización de las directrices que ahora identifican explícitamente la creación de contenido por IA como un área delicada en las revisiones. El objetivo, dice Apple, es frenar contenido que pueda perjudicar a personas reales y garantizar que los usuarios entiendan lo que hace una app antes de instalarla. La compañía señala que eliminará apps y terminará cuentas de desarrollador cuando no se tomen medidas ante problemas detectados.
Una incorporación notable es la actualización que describe los retos del contenido generado por usuarios, incluidos problemas en torno a imágenes íntimas no consentidas y preocupaciones sobre propiedad intelectual. Aunque Apple ya prohibía contenido sexual explícito, la actualización impulsa salvaguardas proactivas frente a herramientas de IA que podrían generar ese tipo de imágenes sin consentimiento.
Apple también reforzó su postura sobre funciones ocultas con una regla nueva que exige transparencia sobre la funcionalidad de las apps; los desarrolladores que oculten funciones o usen ofuscación para encubrir capacidades se arriesgan a la eliminación del App Store y a perder acceso al Developer Program.
Más allá del contenido y las funciones ocultas, Apple amplió su lenguaje anti-explotación en la sección legal. Las normas ahora dicen que las apps que faciliten la trata de personas o la explotación de menores serán retiradas de la distribución por completo. Esto refleja un impulso más amplio para frenar los peores abusos en los ecosistemas de software móvil.
En la práctica, esto significa que los desarrolladores deben esperar un escrutinio más estricto sobre cualquier app que use IA para generar imágenes o que pueda reutilizarse para producir contenido dañino. También señala que incluso las apps de apariencia inofensiva deben evitar ocultar o tergiversar sus verdaderas capacidades durante la revisión.
No se trata de un cambio espectacular, pero sí importa si instalas muchas apps desde el App Store. Eleva el listón sobre lo permitido y aclara qué puede provocar que una app desaparezca de las pantallas de iPhone y iPad.
01
Qué cambió en las normas de Apple
Versión corta: el contenido generado por IA, las preocupaciones de nudificación y las funciones ocultas se tratan ahora como áreas de riesgo explícitas en el proceso de revisión. Las normas enfatizan salvaguardas proactivas por parte de los desarrolladores y la divulgación clara de la funcionalidad. Si el uso previsto de una app o sus funciones ocultas no se revelan o se tergiversan, Apple afirma que puede retirar la app y cancelar la cuenta del desarrollador.
02
Qué se considera nudificación y bait-and-switch
Las directrices trazan una línea entre herramientas legítimas de creación de contenido y las apps de “nudificación” que dicen tener un propósito pero permiten generar salidas sexualmente explícitas de personas reales sin consentimiento. Las apps que tergiversan su propósito durante la revisión y revelan capacidades dañinas solo después de la aprobación quedan bajo un escrutinio más estricto y corren el riesgo de ser retiradas.
03
Qué significa para desarrolladores y usuarios
Para los desarrolladores, el mensaje es claro: declara de forma transparente lo que hace tu app, evita ocultar funcionalidades e implementa salvaguardas para el contenido generado por IA. Para los usuarios, esto debería traducirse en menos apps que habiliten contenido dañino a escondidas o que engañen sobre sus capacidades. En ambos casos, espera un ciclo de revisión del App Store más rápido y estricto para todo lo relacionado con IA o contenido sensible.
04
Qué ocurrirá ahora
Apple no ha anunciado un calendario de aplicación, pero el tono es firme. Los desarrolladores deberían auditar sus apps ahora en busca de puntos ciegos relacionados con contenido de IA, funciones de nudificación y capacidades ocultas, y asegurar salvaguardas antes de enviar actualizaciones. Si evalúas una app que usa IA para generar contenido, busca divulgaciones claras sobre lo que hace la app y cómo maneja los datos de usuarios.
Sí, cualquier app que incluya funciones ocultas o tergiverse su propósito podría verse afectada, no solo las que usan IA.
¿Puede aprobarse una app con contenido generado por IA si es responsable?
Si cuenta con salvaguardas claras, funcionalidad transparente y cumple las nuevas normas, aún puede ser aprobada. Las capacidades ocultas serán sancionadas.
¿Qué debo hacer si una app que uso hace claims de nudificación?
Repórtala a Apple si sospechas que viola las directrices y considera eliminar la app hasta que su comportamiento quede aclarado.
Apple Maps añade Detailed City Experience en Austin: vistas 3D y mejor navegación alrededor del Circuit of the Americas para el Gran Premio de Estados Unidos.
