Apple está endureciendo las normas de la App Store para combatir las aplicaciones de nudify con IA que generan imágenes sexualmente explícitas de personas reales sin su consentimiento. Las directrices actualizadas exigen a los desarrolladores que prevengan y eliminen proactivamente imágenes íntimas no consensuadas, incluido el contenido generado con herramientas de IA. La medida llega meses después de que las autoridades de San Francisco exigieran que Apple y Google eliminaran estas aplicaciones. Ahora, Apple está dejando sus expectativas más claras, incluyendo lo que ocurre cuando los desarrolladores intentan colar funciones dañinas por su proceso de revisión.
Apple quiere que los desarrolladores hagan más que simplemente prohibir las funciones de nudify
Apple ha actualizado oficialmente sus Directrices de Revisión de Aplicaciones para cubrir explícitamente imágenes íntimas no consensuadas generadas mediante IA. Según las nuevas directrices, las aplicaciones que alojan contenido generado por los usuarios deben contar con salvaguardas para filtrar el material objetable, proporcionar formas de denunciar contenido ofensivo, permitir que los usuarios bloqueen cuentas abusivas y responder a quejas. Los desarrolladores también deben prevenir y eliminar proactivamente imágenes íntimas no consensuadas. Quienes no implementen salvaguardas adecuadas o no aborden las violaciones tras recibir el aviso corren el riesgo de ser expulsados de la App Store.
La empresa también está tomando medidas más severas contra los desarrolladores que ocultan el verdadero propósito de una aplicación durante el proceso de revisión. Las nuevas directrices aclaran la prohibición de larga data de la empresa sobre funciones ocultas, inactivas o no documentadas, incluidas las aplicaciones que introducen capacidades de nudificación solo tras su aprobación. Apple afirma que puede eliminar las aplicaciones problemáticas y despedir a los desarrolladores que las respaldan del Programa de Desarrollo de Apple. La empresa también ha aclarado que las aplicaciones que facilitan la trata de personas o la explotación infantil serán eliminadas y bloqueadas para su distribución alternativa.
Apple está endureciendo las normas tras meses de críticas
La actualización llega a meses de escrutinio sobre la aparición de aplicaciones de nudify con IA en el marketplace de Apple. En julio, el abogado de la ciudad de San Francisco, David Chiu, envió cartas de cese y desistimiento a Apple y Google exigiendo que eliminaran las aplicaciones capaces de generar imágenes íntimas no consensuadas. La acción siguió a investigaciones sobre herramientas de IA capaces de desnudar digitalmente a las personas, mientras que la controversia separada en torno al uso de Grok para generar deepfakes sexualizados intensificó las dudas sobre cómo las plataformas manejan el abuso generado por IA. Apple afirma que las aplicaciones de nudificación han violado durante mucho tiempo sus normas, por lo que los últimos cambios se entienden mejor como una extensión explícita de las protecciones existentes en lugar de una prohibición completamente nueva
La cuestión más importante es si unas normas más claras se traducirán en una mejor aplicación. Apple puede prohibir las funciones de nudificación sobre el papel, pero los desarrolladores que ocultan funcionalidades dañinas o las introducen tras la aprobación pueden seguir impugnando el proceso de revisión. Las directrices actualizadas ofrecen a Apple una base más clara para actuar, incluyendo la eliminación de aplicaciones y la cancelación de cuentas de desarrolladores. Pero para alguien cuyas imágenes son manipuladas sin consentimiento, la diferencia entre una app prohibida y una app que nunca llega a la tienda es enorme. Apple ha endurecido las normas. Ahora tiene que asegurarse de que estas apps dejen de pasar desapercibidas.
