Apple y Google, contra las cuerdas por las apps que desnudan con IA
Apple y Google están contra las cuerdas. La ciudad de San Francisco les acaba de mandar una advertencia clara: si no eliminan de sus tiendas todas las apps que usan inteligencia artificial para crear desnudos falsos de personas reales, podrían enfrentar sanciones legales serias. Y no, esto no es una simple sugerencia, es una orden con fecha límite.
Qué pidió San Francisco a los gigantes tech
El fiscal de la ciudad, David Chiu, envió cartas formales tanto a Apple como a Google exigiendo la remoción inmediata de 13 aplicaciones conocidas como “nudify”. Estas apps toman fotos normales de personas reales y, usando IA generativa, les quitan la ropa digitalmente, cambian sus rasgos físicos o directamente les pegan la cara a cuerpos desnudos sin ningún tipo de consentimiento. Ocho de estas aplicaciones estaban disponibles en el App Store y cinco en Google Play, lo que demuestra que ninguna de las dos plataformas se salvó del problema.
Chiu no se anduvo con rodeos y acusó directamente a ambas empresas de estar “ayudando y fomentando” la venta de contenido sexual explícito generado con deepfakes, algo que según él viola de lleno las leyes estatales. Lo más fuerte del asunto es que las compañías tienen apenas 28 días para responder antes de que empiecen a caer las sanciones civiles. Ese plazo tan corto deja claro que la ciudad no está para juegos con este tema.
Por qué la ley de California lo prohíbe todo esto
California tiene una legislación bastante estricta cuando se trata de pornografía no consensuada creada con inteligencia artificial. La normativa estatal prohíbe explícitamente cualquier actividad que facilite la creación de este tipo de material, y desde 2025 las víctimas pueden incluso demandar civilmente a las plataformas que permitan que esto suceda. Básicamente, si una empresa se beneficia económicamente de estas apps, aunque sea a través de las comisiones por compras dentro de la aplicación, también podría estar metida en el lío legal.
Lo interesante es que esta no es la primera vez que se ponen sobre la mesa estas leyes. Ya en enero de 2026 hubo un escándalo similar cuando un informe del Tech Transparency Project reveló que existían más de 100 apps de este tipo repartidas entre ambas tiendas, lo que obligó a Apple a eliminar 28 aplicaciones y a Google a suspender otras 31. Es decir, este problema viene calentándose desde hace meses y ahora finalmente llegó a un punto donde las autoridades decidieron actuar con más fuerza.
Además, la ley californiana no distingue entre adultos y menores, y de hecho hay normativas específicas como la AB 1831 que endurecen aún más las penas cuando las víctimas son menores de edad. Esto amplía el radio de acción legal y pone todavía más presión sobre las tiendas de aplicaciones para que sean rigurosas con lo que permiten publicar.
La respuesta de Apple y Google ante la polémica
Un vocero de Apple confirmó a TechCrunch que las apps de tipo nudify ya estaban prohibidas según sus políticas internas, y que la compañía ya eliminó tres de las aplicaciones señaladas mientras avanza en la cancelación de las cuentas de los desarrolladores responsables. Por su parte, Google también se defendió asegurando que había eliminado cientos de apps de “nudificación” por violar sus normas, incluyendo las cinco mencionadas específicamente en la carta de Chiu, y que además limitó las búsquedas de términos como “nudify” dentro de Play Store.
El detalle curioso es que, aunque ambas empresas dicen tener políticas que prohíben este tipo de contenido, la realidad es que estas apps seguían encontrando la forma de colarse en las tiendas oficiales y generar ingresos. Esto pone en evidencia que las políticas por sí solas no bastan si no hay una aplicación estricta y constante detrás.
Lo que viene ahora es esperar si Apple y Google logran cumplir con el plazo de 28 días o si el conflicto legal escala a instancias mayores. Mientras tanto, este caso se vuelve un precedente importante para entender hasta dónde llega la responsabilidad de las plataformas cuando distribuyen tecnología capaz de generar contenido dañino a gran escala.