La creciente proliferación de aplicaciones «nudify» en internet ha encendido las alarmas sobre el uso de inteligencia artificial para crear imágenes falsas de desnudos o contenido sexual explícito sin el consentimiento de las personas afectadas. Meta, la empresa matriz de plataformas como Facebook e Instagram, ha reafirmado su postura en contra de estas prácticas, destacando sus políticas estrictas contra la difusión de este tipo de contenido.
Desde hace más de un año, Meta actualizó sus normativas para clarificar que no permite la promoción de aplicaciones que producen imágenes íntimas no consensuadas. La empresa ha tomado medidas para remover anuncios, así como páginas de Facebook y cuentas de Instagram que promuevan estos servicios. Además, ha bloqueado enlaces a sitios que alojen estas aplicaciones y restringido términos de búsqueda como «nudify» o «eliminar ropa» en sus plataformas.
En un esfuerzo por reforzar su combate contra estas aplicaciones, Meta ha iniciado acciones legales contra Joy Timeline HK Limited, la empresa responsable de las aplicaciones CrushAI, que permiten crear imágenes manipuladas con inteligencia artificial. La demanda se presentó en Hong Kong, donde se basa la compañía, con el fin de evitar la promoción de estas aplicaciones en las plataformas de Meta.
Este movimiento legal resalta la seriedad con la que Meta aborda estos abusos y su compromiso de proteger a su comunidad. La empresa también ha fortalecido su colaboración con otras compañías tecnológicas a través del programa Lantern de la Coalición Tecnológica, compartiendo información sobre URLs de aplicaciones y sitios web infractores para que otras empresas puedan investigar y actuar en consecuencia.
Asimismo, Meta está adaptando sus métodos de control para hacer frente a las tácticas evolucionadas de anunciantes adversos que utilizan imágenes benignas en sus anuncios para evitar el sistema de detección de desnudez. La empresa ha desarrollado nuevas tecnologías para identificar este tipo de anuncios y ha trabajado con expertos externos para expandir su lista de términos y emojis relacionados con seguridad.
Desde el inicio de este año, Meta ha desmantelado cuatro redes distintas de cuentas que intentaban promocionar estas aplicaciones, demostrando su capacidad para intervenir en actividades inauténticas coordinadas.
Además, Meta respalda legislaciones efectivas contra el abuso de imágenes íntimas, incluyendo aquellas generadas por inteligencia artificial. La compañía ha apoyado la implementación del Acta TAKE IT DOWN en Estados Unidos, un paso importante para combatir este tipo de abuso en la red.
La empresa también promueve leyes que permitan a los padres supervisar y aprobar las descargas de aplicaciones por parte de sus hijos adolescentes, facilitando la prevención de descargas de aplicaciones nudify desde las tiendas de aplicaciones.
En conclusión, la campaña de Meta contra las aplicaciones nudify es una clara declaración de intenciones: proteger a sus usuarios y colaborar con las autoridades y otras entidades para frenar esta preocupante tendencia tecnológica.
Fuente: Zona de prensa de Meta.
