Detengamos la difusión no consensuada de imágenes íntimas

Por María Cristina Capelo*

Una imagen puede cambiar nuestra vida. Así lo declaran miles de personas alrededor del mundo que han visto sus fotos o videos íntimos expuestos sin su consentimiento. Las razones detrás de este hecho son variadas, pero una gran cantidad de casos comparten un común denominador: relaciones afectivas tóxicas.

Y las consecuencias de este tipo de ataque son devastadoras. La organización internacional Cyber Civil Rights Initiative reveló que 93% de las víctimas experimentan angustia emocional significativa y 82% tiene afectación importante en su vida social y en el trabajo. Incluso, puede aumentar la brecha de acceso y participación de las mujeres –blanco mayoritario de estos abusos– en el entorno digital, ya que muchas de ellas optan por cerrar sus cuentas o perfiles tras experimentar esos ataques.

En México, las estadísticas de la colectiva feminista Luchadoras muestran que 90% de las 470 solicitudes de apoyo por violencia digital que recibió en 2020 fueron, precisamente, realizadas por mujeres. El dato surge de una investigación llamada Frente al amor tóxico virtual. Un año de la línea de apoyo contra la violencia digital y está en línea con un reporte del Instituto Nacional de Estadística y Geografía (Inegi) que muestra que el ciberacoso afecta 3.2% más a las mujeres que a los hombres, según datos recogidos entre octubre de 2019 y noviembre de 2020.

Según la investigación de Luchadoras, a cambio de no publicar material íntimo los agresores, en su mayoría exparejas, piden dinero, obligan a sus víctimas a mantener una relación o exigen seguir en contacto con ellas.

Como parte del combate a estos abusos, también conocidos como NCII (Non-Consensual Intimate Imagery, por sus siglas en inglés), hace unos días fue lanzada StopNCII.org, una plataforma global para limitar la distribución de imágenes íntimas no consensuadas. Esta herramienta abre la puerta para que todos en la industria de la tecnología –compañías, organizaciones y expertos– nos unamos para mantener internet como un espacio seguro.

StopNCII.org es la suma de la colaboración de más de 50 organizaciones alrededor del mundo, incluyendo más de 10 en América Latina. En México, permitirá extender el alcance y atención a las víctimas en los estados, mientras que a países como Argentina, Bolivia, Colombia, Panamá, Perú y Trinidad y Tobago les permitirá acceder por primera vez a esta tecnología.

La plataforma gestionada por Revenge Porn Helpline, una organización del Reino Unido, permite que las víctimas reporten imágenes y vídeos íntimos para que las empresas que integran StopNCII.org, incluyendo Facebook e Instagram, puedan impedir que sean publicadas. Las imágenes son marcadas con un código numérico único conocido como “hash” y nunca abandonan el dispositivo de las personas. La víctima siempre estará en control de su información y puede incluso crear un PIN para ver el estatus del “hash” reportado o retirar su caso en cualquier momento.

Los esfuerzos de la industria

Exponer imágenes íntimas para agredir a otro es preexistente al surgimiento de los espacios digitales, pero en la actualidad existen múltiples formas de canalizarlas en el mundo digital. En contrapartida, la efectividad para combatir este contenido está progresando. Por ejemplo, la prevalencia de contenido sexual en Facebook e Instagram es de entre 0.02% y 0.03%, lo que significa que este tipo de material puede aparecer de dos a tres veces cada 10 mil visualizaciones.

A lo largo de los años, empresas como Meta hemos perfeccionado nuestras tecnologías de detección proactiva basadas en inteligencia artificial y aprendizaje automatizado para combatirlo. Hoy, más de 95% de este material es detectado y removido de Facebook e Instagram antes de que sea reportado por un usuario. Además, como parte del trabajo para desarrollar nuestros productos y políticas, recibimos retroalimentación de organizaciones especializadas en violencia de género, como ONU Mujeres, la Red Interamericana de Refugios, Cultivando Género, Defensoras Digitales de Baja California, el Consejo Ciudadano, Faro Digital en Argentina, Fundación Karisma en Colombia y Safernet en Brasil.

En 2017, lanzamos un piloto basado en una tecnología que crea huellas digitales únicas o “hashes” a las imágenes o videos íntimos de las víctimas para impedir que alguien las pueda subir a las plataformas sin su consentimiento y eliminar aquellas que ya fueron publicadas. Como resultado, la imagen original se convierte en una serie irrepetible de números y letras que se puede rastrear en distintos espacios de internet.

Esta iniciativa ayudó a miles de mujeres en diversos países y evitó que sean expuestas. Sin embargo, las víctimas y expertos nos compartieron que se necesitaba una plataforma más sólida que pudiera ser adoptada por toda la industria y que priorizara a las víctimas. El resultado de estas conversaciones es StopNCII.org.

Somos conscientes de que la difusión no consensuada de imágenes es un problema grave que tiene consecuencias importantes para quienes lo viven y asumimos la responsabilidad de usar nuestros recursos humanos y tecnológicos para combatirlo. StopNCII.org reúne años de aprendizajes en este ámbito y enfoca los últimos desarrollos tecnológicos a proteger la privacidad y seguridad de las víctimas. También, representa una oportunidad para que todos como comunidad nos sumemos al combate del contenido NCII. Detengamos juntos la difusión no consensuada de imágenes íntimas y ayudemos a generar un cambio positivo en internet.

* María Cristina Capelo es Lideresa de Seguridad y Bienestar de Meta en América Latina

Las opiniones expresadas son responsabilidad de sus autoras y son absolutamente independientes a la postura y línea editorial de Opinión 51.

Una suscripción es el regalo perfecto para estas fechas; además, dura un año.