El avance de la inteligencia artificial (IA) redefinió la seguridad digital, pero también facilitó nuevas formas de violencia en línea. Herramientas como los deepfakes, la suplantación de identidad y los ataques automatizados se convirtieron en armas para acosar y extorsionar a mujeres en entornos digitales. Frente a este escenario, especialistas advierten sobre la urgencia de fortalecer las regulaciones y desarrollar soluciones tecnológicas que contrarresten estas amenazas.
Layla Delgadillo, fundadora y CEO de Silent4Business, resaltó la necesidad de aplicar soluciones basadas en IA para enfrentar estos riesgos. Según datos de Deeptrace Labs, entre 2019 y 2021, la cantidad de deepfakes en internet aumentó un 330%, con el 96% de ellos destinados a crear contenido explícito sin consentimiento.
La facilidad con la que los agresores pueden acceder a herramientas de software y la reducción de costos computacionales hicieron que la manipulación digital fuera más accesible para cualquier persona con conocimientos básicos. “El problema no es solo la sofisticación de estos ataques, sino la facilidad con la que cualquier persona con conocimientos básicos puede manipular imágenes y videos para acosar o extorsionar”, explicó Delgadillo.
Frente a esta situación, los esfuerzos por mitigar la violencia digital se centraron en dos frentes principales: el tecnológico y el legal. En el ámbito tecnológico, se desarrollaron algoritmos avanzados de detección de deepfakes y análisis forense digital, lo que permitió autenticar contenido audiovisual a través del análisis de metadatos, marcas de agua digitales y patrones de manipulación. A pesar de estos avances, aún existen retos relacionados con la precisión y la correcta contextualización de las imágenes y videos intervenidos.
En el plano legal, algunos países ya comenzaron a implementar normativas más estrictas para responsabilizar a las plataformas digitales por la difusión de contenidos manipulados. “Estados Unidos y la Unión Europea implementaron normativas más estrictas, mientras que en México la Ley Olimpia representó un avance en la tipificación del acoso digital”, comentó Delgadillo. Sin embargo, la CEO de Silent4Business advirtió que las regulaciones actuales son insuficientes ante la rapidez con que evolucionan las amenazas.
La inteligencia artificial no solo es una amenaza, sino también una herramienta clave en la lucha contra el acoso digital. “La IA se convirtió en una herramienta clave para analizar el gran volumen de datos que se generan en redes sociales. Mediante técnicas de procesamiento de lenguaje natural y análisis de imágenes, se pueden identificar patrones de acoso, lenguaje ofensivo y comportamientos abusivos en tiempo real”, explicó Delgadillo. Aunque estas soluciones permiten detectar contenido ofensivo y generar alertas automáticas, aún enfrentan limitaciones como la interpretación del contexto y la alta tasa de falsos positivos, lo que hace necesaria la supervisión humana.
Delgadillo recomendó fortalecer la ciberseguridad personal a través de la educación digital, configuraciones avanzadas de privacidad y herramientas de monitoreo que alerten sobre intentos de suplantación de identidad o actividades sospechosas. En Silent4Business desarrollaron 4YOU, un sistema que detecta en tiempo real anomalías en la red y utiliza IA para neutralizar intentos de acoso digital. “Nuestro sistema de monitoreo en tiempo real detecta actividades inusuales en la red y utiliza algoritmos avanzados para identificar y neutralizar intentos de acoso digital. Además, ofrecemos asesoría personalizada y protocolos de respuesta rápida para gestionar incidentes, ayudando a nuestras clientas a proteger su imagen y privacidad”, detalló Delgadillo.
Silent4Business también apostó por la inclusión de mujeres en puestos clave dentro del sector, como Lourdes del Pilar Abadía Velasco, directora de Finanzas y Administración, y María del Rosario Palomero, subdirectora de Operaciones.
Finalmente, Delgadillo concluyó que un entorno digital más seguro requiere más que solo tecnología. “La lucha contra la violencia digital es una tarea urgente que requiere la colaboración de empresas, gobiernos y usuarios”, expresó.
