Relevante frenar uso de IA para violentar a mujeres: experta

La aparición de herramientas como los deepfakes, la suplantación de identidad y el acoso automatizado, impulsadas por inteligencia artificial (IA), potenció la violencia digital contra las mujeres. Esta problemática mundial exige soluciones urgentes en materia de regulación y tecnología, afirmó Layla Delgadillo, fundadora y CEO de Silent4Business.

La necesidad de reforzar la regulación y apostar por soluciones con inteligencia artificial (IA) es clave para contrarrestar estos riesgos, según Delgadillo. “El problema no es solo la sofisticación de estos ataques, sino la facilidad con la que cualquier persona con conocimientos básicos puede manipular imágenes y videos para acosar o extorsionar”, señaló.

De 2019 a 2021, la presencia de deepfakes en internet se incrementó un 330%, de acuerdo con Deeptrace Labs, con el 96% de estos empleados para generar material explícito sin consentimiento. Este aumento refleja el crecimiento exponencial del uso de inteligencia artificial (IA) para manipular contenido digital.

Con la reducción de costos tecnológicos y la accesibilidad del software de código abierto, cada vez más personas pueden emplear estas herramientas para el acoso digital. En este contexto, Delgadillo afirmó que la estrategia para combatir la violencia digital se enfoca en dos áreas: la legal y la tecnológica.

La detección de deepfakes y la verificación de contenido audiovisual fueron reforzadas con algoritmos avanzados que analizan metadatos y marcas de agua digitales. Sin embargo, estos mecanismos aún presentan retos en cuanto a precisión y contextualización.

Frente al crecimiento de las amenazas digitales, distintos gobiernos comenzaron a endurecer sus legislaciones sobre contenido manipulado. “Estados Unidos y la Unión Europea han implementado normativas más estrictas, mientras que en México la Ley Olimpia ha representado un avance en la tipificación del acoso digital. No obstante, las regulaciones aún son insuficientes ante la velocidad con la que evolucionan las amenazas digitales”, afirmó Delgadillo.

La inteligencia artificial (IA), pese a sus limitaciones, fue implementada como un recurso clave en la detección de acoso en redes sociales. “Mediante técnicas de procesamiento de lenguaje natural y análisis de imágenes, se pueden identificar patrones de acoso, lenguaje ofensivo y comportamientos abusivos en tiempo real”, destacó la especialista.

Para detectar contenido ofensivo, las plataformas digitales incorporaron soluciones que emiten alertas automáticas. No obstante, la dificultad para interpretar el contexto es un desafío, lo que provoca un alto número de falsos positivos y hace indispensable la supervisión humana.

Delgadillo recomienda reforzar la educación digital y adoptar herramientas de monitoreo que alerten sobre suplantación de identidad o actividades inusuales como estrategia para reducir riesgos.

Silent4Business implementó 4YOU, un sistema de inteligencia artificial (IA) que detecta anomalías en tiempo real y neutraliza intentos de acoso, complementado con asesoría especializada y protocolos de respuesta rápida.

“Nuestro sistema de monitoreo en tiempo real detecta actividades inusuales en la red y utiliza algoritmos avanzados para identificar y neutralizar intentos de acoso digital. Además, ofrecemos asesoría personalizada y protocolos de respuesta rápida para gestionar incidentes, ayudando a nuestras clientas a proteger su imagen y su privacidad en entornos digitales”, detalló Delgadillo.

Silent4Business no solo apuesta por la innovación tecnológica, sino que también impulsa el liderazgo femenino en la industria, con ejecutivas como Lourdes del Pilar Abadía Velasco, directora de Finanzas y Administración, y María del Rosario Palomero, subdirectora de Operaciones.

Un espacio digital protegido no se logra únicamente con avances tecnológicos, advirtió Delgadillo, sino con la integración de equipos multidisciplinarios capaces de abordar las amenazas desde distintos ángulos. “La lucha contra la violencia digital es una tarea urgente que requiere la colaboración de empresas, gobiernos y usuarios”, afirmó.