Parte II
Yaneth Tamayo Avalos
SemMéxico, Querétaro, Qro., 8 de marzo, 2024.- De los cinco mil millones de personas (el 64.5 por ciento de la población mundial) que tienen acceso a internet, 4,888 millones son usuarios de redes sociales.
El terrorismo y la radicalización en estas redes, parte de la idea generalizada de que las relaciones sociales están masculinizadas.
Esto se debe en gran medida, a los datos que se ingresan en los sistemas de información y plataformas digitales, existen programas informáticos diseñados con algoritmos que muestran sesgos o prejuicios, aunque no fueron creados con malicia, quien los diseñó de ese modo es por que posiblemente es así.
Pero también, existen algoritmos de inteligencia artificial, que utilizan grandes cantidades de datos, con los cuales pueden inferir información y reconocer patrones que les ayudan a aprender por sí solos a partir de esos datos. Los resultados pueden ser tan buenos como los datos ingresados.
Ello significa que, si los datos que alimenta un algoritmo inteligente indirectamente contienen prejuicios, el algoritmo aprenderá de ellos y los repetirá en sus subsecuentes respuestas o resultados. Cualquier algoritmo puede simplemente reproducir los sesgos inherentes a su creador, a los datos que está utilizando, o a la sociedad en general.
Debido a que los sesgos están profunda y extensamente integrados en el tejido social, es más probable que un algoritmo sea racista o sexista por culpa de los datos con los que fue entrenado.
Y esta situación la aprovechan muy bien los grupos extremistas. De hecho, investigaciones en ciberseguridad, han detectado que los algoritmos de las redes sociales esparcen mas rápido los mensajes violentos y sobre ideología masculina.
La clave es precisamente que la masa se enganche impulsivamente a la red. El sistema está diseñado para propagar los contenidos más atractivos: bromas inocentes o crueles, disputas triviales o importantes, chismes o teorías absurdas, memes y mentiras disfrazadas de noticias. Ya que los algoritmos están programados para mantener a los usuarios anclados en comunidades que maximizan las ganancias.
Una de las redes sociales que más ha sido sancionada por no prevenir y combatir las formas digitales de terror y violencia generada en su espacio digital es Facebook.
Facebook es la red social más popular alrededor del mundo con 2, 936 millones de usuarios activos.
La proliferación del uso de las redes sociales ha desplazado de manera progresiva y notoria el contacto personal, lo que ha afectado las relaciones interpersonales, pues a través de estas se va perdiendo la capacidad de interpretar el estado de ánimo de la otra persona, el lenguaje corporal, e inclusive la capacidad de ser asertivos al emitir opiniones.
Esto en su conjunto ha contribuido a la pérdida de habilidades sociales, en especial en los jóvenes.
Investigaciones sobre habilidades sociales en redes sociales, arrojaron que las personas con menores capacidades para establecer relaciones interpersonales, presentan dificultades para el uso de redes sociales (fantasean y se sienten ansiosos si no pueden acceder a ella) y exteriorizan su falta de control para regular de manera asertiva sus emociones y opiniones.
Además, muestran expresiones de enfado, sentimientos negativos injustificados, desacuerdos con otras personas que no comparten su visión y a diferencia de su entorno social real, en las redes sociales sí tienen la capacidad de generar y enfrentar conflictos.
Por ejemplo en el 2017, Facebook detectó un aumento en las reacciones del algoritmo de emojis, en donde pesaba mas el enojo que el agrado. Cuando varios empleados descubrieron que el algoritmo estaba agravando los daños, abogaron por ajustes que podrían ayudar.
Pero esas propuestas fueron anuladas, ya que la plataforma procura que los usuarios se mantengan enganchados el mayor tiempo posible sin importar si el contenido es agresivo.
Esta omisión por parte de Facebook, se relacionó con la difusión masiva de linchamientos virtuales, mensajes violentos y discursos de odio; además, se confirmó que las publicaciones que provocaban emojis de reacción de enojo, tenían una probabilidad desproporcionada de incluir información errónea, toxicidad y noticias de baja calidad.
Si bien, el algoritmo de Facebook se vio obligado a borrar contenido violento, este solo borró entre el 3 y el 5 porciento de los mensajes de odio y solo el 0.6 porciento de los que vulneraron las reglas de violencia.
Según The Wall Street Journal, durante tres años Facebook amplió la promoción algorítmica de contenido tóxico y dañino en los feeds de los usuarios, aún y cuando personal de la compañía advirtieron un aumento de ira social en los contenidos difundidos, señalando que dichas publicaciones podrían ser usados indebidamente en movimientos de protesta y por grupos terroristas.
Caso Elliot Rodger
Se sabe que, cuando un individuo entra en contacto con una comunidad extremista de su interés, aparece un efecto conocido como el efecto de pensamiento de grupo. La individualidad de cada persona se ve reducida por el conformismo.
Llevando a un cambio en el comportamiento u opiniones de una persona como resultado de la presión real o imaginaria de una colectividad. Además, una vez que es fiel a una comodidad, cualquier disonancia o información que rompa sus ideas preconcebidas es; desacreditada y descartada en búsqueda de la coherencia ideológica.
El Comité Interamericano contra el Terrorismo, ha detectado que grupos extremistas con narrativas de misoginia, racismo e ideologías religiosas, se han movilizado a espacios digitales diferentes a las redes sociales, encontrando sitio en las salas de chat para videojugadores, donde mayormente participan hombres..
En estas salas, las personas se adhieren a una subcultura misógina en la que los miembros se autodenominan “incels”, un término en inglés que describe a aquellos que se identifican como célibes involuntarios.
Comparten algunos memes inofensivos, pero también hacen bromas sobre tiroteos escolares y debaten sobre cuán atractivas son las mujeres de distintas razas. Los usuarios del grupo pueden ingresar a salas más pequeñas (canales o canales foro) para participar en chats de voz o texto.
En donde, difunden discursos de odio o puntos de vista extremos contra las mujeres, organizan actividades para reclutar en línea a jóvenes influenciables con contenido de odio, preparan ataques contra grupos políticos y sociales que trabajan por la igualdad de género y derechos humanos, dirigen ataques mediáticos contra mujeres en redes sociales y difunden una prolongada campaña de acoso contra estas.
Tan solo en Estados Unidos, esta ideología misógina ha provocado muertes individuales y colectivas contra mujeres.
Un ejemplo de ello, sucedió en Santa Bárbara, California (Estados Unidos), ahí Elliot Rodger, un estudiante de 22 años, advirtió en YouTube (Elliot Rodger’s Retribution) que perpetraría una matanza con el deseo de castigar a las mujeres por rechazarlo y también el deseo de castigar a los hombres sexualmente activos, por vivir una vida mejor que él.
Después de subir el vídeo, Rodger envió por correo electrónico un largo manuscrito autobiográfico a una docena de conocidos y familiares. El documento, que tituló «My Twisted World», se puso a disposición en Internet y llegó a ser ampliamente conocido como su «manifiesto». En él, describe la frustración por no ser capaz de encontrar una novia, su odio a las mujeres, los hombres, las parejas interraciales, y sus planes para cometer la matanza.
Si bien, este hecho fue repudiado por la sociedad estadunidense, los grupos que se denominan “incels” y algunos que apoyan la ideología masculina tradicional, adoptaron el manifiesto como una forma de inspiración para perpetrar los mismos actos.
Actos que se organizaron en los chats de videojugadores, para ser ejecutados en algunas ciudades de Estados Unidos y Canadá, incluso en la actualidad hay grupos extremistas que promueven la violencia contra las mujeres utilizando como referencia el manifiesto de Rodger Elliot o mejor conocido como San Elliot.
