El carácter privado de las redes sociales y sus algoritmos de recomendación, deciden qué aparece en la pantalla, a quién le aparece y cuántas veces, buscando maximizar el tiempo que pasamos ahí, incluso cuando se repiten y amplifican contenidos dañinos o directamente ilegales.
En Europa ya se trabaja en estos temas. El presidente del Gobierno Español, Pedro Sánchez, anunció una ruta para tipificar como delito la manipulación de algoritmos y la amplificación de contenidos ilegales, reforzar la persecución de delitos ligados a material sexualizado de menores, prohibir el acceso de menores de 16 años a redes sociales y responsabilizar penalmente a directivos cuando haya incumplimientos.
Esta discusión tiene tres mensajes claros:
- Ya no alcanza con las propias reglas de la plataforma, se necesita monitoreo real de cómo operan los sistemas algorítmicos, incluyendo herramientas para detectar si la recomendación automatizada está promoviendo deliberadamente contenidos ilegales.
- La responsabilidad debe caer sobre quienes se benefician de esa amplificación, es decir, las plataformas y sus directivos, ya que son los que toman las decisiones sobre su funcionamiento.
- La obligación principal para garantizar la edad mínima de uso de redes sociales debe recaer en las empresas, bajo esquemas verificables por la autoridad.
El escenario actual es crítico y necesita medidas urgentes. La ciudadanía enfrenta desinformación, hostigamiento coordinado, violencia digital, fraudes,
persistencia de contenidos ilícitos y un patrón de consumo que empuja a la dependencia, con impactos más graves en nuestras juventudes. Por eso hacemos un llamado al Congreso de la Unión para construir un marco legal que regule tanto la moderación de contenidos como el corazón del negocio de las plataformas: la recomendación, distribución, monetización y el diseño de su interfaz. La protección de la ciudadanía y de las infancias no puede depender de avisos genéricos o controles voluntarios. Debe traducirse en obligaciones que se puedan verificar y auditar, con sanciones cuando no se cumplan.
En el PUEDJS-UNAM a través de su laboratorio digital Tlatelolco - Lab exhortamos al Congreso mexicano a abrir un proceso legislativo público, con participación de especialistas en derechos digitales, protección de datos, infancia, salud pública y seguridad, entre otros, orientado a construir un marco regulatorio acorde con los problemas contemporáneos del entorno digital.
Pronunciamiento público: https://puedjs.unam.mx/pronunciamiento-publico-dirigido-al-congreso-de-la-union/
***********************
