Las iniciativas impulsadas en Japón para frenar el ciberacoso en las escuelas

Aunque las medidas adoptadas en el país nipón aún están sometidas a ensayo y error, son buenos puntos de partida a la hora de considerar qué acciones podrían ser impulsadas en Chile, de acuerdo a las características propias de nuestra realidad. Más de la experiencia de Japón en cuanto a las iniciativas emprendidas para frenar el ciberacoso y las agresiones en línea a niñas, niños y adolescentes en las escuelas, en la siguiente nota.

Medidas propuestas para enfrentar el ciberacoso y la importancia de la comunidad

La preocupación de las autoridades por el incremento del acoso en línea en los últimos diez años se ha manifestado a través de diferentes medidas. Una de ellas ha sido la legal, donde incluso se ha puesto en riesgo la libertad de expresión. En julio de 2022 la Dieta de Japón aprobó un proyecto para modificar el código penal y castigar los insultos en Internet con un año de prisión y una multa equivalente a los 2 mil 500 dólares.

Un artículo de Thisanka Siripala en The Diplomat señala que esta medida generó preocupación en la ciudadanía, debido a que la distinción entre insulto y crítica es ambigua y podría generar un impacto negativo en la libertad de expresión. Fue la primera vez que en 115 años se impulsaron modificaciones a categorías y penas en el código penal. Aunque el Ministerio de Justicia nipón afirmó que el encarcelamiento no tendrá un propósito de castigo, sino de rehabilitación y que se adaptarían programas educativos a circunstancias individuales.

No obstante, la oposición presionó para crear una disposición adicional que establece la revisión durante tres años por parte de expertos para determinar si esta iniciativa es o no una restricción a la libertad, consagrada en la Constitución japonesa. Paralelamente, el Ministerio de Interior y Comunicaciones solicitó a las plataformas en línea que actualicen voluntariamente sus pautas para los usuarios, antes de que la cartera anuncie nuevas regulaciones.

Sin embargo, debido a la creciente complejidad en el control efectivo de contenidos agresivos en la web, fenómeno que viene advirtiéndose desde 2010, las escuelas japonesas cuentan con dos opciones. La primera es la creación de una comunidad que fomente una cultura del respeto y prevenga la aparición de mensajes e imágenes que contengan expresiones difamatorias. La segunda, es la utilización de un sistema basado en aprendizaje automático (Machine Learning) que detecta anticipadamente el ciberacoso.

Ambas opciones fueron descritas por Michal Ptaszynski de la Hokkaido University. En su artículo sobre detección de información dañina, en el que menciona el caso de las patrullas en línea, creada por el Ministerio de Educación de Japón, luego de un caso de suicido en una escuela de Takigawa en 2007 tras un incidente de acoso en línea. Conformada por profesores de las escuelas y miembros de las asociaciones de padres, visitan sitios web e interacciones públicas en redes sociales buscando comportamientos abusivos.

Aunque el autor reconoce que estas patrullas no cuentan con la capacidad para hacer frente a la creciente cantidad de publicaciones perjudiciales, sobre todo en redes sociales, juegan un papel importante en la detección del ciberacoso y la creación de entornos en línea más seguros. El propio ministerio simultáneamente ha impulsado campañas para proteger a las y los estudiantes

La otra alternativa que se destacada en el artículo es la detección automática de ciberacoso mediante Machine learning que mediante algoritmos identifica patrones y características específicas que son asociadas con actividades dañinas. Hasta el momento, quienes han utilizado estas herramientas son centros de investigación académica, empresas tecnológicas dedicadas a brindar soluciones a los establecimientos educacionales, organizaciones de defensa de derechos en línea y profesionales de informática dedicados al campo de la seguridad.

De tal manera, la detección automática de ciberacoso se logra gracias a la identificación y análisis de texto, mediante indicadores de ciberacoso, discurso de odio y calumnias, siguiendo patrones lingüísticos y semánticos que denotan expresiones dañinas. También, con el uso de modelos de Deep Learning que, según el autor, tal como sucede con las redes neuronales, capturan relaciones complejas de los datos para encontrar contenidos perjudiciales.

A pesar de que esta herramienta que ha sido probada por diversos autores y optimizada en los últimos siete años, reconoce la importancia de las patrullas y moderadores en línea para detectar, marcar y eliminar mensajes nocivos para la salud de niñas, niños y adolescentes.

El ciberacoso en Japón y sus formas de ser entendido

Los japoneses son una de las sociedades más tecnologizadas del mundo. El país nipón junto a Corea son los lugares donde las tecnologías de la información (IT) se han masificado con mayor intensidad en el Este de Asia. Un artículo de Yoo Kyung Son da cuenta de esta realidad en ambos países y pone el foco en los adolescentes, quienes las han incorporado en gran parte de su vida, desde las clases complementarias, hasta las plataformas para integrarse socialmente.

Buena parte de la vida académica y social de los adolescentes japoneses y coreanos transcurre en conexión permanente a Internet, señalan los autores. Esta situación tiene ventajas en cuanto al acceso a la información, pero también ha provocado problemas sociales de consideración, como el creciente ciberacoso, que se ha transformado en una tendencia común entre adolescentes. En el caso de Japón, la evidencia recogida en el artículo señala que en la última década, el acoso se ha producido a través de difamación y calumnias, utilizando computadoras, teléfonos móviles, filtración de información personal y exclusión de personas del grupo.

En Japón, existe un término específico para el acoso: ijime. Un paper de Tomoyuki Kanetsuna de la Universidad de Kagawa lo describe como una manera de referirse al acoso escolar o al acoso entre compañeros, donde se caracteriza un patrón repetitivo de comportamientos negativos que incluyen intimidación, burlas, agresiones y exclusión, provocando efectos significativos en la salud mental de las víctimas.

Este concepto se adaptó a la realidad actual y cuando se refiere al acoso en línea, se conoce como net-ijime. El avance de las tecnologías de la información, el internet y el uso extendido de los dispositivos móviles, hacen que se provoquen graves consecuencias para las víctimas.

De tal forma, las tendencias de net-ijime han ido al alza y la utilización de nuevas tecnologías de la información, como la Inteligencia Artificial (IA), están creando la percepción de que cada vez el problema puede ser peor. En el último año se han reportado cifras preocupantes para las autoridades. Cifras de Statistia muestran que el número de incidentes de ciberbullying entre estudiantes de escuelas en Japón durante 2022 fue de 23 mil 920, cifra considerablemente mayor a la de 2014 que se situó en los 7 mil 800.

Esta realidad supone la necesidad una mirada acuciosa sobre lo que sucede en la relación de los segmentos más jóvenes de la población y las nuevas tecnologías, sobre todo cuando a la desbordada capacidad de controles se suma la falta de marcos éticos. Desde esta perspectiva, una mirada comparativa con la realidad chilena es útil para comprender nuestros desafíos.

El ciberacoso en el caso chileno y la irrupción de la IA

Un análisis sobre el ciberacoso y creación de contenidos dañinos en nuestro país y las iniciativas para controlarlo, tuvieron Javiera Aliaga, socióloga especialista en diversidad e inclusión, y Alexandre Gottreux, académico especialista en temas de IA, didáctica e innovación. Para ellos, los intentos por controlar los contenidos ofensivos no han tenido buenos resultados. “La Radiografía del Chile Digital 2.0 publicada en 2010 indicaba que el 95 por ciento de los habitantes de Chile solía conectarse a internet con regularidad, ya sea en el trabajo, en la escuela, en casa u otros lugares. Desde entonces, las regulaciones y programas de capacitación sobre el acoso escolar han intentado abordar el problema, no solo en entornos físicos, sino también en el ámbito digital. A pesar de esto, los intentos por controlar y castigar la difusión de contenido violento, ofensivo y pornográfico que está al alcance de niños, niñas y adolescentes han resultado infructuosos, dejándolos aún más expuestos al ciberacoso, al grooming y a otras formas de hostigamiento”, señalaron.

En la misma línea, comentaron que Internet y las redes sociales son canales que reflejan y amplifican problemas sociales ya existentes. “Estos problemas se intensifican debido al alcance y disponibilidad de las plataformas, permitiendo que el acoso se convierta en una presencia constante, las 24 horas del día. Las redes de agresión formadas en estas plataformas pueden tener un impacto extremadamente perjudicial en la salud mental de las víctimas. Además, refuerzan estereotipos de género, haciendo que mujeres y personas de identidades sexuales disidentes sean frecuentemente blanco de ataques”, explicaron.

Por otra parte, se espera que con las actualizaciones legales y la nueva Política Nacional de Inteligencia Artificial se avance en una estrategia integral que involucre y responsabilice a todos los actores clave. “Tanto en los procesos de prevención, intervención, sanción y reparación del ciberacoso es fundamental desarrollar planes de contingencia y seguridad reales, más allá de simples slogans, para los usuarios de redes y telecomunicaciones. Además, es necesario fomentar la formación y concientización de toda la comunidad escolar y familiar, promoviendo la participación activa y consultiva de la ciudadanía”, se agregó.

En relación a la posibilidad de grupos, patrullas o actores con mayor responsabilidad, tal como ocurre en Japón, vigilen los comportamientos nocivos en línea y puedan prevenir hechos como el ocurrido en un establecimiento educacional de nuestro país, donde se crearon imágenes ofensivas mediante Deepfake, señalaron que en la actualidad hay diversas políticas públicas en el ámbito de la educación que instan a los colegios a iniciar un diálogo abierto y sin temores para abordar estos temas.

“La nueva Política Nacional de Convivencia Escolar enfatiza la necesidad de que los colegios promuevan el diálogo dentro de sus comunidades con el objetivo de encontrar estrategias que refuercen la prevención. Esta política sugiere la implementación de medidas pedagógicas y protocolos de actuación consensuados por todos. Tal como se establece en esta Política Nacional es esencial que las familias tengan una participación activa en la gestión de estos protocolos y en las medidas destinadas a fortalecer la prevención. Sin embargo, a menudo ocurre que las instituciones privadas no se hacen eco de estos esfuerzos estatales, debido a sus propios proyectos educativos o a los grandes prejuicios que existen al respecto”.

Por último, comentaron que resulta curioso observar que en nuestro país, todo lo relacionado con la educación en IA se centra en aspectos operativos e instrumentales. “Se deja de lado el uso crítico. Esto es aún más contradictorio cuando se considera que la dimensión ética, que debería ser transversal, no se aborda adecuadamente. En particular, no se contempla la alfabetización de los profesores desde su formación inicial, limitándose a un conjunto de acciones implementadas tardíamente o campañas con cápsulas de video, las cuales son claramente insuficientes. Por lo tanto, es urgente que estas políticas se articulen con otras leyes y decretos relacionados con temas de inclusión, convivencia escolar y acoso, entre otros”, sentenciaron.

Por equipo Asia Pacífico: asiapacifico@bcn.cl