La guía de ASEAN para desarrollar la gobernanza de la IA de manera ética y responsable

La Asociación de Naciones del Sudeste Asiático (ASEAN) lanzó una guía para el desarrollo ético y responsable de la Inteligencia Artificial (IA). Si bien hay países como Singapur con un reconocido liderazgo en la formulación de políticas y estrategias, se plantean una serie de lineamientos para crear un marco de gobernanza para todos los países que, además de aprovechar las oportunidades que brindan las nuevas tecnologías, eviten daños y amenazas a las sociedades. Más detalles de esta guía, en la siguiente nota.

La gobernanza de la IA desde una perspectiva regional

Durante los primeros días de febrero de 2024 se llevó adelante en Singapur, la cuarta reunión de “Ministros Digitales” de Asean, donde representantes de los 10 países miembros se dieron cita para discutir cómo construir un ecosistema digital que sea confiable e inclusivo. Entre otros puntos, los asistentes acordaron en un Memorando de Entendimiento el establecimiento de acciones para cooperar en el fortalecimiento de políticas y guías para el desarrollo de las tecnologías emergentes.

La idea es que el inevitable desarrollo de estas nuevas tecnologías se concrete de una manera segura y responsable. Para ello, los firmantes respaldaron la creación de una guía para la gobernanza y la ética en Inteligencia Artificial que semanas más tarde culminó en un documento del mismo nombre que contiene principios básicos comunes para todos los países que conforman el bloque de integración regional.

Pero más que un intrincado manifiesto de acciones y etapas, se trata de un enfoque flexible y general que permite a todos los miembros, con sus diferentes estados de desarrollo, enfocar y encauzar estratégicamente sus políticas y estrategias. Esta diferencia fue resaltada en el encuentro, ya que el país anfitrión es líder a nivel regional en la formulación de políticas de desarrollo de la IA, pues cuenta con una Estrategia Nacional desde diciembre de 2023.

Esta diferencia es resaltada en un artículo de Sheila Chiang en CNBC, quien de acuerdo a la opinión de otros expertos plantea que es uno de los grandes desafíos, ya que implica políticas que pueden llegar a ser drásticamente diferentes, por ejemplo en temas de ciberseguridad, protección de datos personales o efectividad en las regulaciones.

Principios que guían la gobernanza ética

La Guía de ASEAN para la Gobernanza y Ética de la IA es un documento práctico orientado a organismos públicos de la región que se encuentren en la etapa de diseño, desarrollo e implementación de tecnologías de IA, principalmente con fines comerciales y no militares. De tal manera, la guía busca un alineamiento al interior del bloque. Para ellos, propone los siguientes principios.

1. Transparencia y explicabilidad. Mientras la transparencia se refiere a la divulgación de cuándo y cómo se utiliza un sistema, cómo está involucrado en la toma de decisiones, qué tipo de datos utiliza y su propósito. La explicabilidad se refiere a la capacidad de comunicar el razonamiento detrás de las decisiones de un sistema de IA de manera comprensible para las personas.
2. Equidad e igualdad. Implementación de medidas para asegurar que las decisiones algorítmicas no tengan impactos discriminatorios o injustos entre diferentes grupos demográficos.
3. Seguridad. Reducir los riesgos y estar protegidos contra los ataques maliciosos, pero también tener protocolos adecuados para la protección de datos personales. Esto genera confianza pública.
4. Enfoque en el ser humano. Un diseño basado en el respeto a los valores y centrado en obtener beneficios para la sociedad, como el bienestar, la buena nutrición y la felicidad, son algunos de los elementos fundamentales. Desde otra perspectiva, los sistemas de IA no deben utilizarse con propósitos maliciosos o engañar a los usuarios para que tomen decisiones que no los benefician.
5. Privacidad. Es necesario contar con mecanismos adecuados para garantizar la protección de datos y su integridad a lo largo de todo su ciclo de vida. De tal manera es necesario establecer mecanismos para una adecuada recopilación, almacenamiento, acceso y eliminación de datos.
6. Accountability. Las decisiones tomadas en el desarrollo de IA deben ser responsables, cumplir con las leyes y con los principios éticos, con el fin de no tener usos indebidos ni que tengan consecuencias negativas en las personas.
7. Robustez y fiabilidad. Los sistemas de inteligencia artificial deben ser robustos para hacer frente a errores y operar de manera consistente en una variedad de situaciones y entornos, siendo capaces de adaptarse a condiciones cambiantes y prevenir comportamientos peligrosos.

De tal manera, esta guía se presenta como una herramienta práctica para fomentar la alineación y la interoperabilidad de los marcos regulatorios de IA en la región de la ASEAN, ofreciendo recomendaciones tanto a nivel nacional como regional. Además, cubre una amplia gama de consideraciones para que las organizaciones de diferentes industrias puedan ajustarse a la complejidad tecnológica y los riesgos asociados. Es fundamental resaltar que esta guía también insta a las autoridades gubernamentales locales a emplear estos principios en la elaboración de políticas y enfoques, con el objetivo de fomentar la confianza entre las partes interesadas y asegurar el cumplimiento de estándares internacionales.

Nutrir talentos y desarrollar habilidades para la comprensión ética

En su sección orientada a decisores en políticas públicas, la guía propone una serie de recomendaciones para asegurar el desarrollo responsable de los sistemas de IA a través de buenas prácticas. Más que desde una perspectiva nacional, se deja en claro que la colaboración entre países y regiones es fundamental. Para ello es oportuno contar con personas altamente calificadas que puedan intercambiar conocimiento y recursos.

Pero además, con el uso cada vez más extendido de IA por parte de las industrias más importantes en el Sudeste Asiático, es crucial que la fuerza laboral de los países pueda adaptarse a nuevas formas de trabajo. Ello requiere de más habilidades digitales que sean suficientes para interactuar eficazmente con los nuevos tipos de sistemas. Para ello, se pueden desarrollar distintos niveles de capacidades, desde las más básicas para operar aplicaciones, un nivel intermedio para mantener y corregir problemas, hasta un nivel más avanzado para desarrollar los instrumentos y capacidades del sistema.

En consecuencia, dependiendo de los distintos tipos de trabajos que requieran las industrias locales, los gobiernos son los llamados a implementar medidas destinadas a mejorar las habilidades de la fuerza laboral. Esto también repercute en la colaboración entre el sector público y el privado, ya que con trabajadoras y trabajadores altamente calificados, pueden colaborar de manera más estrecha en impulsar proyectos comunes y combinar recursos.

Por ejemplo, las empresas privadas pueden aportar su experiencia en desarrollar recursos específicos sobre ciertas industrias, mientras que las agencias públicas pueden organizar cursos y foros específicos sobre las industrias, ayudando al personal a comprender los distintos tipos de sistemas de IA en el mercado.

Pero además, la guía hace hincapié en la importancia de adquirir conocimientos más profundos en escuelas e instituciones educativas. Las carreras STEM no solamente permiten el desarrollo de habilidades analíticas necesarias, sino también la actualización permanente de conocimientos. Pero tan importante como esto es la comprensión de principios éticos. La creación de un currículo que vaya más allá de los conocimientos técnicos y desarrolle capacidades de comprensión ética y su aplicación para identificar y evitar consecuencias perjudiciales para los seres humanos, es una garantía de que el desarrollo tecnológico puede contribuir a mejorar la calidad de vida de las personas.

Ahora bien, frente a esta iniciativa impulsada en el Sudeste Asiático y considerando la disímil realidad de los países que conforman ASEAN, cabe la pregunta de qué tan conveniente es la aplicación en nuestro país de algunos de los principios que se proponen en la guía. Asimismo, qué tan viable es un instrumento similar en la realidad latinoamericana.

Preocupación por orientar el desarrollo de la IA desde una perspectiva chilena

Al igual que los países del Sudeste Asiático guardan notorias diferencias entre sí, América Latina tiene también condiciones heterogéneas a la hora de encarar el desarrollo de nuevas tecnologías. Néstor Becerra, profesor del Departamento de Ingeniería Eléctrica de la Facultad de Ciencias Físicas y Matemáticas de la Universidad de Chile, destacó la experiencia de ASEAN, pero tuvo dudas respecto de contar con una mirada regional en el corto plazo. “Esta iniciativa forma parte de un marco más amplio para abordar los desafíos de la economía digital, pero en América Latina observamos una marcada disparidad en los niveles de avance en el desarrollo de las Tecnologías de la Información y Comunicación (TIC), por lo que aún tenemos cierta incertidumbre sobre la viabilidad de contar con iniciativas de IA en la región”, señaló.

Sin embargo, comentó que hay coincidencias en la necesidad de que los sistemas sean transparentes y fácilmente explicables. “Existe una creciente preocupación por el impacto de la IA en el mercado laboral y en la vida cotidiana. Estos sistemas están compuestos por múltiples unidades que llevan a cabo operaciones simples como sumas y multiplicaciones, pero en conjunto producen resultados significativos. La razón detrás de una decisión en particular por un sistema de inteligencia artificial suele ser difícil de comprender. En nuestros trabajos de investigación y desarrollo, evaluamos el rendimiento de estos sistemas desde una perspectiva estadística, considerando métricas como tasas de aciertos o errores. Para garantizar que la salida de un sistema de IA sea representativa del objetivo deseado, es crucial especificar adecuadamente la base de datos utilizada en su entrenamiento”, agregó.

Otro de los elementos que es necesario avanzar es en la seguridad, no obstante, más que la tecnología, plantea que se ponga atención en las aplicaciones. “Tanto en las reuniones de la Comisión de Ciencia y Tecnología para el Conocimiento y la Innovación (CTCI) del Ministerio, como en la Comisión Desafíos del Futuro del Senado donde he participado, he resaltado la importancia de regular las aplicaciones de la tecnología, no la tecnología en sí misma. Por ejemplo, al considerar el desarrollo de un robot policía para asistir a los oficiales humanos, podríamos explorar tecnologías como el reconocimiento de voz, el procesamiento de lenguaje natural y el reconocimiento de imágenes. Estas tecnologías presentan cierto margen de error. Si empleamos al robot policía para llevar a cabo controles de identidad, siempre existe la posibilidad de que solicite ayuda a un oficial humano ante cualquier duda. Sin embargo, estos escenarios serían menos probables si las tecnologías de inteligencia artificial son lo suficientemente avanzadas, permitiendo una colaboración humano-robot altamente productiva. En contraste, si consideramos la posibilidad de que el robot policía utilice armas y participe en enfrentamientos con delincuentes armados, un simple error podría resultar en la identificación errónea de una persona inocente como un criminal, con consecuencias fatales. ¿Es necesaria la regulación? Sí, pero es crucial que esta normativa no obstaculice el avance en Investigación y Desarrollo (I+D) en el campo de la IA en Chile, ya que de lo contrario estaríamos beneficiando a nuestros competidores”, explicó.

Por último, destacó que la IA tenga un enfoque centrado en el ser humano. “Las sociedades enfrentan diversos desafíos para los cuales la inteligencia artificial puede ofrecer soluciones innovadoras, especialmente en áreas como la salud, la gestión de desastres naturales, la industria, entre otras. Por ejemplo, en nuestro Laboratorio de Procesamiento y Transmisión de Voz (LPTV) hemos desarrollado tecnologías de IA para medir la dificultad respiratoria a través de dispositivos móviles y para optimizar el tiempo de respuesta ante tsunamis desencadenados por terremotos. Estas aplicaciones tienen un impacto positivo en la vida humana. Es importante destacar que la inteligencia artificial no es intrínsecamente buena ni mala, su beneficio depende de los propósitos para los que se emplea”, sentenció.

Más del contexto e información de la reunión de ministros digitales de ASEAN y la elaboración de la guía para desarrollar la gobernanza de la IA de manera ética y responsable, en el siguiente video:

Por equipo Asia Pacífico: asiapacifico@bcn.cl