El uso e implementación de tecnologías relacionadas con la inteligencia artificial (IA) en Colombia ha presentado un aumento del 25,8% en 2021, frente a lo registrado en 2019, según el último informe del Departamento Administrativo Nacional de Estadística – DANE. Ante este panorama, el Gobierno nacional creó una directriz normativa, con el fin de asegurar que los procesos derivados por esta nueva tecnología, estén al servicio de todos los ciudadanos sin vulnerar sus derechos fundamentales.

El documento cuenta con el apoyo del Banco Interamericano de Desarrollo (BID) y el Banco de Desarrollo de América Latina (CAF), y establece 10 principios éticos para la adopción de la inteligencia artificial en el país. Esto, para disipar inquietudes que surgen alrededor de la misma y que pueden desembocar en problemáticas como: acentuar la desigualdad, el riesgo de crear sistemas con capacidad para decidir automáticamente y sin control humano, y el uso de información de la ciudadanía sin autorización.

“El marco no es más que un insumo para determinar una serie de principios éticos que se deben tener en cuenta en el diseño y apropiación de la aplicación de IA El documento es una guía no obligatoria que tiene recomendaciones y sugerencias, especialmente para empresas públicas, con el objetivo de mejorar la formulación y gestión de proyectos que incluyan el uso de esa tecnología”, precisa Margarita Rueda Pinzón, decana asociada del programa de Ciencias de la Computación e Inteligencia Artificial de La Sergio.

En opinión de la decana Sergista, “el documento fue creado para facilitar la implementación de la política nacional alrededor de temas de transformación digital e inteligencia artificial y busca eliminar los efectos negativos que las nuevas tecnologías pueden generar como la desinformación, la discriminación y violación de la privacidad de los datos”.

LOS 10 PRINCIPIOS ÉTICOS DE IA EN COLOMBIA Y EL MUNDO

Según la Web Foundation, los principales efectos negativos que puede tener un sistema de IA se dividen en daños y discriminación. Eso se traduce, por ejemplo, en los resultados imprecisos que pueden hacer los algoritmos y que pueden derivar en publicidad no deseada o en otros inconvenientes en las experiencias de los consumidores, pero para los grupos marginados en contextos frágiles, se argumenta que la discriminación algorítmica puede llevar a agresiones sin control e, incluso, a exclusiones fatales de servicios y recursos públicos.

Para evitar esto, el Gobierno nacional adoptó principios ya existentes de la inteligencia artificial que se han desarrollado en los últimos años y que son destacados en una investigación realizada por el Berkman Klein Center de la Universidad de Harvard, Estados Unidos, publicada en enero de 2020, que presenta un mapa completo de las metodologías normativas que ya se han propuesto a nivel mundial, por parte de diversas entidades como gobiernos, organizaciones internacionales, ONG y actores privados, entre otros.

1. Transparencia

Debe ser entendida como la apertura para brindar información completa acerca del diseño, funcionamiento e impacto que tienen los sistemas de inteligencia artificial. Dicha información no debe comprometer la confidencialidad del modelo de negocio ni de la innovación, susceptibles de usos no autorizados.

2. Explicación

Este principio es visto en algunos casos como complementario a la transparencia, pero la diferencia está en que la información que es compartida y se da conocer a la ciudadanía de forma transparente debe ser comprensible tanto para los desarrolladores y usuarios del sistema como para aquellos individuos que pueden verse afectados por sus decisiones y resultados.

3. Privacidad

La inteligencia artificial debe estar precedida de un respeto por la intimidad de las personas y su esfera privada, lo cual impide el uso de información sin su debida autorización.

4. Control humano de las decisiones propias de un sistema de inteligencia artificial

Este principio es aplicable a sistemas con cierta autonomía en la toma de decisiones, en los cuales el ser humano debe tener control total de las funciones, especialmente en la etapa de implementación.

5. Seguridad

Los sistemas de inteligencia artificial no deben generar afectaciones a la integridad y salud física y mental de los seres humanos con los que interactúan.

6. Responsabilidad

Es decir, el claro deber de responder por los resultados que produzca un sistema de inteligencia artificial, así como las afectaciones que puede generar.

7. No discriminación

Los sistemas de inteligencia artificial no pueden tener resultados o respuestas que atenten contra el bienestar de un grupo específico o que limiten los derechos de poblaciones históricamente marginadas. La funcionalidad de un sistema no debe estar limitada a un grupo específico por razón de sexo, raza, religión, discapacidad, edad u orientación sexual. Por tanto, deben adoptar un enfoque de neutralidad de género y garantizar que el parámetro de género no sea utilizado como factor de discriminación.

8. Inclusión

Implica la participación activa de poblaciones históricamente marginadas y diversas en aspectos de diseño, desarrollo, implementación y evaluación de sistemas de inteligencia artificial que se utilicen en Colombia.

9. Prevalencia de los derechos de niños, niñas y adolescentes:

Los sistemas de inteligencia artificial deben reconocer, respetar y privilegiar los derechos de esta población.

10. Beneficio social:

La IA tiene un potencial que puede desencadenar en efectos negativos y positivos. No obstante, la implementación de esta tecnología es fundamental en el mundo de hoy, pues un escenario sin ella sería perjudicial para el desarrollo y el bienestar de la sociedad. Por tanto, los sistemas de inteligencia artificial que se implementen en Colombia deben permitir o estar directamente relacionados con una actividad o servicio que reporte satisfacción y bienestar social.

LEA TAMBIÉN