Escucha este artículo
Audio generado con IA de Google
/
Anticipar el futuro es un ejercicio tan inútil como necesario. Las cosas nunca salen como uno espera. Sin embargo, lo que pensamos del futuro decide lo que hacemos en el presente, determina los futuros posibles y funciona como un deber moral que consiste en estar informados y preparados.
Con esto en mente, más que una mirada a la bola de cristal para explicar qué será inevitable en 2024, acá quiero dejar algunas notas sobre los procesos que ofrecen algunas oportunidades para debatir temas claves de derechos humanos y justicia social respecto a las políticas de tecnología en Colombia.
Como van las cosas, el desarrollo de la inteligencia artificial (IA) será el principal motor de cambios para este año.
Los servicios de inteligencia artificial generativa, como Chat-GPT, Midjourney, Dall-E, entre otros, cuestionaron en 2023 los límites de la propiedad intelectual y los litigios en contra de Open AI o Meta por el uso de los datos para entrenar sus modelos continuarán este año.
Lea también: Regulación de inteligencia artificial: ¿por qué es clave el proyecto de la UE?
La protección de artistas y las industrias culturales y creativas debe recibir atención durante este año. Estas discusiones nos obligan a pensar mejor en uno de los elementos claves de la inteligencia artificial: los datos que utilizan las empresas para desarrollar esta tecnología.
Las declaraciones de soberanía de datos de pueblos indígenas provocan la discusión sobre los derechos y la autonomía de las comunidades sobre la explotación de sus datos, un asunto sobre el que el desarrollo de la inteligencia artificial hasta ahora ha pasado por encima.
Otras comunidades seguramente empezarán a pensar en términos de soberanía y autonomía. Los debates sobre el futuro del trabajo incluyen, por un lado, la regulación del trabajo en plataformas que ya anda en la reforma laboral. Por el otro, la creación de trabajos precarios para hacer funcionar la inteligencia artificial y la economía digital en general. En 2023, por ejemplo, los medios de comunicación denunciaron las condiciones en las que se desarrolla la moderación de contenidos en TikTok en Colombia.
El problema de los datos y el trabajo nos debe mover a debatir cuál es el papel de Colombia en el desarrollo de la inteligencia artificial y las tecnologías digitales. Antes que retirarnos de estas discusiones, porque nuestra capacidad de regular grandes plataformas es mucho menor que la de otros países o regiones, tenemos que pensar en cómo los datos que producimos y el trabajo que sostienen los servicios digitales nos legitiman para participar en estos debates.
Le puede interesar: Colombia también necesita regular las inteligencias artificiales
La transformación digital del Estado pasa inadvertida frente a todos los cambios que está provocando la inteligencia artificial, pero no por ello es menos importante o corre separada de esta tendencia.
Hay dos proyectos que tendrán un impacto fundamental en el Estado colombiano. El Departamento Nacional de Planeación está liderando el cambio del Sisbén al Registro Único de Ingresos. El objetivo de este registro es recopilar datos de todos los hogares colombianos y especialmente de los más pobres o vulnerables, para tomar decisiones sobre la focalización de gasto social.
En este proceso, las entidades que controlan las distintas fuentes de información que alimentarán el registro deberán acomodarse para producir y entregar la información necesaria, lo que abrirá las posibilidades para compartir datos y usarlos en otras formas no previstas aún. La inteligencia artificial mediará, además, las decisiones sobre el gasto social a menos que seamos capaces de establecer límites y garantías en estos procesos.
El otro proyecto clave es la consolidación de la identidad digital. La Registraduría Nacional lidera la implementación de la cédula digital, que incluye reconocimiento facial y la posibilidad de autenticar la identidad de las personas en medios digitales. La competencia entre la Registraduría y el sector privado por ofrecer servicios de identificación y autenticación de personas está transformando las relaciones con el Estado y el desarrollo de todo tipo de servicios públicos y privados (banca, educación, salud, telecomunicaciones, entre otros).
Juan David Gutiérrez y Sarah Muñoz-Cadena identificaron casi 100 casos de implementación de sistemas de decisión automatizados en el sector público en Colombia. La falta de espacios para debatir la regulación de la inteligencia artificial en Colombia sugiere que el sector público implementará estas tecnologías sin mayores controles.
En contraste, Estados Unidos, la Unión Europea y China siguen en la carrera por definir los estándares regulatorios de la inteligencia artificial. La Unión Europea aprobó la Ley de Servicios Digitales y la Ley de Mercados Digitales, que afecta el ecosistema de internet y, especialmente, las redes sociales.
A propósito de redes sociales, el balance entre la protección de personas y comunidades, y el ejercicio a la libertad de expresión en internet seguirá siendo una necesidad en 2024.
Lea también: Inteligencia artificial: guía rápida para entender el boom de esta tecnología
La violencia en redes sociales y, especialmente la violencia basada en género, es uno de los problemas más agudos que enfrentamos hoy. Aunque en el Congreso cursan varias iniciativas legislativas para responder al problema, se requiere una política integral, además de la aplicación efectiva de las herramientas que ya existen para prevenir y sancionar estas formas de violencia.
Sin embargo, la potencial aprobación de la Ley de Inteligencia Artificial de la Unión Europea marcará una alternativa al modelo que perfila la Orden Ejecutiva sobre Inteligencia Artificial segura y confiable de Estados Unidos.
La estabilización de la Superintendencia de Industria y Comercio es quizás el proceso más clave para analizar cómo llegará este debate al país. En todo caso, es probable que se apruebe alguno de los tantos proyectos de ley que cursan en el Congreso sobre el tema.
Aparte de estos, hay dos proyectos de ley importantes para este año: los que crean la Agencia Nacional de Seguridad Digital, un proceso que hemos seguido en Karisma. Más allá de la Agencia, la coordinación para la respuesta a incidentes de seguridad digital debe ser una prioridad, ya que los ataques facilitados con inteligencia artificial serán más sofisticados y comunes. Situaciones como las que originaron la parálisis de servicios del Estado que vivimos en 2023 sin duda volverán a ocurrir.
Finalmente, durante 2024 ocurrirán la Cumbre del Futuro y Netmundial+10, eventos en donde se discutirán el impacto de las tecnologías digitales y los potenciales remedios desde la perspectiva de derechos humanos y el sur global.
*Director encargado, Fundación Karisma.