Escucha este artículo
Audio generado con IA de Google
/
Las tensiones legales fueron unas de las principales críticas que surgieron cuando comenzó el auge de los modelos generativos de inteligencia artificial, como ChatGPT. Si bien se plantearon varias críticas y posturas sobre el manejo de la propiedad intelectual en estas tecnologías, hasta hace poco se han conocido los primeros veredictos en estas demandas.
También te puede interesar: El colombiano que se instaló en lo más alto de la programación mundial
El Espectador habló con Adriana Vergara, abogada y consultora legal en inteligencia artificial, que hizo una detallada compilación de las principales regulaciones, demandas y fallos sobre IA en Colombia y en el mundo.
La experta advierte que los resultados no muestran una tendencia en contra, ni a favor, de las IA. Tan solo dejan ver los retos que enfrentan los jueces al dictar sentencias en casos que involucran sistemas basados en algoritmos “caja negra”, como son llamados los modelos cuyos parámetros de funcionamiento no es posible conocer.
¿Cómo era la regulación de IA antes de la reciente revolución de los modelos generativos?
La regulación era limitada y fragmentada, y aún lo sigue siendo. Se centraba en aspectos tradicionales del derecho, como la privacidad y el manejo de datos personales en entornos digitales, además de la protección de obras creativas de manera convencional. Normativas como la Copyright Act de 1976, la Directiva de protección de datos 95/46/EC de 1995 y el Reglamento General de Protección de Datos (GDPR) de 2018 han sido referentes a nivel global, pero actualmente resultan insuficientes, dejando un importante vacío jurídico en torno al uso, los límites y los riesgos asociados con tecnologías disruptivas como la inteligencia artificial.
¿Qué hitos se han dado en la regulación en los últimos años que tengan implicaciones en el presente y futuro de la IA?
En 2017, los Principios de Asilomar marcaron un punto de partida al promover la transparencia, responsabilidad y alineación de la IA con valores humanos. Estos inspiraron la Declaración de Montreal sobre la IA Responsable en 2018 y las Directrices de la OCDE en 2019 para garantizar el uso ético de la IA. A su vez, en 2022, Estados Unidos adoptó el Blueprint for an AI Bill of Rights, una guía que establece principios destinados a proteger a los usuarios frente a riesgos éticos de sistemas de IA. En 2023, China adoptó las Medidas Provisionales para la Gestión de Servicios de IA Generativa para velar por la transparencia algorítmica y protección de datos en los modelos.
Finalmente, el Reglamento de IA 2024/1689 de la Unión Europea se convirtió en el primer marco integral adoptado a nivel global, estableciendo una clasificación de los sistemas de IA según su nivel de riesgo. Sin duda, estos hitos han comenzado a definir el rumbo regulatorio de la IA, orientando el diseño de normativas en distintas regiones con un enfoque centrado en la ética y los valores humanos.
¿Sobré qué han tratado los primeros fallos judiciales de los modelos generativos?
Uno de los primeros fallos se centra en el reconocimiento de tecnologías como el machine learning, deep learning y otros sistemas basados en inteligencia artificial dentro del ámbito de la propiedad intelectual. En particular, se debate si estas herramientas pueden ser consideradas inventoras y autoras, desafiando las leyes tradicionales. Un ejemplo de esto son las demandas que Stephen Thaler, creador de la IA DABUS, realizó entre 2019 y 2023. Pero sus solicitudes fueron rechazadas en Estados Unidos (Con los casos Thaler vs. Lancu en 2019; y Thaler vs. Perlmutter (2023).
Sin embargo, en Australia, el Tribunal Federal inicialmente permitió que una IA fuera reconocida como inventora en 2021: el caso Thaler vs. Commissioner of Patents. Pero, esta decisión fue revocada en 2022, reafirmando que sólo una persona natural puede ser considerada inventora bajo la ley de patentes.
Sobre la protección de derechos de autor, ¿los fallos han sido a favor o en contra de las IA?
Hay de ambos, no hay una tendencia clara. Por ejemplo, en Alemania, el fallo del caso Robert Kneschke vs. LAION (2024) marcó una postura favorable hacia la IA. El Tribunal Regional de Hamburgo permitió que LAION incluyera imágenes protegidas por derechos de autor en sus bases de datos para entrenar modelos de IA, amparándose en la excepción de minería de texto y datos para fines de investigación científica, establecida en el artículo 60d de la Ley de Derechos de Autor de Alemania.
Pero, en Estados Unidos, la reglamentación de derechos de autor, basada en la Copyright Act de 1976, ha influido en fallos más restrictivos. Por ejemplo, se ha negado de manera reiterativa el reconocimiento de patentes y derechos de autor a obras creadas exclusivamente por IA, reafirmando que la autoría debe ser de creadores humanos
Con decisiones como estas y varias demandas en curso contra OpenAI, Anthropic y otros, se espera que los tribunales comiencen a definir más claramente su postura frente a los sistemas de IA en 2025.
¿En qué otros campos han surgido fallos interesantes sobre el uso de la IA?
También hay sentencias que impactan a los litigantes. Han salido fallos que evidenciaron los riesgos éticos del uso de IA en la práctica legal, con sanciones a abogados por presentar jurisprudencia falsa generada por ChatGPT. En Estados Unidos hay varias demandas sobre esto, por ejemplo: Mata vs. Avianca (2023) y People vs. Zachariah C. Crabill (2023).
De hecho, también Colombia marcó un hito jurisprudencial en América Latina: la Sentencia T-323 de 2024 proferida por la Corte Constitucional, reafirmó que la IA no puede sustituir la función judicial, destacando la importancia de la transparencia y la supervisión humana.
¿Qué retos encuentran los jueces para dictar sentencias en esos fallos, sobre todo a la luz de los algoritmos caja negra?
El reto de juzgar a las IA es que usan algoritmos que nadie entiende del todo. En modelos como ChatGPT se usan algoritmos “caja negra”, que no son fáciles de entender, ni siquiera para expertos, por eso la falta de claridad dificulta evaluar si los sistemas operan de forma justa o sesgada. Además, la asimetría de conocimientos técnicos dificulta tomar decisiones informadas ante la falta de comprensión de estas tecnologías por parte de los jueces.
Asimismo, determinar la responsabilidad compartida entre desarrolladores, operadores y usuarios también es un reto. Por último, está el dilema de cómo equilibrar la innovación tecnológica con la protección de derechos como la privacidad y la transparencia. Todo esto hace que se necesite apoyo de expertos técnicos y legales para tomar decisiones judiciales más sólidas.
¿Qué regulación sobre IA está surgiendo en Colombia?
Colombia ha avanzado en la regulación de la IA con hitos como el CONPES 3975 de 2019, que sentó bases para la transformación digital y la adopción de las Recomendaciones de la UNESCO sobre Ética en la IA en 2021.
Además, en 2024, se presentó la Hoja de Ruta para la IA y el borrador del CONPES de Política Nacional de IA, enfocado en integrar esta tecnología de forma ética y sostenible. Y durante la Cumbre de IA en Cartagena, 16 países incluido Colombia firmaron la Declaración de Cartagena, promoviendo el desarrollo ético e inclusivo de la IA.
¿El Congreso colombiano que está haciendo?
Actualmente, el Congreso debate más de 10 proyectos de ley sobre ética, privacidad y límites de la IA. En noviembre de 2024, se aprobó el tercer debate del Proyecto de Ley de Datos, que busca crear una infraestructura de datos sólida para la IA. Según la iniciativa de gobierno liderada por MinTIC, en 2025 se espera que se expida el CONPES de IA y se presente un proyecto de ley unificado sobre IA, abordando la falta de uniformidad legislativa sobre el tema y consolidando esfuerzos regulatorios.
¿Los proyectos de ley sobre IA en Colombia está bien planteados?
Los más de 10 proyectos de ley sobre inteligencia artificial en Colombia reflejan el interés del país por regular esta tecnología, pero también ponen en evidencia una falta de coordinación legislativa, con ambigüedades en su contenido, además de contradicciones y duplicidad en las regulaciones propuestas. Esta fragmentación genera incertidumbre para desarrolladores, usuarios y el ecosistema tecnológico, dificultando una implementación efectiva y limitando el crecimiento y desarrollo de la industria de IA en el país.
Por ello, es fundamental avanzar hacia una unificación legislativa que reúna las mejores propuestas en un marco normativo coherente. Este enfoque debe garantizar un equilibrio entre la protección de los usuarios de sistemas de IA —respetando principios como privacidad y ética— y el impulso a la innovación, el desarrollo y el emprendimiento tecnológico. Una regulación clara y bien estructurada permitirá a Colombia aprovechar el potencial de la IA de forma sostenible y competitiva.
¿Qué retos vienen para la regulación de IA en el mundo?
Uno de los principales retos de la regulación de la IA es alinear las normas con la jurisprudencia, que ya establece precedentes debido a la falta de marcos legales específicos. Esto ha obligado a los jueces a crear derecho ante la ausencia de regulación.
También es esencial equilibrar la innovación con la protección de derechos fundamentales en un contexto de normas sin armonización global. Otro desafío clave es regular la transparencia algorítmica, ya que la complejidad de los algoritmos dificulta la comprensión de las decisiones de la IA. Finalmente, garantizar el acceso equitativo a la IA en países en desarrollo es crucial para reducir brechas tecnológicas, lo que requiere un esfuerzo conjunto entre gobiernos, empresas y organizaciones.
Por Camilo Vega Barbosa, Tres minutos monetizables
Conoce más