“El proyecto otorga centralidad a la gobernanza de los distintos operadores que trabajen con Inteligencia Artificial y a los aspectos éticos de sus operaciones”, señaló Constanza Richards Yáñez, académica de la Escuela de Derecho de la Universidad Católica del Maule

A inicios de mayo ingresó al Congreso el proyecto de Ley impulsado por el Ejecutivo que busca regular la Inteligencia Artificial (IA) en Chile. Sobre este avance, la abogada y académica de la Escuela de Derecho de la Facultad de Ciencias Sociales y Económicas (FACSE) de la Universidad Católica del Maule (UCM); Constanza Richards Yáñez, se refirió en entrevista, compartiéndonos su análisis sobre esta acción que busca generar certezas en la materia para la investigación, desarrollo e implementación de estas tecnologías respetando los derechos fundamentales de las personas.

¿Qué aspectos resaltaría del proyecto de Ley de Inteligencia Artificial en Chile?

Es un proyecto de Ley sobre IA en Chile que fue elaborado teniendo en consideración distintos estándares internacionales, especialmente, las recomendaciones sobre la UNESCO en la materia. Presenta una clasificación de riesgo: Inaceptable, alto riesgo, riesgo limitado y ningún riesgo evidente, en lo cual se asimila a la regulación europea recientemente aprobada. Sin embargo, sigue al legislador estadounidense en lo concerniente a la “autoclasificación” que cada compañía debe formular, siguiendo los lineamientos establecidos por el Consejo Asesor de Inteligencia Artificial (IA), órgano que crearía esta normativa.

Considera el fomento de la innovación de parte de empresas de menor tamaño o startups a través de su participación, por medio de representantes, en el Consejo Asesor Técnico de la IA y otorgándoles prioridad en los espacios de prueba controlados, con financiamiento estatal, conocidos como sandbox.

El proyecto de Ley sobre IA en Chile otorga centralidad a la gobernanza de los distintos operadores que trabajen con IA y a los aspectos éticos de sus operaciones, recogiendo principios que están en línea con las principales propuestas a nivel internacional. Se trata de una propuesta más flexible que la moción presentada el año pasado, lo que permite congeniar más eficientemente la regulación y el desarrollo del mercado tecnológico.

La entidad a cargo de la fiscalización y cumplimiento de esta normativa sería la Agencia de Protección de Datos que se encuentra considerada en la futura ley sobre la materia.

¿Cree que la ley influirá en el uso de la inteligencia artificial en el país?

Sin duda, ya que no existe una regulación sobre la materia y ya estamos en presencia de numerosas actividades que incorporan el uso de la IA, por lo que existe una gran expectativa en el mercado y en la ciudadanía por las modificaciones que traerá una normativa como esta, así como la nueva ley sobre protección de datos personales, las cuales son legislaciones que están íntimamente relacionadas por la gran capacidad de procesamiento de información, y específicamente de datos personales, que tiene la inteligencia artificial.

¿Cuáles son las principales preocupaciones éticas y legales de esta regulación?

Los derechos fundamentales de las personas. En la medida que esta tecnología signifique un riesgo para el respeto de la dignidad humana, el proyecto de ley establece requisitos, estándares de cumplimiento o derechamente prohíbe aquellos sistemas que clasifica como incompatible con el respeto y garantía de los derechos de las personas. Para ello, se propone imponer normas que aseguren una alta calidad técnica tanto en el desarrollo de la tecnología como en los servicios que se ofrecen al público en general, sometiendo siempre la actividad de la tecnología a la supervisión humana que debe velar por minimizar los riesgos previsibles y garantizar una resistencia técnica a fallas imprevistas, todo dentro del marco del respeto a los derechos reconocidos en nuestro ordenamiento para las personas, los consumidores, la transparencia, protección de datos y el desarrollo sostenible.

El artículo 4° del proyecto de ley señala los principios generales que deberán seguir los operadores de IA: intervención y supervisión humana, solidez y seguridad técnica, privacidad y gobernanza de datos, transparencia y explicabilidad (sic), diversidad, no discriminación y equidad, bienestar social y medioambiental, rendición de cuentas y responsabilidad y protección de los derechos de los consumidores.

¿Cómo se debería determinar la responsabilidad por acciones de sistemas de inteligencia artificial?

Según el proyecto de ley, cada uno de los operadores, de conformidad a los estándares establecidos por un Consejo Asesor Técnico debería establecer en qué nivel de riesgo se encuentra el sistema de IA con el que trabajan, siendo la Agencia de Protección de Datos la encargada de fiscalizar el adecuado cumplimiento de las normas en la materia. Sin embargo, ninguna de estas entidades ha sido creada aún, por lo que los mecanismos específicos aún se desconocen. En todo caso, se entiende que los estándares que señale el futuro Consejo Asesor Técnico de IA irán modificándose conforme al avance de la tecnología, por ello es que se crea un nuevo órgano que tenga facultades normativas lo que permite una modificación ágil de la regulación técnica aplicable.

En todo caso, el proyecto faculta a la futura Agencia de Protección de Datos a imponer sanciones de multa en caso de incumplimiento.

En términos generales, esta propuesta normativa sigue la tendencia mundial en la materia, que es responsabilizar al desarrollador, proveedor, importador o distribuidor por los eventuales daños o riesgos que el uso de esta tecnología implique para clientes o consumidores.

¿Qué protecciones debería ofrecer la ley para la privacidad y los datos personales?

Este proyecto de ley debiera estar alineado con la regulación de la nueva ley de protección de datos personales que, actualmente, se está tramitando en el congreso, y que es a la que corresponde establecer los estándares adecuados en la materia.

La construcción de perfiles, y su posterior uso, elaborados a partir del tratamiento automatizado de datos personales sensibles debería estar sometido a la más rigurosa fiscalización, toda vez que de ellos pueden derivarse actos discriminatorios y vulneratorios de la dignidad de las personas, según el contexto en que se utilice.

Crédito: DIRCOM UCM.