El Centro de Derecho Regulatorio y Empresa, en conjunto con el Estudio Alessandri Abogados, realizaron la quinta versión ITechLawCyberSpace Camp, el pasado 25 de agosto. La actividad contó con diversos expertos en el área de la inteligencia artificial y protección de datos, entre ellos, el Senador Kenneth Pugh, Daniel Álvarez, Rodrigo Velasco y Macarena Gatica.
El seminario contó con paneles y cátedras que exploraron los desafíos éticos y legales de la inteligencia artificial, la instalación de la nueva Agencia de Protección de Datos en Chile y la Ciberseguridad, revelando la creciente importancia de la regulación en la era digital y la necesidad de adaptarse a las cambiantes tecnologías y desafíos éticos que estos conllevan.
El encargado de dar la bienvenida al evento fue el Director del Centro de Derecho Regulatorio y Empresa, Matías Pascuali, compartiendo que la relación entre el derecho y las nuevas tecnologías, sumado a la protección de datos, la ciberseguridad, son los temas relevantes de los nuevos tiempos, y que se toman la agenda en nuestro país.
Además, comentó que «la relevancia de la adecuación jurídica a esta nueva realidad, es imprescindible enfrentarse a una nueva regulación, que por un lado debe proteger los derechos de los individuos, pero por otro, no debe ser un impedimento del desarrollo científico. Es por este motivo, que la Universidad del Desarrollo y nuestra Facultad de Derecho, ha tomado este tema como una de las líneas relevantes de desarrollo de investigación y con la creación, por ejemplo, del observatorio en el derecho de tecnología dependiente de nuestro centro de Derecho Regulatorio y Empresa, con el Diplomado en Tecnología y Regulación, con la incorporación de Ramos en la malla de pre y postgrado, y con la incorporación de este tema dentro de las áreas de interés de nuestro Doctorado en Derecho«.
La charla magistral estuvo a cargo de Daniel Álvarez, Coordinador Nacional de Ciberseguridad del Ministerio del Interior y Seguridad Publica de Chile, bajo el nombre “Ciberseguridad, Protección de Datos e Inteligencia Artificial: agenda legislativa y desafíos regulatorios”.
En su presentación expuso sobre la evolución y desafíos de la regulación en el derecho y la tecnología en Chile, destacando que existen propuestas regulatorias desde hace dos décadas y que aún no se concretan.
En la instancia, manifestó que «la regulación de la protección de datos personales en Chile se basó en la ley española de 1986, lo que no es favorable porque esta no se ha actualizado a las nuevas tecnologías vigentes». Sumado a que, en Chile se intentó trabajar con las agendas digitales, que buscaban regular temas claves para el desarrollo digital y la transformación de la sociedad, sin tener mucho éxito.
Continuando con su ponencia, Daniel Álvarez abordó la relación entre la ciberseguridad y la protección de datos personales, señalando que se está trabajando en crear la “Agencia Nacional de Protección de Datos”. Iniciativa que tiene por objetivo proteger la seguridad pública en el ciberespacio, anticipando y combatiendo los delitos informáticos para proteger los bienes de la sociedad digital.
Por último, destacó que, en el ámbito de la protección de datos personales persiste el problema de la calidad y actualización de los datos, sumado al costo de incumplir con la propia regulación. En el ámbito de la ciberseguridad, se mencionó la necesidad de regular tanto la infraestructura crítica como el ecosistema en su conjunto.
El panel estuvo compuesto por Oscar Montezuma, abogado digital de la Asociación Internacional de Derecho Tecnológico (ITechLaw) y Director Ejecutivo de Niubox Legal; Rodrigo Velasco, socio de Alessandri Abogados, vicepresidente de ITechLaw Latam y profesor del Diplomado en Derecho y Tecnología UDD; Carla Illanes, consejera del Observatorio de Derecho y Tecnología UDD, Counsel de Protección de Datos y Ciberseguridad en DLA Piper Chile. La encargada de moderar el panel fue María Ignacia Ormeño, miembro del equipo de Tecnología, Medios, Telecomunicaciones y Protección de Datos de Alessandri Abogados.
El primero en exponer fue Oscar Montezuma, quien abordó los desafíos legales y éticos que enfrentan las nuevas tecnologías de inteligencia artificial (IA), detallando los problemas claves y la importancia de generar una equilibrada regulación en esta materia. Sumado a la historia de la IA y cómo ha ido evolucionando durante los últimos años.
El abogado digital comentó las preocupaciones frente a la protección de datos personales y la necesidad de cumplir con las leyes de privacidad de los usuarios, respecto a la IA. Mencionando el debate que existe sobre la protección al consumidor en interacciones con chatbots, y cómo se debiese equilibrar la eficiencia con la necesidad del contacto humano.
Además, Montezuma mencionó las regulaciones propuestas en la Unión Europea y la nueva ley en Perú que abordan el enfoque de riesgo en la IA.
En el caso peruano, se promulgó la Ley 31.814, que su objetivo principal es impulsar el uso de la inteligencia artificial (IA) en beneficio del desarrollo social y económico del país. La norma señala “promover el uso de la inteligencia artificial en el marco del proceso nacional de transformación digital privilegiando a la persona y el respeto de los derechos humanos (…) en un entorno seguro que garantice su uso ético, sostenible, transparente, replicable y responsable”.
Por su parte, la Unión Europea pretende «promover la adopción de una inteligencia artificial fiable y centrada en el ser humano y garantizar un elevado nivel de protección de la salud, la seguridad, los derechos fundamentales, la democracia y el Estado de derecho, así como del medio ambiente, frente a sus efectos nocivos». Sumado a la prohibición de ciertas materias de la IA, como lo es el reconocimiento facial en espacios públicos, herramientas policiales predictivas y los sistemas de puntuación Social.
Rodrigo Velasco, en su intervención dentro del primer panel, proporcionó los principios para la regulación ética y responsable de la IA, asegurando que esta tecnología se utilice en beneficio de la sociedad y con pleno respeto a los derechos individuales.
De esta manera, instó a los desarrolladores a crear algoritmos éticos que tomen decisiones responsables. Sumado a que, deben asumir la responsabilidad de las consecuencias de sus acciones, promoviendo la transparencia y la comprensión de los algoritmos.
Profundizando en los principios que debe tener la IA, Velasco mencionó que “quien desarrolla un mecanismo de Inteligencia Artificial tiene que hacerse cargo, y tiene que haber una forma –naturalmente- de rendir cuentas de las consecuencias positivas o negativas que tenga ese desarrollo”.
Asimismo, planteó el punto de la justicia y no discriminación presente en la Inteligencia Artificial, donde se discutió el problema de las sesiones en los algoritmos de IA y la necesidad de garantizar decisiones justas y no discriminatorias.
También está el caso de la seguridad y responsabilidad en los mecanismos de IA, donde debe existir una estandarización del comportamiento, junto con garantizar su seguridad y confiabilidad. Sumado a que, existe una responsabilidad civil en casos de accidentes o errores causados por vehículos autónomos y otros sistemas de IA.
Con respecto a la privacidad y protección de datos, hizo hincapié en la necesidad de regulaciones sólidas para estas materias, debido a que la recopilación de datos puede ser masiva, y debe ser utilizada de buena manera, sobre todo con los riesgos de filtraciones existentes.
En el ámbito de los Derechos de Autor y Propiedad Intelectual, Rodrigo Velasco comentó el desafío existente de determinar la titularidad de obras generadas por algoritmos de IA y la necesidad de abordar cuestiones relacionadas con los derechos de autor y las licencias.
Llegado el turno de Carla Illanes, la experta destacó la importancia de la IA en el desarrollo económico y social, así como los desafíos asociados con su crecimiento. En la instancia, comentó que «según McKinsey Global Institute, se estima que los desarrollos en sistemas de IA podrían tener un impacto económico anual de entre 6,5 y 12 billones de euros para 2025».
Ante las dudas por el enfoque ético y regulatorio de la IA, señaló que se preparó una hoja de ruta para su regulación, centrándose en cuestiones éticas. La ONU señala la falta de coordinación y colaboración a nivel internacional en el campo de la IA, lo que podría dejar rezagados a los países en desarrollo. Por su parte, la Organización para la Cooperación y el Desarrollo Económicos (OCDE) emitió recomendaciones que incluyen principios de robustez, seguridad, confianza y protección en la aplicación de la IA.
Ambos organismos insisten en que la gestión de la IA debe centrarse en el ser humano, la equidad y la transparencia. Y se destacó la importancia de garantizar que las personas comprendan las decisiones tomadas por los algoritmos, enfatizando la necesidad de entregar las herramientas adecuadas para lograrlo.
En un ejemplo concreto, se mencionó la experiencia durante la pandemia, en la que las solicitudes de acceso a información relacionada con la IA generaron debates sobre la transparencia y la seguridad nacional. Este caso subraya la importancia de un análisis de riesgo integral en el desarrollo de sistemas de IA.
Por ende. la regulación ética de la IA es un tema de creciente importancia a nivel internacional. Organismos como la ONU y la OCDE están liderando el camino al enfocarse en la ética, la transparencia y la protección del bienestar humano en medio del crecimiento exponencial de la IA.
Tras finalizar su exposición, el seminario continuó con las preguntas de los asistentes, y una de las más polémicas fue sobre el uso de la inteligencia artificial en programas de televigilancia. Esto, por el programa de televigilancia que presentó el Ministerio del Interior, con el fin de combatir la delincuencia en más de 14 comunas de la Región Metropolitana.
Ante esto, los expertos señalaron que, la utilidad de esta tecnología en situaciones de seguridad nacional genera inquietudes sobre la fuente de la información y la seguridad de los datos biométricos. Además, enfatizaron en la necesidad de un enfoque equilibrado entre seguridad y privacidad, sugiriendo que la regulación debe ser cuidadosamente analizada y adaptada a medida que la tecnología evoluciona.
Bajo el nombre “Instalación de la nueva Agencia de Protección de Datos en Chile; relación reguladores y otros servicios estatales”, se dio inicio al segundo bloque del seminario ITechLaw’s CyberSpaceCamp.
El panel estuvo compuesto por el Honorable Senador Kenneth Pugh, integrante de la Comisión de Desafíos del Futuro, Ciencia, Tecnología e Innovación del Senado de la República de Chile; Macarena Gatica, socia de Alessandri Abogados y Consejera del Observatorio de Derecho y Tecnología UDD, y Diego Fernández, Director y miembro del Comité Ejecutivo de ITEchLaw. El encargado de moderar el encuentro fue Juan Pablo González, Consejero del Observatorio de Derecho y Tecnología UDD.
Uno de los temas centrales de su ponencia fue la importancia de proteger los datos personales en un mundo cada vez más digitalizado. El senador enfatizó que “los datos personales son una parte fundamental de la vida en línea y que su propiedad privada debe ser respetada y protegida”.
Además, resaltó la falta de conciencia general sobre la importancia de esta protección, a pesar de que los datos personales alimentan la inteligencia artificial y son esenciales en la economía digital actual.
Asimismo, El Senador recalcó la importancia de establecer una Agencia de Protección de Datos con autonomía, para garantizar el cumplimiento de las regulaciones. Sumado, a la necesidad de una identidad digital sólida que incluya autenticación biométrica y otros factores, con el fin de garantizar la seguridad en línea.
Esto, sumado al llamado de urgencia de aprobar una Ley de Protección de Datos de alta calidad en Chile, dado el retraso actual que tiene el país en este aspecto.
La experta Macarena Gatica, manifestó su «preocupación ante la falta de regulación en protección de datos, debido a que esta impacta negativamente en el crecimiento económico y las inversiones extranjeras».
La falta de un adecuado resguardo de datos personales impide al país ofrecer servicios que implican el tratamiento de datos al mercado europeo y asiático. Lo que se traduce en una pérdida significativa de ingresos, ya que estos mercados representan aproximadamente un tercio del PIB mundial.
Sumado a que, las empresas tecnológicas y otras organizaciones, se ven preocupadas por las multas elevadas que se imponen en Chile en relación con la protección de datos. Por ejemplo, la Ley Fintech, estableció infracciones graves relacionadas con la protección de datos, lo que generó un debate sobre si se necesita un estándar general de protección de datos antes de la implementación de dichas leyes.
Para abordar estos desafíos, se discutió la necesidad de una institucionalidad autónoma en materia de protección de datos. Además, de proporcionar un financiamiento adecuado para garantizar la regulación efectiva en este ámbito.
Diego Fernández
Diego Fernández compartió la experiencia de Argentina, que ya tiene una ley de Protección de Datos desde hace 23 años, y que fue reconocida como adecuada por la Unión Europea. Ante eso, recalcó la necesidad urgente de crear una estrategia sólida de datos y ciberseguridad en nuestro país.
La independencia funcional y económica de la autoridad de control en la protección de datos fue resaltada como un factor crítico. Además, se discutió el impacto de la competencia por talento entre el sector público y privado en la calidad de la regulación.
Diego Fernández también abordó el posible conflicto entre el acceso a la información pública y la protección de datos en la legislación, destacando la importancia de abordar este equilibrio en las regulaciones.
Por último, señaló que uno de los principales desafíos está en “la imposición de multas a empresas, con la dificultad de convencer a empresas globales de arriesgar el 4% de sus ingresos globales en un mercado que representa solo el 1%”.
