Señor Director:
A propósito de su interesante editorial (miércoles) sobre el caso de OpenAI, quisiéramos comentar algunos dilemas alrededor del desarrollo de la inteligencia artificial, en particular, sobre la base de la suposición que podrá alcanzarse una inteligencia a nivel humano en el futuro (AGI, por sus siglas en inglés).
Primero, se ha discutido acerca de lo que se conoce como el Problema de la Alineación. Vale decir, si se llega a alcanzar una inteligencia artificial que sea equivalente a la inteligencia humana, se espera que también contenga valores que nos parezcan adecuados o preferibles. Y esto es problemático. No solo por la dificultad de concordar en ciertos valores de importancia universal, sino porque estos coexisten de manera superpuesta y jerarquizamos su relevancia de forma distinta y a veces de forma casuística.
Segundo, hay un dilema asociado al control. Es decir, partimos de la suposición de que los seres humanos serán quienes controlen la inteligencia artificial, pero no al revés. Y al imaginar escenarios de inteligencia artificial de nivel humano, es complejo obtener simultáneamente los beneficios de la AGI —que presupone integrarla a nuestra vida— con los riesgos que eso conlleva. Por lo mismo, la discusión no solo involucra pensar en mecanismos de seguridad (pulling the plug), sino en sistemas impenetrables, lo que es difícil.
Tercero, se encuentra el problema de la explosión de inteligencia. Ya que, si una AGI es capaz de contar con la capacidad para mejorarse a sí misma, esa lógica puede llevar a un proceso de ciclos de automejoramiento continuo, donde, después de cada iteración, la inteligencia aumenta y lo hace a tasas cada vez más rápidas, llevando hipotéticamente a un punto de crecimiento incontrolable e irreversible, superando la inteligencia humana. Las consecuencias de esto último parecen ser imposibles de predecir.
Todo esto indica la importancia y urgencia de seguir reflexionando y sosteniendo discusiones sobre la inteligencia artificial y, en particular, sobre sus oportunidades y riesgos. Estamos, posiblemente, en presencia de uno de los avances más importantes en la historia humana. Parece adecuado progresar con cautela.
Fuente: El Mercurio
