Humanismo Digital

Durante una primera etapa en la evolución de sistemas de IA de propósito general, ejemplarizados por ChatGPT, se reveló una tendencia inquietante: aunque los problemas fáciles para los humanos suelen ser fáciles también para una IA, al mejorar los modelos mediante escalado y realimentación humana no se consigue asegurar un área fiable donde el modelo raramente se equivoque o el error sea fácilmente detectable, ni siquiera limitándose a preguntas fáciles. En general, la respuesta puede ser correcta o falsa, pero siempre es plausible, lo que resulta engañoso. Una parte importante del problema es que muchos sistemas tienden a ser “ultracrepidarios”, es decir, opinan de cosas que desconocen. Esto pone de manifiesto la necesidad de un cambio fundamental en el diseño y desarrollo de la inteligencia artificial de propósito general en la dirección de conseguir una IA que sepa decir que no sabe.

Esta conferencia examinará de manera crítica el impacto transformador de las tecnologías de Inteligencia Artificial generativa en la educación, el ecosistema de la información y la sociedad desde el lanzamiento de ChatGPT a finales de 2022. Los profesores Jon Cardoso-Silva y Dorottya Sallai analizarán las conclusiones de los principales informes de organizaciones como la UNESCO y la OCDE sobre el impacto de la IA en el modelo educativo, el conocimiento y el consumo de información, distinguiendo entre la innovación genuina y el bombo publicitario.

La Inteligencia Artificial (IA) está cambiando nuestro estilo de vida: cambia la manera en la que trabajamos, cómo nos relacionamos, la manera en la que vivimos el ocio, e, incluso, la manera en la que somos gobernados. A pesar de sus beneficiosas aportaciones, las herramientas de la IA no están exentas de controversia, ya que los sesgos heredados de los datos y la opacidad de los procedimientos a veces han provocado situaciones indeseadas. Debatiremos sobre cómo las Matemáticas, pieza fundamental en los modelos y los algoritmos de la Inteligencia Artificial, pueden ayudar también a hacerla más transparente, más justa y, en definitiva, más humana.

Como la burocracia para el estado moderno, la inteligencia artificial parece llamada a ser la lógica de legitimación de las organizaciones y los gobiernos en las sociedades digitales. Los tres elementos que modificarán la política de este siglo son: los sistemas cada vez más inteligentes, una tecnología más integrada y una sociedad más cuantificada. La forma de configurar la gobernanza de estas tecnologías será decisiva para el futuro de la democracia: puede implicar su destrucción o su fortalecimiento. Según la célebre fórmula de Lincoln, la democracia es un sistema de gobierno en el que el pueblo tiene una presencia como titular, sujeto y destinatario de la acción política. Para determinar si la democracia liberal está indisolublemente unida al mundo analógico, hemos de dilucidar primero qué tipo de subjetividad política le corresponde al pueblo en el mundo de la inteligencia artificial, qué clase de voluntad popular se expresa en el big data y cómo decidimos cuando sofisticamos nuestros procesos automatizados. En definitiva: necesitamos un “Discurso de Gettysburg” para la democracia en la era de la inteligencia artificial.

Los avances en Inteligencia Artificial (IA), sobre todo en torno a los Grandes Modelos Lingüísticos (LLM) como ChatGPT y BARD, han suscitado especulaciones sobre la posibilidad de que pronto dispongamos de una IA "verdadera", el sueño de los investigadores de IA desde hace 70 años, en el que tengamos máquinas tan plenamente capaces como los seres humanos. ¿Será cierto? ¿Cómo será? ¿Y cuándo llegará? En esta charla se abordarán estas preguntas, así como los temores que han suscitado los recientes avances.