Pablo Barceló: “La IA no es solo un tema matemático; se tiene que impulsar como sociedad”

Pablo Barceló fue testigo privilegiado de los avances que impulsaron el vertiginoso desarrollo reciente de la inteligencia artificial. En 2006, el académico del Instituto de Ingeniería Matemática y Computacional UC obtuvo su Doctorado en Ciencia de la Computación en la Universidad de Toronto, hogar de varios próceres como George Hinton, conocido como el “Padrino de la IA” y quien recibió el Premio Turing -el “Premio Nobel de la Computación”- y el Nobel de Física 2024.

“La inteligencia artificial existe desde los años 50 y 60, así que en la primera década de este siglo ya había muchos desarrollos. Además, la Universidad de Toronto siempre ha sido un referente en esta área”, comenta el docente y también investigador del Instituto Milenio Fundamentos de los Datos (IMFD) y del Centro Nacional de Inteligencia Artificial (CENIA). El profesor, cuyas especialidades abarcan los fundamentos matemáticos de la inteligencia artificial, la teoría de bases de datos, y la lógica para ciencia de la computación, explica que su interés en la IA proviene de las matemáticas aplicadas.

“Siempre me ha gustado que las matemáticas estén motivadas por problemas reales. Cuando comencé a trabajar más fuerte en este campo, en 2018, vi problemas matemáticos muy interesantes que a la vez podían tener un impacto real en las aplicaciones que se estaban creando. En este ámbito, hay una comunidad tan grande que cuando los trabajos son interesantes pueden tener mucho impacto en términos de visibilidad o de transferencia”, explica el profesor.

Toda esa experiencia es la que Pablo Barceló pondrá al servicio de un importante desafío: asumir la nueva Dirección de IA de la recientemente creada Vicerrectoría de Inteligencia Digital (VRID) de la Pontificia Universidad Católica de Chile. Uno de los objetivos de la entidad que encabezará será implementar un programa institucional para adaptar el modelo formativo de la UC a la presencia y uso de la inteligencia artificial, con la perspectiva ética propia de la universidad. A esta misión, se suma el desarrollo de plataformas digitales y herramientas que potencien la colaboración, experimentación y escalamiento de proyectos de investigación.

– ¿Con este nombramiento la UC reconoce la importancia de estructurar el impacto de la inteligencia artificial en sus distintos estamentos?

“Exactamente. Hace unos días, me tocó visitar la Universidad de Washington, en Seattle, y estuve conversando con un colega que precisamente iba a asumir el mismo rol que estoy tomando en la UC. Este es un tema que, de manera paralela, está apareciendo en muchos lados. Así que la universidad está realmente a la vanguardia, ya que este es el momento de dar estos pasos. Hay que entender cómo la IA impacta a la universidad como un todo y, en ese sentido, creo que estamos en el momento preciso. Lo que es más interesante no es ver cómo las distintas aristas de la IA inciden por separado en docencia, en investigación, administración interna o en transferencia, sino en cómo todas esas áreas se van juntando. Necesitamos ir potenciando cada una de ellas para que después se creen sinergias entre todas”.

En materia de docencia, una de las misiones de la dirección será, por ejemplo, acompañar a las unidades académicas en la revisión de sus currículos de pre y postgrado en áreas críticas, incorporando contenidos sobre inteligencia digital y alfabetización digital. También, en la construcción de cursos transversales que permitan a los estudiantes aprender a usar la IA en contextos aplicados e interdisciplinarios. En tanto, en investigación se apuntará a desarrollar entornos que faciliten el almacenamiento, procesamiento y explotación de los datos generados por las investigaciones, además de la interdisciplina entre equipos internos y externos.

“Hace unos días, me tocó visitar la Universidad de Washington, en Seattle, y estuve conversando con un colega que precisamente iba a asumir el mismo rol que estoy tomando en la UC. Así que la universidad está realmente a la vanguardia, ya que este es el momento de dar estos pasos. Hay que entender cómo la IA impacta a la universidad como un todo y, en ese sentido, creo que estamos en el momento preciso”, Pablo Barceló, director de Inteligencia Artificial UC

Mirando hacia el futuro

Además de su labor como investigador, Pablo Barceló ha sido parte de los comités de programas de algunas de las conferencias más importantes en bases de datos y lógica en ciencia de la computación, como ACM PODS, e ICDT, entre otras. El ex director del IMC UC también apareció recientemente en el prestigioso ranking confeccionado por la Universidad de Stanford y la editorial Elsevier que muestra al 2% de los investigadores más citados del mundo durante 2024.

Su visión actual y futura en torno a estos temas y la labor que realizará la Dirección de IA de la VRID se moldeó en torno a las ideas que impregnaron su doctorado en Canadá.

– ¿Qué noción existía por ese entonces sobre la IA? ¿Se avizoraba algo similar a lo que vemos hoy?

“Yo estaba en el Departamento de Ciencia de la Computación de la Universidad de Toronto y en ese entonces el área que tenía más fuerza era el de la representación del conocimiento. Esta línea trata de ver cómo a través de reglas podemos representar ciertos espacios que queremos aprender. Por ejemplo, si se trata de jugar ajedrez, la idea es darle al sistema las reglas y algunas posibles configuraciones, para que cuando se encuentre con un cierto tipo de situación sepa qué conviene hacer. Por otro lado, estaba el grupo de Hinton, considerado el padre de las redes neuronales”.

El académico explica que el desarrollo de esa línea de investigación implicaba un cambio radical. “Es un paradigma distinto en el que no se especifican las reglas, sino que los sistemas aprenden estadísticamente a través de los datos. En esa época se consideraba que toda el área que Hinton impulsaba era sumamente interesante, pero que no había logrado los resultados esperados”, comenta Barceló.

– ¿Por qué existía esa percepción?

“Había tres factores. No existía el poder de cómputo, ni la cantidad de datos suficientes. Además, la red todavía no era tan sofisticada como ahora. La disponibilidad de datos se desata especialmente gracias a la irrupción de la web y las redes sociales y algunos trabajos que logran etiquetar un enorme volumen de imágenes en la web. Así fue como en 2012, el mismo Hinton y otros investigadores dan forma a un desarrollo en el que implementan una red neuronal que para la época era bastante profunda. Es decir, tenía múltiples capas para etiquetar imágenes de forma muy efectiva. Así fue como se gestó el resurgimiento del área de la inteligencia artificial que hoy se conoce como machine learning y que terminó imponiéndose sobre la otra vertiente más simbólica”.

– Una de las áreas que has explorado en la inteligencia artificial explicable. ¿Cuál es la relevancia de poder explicar las decisiones que toman las plataformas de IA?

“En muchos casos estos modelos se utilizan en aplicaciones o áreas súper críticas, como por ejemplo en el ámbito de la salud o en decisiones que se toman en procesos del poder judicial. Entonces es fundamental entender por qué un modelo está tomando ciertas decisiones. Hoy estos modelos son bastante opacos, porque son sumamente complejos. La explicabilidad viene a tratar de dar una formalización a cómo podemos leer lo que están haciendo estos modelos, para entender mejor lo que realizan y así determinar, por ejemplo, si un robot que practica una cirugía toma una decisión lo hace por una razón específica. O si un vehículo autónomo giró en una dirección distinta a la esperada fue debido a un factor en particular”.

La importancia de la explicabilidad, agrega Barceló, se inserta en un contexto aún mayor que abarca el potencial impacto que pueda tener la integración de la IA en una entidad educativa como la UC: “Por ejemplo, estos sistemas pueden elaborar textos sumamente complejos porque estadísticamente son muy poderosos. Pero realmente ahora empezamos a entender que no tienen una representación del mundo demasiado compleja. Poseen pocas capacidades de razonamiento propias”.

Por eso, indica el académico, la gran pregunta actual en el campo de machine learning es si se “puede de alguna forma vincular a la otra vertiente más simbólica que quedó rezagada. Esta última línea es la que da una mayor capacidad de razonamiento. Es mucho más compleja de implementar, ya que es mucho más pesada computacionalmente, pero permite construir modelos del mundo que podrían permitir a las máquinas de alguna forma entender mejor qué es lo que están haciendo”.

– ¿Qué nexo hay entre esta explicabilidad y la llamada IA ética?

“En el fondo, la IA ética trata de asegurar que los modelos estén menos marcados por los sesgos de los datos. También hay otra faceta ligada con la privacidad, para que cuando los sistemas estén aprendiendo o entreguen resultados no revelen información sensible sobre los datos. Y un tercer elemento es la explicabilidad, porque toman decisiones que son críticas para los humanos”.

– ¿Esta arista va a ser relevante para la labor de la Dirección de IA y la Vicerrectoría de Inteligencia Digital?

“En una universidad como la nuestra, y en general en cualquier universidad, impulsar una IA que no tenga el componente de responsabilidad y de ética sería irresponsable, ya que está teniendo demasiado impacto en la vida de las personas como para que no analicemos las implicancias que hay por detrás. La IA no es solo un tema matemático o computacional, porque también involucra a la política, la filosofía, la ética, las humanidades y varias otras áreas. Es un trabajo que se tiene que impulsar como sociedad”.

“En cualquier universidad, impulsar una IA que no tenga el componente de responsabilidad y de ética sería irresponsable, ya que está teniendo demasiado impacto en la vida de las personas como para que no analicemos las implicancias que hay por detrás”, Pablo Barceló

– Al menos de parte de los estudiantes de la UC existe mucho interés. El nuevo curso de formación general “Inteligencia Artificial: Ciencia y Sociedad” agotó sus 120 cupos rápidamente.

“Por lo que entiendo, la Vicerrectoría Académica quiere potenciar mucho ese curso, porque ha sido un gran éxito. El interés de los alumnos no se enfoca solo en el desarrollo de la IA, sino que también en sus implicancias ambientales y éticas. Eso me alegra, porque sería muy fácil decir ‘Bueno, esto es lo que viene y vamos hacia adelante’, pero hay que pensar muchas cosas. Toda tecnología tiene un impacto y así como no nos podemos quedar atrás como universidad, tampoco nos podemos restar de la discusión sobre sus implicancias para la sociedad”.

– En lo inmediato, ¿Cuáles serán los primeros pasos de la Dirección de IA?

“Es bastante urgente establecer una política de inteligencia artificial para la universidad, es decir, establecer sobre qué pilares se va a desarrollar. También me gustaría armar comisiones temáticas en las que participen distintas vicerrectorías y académicos para analizar la IA en docencia, investigación y transferencia, con el fin de que ese sea el insumo para construir esta política. Lo otro es conversar con las distintas unidades de la UC para entender en qué están, cuáles son sus necesidades y qué piensan de toda esta nueva visión”.