☰ Menú
OpenBeauchef

Dra. Jocelyn Dunstan: “Los algoritmos, al igual que las personas, se equivocan”


La científica del CMM de la Universidad de Chile, reflexiva y aguda, se refiere a los algoritmos y la revolución que se vivió tras la irrupción de la Inteligencia Artificial.

Sin que la gente se haya dado cuenta los algoritmos pasaron a ser parte cotidiana de sus vidas. Desde la respuesta automática que te sugiere el correo hasta las búsquedas en plataformas para comprar en línea como Amazon, o ver series y películas como Netflix los utilizan.

¿Pero de qué se trata? La Dra. Jocelyn Dunstan, física y académica del Centro de Modelamiento Matemático de la Facultad de Ciencias Físicas y Matemáticas de la Universidad de Chile, nos cuenta sobre ellos.

  1. ¿Qué es un algoritmo y cómo puede contribuir a la vida de las personas?

Un algoritmo es una serie de instrucciones que le permiten al computador generar una respuesta. Estos pueden ser explícitos, en los cuales el o la programadora indican las instrucciones bajo las cuales se produce la respuesta, o también pueden ser algoritmos que tomen decisiones basadas en reconocimiento de patrones dentro de los datos.

  1. En esta misma línea, ¿en qué áreas se puede apreciar el uso de los algoritmos?

Los algoritmos en computación han existido hace mucho tiempo, pero una verdadera revolución se produjo con la inteligencia artificial, esto es, tareas llevadas a cabo por computadores que de ser hechas por humanos requeriría inteligencia. Ejemplos de estas tareas son la traducción de un texto en distintos idiomas, el reconocimiento de neumonía en una radiografía, o los vehículos autónomos en la minería.

  1. ¿Se puede describir un ser humano con números? ¿Qué opinión tiene al respecto?

Creo que hay una gran cuota de «magia» en la existencia humana que no quiero expresar numéricamente.

Ernesto Sábato es un escritor argentino que era físico (hacía su tesis doctoral guiado por la gran Irene Curie). Él alguna vez dijo «Yo creo que la verdad es perfecta para las matemáticas, la química, la filosofía, pero no para la vida. En la vida, la ilusión, la imaginación, el deseo, la esperanza cuentan más». Siempre me ha parecido fascinante mezclar las ciencias exactas en el trabajo y lo menos tangible en la vida.

  1. ¿Qué ocurre con los algoritmos cuando se equivocan? Por ejemplo, en procesos de selección de personal, donde filtran datos para definir a las y los candidatos o en casos donde grandes empresas tecnológicas han dado etiquetas a fotografías que no se condicen con la realidad. ¿Podríamos estar frente a un sesgo que proviene desde quien elabora el algoritmo?

¡Absolutamente! Los algoritmos, al igual que las personas, se equivocan. En general, cuando usamos datos etiquetados por humanos, los sesgos en estos datos son aprendidos por las máquinas, y no solo eso, el sesgo se amplifica. En el libro «Real World IA» comentan como un proyecto de IBM Watson de reconocimiento de imágenes tuvo que retrasarse varios meses porque días antes del lanzamiento se dieron cuenta que el algoritmo contestaba «loser (perdedor)» frente a una fotografía de una persona en silla de ruedas. Alguna de las muchas imágenes de las que aprendió la máquina venía con esta discriminación que el algoritmo perpetuó. Creo que todos quienes trabajamos en el área debemos aprender a cómo detectar y eliminar el sesgo y posible discriminación de nuestros algoritmos.

  1. En su caso, busca soluciones para el ámbito de la salud utilizando las matemáticas. ¿En qué se encuentra trabajando en este momento y qué impacto espera tener en el área?

Actualmente tengo dos grandes proyectos. El primero tiene que ver con la detección automática de información clave dentro de la lista de espera para consultas de especialidad en hospitales públicos chilenos. Aquí buscamos etiquetar con humanos información relevante (ej. enfermedades, medicamentos, resultados de exámenes) y usar esto para entrenar máquinas que puedan hacerlo automáticamente.

El segundo proyecto, que es un Fondef, busca predecir quienes van a faltar a su consulta médica y generar recordatorios especialmente para ellos. Trabajamos con tres hospitales públicos muy diversos: el Hospital pediátrico Dr. Luis Calvo Mackenna, el Hospital Regional de Talca, y el CRS Cordillera en Peñalolén. Además, hicimos hace unos meses un diseño experimental en que evaluamos el efecto en el ausentismo de hacer recordatorios con llamadas, mensajes de texto y mensajes de WhatsApp.

  1. En su participación en la última versión de Congreso Futuro fue critica respecto a la presencia de las mujeres en ciencia. Recientemente el Ministerio de Ciencia lanzó la Política Nacional de Equidad de Género de cara al 2030, ¿cree que esto ayude a cambiar el escenario formativo que le tocó vivir a usted?

Sin duda que se reconozca el problema y se quieran dar señales es un paso hacia delante. Espero ver en el futuro medidas concretas para apoyar la permanencia de mujeres en ciencia. Yo no tengo hijos y muchas veces me cuestiono cómo, siendo mamá, podría mantener el nivel de esfuerzo que me toma publicar artículos científicos, hacer docencia, tener tesistas y liderar proyectos aplicados. Hasta he tenido pesadillas en las que me doy cuenta de que dejo abandonado al bebé… medidas concretas son crear becas para poder ir acompañada a conferencias durante la lactancia, docencia reducida, espacios destinados a sacarse y preservar la lactancia, buen acceso a salas cunas. Pero lo que menciono no son solo problemas que las mujeres en ciencia enfrentan, sino todas las madres. Espero que en el futuro la situación mejore.

Finalmente, la académica agradece el apoyo de OpenBeauchef, lo que le ha permitido obtener dos financiamientos Corfo para hacer proyectos aplicados en análisis de texto.

Por Comunicaciones OpenBeauchef


Subir