Especialistas de todas partes del mundo han hecho un llamamiento a todas las naciones reclamando mayor transparencia en la evaluación de los sistemas de inteligencia artificial.
“Los recientes avances en inteligencia artificial basada en sistemas que requieren enormes cantidades de datos y cálculo, como GPT-4, han puesto de manifiesto las dificultades para comprender las capacidades y debilidades de estos sistemas de inteligencia artificial. No sabemos dónde es seguro utilizar estos sistemas ni cómo podrían mejorarse. Y esto se debe a la forma en que se evalúa hoy la inteligencia artificial, que requiere de un cambio urgente”.
Detrás de estas palabras se encuentran 16 de los principales expertos y expertas en inteligencia artificial de todo el mundo, entre ellos José Hernández-Orallo, Fernando Martínez Plumed y Wout Schellaert, investigadores del Instituto VRAIN de la Universidad Politécnica de Valencia (UPV) en España.
Coordinados por el profesor Hernández-Orallo, los 16 investigadores e investigadoras publicaron recientemente una carta en la revista académica Science en la que reclaman la necesidad de “repensar” la evaluación de las herramientas de inteligencia artificial para avanzar hacia unos modelos más transparentes y saber cuál es su eficacia real, qué es lo que pueden y no pueden hacer.
En su escrito, los autores proponen una hoja de ruta para los modelos de inteligencia artificial, en la que sus resultados se presenten de forma más matizada y los resultados de la evaluación caso por caso se pongan a disposición del públic
