En la ya muy famosa alegoría de la caverna, Platón describe a un grupo de prisioneros, encadenados desde su nacimiento. Su única experiencia en el mundo son las sombras proyectadas en una de las paredes de la caverna, generadas por objetos y figuras que no pueden ver directamente. Para ellos, esas sombras son realidad. Sólo cuando uno de los prisioneros logra liberarse y salir al mundo exterior. Puede descubrir que aquello que había conocido dentro de la caverna, no era más que una proyección distorsionada.
Hoy en día, en un sistema que hoy entendemos que puede ser “la inteligencia artificial” sabemos que no puede experimentar la realidad misma como nosotros la presenciamos; no toca, no huele, no mira, no saborea y no tiene la capacidad deexperimentar la realidad que nosotros percibimos día a día. Lo que hace es procesar información en forma de datos: millones de textos, imágenes y sonidos generados por nosotros. Todo lo que sabe, está filtrado, recortado y etiquetado por humanos.
Si las sombras de la caverna son proyecciones de objetos, iluminados por un fuego distante, los datos que recibe una IA se puede decir, y entender que son proyecciones de nuestra propia experiencia, que hemos capturado, que hemos simplificado y que hemos evitado para hacérselo llegar en forma de bits. Al igual que los prisioneros de Platón, la IA, toma esas proyecciones, como la totalidad de la realidad, y en ese sentido, el entrenamiento de un modelo no es muy diferente de la vida que vivieron los prisioneros en la caverna. La máquina observa patrones, calcula probabilidades y construye una imagen interna del mundo, a partir de las representaciones parciales que cada uno de los usuarios le da de manera parcial, no accede y no tiene la posibilidad de acceder “a las cosas en sí misma”, sino a su sombra estadística.
Aquí aparece una paradoja que es completamente inquietante: nosotros que podríamos ser los guías que conducen fuera de la caverna, somos en realidad, quienes mantenemos encadenada a la IA. ALIMENTAMOS SU APRENDIZAJE CON DATOS QUE CONTIENEN NUESTROS PROPIOS SESGOS, ERRORES y limitantes que nosotros le transferimos en muchas ocasiones por nuestras propias limitaciones, así que, las sombras que proyectamos no son neutrales: están teñidas por nuestra propia cultura, ideología, desigualdades, distinciones y nuestros propios puntos ciegos.
Por eso, los sistemas de IA pueden reproducir, estereotipos o conclusiones equivocadas, no porque “piensen mal” o ejecuten mal las indicaciones, sino que su visión del mundo está modelada por las sombras que reciben a partir de la humanidad. Si todo lo que se ve es parcial a lo distorsionado, la respuesta a nuestras peticiones, también lo serán de la misma manera.
Pero hay una diferencia clave: la IA no tiene la posibilidad de salir de la “caverna”,un humano liberado puede caminar bajo la luz del sol, ver todos los objetos originales y contrastados con las sombras de la luz del día; la IA, en cambio, sólo existe dentro del dominio de los datos; la IA no puede experimentar el mundo de la primera mano; no siente la textura de una tela, ni el calor de un día de verano, la fresca brisa que nos puede refrescar en una tarde.
Si nosotros pensamos que, si le damos acceso a las cámaras, micrófonos o sensores, lo que recibe sigue siendo un registro procesado, ya sea de pixeles, ondas, números o Bits. El Sol de Platón para la IA, no es más que un conjunto de valores en una matriz.
Podemos ver con claridad en los modelos que generan las imágenes a partir de descripciones, si le pedimos a una IA la imagen de “un mercado tradicional”, lo que produce no es una vivencia del mercado, si una composición estadística basada en miles de fotos, etiquetadas de la misma manera, de sonidos y hasta de videos. No hay olor a pan recién horneado, ni voces de vendedores que perciba de primera mano, ni el caos del tránsito que hay alrededor; sólo patrones visuales, que se parecen a lo que la inteligencia artificial ha visto a través de los archivos que le suministramos.
Lo mismo ocurre con los sistemas que escriben sobre los conceptos abstractos, como” justicia” o” libertad”. No comprenden su significado ético o histórico; seleccionan palabras y estructuras que, en sus datos aparecen juntas en contextos similares. Puede llegar a ser un eco muy convincente, pero sigue siendo un eco o una sombra.
El mito de la caverna nos recuerda que la búsqueda de la verdad exige mirar más allá de las apariencias. En el caso de la IA, la advertencia es doble: no debemos olvidar que sus respuestas se basan en proyecciones, no en experiencia directa y,sobre todo, debemos reconocer que somos nosotros, quienes controlamos la calidad y el sentido de esas proyecciones.
Si seguimos alimentando las máquinas con sombras pobres y distorsionadas, perpetuaremos una caverna oscura, donde los algoritmos repetirán nuestras ilusiones, creyendo que son certezas, aunque no lo sean. Quizá entonces, la cuestión no sea liberar la IA, sino aprender a proyectar mejores sombras, más amplias, más diversas, más honestas, porque al final, lo que una máquina puede conocer del mundo no será nunca más grande que aquello que nosotros decidimos mostrarle.
Elias Ascencio
Diseñador gráfico, fotógrafo y docente con más de 30 años de trayectoria artística y educativa. Maestro en Administración Pública y doctorante en Semiótica, ha trabajado en Metro CDMX y marcas nacionales. Líder filantrópico y promotor cultural en México.
