El desarrollo de la inteligencia artificial plantea interrogantes cada vez más profundos sobre el futuro de la humanidad. Geoffrey Hinton, uno de los científicos más influyentes en este campo y ganador del Premio Nobel, advirtió que las máquinas podrían alcanzar un nivel de comprensión que supere ampliamente las capacidades cognitivas de las personas.

La reflexión tuvo lugar durante la apertura del festival Starmus, celebrado en Arona, Tenerife, donde Hinton participó de una mesa redonda junto al psicólogo cognitivo Steven Pinker y Christiana Figueres, exresponsable de Naciones Unidas para el clima. El encuentro abordó los desafíos que surgen cuando la tecnología avanza más rápido que la capacidad humana para interpretar sus resultados.

Una inteligencia que podría superar los límites humanos

Durante el debate, Hinton planteó que la humanidad podría encontrarse ante sistemas capaces de procesar información y comprender aspectos de la realidad que resulten inaccesibles para la mente humana.

Publicidad

Para ilustrar esa posibilidad, recurrió a una comparación con el reino animal: del mismo modo que una rata no puede comprender conceptos matemáticos complejos, como los números primos, las personas podrían no llegar a entender determinados razonamientos desarrollados por una inteligencia artificial mucho más avanzada.

En ese escenario, el científico sugirió que los seres humanos podrían verse obligados a confiar en conclusiones producidas por máquinas incluso cuando no logren comprender cómo llegaron a ellas.

La advertencia abre un interrogante central para el futuro de esta tecnología: ¿cómo podrán las personas evaluar la confiabilidad de una inteligencia artificial si sus procesos de razonamiento exceden la comprensión humana?

Los errores de la inteligencia artificial y la necesidad de verificar sus respuestas

Otro de los puntos centrales de la conversación fue el problema de las llamadas «alucinaciones» de la inteligencia artificial, un fenómeno por el cual los sistemas generan datos incorrectos, inventan información o presentan afirmaciones falsas como si fueran verdaderas.

Hinton sostuvo que estos errores no necesariamente demuestran que las máquinas carezcan de capacidad para comprender. En su análisis, estableció un paralelismo con los seres humanos, que también pueden equivocarse, reconstruir recuerdos de manera imprecisa o sostener afirmaciones que no se corresponden con los hechos.

Sin embargo, la discusión también puso de relieve la importancia de establecer mecanismos para comprobar los resultados que producen estos sistemas.

Steven Pinker remarcó que la utilidad de la inteligencia artificial dependerá, en buena medida, de que sus respuestas puedan contrastarse con evidencias verificables. En ese sentido, la ciencia y el periodismo responsable cumplen una función esencial para detectar errores, corregir información falsa y evitar que las afirmaciones sin fundamento se difundan como certezas.

El desafío no consiste solamente en desarrollar máquinas cada vez más capaces, sino también en garantizar que sus resultados puedan ser evaluados de manera rigurosa.

Cambio climático: cuando la evidencia científica choca con la política

La discusión también se extendió al cambio climático y a las dificultades que enfrenta la sociedad para transformar el conocimiento científico en decisiones concretas.

Christiana Figueres utilizó la crisis climática como ejemplo de la distancia que puede existir entre las conclusiones respaldadas por la investigación científica y las medidas que finalmente adoptan los gobiernos.

Según su planteo, determinados sectores aprovechan las incertidumbres propias de la investigación para sembrar dudas sobre el calentamiento global y obstaculizar la implementación de políticas ambientales.

Pinker, por su parte, advirtió sobre los efectos de la polarización política en la percepción de los hechos científicos. Cuando una conclusión se identifica con un determinado espacio ideológico, algunas personas pueden rechazarla por su asociación política, en lugar de analizar las pruebas disponibles.

Esta dinámica representa un obstáculo tanto para la lucha contra el cambio climático como para la elaboración de normas que permitan controlar el avance de las nuevas tecnologías.

El desafío de confiar en máquinas que no comprendemos

Las reflexiones de Hinton y los demás especialistas reflejan una de las grandes discusiones de la actualidad: cómo aprovechar los avances de la inteligencia artificial sin perder la capacidad de evaluar críticamente sus resultados.

Si estos sistemas llegan a resolver problemas que superen las habilidades humanas, será necesario desarrollar herramientas de verificación, criterios de transparencia y mecanismos de supervisión que permitan determinar cuándo sus conclusiones son confiables.

La cuestión no se limita a establecer si una máquina puede ser más inteligente que una persona. También implica definir qué grado de confianza merece, quién debe controlar sus decisiones y cómo evitar que sus errores se conviertan en consecuencias reales.

La advertencia de Hinton apunta, precisamente, a ese escenario: un futuro en el que la inteligencia artificial podría alcanzar capacidades extraordinarias, mientras los seres humanos todavía buscan la manera de comprenderla y establecer límites para su utilización.