Actualmente, vivimos en un mundo que se redefine casi a diario por el avance de la inteligencia artificial (IA). Las máquinas, ahora inteligentes, ¿pensantes?, que antes eran herramientas pasivas, ahora son colaboradoras activas, capaces de redactar informes, diagnosticar enfermedades, componer música, optimizar sistemas complejos con una eficiencia sobrehumana y hasta hacer de psicólogos. El paradigma de uso ha evolucionado desde la instrumentalización para tareas rutinarias hacia una integración profunda en las dinámicas de interacción humana. Este panorama, que ahora parece casi utópico, contrasta con los debates y dudas que acompañaron a la IA desde sus inicios. Hubert Dreyfus, filósofo y profesor de la Universidad de Berkeley, se convirtió en uno de los críticos más influyentes de la IA en una época donde muchos investigadores prometían la inminente llegada de máquinas con inteligencia equiparable a la humana. Dreyfus argumentó que los ordenadores no podían pensar, crítica recogida en su obra What Computers Can’t Do (1972). Años más tarde, John Searle planteó la famosa paradoja de la “habitación china” (1980), cuestionando si los sistemas que procesan símbolos realmente comprenden el lenguaje.
Y si las máquinas se vuelven autoconscientes, ¿cómo lo sabremos?
La idea de la autoconsciencia no es reciente, ni en el ámbito filosófico ni en el de la psicología. Basta recordar a René Descartes (1596-1650), quien sostenía que el conocimiento de la propia existencia se alcanza a través del pensamiento, como expresa su célebre frase ‘pienso, luego existo’. Estas reflexiones abrieron preguntas que siguen vigentes: ¿puede una máquina tener mente, consciencia o emociones?
Hoy, el debate ha vuelto con fuerza. Geoffrey Hinton, considerado el “padrino” de la IA, afirma que no existe en principio nada que impida que una máquina desarrolle consciencia, contradiciendo a Mustafa Suleyman, jefe de IA en Microsoft, quien sostiene lo contrario. Si Hinton tiene razón, estamos ante un horizonte inquietante: ¿qué ocurrirá si la IA deja de ser solo una herramienta y empieza a experimentar algo parecido a la autoconsciencia? ¿Cómo redefiniremos conceptos como responsabilidad, ética y creatividad en un mundo donde las máquinas no solo calculan, sino que “sienten”? Por ahora, la IA nos sorprende con su capacidad para aprender y generar, pero el verdadero desafío está en anticipar lo que vendrá. Porque si algún día las máquinas cruzan esa frontera, no solo cambiará la tecnología: cambiará nuestra idea de lo que significa ser humano. Sam Altman, CEO de OpenAI, afirmaba recientemente que la verdadera revolución de los sistemas de IA no será solo razonar, sino desarrollar una memoria total, lo cual redefinirá la idea de asistente personal para siempre. Estamos entrando en una era en la que los sistemas no solo almacenarán cada correo, documento y dato que generamos, sino que los analizarán para descubrir patrones y necesidades que ni siquiera imaginamos. ¿Hasta qué punto estamos dispuestos a ceder nuestra memoria y nuestra autonomía a algoritmos que saben más de nosotros que nosotros mismos?
¿Qué nos queda por enseñar en la era de la inteligencia artificial?
Si una máquina puede memorizar datos, aplicar fórmulas y reconocer patrones con una precisión que supera la humana, ¿qué papel le queda a la educación? Esta pregunta no es un ejercicio teórico, sino el desafío más urgente de nuestro tiempo. Hoy seguimos formando a los estudiantes para tareas que los algoritmos realizan mejor y más rápido. ¿Estamos preparando a las nuevas generaciones para un futuro que ya no existe? Ahora imagina un escenario extremo: un apagón global de Internet. Parece improbable, pero no imposible. Basta recordar lo que ocurrió en el apagón del año pasado en abril, cuando hubo una caída masiva de la red eléctrica que dejó todo paralizado. ¿Qué pasaría si un fallo así fuera provocado deliberadamente, como parte de una guerra digital? Las consecuencias serían devastadoras: sistemas bancarios paralizados, transporte y logística colapsados, pérdida de información crítica como manuales, datos médicos, mapas y la interrupción total de la comunicación digital.
En cuestión de horas, nuestra vida conectada se convertiría en un caos. Este escenario revela una verdad incómoda: hemos delegado tanto en la tecnología que hemos olvidado habilidades básicas. Por eso, la respuesta no está en competir con la IA en su terreno, la velocidad y el procesamiento de datos, sino en reforzar aquello que nos hace radicalmente humanos. Necesitamos una educación que entrene resiliencia, pensamiento crítico, creatividad, cooperación y liderazgo en entornos inciertos. Porque cuando todo falle, esas serán las competencias que marquen la diferencia. La verdadera asignatura pendiente no es aprender a programar la próxima herramienta, sino redescubrir qué significa ser humano. Y aquí surge la pregunta más difícil: ¿qué es lo exclusivamente humano? Tal vez sea la capacidad de imaginar lo que no existe, de crear soluciones disruptivas, de empatizar y construir sentido en medio del caos. Ninguna máquina puede enseñarnos eso. Ese es nuestro desafío, una nueva asignatura.
AI hallucinations: ¿cómo detectar que la IA “alucina la respuesta”?
La IA es una maestra del «qué». Procesando miles de millones de datos, puede decirnos qué estrategia de mercado es más eficiente o qué correlación existe entre dos variables. Sin embargo, la IA tiene sus flaquezas. Similar a un alumno que intenta adivinar una respuesta en un examen difícil, la IA prefiere inventar una contestación plausible antes que admitir su ignorancia. Estas imprecisiones o “alucinaciones” persisten hoy en día incluso en los sistemas de última generación. El problema de las “AI hallucinations”, si le falta contexto o si tiene excesivo contexto, es que el modelo de IA puede alucinar (que es el término técnico), es decir, se inventa información. Si la IA fue entrenada con información incorrecta o sesgada, replicará esos errores.
La IA no tiene una comprensión real del mundo, ni sentido común, ni capacidad para verificar hechos en tiempo real: sigue patrones estadísticos. Es aquí donde tiene que entrar en acción el pensamiento crítico humano, que no es solo análisis de datos; es sabiduría contextual. Es la capacidad de dar un paso atrás, evaluar la fuente de la información, discernir el sesgo oculto en el algoritmo y cuestionar la propia pregunta. Es decir, el humano debe preguntar: ¿Es esta la pregunta correcta? ¿Y a quién beneficia esta respuesta? ¿Qué sesgos están influyendo en este resultado? Sin la supervisión del pensamiento crítico, corremos el riesgo de aceptar esas respuestas como verdades absolutas cuando quizás sean solo simples resultados estadísticos. El futuro no pertenece a quien mejor use la IA, sino a quien sepa cuándo desconfiar de ella.
Referencias
- Darren Abramson, Descartes’ influence on Turing, Studies in History and Philosophy of Science Part A, Volume 42, Issue 4, 2011, Pages 544-551, ISSN 0039-3681. doi: 10.1016/j.shpsa.2011.09.004.
- Atencia López, J. M. «Inteligencia Artificial y pensamiento humano: (Un enfoque raciovitalista de la discusión sobre la Inteligencia Artificial)» en Thémata: Revista de filosofia, ISSN 0212-8365, N.° 24, 2000, pp. 9 a 28. 9228
- Buchanan, B. G., & Shortliffe, E. H. (1984). Rule-Based Expert Systems: The MYCIN Experiments of the Stanford Heuristic Programming Project. Addison-Wesley.
- Crevier, D. (1993). AI: The Tumultuous History of the Search for Artificial Intelligence. Basic Books.
- Dreyfus, H. L. (1972). What Computers Can’t Do: The Limits of Artificial Intelligence. MIT Press.
- González, Rodrigo. (2011). Descartes: las intuiciones modales y la inteligencia artificial clásica. Alpha (Osorno), (32), 181-198. doi: 10.4067/S0718-22012011000100014
- Jiménez Rodríguez, J. A. (2005). Autoconciencia. Escritos de Psicología – Psychological Writings, 1(7), 44–58. doi: 10.24310/espsiescpsi.vi7.13398
- Kantrowitz, A. [Alex Kantrowitz]. (2025, 18 de diciembre). Sam Altman: How OpenAI Wins, ChatGPT’s Future, AI Buildout Logic, IPO in 2026? [Video]. YouTube. https://www.youtube.com/watch?v=2P27Ef-LLuQ
- Moravec, H. (1988). Mind Children: The Future of Robot and Human Intelligence. Harvard University Press.
- Nilsson, N. J. (1998). Artificial Intelligence: A New Synthesis. Morgan Kaufmann.
- Quejido Alonso, Ó. (2023). Algunas cuestiones filosóficas en torno a la inteligencia artificial. Minerva: Revista del Círculo de Bellas Artes, (41), 62–65.
- Searle, J. R. (1980). Minds, brains, and programs. Behavioral and Brain Sciences, 3(3), 417–424. https://doi.org/10.1017/S0140525X00005756
