Vivimos en un momento de fervor tecnológico, de titulares que nos entusiasman o nos inquietan, en el que la inteligencia artificial (IA) aparece en televisión, en debates políticos, en debates filosóficos, como si fuera una fuerza imparable que ya ha irrumpido en todos los paseos de nuestra vida. Que haya máquinas que hablen como humanos, que generen imágenes, que recomienden qué ver, qué pensar, qué escribir, ha dejado de ser ciencia-ficción para ser rutina. Pero, ¿qué hay realmente detrás de esa rutina?

En su reciente entrevista para Ethic, la reconocida investigadora Melanie Mitchell dibuja un panorama más matizado, que nos llama tanto al asombro como a la precaución. Mitchell es autora de Inteligencia artificial. Guía para seres pensantes, profesora de ciencia cognitiva e informáticos con décadas de investigación, persona que entiende tanto los entresijos técnicos como las implicaciones filosóficas, sociales y políticas de la IA. Ella plantea que sistemas como ChatGPT “parecen inteligentes, pero siguen sin ser fiables”. Esa frase encierra preguntas urgentes: ¿qué entendemos por “fiabilidad”? ¿Dónde están las fisuras de lo que hoy se llama inteligencia artificial?

Este texto pretende profundizar en lo que Mitchell propone: reflexionar no sólo sobre los logros, sino también sobre los riesgos, los vacíos, los escenarios futuros, las responsabilidades, todas esas zonas grises que a menudo quedan fuera de los titulares. Porque entender bien a la IA es cuestión no sólo de curiosidad intelectual, sino de decidir cómo queremos que sea y cómo queremos que nos acompañe en nuestra vida cotidiana.

Antecedentes de la IA: de máquinas de reglas a redes neuronales gigantes

Para situarnos, conviene mirar hacia atrás: la idea de máquinas pensantes existe desde hace siglos, en mitos, en filosofía, en literatura. Pero aquello que hoy llamamos “inteligencia artificial” empieza a tomar forma en 1956, en un taller en Dartmouth College en EE.UU., donde figuras como John McCarthy, Marvin Minsky, Allen Newell y Herbert Simon definieron los objetivos fundacionales del campo. (Ethic)

En esos primeros tiempos, muchos investigadores pensaban que se podría programar la inteligencia humana mediante reglas explícitas, lógica simbólica: “esta regla, si esto ocurre, haz esto otro”, etc. Pero pronto emergieron limitaciones: el mundo real es complejo, incierto, variable, lleno de excepciones, de contexto escondido. Así nació otra vía: aprender de datos, modelar patrones más que reglas formales. Las redes neuronales modernas se inspiran en eso, no replican el cerebro, pero se inspiran en la idea de muchas unidades simples conectadas entre sí con pesos que se ajustan mediante entrenamiento. Mitchell lo explica señalando que los sistemas actuales (y los grandes modelos lingüísticos) se entrenan con enormes cantidades de texto, intentando predecir la siguiente palabra en bloques de texto tomados de Internet. (Ethic)

Ese cambio técnico supone una diferencia sustancial: ya no es tanto “programar reglas” como “aprender estructuras implícitas del lenguaje y la cultura humana”. En la práctica, eso ha permitido avances impresionantes: traducción automática, generación de escritura, respuestas coherentes en conversación, creatividad emergente en la generación de imágenes o música cuando los modelos multimodales lo permiten. Pero también abre nuevas clases de problemas.

Lo que dice Mitchell sobre los sistemas actuales de IA: capacidades y limitaciones

Melanie Mitchell señala con acierto una tensión que muchas veces no se explora con suficiente profundidad: los sistemas como ChatGPT «parecen inteligentes», pero eso no equivale a decir que sean fiables. Esa frase resume lo que ella considera un error común: confundir apariencia de inteligencia con inteligencia real, confiabilidad o conciencia de contexto.

1. Capacidades destacables
   • Generación de textos que muchas veces son fluidos, bien formados, gramaticalmente correctos; capaces de traducir, reformular, resumir, dialogar de manera plausible. (Ethic)
   • Creatividad aparente: los modelos pueden generar poemas, ficción, imágenes, composiciones inesperadas, lo que crea una sensación de “magia”.
   • Asistencia práctica: en tareas de apoyo — ayuda en redacción, revisión, sugerencias, investigación — estos sistemas ya tienen usos reales y positivos. Mitchell resalta que cuando hay consciencia de sus límites, las herramientas pueden incrementar la productividad, la creatividad humana. (Ethic)
2. Limitaciones estructurales y riesgos
   • Errores (“alucinaciones”): los modelos inventan hechos, confundiendo lo que han visto en sus datos de entrenamiento, mezclando información, sin capacidad inherente de verificar la verdad. Esa es una de las grandes grietas: pueden ser muy convincentes, pero no siempre precisos. (Ethic)
   • Sesgos: los datos de entrenamiento con textos recogidos de Internet arrastran sesgos culturales, raciales, de género, de poder, prejuicios explícitos o implícitos. Esto puede generar resultados injustos, discriminatorios o simplemente ofensivos. (Ethic)
   • Fiabilidad: Mitchell insiste en que los sistemas no tienen una forma estable de “saber” lo que es verdadero. No tienen mecanismos internos de criterio de verdad; no tienen conciencia de lo que no saben.
   • Inteligencia humana vs inteligencia artificial: los humanos tienen entendimiento contextual, emociones, intuiciones, sentido común, agentes morales; la IA carece de esto, no comprende de verdad, no tiene experiencia vivida, ni cuerpo con sentidos, ni memoria real en el sentido humano, ni motivaciones.
   • Interacción física y mundo real: los robots actuales tienen limitaciones para interactuar con el mundo físico con la sutileza, adaptabilidad, robustez que un humano tiene caminando por una acera, arreglando un grifo, manipulando objetos sin romperlos, etc. Mitchell lo señala al decir que en tareas que implican interacción física los sistemas de IA aún no pueden competir con nosotros. (Ethic)

4. Riesgos, implicaciones sociales y éticas

Cuando Mitchell habla de la inteligencia artificial, nunca lo hace de manera aislada, como si fueran máquinas en un laboratorio. Su insistencia es en situarlas dentro de un entramado social, político y económico. Porque lo que importa no es sólo lo que la IA puede o no puede hacer, sino quién la usa, con qué fines, bajo qué incentivos, y qué consecuencias se generan.

4.1. Riesgos estructurales y concentración de poder

Uno de los riesgos más evidentes es la concentración del poder tecnológico en manos de unas pocas corporaciones multinacionales. Mitchell recuerda que el desarrollo de modelos de gran escala exige recursos astronómicos: millones de dólares en computación, acceso privilegiado a datos masivos, talento extremadamente especializado. Eso deja fuera a universidades pequeñas, países con menos recursos, colectivos marginados.

El riesgo es un escenario de monopolio de facto, donde unas pocas empresas deciden cómo se diseñan y se despliegan los sistemas, qué sesgos arrastran, qué fines comerciales prevalecen. En palabras de Mitchell, si dejamos que sólo los gigantes marquen el rumbo, la sociedad pierde la capacidad de deliberar sobre qué tipo de inteligencia artificial quiere.

4.2. Sesgos y discriminaciones

Los sistemas de IA no son neutrales. Aprenden de datos, y los datos son un reflejo del mundo, con todas sus desigualdades, prejuicios y discriminaciones históricas. Mitchell subraya que si alimentamos un modelo con textos sacados de Internet, ese modelo replicará estereotipos raciales, de género, culturales. El resultado puede ser devastador:

• Procesos de selección de personal que discriminan.
• Herramientas médicas que subdiagnostican a minorías.
• Algoritmos de justicia predictiva que refuerzan prejuicios policiales.

Lo más preocupante es que estos sesgos suelen estar ocultos: el sistema “funciona” aparentemente, produce resultados convincentes, y sólo tras un análisis cuidadoso se revelan las desigualdades que perpetúa.

4.3. Transparencia y responsabilidad

Mitchell insiste en un punto crucial: la opacidad de los grandes modelos. No sabemos exactamente cómo toman decisiones; no es posible abrir la “caja negra” y seguir paso a paso por qué una red neuronal llega a una conclusión. Esta falta de explicabilidad choca con principios básicos de responsabilidad democrática y legal: si un algoritmo niega un préstamo, condena a prisión o rechaza un tratamiento médico, alguien debe poder explicar por qué.

¿Quién es responsable cuando la IA falla? ¿El programador? ¿La empresa? ¿El usuario final? Estas preguntas, dice Mitchell, no están resueltas, y su falta de respuesta es en sí misma un riesgo sistémico.

4.4. Impacto en empleo y tejido social

Otro de los grandes temores es el impacto de la IA en el empleo. La sustitución de trabajadores humanos por sistemas automáticos no es nueva (la automatización lleva siglos), pero la novedad es la velocidad y el alcance. La IA no sólo afecta trabajos rutinarios, también amenaza empleos creativos, de oficina, de análisis de datos, de traducción, incluso de periodismo.

Mitchell matiza que no se trata de un reemplazo inmediato y total, sino de una transformación: la IA cambiará la forma en que trabajamos, más que erradicar de golpe los empleos. Sin embargo, advierte que, sin políticas adecuadas, el resultado puede ser un ensanchamiento de la brecha entre quienes tienen acceso a la IA y quienes no, entre los que saben usarla y los que se quedan atrás.

5. Positivos: oportunidades que la IA puede aportar

A pesar de los riesgos, Mitchell no cae en el pesimismo absoluto. Reconoce que la IA puede tener efectos profundamente positivos, siempre y cuando se gestione con prudencia, regulación y ética.

5.1. Augmenting, no replacing

Una de las ideas más importantes es la de augmenting intelligence: usar la IA no para reemplazar al ser humano, sino para potenciar sus capacidades. En medicina, por ejemplo, un sistema de IA puede ayudar a detectar patrones invisibles a simple vista en radiografías o resonancias magnéticas, pero la decisión final debe quedar en manos de un profesional humano.

De igual manera, en educación, la IA puede personalizar el aprendizaje, ofrecer ejercicios adaptados, detectar carencias; pero no sustituye la empatía, la creatividad y la guía de un docente.

5.2. Innovación científica y descubrimiento

Mitchell pone ejemplos de cómo la IA está ayudando en la investigación científica:

• Descubrimiento de nuevas moléculas para fármacos.
• Predicción de estructuras de proteínas (como el caso de AlphaFold de DeepMind).
• Modelización del cambio climático, con algoritmos que analizan millones de variables.

Estas aplicaciones muestran el potencial de la IA para resolver problemas globales urgentes: pandemias, crisis climática, desigualdad energética.

5.3. Mejora en comunicación y accesibilidad

La IA también tiene un papel democratizador cuando se trata de accesibilidad. Herramientas de transcripción automática ayudan a personas con discapacidad auditiva; sistemas de visión artificial ayudan a invidentes; traductores automáticos permiten comunicación entre personas que antes no compartían idioma.

Mitchell subraya que estas funciones, bien implementadas, pueden mejorar la inclusión y la equidad, siempre que se acompañen de una reflexión ética sobre su despliegue.

5.4. Creatividad colaborativa

Aunque Mitchell critica la noción de que la IA “sea creativa” en sentido humano, reconoce que los sistemas generativos pueden actuar como catalizadores de la creatividad humana. Un escritor puede usarlos para desbloquear ideas; un músico para experimentar con nuevas combinaciones; un diseñador para prototipar rápidamente. En este sentido, la IA no sustituye la creatividad, sino que abre horizontes que antes eran inaccesibles.

6. Regulación, políticas y marcos de gobernanza

Si algo deja claro Mitchell en la entrevista es que la regulación es imprescindible. No se trata de frenar el progreso, sino de evitar que se desarrolle sin control, con consecuencias dañinas para la sociedad.

6.1. La dificultad de regular lo que no se entiende del todo

Mitchell señala un dilema: los propios expertos en IA no comprenden a fondo cómo funcionan los grandes modelos en su interior. Regular algo que no se entiende del todo es complicado, pero no por ello debe posponerse. Propone que se regulen los efectos más que el mecanismo interno: transparencia, auditorías externas, limitación de usos dañinos.

6.2. Necesidad de auditorías y estándares

Al igual que los aviones pasan inspecciones y las medicinas ensayos clínicos, los sistemas de IA deberían someterse a auditorías independientes. Esto significa:

• Probar cómo se comportan en distintos contextos.
• Detectar sesgos antes de desplegarlos.
• Garantizar que los usuarios saben qué limitaciones tienen.

Mitchell insiste en que no basta con confiar en la autorregulación empresarial: deben existir organismos públicos y normas internacionales.

6.3. Gobernanza global

La IA no entiende de fronteras. Un modelo entrenado en EE.UU. puede desplegarse en Europa, África o Asia en cuestión de segundos. Esto exige coordinación internacional, algo similar a los acuerdos sobre cambio climático o proliferación nuclear. Mitchell propone avanzar hacia un marco global que establezca mínimos comunes de seguridad, equidad y derechos humanos.

6.4. Balance entre innovación y precaución

Una preocupación habitual es que una regulación excesiva frene la innovación. Mitchell responde que la innovación sin ética no es progreso: es riesgo. El reto es encontrar un equilibrio: permitir que la IA siga avanzando, pero con salvaguardas que protejan a las personas y al planeta.

7. Reflexiones más profundas: ¿qué significa “inteligencia”?

En la entrevista, Mitchell plantea una pregunta incómoda pero inevitable: ¿qué es realmente la inteligencia? Si los sistemas actuales parecen inteligentes pero no lo son del todo, ¿qué les falta? Y, a la inversa, ¿qué tienen los humanos que todavía ninguna máquina ha logrado replicar?

7.1. La ilusión de comprensión

Cuando interactuamos con modelos como ChatGPT, sentimos que “entienden” porque responden con fluidez. Pero Mitchell advierte que esto es una ilusión de comprensión: el sistema no tiene experiencia vivida, ni un cuerpo que perciba el mundo, ni una conciencia que le permita distinguir entre lo verdadero y lo falso. Lo que tiene es un enorme patrón estadístico que predice la siguiente palabra.

La cuestión no es menor. Desde los tiempos de Alan Turing, la discusión sobre si una máquina puede “pensar” se ha basado en el comportamiento observable. Si actúa como si entendiera, ¿debemos decir que entiende? Mitchell responde con cautela: actuar “como si” no equivale a poseer las capacidades internas que llamamos inteligencia.

7.2. La importancia del cuerpo y la experiencia

Los humanos no adquirimos inteligencia en el vacío. Nuestras habilidades cognitivas están profundamente ligadas al hecho de tener un cuerpo, moverse en un entorno físico, experimentar emociones, aprender a través de la interacción social. La inteligencia es encarnada (embodied), y por eso Mitchell sostiene que los sistemas puramente lingüísticos tienen un techo: pueden simular, pero les falta la raíz experiencial.

Este argumento se conecta con corrientes de la ciencia cognitiva que insisten en que pensar no es sólo manipular símbolos, sino también percibir, actuar, sentir. Un niño entiende la palabra “manzana” no porque alguien se la haya explicado con un diccionario, sino porque la ha visto, tocado, mordido, saboreado.

7.3. ¿Simuladores de inteligencia o nuevas formas de ella?

Aquí se abre una disyuntiva fascinante: ¿debemos considerar a los sistemas de IA como simples simuladores de inteligencia humana, o como el inicio de una forma diferente de inteligencia, ajena a la experiencia humana pero igualmente válida? Mitchell parece inclinarse por la primera postura: los sistemas actuales no son “inteligentes” en el sentido pleno, y su fiabilidad está en entredicho. Sin embargo, reconoce que en el futuro podríamos enfrentarnos a formas de agencia artificial que no encajen en nuestras categorías tradicionales.

La pregunta filosófica es si queremos llamar “inteligencia” a cualquier sistema capaz de resolver problemas, aunque lo haga de manera muy distinta a nosotros.

7.4. El riesgo de la confianza ciega

Mitchell alerta sobre un riesgo social concreto: que la gente confíe demasiado en estas máquinas porque parecen inteligentes. Cuando un chatbot redacta con convicción, muchos usuarios lo interpretan como prueba de que “sabe” lo que dice. Esa confianza ciega puede llevar a decisiones equivocadas: desde estudiantes que citan datos inventados hasta médicos que aceptan diagnósticos sin verificación.

Lo paradójico, señala, es que la IA es más peligrosa precisamente cuando resulta más convincente. Si un sistema fuera torpe, nadie lo tomaría en serio; pero al ser fluido y persuasivo, puede engañarnos.

8. Conclusión: hacia una relación madura con la IA

Después de repasar los argumentos de Melanie Mitchell, queda claro que estamos ante una encrucijada.

8.1. Lo que hemos aprendido

• Los sistemas actuales son impresionantes, pero su inteligencia es aparente más que real.
• Sus limitaciones — errores, sesgos, falta de fiabilidad — no son detalles técnicos, sino riesgos sociales.
• La IA puede ser una herramienta poderosa para ciencia, medicina, comunicación y creatividad, siempre que se use para aumentar y no para reemplazar al ser humano.
• La regulación y la gobernanza global no son un lujo, sino una necesidad urgente.

8.2. Un llamado a la responsabilidad compartida

Mitchell insiste en que la responsabilidad no puede recaer sólo en los científicos o en las empresas. La sociedad entera debe participar: gobiernos, instituciones educativas, periodistas, ciudadanos. La alfabetización digital y crítica es tan importante como la regulación técnica. Si la gente comprende qué puede y qué no puede hacer la IA, será menos vulnerable al engaño de la apariencia.

8.3. Mirando al futuro

El futuro de la IA no está escrito. Podría ser una herramienta de liberación — ayudarnos a enfrentar el cambio climático, a descubrir curas, a ampliar la creatividad — o podría convertirse en un instrumento de control, desigualdad y desinformación. La diferencia la marcará nuestra capacidad de regular, de educar, de reflexionar.

Mitchell nos invita a una actitud que combina asombro y escepticismo: asombro por los logros tecnológicos, escepticismo ante las promesas exageradas. Entre el optimismo ingenuo y el catastrofismo paralizante, hay un espacio de prudencia activa donde se toman las mejores decisiones.

8.4. Reflexión final

Quizá el mayor aporte de Mitchell no sea advertirnos sobre los riesgos técnicos, sino recordarnos algo más profundo: la inteligencia, en su sentido humano, no es sólo resolver problemas ni generar frases convincentes. Es también empatía, contexto, experiencia vivida, responsabilidad. Si olvidamos esto, corremos el peligro de reducirnos a nosotros mismos a meros algoritmos.

El reto de nuestra época es convivir con estas máquinas sin caer en el engaño de su aparente humanidad. Reconocer su utilidad sin atribuirles más de lo que tienen. Usarlas como herramientas, no como oráculos. Y, sobre todo, mantener viva la pregunta que da sentido a toda esta discusión: ¿qué significa ser realmente inteligente?