Dudar nos protege del hype. Entender los límites nos permite diseñar sistemas híbridos donde humano e IA se potencian sin autoengaño.
La tentación del “esto no puede”
Hay algo casi reconfortante en el escepticismo tecnológico. Nos recuerda que somos humanos, no profetas. Que sabemos dudar. Que no nos dejamos seducir por la última promesa brillante sin antes preguntarnos: ¿y esto realmente funciona? Dudar nos hace humanos. Pero detenernos en la duda, no.
Cada vez que alguien señala que la IA falla en matemáticas complejas, que no entiende causas, que puede dar consejos peligrosos, una parte de mí piensa: bien, necesitamos estas voces. Porque la tentación del hype es poderosa, y los límites —cuando se nombran con honestidad— nos protegen de caer en él.
Pero hay otra tentación, igual de seductora: la del “esto no puede”. La de ver los límites actuales y concluir que la tecnología es fundamentalmente inviable. Que los problemas de hoy revelan una falla esencial que nunca se superará.
Y la historia nos recuerda, una y otra vez, que ese “no puede” suele ser temporal. En 1889, Harper’s Weekly advertía que “casi cada cable que ves al aire libre es lo suficientemente grueso y fuerte como para llevar una corriente mortal”. La electricidad mataba gente. Los sistemas fallaban constantemente. Edison organizaba electrocuciones públicas de animales para demostrar los peligros del AC. Y tenían razón: los sistemas eléctricos tempranos eran mortalmente peligrosos.
En 1903, el presidente del Michigan Savings Bank le aconsejó al abogado de Henry Ford que no invirtiera en su compañía: “El caballo llegó para quedarse, pero el automóvil es solo una novedad, una moda pasajera”. Y en caminos de tierra, sin gasolineras, con fallas mecánicas constantes, el caballo era más confiable.
En 1995, Clifford Stoll escribió en Newsweek que ninguna base de datos online reemplazaría al diario, que nadie compraría libros por internet. “Ah, claro”, terminaba, irónico. Y con conexiones dial-up lentas, sin infraestructura de pago, sin modelos de negocio probados, tenía razones para dudar.
¿Eran tontos estos críticos? No. Eran honestos. Describían límites reales de su tiempo. El error no fue señalar los problemas. Fue asumir que esos problemas eran permanentes.
Hoy, cuando hablamos de los límites de la IA, estamos en ese mismo momento histórico. Los límites son reales. Las críticas, legítimas. Pero asumir que lo que no funciona hoy no funcionará nunca es olvidar cómo se escribió siempre la historia de la tecnología.
Este artículo no viene a defender la IA ciegamente, ni a minimizar sus fallas. Intenta a hacer algo más interesante: a mirar los límites de frente, con honestidad radical, y preguntarnos qué podemos aprender de ellos.
Los límites de hoy: honestidad sin disculpas
Si queremos hablar con seriedad sobre la IA, necesitamos empezar por lo que no hace bien. Sin eufemismos. Sin “pero en el futuro…”. Primero, la verdad desnuda.
Falla con autoridad
Apple Intelligence generó en 2024 un resumen de noticias completamente falso: “Luigi Mangione se dispara a sí mismo”. No pasó. El sistema de IA de Apple, desplegado en producción, inventó un titular y se lo mostró a usuarios reales como si fuera verdad.
Grok, el chatbot de X, acusó falsamente a Klay Thompson de la NBA de vandalismo. Aparentemente malinterpretó literalmente slang de basketball (“throwing bricks” = tirando ladrillos).
El chatbot MyCity de Nueva York dio consejos ilegales a emprendedores: que los empleadores podían quedarse con parte de las propinas de sus trabajadores, que no había regulaciones requiriendo avisar cambios de horario a empleados, entre otros errores. La IA lo dijo con la misma confianza con la que diría la verdad.
Estos errores no son bugs de modelos viejos. Persisten actualmente en productos comerciales, desplegados a escala. El problema no es que falle: es que falla con confianza.
No entiende causas, solo correlaciones
La IA es brillante para detectar patrones. Ve que cuando sube la temperatura, sube el consumo de helado. Pero no entiende por qué. No sabe que el calor causa ambos fenómenos. Solo ve que suelen ocurrir juntos.
Un benchmark reciente (CausalProbe, 2024) mostró que los modelos más avanzados solo logran razonamiento causal superficial. Cuando enfrentan datos nuevos, su performance cae dramáticamente. No razonan, explotan atajos estadísticos.
Resolver álgebra no implica entender el mundo. Correlación no es causalidad. Y la IA opera, por diseño, en el territorio de la correlación.
Falla en matemáticas que un estudiante de primaria resolvería
Investigadores de Apple (2024) mostraron que cambios menores en el wording de problemas matemáticos. sin tocar la lógica, hacen colapsar la performance de los modelos. FrontierMath, con problemas de nivel doctorado, mostró resultados brutales: los mejores modelos acertaron menos del 2%.
La conclusión: los LLMs no razonan lógicamente. Replican patrones vistos en entrenamiento. No entienden matemáticas. Imitan haberlas entendido.
Falla en el mundo real, no solo en laboratorios
McDonald’s retiró en 2024 sus sistemas de IA de 100 ubicaciones después de errores constantes en las órdenes. Un video se hizo viral: el sistema agregó 260 Chicken McNuggets a una orden sin que nadie los pidiera.
Humane AI Pin y Rabbit R1 —dispositivos standalone de IA que prometían revolucionar la interacción con tecnología— fracasaron en uso real. No pudieron manejar eficientemente tareas cotidianas como pedir un taxi. Funcionaban en demos controladas. Fallaban en el caos del mundo real.
Los límites no son teóricos. Son reales y bien documentados. Esta letanía de fallos es abrumadora. Leída de corrido, suena a una sentencia de muerte para la tecnología. Pero este sentimiento de inviabilidad, de peligro mortal y fracaso costoso… no es nuevo. De hecho, es el patrón exacto de cada revolución tecnológica anterior.
El patrón que se repite: todas las revoluciones tuvieron sus escépticos (y tenían razón)
¿Y si te dijera que cada tecnología transformadora nació exactamente así? Con límites brutales. Con críticos legítimos. Con gente muriendo, sistemas fallando, promesas incumplidas. No porque las tecnologías fueran malas. Sino porque estaban en su infancia.
Tomemos la electricidad. En los 1880s, mataba gente. Las líneas de alto voltaje mal instaladas causaban fatalidades que dominaban los titulares. Thomas Edison —para desacreditar la corriente alterna— organizaba electrocuciones públicas de animales en su taller. Preparó la primera ejecución eléctrica de un prisionero en 1890. Lejos de calmar los miedos, los alimentaba.
Harper’s Weekly advertía en 1889 sobre los peligros mortales de los cables eléctricos que plagaban las calles de Nueva York. Permanecieron así hasta que se establecieron códigos de construcción confiables, estandarización, regulación. Tomó décadas. El miedo era racional; la extrapolación, no.
Hoy, la electricidad es tan ubicua que solo la notamos cuando falta. Transformó la civilización. Pero sus críticos tempranos no estaban equivocados sobre los peligros. Estaban describiendo la realidad de su tiempo.
El patrón se repitió con el automóvil (considerado “moda pasajera” en 1903) y la aviación comercial (tan peligrosa en los 1930s que el seguro aéreo costaba cuatro veces más que el de tren). En todos los casos, infraestructura, regulación y décadas de mejoras convirtieron tecnologías mortales o inútiles en indispensables.
Internet no fue la excepción. Clifford Stoll escribió en Newsweek en 1995 que ninguna base de datos online reemplazaría al diario, que nadie compraría libros por internet. “Ah, claro”, terminaba, irónico. Paul Krugman escribió en 1998 que “el impacto de internet en la economía no será mayor que el del fax”. Krugman después admitió que era provocativo, no pronóstico cuidadoso.
Con conexiones dial-up, el internet era lento e inútil para muchas aplicaciones. La burbuja puntocom causó pérdidas masivas reales. Banda ancha, estándares web y smartphones tomaron años. Y convirtieron a internet en la infraestructura básica de la economía global.
El patrón es siempre el mismo:
- La tecnología nace con límites reales y peligros genuinos
- Los críticos señalan esos límites (con razón)
- Infraestructura, regulación y mejoras técnicas superan muchos límites
- La tecnología se vuelve indispensable
- Las críticas iniciales suenan ingenuas en retrospectiva
No porque los críticos fueran tontos. Sino porque no podían imaginar cómo se resolverían los problemas.
¿Dónde está la IA en este patrón? Entre la fase 2 y la 3. Los límites son reales. Las críticas, legítimas. Pero la inversión masiva, las mejoras técnicas rápidas, el desarrollo de estándares emergentes, la regulación comenzando… todo sugiere que estamos en plena transición.
No sabemos cuánto tomará. No sabemos qué límites se superarán y cuáles permanecerán. Pero asumir que lo que falla hoy fallará siempre es ignorar cómo funcionó siempre la historia de la tecnología.
¿Temporales o fundamentales? La pregunta que importa
No todos los límites son iguales. Algunos se resolverán con tiempo, inversión y mejores algoritmos. Otros quizás no.
El costo computacional probablemente baje. El tamaño de contexto ya se expandió de 4.000 a 200.000 tokens en dos años. Las alucinaciones mejoran con RAG y verificación automatizada. Las computadoras eran del tamaño de edificios. Hoy están en tu bolsillo.
Pero hay otros límites que quizás sean más difíciles de superar. O que tal vez no necesiten superarse.
¿Puede una IA tener consciencia? ¿Experiencia subjetiva?
John Searle (1980) propuso la “Habitación China”: ejecutar un programa no implica comprender. Sintaxis no es semántica. Hubert Dreyfus (1970s) argumentaba que el conocimiento requiere cuerpo. La IA aprende sin sentidos, sin emociones, sin experiencia encarnada. ¿Es un límite fundamental? Probablemente. ¿Importa para su utilidad? Menos de lo que parece.
Las calculadoras no entienden matemáticas, pero resuelven ecuaciones. El GPS no conoce tu destino, pero te lleva. Herramientas poderosas con límites conocidos siguen siendo invaluables.
Comprender no siempre es necesario para transformar. Por eso medimos valor por efectos verificables, no por metafísica de la máquina.
Y esto conecta con algo que ya exploramos en artículos anteriores. Brooks nos recordaba en The Mythical Man-Month que hay complejidad esencial y complejidad accidental. Incluso si los límites de la IA —como la consciencia o la causalidad profunda— resultan ser fundamentales, la herramienta sigue siendo revolucionaria. Porque ataca la vasta complejidad accidental: escribir código repetitivo, buscar información, automatizar tareas mecánicas. No elimina la complejidad esencial —el diseño conceptual, la comprensión profunda del problema, la visión de conjunto— pero tampoco necesita hacerlo. Esa es nuestra parte.
Los límites no son debilidades a ocultar. Son fronteras que nos recuerdan qué sigue siendo humano.
Por qué conocer los límites nos hace más poderosos
Hay una paradoja en todo esto. Cuanto mejor conozco los límites de la IA, más útil se vuelve. No es que me vuelva escéptico. Es que aprendo a usarla mejor. Saber que alucina me hace auditar outputs críticos. Saber que no entiende causas me impide delegar decisiones estratégicas ciegamente. Saber sus fallas me obliga a verificar.
Conocer los límites me permite diseñar mejores sistemas. No se trata de usar IA en todo o en nada. Se trata de arquitecturas híbridas: humano + IA, cada uno en lo que es mejor. Copiloto propone tres caminos; humano valida uno contra datos y riesgo. Man-in-the-loop donde importa. Automatización donde no.
Los límites también me ayudan a cultivar habilidades complementarias. Si la IA no hace X bien, entonces ser bueno en X se vuelve más valioso, no menos. El seniority se redefine: saber qué delegar y qué reservar para el pensamiento humano. Curiosidad, pensamiento crítico, agencia: esas disposiciones cognitivas se vuelven esenciales justamente porque la IA tiene límites.
Y la honestidad sobre capacidades genera más confianza que el hype. Usuarios educados usan mejor la tecnología. Organizaciones que entienden qué puede y qué no puede hacer la IA toman mejores decisiones de adopción, evitan fracasos costosos, construyen productos más robustos.
Los límites también muestran dónde está la siguiente oportunidad. Startups exitosas no son las que repiten lo que ya funciona, sino las que resuelven los límites actuales. Cada frontera es una invitación a innovar.
Licklider, en 1960, imaginaba la simbiosis humano-computadora como cooperación dinámica donde cada parte compensa las limitaciones de la otra. Esa visión —que exploramos cuando hablamos de Licklider y Engelbart— solo funciona si conocemos con honestidad qué limitaciones tiene cada parte. Simbiosis sin autoengaño.
Y hay algo más, algo que desde América Latina entendemos con particular claridad: siempre trabajamos con límites. Recursos limitados, acceso restringido, infraestructura imperfecta. Eso no nos paraliza. Nos hace creativos. No esperamos herramientas perfectas, sino útiles.
Conocer los límites no es pesimismo. Es realismo productivo. Es el mapa que nos permite navegar la frontera entre lo posible y lo imposible con precisión, sin caer en el hype ni en el rechazo.
Trabajar en la frontera
No necesitamos resolver si la IA “llegará a todo”. No necesitamos esperar a que sea perfecta. Necesitamos trabajar con lo que tenemos, conociendo sus fronteras. Los límites son reales. Muchos son temporales —la historia lo demuestra—. Algunos pueden ser permanentes. Ambos casos son manejables.
La tentación del “esto no puede” protege del hype, pero también ciega. La historia nos enseñó que los límites de hoy no son los de mañana. Y la tentación del “esto lo puede todo” lleva a delegar ciegamente, ignorar riesgos, construir sobre arena.
La posición más poderosa no está en ninguno de esos extremos. Está en la tensión. En usar la IA intensamente, pero con los ojos abiertos. En saber cuándo confiar y cuándo dudar. En construir sistemas donde humano y máquina se complementen, no se reemplacen.
Desde América Latina conocemos bien este territorio: nunca esperamos la herramienta perfecta, sino aprender a trabajar con la que tenemos. Esa es nuestra ventaja.
Conocer los límites no es resignarse. Es aprender dónde comienza nuestra parte del mapa.
¿Qué límites encontraste en tu trabajo con IA? ¿Cuáles creés que son temporales y cuáles fundamentales? ¿Cómo cambia tu forma de trabajar cuando conocés las fronteras?