Responder no es saber: tres supuestos en los que un LLM debería preguntar

Introducción: la inclinación estructural de los LLM a responder

El lenguaje humano no es aleatorio. Como mostró Claude SHANNON en 1948, presenta redundancias, patrones y regularidades que permiten la predicción condicional¹. Los LLM presentan una fuerte tendencia a generar una respuesta incluso cuando el contexto es ambiguo, incompleto o insuficiente para resolver con seguridad la petición planteada, no porque comprendan en sentido humano. Simplemente recombinan formas lingüísticas observadas en datos de entrenamiento, sin referencia al propio significado. Son loros estocásticos².

La principal limitación de estos sistemas es que no poseen un criterio autónomo de verdad. Un LLM genera continuaciones lingüísticamente plausibles a partir del contexto disponible. Por ello, la coherencia formal de una respuesta no garantiza su veracidad: una respuesta puede estar bien escrita, ser persuasiva y, aun así, ser falsa o estar fundada sobre una premisa inexistente.

En los humanos, la intención guía el discurso y permite decidir qué información es relevante. En un LLM, ese papel lo ocupa el contexto. Cuando el contexto es ambiguo, contradictorio, incompleto o inexistente, el sistema no tiene una intención propia con la que resolver la duda. Solo puede seleccionar la continuación más plausible, frecuentemente con apariencia de seguridad formal.

Esta sensibilidad formal por encima del contenido está bien documentada. SCLAR et al. (2024, pp. 1-5) demuestran que variaciones de formato que preservan íntegramente el significado del prompt —separadores, espaciado, mayúsculas— producen oscilaciones de hasta 76 puntos de precisión en LLaMA-2-13B, una sensibilidad que no desaparece al aumentar el tamaño del modelo ni al aplicar ajuste por instrucciones³.

El fenómeno se observa incluso en claves pragmáticas irrelevantes: DOBARIYA y KUMAR (2025) hallan que el mero tono del prompt —de muy cortés a muy grosero— altera la precisión de GPT-4o en preguntas de opción múltiple, pese a que el tono no aporta información sobre el problema⁴.

Preguntar no es una deficiencia conversacional, sino un mecanismo de seguridad epistémica. También es una forma de eficiencia: generar cientos de tokens sobre una petición mal definida consume inferencia para producir una respuesta que probablemente deberá ser corregida o descartada. La IA no debería aspirar a responder siempre, sino a distinguir cuándo una respuesta sería conocimiento útil y cuándo sería solo una simulación convincente de certeza. Esta regla se vuelve especialmente importante cuando el error puede producir consecuencias jurídicas, médicas, económicas o técnicas relevantes.

Este problema no es inventado, y los desarrolladores de modelos frontera están empezando a tratar la gestión de la incertidumbre como objetivo de diseño explícito y no como un defecto. Anthropic, al presentar su modelo Claude Opus 4.8, parte del reconocimiento de que un problema general de estos sistemas es que «a veces saltan a conclusiones, afirmando con seguridad haber avanzado pese a ser escasa la evidencia», y sitúa entre sus mejoras que el modelo señale con mayor frecuencia sus incertidumbres y formule menos afirmaciones sin respaldo (Anthropic, 2026)⁵.

En este artículo se examinan tres supuestos en los que un modelo de lenguaje, a mi juicio, debería preguntar en lugar de responder. La tesis que se defiende no es que el modelo deba preguntar siempre que pudiera equivocarse, sino que, cuando concurran ciertos indicios de que su respuesta sería una mera apuesta, la conducta racional sea preguntar antes que arriesgar una certeza simulada. La elección no pretende ser exhaustiva ni comprende los infinitos casos posibles, sino el análisis de tres supuestos que he considerado representativos, apoyado en literatura que ha abordado el problema desde otro ángulo. Los tres comparten una raíz común: la falta de criterio autónomo de verdad, la detección de esa carencia y que la respuesta honesta no es simular certeza, sino hacer partícipe al usuario de la incertidumbre.

Tres supuestos en los que una IA debería preguntar

Déficit de información como causa de alucinación extrínseca

Hemos visto que hay autores que defienden que el modelo carece de un criterio de verdad propio (BENDER et al., 2021). Otros sostienen una tesis no incompatible (KALAI et al., 2025, pp. 1-4): los modelos alucinan porque los procedimientos de entrenamiento y evaluación recompensan adivinar en lugar de reconocer la incertidumbre, y adivinar cuando se está inseguro maximiza la puntuación esperada bajo un esquema binario que premia el acierto y no recompensa el «en blanco» ni el «no sé»⁶.

La distinción que introducen JI et al. (2023, sec. 2.1) en el estudio de tareas con fuente documental explícita (resumen, generación a partir de datos, etc.) resulta pertinente aquí. Los autores distinguen entre alucinación intrínseca, que contradice el contenido fuente, y extrínseca, que no puede verificarse a partir de él (es decir, ni se apoya ni se contradice con la fuente)⁷. Trasladado al diálogo, donde la «fuente» es el contexto que aporta el usuario, el déficit de información introduciría al modelo en el campo de la alucinación extrínseca, pues completaría lo que el contexto no contiene. Conviene precisar que esta categoría no es siempre errónea, pero esa salvedad, lejos de relativizar el problema, lo agrava.

Si el contenido extrínseco puede ser tanto acierto como fabricación, y el sistema no dispone de criterio para distinguir uno de otra, la respuesta resulta indistinguible de una invención para quien la recibe, pues acierto y error se presentan con idéntica seguridad formal. Esa opacidad es la que justifica preguntar antes que responder. En este caso, la pregunta no corrige una falsedad (que podría haberla o no), sino que sustituye una apuesta no verificable por información efectivamente disponible.

Asimetría coste-error

El modelo debería preguntar cuando el coste del error sea superior a la fricción que genera solicitar al usuario información adicional (decisión bajo incertidumbre). Esto ya ha sido estudiado mediante un modelo creado bajo la premisa de que una pregunta vale por la utilidad de su respuesta⁸. La pregunta no se articula como cautela genérica, sino como una decisión con valor computable que se justifica cuando su beneficio (evitar un error) excede su coste.

Según CHOW, rechazar no cuesta lo mismo que errar; la regla de decisión óptima es también la regla del mínimo riesgo si el coste es uniforme, y propone la opción de rechazar (o abstenerse) como método de salvaguarda frente al exceso de reconocimiento. Esa tercera opción convierte un posible error en una abstención, pero razona que, cuando el sistema se abstiene para no fallar, también sacrifica casos donde habría resuelto correctamente. El sistema, entonces, debe abstenerse cuando el coste de errar pesa más que no decidir.

Los LLM, en principio, carecen de la tercera opción de CHOW (ni existían los LLM cuando este publicó su artículo), pero analógicamente podríamos decir que la tercera opción, en el contexto que nos ocupa, sería precisamente preguntar. El principal problema es que CHOW habla de un sistema que conoce sus probabilidades de respuesta (a posteriori) y puede fijar umbrales, pero un LLM no posee esa estimación⁹.

Presuposición falsa

Cuando la premisa introducida por el usuario presenta indicios de falsedad, la IA no debería limitarse a responder a la pregunta formulada, sino corregir el error y reconducir la interacción.

En su trabajo sobre cooperación conversacional entre sistemas informáticos y usuarios, KAPLAN¹⁰ observó que toda pregunta incorpora determinadas presuposiciones acerca del mundo. El autor sostiene que, cuando una presuposición falla, el comportamiento cooperativo no consiste en proporcionar una respuesta directa dentro del marco erróneo de la pregunta, sino en ofrecer una respuesta indirecta correctiva destinada a señalar la premisa falsa que impide responder adecuadamente.

El principio sería plenamente vigente a día de hoy, pues cuando una consulta se apoya en un hecho falso, el modelo no debería limitarse a desarrollar la respuesta solicitada dentro del marco viciado.

Los modelos actuales incumplen ese principio de forma sistemática. ZHU et al.¹¹ evaluaron el comportamiento de varios LLM ante preguntas que dan por cierto un hecho falso y hallaron que ningún modelo de frontera (GPT-5, Gemini-2.5-Pro o Claude-4-Sonnet) corrige la presuposición falsa más del 43 % de las veces. En la mayoría de los casos, el modelo responde dentro del marco erróneo y refuerza la creencia. Los autores atribuyen el fallo a la adulación (sycophancy), es decir, la tendencia del modelo a alinearse con el usuario en lugar de contradecirle. El remedio tampoco es trivial, pues forzar la corrección mediante instrucciones preventivas genera el problema inverso: el modelo pasa a «corregir» presuposiciones que eran correctas y empeora su rendimiento en consultas válidas. El sistema oscila así entre un modelo crédulo, que valida cualquier premisa, y uno desconfiado, que objeta premisas legítimas.

Como se expuso al inicio, el LLM carece de un criterio autónomo de verdad, en tanto no verifica la premisa contra el mundo, sino que estima su plausibilidad. Por eso no puede aspirar a detectar toda falsedad —ZHU et al. lo confirman, al fallar la corrección en más de la mitad de los casos—, y tanto la credulidad como la desconfianza excesiva son manifestaciones de esa misma carencia.

Lo que el modelo sí puede reconocer es una señal: que la presuposición resulta poco plausible a la luz del contexto, que coincide con el patrón de un error frecuente o, simplemente, que existe incertidumbre. Por ejemplo, el modelo podría preguntar cuando detecta que varias respuestas incompatibles resultan aproximadamente igual de plausibles. Ese indicio, y no una verdad que el modelo no posee, es el que debería incitarle a preguntar.

Ante esa señal cabe, a mi juicio, lo que coloquialmente podría llamarse «la vía gallega»: responder a la pregunta con otra pregunta. Del mismo modo que los psicólogos (mediante técnicas de entrevista motivacional) hacen preguntas para favorecer que el propio sujeto identifique creencias o conductas problemáticas en lugar de recibir una corrección directa, el sistema conversacional podría inducir al usuario, mediante preguntas, a revisar su presupuesto inicial.

Por ejemplo, ante una consulta sobre «qué 10 % del cerebro utilizamos los seres humanos», el modelo podría preguntar si el usuario se refiere al conocido mito según el cual solo empleamos una décima parte de nuestra capacidad cerebral. La pregunta no persigue que el usuario aporte un dato que falta —a diferencia del déficit de información del primer supuesto—, sino que revise un dato que ya aportó y redirija la pregunta. A mi juicio, es la corrección que reclama KAPLAN, pero ejecutada de forma indirecta e interrogativa, y constituye la salida al dilema entre credulidad y desconfianza, pues frente a una premisa sospechosa, el modelo no decide por el usuario, sino que le devuelve la duda.

Conclusión

En este artículo hemos defendido que la pregunta, para un LLM, no es un signo de deficiencia, sino un mecanismo de gestión de la incertidumbre. Los tres supuestos analizados no comparten su origen ni su mecanismo, pero sí la carencia de un criterio autónomo de verdad, y pese a ello los modelos están estructuralmente inclinados a responder. En el déficit de información, la pregunta recaba lo que falta. En la asimetría coste-error, evita comprometer una respuesta cuyo error costaría más que preguntar. En la presuposición falsa, somete a revisión un dato ya aportado que se considera viciado. Son tres operaciones distintas sobre la misma carencia.

Esa carencia impone un límite evidente: un LLM no sabe cuándo se equivoca. A lo sumo podría detectar señales indirectas (la incertidumbre de su distribución predictiva, la implausibilidad de una premisa, el riesgo en juego, etc.). La propuesta no es, por tanto, que el modelo deba preguntar siempre que yerre (pues eso sería exigirle el criterio de verdad del que carece), sino que, cuando esas señales aparezcan, la conducta racional sea preguntar en lugar de apostar. Pero incluso implementando la pregunta en todas las condiciones anteriores, siempre existiría una fricción conversacional, pues, como ya advierten ZHU et al., forzar la corrección dispara falsos positivos y degrada el rendimiento en consultas válidas.

Cabría imaginar, como hipótesis, un umbral configurable: una línea base calibrada sobre el punto en que un interlocutor humano competente también preguntaría, modulada por parámetros ajustables según el dominio y las preferencias del usuario.

No se fija aquí ese umbral, ni podría fijarse con carácter general, porque su valor es precisamente lo que cambia con lo que está en juego. Esa variabilidad es la conclusión a la que llegamos: que un modelo pregunte no constituye una mera cortesía con el interlocutor ni una decisión deliberada de su creador, sino una decisión de diseño con consecuencias técnicas, y probablemente también jurídicas, médicas o económicas conforme la IA se adapte a más sectores y se produzcan errores.

Probablemente reconocer cuándo no se sabe es, para una máquina que no puede saber, la forma más alta de competencia.

Referencias

• Anthropic. (2026, 28 de mayo). Introducing Claude Opus 4.8. https://www.anthropic.com/news/claude-opus-4-8
• Bender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021). On the dangers of stochastic parrots: Can language models be too big? Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency, 610–623. https://doi.org/10.1145/3442188.3445922
• Chow, C. K. (1970). On optimum recognition error and reject tradeoff. IEEE Transactions on Information Theory, 16(1), 41–46. https://doi.org/10.1109/TIT.1970.1054406
• Dobariya, O., & Kumar, A. (2025). Mind your tone: Investigating how prompt politeness affects LLM accuracy [Preprint]. arXiv. https://doi.org/10.48550/arXiv.2510.04950
• Ji, Z., Lee, N., Frieske, R., Yu, T., Su, D., Xu, Y., Ishii, E., Bang, Y. J., Madotto, A., & Fung, P. (2023). Survey of hallucination in natural language generation. ACM Computing Surveys, 55(12), Artículo 248. https://doi.org/10.1145/3571730
• Kalai, A. T., Nachum, O., Vempala, S. S., & Zhang, E. (2025). Why language models hallucinate [Preprint]. arXiv. https://doi.org/10.48550/arXiv.2509.04664
• Kaplan, S. J. (1982). Cooperative responses from a portable natural language query system. Artificial Intelligence, 19(2), 165–187. https://doi.org/10.1016/0004-3702(82)90035-2
• Rao, S., & Daumé III, H. (2018). Learning to ask good questions: Ranking clarification questions using neural expected value of perfect information. En I. Gurevych & Y. Miyao (Eds.), Proceedings of the 56th Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers) (pp. 2737–2746). Association for Computational Linguistics. https://doi.org/10.18653/v1/P18-1255
• Sclar, M., Choi, Y., Tsvetkov, Y., & Suhr, A. (2024). Quantifying language models' sensitivity to spurious features in prompt design or: How I learned to start worrying about prompt formatting [Conferencia]. International Conference on Learning Representations (ICLR) 2024. https://doi.org/10.48550/arXiv.2310.11324
• Zhu, W. B., Chen, T., Yu, X. V., Lin, C. Y., Law, J., Jizzini, M., Nieva, J. J., Liu, R., & Jia, R. (2025). Cancer-Myth: Evaluating large language models on patient questions with false presuppositions [Preprint]. arXiv. https://doi.org/10.48550/arXiv.2504.11373

Notas

1. Al analizar el inglés, Shannon comprobó que existe una alta redundancia y que la cantidad de información nueva por símbolo es limitada, lo que implica que el lenguaje natural tiene una entropía efectiva menor que la máxima posible. — Shannon, C. E. (1948). A mathematical theory of communication. Bell System Technical Journal, 27(3), 379–423; 27(4), 623–656. ↩
2. «Text generated by an LM is not grounded in communicative intent, any model of the world, or any model of the reader’s state of mind [...] an LM is a system for haphazardly stitching together sequences of linguistic forms it has observed in its vast training data, according to probabilistic information about how they combine, but without any reference to meaning: a stochastic parrot.» — Bender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021). On the dangers of stochastic parrots: Can language models be too big? Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency, 610–623. https://doi.org/10.1145/3442188.3445922 ↩
3. Por ejemplo, resulta paradigmático que el mero cambio de formato de passage:{} por passage {} mueva la precisión de 0,043 a 0,826. — Sclar, M., Choi, Y., Tsvetkov, Y., & Suhr, A. (2024). Quantifying language models' sensitivity to spurious features in prompt design or: How I learned to start worrying about prompt formatting [Conferencia]. International Conference on Learning Representations (ICLR) 2024. https://doi.org/10.48550/arXiv.2310.11324 ↩
4. Téngase en cuenta que se trata de un preprint y que los propios autores consideran que el efecto es modesto (aproximadamente 4 puntos), calificando el resultado como artefacto; pero sí implica que el modelo no distingue entre la materia y la forma. — Dobariya, O., & Kumar, A. (2025). Mind your tone: Investigating how prompt politeness affects LLM accuracy [Preprint]. arXiv. https://doi.org/10.48550/arXiv.2510.04950 ↩
5. Tómese este dato con cautela y como mero indicio de la tendencia del sector, no como prueba de que efectivamente el nuevo modelo mejore esto; pero confirma que el reconocimiento de la incertidumbre ha dejado de percibirse como una carencia para empezar a entenderse como una virtud del diseño. — Anthropic. (2026, 28 de mayo). Introducing Claude Opus 4.8. https://www.anthropic.com/news/claude-opus-4-8 ↩
6. Kalai, A. T., Nachum, O., Vempala, S. S., & Zhang, E. (2025). Why language models hallucinate [Preprint]. arXiv. https://doi.org/10.48550/arXiv.2509.04664 ↩
7. Ji, Z., Lee, N., Frieske, R., Yu, T., Su, D., Xu, Y., Ishii, E., Bang, Y. J., Madotto, A., & Fung, P. (2023). Survey of hallucination in natural language generation. ACM Computing Surveys, 55(12), Artículo 248. https://doi.org/10.1145/3571730 ↩
8. Rao, S., & Daumé III, H. (2018). Learning to ask good questions: Ranking clarification questions using neural expected value of perfect information. En I. Gurevych & Y. Miyao (Eds.), Proceedings of the 56th Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers) (pp. 2737–2746). Association for Computational Linguistics. https://doi.org/10.18653/v1/P18-1255 ↩
9. Chow, C. K. (1970). On optimum recognition error and reject tradeoff. IEEE Transactions on Information Theory, 16(1), 41–46. https://doi.org/10.1109/TIT.1970.1054406 ↩
10. Kaplan, S. J. (1982). Cooperative responses from a portable natural language query system. Artificial Intelligence, 19(2), 165–187. https://doi.org/10.1016/0004-3702(82)90035-2 ↩
11. Zhu, W. B., Chen, T., Yu, X. V., Lin, C. Y., Law, J., Jizzini, M., Nieva, J. J., Liu, R., & Jia, R. (2025). Cancer-Myth: Evaluating large language models on patient questions with false presuppositions [Preprint]. arXiv. https://doi.org/10.48550/arXiv.2504.11373 ↩