La IA no tiene dudas, ¡pero el problema es que a menudo tú tampoco las tienes!

Si le preguntas a una inteligencia artificial si una respuesta es correcta, casi siempre obtendrás una afirmación rotunda. La IA no se detiene a dudar ni dice «quizá debería comprobarlo»: ofrece una respuesta con la misma fluidez con la que podría dar una completamente diferente.

En 2023, dos abogados neoyorquinos lo descubrieron por las malas. Habían utilizado ChatGPT para preparar un escrito judicial y habían citado seis precedentes judiciales que la herramienta se había inventado por completo. Cuando los colegas de la parte contraria no lograron encontrar esas sentencias, los abogados preguntaron directamente a ChatGPT si los casos eran reales: la herramienta lo confirmó. El juez federal sancionó a los abogados, subrayando que nadie había verificado las citas con una fuente externa fiable antes de presentarlas ante el tribunal. No se trataba de un problema de haber utilizado la herramienta equivocada: cualquiera que hubiera abierto Westlaw o, incluso, solo Google Scholar para contrastar la información, se habría dado cuenta en dos minutos.

El verdadero cuello de botella

En las empresas que están adoptando la IA general, la conversación se centra casi siempre en aspectos técnicos: cómo redactar una indicación eficaz, qué funciones activar o cómo integrar la herramienta en los flujos de trabajo.

Sin embargo, falta un matiz más sutil: saber cuándo un resultado es fiable y cuándo, por el contrario, hay que cuestionarlo. El concepto tiene un nombre concreto; en la literatura se denomina «calibrated trust» y no es algo nuevo.

El modelo de referencia es el propuesto en 2004 por los investigadores John D. Lee y Katrina See, quienes fueron los primeros en identificar dos conceptos opuestos en la confianza hacia un sistema automático: la infrautilización, cuando se ignora una ayuda fiable solo porque es artificial, y la sobreutilización, cuando se acepta un resultado sin cuestionarlo, incluso cuando la fiabilidad real del sistema no lo justifica. La «confianza calibrada», por su parte, es aquel tipo de confianza que se ajusta a las capacidades reales de la herramienta, y no a la seguridad con la que estas se presentan.

‍

La competencia que realmente se necesita

Aprender cuándo confiar en los resultados de la IA y cuándo, por el contrario, cuestionarlos, significa entrenarse continuamente para plantearse preguntas, incluso aquellas que resultan incómodas. Porque esta evaluación no solo tiene que ver con la tecnología, sino que pone a prueba el pensamiento crítico, la comprensión del contexto y, sobre todo, la honestidad a la hora de reconocer los propios puntos ciegos.

Se puede entrenar a un modelo para que cite las fuentes o señale su propia incertidumbre, pero la decisión final sobre hasta qué punto confiar en él sigue siendo una responsabilidad puramente humana, que hay que entrenar y cultivar.

Un estudio publicado a principios de 2025 por Microsoft Research y la Universidad Carnegie Mellon, realizado entre trabajadores del conocimiento que utilizan herramientas de AIGen al menos una vez a la semana, ha puesto de manifiesto precisamente este mecanismo.

Los autores han encontrado una correlación clara: cuanto más confía un profesional en la capacidad de la IA para realizar una tarea, menos recurre a su pensamiento crítico respecto a dicha tarea. Por el contrario, quienes tienen más confianza en sus propias competencias tienden a cuestionar el resultado con mayor frecuencia, verificándolo, complementándolo y corrigiéndolo antes de considerarlo definitivo. En otras palabras, la «confianza calibrada» no es el resultado de una actitud de desconfianza hacia la IA, sino de la seguridad que se deriva de la propia experiencia y competencia. Quien conoce mejor el contexto y domina mejor la materia es también quien sabe evaluar con mayor precisión cuándo confiar en la IA y cuándo cuestionar sus respuestas.

El caso mencionado al principio es el ejemplo extremo de lo que ocurre cuando la competencia brilla por su ausencia. Pero el mecanismo que llevó a dos abogados a confiar ciegamente en el resultado de una IA es el mismo —aunque a menor escala— que nos lleva a cualquiera de nosotros a copiar un dato, una cifra o una afirmación generada por la IA sin verificarla, simplemente porque parece verosímil.

‍

¿Por qué conviene hablar de ello ahora?

Las organizaciones que están invirtiendo mejor en la IA generativa son aquellas que han empezado a crear, entre su personal, un vocabulario común para hablar de riesgo y fiabilidad. Saben, por ejemplo, distinguir entre una actividad de bajo riesgo, en la que la IA puede funcionar de forma autónoma, y una de alto riesgo, en la que se necesita supervisión. Y esta distinción surge de la práctica, de los errores cometidos y de una cultura empresarial que permite decir «no me fío de este resultado» sin sentirse en desventaja frente a quienes, en cambio, lo utilizan con naturalidad.

La IA nunca tendrá dudas. Depende de quien la utilice establecer los criterios que determinen cuándo hay que tomarla en serio y cuándo no. Y es una labor que empieza por las personas y la cultura laboral, incluso antes que por las herramientas.

‍