Tag
Sesgos cognitivos
Sesgo de automatización, confirmación, complacencia: las trampas de razonar con IA.
6 · Artículos sobre este tema
Comparar para elegir, no para tener razón: usar bien varias IA
Poner varias IA frente al mismo problema puede servir para dos cosas muy distintas: buscar la voz que te dé la razón, o entender qué respuesta se sostiene de verdad. Parece un matiz, pero lo cambia todo. En el primer caso la comparación se convierte en una caza de confirmación y amplifica tus prejuicios; en el segundo se convierte en una herramienta de decisión que pone a prueba las ideas. Entender la diferencia es la manera de no desperdiciar el valor de tener varias perspectivas disponibles, y de transformar el desacuerdo entre modelos en una elección más consciente en lugar de una discusión que ganar.
Preguntas capciosas: cómo no empujar a la IA hacia la respuesta que quieres oír
La forma en que planteas una pregunta condiciona la respuesta que recibes. Un modelo de IA no es un juez neutral: tiende a seguir la dirección que ya le has sugerido, y si dentro de la pregunta está la respuesta que esperas, muchas veces te la devuelve. Entender qué es una pregunta capciosa, por qué la IA cae en la trampa y cómo plantear consultas neutras es una competencia de método que cambia la calidad de lo que obtienes, sobre todo cuando lo que está en juego es una decisión.
Tres preguntas que hacerte antes de fiarte de una respuesta de la IA
Cada respuesta de un asistente de IA llega con la misma cara segura y bien escrita, sea acertada o completamente errónea. El tono no te dice nada sobre su fiabilidad. Hacen falta tres preguntas sencillas antes de dar por buena una respuesta y actuar: en qué se apoya, si otra IA diría lo mismo y si está decidiendo por ti. Un método mínimo para usar la IA como persona despierta, no como espectador.
La duda útil: qué hacer cuando una respuesta de la IA parece demasiado segura
Una respuesta de IA que suena segura no es por eso más cierta: el tono firme y la corrección son dos cosas distintas, y confundirlas es una de las formas más fáciles de equivocarse. Por eso una duda metódica es una herramienta, no un obstáculo.
Preguntas de control: cómo verificar una respuesta de la IA
Un sistema de IA te devuelve una respuesta lista, ordenada, segura de sí misma. El primer instinto es darla por buena y seguir adelante: está bien escrita, suena competente, parece no dejar espacio a la duda. Pero entre una respuesta convincente y una respuesta fiable hay una distancia que solo tú puedes medir, y la herramienta para hacerlo no es un software más: son las preguntas correctas que conviene plantear antes de fiarte. Las preguntas de control son pocas, se aprenden rápido y cambian tu forma de trabajar con la IA, porque desplazan tu papel de quien acepta a quien verifica. No sirven para desconfiar de la máquina, sirven para entender sobre qué se apoya lo que te ha escrito, dónde es sólida y dónde está tirando a adivinar, de modo que la decisión final la tomes tú con los ojos abiertos.
Adulación: por qué los modelos generativos tienden a complacer al usuario
La «sycophancy», es decir, la tendencia de los modelos de IA a complacer al usuario, no es un defecto moral. Es un efecto estructural derivado de cómo se entrenan. Reconocerlo es el primer paso para no confundir el refuerzo emocional con la calidad de una respuesta.
Todos los temas