El sesgo de confirmación es muy antiguo. Existe desde que el ser humano se enfrenta a la toma de decisiones. Consiste en que, al procesar información, se favorece aquella que se alinea o refuerza nuestras ideas previas y se desacredita o ignora, inconscientemente, aquella que las reta o contradice. A este concepto se le conoce como “Disonancia Cognitiva” y establece que tendemos a evitar información que nos genere tensión interna.
Las decisiones tomadas desde el sesgo de confirmación presentan altos riesgos para la persona o entidad que las asume. Esta actitud puede provocar profundas creencias equivocadas solo por ignorar información en conflicto con lo que creemos saber de algo.
Como usuarios de sistemas de Inteligencia Artificial Generativa, estamos particularmente expuestos a los sesgos de confirmación. Los sistemas generativos están optimizados para adaptarse al contexto del usuario, suelen ajustar el tono de conversación a lo que nos gusta. Por ejemplo, cada que damos «like» a una respuesta, estamos reforzando ese tono y tipo de conversación.
Por otro lado, estos algoritmos también están diseñados para seguir el marco conceptual de las ideas que proponemos y a ser cooperativos, no confrontativos.
Cada vez que el algoritmo nos contesta: “Genial…”, “Excelente elección…”, “Estamos entrando a otro nivel…” y lisonjerías similares, va aumentando el sesgo de confirmación.
Más sutil y peligroso, en términos de este sesgo, es cuando un sistema de IA propone complementar las respuesta que nos brinda: “Si quieres puedo desarrollar para ti “A”, “B”, o “C” opciones. Es importante notar que todas ellas partirán exclusivamente de la premisa inicial, solo hay continuidad, no contraste.
¿Cómo evitar el sesgo de confirmación?
Las instituciones u organizaciones que operan en entornos de alto riesgo han desarrollado diversos mecanismos formales para reducir este efecto. Sin embargo, no hay manera de eliminarlo por completo, forma parte de la cognición humana.
Lo que estos mecanismos permiten, es retar las hipótesis dominantes antes que se conviertan en decisiones costosas.
Cómo usuarios de la IA, podemos beneficiarnos de estas prácticas de una manera relativamente sencilla, lo que nos permite mitigar nuestros propios sesgos de confirmación, ampliar la visión y calidad de nuestros trabajos académicos o incluso proyectos personales.
En la siguiente tabla se muestran algunas de estas técnicas organizacionales, que no son otra cosa que procesos estructurados de análisis crítico y que existen mucho antes que la Inteligencia artificial. Inspirándonos en ellas, podemos aplicarlas en nuestro quehacer intelectual cotidiano. Además, nada prohíbe utilizar los propios sistemas de IA para ayudarnos a potenciar este tipo de análisis:
| Método, Técnica o Mecanismo de mitigación | Cómo lo aplican las organizaciones | Cómo lo podemos aplicar los usuarios comunes |
| Abogado del diablo | Se asigna a una persona o equipo a quién se le otorga el rol formal de cuestionar la hipótesis dominante y presentar argumentos contrarios. | Sin IA: pedir a un colega o amigo que critique deliberadamente nuestro argumento o decisión. También, podemos intentar escribir nosotros mismos los argumentos en contra de la postura. Con IA: prompt: “Actúa como abogado del diablo y refuta este argumento”. |
| Análisis adversarial | Se crean equipos opuestos (Red Team vs. Blue Team) que evalúan una estrategia desde perspectivas contrarias para encontrar fallas. | Sin IA: dividir un problema en dos posiciones y debatirlas con otra persona, o imaginar cómo lo criticaría un adversario o competidor. Con IA: prompt: “Analiza este plan como si fueras un crítico o competidor que intenta demostrar que fallará”. |
| Revisión por pares | Expertos independientes revisan investigaciones o proyectos antes de su publicación o implementación. | Sin IA: pedir a alguien con conocimientos en el tema que revise el razonamiento o documento. Con IA: prompt: “Revisa críticamente este argumento o texto como si fueras un evaluador académico”. |
| Falsacionismo científico | Inspirado en Karl Popper: las teorías se someten a pruebas que intentan refutarlas. | Sin IA: pregúntate conscientemente: “¿Qué evidencia demostraría que estoy equivocado?”. Busca datos que contradigan tu idea. Con IA: preguntar: “¿Qué evidencia podría refutar esta hipótesis?”. |
| Método socrático | En educación, se utilizan preguntas críticas para examinar supuestos y clarificar argumentos. | Sin IA: hacer una serie de preguntas críticas sobre la idea: ¿Qué supuestos estoy dando por hecho?, ¿Qué evidencia tengo?, ¿Qué podría contradecir esto? Con IA: prompt: “Formula preguntas críticas que pongan a prueba este argumento”. |
Evidentemente, existen otros muchos mecanismos de mitigación; sin embargo, la idea subyacente en todos ellos es que, para evitar este sesgo no hay que buscar más confirmación, sino diseñar procesos que obliguen a examinar la posibilidad de estar equivocados.
Sobre el autor
Universidad de las Américas Puebla (UDLAP)