Por qué los mejores sistemas predictivos del mundo generan desconfianza, según la psicología
Por qué los mejores sistemas predictivos del mundo generan desconfianza, según la psicología
Un reciente estudio sobre la psicología de las predicciones ha revelado que muchas personas prefieren tener razón en su totalidad en lugar de simplemente reducir el error esperado. Este hallazgo pone en tela de juicio una suposición común en muchos sistemas de pronóstico, herramientas de análisis predictivo y modelos de inteligencia artificial.
El análisis muestra que a menudo las personas tienen dificultades para aceptar hechos que contradicen sus creencias, ya que valoran más la posibilidad de acertar de manera exacta que minimizar el error. Esta tendencia se intensifica de manera notable cuando alguien pasa de estar completamente en lo cierto a estar ligeramente equivocado.
La investigación, realizada por un equipo de expertos en el campo de la gestión operativa, indica que la forma en que las personas evalúan las predicciones no siempre se alinea con los criterios utilizados por los modelos estadísticos. Para muchos, el principal objetivo de una predicción es tener razón, más que simplemente reducir el error promedio.
El estudio analizó 16 investigaciones que abarcaron diversas tareas de predicción y diferentes diseños experimentales. Los resultados mostraron un patrón de sensibilidad decreciente al error de predicción entre los participantes. En varios experimentos, se presentó a los sujetos distribuciones de probabilidad y se les pidió que formularan predicciones. Frecuentemente, optaron por resultados que aumentaban la posibilidad de un acierto exacto, incluso si otras opciones ofrecían una mejor reducción del error esperado.
Además, la investigación exploró las reacciones emocionales ante los fallos en las predicciones. La satisfacción de los participantes disminuyó drásticamente cuando pasaron de acertar completamente a estar ligeramente equivocados, mientras que incrementos mayores en el error provocaron descensos mucho menos significativos en su satisfacción.
Este sesgo tiene importantes implicaciones para la inteligencia artificial y los sistemas de pronóstico. Muchos modelos de negocio y tecnologías de apoyo a la toma de decisiones se diseñan con el objetivo de minimizar el error promedio, pero los usuarios pueden evaluarlos bajo un criterio diferente. Es fundamental comprender los objetivos humanos antes de diseñar sistemas predictivos. Si estos modelos se optimizan para metas que no coinciden con lo que las personas valoran, la adopción y la confianza en estos sistemas pueden verse comprometidas.
Este estudio también desafía la noción ampliamente aceptada entre especialistas y organizaciones, sugiriendo que si las personas valoran en gran medida la exactitud, un sistema que se ajuste para cometer menos errores en promedio podría no resultarles satisfactorio. La identificación de este sesgo podría tener un impacto significativo en la adopción y confianza en los sistemas de inteligencia artificial diseñados para minimizar errores.
