Los empleados no están cuestionando lo suficiente los consejos de la IA

De HBR.org A diferencia de los estudiantes de preparatoria que presentan un examen de matemáticas, los sistemas de IA de caja negra no están obligados a mostrar sus cálculos al responder preguntas de gran relevancia.

Es posible que a algunos responsables de la toma de decisiones les guste que sea así, especialmente cuando están en juego su dinero y principios morales.

En un experimento de aprobación de préstamos asistido por IA, los participantes que actuaban como oficiales de crédito y revisaban solicitudes reales de préstamos de 10.000 dólares a menudo optaban por no saber por qué un sistema de IA señalaba a un solicitante como más riesgoso que otro, aunque la explicación podría haber revelado si la raza o el género influían en la decisión, según muestra una investigación del profesor adjunto de la Escuela de Negocios de Harvard, Alex Chan.

Los participantes eran más propensos a omitir las explicaciones cuando sus bonos dependían del pago del préstamo y optaban por seguir las recomendaciones del algoritmo en lugar de examinar si sus decisiones estaban sesgadas.

Los hallazgos sugieren que las personas a menudo evitan activamente buscar información adicional porque saber más podría

Referencias

• Original
  Los empleados no están cuestionando lo suficiente los consejos de la IA