.jpg){kind=link}
- Publicación
- Actualización
Incluso un resultado correcto del algoritmo de un producto puede interpretarse mal o recibir una confianza inadecuada. La interacción entre las personas y el software es una pregunta de investigación distinta del rendimiento independiente del algoritmo. Defina claramente la función de decisión prevista.
Definir la evaluación
Especifique si el software recomienda, prioriza o toma una decisión de forma independiente. El acceso a información adicional y la capacidad de rechazar resultados afectan a la evaluación. La etiqueta de apoyo a la decisión no elimina automáticamente la confianza excesiva ni la desatención en el uso real.
Ejemplo desarrollado
Por ejemplo, los lectores de imágenes cambian sus decisiones iniciales tras ver las marcas del software. Algunos cambios ayudan y otros introducen errores. En vez de comunicar solo la exactitud final, el equipo examina las transiciones entre el juicio inicial, el resultado del software y el juicio final. Investiga las condiciones de los datos y de los usuarios asociadas a las discrepancias.
Comprobaciones prácticas
- Distinga las decisiones tomadas antes y después de ver el resultado mediante un diseño adecuado.
- Evalúe las respuestas a resultados incorrectos o inciertos en condiciones de investigación seguras.
- Considere los efectos de la experiencia, la formación y la presentación sobre los cambios de juicio.
Decisión y limitaciones
El informe debe explicar el rendimiento del usuario que trabaja con el producto. No describa el rendimiento del algoritmo por sí solo como el resultado del flujo de trabajo humano. Separe las observaciones exploratorias de las afirmaciones establecidas de beneficio, y vincule las interpretaciones erróneas importantes con el diseño, la formación o las necesidades de evidencia adicional.
Preguntas frecuentes
- ¿Basta una elevada exactitud del algoritmo?
- La interacción humana también importa cuando la finalidad prevista depende de la decisión de una persona. Evalúe cómo se comprenden los resultados correctos.
- ¿Rechazar una recomendación es un fallo?
- No de forma automática. Evalúe si el rechazo es adecuado según la información disponible y la función de decisión prevista.