.jpg){kind=link}
- Publication
- Mise à jour
Même un résultat correct d’algorithme de dispositif peut être mal interprété ou recevoir une confiance inappropriée. L’interaction entre personnes et logiciel est une question de recherche différente de la performance indépendante de l’algorithme. Définir clairement le rôle décisionnel prévu.
Définir l’évaluation
Préciser si le logiciel recommande, priorise ou prend une décision de façon autonome. L’accès à des informations complémentaires et la capacité à rejeter les résultats affectent l’évaluation. Un libellé d’aide à la décision ne supprime pas automatiquement la confiance excessive ou le non-respect des résultats en usage réel.
Exemple pratique
Par exemple, des lecteurs d’images changent leurs décisions initiales après avoir vu les marquages logiciels. Certains changements aident, d’autres introduisent des erreurs. Au lieu de ne rapporter que l’exactitude finale, l’équipe examine les transitions entre jugement initial, résultat logiciel et jugement final. Elle étudie les données et les conditions utilisateur associées aux désaccords.
Vérifications pratiques
- Distinguer les décisions prises avant et après exposition au résultat par un plan approprié.
- Évaluer les réponses à des résultats incorrects ou incertains dans des conditions de recherche sûres.
- Considérer les effets de l’expérience, de la formation et de la présentation sur les changements de jugement.
Décision et limites
Le rapport doit expliquer la performance de l’utilisateur travaillant avec le dispositif. Ne pas décrire la performance de l’algorithme seul comme le résultat du processus humain. Distinguer les observations exploratoires des allégations établies de bénéfice et relier les malentendus importants à la conception, à la formation ou aux besoins de preuves supplémentaires.
Questions fréquentes
- Une forte exactitude algorithmique suffit-elle ?
- L’interaction humaine compte aussi lorsque l’utilisation prévue dépend de la décision d’une personne. Évaluer comment les résultats corrects sont compris.
- Rejeter une recommandation constitue-t-il un échec ?
- Pas automatiquement. Évaluer si le rejet est approprié selon les informations disponibles et le rôle décisionnel prévu.