CliniGA CRO

Blog CliniGA CRO

Valutare le modifiche della soglia algoritmica del dispositivo nel contesto decisionale

Rendere visibili i cambiamenti nell'equilibrio degli errori e nelle azioni dell'utente quando cambia la soglia decisionale.

Fotografia rappresentativa della categoria: Valutare le modifiche della soglia algoritmica del dispositivo nel contesto decisionale
Foto: Official Navy Page from United States of America Jasmine Sheard/U.S. Navy · Licenza: Public domain · Immagine ritagliata e ridimensionata.
Pubblicazione
Aggiornamento

Modificare una soglia decisionale può cambiare le azioni dell'utente anche se il modello sottostante resta uguale. Più output positivi o meno avvisi non significano automaticamente prestazioni cliniche migliori. Valutare la soglia nel contesto decisionale previsto.

Definire la valutazione

Spiegare quale output produca la soglia e chi lo utilizzi per quale azione. Separare l'accuratezza tecnica dalle conseguenze dei risultati falsi positivi e falsi negativi. Scegliere una soglia e presentare una validazione definitiva sugli stessi dati può produrre una valutazione ottimistica.

Esempio applicativo

Ad esempio, un software di screening viene regolato per generare più avvisi. Gli esempi retrospettivi mostrano meno casi mancati ma un carico di revisione maggiore. Il gruppo presenta più del miglioramento della sensibilità: spiega i dati usati per scegliere la soglia, l'ambito della valutazione indipendente e gli effetti del carico aggiuntivo sul flusso di lavoro.

Verifiche pratiche

  • Confrontare su esempi tracciabili le variazioni degli esiti alle soglie precedente e nuova.
  • Documentare la separazione tra i dati di sviluppo della soglia e quelli di valutazione indipendente.
  • Valutare le modifiche alla presentazione, alla formazione dell'utente e all'azione successiva.

Decisione e limiti

L'accettazione dovrebbe spiegare la motivazione e l'incertezza rispetto alla decisione prevista. Non estendere il miglioramento di una metrica a ogni beneficio clinico. I valutatori autorizzati esaminano gli effetti sugli assetti regolatori e dell'indagine; un'impostazione regolabile non conferisce un'autorità illimitata di cambiare le condizioni di ricerca.

Domande frequenti

Una modifica della soglia è minore se il modello resta invariato?
Non necessariamente. Output e azioni dell'utente modificati possono cambiare l'interpretazione clinica.
La massima accuratezza è l'unico obiettivo?
No. Considerare insieme i tipi di errore, l'uso previsto e le possibili conseguenze della decisione.

Fonti

  1. MDCG 2020-1 — Valutazione clinica del software
  2. MDCG 2024-3 — Piano di indagine clinica