
- Veröffentlicht
- Aktualisiert
Automatisierte Triage kann bei ersten Beispielen gut funktionieren; dasselbe Ergebnis darf jedoch nicht bei veränderten eingehenden Datensätzen vorausgesetzt werden. Eine neue Sprache, längerer Text oder eine andere Praxis eines Prüfzentrums können Fehlermuster verändern. Aufsicht sollte neben der Systemversion auch die verwendeten Eingaben untersuchen.
Umfang der Entscheidung
Eine Eingabeänderung bedeutet nicht zwangsläufig, dass sich das Modell selbst verändert hat. Situationen, die in der ursprünglichen Bewertung fehlen, können einen anderen Nutzungsumfang darstellen. Verknüpfen Sie relevante Eingabemerkmale und die durch deren Änderung ausgelösten menschlichen Prüfungen mit der vorgesehenen Entscheidung.
Ausgearbeitete Prüfung
Beispielsweise wurde ein Triage-System anhand kurzer englischer Notizen bewertet. Neue Prüfzentren beginnen, lange zweisprachige Aufzeichnungen bereitzustellen. Die Gesamtgenauigkeit erscheint unverändert, doch einige wichtige Probleme erhalten niedrige Priorität. Das Team untersucht diese Untergruppe getrennt und definiert eine geeignete Nutzungsgrenze und Zusatzkontrolle.
Praktische Prüfpunkte
- Vergleichen Sie neue Eingaben mit den in der früheren Bewertung vertretenen Merkmalen.
- Untersuchen Sie wichtige Fehler nach Sprache, Länge oder Quellgruppe, soweit relevant.
- Halten Sie für Eingaben außerhalb des unterstützten Umfangs einen geeigneten menschlichen Bearbeitungsweg sichtbar.
Abnahme und Grenzen
Die Abnahme erfordert ausreichende Nachweise für die aktuelle Eingabegruppe und ausdrückliche Einschränkungen. Erfolgreiche historische Tests bieten keine unbegrenzte Gewähr für andere Datensätze. Definieren Sie Verantwortung und Befugnis zur Einschränkung oder zum Stopp automatisierter Entscheidungsunterstützung vorab, wenn das Monitoring ein Problem erkennt.
Häufig gestellte Fragen
- Ist eine Neubewertung nötig, wenn sich das System nicht geändert hat?
- Möglicherweise. Auch Eingabemerkmale und Nutzungskontext können die Verlässlichkeit beeinflussen.
- Reicht ein Gesamtprozentwert der Genauigkeit aus?
- Allein nicht. Wichtige Fehlpriorisierungen können in einer Untergruppe verborgen bleiben.