CliniGA CRO

مدونة CliniGA CRO

فحص تفاعل الإنسان مع مخرجات أجهزة الذكاء الاصطناعي

افصل دقة الخوارزمية عن الأدلة بشأن تصرف المستخدمين بناءً على المخرج.

صورة تمثيلية للفئة: فحص تفاعل الإنسان مع مخرجات أجهزة الذكاء الاصطناعي
الصورة: Adoscam · الترخيص: CC BY-SA 4.0 · تم اقتصاص الصورة وتغيير حجمها.
النشر
التحديث

حتى المخرج الصحيح لخوارزمية جهاز قد يُساء تفسيره أو يُوثَق به بصورة غير مناسبة. والتفاعل بين الناس والبرمجيات سؤال بحثي مختلف عن أداء الخوارزمية مستقلة. حدّد بوضوح الدور المقصود في القرار.

تحديد التقييم

حدّد ما إذا كانت البرمجيات توصي أو ترتب الأولويات أو تتخذ قراراً بصورة مستقلة. ويؤثر الوصول إلى معلومات إضافية والقدرة على رفض المخرجات في التقييم. وتسمية «دعم القرار» لا تلغي تلقائياً الاعتماد المفرط أو التجاهل في الاستخدام الفعلي.

مثال تطبيقي

على سبيل المثال، يغيّر قارئو الصور قراراتهم الأولية بعد الاطلاع على علامات البرمجيات. تساعد بعض التغييرات وتستحدث أخرى أخطاء. وبدلاً من الإبلاغ عن الدقة النهائية فقط، يفحص الفريق الانتقالات بين الحكم الأولي ومخرج البرمجيات والحكم النهائي. ويتحرى ظروف البيانات والمستخدمين المرتبطة بالخلافات.

فحوص عملية

  • ميّز القرارات المتخذة قبل الاطلاع على المخرج وبعده بتصميم مناسب.
  • قيّم الاستجابات للمخرجات غير الصحيحة أو غير المؤكدة في ظروف بحث آمنة.
  • راعِ آثار الخبرة والتدريب والعرض في تغييرات الحكم.

القرار والقيود

ينبغي أن يوضّح التقرير أداء المستخدم العامل مع الجهاز. ولا تصف أداء الخوارزمية منفردة بوصفه نتيجة سير العمل البشري. وافصل المشاهدات الاستكشافية عن ادعاءات الفائدة المثبتة، واربط حالات سوء الفهم المهمة بالتصميم أو التدريب أو احتياجات الأدلة الإضافية.

الأسئلة الشائعة

هل تكفي دقة خوارزمية مرتفعة؟
التفاعل البشري مهم أيضاً عندما يعتمد الاستخدام المقصود على قرار شخص. قيّم كيف تُفهَم المخرجات الصحيحة.
هل رفض توصية إخفاق؟
ليس تلقائياً. قيّم ملاءمة الرفض بالنظر إلى المعلومات المتاحة ودور القرار المقصود.

المصادر

  1. MDCG 2020-1 — التقييم السريري للبرمجيات
  2. MDCG 2024-3 — خطة الاستقصاء السريري