الخبراء البشر في التقييم السريري للذكاء الاصطناعي: دور لا غنى عنه في الحوكمة الصحية العالمية

عندما يُقيّم الذكاء الاصطناعي الذكاء الاصطناعي: فجوة الثقة في السيناريوهات السريرية

تواجه أنظمة الرعاية الصحية العالمية ضغوطًا مزدوجة من نقص الموارد وزيادة الطلب، ويُنظر إلى الذكاء الاصطناعي كأداة رئيسية لتحسين الكفاءة وتوسيع نطاق التغطية. ومع ذلك، يُصدر بحث جديد نُشر في مجلة *npj Digital Medicine* تحذيرًا: الاعتماد الكامل على أنظمة التقييم الآلي في تقييم جودة مخرجات الذكاء الاصطناعي السريري قد يتجاهل المشكلات المحلية الحاسمة.

قارن فريق البحث بين تقييم الخبراء البشريين وأداء "LLM-as-a-Judge" (نموذج اللغة الكبير كحَكَم)، ووجد أنه على الرغم من أن أنظمة الذكاء الاصطناعي يمكنها تقديم تصنيفات متسقة ومنخفضة التكلفة، إلا أن الأطباء المحليين أشاروا إلى مخاوف مهمة تم تجاهلها بواسطة التقييم الآلي. يشير هذا الاكتشاف إلى تناقض جوهري في استراتيجيات الصحة الرقمية العالمية: كيف يمكن الحفاظ على قدرة الحكم السياقي للخبراء البشريين أثناء نشر الذكاء الاصطناعي على نطاق واسع.

قيمة المعرفة المحلية في الصحة الرقمية

بالنسبة لدول الجنوب العالمي، هذه النتيجة مهمة بشكل خاص. العديد من الدول ذات الدخل المنخفض والمتوسط تستعين بالذكاء الاصطناعي لتعويض نقص الأطباء، لكن بيانات التدريب غالبًا ما تأتي من بيئات الدخل المرتفع، مما قد يؤدي إلى تحيزات تشخيصية. يُظهر البحث أن الخبراء السريريين المحليين يمكنهم تحديد المشكلات الدقيقة المتعلقة بأنماط انتشار الأمراض والعادات الثقافية والقيود البنية التحتية — وهي أمور غالبًا ما تتجاوز نطاق تدريب النماذج العامة.

على سبيل المثال، في منطقة إفريقيا جنوب الصحراء الكبرى، قد يحتاج نظام تشخيص الملاريا بمساعدة الذكاء الاصطناعي إلى مراعاة مخاطر العدوى المتعددة لدى المرضى، وتوافر الأدوية، وقدرات المختبرات المحلية. قد يركز التقييم الآلي فقط على دقة الخوارزمية، بينما يستطيع الخبراء البشريون الإشارة إلى فجوة قابلية التطبيق في سير العمل السريري الحقيقي.

منظور ESG: العدالة الاجتماعية ومسؤولية الحوكمة

من إطار ESG (البيئة والمجتمع والحوكمة)، يبرز هذا البحث ثلاثة محاور:

• المجتمع (S): يجب أن يعزز نشر الذكاء الاصطناعي العدالة الصحية بدلاً من إضعافها. إذا تجاهلت أنظمة التقييم الأصوات المحلية، فقد تُفرض حلول ذكاء اصطناعي غير مناسبة على الفئات المهمشة.
• الحوكمة (G): من الضروري إنشاء إطار تنظيمي شفاف وخاضع للمساءلة للذكاء الاصطناعي. يقترح البحث إدراج المراجعة البشرية باستمرار طوال دورة حياة أنظمة الذكاء الاصطناعي، خاصة في القرارات السريرية عالية المخاطر.
• البيئة (E): على الرغم من أن للذكاء الاصطناعي بصمة كربونية، إلا أن التشخيص الفعال والدقيق يمكن أن يقلل من هدر الموارد الناتج عن الفحوصات المفرطة، مما يسهم في نهاية المطاف في تحقيق أهداف التنمية المستدامة.

الدروس المستفادة للحوكمة العالمية

أصدرت منظمة الصحة العالمية بالفعل *مبادئ توجيهية لأخلاقيات وحوكمة الذكاء الاصطناعي*، مؤكدة على مبدأ "الإنسان في الحلقة". يقدم هذا البحث دعمًا تجريبيًا لهذا المبدأ: عندما يشارك الخبراء البشريون والذكاء الاصطناعي معًا في التقييم، يمكن الاستفادة من ميزة الحجم التي يوفرها الذكاء الاصطناعي مع الحفاظ على عمق الحكم السريري.

يجب على منظمات التعاون الدولي العمل على إنشاء معايير "التقييم المختلط": 1. تطوير مجموعات أدوات تقييم محلية ملائمة للبيئات منخفضة الموارد؛ 2. تمويل دول الجنوب العالمي للمشاركة في جمع بيانات تدريب وتقييم الذكاء الاصطناعي؛ 3. إدراج المراجعة البشرية ضمن مؤشرات أداء مشاريع التمويل التنموي.## الخلاصة: التطور التكنولوجي والتعاون بين الإنسان والآلة

لا شك في الإمكانات الهائلة للذكاء الاصطناعي في مجال الصحة، لكن التقدم التكنولوجي لا ينبغي أن يكون على حساب المعرفة المحلية. تذكّر هذه الدراسة صانعي السياسات والمطورين والممولين: أثناء السعي لتحقيق الكفاءة، يجب الاستثمار في بناء القدرات البشرية وآليات الرقابة. إن المسار الحقيقي لتحقيق الهدف 3 من أهداف التنمية المستدامة (الصحة الجيدة والرفاه) هو جعل الذكاء الاصطناعي والذكاء البشري متكاملين، وليس بديلين عن بعضهما البعض.