تزايد التدقيق في أبحاث السياسات العامة بعد اكتشاف أخطاء في تقرير ديلويت في مراجعة بارزة للرعاية الصحية الكندية.
المحتويات
كيف ظهرت القضايا المرتبطة بالذكاء الاصطناعي في مراجعة الرعاية الصحية في نيوفاوندلاند ولابرادور؟
تحليل للرعاية الصحية بتكليف من الحكومة الكندية أجرته Deloitte بتكلفة تقارب 1.6 مليون دولار يحتوي على أخطاء واضحة ناتجة عن الذكاء الاصطناعي، وفقًا لتحقيق أجرته The Independent. الوثيقة المكونة من 526 صفحة، التي أصدرتها حكومة نيوفاوندلاند ولابرادور في مايو، تمثل واحدة من أغلى عقود الاستشارات الحديثة في قطاع الصحة بالمقاطعة.
تم إعداد التقرير لصالح وزارة الصحة والخدمات المجتمعية التي كانت تحت قيادة الحزب الليبرالي آنذاك. وقد تناول التقرير الرعاية الافتراضية، وحوافز الاحتفاظ، وتأثير جائحة COVID-19 على العاملين في مجال الرعاية الصحية، في وقت تواجه فيه نيوفاوندلاند ولابرادور نقصًا حادًا في الممرضين والأطباء. ومع ذلك، أثارت المراجعة الإعلامية اللاحقة تساؤلات حول موثوقية الأدلة التي تستند إليها تلك التوصيات.
وجدت The Independent، وهي وسيلة إعلامية تقدمية تركز على المقاطعة الشرقية الأقصى لكندا، العديد من الأخطاء المحتملة والشذوذ. وعلاوة على ذلك، تشير تحقيقاتها إلى أن بعض الاستشهادات البحثية الأساسية قد تكون قد أُنتجت أو تم تحريفها بمساعدة أدوات الذكاء الاصطناعي، على الرغم من أن السرد الرئيسي لم يُكتب بواسطة الآلة.
ما أنواع الأخطاء في تقارير الرعاية الصحية في كندا التي كشف عنها المحققون؟
وفقًا لصحيفة The Independent، تضمن تقرير Deloitte استشهادات أكاديمية زائفة أشارت إلى أوراق علمية مختلقة. تم استخدام تلك المصادر الوهمية لدعم تحليلات فعالية التكلفة، وهي عنصر حاسم في تشكيل قرارات الإنفاق على الرعاية الصحية. كما نسب التقرير بشكل خاطئ باحثين حقيقيين إلى دراسات لم يعملوا عليها أبدًا، مما خلق انطباعًا بوجود أدلة قوية حيث لا توجد أي منها.
بعض الاقتباسات ذهبت إلى أبعد من ذلك، واصفة أوراقًا بحثية يُزعم أنها شارك في تأليفها باحثون قالوا إنهم لم يتعاونوا أبدًا. ومع ذلك، لم تدع المراجعة أن كل مرجع كان معيبًا. بدلاً من ذلك، يتركز القلق على نمط من مشاكل الاقتباس التي يمكن أن تقوض الثقة في استنتاجات التقرير حول التوظيف، والرعاية الافتراضية، وإصلاح النظام.
كما أشار التقرير إلى مقال يُفترض أنه نُشر في المجلة الكندية للعلاج التنفسي. ومع ذلك، لم يتمكن المحققون من العثور على الورقة في قاعدة بيانات المجلة، مما زاد من المخاوف من أن الأدوات التوليدية قد تكون اخترعت مصادر تبدو معقولة لكنها غير موجودة.
كيف استجابت Deloitte للاتهامات المتعلقة بالاستشهادات المولدة بواسطة الذكاء الاصطناعي؟
في بيان لـ Fortune، دافع متحدث باسم Deloitte Canada عن جوهر العمل. وقال المتحدث: “تدعم Deloitte Canada بقوة التوصيات المقدمة في تقريرنا”. “نحن نقوم بمراجعة التقرير لإجراء عدد قليل من تصحيحات الاستشهادات، والتي لا تؤثر على نتائج التقرير”.
أضاف المتحدث أن الذكاء الاصطناعي لم ينتج التقرير المكتوب بنفسه. بدلاً من ذلك، قالوا إن الذكاء الاصطناعي تم استخدامه “بشكل انتقائي لدعم عدد قليل من الاستشهادات البحثية.” ومع ذلك، نظرًا لحجم الدراسة الصحية والمخاطر المالية، يجادل النقاد بأن الاعتماد المحدود حتى على المراجع المولدة بواسطة الآلة يتطلب تحققًا وشفافية أكثر صرامة بكثير.
علاوة على ذلك، فإن موقف الشركة بأن تصحيحات الاستشهادات لا تؤثر على استنتاجات التقرير قد أثار التدقيق. يتساءل بعض الأكاديميين وصناع السياسات عن كيفية تصحيح الأبحاث المزيفة أو المنسوبة بشكل خاطئ دون إعادة تقييم أي نماذج فعالية التكلفة اللاحقة أو توقعات القوى العاملة.
ماذا يقول الباحثون المتأثرون عن عملية التحقق من الحقائق التي تقوم بها شركة الاستشارات؟
كانت جيل تومبلين ميرفي، أستاذة مساعدة في كلية التمريض في جامعة دالهوزي في نوفا سكوشا، من بين الذين تم الاستشهاد بهم بشكل غير صحيح. وأخبرت صحيفة The Independent أن شركة Deloitte قد أشارت إليها في ورقة أكاديمية “لا وجود لها”. وأوضحت أنها عملت فقط مع ثلاثة من بين الستة مؤلفين الآخرين المنسوبين في الاستشهاد الخاطئ، وليس مع المجموعة الكاملة الموصوفة.
قالت تومبلين ميرفي: “يبدو أنه إذا كنت تبتكر أشياء كهذه، فقد يكونون يستخدمون الذكاء الاصطناعي بشكل كبير لإنتاج العمل”. تعليقاتها تسلط الضوء على القلق المتزايد في المجتمع الأكاديمي حول كيفية قدرة الأدوات التوليدية على إنشاء قوائم مراجع مقنعة ولكن غير دقيقة، خاصة عندما لا يقوم المستشارون بالتحقق الدقيق من كل مرجع.
كما حذرت من أن التقارير التي توجه السياسة العامة يجب أن تكون مدعومة بأدلة موثوقة وعالية الجودة. علاوة على ذلك، شددت تومبلين ميرفي على أن الحكومات والجمهور يدفعون مبالغ كبيرة مقابل هذا العمل، لذا يجب أن يكون “دقيقًا ومبنيًا على الأدلة ومفيدًا لدفع الأمور إلى الأمام.” وتؤكد نقدها على وجود خلل متصور في العناية الواجبة بدلاً من خطأ تقني واحد.
كم كلف التقرير الذي كلفت به الحكومة، وما هي التداعيات السياسية؟
وفقًا لطلب الحصول على المعلومات الذي نُشر في منشور مدونة يوم الأربعاء الماضي، دفعت الحكومة الكندية ما يقل قليلاً عن 1.6 مليون دولار لدراسة ديلويت، التي صدرت في ثمانية أقساط. وحتى يوم الاثنين، لا يزال التقرير متاحًا على موقع حكومة نيوفاوندلاند ولابرادور، على الرغم من الجدل الناشئ حول مراجعها ومنهجيتها.
تغيرت القيادة السياسية في المقاطعة منذ تقديم التقرير. تم تنصيب توني ويكهام، زعيم حزب المحافظين التقدمي في نيوفاوندلاند ولابرادور، كرئيس وزراء جديد للمقاطعة في أواخر أكتوبر. ومع ذلك، لم يرد مكتب رئيس الوزراء ولا وزارة الصحة والخدمات المجتمعية على الفور على أسئلة مجلة Fortune بشأن تقرير مايو، ولم يتناولوا المخاوف علنًا حتى الآن.
هذا الصمت يترك تساؤلات مفتوحة حول ما إذا كانت توصيات التقرير ستستمر في توجيه السياسة الصحية. كما يثير احتمال مزيد من التدقيق من قبل المشرعين الإقليميين أو الهيئات الفيدرالية الرقابية حول كيفية فحص أبحاث شركات الاستشارات قبل أن تؤثر على الخدمات العامة الأساسية.
كيف تقارن أخطاء تقرير ديلويت هذه مع قضية الرفاهية الأسترالية؟
تأتي الاكتشافات الكندية بعد قضايا مماثلة في أستراليا. في يوليو، أعدت شركة Deloitte تقريرًا بقيمة 290,000 دولار لمساعدة الحكومة الأسترالية في تشديد الامتثال للرفاهية. واعتمدت الدراسة المكونة من 237 صفحة على التكنولوجيا التوليدية، وتم العثور لاحقًا على أنها تحتوي على “هلوسات“، بما في ذلك إشارات إلى أبحاث أكاديمية غير موجودة واقتباس ملفق من حكم محكمة فدرالية.
بعد أن أشار باحث إلى المشاكل، أصدرت Deloitte نسخة منقحة من الدراسة الأسترالية. التقرير المحدث، الذي تم تحميله بهدوء الشهر الماضي على موقع الحكومة، أقر بأن الشركة استخدمت نظام اللغة التوليدي Azure OpenAI للمساعدة في إنشاء الوثيقة الأولية. وجاء هذا الاعتراف فقط بعد أن كشف التدقيق الخارجي عن الاقتباسات المعيبة.
في التقرير الأسترالي المحدث، كتبت Deloitte أن “التحديثات التي أُجريت لا تؤثر بأي شكل من الأشكال على المحتوى الجوهري أو النتائج أو التوصيات في التقرير.” ومع ذلك، جادل النقاد بأن المصادر الملفقة تلقي بطبيعتها شكوكًا حول نزاهة أي توصيات قائمة على الأدلة، وليس فقط التفاصيل الشكلية. علاوة على ذلك، فقد زادت هذه الحلقة الثانية من حدة النقاش حول الهلوسات التي تنتجها الذكاء الاصطناعي لـ Deloitte وقوة عملية التحقق من الحقائق الداخلية للشركة.
ما هي العواقب المالية التي واجهتها Deloitte، وما الذي لا يزال غير محلول بالنسبة لكندا؟
كجزء من القضية الأسترالية، طُلب من الشركة المحلية التابعة لديلويت تقديم تعويض جزئي للحكومة الفيدرالية عن التقرير الخاطئ المتعلق بالرفاهية. وقد أشار ذلك الجزاء المالي إلى أن المسؤولين اعتبروا أن الأخطاء المتعلقة بالذكاء الاصطناعي كانت خطيرة بما يكفي لتستحق التعويض.
في المقابل، لم يتم حتى الآن الإعلان عن أي معلومات تتعلق بأي استرداد محتمل أو تعويض تعاقدي يتعلق بتقرير الرعاية الصحية في كندا. ومع ذلك، قد يزداد الضغط مع تساؤل صانعي السياسات والعاملين في مجال الرعاية الصحية ودافعي الضرائب عما إذا كانوا قد حصلوا على القيمة الكاملة لدراسة تحتاج الآن إلى تصحيحات بعد النشر لقاعدة أدلتها.
بشكل أوسع، تسلط كلتا الحالتين الضوء على المخاطر المتزايدة عندما تعتمد الحكومات على الاستشارات الكبيرة التي تستخدم التكنولوجيا التوليدية دون وجود ضمانات صارمة. كما تشير إلى أن المؤسسات العامة ستحتاج إلى معايير أقوى للتحقق من المصادر، خاصة في التقارير السياسية الطويلة والمعقدة التي يمكن أن تشكل الخدمات الحيوية لسنوات.
باختصار، فإن التدقيق المتزايد في مراجعة الرعاية الصحية الكندية التي أجرتها Deloitte ودراسة الرفاهية في أستراليا يبرز الحاجة الملحة إلى أدلة موثوقة، ومنهجية شفافة، وإشراف قوي كلما كانت الأبحاث المدعومة بالذكاء الاصطناعي توجه قرارات السياسة العامة.




