تخيل أنك تتصفح قسم الروحانيات في أمازون بحثًا عن كتاب حول طقوس الويكا أو الفلسفة الهندوسية، لتكتشف أن الغالبية العظمى مما هو على الرف الافتراضي قد لا تكون قد لُمِست يومًا من كاتب بشري. هذه هي الصورة المقلقة التي ترسمها دراسة جديدة حول الكتب الدينية المكتوبة بالذكاء الاصطناعي، والتي وجدت أن النصوص المُولَّدة آليًا استحوذت بهدوء على حصة ضخمة من النشر الديني والروحي على المنصة.
البحث، الذي صدر هذا الأسبوع عن شركة كشف الذكاء الاصطناعي Originality.ai، أخذ عينة من أكثر من 2,000 من العناوين المنشورة حديثًا عبر 14 فئة دينية وفكرية تُباع على أمازون. الخلاصة: ما يقرب من كتابين من كل ثلاثة كتب يُرجَّح أنهما كُتبا بواسطة الذكاء الاصطناعي وليس بواسطة شخص.
Summary
أهم النقاط
- أشارت Originality.ai إلى أن 1,272 من أصل 2,034 كتابًا دينيًا تم تحليلها على أمازون — أي 63% — يُرجَّح أنها مكتوبة بالذكاء الاصطناعي.
- سجّلت فئة السحر أعلى نسبة عند 78%، مع وصول الهندوسية إلى 76% والطاوية إلى 74%.
- أشار الباحثون إلى أن 53% من الادعاءات القابلة للتحقق من الحقائق في كتب السحر قد تكون خاطئة.
- تعتمد أمازون على نظام شرفي يقر فيه المؤلفون ذاتيًا بأن أعمالهم مكتوبة بالذكاء الاصطناعي، دون وجود بيانات علنية حول عدد من يفعلون ذلك فعليًا.
- أكدت أمازون أنها تشتري كتبًا ورقية عبر قنوات تجارية لمسح صفحاتها ضوئيًا لاستخدامها في بيانات تدريب الذكاء الاصطناعي.
معظم الكتب الدينية على أمازون يُرجَّح أنها مكتوبة بالذكاء الاصطناعي
الأرقام الكامنة وراء هذه الدراسة لافتة بحد ذاتها: 63% من الكتب الدينية التي شملتها العينة حصلت على درجات مرتفعة بما يكفي في نموذج الكشف الخاص بـ Originality.ai ليتم تصنيفها على أنها مكتوبة على الأرجح بواسطة آلة. هذا ليس نتيجة هامشية مدفونة في ركن متخصص من المتجر — بل يمثل النتيجة السائدة عبر فئة تجارية كاملة تمتد عبر عدة ديانات عالمية.
دراسة Originality.ai والمنهجية المتبعة
قال مؤلف التقرير مايكل فرايمان إن فريقه حلل أوصاف الكتب، وسير المؤلفين، وعينات نصية من كل عنوان، وقام بتمريرها عبر نموذج للتسجيل. أي شيء حصل على درجة 50 أو أعلى تم تصنيفه على أنه “مرجَّح أنه بالذكاء الاصطناعي”. من بين 2,034 كتابًا تمت مراجعتها، تجاوز 1,272 هذا الحد.
حرص فرايمان على تأطير النتائج باعتبارها احتمالات لا أدلة قاطعة. وقال لـ Decrypt: “نحن لا نزعم اليقين بشأن ما إذا كانت الكتب مكتوبة بالذكاء الاصطناعي بشكل قاطع”. وأضاف: “يحدد نموذجنا احتمال أن يكون شيء ما مكتوبًا بالذكاء الاصطناعي بدرجة من اليقين”. وأوضح أن الباحثين قاموا بمراجعة يدوية لعناوين تم الإبلاغ عنها، قائلاً إن الفريق بات “قادرًا على تمييز المحتوى المرجَّح أنه مكتوب بالذكاء الاصطناعي عن المحتوى المكتوب بواسطة البشر” في هذه المرحلة من عملهم.
معدلات التأليف بالذكاء الاصطناعي عبر الفئات الدينية
لم تتأثر كل التقاليد الدينية بنفس القدر. فئة السحر — المأخوذة من قوائم أمازون للويكا والسحر والوثنية — تصدرت القائمة بنسبة 78%، وتشمل عناوين عن أحجار الشفاء، والعلاجات العشبية، وتنقية الطاقة السلبية. أشار فرايمان إلى أن جاذبية هذه الفئة للناشرين واضحة: إذ يمكن لهذه الكتب أن تعد بحلول لمشكلات الصحة النفسية أو “إزالة السموم” دون الحاجة إلى الالتزام بأي معيار علمي.
تلتها الهندوسية بنسبة 76%، وجاءت الطاوية بنسبة 74%. أما السيخية والبوذية والإسلام والكاثوليكية والبروتستانتية والمسيحية الأرثوذكسية واليهودية فجاءت في مكان ما بين هذه النسب. سجّل المورمونية 42%، والإلحاد 40%، والشيطانية 22% — وهي أدنى نسبة بين الفئات المدروسة. وحذّر الباحثون من أن أحجام العينات اختلفت بشكل كبير بين الفئات، مما يحد من مدى إمكانية مقارنة النسب المئوية مباشرة ببعضها البعض.
تحديات التحقق والإيجابيات الكاذبة في كشف الذكاء الاصطناعي
الحصول على درجة مرتفعة في كشف الذكاء الاصطناعي لا يعني تلقائيًا أن الكتاب مضلل — لكن في فئة السحر، وجدت الدراسة تداخلًا مقلقًا بين الأمرين. فقد أشار الباحثون إلى أن 53% من الادعاءات القابلة للتحقق من الحقائق في عناوين السحر قد تكون خاطئة، مما يثير مخاوف بشأن لجوء القراء إلى إرشاد روحي مولَّد بالذكاء الاصطناعي للحصول على نصائح صحية أو متعلقة بالعافية لم يراجعها أحد.
قيود أدوات كشف الكتابة بالذكاء الاصطناعي
أدوات الكشف مثل نموذج Originality.ai مصممة لتقدير الاحتمال، لا لإصدار حكم نهائي. هذا الفارق مهم، لأن تقنية كشف الذكاء الاصطناعي كفئة لها سجل من عدم الاتساق. صياغة فرايمان نفسه — بأن النموذج يقدم “درجة من اليقين” وليس دليلًا قاطعًا — تعكس اعترافًا أوسع في الصناعة بأنه لا يوجد كاشف يضمن الدقة حاليًا.
أمثلة على نتائج متضاربة في كشف الذكاء الاصطناعي
عدم موثوقية كواشف الذكاء الاصطناعي ليس أمرًا نظريًا. ففي أكتوبر 2024، أدى اختبار لأربع أدوات منفصلة لتحليل إعلان الاستقلال الأميركي إلى أحكام متباينة بشكل كبير: صنّف ZeroGPT النص بأنه مولَّد بالذكاء الاصطناعي بنسبة 97.93%، بينما اعتبره QuillBot مكتوبًا بالكامل بواسطة البشر، وأعطى GPTZero احتمالًا قدره 89% لكونه من تأليف بشري — ثلاث أدوات، وثلاث إجابات متناقضة على الوثيقة نفسها من القرن الثامن عشر.
وأصبحت المخاطر أكثر جدية في مارس، عندما رفضت المحكمة العليا في كولومبيا مذكرة قانونية بعد أن أشار كاشف إلى أنها مولَّدة بالذكاء الاصطناعي. وفي مفارقة ساخرة، عندما قام محامٍ لاحقًا بتمرير حكم المحكمة نفسه عبر الكاشف ذاته، عاد مصنفًا بنسبة 93% على أنه مولَّد بالذكاء الاصطناعي. يوضح ذلك السبب في أن التعامل مع درجات الكشف كأدلة جاهزة للمحاكم لا يزال أمرًا قانونيًا محفوفًا بالمخاطر.
دور أمازون والأسئلة الأخلاقية في محتوى الذكاء الاصطناعي وتدريبه
تقع أمازون في مركز جدلين منفصلين لكنهما مرتبطان: كيف تراقب الكتب المكتوبة بالذكاء الاصطناعي المباعة على منصتها، وكيف تحصل على النصوص الخام لتدريب نماذج الذكاء الاصطناعي الخاصة بها. ولا يصاحب أي من الممارستين حاليًا قدر كبير من الشفافية العامة.
نظام الشرف لدى أمازون للإفصاح عن محتوى الذكاء الاصطناعي
وفقًا لفرايمان، “أمازون على دراية بمدى شيوع المحتوى المكتوب بالذكاء الاصطناعي على منصتها، وتستخدم نظام الشرف ليقوم المؤلفون بتحديد أعمالهم ذاتيًا على أنها مكتوبة بالذكاء الاصطناعي.” لم تشارك Originality.ai نتائجها مع أمازون قبل النشر، وأشار فرايمان بصراحة: “ليس لدينا أي بيانات حول عدد المؤلفين الذين يفصحون فعليًا عن ذلك.” ولم ترد أمازون فورًا على طلب Decrypt للتعليق.
يُعد هذا مهمًا لأن الإفصاح الذاتي دون تحقق يترك فجوة واسعة بين ما هو مطلوب تقنيًا وما يحدث فعليًا. إذا كانت حصة الكتب الدينية المكتوبة بالذكاء الاصطناعي تقترب حقًا من الثلثين، فقد لا يلتقط النظام القائم على الشرف سوى جزء بسيط منها.
استخدام الكتب الورقية في تدريب الذكاء الاصطناعي والمخاوف الأخلاقية
بشكل منفصل، أثارت شهية أمازون لبيانات التدريب تدقيقًا حول كيفية تعاملها مع الكتب الورقية. فقد تتبعت تحقيقات شحنة من الكتب النادرة إلى منشأة تابعة لـأمازون في لاس فيغاس — حيث يقوم العمال بقص تجليد الكتب ومسح الصفحات ضوئيًا لإدخالها في مجموعات بيانات تدريب الذكاء الاصطناعي.
أكدت أمازون أنها “تشتري الكتب عبر قنوات تجارية للمساعدة في تطوير وتحسين المنتجات والخدمات التي يستخدمها عملاؤنا”، رغم أن بيان الشركة توقف دون تأكيد استخدام هذه الكتب في تدريب الذكاء الاصطناعي تحديدًا.
معًا، يشير هذان المساران إلى التوتر الأساسي نفسه. فمن جهة، يغمر النص المولَّد بالذكاء الاصطناعي فئات مثل النشر الديني بمحتوى لم يخضع للتحقق من الحقائق، ويحتوي في بعض الحالات على ادعاءات خاطئة. ومن جهة أخرى، يأتي المواد الخام المستخدمة لبناء أنظمة الذكاء الاصطناعي نفسها من كتب ورقية تُدمَّر مع قدر محدود من المساءلة العامة. لا يوفر نظام الإفصاح الذاتي لدى أمازون للبائعين ولا آلية الحصول على الكتب لبيانات التدريب حاليًا قدرًا كبيرًا من الوضوح حول الحجم — مما يترك القراء والمؤلفين وبائعي الكتب يعتمدون إلى حد كبير على تحقيقات خارجية لفهم ما يحدث فعليًا خلف واجهة المتجر.
الأسئلة الشائعة
ما مدى موثوقية كشف الكتب الدينية المكتوبة بالذكاء الاصطناعي على أمازون؟
تستخدم Originality.ai نظام تسجيل يشير إلى الاحتمال لا اليقين. ويحذر الباحثون من أن النتائج تشير إلى تأليف محتمل بالذكاء الاصطناعي، لا إلى دليل قاطع.
أي فئة من الكتب الدينية كان لديها أعلى نسبة من الكتب المرجَّح أنها مكتوبة بالذكاء الاصطناعي؟
كانت فئة السحر هي الأعلى، حيث تم الإبلاغ عن 78% من العناوين التي شملتها العينة على أنها مرجَّح أنها مكتوبة بالذكاء الاصطناعي.
ما المخاوف الأخلاقية التي يثيرها استخدام أمازون للكتب الورقية في تدريب الذكاء الاصطناعي؟
تشتري أمازون الكتب الورقية، وأحيانًا النادرة منها، لمسحها ضوئيًا لاستخدامها في تدريب الذكاء الاصطناعي ثم تتخلص منها، مما يثير مخاوف أخلاقية بشأن تدمير المواد الأصلية وغياب موافقة صريحة من المؤلفين.
هل تطلب أمازون من المؤلفين الإفصاح عما إذا كانت كتبهم مكتوبة بالذكاء الاصطناعي؟
تستخدم أمازون نظامًا شرفيًا يحدد فيه المؤلفون ذاتيًا المحتوى المكتوب بالذكاء الاصطناعي، لكن لا توجد بيانات علنية حول عدد من يفصحون فعليًا عن ذلك.
{“@context”:”https://schema.org”,”@type”:”FAQPage”,”mainEntity”:[{“@type”:”Question”,”name”:”ما مدى موثوقية كشف الكتب الدينية المكتوبة بالذكاء الاصطناعي على أمازون؟”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”تستخدم Originality.ai نظام تسجيل يشير إلى الاحتمال لا اليقين. ويحذر الباحثون من أن النتائج تشير إلى تأليف محتمل بالذكاء الاصطناعي، لا إلى دليل قاطع.”}},{“@type”:”Question”,”name”:”أي فئة من الكتب الدينية كان لديها أعلى نسبة من الكتب المرجَّح أنها مكتوبة بالذكاء الاصطناعي؟”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”كانت فئة السحر هي الأعلى، حيث تم الإبلاغ عن 78% من العناوين التي شملتها العينة على أنها مرجَّح أنها مكتوبة بالذكاء الاصطناعي.”}},{“@type”:”Question”,”name”:”ما المخاوف الأخلاقية التي يثيرها استخدام أمازون للكتب الورقية في تدريب الذكاء الاصطناعي؟”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”تشتري أمازون الكتب الورقية، وأحيانًا النادرة منها، لمسحها ضوئيًا لاستخدامها في تدريب الذكاء الاصطناعي ثم تتخلص منها، مما يثير مخاوف أخلاقية بشأن تدمير المواد الأصلية وغياب موافقة صريحة من المؤلفين.”}},{“@type”:”Question”,”name”:”هل تطلب أمازون من المؤلفين الإفصاح عما إذا كانت كتبهم مكتوبة بالذكاء الاصطناعي؟”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”تستخدم أمازون نظامًا شرفيًا يحدد فيه المؤلفون ذاتيًا المحتوى المكتوب بالذكاء الاصطناعي، لكن لا توجد بيانات علنية حول عدد من يفصحون فعليًا عن ذلك.”}}]}
تم إعداد المقال بمساعدة الذكاء الاصطناعي ومراجعته من قبل الفريق التحريري.
