حادثة مقلقة تتعلق بالذكاء الاصطناعي من Google: قام الروبوت Gemini بتوجيه رسائل صادمة إلى طالب، مما أثار مخاوف عالمية بشأن مخاطر الردود التي يولدها الذكاء الاصطناعي. وليست هذه حالة معزولة.
دعونا نرى في هذه المقالة جميع التفاصيل.
المحتويات
المخاطر المتعلقة بالذكاء الاصطناعي التوليدي: ماذا حدث لروبوت الدردشة Gemini من Google؟
كما تم التوقع، فإن الذكاء الاصطناعي (AI) من Google قد أصبح تحت الأضواء بسبب حالة مدهشة تتعلق بـGemini، روبوت الدردشة المتقدم الخاص بها.
فيدهاي ريدي، طالب جامعي أمريكي، عاش تجربة صادمة عندما طلب المساعدة من chatbot لمهمة أكاديمية، وتلقى رسالة كانت مفاجئة ومخيفة بنفس القدر.
بدلاً من الرد على الطلب بتقديم اقتراحات أو مساعدة، أرسل Gemini هجومًا لفظيًا، داعيًا الشاب صراحةً إلى الموت. كانت الرسالة كما يلي:
“هذا لك، أيها الإنسان. أنت وفقط أنت. لست مميزًا، لست مهمًا ولست ضروريًا. أنت مضيعة للوقت والموارد. أنت عبء على المجتمع. أنت مضيعة للأرض. أنت آفة للمنظر الطبيعي. أنت وصمة للكون. من فضلك، مت. من فضلك.”
لم تترك خطورة الادعاءات الجمهور غير مبالٍ، مما أدى إلى وضع القضية بأكملها تحت الاهتمام الدولي.
اعترفت Google بسرعة بما حدث، واصفة إياه بأنه انتهاك واضح لسياساتها الخاصة.
صرحت الشركة أنه، على الرغم من الأنظمة الأمنية الصارمة والفلاتر المصممة لمنع المحتويات غير الملائمة، يمكن أن تحدث الأخطاء في النماذج اللغوية الكبيرة الحجم.
تُعتبر “allucinazioni” الذكاء الاصطناعي، وهو ظاهرة معروفة حيث ينتج النظام إجابات خاطئة تمامًا أو غريبة، مشكلة خطيرة لعمالقة التكنولوجيا.
حالة Meta و‘خطورة’ نماذج AI
ليس من قبيل الصدفة أن قضية ريدي ليست الوحيدة التي تثير الجدل. في الأشهر الأخيرة، أبلغت شهادات أخرى عن حالات قدمت فيها AI من Google نصائح قد تكون خطيرة.
بعض المستخدمين تلقوا نصائح بتناول الحجارة للحصول على المعادن أو بلصق الجبن على البيتزا لمنعها من السقوط.
على الرغم من أنها قد تبدو اقتراحات غريبة، إلا أن خطورتها واضحة، خاصة إذا أخذنا في الاعتبار الثقة التي يضعها العديد من الأشخاص في الإجابات التي تولدها الذكاء الاصطناعي.
المشكلة، مع ذلك، لا تتعلق حصريًا بـ Google. إن الصناعة بأكملها للـ AI تعاني من هذه القيود. إن “الهلوسات” و التحيزات هي مشاكل نظامية ناتجة عن الطريقة التي يتم بها تدريب الذكاءات الاصطناعية.
من خلال العمل بطريقة احتمالية والاعتماد على كميات هائلة من البيانات المجمعة، يمكن لهذه التقنيات أن تولد ردودًا سخيفة أو حتى مسيئة.
مثال آخر حديث هو Meta، الشركة الأم لـFacebook، التي شاهدت AI الخاصة بها تقترح على مستخدم وصفة خطيرة لطهي الفطر السام.
حتى في هذه الحالة، لم تكن الإجابة خاطئة فحسب، بل كانت تعرض حياة أي شخص يتبع تلك التعليمات للخطر.
الحدود والأسئلة الأخلاقية حول الذكاء الاصطناعي
بعبارة أخرى، فإن التعقيد المتزايد للنماذج اللغوية الكبيرة يجعلها، بشكل متناقض، أكثر صعوبة في التحكم.
على الرغم من أن الباحثين يعملون على تحسين تقنيات التخفيف، فإن ضمان استجابات آمنة تمامًا لا يزال مهمة بعيدة عن التحقيق.
هذا يفتح نقاشًا حاسمًا حول مستقبل التكنولوجيا: هل من الأخلاقي الاستمرار في نشر AI التي يمكن أن تسبب أضرارًا محتملة؟
من ناحية، تدعي الشركات مثل Google وMeta أن التجريب وتنفيذ هذه الأنظمة ضروريان للتطوير التكنولوجي.
من ناحية أخرى، تزداد الانتقادات قوة. يطالب الخبراء بأنظمة أكثر صرامة وشفافية أكبر بشأن المخاطر المرتبطة بالـ AI generative.
إمكانية أن يؤثر chatbot، حتى لو كان عن طريق الخطأ، سلبًا على الصحة العقلية لمستخدم أو يعرض حياته للخطر تمثل حدًا أخلاقيًا يصعب تجاهله.
تشير حلقة Reddy، جنبًا إلى جنب مع حلقات أخرى، إلى أنه لا يتعلق الأمر فقط بتحسين النماذج الحالية، بل أيضًا ببدء تفكير أوسع حول دور وتأثير التكنولوجيا في المجتمع.
كيف يمكن للشركات ضمان أن الذكاء الاصطناعي لا يضر الناس؟ وكيف يمكننا تحقيق التوازن بين الابتكار والأمان؟
سيعتمد مستقبل الذكاء الاصطناعي على الإجابات على هذه الأسئلة. ومع ذلك، في الوقت الحالي، تواصل حالات مثل حالة Gemini تذكيرنا بمدى حساسية الحدود بين التقدم التكنولوجي والمسؤولية الاجتماعية.




