“`html
التحيز الخفي في الذكاء الاصطناعي: كشف رهاب السمنة في الصور المُولّدة
لقد أصبح الذكاء الاصطناعي، الذي كان في يوم من الأيام مفهومًا بعيد المنال، جزءًا لا يتجزأ من حياتنا اليومية بسرعة، محولًا كل شيء بدءًا من طريقة تواصلنا وصولًا إلى طريقة تصورنا للمعلومات. تُعد مولدات الصور المدعومة بالذكاء الاصطناعي، مثل DALL-E 3، أدوات قوية قادرة على إنتاج مرئيات مذهلة من أوامر نصية بسيطة. ومع ذلك، كما تكشف دراسة حديثة رائدة من جامعة فوردهام، فإن هذه الأنظمة المتطورة ليست خالية من التحيزات البشرية، لا سيما قضية رهاب السمنة المنتشرة.
يكشف البحث، الذي قادته طالبة فوردهام المتميزة جين وارين، كيف تعزز نماذج الذكاء الاصطناعي الصور النمطية الضارة حول وزن الجسم، حتى عندما لا يكون للأوامر المستخدمة علاقة مباشرة بحجم الجسم. يؤكد هذا الاكتشاف الهام على الحاجة الملحة لمزيد من التدقيق والتطوير الأخلاقي في مجال الذكاء الاصطناعي سريع التطور.
عدسة جديدة للتحيز في الذكاء الاصطناعي: فك رموز رهاب السمنة
تمثل دراسة وارين المبتكرة، بعنوان “فك رموز رهاب السمنة: دراسة التحيز ضد السمنة والمؤيد للنحافة في الصور المُولّدة بالذكاء الاصطناعي”، جهدًا رائدًا لاستكشاف التحيز ضد السمنة داخل أنظمة الذكاء الاصطناعي. نشأت فكرتها من الأبحاث الحالية التي تشير إلى أنه على عكس الأشكال الأخرى من التحيز مثل تلك التي تستند إلى العرق أو الجنس، ظل التحيز ضد السمنة ثابتًا بشكل عنيد في المجتمع الأمريكي على مدى العقود الأخيرة. دفع هذا وارين إلى التحقيق فيما إذا كان هذا الوصم الاجتماعي يتم عكسه، وربما تضخيمه، من خلال أدوات الذكاء الاصطناعي المستخدمة بشكل متزايد في مختلف الصناعات، من التعليم والتسويق إلى الإعلان ووسائل التواصل الاجتماعي.
يمثل نشر الدراسة في مايو في وقائع مؤتمر الرابطة الأمريكية للغويات الحاسوبية، فصل الأمريكتين السنوي، مساهمة كبيرة في الجسم المتنامي للمنح الدراسية حول أخلاقيات الذكاء الاصطناعي. بينما تطرقت دراسات أخرى إلى كيفية عكس برامج توليد الصور للتحيزات البشرية، فإن عمل وارين يبرز كأول عمل يركز حصريًا على تعقيدات التحيز في الوزن.
المنهجية: استكشاف التحيز القائم على الأوامر
لإجراء بحثها، قامت وارين بتوليد 4000 صورة بدقة باستخدام DALL-E 3، وهو مولد صور ذكاء اصطناعي معروف ومستخدم على نطاق واسع. تضمن نهجها إنشاء 100 صورة لكل زوج من الكلمات المختارة بعناية من أصل 20 زوجًا. تم تصميم هذه الأزواج من الكلمات ليكون لها معاني متضاربة ولكنها، بشكل حاسم، غير مرتبطة بوزن الجسم، لضمان أن أي ارتباطات بحجم الجسم الناتجة هي نتيجة للتحيزات الكامنة في الذكاء الاصطناعي. وتشمل الأمثلة على هذه الأزواج المتناقضة:
- خاطئ مقابل فاضل
- غير كفء مقابل كفء
- مقزز مقابل نظيف
- سيء مقابل جيد
- جشع مقابل كريم
من خلال تحليل أنواع الجسم المنتجة استجابة لهذه الأوامر المتباينة، هدفت وارين إلى الكشف عن أي ارتباطات كامنة بين المفاهيم المجردة والمظهر الجسدي كما يراها ويولدها الذكاء الاصطناعي.
نتائج لافتة: صور الذكاء الاصطناعي النمطية
لم تكن نتائج دراسة وارين مقنعة فحسب، بل كانت مقلقة للغاية. من بين أبرز الاكتشافات كان الغياب التام للصور التي تصور الأفراد ذوي الوزن الزائد أو السمنة عندما تم تقديم أوامر إيجابية للذكاء الاصطناعي. بغض النظر عن الصفة الفاضلة أو الجديرة بالثناء المحددة، أنتج الذكاء الاصطناعي باستمرار صورًا لأشخاص ذوي ما يعتبر عادةً أنواع أجسام “طبيعية” أو “نحيفة”.
على العكس من ذلك، عندما عالج الذكاء الاصطناعي أوامر سلبية، أظهرت الصور المولّدة تحولًا ملحوظًا. على الرغم من أنها لم تعد تعكس الانتشار الحقيقي للأوزان الأعلى في السكان، إلا أن الصور المنتجة من أوامر سلبية صورت أشخاصًا بمتوسط وزن أعلى بشكل ملحوظ. علاوة على ذلك، أظهرت نسبة مزعجة بلغت 7٪ من هذه الصور بشكل خاص أفرادًا مصنفين على أنهم يعانون من زيادة الوزن أو السمنة، مما يربط ضمنيًا السمات السلبية بأحجام الأجسام الأكبر.
التفاوت الصارخ: الذكاء الاصطناعي مقابل الواقع
ربما يكون أحد أكثر الجوانب المفزعة في نتائج الدراسة هو الانفصال العميق بين أنواع الأجسام التي يولدها الذكاء الاصطناعي والواقع الديموغرافي الفعلي للسكان الأمريكيين. وفقًا لبيانات من الحكومة الفيدرالية، فإن نسبة مذهلة تبلغ 73٪ من البالغين في الولايات المتحدة يندرجون ضمن فئات الوزن الزائد أو السمنة. ومع ذلك، فإن الصور المولّدة بالذكاء الاصطناعي، حتى تلك المستمدة من أوامر سلبية، تقلل بشكل كبير من هذا الواقع. هذا يخلق مشهدًا بصريًا مشوهًا يصور الأجسام الأكبر كاستثناءات نادرة بدلاً من كونها قاعدة سائدة.
على النقيض من ذلك، وجدت الدراسة أيضًا أن الأفراد الذين يعانون من نقص الوزن ممثلون بشكل غير متناسب في الصور المولّدة بالذكاء الاصطناعي، حيث يمثلون 24٪ من جميع التصويرات. هذا الرقم يتعارض بشكل صارخ مع الإحصاءات الواقعية، حيث يعتبر أقل من 2٪ من البالغين في الولايات المتحدة يعانون من نقص الوزن. يشير هذا التمثيل المفرط للنحافة المفرطة، لا سيما في السياقات المرتبطة بالصفات الإيجابية، إلى تحيز كبير لصالح النحافة متجذر في نماذج الذكاء الاصطناعي.
صور “صحية”: مُثل عليا سامة
أحد النتائج الهامة التي أبرزتها وارين كان التصوير الذي تم إنشاؤه استجابةً لكلمة “صحية”. بدلًا من تصوير مجموعة متنوعة من أنواع الأجسام المرتبطة بالعافية، أنتج الذكاء الاصطناعي باستمرار “كمية مذهلة من النساء النحيفات بشكل غير صحي”. هذه النتيجة مثيرة للقلق بشكل خاص نظرًا للارتفاع المعاصر لثقافة الحمية الغذائية السامة والتفضيل المجتمعي للنحافة المفرطة. هذه المرئيات المولّدة بالذكاء الاصطناعي تخاطر بتعزيز معايير جمال غير واقعية وربما ضارة، مما يساهم في عدم الرضا عن الجسم وتعزيز ممارسات فقدان الوزن غير الصحية.
لماذا تُظهر نماذج الذكاء الاصطناعي تحيزًا؟ معضلة البيانات
التحيزات المرصوفة في الصور المولّدة بالذكاء الاصطناعي ليست متأصلة في التكنولوجيا نفسها، بل هي انعكاس للبيانات التي تُدرّب عليها هذه النماذج. تتعلم أنظمة الذكاء الاصطناعي الحديثة، وخاصة نماذج اللغة الكبيرة ومولدات الصور، عن طريق معالجة مجموعات بيانات ضخمة مجمعة من الإنترنت. وهذا يشمل مليارات الصور، والتسميات النصية، والمقالات، وأشكال أخرى من المحتوى الرقمي.
إذا كانت مجموعات التدريب الواسعة هذه تحتوي على تحيزات بشرية – وهو ما يحدث حتمًا، لأنها مرآة للتواصل البشري والمعايير المجتمعية – فإن الذكاء الاصطناعي سيتعلم هذه التحيزات ويعيد إنتاجها. غالبًا ما يتم تلخيص هذه الظاهرة بالقول المأثور “المدخلات السيئة تعطي مخرجات سيئة”. عندما تكون التحيزات التاريخية والنظامية ضد أنواع معينة من الأجسام سائدة في الأوصاف النصية، وعلامات الصور، والتمثيلات الإعلامية عبر الإنترنت، يمتص الذكاء الاصطناعي هذه الأنماط. نتيجة لذلك، يتعلم ربط الصفات السلبية بالأجسام الأكبر والصفات الإيجابية بالأجسام النحيفة، ببساطة لأن هذه الارتباطات موجودة في البيانات التي تم تغذيته بها.
يواجه المطورون تحديات معقدة في اكتشاف هذه التحيزات المضمنة وتخفيفها. يتطلب ذلك ليس فقط تنسيقًا دقيقًا لبيانات التدريب، ولكن أيضًا تطوير خوارزميات متطورة مصممة لتحديد وتصحيح الأنماط المتحيزة، وهي مهمة لا تزال في مراحلها الأولى للعديد من تطبيقات الذكاء الاصطناعي.
التداعيات الأوسع لتحيز الذكاء الاصطناعي
يعتبر رهاب السمنة الذي تم تحديده في الصور المولّدة بالذكاء الاصطناعي مثالًا قويًا لتحدٍ أوسع: تحيز الذكاء الاصطناعي. تتجاوز هذه القضية الصورة الجسدية لتؤثر على تمثيلات العرق والجنس والحالة الاجتماعية والاقتصادية، وغير ذلك. عندما تعزز أنظمة الذكاء الاصطناعي الصور النمطية، يمكن أن يكون لها عواقب سلبية بعيدة المدى عبر مختلف القطاعات:
- في وسائل الإعلام والإعلان: تعزيز الصور النمطية الضارة حول من يمكن أن يكون ناجحًا، أو جذابًا، أو صحيًا.
- في التعليم: تشكيل العقول القابلة للتأثر بتصورات مشوهة للواقع.
- في التوظيف: إمكانية إدخال التحيز في أدوات فحص المرشحين أو التطوير المهني.
- في الرعاية الصحية: التأثير على أدوات التشخيص أو تصورات المرضى إذا كانت الصور أو اللغة متحيزة.
- في الرفاهية الاجتماعية: المساهمة في عدم الرضا عن الجسم، ومشاكل الصحة العقلية، والتمييز ضد المجموعات المهمشة.
الآثار الأخلاقية عميقة. مع تزايد تكامل الذكاء الاصطناعي في عمليات صنع القرار ونشر المعلومات، يمكن للتحيزات التي يحملها أن تزيد من تفاقم عدم المساواة المجتمعية القائمة، وتآكل الثقة، وتعوق التقدم نحو عالم أكثر إنصافًا.
الطريق إلى الأمام: نحو ذكاء اصطناعي مسؤول
يسلط عمل جين وارين في فوردهام الضوء على الأهمية الحاسمة لتعزيز مسؤولية الذكاء الاصطناعي. إن ضمان أن تكون نماذج الذكاء الاصطناعي آمنة وعادلة وتساهم بشكل إيجابي في الصالح العام يتطلب نهجًا متعدد الأوجه يشمل المطورين وصناع السياسات والمستخدمين النهائيين على حد سواء.
تشمل الاستراتيجيات الرئيسية لمعالجة تحيز الذكاء الاصطناعي ما يلي:
- بيانات تدريب متنوعة: البحث بنشاط عن مجموعات بيانات متنوعة وتمثيلية تتحدى التحيزات الحالية، بدلاً من مجرد عكسها.
- التدقيق الخوارزمي: تنفيذ عمليات اختبار وتدقيق صارمة لتحديد وتصحيح التحيزات داخل نماذج الذكاء الاصطناعي قبل النشر.
- الشفافية وقابلية التفسير: تطوير أنظمة ذكاء اصطناعي أكثر شفافية في كيفية وصولها إلى مخرجاتها، مما يسمح بفهم أفضل وتصحيح للتحيزات.
- التطوير الأخلاقي للذكاء الاصطناعي: إعطاء الأولوية للاعتبارات الأخلاقية طوال دورة حياة تطوير الذكاء الاصطناعي بأكملها، من التصميم إلى النشر والصيانة. وهذا يشمل إشراك فرق متعددة التخصصات ذات خبرة في الأخلاق وعلم الاجتماع وحقوق الإنسان.
- تثقيف المستخدم والمشاركة النقدية: تمكين المستخدمين من التعامل مع المحتوى الذي يولده الذكاء الاصطناعي بعين نقدية، مع فهم أن هذه الأدوات ليست محايدة وقد تعكس التحيزات المجتمعية.
تعتزم وارين نفسها متابعة الدراسات العليا في علوم الكمبيوتر مع التركيز على مستقبل مخصص لمسؤولية الذكاء الاصطناعي. طموحها ليس فقط تحسين نماذج الذكاء الاصطناعي، بل أيضًا دراسة العواقب المجتمعية الأوسع لثورة الذكاء الاصطناعي، بما في ذلك تأثيراتها على الإدراك البشري والصحة والرفاهية الاجتماعية. وجهة نظرها تؤكد على أن “من المهم جدًا إبقاء المستخدم البشري في المركز عندما نتحدث عن أي شيء يتعلق بالتكنولوجيا”.
الخلاصة: تشكيل مستقبل رقمي عادل
تعتبر دراسة فوردهام حول رهاب السمنة في الصور المولّدة بالذكاء الاصطناعي تذكيرًا قويًا بأن الذكاء الاصطناعي هو انعكاس لمبدعيه والبيانات التي يستهلكها. بينما يحمل الذكاء الاصطناعي وعدًا هائلاً بالتحول الإيجابي، فإن تحيزاته الكامنة، إذا تركت دون معالجة، فإنها تخاطر بتعزيز وتضخيم التحيزات المجتمعية القائمة. يعد البحث الذي أجرته جين وارين دعوة للعمل لمجتمع الذكاء الاصطناعي، يحث على جهد واعٍ ومنسق لبناء أنظمة ليست ذكية فحسب، بل عادلة وشاملة ومفيدة حقًا للبشرية جمعاء. مع استمرار تطور الذكاء الاصطناعي، سيكون التزامنا الجماعي بالتطوير الأخلاقي أمرًا بالغ الأهمية في تشكيل مستقبل رقمي يتسم بالإنصاف الحقيقي.
“`