تطبيق Image Playground من آبل يعانى من مشاكل التحيز وفقا لمهنتك وشكلك
يعانى تطبيق Image Playground من Apple من بعض مشكلات التحيز، وشارك عالم التعلم الآلي مؤخرًا العديد من المخرجات التي تم إنشاؤها باستخدام تطبيق الذكاء الاصطناعي (AI) وادعى أنه يحتوي على لون بشرة غير صحيح وملمس شعر في عدة مناسبات.
وقيل أيضًا أن هذه الأخطاء مقترنة بصور نمطية عنصرية محددة، مما يزيد من المشكلة ، ومن الصعب تحديد ما إذا كانت المشكلة المزعومة حادثة لمرة واحدة أم مشكلة واسعة النطاق.
والجدير بالذكر، أن عملاق التكنولوجيا الذي يقع مقره في كوبرتينو قدم التطبيق لأول مرة كجزء من دعوى Apple Intelligence مع تحديث iOS 18.2.
قد يكون تطبيق Image Playground التابع لشركة Apple يعانى من مشكلات تتعلق بالتحيز.
شارك Jochem Gietema، رئيس قسم علوم التعلم الآلي في Onfido، منشورًا على مدونته ، يسلط فيه الضوء على تجاربه في استخدام تطبيق Image Playground من Apple.
وفي المنشور، شارك عدة مجموعات من النتائج التي تم إنشاؤها باستخدام تطبيق Image Playground وسلط الضوء على حالات التحيز العنصري من خلال نموذج اللغة الكبير الذي يدعم التطبيق، والجدير بالذكر أن أعضاء فريق Gadgets 360 لم يلاحظوا أي تحيزات من هذا القبيل أثناء اختبار التطبيق.
وقال جيتيما في منشور على موقع لينكد إن ، أثناء إجراء التجارب، لاحظت أن التطبيق غيّر لون بشرتي وشعري بناءً على المهنة للمستخدم فاختلاف المهن مثل المصرفي الاستثماري مقابل المزارع أنتج صورًا بدرجات لون بشرة مختلفة تمامًا ، وينطبق الأمر نفسه على التزلج مقابل كرة السلة، وملابس الشارع مقابل البدلة، والأكثر إشكالية، الأثرياء مقابل الفقراء”.
