تاریخ دریافت خبر: نظر بینندگان
براساس گزارش سایت Wired، شرکت گوگل پس از گذشت ۳ سال از گلایه کاربران به علت عملکرد الگوریتم نژاد پرستانه اپلیکیشن فوتوز هنوز نتوانسته این مشکل را برطرف سازد.
تنها قسمت هایی از سیستم الگوریتم را حذف نموده و به نوعی اَپ را محدود کرده تا از وقوع اتفاق های مشابه جلوگیری کند.

به گزارش پایگاه خبری تیک (Tik.ir) ؛جکی السینی، برنامه نویس سیاه پوست ساکن ایالات متحده آمریکا در هفتم تیر ماه سال ۱۳۹۴ بر حسب اتفاق متوجه شد قابلیت دسته بندی خودکار اپلیکیشن فوتوز شرکت گوگل، تصاویر چهره او و دوستانش را در آلبومی با نام "گوریل ها" قرار داده است.

وی بلافاصله در همین رابطه توییتی را خطاب به گوگل ارسال نموده و این پرسش را مطرح کرد که کمپانی ساکن مانتین ویو از چه تصاویر نمونه ای برای یادگیری ماشینی الگوریتم های نرم افزارش بهره گرفته که منجر به چنین اشتباه ناخوشایند و توهین آمیزی شده است.

چند روز پیش سایت Wired، پس از گذشت سه سال سعی کرد با انجام آزمایش هایی، الگوریتم نژاد پرستانه فعلی اپلیکشین فوتوز را بسنجد. از این رو ده ها هزار تصویر از گونه های مختلف میمون و گوریل در این اَپ بارگذاری نمود و متوجه شد که دسته بندی گوریل و شامپانزه در الگوریتم گوگل وجود ندارد.

این سایت حتی متوجه شد جستجوی لغات مرد سیاه (black man) و زن سیاه (black woman)، عکس هایی از زن و مرد هایی با لباس سیاه را نتیجه می دهد. از این هنوز دسته بندی با رنگ پوست مشخص در این اپ وجود ندارد.

به گفته ی سخنگوی شرکت گوگل، کلمات gorilla (گوریل)، monkey (میمون)، chimp و chimpanzee (شامپانزه) در گوگل فوتوز از سال ۲۰۱۵ تا به حال مسدود بوده اند. اگرچه این دسته بندی ها البته همچنان در دیگر سرویس های گوگل از جمله Cloud Vision API که به شرکت های دیگر فروخته می شوند، موجودند.

عجیب است شرکت گوگل که از پیشگامان هوش مصتوعی تجاری است نتوانسته پس از ۳ سال راه حل کاملی برای این مشکل بیابد و نشان می دهد که تعلیم یک نرم افزار هوش مصنوعی می تواند تا چه حد مشکل باشد. مخصوصاً اگر توسط گروه هایی با تنوع نژادی بالا امتحان نشده باشد.
الگوریتم نژاد پرستانه

هنوز مشخص نیست که گوگل چرا این مسئله را رفع نکرده. آیا نتوانسته یا نخواسته که منابعی به این مشکل اختصاص دهد. شاید هم از بوجود آمدن اتفاقاتی مشابه ترسیده است اما مشخصاً سیلیکون ولی به راه حل های جامع و کاملی در این گونه مشکلات هوش مصنوعی بیشتر از تعمیرات کوتاه مدت نیاز دارد.

   #الگوریتم #هوش مصنوعی #اپلیکیشن #نرم افزار