Facebook به مطالعه و بررسی این که آیا آن الگوریتم های نژادی مغرضانه

Facebook تشکیل جدید تیم های داخلی اختصاص داده شده به تحصیل در رشته اصلی خود را در شبکه های اجتماعی و Instagram برای تعصب نژادی به ویژه برای آن الگوریتم آموزش دیده با استفاده از هوش مصنوعی تاثیر منفی ایالات متحده و دیگر گروه کمتر. این تیم خواهد بود "وظیفه حصول اطمینان از انصاف و عادلانه توسعه محصول در حال حاضر در همه چیز ما" یک Facebook سخنگو می گوید در آستانه. "ما همچنان به همکاری نزدیک با Facebook مسئول AI تیم به اطمینان حاصل شود که ما به دنبال در پتانسیل تعصبات سراسر مربوطه ما سیستم عامل است."

جدید سهام تیم — به عنوان آن را به نام در Instagram (مشابه تیم تشکیل شده برای مطالعه Facebook اصلی نرم افزار و وب سایت) — علائم خروج برای این شرکت است که در طول تاریخ در برابر تلاش های درون شرکت به مطالعه اثرات تعصب نژادی. اخبار Facebook جدید تیم های تحقیقاتی برای اولین بار گزارش روز سه شنبه توسط وال استریت ژورنال.

"نژادی عدالت حرکت است و یک لحظه از اهمیت واقعی برای شرکت ما است. هر گونه تعصب در سیستم های ما و سیاست های خلاف برای ارائه یک پلت فرم برای هر کس به بیان خود" Vishal Shah, معاون رئیس جمهور از محصول برای Instagram در بیانیه ای گفت: با توجه به آستانه. در حالی که ما همیشه در حال کار برای ایجاد یک عادلانه تر تجربه ما در حال راه اندازی اضافی تلاش برای ادامه این پیشرفت از ایجاد Instagram سهام تیم به Facebook را شامل محصول شورا."

این شرکت تصمیم گیری امروز وارد به تظاهرات علیه نژادپرستی و سیاست خشونت همچنان روزانه در شهرهای آمریکا زیر جورج فلوید مرگ در اواخر ماه مه. Facebook نیز پایدار مراحل نهایی یک ماه تبلیغات تحریم تحت #StopHateForProfit جنبش سازمان یافته ضد افترا لیگ, رنگ, تغییر, NAACP و دیگر حقوق مدنی قرار گرفتند. این تحریم شامل spenders بزرگ مانند Coca-Cola, Disney, mcdonald's, استارباکس و خارج در میان ده ها تن دیگر اگر چه مدیر عامل شرکت مارک زوکربرگ بود به نام "ناامید کننده" و متهم به ارائه کم عمق بهانه هنگام ملاقات با تحریم سازمان در اوایل این ماه.

ماه گذشته Instagram مدیر عامل آدم Mosseri متعهد به تعمیرات اساسی چگونه این شرکت تلاش می کند برای حل مشکلات است که سیاه و سفید و دیگر گروه کمتر چهره بر روی پلت فرم. "این شروع می شود با حسابداری برای تجارب و چالش هایی که گروه های کمتر مانند ما جامعه سیاه و سفید چهره زمانی که آنها با استفاده از Instagram," Mosseri نوشت. "ما در انجام بسیاری از کار به درک بهتر ما تاثیر پلت فرم است در گروه های مختلف و این که به ما کمک کرده تا به جایی که ما امروز. اما من فکر می کنم بیشتر وجود دارد به انجام در سراسر برخی از مناطق کلیدی که به ما گسترده تر شرکت کرده است." Mosseri به طور خاص به نام آزار و اذیت تأیید حساب, توزیع و الگوریتمی تعصب به عنوان مناطق او فکر می کند Instagram نیاز به بهبود در به خدمت بهتر به سیاه و کاربران.

Facebook دارای سابقه سنگی با تعصب نژادی. این شرکت بود و به تبلیغ کنندگان اجازه می دهد به حذف برخی از گروه های اقلیت که تبلیغات درون فدرال تنظیم بازارهای مانند مسکن و شغل است. Facebook اغلب sidestepped نگرانی با استفاده از هيچ مانند طبقه بندی کاربران با نژاد اما با به اصطلاح "قومی" یا "چند فرهنگی" سنایی غزنوی یا خود انتخاب هویت گروه های مطابق با آنچه اکثریت ایالات متحده و یا دیگر اقلیت ممکن است از نظر آماری مانند بر روی پلت فرم. تنها پس از دقیق پوشش از رسانه های برجسته ترین ProPublica, آیا Facebook در نهایت غیر فعال کردن تبلیغ با هدف قرار دادن گزینه های مسکن و اعتباری تبلیغات به عنوان بخشی از راه حل قانونی با حقوق مدنی قرار گرفتند.

این شرکت همچنین متشکل از کمتر از 4 درصد سیاه کارکنان و سال گذشته مقامات شرکت منع کارمندان از تحصیل نژادی اثرات پلت فرم های خود را بدون نیاز به تایید از اکثر رهبران ارشد با توجه به وال استریت ژورنال. به عنوان یک نتیجه, Facebook نرم افزار است که خودکار اعتدال مانند حساب تعلیق در Instagram یافت شده است به طور نامتناسبی تحت تاثیر قرار کاربران پلت فرم مظنون هستند که وال استریت ژورنال گزارش.

Facebook متعهد به کمک مالی 200 میلیون دلار برای حمایت از سیاه و سفید متعلق به کسب و کار در پی سیاه و سفید زندگی می کند ماده تظاهرات در سراسر کشور است. این شرکت همچنین گفت: در ماه گذشته آن را برنامه ای برای افزایش درصد و دیگر کمتر اقلیت های آهنگسازی ts رهبری تیم توسط 30 درصد در طول پنج سال آینده و همچنین تلاش برای دو برابر تعداد زیادی از سیاه و اسپانیایی کارکنان توسط 2023.

89-صفحه حقوق مدنی ممیزی انجام شده در آئین نامه شرکت Relman Colfax در طول دوره دو سال و منتشر شده 8 جولای به نام برای Facebook برای مطالعه و از بین بردن تعصب نژادی در آن هوش مصنوعی-آموزش نرم افزار و سیستم آن انجام حسابرسی مجاز به مطالعه داخلی شرکت پژوهش و هوش مصنوعی ،