پیش‌داوری در نتایج موتورهای جستجو بدتر از این هم خواهد شد

به گزارش لیزنا به نقل از «ام آی تی تکنولوژی ریویو»، اینترنت ممکن است زمین بازی بی‌طرفی به نظر بیاید ولی اینگونه نیست. سافیا اوموجا نوبل یک روز وقتی که از موتور جستجوگر گوگل برای پیدا کردن موضوعاتی که خواهرزاده‌اش ممکن است از آنها خوشش بیاید، استفاده کرد با این واقعیت روبرو شد. او اصطلاح «دختران سیاه‌پوست» را وارد کرد و با صفحاتی پر از تصاویر پورنوگرافی مواجه شد.

نوبل که استاد ارتباطات دانشگاه کالیفرنیای جنوبی است وحشت زده گشت ولی شوکه نشد. او سال‌ها بحث کرده بود که ارزش‌های اینترنت منعکس‌کننده ارزش‌های سازندگان آن است که بیشتر سفیدپوست، غربی و مرد هستند و زنان و اقلیت‌ها را نمایندگی نمی‌کنند. آخرین کتاب وی «آلگوریتم سرکوب‌ها» جزئیات تحقیقی که او پس از آن جستجوی شوم انجام داد را نشان می‌دهد. این تحقیق ساختارهای پنهانی که چگونگی دسترسی ما به اطلاعات از طریق اینترنت را شکل می‌دهند، کاوش می‌کند.

این کتاب بحث می‌کند که آلگوریتم‌های موتور جستجو به آن اندازه که گوگل می‌خواهد شما فکر کنید، بی‌طرف نیست. آلگوریتم‌ها بعضی نتایج را به بالای دیگران ارتقا می‌دهند و حتی یک کد به نظر بی‌طرف می‌تواند پیش‌داوری‌های جامعه را انعکاس دهد. فراتر از آن، بدون هر درکی از اینکه آلگوریتم‌ها چگونه کار می‌کنند یا داشتن تصویر وسیع‌تر از بحث، جستجوها می‌توانند به صورت ناعادلانه بحث‌های یک موضوع مانند دختران سیاهپوست را شکل دهد.

نوبل با جکی اسنو،، خبرنگار «ام آی تی تکنولوژی ریویو» درباره مشکل ذاتی دستگاه امروز، اینکه گوگل می‌تواند بهتر از این باشد و چگونه هوش مصنوعی ممکن است اوضاع را بدتر کند، صحبت کرد.

مردم چه اشتباهاتی درباره چگونگی کار کردن موتورهای جستجو دارند؟

اگر شما به دنبال نزدیکترین کافی شاپ، یک نقل قول مشخص یا چیزی بسیار محدود که به راحتی قابل فهم است می‌گردید، مشکلی نیست. ولی زمانی که وارد ایده‌های پیچیده‌تر در رابطه با هویت یا دانش می‌شویم، موتورهای جستجو ما را ناامید می‌کنند. این موضوع می‌توانست مشکل بزرگی نباشد اگر عموم مردم به روی موتورهای جستجو، برای به دست آوردن آنچه آنها حقیقت یا چیزی بررسی شده و قابل اعتماد تلقی می‌کنند، اتکا نمی‌کردند. اینجاست که من فکر می‌کنم، مردم دچار بزرگ‌ترین سوءتفاهم درباره موتورهای جستجو می‌شوند.

برای خطاب قرار دادن این پیش‌داوری‌ها، گوگل معمولا مانع بعضی نتایج می‌شود. آیا رویکرد بهتری وجود دارد؟

ما می‌توانیم از رسیدن به یک پروژه بلندپروازانه سازمان‌دهی دانشِ دنیا دست بکشیم یا با یک بازنگری بگوییم «این یک تکنولوژی بی‌عیب نیست و گول‌زننده است. ما قرار است به شما نشان دهیم چگونه شما را گول می‌زند. ما قرار است آن ابعاد از محصولمان را شفاف‌تر کنیم تا شما زاویه‌دار بودن طبیعت خروجی را متوجه شوید.» به جای آن موضعی که بیشتر شرکت‌ها – و نه تنها گوگل – می‌گیرند این است که آنها دارند چیزی که قابل اعتماد است را ارائه می‌دهند و شما می‌توانید روی آن حساب کنید و اینجاست که مسئله دشوار می‌شود.

آموزش ماشین‌ها چگونه به نژادپرستی و نگاه جنسیت‌زده‌ای که در مورد آن می‌نویسید دامن می‌زند؟

من بحث کرده‌ام که هوش مصنوعی یا دستگاه‌های تصمیم‌گیری خودکار در این قرن به مسئله حقوق بشری تبدیل خواهند شد. من به شدت به این موضوع معتقدم، زیرا آلگوریتم‌های آموزش ماشین‌ها و پروژه‌های این چنین از داده‌ها بر اساس اطلاعات استفاده می‌کنند. ما می‌دانیم این به انواع خروجی‌های نابرابر ختم می‌شود. بگذارید این را اضافه کنم که دخالت در کار هوش مصنوعی سخت‌تر و سخت‌تر خواهد شد زیرا اینکه از چه داده‌هایی برای آگاهی هوش مصنوعی یا ساخت دستگاه آن استفاده شده است، نامشخص تر خواهد شد. به طور مثال، مجموعه داده‌های مختلفی وجود دارند که استاندارد‌شده نیستند و با تلفیق یکدیگر تصمیم می‌گیرند.

از زمانی که برای اولین بار در سال 2010 «دختران سیاهپوست» را جستجو کردید، آیا تغییرات مثبت بودند یا منفی؟

از زمانی که من شروع به نوشتن و سخنرانی درباره دختران سیاهپوست کردم، به خصوص در این باره که آنها بیشتر به پورنوگرافی ربط داده می‌شوند، اوضاع تغییر کرده است. حالا پورنوگرافی و محتوای جنسی بر روی صفحه اول نیست، پس فکر می‌کنم این یک پیشرفت بود که بدون هیاهو به دست آمد. ولی دیگر گروه‌ها مانند لاتینوها و آسیایی‌ها همچنان به شدت در محتوای نتایج جنسی شده‌اند.

 ترجمه: ونداد ذوقی