باگ در الگوریتم‌ AI گوگل که تصاویر اشتباهی را در معرض دید کاربر قرار می‌دهد!

باگ در الگوریتم‌ AI گوگل که تصاویر اشتباهی را در معرض دید کاربر قرار می‌دهد!

گاهی‌ اوقات ترکیب کلمات برای جستجو در گوگل، طبق انتظار نتایج دلخواه را به شما نشان نمی‌دهند اما سؤال اینجا است که این مشکل از کجا می‌تواند ناشی گردد؟ در پاسخ به این پرسش، در این مقاله به بحث در مورد یک نمونۀ سرچ کلمات ترکیبی و علل درست نمایش ندادن آن‌ها در گوگل پرداخته‌ایم که در نهایت منجر بدین گشته تا برخی منتقدین این غول نرم‌افزاری دنیا نژادپرست جلوه تلقی کنند!

اگر در گوگل به زبان انگلیسی عبارت Black Baby Portraits (تصاویر کودکان سیاه‌پوست) را جستجو کنید، در کمال ناباوری این موتور جستجو در کنار تصاوری از کودکان سیاه‌پوست، بیشتر تصاویر سیاه‌وسفید از کودکان سفیدپوست را در معرض دیدتان قرار می‌دهد و این در حالی است که اگر به جای کلمۀ Baby، یکسری کلمات دیگر همچون Toddler و یا کلمۀ Child ،Couple و ... را سرچ کنید، نتایج تاحدودی یکسان را به شما نشان خواهد داد. با اینکه چند نتیجۀ اول را به‌ درستی و مطابق انتظار نشان می‌دهد، اما اگر به‌ طرف پایین صفحه اِسکرول کنید، متوجه می‌شوید که دقت انتخاب تصاویر کمتر و کمتر می‌شود (جالب اینجا است که این موضوع فقط در مورد موتور جستجوی گوگل صدق نمی‌کند بلکه نتایج به‌ دست آمده از طریق موتور جستجوی بینگ به‌ مراتب افتضاح‌ترند!)

به‌ نظر می‌رسد مشکل در اینجا ترکیب کلمات Black و Portraits است به طوری که این سرچ انجین‌ها فکر می‌کند شما به‌ دنبال تصاویر سیاه‌و‌سفید هستید و مشکل عمده در ارتباط با ترکیب کلمات بوده و این در صورتی است که اگر تایپ کنید Black Baby Photos، چنین مشکلی رخ نخواهد داد (در واقع، به‌ جای Portraits از کلمهٔ Photos در جستجوی خود استفاده کنید.) بنابراین بعید به‌ نظر می‌رسد هوش مصنوعی گوگل واقعاً و عمداً نژادپرست باشد زیرا یکی از علل اصلی بروز چنین کانفلیکتی (تداخلی)، الگوریتم‌ها هستند که به‌ درستی کار نمی‌کنند!

منبع