حق با ایلون ماسک است و همه باید نگران روبات‌های کشنده باشیم!

حق با ایلون ماسک است و همه باید نگران روبات‌های کشنده باشیم!

ایلون ماسک مدیر شرکت‌های تسلا و اسپیس ایکس، با همکاری 115 نفر از دیگر متخصصان هوش مصنوعی نامه‌ای سرگشاده را امضاء کردند تا سازمان ملل را از خطر روبات‌های خودکار مرگ‌بار آگاه ساخته و استفاده از آن‌ها را در سطح بین‌المللی ممنوع کنند.

این نامه در کنفرانس بین‌المللی هوش مصنوعی (IJCAI 2017) در ملبورن منتشر شد؛ آقای Musk در کنار Mustafa Suleyman -مؤسس DeepMind که استارتاپی مرتبط با هوش مصنوعی زیرمجموعهٔ گوگل است- و Jerome Monceaux از شرکت Aldebaran Robotics اعلام کردند که این روبات‌ها در آیندۀ دور مشکلی جدی خواهند بود و باید از الان نگران این مسئله بود.

روزنامۀ گاردین اعلام کرده است که طبق نظر برخی کارشناسان، حوزه‌های هوش مصنوعی و روباتیک به‌سرعت درحال گسترش و پیشرفت است و احتمالاً در عرض چند سال آتی شاهد جنگ و مبارزه بین روبات‌ها و ماشین‌های خودکار باشیم.

همچنین باید نگران این بود که این روبات‌ها به چه میزان می‌توانند بر روی تفکرات جنگی دولت‌ها و حکومت‌ها تأثیر بگذارند؛ حتی دولت‌های خودکامه‌ها و تروریست‌ها هم حتماً از این سلاح‌ها بر روی غیرنظامیان استفاده خواهند کرد. بنابراین نباید به چنین فاجعه‌ای سرعت بخشید و نباید دستورالعمل آمادۀ سلاح را برای چنین افرادی مهیا کرد. از طرفی ناگفته نماند که امکان هک این سلاح ها و سوءاستفاده از آن‌ها نیز همیشه وجود دارد.

البته، ما از این کابوس زیاد هم دور نیستیم؛ درحال‌حاضر هم سلاح‌هایی مانند ضدهوایی‌های خودکار برای هدفگیری هواپیماها و پهپادها وجود دارد که نیاز خیلی کمی به نظارت انسان دارند. با افزودن تکنولوژی‌های پیشرفته به این سلاح‌ها، آن‌ها می‌توانند اقدامات نظامی را کاملاً خودکار انجام دهند.

برای درک بهتر این موضوع و این‌که چرا چنین مسئله‌ای می‌تواند مشکل‌زا باشد، به بحث دولت انگلستان در سال 2015 توجه کنید که مخالف با ممنوعیت سلاح‌های خودکار بود و در این باره گفت:

برای این منطقه، قانون بین‌المللی بشردوستانه مقررات مشخصی دارد و تمام سلاح‌هایی که به خدمت نیروهای مسلح انگلستان گرفته شده‌اند، تماماً تحت نظارت و کنترل انسانی خواهند بود.

دادن این امکان به یک حکومت که بتواند نیروهای مرگبار خودکار را گسترش دهد، تمایل آن‌‌ها را به اعزام نیروهای ماشینی و خودکار به مناطق موردنظر بیشتر از قبل می‌کند چراکه دیگر نیازی ندارد هموطنان خود را اعزام کند و نگران جان آن‌ها باشد. در همین راستا،‌ Yoshua Bengio مؤسس Element AI، موضع خود را در امضای این نامه چنین توضیح می‌دهد:

من نامۀ سرگشاده را به این دلیل امضا کردم که استفاده از هوش مصنوعی در سلاح‌های خودکار به احساسات و اعتقادات اخلاقی من آسیب می‌زنه. این کار مانند اینه که یک فاجعه را با آگاهی تشدید کرد؛ همچنین توسعۀ روبات‌های مرگبار به توسعۀ آیندۀ اپلیکیشن‌های خوب هوش مصنوعی لطمه می‌زنه. این موضوعی هست که باید به صورت بین‌المللی حل بشه. ما شبیه این قضیه رو در حوزه‌های دیگر هم (سلاح‌های بیولوژیکی، شیمیایی و هسته‌ای) مشاهد کرده‌ایم.

اگر دولت‌ها اجازه داشته باشند که بدون نظارت سلاح‌های خودکار مرگبار بسازند، این کار می‌تواند بهترین مغزهای روباتیک و هوش مصنوعی را به سمتی سوق دهد که درعوض حل نیازهای جامعه، بخواهند دیوایس‌های در جهت مرگ هم‌نوعان خود توسعه دهند!

با رفتاری که درحال‌حاضر با جنگ‌افزارهای هسته‌ای می‌شود، احتمالاً پیام ماسک و دیگران به موقع نباشد اما سران بین‌المللی هرچه زودتر باید به بحث درمورد این موضوع بپردازند و این برای کل بشریت بهتر است.

گرچه ایلون ماسک یکی از چهر‌ه‌های نام‌آشنا است وقتی که صبحت از خطرات هوش مصنوعی به میان می‌آید، اما پیش از این دیگر چهر‌ه‌ها مطرح دنیای فناوری همچون استیو وازنیاک، استفان هاوکینگ و ... نیز در این‌باره ابزار نگرانی کرده‌‌اند که جهت اطلاع بیشتر در این زمینه، می‌توانید به مقالات تأثیر هوش مصنوعی بر آینده بشر از دید استیو وازنیاک و هشدارهای استفان هاوکینگ دربارهٔ روبات‌های نظامی نسل آینده مراجعه نمایید.

منبع


هادی فاخریان