کنترل هوش مصنوعی فوق هوشمند ناممکن خواهد بود
به گزارش ما دیجیتال، پژوهشگران معتقدند امکان دارد هوش مصنوعی فوق هوشمند کنترل شدنی نباشد و به انسان ها صدمه برساند.
به گزارش گروه علم و آموزش ایرنا از وبگاه سایِنس اَلِرت (Science Alert)، دهه ها است که ایده هوش مصنوعی سرنگون کننده انسان ها مبحث بحث است و در سال ۲۰۲۱، دانشمندان در مقاله ای به این سوال که «آیا قادر خواهیم بود یک کامپیوتر سطح بالای فوق هوشمند را کنترل نماییم یا نه؟» پاسخ منفی دادند.
نکته مهم اینست که کنترل یک هوش مصنوعی فوق هوشمندِ بسیار دور از فهم انسان نیازمند شبیه سازی آن است به صورتی که بتوانیم آنرا تجزیه وتحلیل و کنترل کنیم؛ اما اگر نتوانیم آنرا درک نماییم، این شبیه سازی ناممکن است.
دانشمندان معتقدند اگر نتوانیم وضعیتی را که هوش مصنوعی مقرر است ارائه کند، بفهمیم نمی توانیم قوانینی مانند «صدمه نزدن به انسان ها» را ایجاد نماییم. هنگامی که سیستم کامپیوتری در سطحی بالاتر از قلمرو برنامه نویسان ما کار می کند، دیگر نمی توانیم حدودی قائل شویم.
براساس اظهارات پژوهشگران یک هوش مصنوعی فوق هوشمند چندوجهی است؛ ازاین رو به صورت بالقوه می تواند منابع متنوعی را برای دستیابی به اهدافی که برای انسان به صورت بالقوه درک نشدنی است گردآوری کند.
به گفته دانشمندان هر برنامه ای که برای پیشگیری از صدمه رساندن هوش مصنوعی به انسان ها و نابودکردن جهان نوشته شده باشد، امکان دارد به نتیجه برسد و متوقف شود یا نشود. از نظر ریاضی غیر ممکن است که در این حوزه اطمینان کامل داشته باشیم، به این مفهوم که این مساله کنترل شدنی نیست.
یافتن جایگزین برای آموزش برخی اصول اخلاقی به هوش مصنوعی همچون این که دنیا را نابود نکند (چیزی که به قول محققان نمی توان با هیچ الگوریتمی از انجام آن کاملاً مطمئن بود) محدودکردن قابلیت های فوق هوشمند است.
مسئله ای که در اینجا مطرح می شود اینست که اگر قرار نیست از هوش مصنوعی برای حل مشکلات فراتر از محدوده توانایی های انسان استفاده نماییم، پس چرا اصلاً باید آنرا ایجاد کنیم؟
ممکن است متوجه نشویم که چه زمانی یک هوش مصنوعی فوق هوشمند از گرد راه می رسد. این بدان مفهوم است که باید آغاز به پرسیدن بعضی از سؤالات جدی در مورد مسیرهایی نماییم که در آن قرار داریم.
مانوئل سبریان (Manuel Cebrian)، دانشمند کامپیوتر از انجمن ماکس پلانک آلمان، در سال ۲۰۲۱، اظهار داشت: ماشین فوق هوشمندی که جهان را کنترل می کند، به مبحث داستان های علمی تخیلی شباهت دارد؛ اما همین هم اکنون هم دستگاه هایی وجود دارند که بعضی از کارهای مهم را به صورت مستقل انجام می دهند؛ بدون این که برنامه ریزان آنها کاملاً بدانند آنها چگونه این کارها را یاد گرفتند.
این مقاله در مجله تحقیقات هوش مصنوعی به چاپ رسیده بود. نسخه قبلی این مقاله برای نخستین بار در ژانویه ۲۰۲۱ منتشر گردید.
منبع: ما دیجیتال
این مطلب را می پسندید؟
(1)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب