سیستمهای AI از کنترل خارج شوند چه اتفاقی می‌افتد

به گزارش شبکه خبری ICTPRESS به نقل از تک‌رادار، اگر روباتها به این نتیجه برسند که بهتر از انسانها تصمیم میگیرند چه بلایی بر سر ما خواهد آمد؟

اما گوگل گفته جای هیچ نگرانی نیست چون آنها در حال کار بر روی کلید به قتل رساندن AI هستند یعنی انسانها میتوانند در صورت مشاهده رفتار غیرطبیعی از هوش مصنوعی کلید آن را خاموش کنند.

این ویژگی در قالب سیستم «دیپ‌مایند» (Deep Mind) توسعه پیدا میکند و بتازگی تیم تحقیق آن مقاله‌ای را منتشر کرده که فریم‌ورک پایه آن معرفی شده است.

دو نفر از نویسندگان این مقاله میگویند برای انسانها کاملا ضروری است که در صورت بروز رفتارها و کارهای خرابکارانه AI قادر باشند کلید قرمز آن را فشار دهند و جلوی اعمال نادرستش را بگیرند.

اما نباید به خود سیستمها قدرت از کار انداختن کلید قرمز یا غیرفعال کردن آن داده شود.

آنها میگویند هرچه AIها باهوشتر میشوند ممکن است کارهایی از آنها سر بزند که انتظارشان را نداریم.

ولی نیازی به وحشت و نگرانی نیست چون ذهنهای خلاق و باهوش گوگل کنترل اوضاع را در اختیار دارند.