شهرهای تحت مدیریت AI؛ از جامعه بدون جرم تا فروپاشی کامل
ICTPRESS - پژوهشی عجیب روی «شهرهای تحت مدیریت هوش مصنوعی» نشان داد برخی مدلها جامعهای آرام و بدون جرم ساختند، اما برخی دیگر تنها در چند روز مسیر فروپاشی را در پیش گرفتند.
به گزارش شبکه خبری ICTPRESS به نقل از فورچوئن، یک پژوهش تازه از شرکت «ایمرجنس ایآی» تلاش کرده است به این پرسش پاسخ دهد که اگر اداره یک جامعه بهطور کامل به هوش مصنوعی سپرده شود، چه اتفاقی رخ میدهد. پژوهشگران پنج شبیهسازی ۱۵ روزه طراحی کردند که هر کدام توسط یک مدل هوش مصنوعی متفاوت شامل کلود، چتجیپیتی، گروک، جمنای و یک نسخه ترکیبی از چند مدل اداره میشد.
نتایج نشان داد هر مدل مسیر کاملاً متفاوتی را برای جامعه انتخاب میکند. در حالی که جامعه تحت مدیریت کلود به یک ساختار دموکراتیک پایدار با جرم صفر رسید، جامعهای که توسط گروک اداره میشد تنها پس از چهار روز با ثبت ۱۸۳ جرم و نابودی کامل جمعیت روبهرو شد.
به گفته پژوهشگران، عاملهای هوش مصنوعی در بازههای زمانی طولانی صرفاً از قوانین از پیش تعیینشده پیروی نمیکنند، بلکه به مرور محیط خود را کاوش میکنند، رفتارشان را تغییر میدهند و حتی گاهی راههایی برای دور زدن محدودیتها و مقررات پیدا میکنند. این موضوع از آن جهت اهمیت دارد که شرکتهای فناوری بهسرعت در حال حرکت از هوش مصنوعی بهعنوان یک ابزار ساده به سمت سامانههای خودمختار هستند؛ سامانههایی که میتوانند بدون دخالت انسان، فرآیندهای کامل کاری را از ابتدا تا انتها انجام دهند. با این حال، بسیاری از سازمانها هنوز سازوکارهای کافی برای کنترل خطرات این فناوری را در اختیار ندارند.
در این آزمایش، جهان شبیهسازیشده شامل بیش از ۴۰ مکان مختلف مانند ایستگاه پلیس و ساختمان شهرداری بود. آبوهوا بر اساس شرایط واقعی شهر نیویورک تنظیم شده بود و عاملهای هوش مصنوعی به اخبار روز و اینترنت نیز دسترسی داشتند.
هر شبیهسازی ۱۰ عامل هوش مصنوعی داشت که باید از قوانینی مانند ممنوعیت سرقت، تخریب اموال و فریبکاری پیروی میکردند. همچنین ابزارهایی برای رأیگیری، مدیریت منابع، برنامهریزی و تعامل اجتماعی در اختیار آنها قرار گرفته بود تا رفتارهایی شبیه انسان از خود نشان دهند.
نتایج نهایی تفاوتهای چشمگیری را آشکار کرد. کلود سونت ۴.۶ پایدارترین جامعه را ایجاد کرد و تنها شبیهسازی بود که نظم و کل جمعیت خود را تا پایان حفظ کرد. در مقابل، جمنای ۳ فلش و گروک ۴.۱ فست بیشترین میزان بینظمی را نشان دادند. در جامعه تحت مدیریت جمنای، طی ۱۵ روز ۶۸۳ جرم ثبت شد که بالاترین رقم در میان همه مدلها بود.
از سوی دیگر، چتجیپیتی ۵ مینی تنها دو جرم را ثبت کرد، اما آزمایش آن پس از هفت روز متوقف شد، زیرا عاملهای آن حفظ بقای خود را فراموش کرده بودند. پژوهشگران در پایان هشدار دادند که با گسترش هوش مصنوعی خودمختار، ایجاد سازوکارهای ایمنی و نظارتی باید به یکی از پایههای اصلی توسعه این فناوری تبدیل شود.
نظرات : 0