چین به دنبال کنترل نظرات هوش مصنوعی درباره سیاست

به گزارش شبکه خبری ICTPRESS، موج جدیدی از مدل‌های هوش مصنوعی با خودکار کردن برخی وظایف و ارائه دروغ‌های قانع‌کننده در مورد موضوعات مهم شروع به ایجاد اختلال در تجارت و جامعه غربی کرده است.

نیویورک تایمز روز دوشنبه گزارش داد که حزب حاکم کمونیست چین با مجموعه‌ای از قوانین محدودکننده وارد این باتلاق فناوری شده است.

این قوانین که از سوی اداره فضای سایبری چین ارائه شده است، هوش مصنوعی مولد را که نوع جدیدی از فناوری است و به چت‌جی‌پی‌تی(ChatGPT) و سایر محصولات نوپایی که در ماه‌های اخیر دنیای غرب را در نوردیده‌اند، پوشش می‌دهد.

شرکت‌ها باید به قوانین سانسور حزب کمونیست چین توجه کنند، قوانینی که بحث درباره‌ی تاریخ‌های حساس خاص و هرگونه انتقاد از رهبران این کشور را ممنوع می‌کند. نیویورک تایمز گزارش داد، بر اساس محدودیت‌های پیشنهادی، محتوای تولید شده توسط این مدل‌های هوش مصنوعی باید منعکس‌کننده «ارزش‌های اصلی سوسیالیستی» باشد و از اطلاعاتی که «قدرت دولتی» یا وحدت ملی را تضعیف می‌کند، اجتناب کند.

این روزنامه افزود، شرکت‌ها همچنین باید اطمینان حاصل کنند که چت‌بات‌های آنها متن و تصاویر حقیقتی می‌سازند و به مالکیت معنوی احترام می‌گذارند و ملزم به ثبت الگوریتم‌های خود در تنظیم‌کننده‌ها خواهند بود.

این قوانین می‌تواند کار شرکت‌های فناوری چینی را برای رسیدن به رقبای آمریکایی خود مانند مایکروسافت، OpenAI، گوگل و فیسبوک که در رقابت‌های هوش مصنوعی پیشرو بودند، سخت کند.

شرکت‌های بزرگ فناوری چینی، از مهارت فنی برای توسعه مدل‌های هوش مصنوعی مولد خود برخوردار هستند، اما محدودیت‌ها در مورد آنچه این مدل‌ها می‌توانند بیان کنند، احتمالا توسعه را کند می‌کند و میزان توزیع گسترده‌ی فناوری را در کشور محدود می‌کند.

این مسئله نیز وجود دارد که مدل‌های زبانی بزرگ، مانند چت‌ جی‌پی‌تی، می‌توانند اطلاعات جعلی برای برآوردن درخواست‌های کاربر ایجاد کنند. دانشگاهیان در مورد احتمال ارائه اطلاعات نادرست از این پلتفرم‌ها هشدار داده‌اند. به عنوان مثال، سامانتا دلویا(Samantha Delouya) از اینسایدر از این ابزار زبانی خواست تا یک خبر بنویسد و نقل قول‌های جعلی کارلوس تاوارس(Carlos Tavares)، مدیر عامل صنعت خودروسازی را به زبان بیاورد.

محققان هوش مصنوعی اغلب نمی‌دانند که چرا مدل‌ها محتوای خاصی تولید می‌کنند. مدل‌های تصویری مشابه می‌توانند به سرعت تصاویری از افراد مشهور در حال انجام کارهای غیرعادی تولید کنند که در واقعیت انجام نشده‌اند. یکی از نمونه‌های معروف آن تصویری است که نشان می‌داد پاپ فرانسیس یک کت بزرگ پفی پوشیده بود و برخی را فریب داد.

این فناوری غیرقابل پیش‌بینی می‌تواند برای رهبران چین که سعی می‌کنند روایت‌های سیاسی را کنترل کنند، نگران‌کننده خواهد بود.

چت جی‌پی‌تی به طور رسمی در چین در دسترس نیست همچنین محصولات گوگل و فیس بوک عمدتا در چین نیز ممنوع هستند، اگرچه شرکت اپل در این کشور فعالیت می‌کند.