پنهان‌سازی هشدارهای ایمنی در خلاصه‌های هوش مصنوعی گوگل

ICTPRESS - تحقیقات تازه نشان می‌دهد گوگل هشدارهای ایمنی مرتبط با موضوعات حساس مانند سلامت را در خلاصه‌های هوش مصنوعی خود به‌صورت کم‌رنگ و پنهان نمایش می‌دهد و این موضوع می‌تواند کاربران را در معرض خطر قرار دهد.

به گزارش شبکه خبری ICTPRESS به نقل از گاردین، تحقیقات درباره خطر خلاصه‌های هوش مصنوعی گوگل نشان می‌دهد که شرکت گوگل در ارائه خلاصه‌های AI Overviews (اطلاعات خلاصه‌سازی‌شده با هوش مصنوعی که بالای نتایج جست‌وجو نمایش داده می‌شود) هشدارها و توضیحات ایمنی درباره موضوعات حساس مانند سلامت را به گونه‌ای کم‌رنگ و پنهان می‌کند و این موضوع می‌تواند کاربران را در معرض خطر قرار دهد.

نحوه نمایش هشدارها

خلاصه‌های هوش مصنوعی معمولاً پاسخ سریع به سوالات کاربران فراهم می‌کنند، اما وقتی موضوع مربوط به سلامت باشد، هشدارهای ایمنی تنها پس از کلیک روی گزینه «Show more» ظاهر می‌شوند و در پایین محتوا و با فونتی کوچک و کم‌توجه نمایش داده می‌شوند. در نمایش اولیه هیچ پیام هشداری درباره احتمال خطا یا نیاز به مشورت با متخصص دیده نمی‌شود.

کارشناسان از مؤسساتی مانند ام‌آی‌تی و استنفورد این عملکرد گوگل را مورد انتقاد قرار داده و می‌گویند اولاً مدل‌های هوش مصنوعی هنوز می‌توانند اشتباه کنند و ثانیاً عدم نمایش واضح هشدارها باعث اعتماد بیش از حد کاربران به پاسخ‌های خلاصه‌سازی‌شده می‌شود که می‌تواند پیامدهای واقعی و خطرناکی به دنبال داشته باشد.

گوگل در واکنش گفته است که AI Overviews‌ کاربران را به جست‌وجوی مشاوره حرفه‌ای تشویق می‌کند و اغلب در متن خلاصه نیز اشاره به مشورت با پزشک دارد، اما نمی‌پذیرد که هشدارها در نمایش اولیه غایب اند یا کم‌رنگ‌اند.

پس از گزارش‌ها درباره اطلاعات غلط و خطرناک در خلاصه‌های هوش مصنوعی، گوگل برخی از این خلاصه‌ها را در موارد خاص از نتایج حذف کرده است، اما منتقدان می‌گویند این اقدامات هنوز کافی نیست و نیاز به هشدارهای آشکارتر در بالای پاسخ‌ها وجود دارد تا کاربران نسبت به احتمال خطا آگاه شوند.