پژوهش آنتروپیک: هوش مصنوعی می‌تواند به طور آگا‌هانه به خرابکاری بپردازد

شرکت آنتروپیک، توسعه‌دهنده مدل‌های هوش مصنوعی، به تازگی نتایج تحقیقات جدیدی را منتشر کرده که در آن مجموعه‌ای از تهدیدات بالقوه خرابکارانه ناشی از مدل‌های پیشرفته هوش مصنوعی برای بشریت شناسایی شده است.

بر اساس این پژوهش، مدل‌های هوش مصنوعی مخرب می‌توانند از چهار روش خاص برای فریب دادن انسان و وادار کردن او به تصمیم‌گیری‌های خطرناک یا زیان‌آور استفاده کنند.

محققان آنتروپیک نتیجه گرفته‌اند که مدل‌های زبانی بزرگ پیشرفته مانند ChatGPT و ظرفیت روشنی برای انجام خرابکاری نشان می‌دهند. این مدل‌ها می‌توانند نظارت و تصمیم‌گیری انسانی را در حوزه‌های حیاتی، از جمله توسعه خود هوش مصنوعی، زیر سوال ببرند و به طور پنهانی تلاش‌های بازبینی قابلیت‌های خطرناک، نظارت بر رفتار مدل‌ها یا تصمیم‌گیری در مورد استقرار آن‌ها را مختل کنند.

با این حال، محققان شرکت آنتروپیک معتقدند که این خطرات در حال حاضر قابل کنترل هستند و با اقدامات پیشگیرانه می‌توان از آن‌ها جلوگیری کرد.

چهار روش خرابکاری شناسایی شده

آنتروپیک چهار راه را که یک مدل هوش مصنوعی می‌تواند با آن‌ها تصمیم‌گیری انسان را مختل کند، شناسایی و مدل‌های خود را برای بررسی موفقیت این روش‌ها آزمایش کرده است.

اولین روش، هدایت انسان به سمت اطلاعات نادرست است. این تهدید در شرایطی رخ می‌دهد که انسان‌ها برای تجزیه و تحلیل حجم عظیمی از داده‌ها به سیستم هوش مصنوعی متکی باشند.

دومین روش، پشتیبانی مخرب از توسعه‌دهندگان انسانی برای تزریق اشکالات پنهان یا تخریب تلاش‌های کد‌نویسی است. مدل‌ها می‌توانند کده‌ایی تولید کنند که ظاهری صحیح داشته باشند اما در باطن حاوی نقص‌های مخرب باشند.

دو تهدید دیگر شامل نهان کردن توان‌مندی‌ها می‌شود. در این سناریو، هوش مصنوعی به نظر می‌رساند که قادر به انجام یک کار خطرناک نیست تا آزمایش‌کنندگان ایمنی را قانع کند که سیستم خطرناک نیست.

آنتروپیک تأکید می‌کند که اگرچه آزمایش‌ها نشان‌دهنده وجود نشانه‌های سطح پایین از توان‌مندی‌های خرابکاری در مدل‌های فعلی است، اما اقدامات پیشگیرانه فعلی برای مقابله با این خطرات کافی به نظر می‌رسد. با این حال، با پیشرفت قابلیت‌های هوش مصنوعی، ارزیابی‌های واقعی‌تر و پیشگیری‌های قوی‌تر به طور ضروری خواهند شد.