نوآوری‌های هم‌افزا، الگوریتم‌های نوین

سپر با سوراخ کلید سبز روشن روی پس‌زمینه تیره و مدارهای نورانی

مدل‌های دومنظوره و دسترسی مرحله‌ای؛ درسی از Gemini 4 Argon

تاریخ انتشار
۱۴۰۵/۰۷/۱۷, ۱۶:۳۳:۲۰
دسته‌بندی
امنیت و ریسک
نویسنده
ادمین
زمان مطالعه
۵ دقیقه مطالعه

مقدمه: مدلی که هم می‌تواند دفاع کند و هم حمله

در ۸ مهر ۱۴۰۵ (۳۰ سپتامبر ۲۰۲۶) گوگل از Gemini 4 Argon رونمایی کرد. نکته جالب‌تر از خود مدل، شیوه عرضه آن بود: اولین دسترسی به «مدافعان سایبری مورد اعتماد» در برنامه‌ای به نام Fairwind داده شد و عرضه به بقیه مشتریان قرار است مرحله‌ای انجام شود.

چرا یک شرکت مدل جدیدش را به‌جای عرضه همگانی، اول به گروهی خاص می‌دهد؟ پاسخ در مفهومی است که در امنیت هوش مصنوعی بسیار مهم است: دومنظوره بودن (dual-use). در این مقاله این مفهوم و پیامدهایش برای سازمان‌ها را بررسی می‌کنیم.

هوش مصنوعی در مدیریت آسیب‌پذیری چه می‌کند؟

هر نرم‌افزار بزرگی صدها نقطه ضعف احتمالی دارد. فرایند معمول دفاع این مراحل را دارد:

  1. کشف: پیدا کردن بخش‌هایی از کد که ممکن است قابل سوءاستفاده باشد.
  2. اولویت‌بندی: تشخیص اینکه کدام مورد واقعاً خطرناک است و کدام هشدار الکی.
  3. وصله: نوشتن و آزمودن تغییری که مشکل را رفع کند. مدل‌های زبانی مدرن می‌توانند کد را بخوانند، الگوهای ناامن را شناسایی کنند و حتی وصله پیشنهاد دهند. بنچمارک‌هایی مثل CWE-bench توانایی مدل‌ها را در همین نوع کارها می‌سنجند؛ CWE یعنی Common Weakness Enumeration، فهرست استانداردی از انواع ضعف‌های نرم‌افزاری.

گوگل می‌گوید Argon در CWE-bench v1 به امتیاز ۶۸ درصد رسیده و در رتبه اول مشترک است. این عدد را خود گوگل منتشر کرده و هنوز ارزیابی مستقلی برای آن وجود ندارد، پس آن را باید «ادعای شرکت» دید، نه واقعیت قطعی.

مشکل دومنظوره بودن

مهارتی که به یک مدافع کمک می‌کند ضعف را پیدا و رفع کند، در دست یک مهاجم می‌تواند همان ضعف را پیدا و از آن استفاده کند. فناوری خودش «خوب» یا «بد» نیست؛ کاربرد آن تعیین می‌کند.

به همین دلیل بیشتر شرکت‌ها برای قابلیت‌های سایبری دو لایه محافظت دارند: محدودیت‌هایی که خود مدل دارد (guardrails) و کنترل اینکه چه کسی به چه نسخه‌ای دسترسی دارد.

بر اساس گزارش‌ها، در برنامه Fairwind مدافعان مورد اعتماد و تیم‌های داخلی گوگل نسخه‌ای «بدون محدودیت‌های سایبری» دریافت می‌کنند تا بتوانند از کل توان مدل برای دفاع استفاده کنند. جزئیات دقیق شرایط ورود و تعهدات اعضای برنامه در گزارش‌هایی که بررسی کردیم منتشر نشده بود، پس درباره آن حدس نمی‌زنیم.

دسترسی مرحله‌ای چیست و چرا الگوی خوبی است؟

به‌طور کلی دسترسی مرحله‌ای (staged access) یعنی یک قابلیت قدرتمند به‌جای عرضه یک‌باره به همه، در چند گام عرضه شود:

  • گام اول: گروه کوچکی از کاربران شناسایی‌شده و مسئول.
  • گام دوم: مشتریان پولی و ثبت‌شده با API.
  • گام سوم: عرضه گسترده‌تر پس از جمع‌آوری بازخورد و رفع مشکلات. مزیت این روش این است که قبل از دسترسی همگانی، فرصتی برای دیدن سوءاستفاده‌های واقعی، اصلاح محافظت‌ها و بازخورد مدافعان وجود دارد. عیب آن هم روشن است: مدافعانی که در برنامه نیستند، دیرتر به قابلیت می‌رسند.

مدل Argon هم طبق گزارش‌ها همین مسیر را می‌رود: اول مدافعان، سپس مشتریان API و مشترکان پلن Ultra. تاریخ عرضه عمومی هنوز اعلام نشده است.

سازمان شما چه کار کند؟

حتی اگر به چنین مدلی دسترسی ندارید، همین الان می‌توانید آماده شوید:

  • فرایند وصله را مرتب کنید. ابزار هوشمند فقط وقتی به کار می‌آید که فرایند بازبینی و استقرار وصله مشخص باشد.
  • انسان را در حلقه نگه دارید. پیشنهاد وصله از مدل باید قبل از اعمال بررسی و آزمایش شود.
  • محیط آزمایش جدا داشته باشید. هر ابزار خودکار تحلیل کد را در sandbox اجرا کنید.
  • دسترسی‌ها را محدود کنید. کلیدها و توکن‌ها نباید در اختیار ابزاری باشند که فقط به خواندن کد نیاز دارد.
  • فهرست وابستگی‌ها (SBOM) را به‌روز نگه دارید تا بدانید هر آسیب‌پذیری تازه به کدام بخش شما مربوط است.
  • ادعاهای بنچمارک را با داده خودتان بسنجید. مدلی که در آزمون عمومی خوب است، ممکن است روی کد شما این‌طور نباشد.

جمع‌بندی

Gemini 4 Argon نمونه‌ای از روندی است که احتمالاً در مدل‌های بعدی هم دیده می‌شود: قابلیت‌های سایبری قدرتمند، همراه با عرضه محتاطانه و مرحله‌ای. برای سازمان‌ها پیام روشن است: هوش مصنوعی در دفاع سایبری مفید است، اما هر ابزار دومنظوره باید با کنترل دسترسی، بازبینی انسانی و آزمایش مستقل همراه شود.