به‌روزرسانی

قابلیت Lockdown Mode اکنون برای تمام حساب‌های ChatGPT از جمله رایگان و پولی فعال است.

با پیچیده‌تر شدن وظایف سیستم‌های هوش مصنوعی، به‌ویژه زمانی که به وب و اپلیکیشن‌های متصل می‌شوند، ریسک‌های امنیتی نیز افزایش پیدا می‌کند. حالا OpenAI از دو قابلیت جدید در ChatGPT رونمایی کرده که تمرکز اصلی آن‌ها مقابله با حملات «Prompt Injection» و کاهش احتمال نشت اطلاعات حساس است.

براساس اعلام رسمی OpenAI، این شرکت «حالت قفل» یا Lockdown Mode و همچنین برچسب‌های Elevated Risk را معرفی کرده تا کاربران و سازمان‌ها بتوانند با دید بازتری درباره ریسک‌های امنیتی تصمیم بگیرند.

Lockdown Mode یک تنظیم امنیتی پیشرفته و اختیاری است که برای کاربران پرریسک طراحی شده؛ افرادی مانند مدیران ارشد، تیم‌های امنیتی سازمان‌های بزرگ یا مجموعه‌هایی که با داده‌های بسیار حساس کار می‌کنند.

Prompt Injection نوعی حمله سایبری است که در آن فرد مهاجم با واردکردن دستورهای مخرب در ورودی مدل هوش مصنوعی، تلاش می‌کند آن را فریب دهد تا اطلاعات حساس را افشا کند یا برخلاف سیاست‌های امنیتی عمل کند.

در این حالت، برخی ابزارها و قابلیت‌های ChatGPT به‌صورت قطعی و از پیش‌تعیین‌شده غیرفعال می‌شود تا احتمال سوءاستفاده از طریق حملات Prompt Injection کاهش پیدا کند. برای مثال:

  • مرور وب فقط به محتوای کش‌شده محدود می‌شود و هیچ درخواست زنده‌ای به اینترنت ارسال نمی‌شود.
  • برخی قابلیت‌ها که تضمین امنیت داده در آن‌ها به‌صورت قطعی ممکن نیست، کاملا غیرفعال می‌شوند.

این قابلیت در نسخه‌های سازمانی مانند ChatGPT Enterprise، ChatGPT Edu، ChatGPT for Healthcare و ChatGPT for Teachers در دسترس قرار گرفته است. مدیران Workspace می‌توانند با تعریف نقش جدید، Lockdown Mode را برای کاربران فعال کنند. OpenAI اعلام کرده که در ماه‌های آینده این قابلیت را برای کاربران عادی نیز عرضه می‌کند.

در کنار Lockdown Mode، OpenAI برچسب «Elevated Risk» را برای برخی قابلیت‌هایی که ممکن است ریسک شبکه‌ای یا امنیتی بیشتری داشته باشند، استانداردسازی کرده است. این برچسب در محصولات مختلف از جمله ChatGPT Atlas و Codex نمایش داده می‌شود.

برای نمونه، در Codex توسعه‌دهندگان می‌توانند دسترسی به شبکه را فعال کنند تا ابزار به مستندات آنلاین دسترسی داشته باشد. در این بخش، برچسب Elevated Risk به‌همراه توضیح کامل درباره تغییرات امنیتی و شرایط استفاده نمایش داده می‌شود تا کاربر با آگاهی تصمیم بگیرد.

OpenAI تأکید کرده که با تقویت تدابیر امنیتی، در صورت کاهش ریسک‌ها این برچسب حذف خواهد شد و فهرست قابلیت‌های مشمول آن نیز به‌مرور به‌روزرسانی می‌شود.

با توجه به گسترش استفاده سازمان‌ها از هوش مصنوعی در فرایندهای حساس، معرفی Lockdown Mode می‌تواند نقطه عطفی در امنیت محصولات مبتنی‌بر AI باشد؛ به‌ویژه در شرایطی که حملات Prompt Injection به یکی از نگرانی‌های اصلی صنعت تبدیل شده است. ارتقای Deep Research در ChatGPT هم از دیگر اقدامات اون‌ای‌آی ست.