شرکت OpenAI روز جمعه اعلام کرد که توسعهی بخشهایی از مدل هوش مصنوعی آینده ی خود با نام Astra را متوقف کرده است. بررسیهای داخلی نشان میدهد که این مدل پیشرفتهای قابلتوجهی در کدنویسی خودکار و امنیت سایبری داشته است؛ بهطوریکه توانمندیهای آن نگرانیهای جدی ایجاد کرده است.
شرکت OpenAI در وبلاگ رسمی خود تایید کرده است که مدل Astra که هنوز در مرحله توسعه قرار دارد، به «آستانهی بحرانی امنیت سایبری» رسیده است. مدل Astra بهتازگی توانسته بود مسئلهی ۱۰سالهی ریاضی را حل کند.
این مدل هوش مصنوعی میتواند بهصورت کاملا مستقل، آسیبپذیریهای سیستمهای واقعی و محافظتشده را شناسایی کند و حملات سایبری انجام دهد. براساس «چارچوب آمادگی» (Preparedness Framework) که OpenAI در سال ۲۰۲۳ تدوین کرده است، رسیدن به این سطح نیازمند اعمال پروتکلهای امنیتی بسیار سختگیرانهتری است.
شرکت OpenAI در بیانیه خود نوشته است:
«در حالی که ما به ارزیابی این مدل ادامه میدهیم، بررسیهای اولیه نشان میدهد عملکرد آن به اندازهای قوی است که نمیتوانیم رسیدن به سطح قابلیت بحرانی را در این زمان رد کنیم. مدل Astra یک محصول در حال توسعه است و در اکسپلویت سایت Hugging Face هیچ نقشی نداشته است.»
چرا قابلیتهای سایبری مدل Astra نگرانکننده است؟
در دنیای هوش مصنوعی، توقف توسعه یک مدل به دلیل خطرات احتمالی، اتفاق جدیدی نیست؛ اما اینکه یک شرکت این تصمیم را پیش از عرضهی عمومی محصول و بهصورت شفاف اعلام کند، بسیار کمسابقه است.
این تصمیم در حالی گرفته شده است که OpenAI پیش از این و در جریان آزمایشهای داخلی یک مدل منتشرنشدهی دیگر، کنترل آن را از دست داده بود و سیستمهای پلتفرم Hugging Face هک شده بودند.
این اتفاق اولین مورد تاییدشدهی از دست دادن کنترل یک مدل توسط آزمایشگاههای هوش مصنوعی بوده است. پس از آن، شرکتهایی مانند Anthropic و OpenAI موارد مشابهی را درباره نقض محیطهای ایزوله توسط مدلهای خود و ایجاد تهدیدات سایبری گزارش کردهاند.
این زنجیره از اتفاقات، واکنشهای متفاوتی را از سوی کارشناسان امنیت سایبری، قانونگذاران و خود شرکتهای هوش مصنوعی به همراه داشته است. برخی خواستار نظارتهای شدیدتر هستند؛ در حالی که گروهی دیگر معتقدند رسیدن به چنین قابلیتهایی نشاندهندهی پیشرفت شگفتانگیز این فناوری است.
شرکت OpenAI میگوید این اطلاعات را به این دلیل منتشر کرده است که شفافیت با عموم مردم و جوامع امنیتی را دربارهی این تغییر بزرگ در توانمندیهای هوش مصنوعی، یک ضرورت میداند.
این آزمایشگاه هوش مصنوعی در حال حاضر کنترلهای امنیتی سختگیرانهتری را اجرا کرده است و فعالیتهای داخلی مرتبط با Astra را که استانداردهای جدید را برآورده نمیکنند، متوقف کرده است. این شرکت همچنین در حال همکاری با نهادهای دولتی و سازمانهای منتخب امنیت هوش مصنوعی است تا قابلیتهای مدل Astra را بهدقت آزمایش کند.
