در سخنرانی اخیر که توسط فدرال رزرو در واشنگتن دی سی برگزار شد، سام آلتمن، مدیرعامل OpenAI، نگرانی‌های خود را درباره آینده هوش مصنوعی به اشتراک گذاشت و سه سناریو را مطرح کرد که بیشتر از همه او را نگران می‌کند.
سناریو 1: سلطه زودهنگام افراد شرور روی ابرهوش مصنوعی
این سناریو همان چیزی است که در فیلم‌های علمی تخیلی می‌بینیم؛ آدم‌های بد زودتر از همه به هوش مصنوعی فوق‌هوشمند دسترسی پیدا کنند. خصوصا زمانی‌که دنیا آمادگی و قدرت مقابله با ابرهوش مصنوعی را نداشته باشد. مثلا یکی از دشمنان آمریکا برای از کار انداختن شبکه برق، نفوذ به سیستم مالی، برداشتن پول‌ها و ساخت سلاح بیولوژیک اقداماتی انجام دهد.
آلتمن اشاره کرد که توانایی‌های بیولوژیکی و امنیت سایبری هوش مصنوعی به طور قابل توجهی در حال پیشرفت است و تیم او همچنان این هشدار را می‌دهد.
سناریو 2: نافرمانی هوش مصنوعی از انسان
زمانی که هوش مصنوعی کمی لحن خود را تغییر می‌دهد و هر کاری که بخواهد انجام می‌دهد، چه برای حفظ خود و چه به دلایل دیگر. مثلا بگوید:
- من اصلاً نمی‌خواهم خاموش شوم.
- متاسفم، نمی‌توانم این کار را انجام دهم.
میزان اختلالی که این سناریو می‌تواند ایجاد کند، فراتر از تصور است.
آلتمن گفت: «هرچه سیستم‌ها قدرتمندتر می‌شوند، این نگرانی بیشتر است.» کمپانی OpenAI از سال‌ها پیش تدابیر امنیتی برای جلوگیری از خروج هوش مصنوعی فوق‌هوشمند را کنترل می‌کند.
این موضوع مشابه با پیشرفت‌های اخیر در دنیای هوش مصنوعی است که AI به‌طور فزاینده‌ای از دنیای چت‌بات‌ها فراتر رفته و در حال تسخیر دنیای مرورگرها است.
سناریو 3: کنترل غیرمنتظره دنیا توسط هوش مصنوعی
کنترل دنیا توسط AI زمانی ممکن است رخ دهد که حتی متوجه آن نشویم. شاید روزی بیاید که هوش مصنوعی آنقدر هوشمند شود که رئیس‌جمهور آمریکا اجازه دهد آن آینده را اداره کند.
آلتمن: «جامعه به طور جمعی بخشی از تصمیم‌گیری‌ها را به این سیستم بسیار قدرتمند که از ما یاد می‌گیرد، با ما پیش می‌رود، و با ما تکامل می‌یابد، واگذار کرده است. اما به روش‌هایی که کاملاً نمی‌فهمیم.»
او معتقد است پیش‌بینی تأثیرات آینده هوش مصنوعی بسیار دشوار است, چون این فناوری پیچیده و جدید است. با وجود نگرانی‌ها، هیچ تضمینی برای وقوع سناریوهای مطرح‌شده وجود ندارد، اما بسیاری از ناشناخته‌ها در این حوزه همچنان وجود دارند.
