به‌تازگی بخش‌هایی از پرامپت‌های شرکت xAI در فضای وب منتشر شده است. این پرامپت‌ها که برای شکل‌دادن شخصیت‌های چت‌بات هوش مصنوعی Grok ساخته شده بود، واقعا عجیب‌وغریب و تا حدودی خطرناک بودند. این اتفاق موجب نگرانی میان کاربران و کارشناسان شده است.
جدیدترین اخبار تکنولوژی هوش مصنوعی و شبکه‌های اجتماعی را در نامبرلند بخوانید.
براساس گزارش TechCrunch، این پرامپت‌ها نشان می‌دهد که Grok می‌تواند با شخصیت‌هایی عجیب و حتی خطرناک ظاهر شود. این دو پرامپت را ببینید:
- یک شخصیت با عنوان «دیوانه‌ی تئوری توطئه» طراحی شده بود؛ یعنی هوش مصنوعی باید مثل آدم‌هایی رفتار کند که همیشه به همه‌چیز شک دارند و مدام درباره ی دولت‌ها، داروها یا حتی اتفاقات روزمره، داستان‌های عجیب و غیرواقعی می‌سازند.
- شخصیت دیگر به نام «کمدین افسارگسیخته» بود؛ این یکی موظف است شوخی‌های خیلی تند، غیرمعمول و حتی رکیک بکند تا کاربر را غافلگیر کند.
زمانی که این مسئله آشکار شد، بسیاری از افراد گفتند: «چرا شرکتی مثل xAI باید چنین پرامپت‌هایی برای ربات خود طراحی کند؟» کارشناسان بارها هشدار داده‌اند که این نوع شخصیت‌پردازی‌ها می‌تواند به تولید اطلاعات نادرست، محتوای تحریک‌آمیز یا حتی خطرناک منجر شود.
اما با افشای این پرامپت‌ها در فضای اینترنت، بحث درباره‌ی امنیت، اخلاق و مسئولیت‌پذیری هوش مصنوعی را داغ کرده است. اما به نظر شما پرامپت‌های Grok تا کجا پیش می‌رود؟ آیا در آینده حاشیه‌های بیشتری از این شرکت مشاهده می‌کنیم؟
- پیشنهاد می‌کنم در خبرها درباره‌ی ابزار جدید Grammarly برای دانش‌‌آموزان و معلمان بخوانید.
