اگر قصد دارید از چت بات هوش مصنوعی کوپایلوت برای اهداف شوم و یا گرفتن پاسخ‌های غیر اخلاقی استفاده کنید، مایکروسافت جلوی شما را می‌گیرد!
در پست وبلاگی مایکروسافت، این شرکت از فناوری جدیدی به نام Prompt Shields خبر داد که برای محافظت از چت بات هوش مصنوعی کوپایلوت طراحی شده است. این فناوری از کوپایلوت در برابر جیل‌بریک شدن (فریب خوردن و دادن پاسخ‌های ممنوعه) یا حمله‌های سایبری محافظت می‌کند.
لزوم وجود سپرهای امنیتی برای چت بات‌ها
این اقدامات مایکروسافت در جهت امنیت و اخلاقی‌تر شدن چت بات کوپایلوت صورت می‌گیرد؛ چراکه با وجود سپرهای امنیتی فعلی، گاهی اوقات کاربران پاسخ‌های عجیب و ناشایست از کوپایلوت (مثل بدرفتاری و تشویق به رفتارهای خشونت آمیز) می‌دیدند یا به راحتی می‌توانستند این چت بات را گول بزنند و از او پاسخ‌های مخرب بگیرند.
اما این ابزار جدید مایکروسافت، قادر است هرگونه حمله مستقیم و غیرمستقیم یا تلاش برای فریب دادن را شناسایی کند و بلافاصله مکالمه را قطع کند. احتمالا برای کاربرانی که قصد جیل‌بریک کردن کوپایلوت را داشته باشند هم جریمه‌هایی وجود خواهد داشت.
