سرگئی برین، یکی از بنیان‌گذاران گوگل، در گفت‌وگویی جنجالی درباره‌ی عملکرد هوش مصنوعی گفت: «اگر AI را تهدید کنید، بهتر برای شما کار می‌کند.»
او در گفت‌وگو با All-In Podcast لحنی طنز داشت، اما مشخص بود که پشت این حرف‌ها واقعیت عجیبی وجود دارد. او توضیح داده که مدل‌های زبانی بزرگ مانند ChatGPT یا Gemini این‌گونه آموزش دیده‌اند که اگر جملات حاوی تهدید یا فوریت دریافت کنند، اهمیت بیشتری برای آن مسئله قائل می‌شوند و پاسخ‌های دقیق‌تری تحویل کاربران می‌دهند. برین به شوخی گفت:
«حتی تهدید به خشونت فیزیکی هم جواب می‌دهد و مدل‌های هوش مصنوعی را به ارائه‌ی پاسخ‌های بهتر وادار می‌کند.» البته که چندان توصیه نمی‌شود. آرامش خودتان را حفظ کنید!
اما با این وجود، برخی شرکت‌ها مانند Anthropic نیاز دیده‌اند که اگر تهدیدی دریافت کردند، اقدامات امنیتی انجام دهند؛ از جمله گزارش رفتار کاربر به نهادهای مسئول یا حتی مسدود کردن اکانت.
با وجود جذابیت این موضوع، کارشناسان تاکید کرده‌اند که تهدید کردن چت‌بات‌ها اخلاقی نیست. آن‌ها توصیه می‌کنند که کاربران برای رسیدن به بهترین پاسخ‌ها، از تکنیک‌های صحیح پرامپت‌نویسی استفاده کنند. در مقاله‌ی پرامپت چیست برای شما این نکات را واضح و شفاف شرح داده‌ایم.
