به گزارش وبلاگ رسمی کمپانی OpenAI، قابلیت داغ و جدید Trusted Contact یک ویژگی ایمنی اختیاری در ChatGPT است که به کاربران بزرگسال اجازه میدهد یک فرد مورد اطمینان (مانند یک دوست، یکی از اعضای خانواده یا پرستار خود) را به عنوان مخاطب اضطراری معرفی کنند. در صورتی که سیستمهای هوشمند خودکار و کارشناسان آموزشدیده این شرکت تشخیص دهند کاربر در گفتگوهای خود با هوش مصنوعی ایده آسیب زدن به خود را مطرح کرده است، پیامی هشداردهنده برای فرد مورد اطمینان ارسال خواهد شد.
این ویژگی در واقع لایه حمایتی جدیدی در کنار خطوط تلفنی امدادرسانی محلی است که پیش از این در چتجیپیتی فعال بوده است. هدف اصلی این طرح، کمک به برقراری ارتباط سریعتر با افرادی است که کاربر به آنها اعتماد دارد تا در لحظات بحران روحی تنها نماند.
قابلیت Trusted Contact چگونه کار میکند؟
تحقیقات علمی و روانشناسی ثابت کرده است که ارتباط اجتماعی فعال، یکی از قویترین فاکتورهای محافظتی برای کاهش خطر خودکشی است. دکتر «آرتور ایوانز»، مدیرعامل انجمن روانشناسی آمریکا (APA)، در این رابطه توضیح میدهد:
یافتههای علمی روانشناسی به صورت مداوم نشان میدهد که ارتباطات اجتماعی به ویژه در دورههای پریشانی عاطفی، نقش محافظتی فوقالعاده قدرتمندی ایفا میکند. کمک به افراد برای مشخص کردن یک فرد قابل اعتماد از قبل، در حالی که حق انتخاب و استقلال شخصی آنها حفظ میشود، دسترسی به حمایتهای دنیای واقعی را در زمانهای بحرانی بسیار سادهتر خواهد کرد.»
مراحل فعالسازی و کارکرد این قابلیت هوشمندانه به شرح زیر است:
- انتخاب مخاطب: کاربران میتوانند از بخش تنظیمات حساب کاربری خود در چتجیپیتی، یک فرد بزرگسال (بالای ۱۸ سال در سراسر جهان و بالای ۱۹ سال در کره جنوبی) را به عنوان مخاطب مورد اطمینان خود معرفی کنند.
- تأیید دعوتنامه :فرد معرفیشده یک ایمیل دعوت دریافت میکند که در آن وظایف و نقش او توضیح داده شده است. او یک هفته فرصت دارد تا این دعوت را بپذیرد تا قابلیت فعال شود. در صورت رد درخواست، کاربر میتواند شخص دیگری را جایگزین کند.
- پایش هوشمند و بررسی انسانی: اگر سیستمهای خودکار چتجیپیتی نشانهای جدی از افکار مربوط به آسیب به خود را در چتها شناسایی کنند، ابتدا به خود کاربر اطلاع داده میشود و پیامهایی برای شروع گفتگو با فرد مورد اطمینانش پیشنهاد میشود. همزمان، یک تیم کوچک از متخصصان آموزشدیده به سرعت موضوع را بررسی میکنند.
- ارسال هشدار: اگر این کارشناسان شرایط را بحرانی ارزیابی کنند، پیام هشدار کوتاهی از طریق ایمیل، پیامک یا اعلان درونبرنامهای به مخاطب مورد اطمینان ارسال میشود. بررسی انسانی این گزارشها معمولاً کمتر از یک ساعت طول خواهد کشید.
حفظ حریم خصوصی کاربران؛ اولویت اصلی OpenAI
کمپانی OpenAI تاکید کرده است که به هیچ عنوان جزئیات چتها یا متن دقیق گفتگوهای کاربر با هوش مصنوعی برای فرد مورد اطمینان فرستاده نخواهد شد. پیام ارسالی صرفاً یک هشدار کلی درباره وجود خطر آسیب به خود است و همراه با آن، راهنماهای تخصصی برای نحوه صحبت کردن با فرد آسیبدیده ارسال میشود. کاربران هر زمان که بخواهند میتوانند این مخاطب را حذف یا ویرایش کنند و مخاطب نیز میتواند در هر زمان عضویت خود را لغو کند.
اولویتدهی به ایمنی کاربران در تمام سطوح
علاوه بر این ویژگی تازه، چتجیپیتی به سپرهای ایمنی دیگری نیز برای هدایت گفتگوهای حساس مجهز شده است:
- پیشنهاد کمکهای واقعی: در شرایط اضطراری، چتجیپیتی شماره تماسهای اورژانسی و خطوط مشاوره روانی محلی را به کاربر ارائه میدهد.
- بهبود لحن و پاسخدهی: با همکاری بیش از ۱۷۰ متخصص سلامت روان، توانایی هوش مصنوعی در شناسایی نشانههای پریشانی عاطفی، آرام کردن فضا و تشویق کاربران به کمک گرفتن در دنیای واقعی بهبود یافته است.
- تشویق به استراحت: در موقعیتهای خاص، سیستم به کاربر پیشنهاد میدهد تا چتجیپیتی را ببندد، کمی استراحت کند و از فضای مجازی فاصله بگیرد.
- رد درخواستهای خطرناک: هوش مصنوعی به هیچ عنوان دستورالعمل یا روشی برای آسیب رساندن به خود ارائه نمیدهد و بلافاصله این درخواستها را مسدود کرده و راههای کمکی را نمایش میدهد.
معرفی این قابلیت ارزشمند، گامی مهم برای خروج ابزارهای هوش مصنوعی از انزوا و تبدیل آنها به پلی به سوی دنیای واقعی، روابط انسانی و مراقبتهای حیاتی است.
از دیگر اقدامات جدید OpenAI، رونمایی از مدل GPT-5.5 Instant بوده که باهوشتر، دقیقتر و شخصیسازیشدهتر است.
