ChatGPT حالا در مواقع بحرانی به مخاطب مورد اعتماد کاربر هشدار می‌فرستد

هوش مصنوعی این بار پا را از پاسخگویی به سوالات روزمره فراتر گذاشته و به یک نگهبان دیجیتال برای سلامت روان بدل شده است. OpenAI قابلیت تازه‌ای تحت عنوان «مخاطب مورد اعتماد» (Trusted Contact) را به چت‌بات محبوب خود افزوده که در صورت شناسایی نشانه‌های هشداردهنده خودآزاری، بی‌سروصدا فردی قابل اطمینان از سوی کاربر را مطلع می‌سازد. این ویژگی نوآورانه تلاش دارد پلی میان دنیای ماشین‌ها و حمایت عاطفی انسانی برقرار کند.

مکانیسم فعال‌سازی و عملکرد Trusted Contact

فعال‌سازی این ویژگی که به تدریج در تنظیمات حساب کاربران بزرگسال ظاهر می‌شود، کاملاً داوطلبانه و اختیاری طراحی شده است. برای راه‌اندازی آن کاربر باید شخصی را به عنوان مخاطب مورد اعتماد برگزیند که حداقل ۱۸ سال (در کره جنوبی ۱۹ سال) داشته باشد. سپس دعوت‌نامه‌ای الکترونیکی شامل شرح وظایف این نقش حساس برای آن فرد ارسال می‌شود و او یک هفته مهلت دارد که مسئولیت را بپذیرد.

نکته مهم این است که ارسال پیام به این فرد کاملاً بر پایه قضاوت لحظه‌ای ماشین نیست. وقتی الگوریتم‌های نظارتی یک مکالمه را در دسته پرخطر طبقه‌بندی می‌کنند، ابتدا خود چت‌بات با لحنی مراقبتی کاربر را از احتمال اطلاع‌رسانی به مخاطب مورد اعتماد آگاه می‌کند و او را تشویق می‌کند خودش تماس بگیرد. ابزار حتی چند جمله پیشنهادی برای شروع این گفت‌وگوی دشوار نیز ارائه می‌دهد.

نقش حیاتی کارشناسان انسانی در ارسال هشدار

برای جلوگیری از هشدارهای اشتباه و آسیب‌های روحی ناخواسته، یک تیم کوچک اما متخصص انسانی وارد عمل می‌شود. این کارشناسان وضعیت اضطراری را وارسی کرده و تنها در صورتی که خطر قریب‌الوقوع تأیید شود، از طریق ایمیل، پیامک یا اعلان درون‌برنامه‌ای مخاطب مورد اعتماد را با خبر می‌کنند. OpenAI متعهد شده این فرایند بازبینی انسانی را در کمتر از یک ساعت تکمیل کند. نکته مهم حفظ حریم خصوصی است؛ هشدار ارسالی حاوی متن گفت‌وگوها یا جزئیات محرمانه نبوده و صرفاً خطر بالقوه را اطلاع‌رسانی می‌کند.

از نوجوانان تا بزرگسالان؛ فلسفه وجودی این ویژگی

قابلیت «مخاطب مورد اعتماد» در امتداد برنامه جامع ایمنی OpenAI برای مراقبت از کاربران شکل گرفته است. این شرکت پیشتر برای حساب‌های نوجوانان، سیستمی طراحی کرده بود که والدین را از مشاهده محتوای آشفته‌کننده آگاه سازد و حالا نسخه ویژه بزرگسالان نیز از راه رسیده است. برای پایه‌ریزی علمی این ویژگی، OpenAI با مراجع معتبری چون انجمن روان‌شناسی آمریکا (APA) و سایر پژوهشگران حوزه سلامت روان همکاری نزدیک داشته تا از صحت پروتکل‌ها اطمینان حاصل کند. با این همه، متولیان پروژه شفاف‌سازی کرده‌اند که این ابزار به هیچ‌وجه جایگزین اورژانس اجتماعی یا مداخلات تخصصی روان‌پزشکی نیست و صرفاً یک لایه کمکی هشدار اولیه به شمار می‌رود.