«چت‌جی‌پی‌تی» به سپر امنیتی تازه مجهز می‌شود

ICTPRESS - شرکت اپن‌ای‌آی از افزودن یک حالت امنیتی تازه به چت‌جی‌پی‌تی خبر داد.

به گزارش شبکه خبری ICTPRESS به نقل از ورج، شرکت اپن‌ای‌آی اعلام کرد قابلیت جدیدی با عنوان «Lockdown Mode» را به چت‌جی‌پی‌تی اضافه می‌کند؛ حالتی امنیتی که برای کاربران عادی «ضروری نیست» اما با هدف کاهش ریسک حملات پیشرفته طراحی شده است.

بر اساس توضیح این شرکت، این حالت نحوه تعامل چت‌جی‌پی‌تی با سیستم‌ها و منابع خارجی را به‌طور جدی محدود می‌کند تا احتمال سوءاستفاده از طریق حملات موسوم به «تزریق پرامپت» کاهش یابد.

این نوع حمله می‌تواند مدل را فریب دهد تا اطلاعات حساس را از محیط‌های متصل استخراج کرده و در اختیار مهاجم قرار دهد. به گفته اپن‌ای‌آی، این حالت امنیتی ارتباطات خارجی را به حداقل می‌رساند و مسیرهای احتمالی «خروج غیرمجاز داده» را مسدود می‌کند.

با این حال، فعال‌سازی آن می‌تواند برخی قابلیت‌های تعاملی یا یکپارچگی‌های پیشرفته را محدود کند؛ به همین دلیل برای اغلب کاربران توصیه نشده و بیشتر برای سناریوهای حساس سازمانی یا محیط‌های پرریسک کاربرد دارد.

افزوده شدن Lockdown Mode نشان می‌دهد نگرانی‌ها درباره امنیت ابزارهای هوش مصنوعی مولد و نحوه تعامل آن‌ها با داده‌های بیرونی، به یکی از محورهای اصلی توسعه این فناوری تبدیل شده است.