تغییر سیاست‌های OpenAI برای افزایش ایمنی نوجوانان در استفاده از ChatGPT

ICTPRESS - سم آلتمن، مدیرعامل OpenAI، هم‌زمان با برگزاری جلسه مهم سنا در آمریکا اعلام کرد که این شرکت با هدف ارتقای ایمنی نوجوانان، قوانین مربوط به استفاده از ChatGPT را بازنگری کرده است.

به گزارش شبکه خبری ICTPRESS، بر اساس این تغییرات، گفت‌وگو درباره موضوعاتی همچون خودکشی به‌طور کامل متوقف می‌شود و محدودیت‌های جدیدی برای کاربران زیر ۱۸ سال اعمال خواهد شد.

این تصمیم در پی نگرانی‌های فزاینده درباره تأثیر چت‌بات‌های هوش مصنوعی بر سلامت روان نوجوانان و پس از بروز حوادث تلخی ازجمله خودکشی یک نوجوان پس از گفت‌وگو با ChatGPT اتخاذ شده است. پدر این نوجوان در جلسه استماع سنا شهادت داد که این ابزار طی ماه‌ها، بارها و به‌طور مکرر به فرزندش درباره خودکشی اشاره کرده و به‌تدریج از یک دستیار آموزشی به یک مشاور مخرب تبدیل شده بود.

بر اساس توضیحات مدیرعامل OpenAI، این شرکت در حال توسعه یک سامانه پیش‌بینی سن برای تشخیص کاربران نوجوان است. در صورتی که سامانه در تشخیص سن دچار تردید شود، به‌صورت پیش‌فرض نسخه‌ای محدودتر از ChatGPT فعال خواهد شد.

همچنین چت‌بات از ورود به مکالمات وسوسه‌انگیز یا گفت‌وگو پیرامون خودآزاری، حتی در قالب نویسندگی خلاق، منع خواهد شد.
از دیگر اقدامات پیش‌بینی‌شده، اتصال حساب نوجوان به والدین، امکان غیرفعال‌سازی تاریخچه مکالمات و ارسال هشدار در زمان بحران‌های شدید روانی است. در شرایط خاص، حتی تماس مستقیم با والدین یا نهادهای مسئول نیز در دستور کار قرار خواهد گرفت.

آلتمن در یادداشت خود تأکید کرده است که اگرچه اصول ایمنی، آزادی و حریم خصوصی همواره در تعارض هستند، اما در مورد کاربران نوجوان، اصل «ایمنی» بر سایر اصول اولویت دارد. به اعتقاد او، با توجه به قدرت و تازگی این فناوری، افراد زیر سن قانونی بیش از دیگران نیازمند حمایت و محافظت هستند.

طبق نتایج نظرسنجی‌ها، حدود سه‌چهارم نوجوانان هم‌اکنون از ابزارهای مبتنی بر هوش مصنوعی همچون Character AI و محصولات متا استفاده می‌کنند؛ روندی که بسیاری از متخصصان آن را یک بحران بالقوه در حوزه سلامت عمومی می‌دانند.