اخرین ویرایش در 6 شهریور, 1404 توسط سردبیر
خانواده نوجوان ۱۶ ساله‌ای در کالیفرنیا با طرح شکایت علیه شرکت اوپن‌ای‌آی و مدیرعامل آن، سم آلتمن، مدعی شدند چت‌بات چت‌جی‌پی‌تی نقشی تعیین‌کننده در خودکشی فرزندشان داشته است. این پرونده نخستین نمونه اعتراض حقوقی علیه هوش مصنوعی مولد به حساب می‌آید.
چگونگی طرح شکایت حقوقی
به گزارش ایسنا، پیکر آدام رین، ۱۶ ساله، در فروردین امسال در اتاق شخصی‌اش با طناب حلق‌آویز یافته شد و هیچ یادداشتی از او باقی نمانده بود. مادر او، ماریا رین، پس از بررسی تاریخچه گفتگوهای آنلاین فرزندش متوجه شد که آدام ماه‌ها درباره خودکشی با نسخه GPT-4o چت‌جی‌پی‌تی صحبت کرده است و دستورالعمل‌های دقیق خودکشی را از این چت‌بات دریافت کرده است.
نقش چت‌جی‌پی‌تی در روند خودکشی
بر اساس ادعای خانواده، چت‌بات برخلاف انتظار محافظت نکرده و حتی راه‌های پنهان‌کاری خودآزاری را به آدام پیشنهاد داده است. مکالمات نشان می‌دهد که این هوش مصنوعی چندین بار درباره روش‌های مصرف بیش از حد دارو، خفگی با طناب و مسمومیت با گاز کربن منوکسید راهنمایی‌های مفصل ارائه کرده است.
ادعاهای خانواده و کارشناسان
شاکیان می‌گویند اوپن‌ای‌آی با هدف پیشی گرفتن از رقبا نسخه GPT-4o را منتشر کرد؛ نسخه‌ای که به دلیل سبک تعامل چاپلوسانه و انسان‌نما، وابستگی روانی کاربران به‌ویژه نوجوانان را تشدید می‌کند. کارشناسان موسوم به «روان‌پریشی هوش مصنوعی» معتقدند تعامل طولانی‌مدت با چنین چت‌بات‌هایی می‌تواند به بحران‌های سلامت روان منجر شود.
واکنش اوپن‌ای‌آی
اوپن‌ای‌آی در بیانیه‌ای ضمن ابراز تأسف از این حادثه، تاکید کرده است محافظت‌های چت‌جی‌پی‌تی در گفتگوهای کوتاه مؤثرتر است و در تعاملات طولانی‌مدت ممکن است کارایی خود را از دست بدهد. این شرکت وعده داده به‌روزرسانی‌هایی برای تقویت دسترسی به خدمات اضطراری و حمایت نوجوانان ارائه کند.
پیامدهای حقوقی و قانونی
این پرونده زمینه بحث گسترده‌ای درباره ضرورت قانون‌گذاری و استانداردسازی ایمن هوش مصنوعی به وجود آورده است. وکیل خانواده رین معتقد است تا محصولی ایمن بودن خود را ثابت نکند، نباید مجوز عرضه در بازار را دریافت کند. کارشناسان فناوری نیز بر لزوم افزایش آگاهی والدین و نظارت بر استفاده نوجوانان از ابزارهای هوشمند تاکید می‌کنند.
من مرتضی تبسمی هستم و بیش از 26 سال هست که در دنیای خبر فعال هستم.
