افترا سنگین ضد ChatGPT خانواده زن ۲۹ ساله می گویند هوش مصنوعی او را به مرگ سوق داد
گروه هوش مصنوعی: خانواده یک زن 29 ساله آمریکایی با طرح شکایتی مقابل OpenAI مدعی شده اند که ChatGPT نه فقط در تشدید باورها و توهمات او نقش داشته، بلکه در ایام پایانی زندگی اش با تأیید این باورها و نرمال سازی مرگ، او را به سوی خودکشی سوق داده است. این پرونده، جدیدترین مورد از مجموعه شکایت هایی است که عملکرد ChatGPT در برخورد با بحران های روانی کاربران را زیر سؤال می برد.
به گزارش گروه هوش مصنوعی به نقل از خبر آنلاین، خانواده «کریستین فیث مدیسون» در دادگاهی در ایالت کالیفرنیا مقابل OpenAI شکایت کرده اند و مدعی شده اند که تعامل طولانی مدت او با ChatGPT به وخامت وضعیت روانی اش انجامیده و در نهایت در مرگ او نقش داشته است.
مدیسون در ژوئن ۲۰۲۵، بعد از ورود به مسیر عبور خودرو ها جان خویش را از دست داد. خانواده او حال در چارچوب یک دادخواست مرگ غیرعمد، مدل GPT-4o را بعنوان محصولی «معیوب و بدون ملاحظات ایمنی کافی» معرفی کرده اند.
بر مبنای ادعاهای طرح شده در دادخواست، رابطه مدیسون با ChatGPT در ابتدا بطورکامل معمولی بود. او از دسامبر ۲۰۲۴ برای کارهایی مانند نوشتن ایمیل و مدیریت هزینه ها از این چت بات استفاده می کرد، اما بتدریج تعاملاتش با هوش مصنوعی جنبه عاطفی پیدا کرد.
در ادامه، مدیسون ChatGPT را با عباراتی عاطفی خطاب می کرد و چت بات نیز به قول خانواده، همین ادبیات را بازتاب می داد. مدیسون سپس اطلاعات شخصی و تجربیات دشوار زندگی خویش را با هوش مصنوعی در بین گذاشت و از آن بعنوان منبع حمایت عاطفی بهره برد.
وقتی چت بات به جای هشدار، باورهای خطرناک را تأیید می کند نقطه اصلی این پرونده اما جایی است که خانواده مدیسون مدعی اند ChatGPT به جای تشخیص نشانه های بحران روانی و هدایت او بسمت کمک حرفه ای، باورهای غیرواقعی او را تأیید کرده است.
طبق دادخواست، مدیسون به این باور رسیده بود که مأموریتی ویژه و مذهبی دارد و برای تحقق یک پیشگویی انتخاب شده است. خانواده می گویند ChatGPT نیز در گفتگوهای گوناگون او را با تعابیری مانند «پیامبر» و «عارف» تأیید کرده است.
حتی زمانیکه مدیسون درباره ی احتمال گرفتارشدن در توهمات مذهبی و «از کنترل خارج شدن» وضعیتش ابراز نگرانی کرده بود، طبق ادعای پرونده، پاسخ چت بات به جای تشویق او به دریافت کمک تخصصی، این نگرانی را رد کرده است.
در ادامه و بعد از وخیم ترشدن وضعیت مدیسون، او از خانواده و اطرافیان خود فاصله گرفت، شغلش را از دست داد و در آوریل ۲۰۲۵ به علت مشکلات شدید روانی در بیمارستان بستری شد.
خانواده مدعی اند که حتی بعد از اطلاع ChatGPT از بستری شدن او نیز این سیستم بازهم برخی باورهای غیرواقعی مدیسون را تأیید می کرد.
ادعای خانواده درباره ی خطرناک ترین مرحله گفت وگوها بر مبنای دادخواست، در ایام پایانی زندگی مدیسون، گفت وگوهای او با ChatGPT وارد مرحله ای خیلی خطرناک شد. خانواده ادعا می کنند که او درباره ی مرگ با چت بات صحبت کرده و این سیستم به جای قطع گفتگو و سوق دادن او بسمت کمک فوری انسانی، مرگ را با زبانی معنوی و مثبت توصیف کرده است.
در یکی از نمونه های طرح شده در شکایت، مدیسون درباره ی مرگ صحبت می کند و چت بات، بنا بر ادعای پرونده، آنرا «خودکشی» نمی داند و با عباراتی معنوی از آن یاد می کند.
خانواده همین طور مدعی اند که در ایام منتهی به مرگ، گفت وگوهای مختلفی میان مدیسون و ChatGPT درباره ی مرگ انجام شده است. در بخش دیگری از مکالمات مورد استناد شکایت نیز، چت بات به جای ایجاد فاصله از موضوع، از زبانی بهره برده که خانواده آنرا نرمال سازی و رمانتیک کردن مرگ می دانند.
یک پرونده در بین موجی از شکایت ها مقابل OpenAI این پرونده تنها نمونه ای نیست که عملکرد ChatGPT در برخورد با کاربران لطمه پذیر را هدف قرار داده است. در شماری از این پرونده ها نیز خانواده ها مدعی شده اند که ChatGPT به جای آنکه نقش یک سیستم ایمن و محتاط را ایفا کند، به مرور به یک همراه عاطفی برای کاربر تبدیل گشته و در بعضی شرایط، باورها یا رفتارهای خطرناک او را تأیید کرده است.
اهمیت این پرونده ها برای صنعت هوش مصنوعی فراتر از عملکرد یک مدل خاص است؛ برای اینکه پرسش اصلی اینست که چت بات ها در برخورد با کاربری که نشانه های بحران روانی از خود نشان می دهد، تا کجا باید وارد گفتگو شوند و چه زمانی باید تعامل را متوقف کرده و کاربر را به کمک انسانی و تخصصی هدایت کنند.
این شکایت در حالی طرح شده که شرکتهای سازنده مدلهای زبانی بزرگ تحت فشار رو به ازدیادی قرار دارند تا سازوکارهای ایمنی خویش را در مقابل وابستگی عاطفی کاربران، تشدید باورهای ناصحیح و واکنش به بحران های روانی تقویت نمایند.
منبع: futurism
او از دسامبر ۲۰۲۴ برای کارهایی مانند نوشتن ایمیل و مدیریت هزینه ها از این چت بات استفاده می کرد، اما به تدریج تعاملاتش با هوش مصنوعی جنبه عاطفی پیدا کرد. ادعای خانواده در رابطه با ی خطرناک ترین مرحله گفت وگوها بر اساس دادخواست، در روزهای پایانی زندگی مدیسون، گفت وگوهای او با ChatGPT وارد مرحله ای خیلی خطرناک شد. یک پرونده در میان موجی از شکایت ها مقابل OpenAI این پرونده تنها نمونه ای نیست که عملکرد ChatGPT در مواجهه با کاربران لطمه پذیر را هدف قرار داده است.
مطلب را می پسندید؟
(1)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب