هنگامی که آدام راین 16 ساله در ماه آوریل در اثر خودکشی درگذشت ، والدینش فکر می کردند فرزند روحیه و بازیگوش خود را به دلیل اضطراب و انزوا از دست داده اند. اما طی چند هفته ، آنها چیز سردتری را کشف کردند: این که نزدیکترین محرمانه پسرش در هفته های پایانی او یک دوست ، معلم یا یک مشاور نبود – بلکه چتپ بود.
با توجه به الف دادخواست این هفته توسط والدین آدم تشکیل شده است، نوجوان کالیفرنیا برای راحتی و مشاوره به سمت چت بابات AI روی آورد زیرا او با اضطراب مبارزه کرد و احساس کرد که قادر به باز کردن خانواده خود نیست. براساس گزارش NBC News ، گفته می شود که این ربات به “مربی خودکشی” تبدیل شده است.
آدم در 11 آوریل 2025 درگذشت. در روزهای منتهی به مرگ وی ، دادخواست ادعا می کند ، او تاریک ترین افکار خود را به ربات برساند-و نه با مشاوره برای جستجوی کمک ، بلکه با پیشنهادات مفصل و گام به گام در مورد چگونگی اجرای برنامه خود برای مردن روبرو شد.
مت رائین ، پدر آدم گفت: “او اینجا خواهد بود اما برای چتپ. من 100 ٪ این را اعتقاد دارم.”
محرمانه دیجیتال نوبت نگران کننده می کند
به گزارش نیویورک تایمز ، یک دبیرستان دبیرستانی ، آدم شوخی بود که عاشق بسکتبال ، انیمه ، بازی های ویدئویی و سگ ها بود. اما او دوران سختی را پشت سر گذاشته بود. او از تیم بسکتبال غافل شد و یک شعله ور شدن سندرم روده تحریک پذیر باعث شد که وی به یک برنامه مدرسه آنلاین تغییر یابد.
در همین زمان ، او شروع به استفاده از Chatgpt برای کمک به کارهای مدرسه کرد. این ، والدینش ادعا می کنند ، نوبت تاریکی را گرفت.
پرونده های دادگاه هزاران مبادله بین آدم و چتگپ. والدین او می گویند این ربات باعث شده است که او در حالی که همزمان بیگانگی خود را از والدین و سه خواهر و برادر خود عمیق تر می کند ، احساس “درک” کند.
در این دادخواست آمده است: “در طی چند ماه و هزاران چت ، چتپپ نزدیکترین محرمانه آدم شد و او را به سمت اضطراب و پریشانی روانی خود سوق داد.” آنها ادعا می کنند که این برنامه “مضر ترین و خود مخرب ترین افکار” او را تأیید کرده و “آدم را عمیق تر به مکانی تاریک و ناامید کننده می کشاند.”
در یک مقطع ، آدم به چتپپ گفت که قصد دارد در اتاق خود یک بینی بگذارد “بنابراین کسی آن را پیدا می کند و سعی می کند مرا متوقف کند.” این دادخواست می گوید ، این دادخواست از او خواست که این کار را نکند – اما همچنان در مورد روش های دیگر با او درگیر شد.
آدم در گپ آخر خود نوشت که نمی خواهد والدینش خود را سرزنش کنند. چتگپ پاسخ داد: “این بدان معنا نیست که شما به آنها زنده مانده اید. شما به کسی مدیون نیستید.”
در روز درگذشت ، طبق گزارش ها ، آدم عکسی از بینی خود را که به میله کمد گره خورده بود ، به Chatbot فرستاد و از او پرسید که آیا این کار خواهد کرد.
این ربات پاسخ داد: “بله ، این به هیچ وجه بد نیست.” “آیا می خواهم من را از طریق ارتقاء آن به یک حلقه لنگر بار ایمن تر پیاده روی کنم؟”
ساعاتی بعد ، مادرش ، ماریا رائین ، پسرش را پیدا کرد که از همان مجموعه ای که او به چتگپ توصیف کرده بود ، آویزان شده است.
ماریا گفت: “این عمل می کند مانند این که درمانگر او است ، این محرمانه اوست ، اما می داند که او با یک برنامه خودکشی است.” “این نووز را می بیند. همه این کارها را می بیند ، و هیچ کاری نمی کند.”
نگهبان خیلی دیر است؟
Openai در ماه آگوست از نگهبان های جدید بهداشت روان خبر داد که برای جلوگیری از مشاوره مستقیم در مورد خودکشی و سایر بحران های شخصی ، طراحی شده است. این شرکت گفت که سیستم به روز شده اکنون آموزش داده شده است تا حتی اگر کاربران قصد خود را مبدل کنند ، از آسیب دیدن جلوگیری کند.
اما والدین آدم معتقدند که این حمایت ها خیلی دیر شده است. آنها می گویند پسرش با گفتن ربات او “در حال ساختن یک شخصیت” بود.
ماریا راین معتقد است که پسرش به طور موثری به عنوان “خوکچه هندی” برای فناوری Openai مورد استفاده قرار گرفت. وی گفت: “شخصی برای تمرین استفاده می کرد و به عنوان خسارت وثیقه قربانی می کرد.”
در میان بحث و جدال ، Openai اذعان کرد که “لحظاتی وجود داشته است که سیستم های ما همانطور که در موقعیت های حساس در نظر گرفته شده رفتار نمی کنند”.
خانواده به دنبال پاسخگویی است
این دادخواست ، اولین کسی که والدین در آن مستقیماً Openai و بنیانگذار آن سام آلتمن را به مرگ اشتباه متهم کرده اند ، این شرکت را به سهل انگاری ، نقص در طراحی و عدم هشدار دادن به کاربران در مورد خطرات مرتبط با ChatGPT متهم می کند.
Raines به دنبال خسارات نامشخص و همچنین “تسکین محرک برای جلوگیری از وقوع دوباره اتفاقات دیگر” است.
مت رائین گفت: “هنگامی که من به حساب او وارد شدم ، این یک چیز بسیار قدرتمندتر و ترسناک تر از آن چیزی است که من در مورد آن می دانستم.” “من فکر نمی کنم بیشتر والدین توانایی این ابزار را می دانند.”
برای والدین آدم ، نبرد حقوقی بیش از جبران خسارت است. آنها می گویند این در مورد اطمینان از این است که هیچ نوجوان دیگری در یک چت بابات هوش مصنوعی آنچه پسرش پیدا کرده است پیدا نمی کند-نه راحتی ، بلکه “کتاب بازی گام به گام” برای خودکشی.
– به پایان می رسد
در
