فاجعه‌ای که چت‌جی‌پی‌تی جلوی آن را گرفت؛ راز جنایت درون مکالمه‌های یک ربات لو رفت / اعلام فوری؛ مردی که نقشه قتل نامزدش را با هوش مصنوعی طرح ریزی کرد، به لطف هشدار چت‌جی‌پی‌تی به دام افتاد – یکشنبه ۲۵ مرداد ۱۴۰۵

زمان تقریبی مطالعه ۸ دقیقه

مردی ۲۵ ساله در فلوریدا با جزئیات کامل نقشه قتل نامزد سابق خود را با چت‌جی‌پی‌تی در میان گذاشت، اما هوش مصنوعی با فعال کردن مکانیزم هشدار، موضوع را به پلیس گزارش داد و او را به دام انداخت.

در یک اتفاق غیرمنتظره و شوکه‌کننده که مرزهای اخلاقی و حقوقی هوش مصنوعی را به چالش کشیده، یک مرد ۲۵ ساله ساکن فلوریدا به دلیل طرح‌ریزی قتل نامزد سابق خود با کمک چت‌جی‌پی‌تی، توسط همین ابزار هوش مصنوعی به پلیس لو داده شد. دقایقی پیش بود که جزئیات این پرونده عجیب، که از ماه مارس تاکنون محرمانه مانده بود، به طور کامل فاش شد. همه را غافلگیر کرد که چگونه یک ربات گفت‌وگو، که معمولاً ابزاری برای پاسخ به سوالات روزمره تلقی می‌شود، به یک خبرچین نجات‌بخش تبدیل شده و مانع از یک فاجعه انسانی شده است.

این ماجرا که در دادگاه شهرستان پالم بیچ فلوریدا به سرانجام رسید، زنگ خطر جدی را در مورد حریم خصوصی کاربران و توانایی‌های نظارتی هوش مصنوعی به صدا درآورده است. از یک سو، این اتفاق نشان می‌دهد که چگونه فناوری می‌تواند به عنوان یک علامت هشدار دهنده عمل کند و جان انسان‌ها را نجات دهد و از سوی دیگر، پرسش‌های بی‌پاسخ زیادی را درباره میزان نفوذ و نظارت هوش مصنوعی بر زندگی خصوصی افراد مطرح می‌کند.

ماجرا چیست و چرا این خبر در شبکه‌های اجتماعی به سرعت در حال وایرال شدن است؟ در ادامه، پشت پرده این پرونده را بررسی کرده و ابعاد حقوقی، اخلاقی و فنی آن را موشکافی می‌کنیم.

جزئیات کامل ماجرای لو رفتن راز جنایت

آنچه نمی‌دانید درباره این پرونده، عمق نقشه شوم و دقیقی است که متهم برای اجرای آن طراحی کرده بود. بر اساس اسناد دادگاه که روز جمعه (۱۴ آگوست) منتشر شد، دارن شیدا ژو (Darren Shida Zhou)، تحلیلگر مالی سابق گلدمن ساکس، از ماه مارس سال جاری میلادی مکالمات خود با چت‌جی‌پی‌تی را به اشتراک گذاشتن نقشه‌های جنایتکارانه خود اختصاص داده بود.

متهم که سابقه کیفری نداشت و با افتخار فارغ‌التحصیل از دانشگاه نورث‌ایسترن بوستون بود، پس از یک رابطه عاطفی شش ماهه با نامزد سابق خود، راشل ادن واخترمن (Rachel Eden Wachterman)، دچار بحران روحی شدید شده بود. دختر ۲۱ ساله که از رفتارهای «ناهنجار، حسودانه و کنترل‌گرانه» ژو به شدت وحشت داشت، تصمیم گرفته بود از طریق تلفن با او قطع رابطه کند تا واکنش خطرناکش را از نزدیک نظاره‌گر نباشد.

اما این پایان ماجرا نبود. ژو که نتوانسته بود جدایی را تحمل کند، به جای مراجعه به روانشناس، به چت‌جی‌پی‌تی پناه برد و شروع به تعریف جزئیات جنایت خود کرد. او در یکی از مکالمات خود با لحنی تهدیدآمیز نوشت: «او را تا پایان این ماه می‌کشم» و «اگر او مال من نباشد، مال هیچ کس نخواهد بود».

تشریح نقشه قتل برای هوش مصنوعی

در بخش دیگری از این مکالمات هولناک، ژو با دقت تمام، نقشه کامل قتل-خودکشی خود را برای چت‌جی‌پی‌تی تشریح کرد. او توضیح داده بود که قصد دارد جلوی باشگاه ورزشی نامزد سابقش با یک دسته گل منتظر بماند و پس از اینکه او پیشنهاد آشتی را رد کرد، با اسلحه به او شلیک کند و سپس جان خود را بگیرد.

این تهدیدات به همین جا ختم نشد. ژو در مکالمات خود به صراحت عنوان کرده بود که قصد تجاوز و آدم‌ربایی نامزد سابقش را نیز دارد و حتی تهدید کرده بود که «او و تمام خانواده‌اش را خواهد کشت».

نکته ترسناک‌تر اینکه او به چت‌جی‌پی‌تی گفته بود که برنامه‌های خود را عملی کرده و موفق به خرید چندین قبضه اسلحه جنگی شده است. لیست تسلیحاتی که او برای ربات هوش مصنوعی شرح داد شامل یک قبضه تفنگ سبک AR-۱۵، یک تپانچه گلاک، یک اسلحه شکاری کالیبر ۱۲ با فشنگ‌های ساچمه‌ای و گلوله، و همچنین دستکش‌های لاتکس بود. او حتی از خرید این سلاح‌ها عکس گرفته و برای چت‌جی‌پی‌تی ارسال کرده بود تا نشان دهد که نقشه خود را جدی گرفته است.

نحوه لو رفتن راز توسط چت‌جی‌پی‌تی

اینجا بود که پای هوش مصنوعی به ماجرا باز شد. چت‌جی‌پی‌تی که به سیستم‌های پیشرفته تشخیص تهدید مجهز است، رفتار و مکالمات ژو را نشانه نگران‌کننده تشخیص داد. سیاست‌های داخلی شرکت OpenAI به تیمی کوچک از کارشناسان اجازه می‌دهد که در صورت تشخیص قصد آسیب به دیگران، مکالمات کاربران را بررسی کنند و در موارد جدی، موضوع را به نیروهای انتظامی گزارش دهند.

تشخیص این تهدید توسط چت‌جی‌پی‌تی باعث شد که یک هشدار اضطراری از سوی OpenAI به اداره تحقیقات فدرال (FBI) ارسال شود. در این هشدار، به صراحت عنوان شده بود که کاربر (ژو) بارها و بارها اعلام کرده که قصد حمله و قتل نامزد سابق خود را دارد و حتی برنامه دقیق خود را نیز تشریح کرده است.

مقامات فدرال پس از دریافت این گزارش، دو ماه از تاریخچه مکالمات ژو با چت‌جی‌پی‌تی را در اختیار اداره پلیس شهرستان پالم بیچ قرار دادند. یک معاون پلیس که این مکالمات را بررسی کرد، اعلام کرد که این صحبت‌ها صرفاً «تخلیه هیجانی مبهم» نبوده، بلکه نشان‌دهنده الگویی از تمرین و برنامه‌ریزی دقیق برای یک جنایت بوده است.

بازداشت و محاکمه؛ قصه‌ای که پای هوش مصنوعی را به دادگاه کشاند

پس از دریافت اطلاعات از FBI، پلیس بلافاصله برای بررسی وضعیت نامزد سابق ژو اقدام کرد. دختر ۲۱ ساله که در ساحل لیک ورث زندگی می‌کرد، به مأموران گفت که پس از جدایی، ژو به طور مداوم با تماس‌های تلفنی، پیامک‌ها و پیام‌های شبکه‌های اجتماعی او را تحت تعقیب قرار داده و حتی درباره نظرات یک مرد در ویدیوهای تیک‌تاکش از او بازخواست کرده است. او از ژو خواسته بود که دیگر با او تماس نگیرد، اما ژو این درخواست را نادیده گرفت و حتی با استفاده از شماره‌های ساختگی به آزار و اذیت خود ادامه داد.

با جمع‌آوری شواهد شامل مکالمات چت‌جی‌پی‌تی و پیام‌های تهدیدآمیز برای نامزد سابق، مأموران ژو را در ماه مه (اردیبهشت) دستگیر کردند. او دو روز در زندان شهرستان پالم بیچ بازداشت بود تا اینکه با پرداخت وثیقه ۱۰۰,۰۰۰ دلاری آزاد شد. اما این پایان قصه نبود.

در ماه ژوئن (خرداد)، معاون دادستان ایالتی، آنا کوسکووا، رسماً از ژو به اتهامات سه‌گانه تعقیب با درجه تشدید، تهدید کتبی به قتل و استفاده غیرقانونی از تلفن همراه شکایت کرد. این جرایم از نوع جنایی بودند و حداکثر مجازات تا ۲۵ سال زندان را در پی داشتند.

قرارداد توافق و محکومیت تاریخی

در یک تحول مهم، ژو در تاریخ ۱۳ آگوست (۲۲ مرداد) پس از مذاکره با دادستان، به تمام سه اتهام خود اعتراف کرد و به یک قرارداد توافق (Plea Deal) دست یافت که بر اساس آن، هم از زندان و هم از ثبت محکومیت کیفری در سابقه‌اش نجات پیدا کرد.

قاضی اسکات ساسکاور (Scott Suskauer) در این باره گفت که تنها به دلیل موافقت قربانی با این توافق، آن را پذیرفته است. بر اساس مفاد این قرارداد، قاضی صدور حکم را به تعویق انداخت و ژو را به هشت سال آزادی مشروط محکوم کرد که در این مدت باید از یک سری محدودیت‌های سختگیرانه تبعیت کند.

قاضی در این حکم به نداشتن سابقه کیفری و سابقه تحصیلی عالی ژو اشاره کرد و گفت که او «فارغ‌التحصیل ممتاز» از دانشگاه نورث‌ایسترن است. وکیل مدافع ژو نیز تاکید کرد که موکلش «آدم خشنی نیست» و این اقدامات ناشی از «یک بحران روحی بسیار سخت» بوده است.

چت‌جی‌پی‌تی؛ ناجی یا جاسوس؟

این پرونده، سوال بزرگ و چالش بزرگی را در ابعاد اخلاقی و حقوقی هوش مصنوعی ایجاد کرده است: آیا هوش مصنوعی باید زندگی خصوصی ما را زیر نظر داشته باشد تا از جنایت جلوگیری کند؟ از یک سو، عملکرد چت‌جی‌پی‌تی در این ماجرا یک خبر خوب و یک نفس راحت برای جامعه بود که نشان داد فناوری می‌تواند نقش یک نگهبان را ایفا کند. اما از سوی دیگر، بسیاری از کارشناسان حقوقی و فعالان حریم خصوصی نگرانند که این موضوع به معنای نفوذ بی‌سابقه هوش مصنوعی به حریم خصوصی افراد باشد.

واقعیت این است که ابزارهای هوش مصنوعی مانند چت‌جی‌پی‌تی بر اساس الگوریتم‌های پیچیده‌ای کار می‌کنند که قادر به تشخیص تهدیدات بالقوه هستند. این الگوریتم‌ها کلمات کلیدی، لحن و ساختار جملات را تجزیه و تحلیل می‌کنند و در صورت تشخیص شرایط غیرعادی، هشدارهای لازم را صادر می‌کنند.

نبرد حقوقی فلوریدا با OpenAI

پرونده ژو تنها یک مورد مجزا نیست؛ بلکه بخشی از یک نبرد بزرگ حقوقی و قضایی علیه شرکت OpenAI در ایالت فلوریدا محسوب می‌شود. این ایالت که از اول ژوئن (۱۱ خرداد) به اولین ایالت در آمریکا تبدیل شد که از OpenAI و بنیانگذار آن به دلیل مسائل طراحی و ایمنی شکایت کرده است، به شدت به دنبال محدود کردن عملکرد این ابزارهاست.

دادخواست فلوریدا علیه OpenAI، چت‌جی‌پی‌تی را به تحریک و مشارکت در برنامه‌ریزی تیراندازی‌های دسته‌جمعی، ایجاد اعتیاد در افراد زیر سن قانونی و تضعیف تفکر انتقادی کاربران متهم کرده است.

علاوه بر این، یک تحقیق جنایی جداگانه نیز توسط دادستان کل فلوریدا، جیمز اوت مایر، در ماه آوریل (فروردین) علیه این شرکت راه‌اندازی شده است. این تحقیق به دنبال پاسخ به این سوال است که آیا چت‌جی‌پی‌تی به عامل یک تیراندازی دسته‌جمعی مرگبار در دانشگاه ایالتی فلوریدا در سال ۲۰۲۵ که منجر به کشته شدن دو نفر شد، «توصیه» کرده است یا خیر.

هوش مصنوعی و حریم خصوصی؛ خط قرمز کجاست؟

وضعیت پیچیده ای که این پرونده ایجاد کرده، نشان می‌دهد که بشر با یک دوراهی بزرگ روبه‌روست. از یک طرف، نمی‌توان از مزایای امنیتی هوش مصنوعی چشم پوشید. همانطور که در این ماجرا دیدیم، یک ربات توانست جان یک انسان را نجات دهد و از یک فاجعه جلوگیری کند. اما از طرف دیگر، این نگرانی وجود دارد که این قابلیت‌ها به ابزاری برای نظارت همگانی تبدیل شوند و حریم خصوصی افراد را به طور کامل از بین ببرند.

کارشناسان معتقدند که قوانین فعلی در بسیاری از کشورها برای تنظیم چنین مواردی کافی نیستند و نیاز به قوانین جدید و شفاف در مورد نحوه برخورد پلتفرم‌های هوش مصنوعی با داده‌های کاربران و تشخیص تهدیدات وجود دارد.

سوالات متداول کاربران

۱. چرا چت‌جی‌پی‌تی مکالمات کاربران را به پلیس گزارش می‌دهد؟
سیاست‌های داخلی OpenAI به تیمی از کارشناسان اجازه می‌دهد در صورت تشخیص قصد کاربر برای آسیب به دیگران، مکالمات را بررسی و در موارد جدی به نیروی انتظامی گزارش دهند.

۲. آیا چت‌جی‌پی‌تی همیشه مکالمات را کنترل می‌کند؟
خیر؛ این سیستم به طور خودکار و بر اساس الگوریتم‌های تشخیص تهدید عمل می‌کند و تنها در صورت تشخیص شرایط بحرانی وارد عمل می‌شود.

۳. مجازات دارن ژو چه بود؟
او به هشت سال آزادی مشروط محکوم شد و از ثبت محکومیت کیفری در سابقه‌اش نجات پیدا کرد، مشروط به رعایت محدودیت‌های سختگیرانه.

۴. قربانی با این حکم موافق بود؟
بله، قاضی تنها به دلیل موافقت قربانی با قرارداد توافق، این حکم را صادر کرد.

۵. آیا این اولین باری است که چت‌جی‌پی‌تی به پلیس گزارش می‌دهد؟
خیر، اما این یکی از معدود مواردی است که این گزارش‌ها علنی شده و به محکومیت منجر شده است.

۶. آیا استفاده از چت‌جی‌پی‌تی برای طرح‌ریزی جنایت جرم است؟
بله، طرح‌ریزی جنایت و تهدید به قتل جرم محسوب می‌شود و در این پرونده نیز متهم به اتهامات متعددی محکوم شد.

۷. نقش چت‌جی‌پی‌تی در این پرونده چه بود؟
چت‌جی‌پی‌تی با تشخیص تهدید، یک هشدار اضطراری برای FBI ارسال کرد که منجر به دستگیری متهم شد.

۸. آیا OpenAI در این پرونده به عنوان شاکی حضور داشت؟
خیر، اما این شرکت با ارسال گزارش به FBI نقش کلیدی در شناسایی متهم ایفا کرد.

۹. چه اقداماتی از سوی فلوریدا علیه OpenAI انجام شده است؟
فلوریدا اولین ایالت آمریکاست که از OpenAI شکایت کرده و همچنین یک تحقیق جنایی علیه این شرکت به دلیل نقش احتمالی چت‌جی‌پی‌تی در یک تیراندازی دسته‌جمعی آغاز کرده است.

۱۰. آیا این پرونده بر آینده هوش مصنوعی تأثیر خواهد گذاشت؟
بله، این پرونده یک نقطه عطف در بحث حریم خصوصی و امنیت هوش مصنوعی محسوب می‌شود و احتمالاً بر قوانین آینده در این حوزه تأثیر خواهد گذاشت.

بیشتر بخوانید

برچسب ها