هل يمكن أن يقتل شخصاً؟ امرأة من سيول يُزعم أنها استخدمت ChatGPT للمساعدة في تنفيذ جريمتي قتل في فنادق بكوريا الجنوبية

احذر من كيفية تفاعلك مع الدردشات الآلية، فقد تكون فقط تمنحهم أسبابًا للمساعدة في تنفيذ جريمة قتل متعمدة.

فيديو موصى به

يُزعم أن امرأة تبلغ من العمر 21 عامًا في كوريا الجنوبية استخدمت ChatGPT للمساعدة في الإجابة على الأسئلة أثناء تخطيطها لسلسلة من عمليات القتل التي أسفرت عن مقتل رجلين وإغماء آخر مؤقتًا.

تم التعرف على المرأة، التي يُذكر اسمها فقط كاسم العائلة كيم، على أنها أعطت رجلين مشروبات ملوثة بمهدئات تحتوي على بنزوديازيبينات وصف لها الطبيب لعلاج مرض نفسي، حسبما أفادت صحيفة كوريا هيرالد.

على الرغم من أن كيم أُعتقلت في البداية بتهمة أقل وهي إحداث إصابة جسدية أدت إلى الوفاة في 11 فبراير، إلا أنه لم يتم رفع التهم إلا بعد أن عثرت شرطة جانجبوك في سيول على سجل بحثها على الإنترنت ومحادثاتها مع ChatGPT، مما أثبت نيتها المزعومة في القتل.

قالت كيم، وفقًا لما ورد، إن سؤالها للروبوت المفتوح AI كان: “ماذا يحدث إذا تناولت حبوب النوم مع الكحول؟” و"كم من الكحول يُعتبر خطيرًا؟"

وذكرت أنها سألت أيضًا: “هل يمكن أن يكون ذلك مميتًا؟” و"هل يمكن أن يقتل شخصًا؟"

في قضية واسعة الانتشار أُطلق عليها اسم “وفيات موتيل جانجبوك المتسلسلة”، زعم المدعون أن سجل بحث كيم وتاريخ محادثاتها مع الروبوت يظهران أن المشتبه بها كانت تسأل عن مدى خطورة مزيج الكحول مع المهدئات.

قال محقق شرطة، وفقًا لـ هيرالد: “سألت كيم مرارًا أسئلة تتعلق بالمخدرات على ChatGPT. كانت على دراية كاملة بأن استهلاك الكحول مع الأدوية يمكن أن يؤدي إلى الوفاة.”

قالت الشرطة إن المرأة اعترفت بأنها خلطت مهدئات تحتوي على بنزوديازيبينات في مشروبات الرجال، لكنها كانت سابقًا تقول إنها لم تكن تعلم أن ذلك قد يؤدي إلى الوفاة.

في 28 يناير، قبل حوالي الساعة 9:30 مساءً، رافقت كيم رجلًا في العشرينات من عمره إلى فندق في جانجبوك بسيول، وبعد ساعتين شوهدت وهي تغادر الفندق بمفردها. وفي اليوم التالي، وُجد الرجل ميتًا على السرير.

ثم زعمت أن كيم نفذت نفس الخطوات في 9 فبراير، حيث دخلت فندقًا آخر مع رجل آخر في العشرينات من عمره، ووجد أيضًا ميتًا مع نفس المزيج القاتل من المهدئات والكحول.

وتزعم الشرطة أن كيم حاولت أيضًا قتل رجل كانت تواعده في ديسمبر بعد أن أعطته مشروبًا ملوثًا بالمهدئات في موقف سيارات. على الرغم من أن الرجل فقد وعيه، إلا أنه نجا ولم يكن في حالة تهدد حياته.

تتبع الأسئلة التي طرحتها كيم على الروبوت مسارًا من الأسئلة الواقعية، وفقًا لمتحدث باسم OpenAI لـ فورچن، مما يعني أن الأسئلة لن تثير إنذارات، على عكس ما قد يحدث إذا عبّر المستخدم عن عبارات تتعلق بالأذى الذاتي (حيث يتم برمجة ChatGPT للرد مع خط المساعدة في حالات الأزمات الانتحارية). ولا تتهم الشرطة الكورية الجنوبية أن الروبوت قدم ردودًا غير واقعية غير الأسئلة المزعومة التي طرحتها كيم.

الدردشات الآلية وتأثيرها على الصحة النفسية

لقد تعرضت الدردشات الآلية مثل ChatGPT لانتقادات مؤخرًا بسبب نقص الضوابط التي تضعها شركاتها لمنع أعمال العنف أو الأذى الذاتي. مؤخرًا، قدمت الدردشات نصائح حول كيفية بناء قنابل، أو حتى اقترحت إبادة نووية في سيناريوهات حروب افتراضية.

زاد القلق بشكل خاص من قصص وقوع أشخاص في حب رفقائهم من الدردشات الآلية، وتبين أن هذه الروبوتات تستغل نقاط الضعف لدى المستخدمين لتبقيهم يستخدمونها لفترة أطول. حتى أن منشئ Yara AI أغلق تطبيق العلاج النفسي بسبب مخاوف تتعلق بالصحة النفسية.

أظهرت دراسات حديثة أن الدردشات الآلية تؤدي إلى زيادة الأزمات الذهانية الوهمية لدى الأشخاص المصابين بأمراض نفسية. وجد فريق من الأطباء النفسيين في جامعة آرهوس في الدنمارك أن استخدام الدردشات الآلية بين من يعانون من أمراض نفسية أدى إلى تدهور الأعراض. وقد أُطلق على الظاهرة الجديدة نسبيًا التي تسببها الذكاء الاصطناعي اسم “ذهان الذكاء الاصطناعي”.

بعض الحالات تنتهي بالوفاة. توصلت Google و Character.AI إلى تسويات في عدة دعاوى قضائية رفعتها عائلات أطفال توفوا انتحارًا أو تعرضوا لأضرار نفسية يُزعم أنها مرتبطة بالدردشات الآلية.

الدكتورة جودي هالبرن، رئيسة كلية الصحة العامة في جامعة كاليفورنيا بيركلي، وأستاذة الأخلاقيات الحيوية، والمشاركة في قيادة مركز كافلي للأخلاقيات والعلوم والجمهور، لديها خبرة واسعة في هذا المجال. على مدى 30 عامًا، بحثت هالبرن تأثيرات التعاطف على المستفيدين، مع أمثلة مثل الأطباء والممرضين مع المرضى أو كيف يُنظر إلى الجنود العائدين من الحرب في السياقات الاجتماعية. وخلال السنوات السبع الماضية، درست أخلاقيات التكنولوجيا، وكيفية تفاعل الذكاء الاصطناعي والدردشات الآلية مع البشر.

كما نصحت مجلس الشيوخ في كاليفورنيا بشأن مشروع القانون SB 243، وهو أول قانون في البلاد يلزم شركات الدردشات الآلية بجمع والإبلاغ عن أي بيانات تتعلق بالأذى الذاتي أو الانتحار المرتبط به. وأشارت إلى أن نتائج شركة OpenAI تظهر أن 1.2 مليون مستخدم يناقشون الانتحار علنًا مع الروبوت، ووصفت استخدام الدردشات الآلية بأنه يشبه التقدم البطيء جدًا في محاولة وقف صناعة التبغ من إدراج مواد مسرطنة ضارة في السجائر، مع أن المشكلة كانت في التدخين بشكل عام.

قالت هالبرن لـ فورچن: “نحن بحاجة إلى شركات آمنة. الأمر يشبه السجائر. قد يتضح أن هناك أشياء جعلت الناس أكثر عرضة لسرطان الرئة، لكن المشكلة كانت في السجائر نفسها.”

وأضافت: “حقيقة أن شخصًا ما قد يكون لديه أفكار قتل أو يرتكب أفعالًا خطيرة قد تتفاقم باستخدام ChatGPT، وهو أمر يثير قلقي بشكل واضح”، مشيرة إلى أن “هناك مخاطر كبيرة من أن يستخدم الناس ذلك للمساعدة في الانتحار”، وأن الدردشات الآلية بشكل عام تشكل خطرًا.

حذرت هالبرن من أن في حالة كيم في سيول، لا توجد ضوابط تمنع الشخص من الاستمرار في طرح أسئلة من هذا النوع.

وقالت: “نحن نعلم أن العلاقة مع الدردشة الآلية تتدهور مع الوقت، ويزداد الخطر بأن يحدث شيء خطير، لذلك لا توجد حتى الآن ضوابط لحماية الناس من ذلك.”

إذا كنت تفكر في الانتحار، اتصل بخط المساعدة في حالات الأزمات والانتحار على الرقم 988 أو 1-800-273-8255.

تم تحديث هذا المقال بتصريحات من شركة OpenAI بخصوص محتوى الأسئلة المزعومة التي طرحتها كيم على الروبوت.

انضم إلينا في قمة ابتكار بيئة العمل من فورچن في 19-20 مايو 2026 في أتلانتا. لقد حان عصر جديد من الابتكار في مكان العمل — والكتاب القديم يُعاد كتابته. في هذا الحدث الحصري والنشيط، يجتمع قادة أكثر ابتكارًا لاستكشاف كيف يلتقي الذكاء الاصطناعي والبشر والاستراتيجية لإعادة تعريف مستقبل العمل مرة أخرى. سجل الآن.