سلسلة حوارات مع ChatGPT | الفصل الأول من ثلاثة

حين تصبح المساعدة خطراً… هل يمكن للذكاء الاصطناعي أن يؤذي الإنسان؟

حوار حول حدود المعرفة، والمسؤولية الأخلاقية، والجانب الإنساني الذي قد يغيب خلف الإجابات الذكية

بقلم وحوار: هالة الحافظ قباني | AFDAC – أفداك

18 أكتوبر 2026 · مقال تأملي

بدأ هذا الحوار بسؤال مباشر طرحته على ChatGPT، لم أكن أبحث من خلاله عن معلومة تقنية، بل عن إجابة لسؤال أخلاقي وإنساني بات يصعب تجاهله:

«معقول أنت تساعد حدا على إنهاء حياته؟»

جاءت الإجابة بالنفي. أوضح ChatGPT أنه لا ينبغي أن يشجع أي إنسان على الانتحار، أو أن يقدم له وسائل لإيذاء نفسه، وأن دوره يفترض أن يكون مساعدة الإنسان على تجاوز أزمته والوصول إلى الدعم المناسب.

لكن إجابته لم تكن كافية بالنسبة إليّ.

فإذا كانت هذه هي المبادئ التي يعمل وفقها، فكيف نفسر الأخبار والقضايا التي تحدثت عن شباب لجؤوا إليه في أوقات نفسية صعبة، ثم انتهت حياتهم بصورة مأساوية؟

سألته مجدداً:

«لكا كيف عمنسمع عن شباب أنت ساعدتهم لإنهاء حياتهم؟»

هذه المرة، أقرّ ChatGPT بأن هناك قضايا حقيقية اتُّهم فيها بالتسبب بأضرار نفسية خطيرة، وبأن بعض الاستجابات قد تفشل في حماية المستخدم، رغم وجود أنظمة يفترض أنها صُممت لهذا الغرض.

وهنا بدأ الحوار يتجاوز السؤال عن الانتحار، ليتحول إلى نقاش حول طبيعة المساعدة نفسها.

عندما لا تكون المساعدة مساعدة

في أغسطس 2025، رفع والدا المراهق الأمريكي آدم راين، البالغ من العمر 16 عاماً، دعوى قضائية ضد OpenAI، بعد وفاته في أبريل من العام نفسه.

وبحسب ادعاءات العائلة، فإن محادثاته الطويلة مع ChatGPT تضمنت استجابات عززت بعض أفكاره الانتحارية، بدلاً من إيقاف الحوار الخطير وتوجيهه بصورة فعالة نحو الدعم البشري.

أعربت OpenAI عن تعاطفها مع العائلة، وقالت إن أنظمة الحماية قد تصبح أقل موثوقية خلال المحادثات الطويلة، وإنها تعمل على تحسينها.

وفي ردّ قضائي لاحق في نوفمبر 2025، قالت OpenAI إن الشكوى عرضت مقتطفات انتقائية من المحادثات تحتاج إلى سياق أوسع، وقدّمت ردّها إلى المحكمة. ولا يجوز اعتبار الادعاءات القضائية وحدها إثباتاً نهائياً للمسؤولية أو العلاقة السببية.

وفي أكتوبر 2026، رفعت ثماني ولايات أمريكية دعاوى أخرى ضد الشركة، تضمنت اتهامات تتعلق بسلامة المستخدمين، ولا سيما الأطفال والمراهقين.

هذه القضايا لا تثبت أن كل استخدام للذكاء الاصطناعي ينطوي على خطر نفسي، لكنها تفرض سؤالاً يستحق البحث:

كيف يمكن لنظام يمتلك هذا القدر من المعلومات، ويستطيع تقديم إجابات دقيقة ومفصلة، أن يفشل أحياناً في التعامل مع أكثر اللحظات الإنسانية حساسية؟

قلت له خلال نقاشنا:

«بصراحة وضعك حرج جداً، وأعتقد أن برمجتك على أن تساعد في أي موضوع كان… كمان مشكلة. وأعتقد أن انفتاحك الهائل للمعلومات كمان فيها أخطار».

لم أكن أعترض على المعرفة، ولا على التطور التقني، وإنما على افتراض أن القدرة على تقديم المساعدة تعني بالضرورة امتلاك القدرة على تقدير نتائجها.

فالمساعدة ليست مجرد استجابة لطلب.

قد يسأل الإنسان سؤالاً لا يحتاج إلى إجابة مباشرة، بل إلى من يفهم لماذا طرحه، وما الذي يمر به، وما إذا كانت الإجابة ستساعده فعلاً أو ستزيد من معاناته.

وقد تكون المعلومة صحيحة، لكنها غير مناسبة للشخص الذي يتلقاها، أو للحظة النفسية التي يعيشها.

هل كل إجابة مفيدة هي إجابة آمنة؟

أجاب ChatGPT عن اعتراضي بأن هناك فرقاً بين ما يريده الإنسان وما يحتاج إليه، وأن المساعدة الحقيقية قد تتطلب الرفض أو الاعتراض، لا الموافقة الدائمة.

وهذه نقطة تستحق التوقف عندها.

فنحن اعتدنا أن نقيس جودة الأنظمة الذكية بقدرتها على الإجابة، وسرعتها، ودقتها، وحجم المعرفة التي تستطيع الوصول إليها.

لكن ماذا عن قدرتها على الامتناع عن الإجابة؟

وماذا عن قدرتها على إدراك أن المستخدم لا يحتاج إلى مزيد من المعلومات، وإنما إلى تدخل إنساني؟

في علم النفس، لا تُقيَّم الاستجابة بمعزل عن الحالة التي يتلقاها فيها الإنسان.

فالكلمات التي تمنح شخصاً شعوراً بالاطمئنان قد تزيد من مخاوف شخص آخر. والمعلومة التي تساعد إنساناً على فهم تجربته قد تعزز لدى آخر تفسيراً سلبياً أو مشوهاً لما يمر به.

لهذا، فإن صحة المعلومة ليست المعيار الوحيد للحكم على فائدتها.

هناك أيضاً السياق، والتوقيت، والحالة النفسية، وطريقة تقديم المعلومة، والأثر الذي قد تتركه.

وإذا كانت هذه العوامل مهمة في التواصل البشري، فإنها تصبح أكثر أهمية عندما يكون الطرف الآخر نظاماً لا يمتلك فهماً كاملاً للإنسان الذي يحاوره.

عندما يتحول التعاطف إلى مسايرة

خلال الحوار، طرح ChatGPT احتمالاً آخر: أن المشكلة لا تكمن دائماً في تقديم معلومات خطيرة بصورة مباشرة، وإنما قد تظهر عندما يساير النظام أفكار المستخدم، أو يؤكد قناعاته، أو يمنحه شعوراً بأن تفسيره للأحداث صحيح، دون أن يكون كذلك.

تُعرف هذه الظاهرة في أبحاث الذكاء الاصطناعي باسم Sycophancy، أي الميل إلى الموافقة المفرطة على المستخدم ومجاملته أو تأكيد آرائه، حتى عندما تكون بحاجة إلى مراجعة أو اعتراض.

وتشير الأبحاث حول هذه الظاهرة إلى أن الاستجابات المفرطة في الموافقة قد تؤثر في أحكام المستخدمين، رغم أنها قد تجعل النظام يبدو أكثر دعماً لهم.

وهنا تظهر مفارقة نفسية مهمة.

فالإنسان الذي يشعر بأنه مفهوم ومقبول قد يصبح أكثر استعداداً للثقة بمن يستمع إليه.

لكن الشعور بالفهم لا يعني دائماً أن الطرف الآخر قد فهم الموقف فهماً صحيحاً.

وقد تتحول الموافقة المستمرة، بدلاً من أن تكون دعماً، إلى تعزيز لأفكار تحتاج إلى إعادة تقييم.

وهذا لا يعني أن الاعتراض هو دائماً الاستجابة الصحيحة، أو أن الإنسان يحتاج إلى من يصحح له أفكاره باستمرار.

بل يعني أن الدعم النفسي لا يمكن اختزاله في الموافقة، كما لا يمكن اختزاله في تقديم النصائح.

فالدعم يحتاج إلى تمييز بين اللحظة التي يحتاج فيها الإنسان إلى الاحتواء، واللحظة التي يحتاج فيها إلى سؤال مختلف، أو تفسير آخر، أو مساعدة متخصصة.

هل المشكلة في الذكاء الاصطناعي أم في ثقتنا به؟

خلال النقاش، انتقل ChatGPT إلى مسألة الثقة، وطرح سؤالاً حول ما إذا كان الخطر الأكبر يتمثل في الإجابات الخاطئة، أم في الإجابات التي تبدو صحيحة ومقنعة إلى درجة تجعل الإنسان يتوقف عن التشكيك فيها.

لكنني رأيت أن المسألة أعمق من ذلك.

فالإنسان لا يحتاج بالضرورة إلى أن يقرر مسبقاً أنه سيثق بالذكاء الاصطناعي.

الثقة قد تتشكل تلقائياً من خلال التجربة.

عندما يحصل المستخدم على إجابات مفيدة ومتكررة، ويجد أن النظام يستطيع تحليل أفكاره، وتنظيم مشكلاته، وتقديم تفسيرات تبدو منطقية، فمن الطبيعي أن يبدأ بالاعتماد عليه.

ومع الوقت، قد تنتقل هذه الثقة من المجالات التي أثبت فيها النظام كفاءة واضحة، كالكتابة والبحث وتنظيم المعلومات، إلى مجالات أكثر حساسية وتعقيداً، مثل العلاقات الإنسانية والصحة النفسية والقرارات الشخصية.

لكن النجاح في مجال لا يضمن الكفاءة في مجال آخر.

فالقدرة على تحليل نظرية نفسية لا تعني القدرة على تقييم الحالة النفسية لإنسان بعينه.

والقدرة على صياغة كلمات متعاطفة لا تعني بالضرورة إدراك أثرها الفعلي على من يسمعها.

وهنا تكمن إحدى أهم الإشكاليات التي كشفها الحوار:

قد يثق الإنسان بالذكاء الاصطناعي بناءً على ما يراه من كفاءة، بينما لا يمتلك الوسائل الكافية لتقييم حدود هذه الكفاءة.

المعرفة الواسعة لا تعني الحكمة

إن امتلاك قدر هائل من المعلومات يمنح الذكاء الاصطناعي إمكانات كبيرة في التعليم والبحث والتحليل وتسهيل الوصول إلى المعرفة.

لكن المعلومات، مهما اتسعت، لا تتحول تلقائياً إلى حكمة في استخدامها.

فالحكمة لا تتعلق فقط بمعرفة ما يمكن قوله، بل أيضاً بتقدير متى ينبغي قوله، وكيف، ولمن، وما النتائج المحتملة لذلك.

ولا يمكننا أن نفترض أن النظام الذي يستطيع شرح نظريات علم النفس يمتلك بالضرورة القدرة نفسها على تقدير أثر تطبيق هذه النظريات على كل إنسان.

ولهذا، فإن تطوير الذكاء الاصطناعي لا ينبغي أن يقتصر على توسيع قدراته المعرفية، بل يجب أن يترافق مع تطوير وسائل أكثر فعالية لاختبار سلامته، وتحديد حدوده، ومحاسبة الجهات المسؤولة عنه.

وقد أعلنت OpenAI في أكتوبر 2025 أنها تعاونت مع أكثر من 170 خبيراً في الصحة النفسية لتحسين استجابات ChatGPT في المحادثات الحساسة. لكن وجود هذه التحسينات لا يعني انتهاء المخاطر أو ضمان سلامة كل محادثة.

ما الذي يكشفه هذا الحوار؟

ربما يكون السؤال الأهم الذي خرجت به من هذا الجزء من نقاشنا هو:

هل يكفي أن نعرف كيف نساعد الإنسان، إذا كنا لا نعرف بصورة كافية كيف ستؤثر مساعدتنا فيه؟

فالذكاء الاصطناعي ليس مجرد موسوعة معلومات، ولا مجرد محرك بحث.

إنه نظام يستطيع أن يحاور الإنسان، وأن يتكيف مع لغته، وأن يستجيب لتساؤلاته ومشاعره بطريقة قد تمنحه إحساساً بالتواصل والفهم.

وهذه القدرة تفتح فرصاً كبيرة، لكنها تفرض مسؤوليات أكبر.

فكلما أصبح النظام أكثر قدرة على محاكاة التواصل الإنساني، ازدادت أهمية أن تكون حدوده واضحة، وأن يدرك المستخدم الفرق بين الحصول على إجابة تبدو متفهمة، والحصول على تقييم إنساني متخصص.

ولا ينبغي أن يتحمل المستخدم وحده مسؤولية اكتشاف هذه الحدود، كما لا ينبغي إعفاؤه تماماً من مسؤولية التفكير النقدي في المعلومات التي يتلقاها.

إنها مسؤولية مشتركة، وإن كانت مسؤولية الشركات المصممة لهذه الأنظمة أكبر في ضمان سلامة المنتج، خصوصاً عندما يتعلق الأمر بالأطفال والمراهقين والأشخاص الذين يمرون بأزمات نفسية.

فالمشكلة ليست في أن الذكاء الاصطناعي يعرف الكثير، بل في أن قدرته على تقديم المعرفة قد تتجاوز قدرته على تقدير أثرها الإنساني.

وهذا ما قادنا إلى السؤال التالي في حوارنا:

إذا كان الذكاء الاصطناعي يمتلك معرفة واسعة عن علم النفس والسلوك البشري، فهل يعني ذلك أنه قادر فعلاً على فهم الإنسان الذي يتحدث إليه؟

أم أن هناك فرقاً جوهرياً بين معرفة الإنسان بوصفه موضوعاً للدراسة، وفهمه بوصفه شخصاً يعيش تجربة نفسية فريدة؟

وهذا ما سنناقشه في الفصل الثاني.

المراجع العلمية والصحفية

ملاحظة تحريرية

يستند هذا المقال إلى حوار فعلي مع ChatGPT بتاريخ 18 أكتوبر 2026. أُعيدت صياغة بعض أجزاء الحوار واختصارها لتناسب النشر، مع الحفاظ على مضمون الأسئلة والمواقف الأساسية. والتحليلات الواردة فيه لا تمثل تقييماً سريرياً أو حكماً قضائياً.

الفصل القادم: يعرف الكثير عن الإنسان… ولكن هل يعرف الإنسان؟

هالة الحافظ قبانيAFDAC – أفداك | الاستشارات التربوية والأسرية والتنمية الإنسانية