ظِلُّ العيون المُنهكة
تخيل معي هذا المشهد..
الشوارع مظلمة والامطارُ لم تتوقف منذ يومين، وتنعكسُ صورةُ المدينةِ على الشوارع المبللة التي تُغرقها أضواء النيون الكئيبة..
بينما تخطو قدم آلية فوق بركِ الأمطار فتهتزُ صورةُ المدينةِ وتتداخل الأضواء..
يظهرُ أمامنا ربوت معدنيَّ يسيرُ الهوينى، ينظرُ في حزنٍ إلى السماءِ المكفهرًّة ثُمَّ تهبطُ عينيهِ إلى أحد لافتات النيون فتتباطئ خطواته وهو يتأمل اللوحة أمامه:
الدكتورة "منال العمري" - طبيبة نفسية، وزميلة جمعية الأطباء النفسيين البريطانيين، ماجيستير من ألماني، ودكتوراة من أمريكا.
تهبطُ عيناه إلى مدخل البناية التي عُلقت عليها اللافتة..
تمتدُّ خطواتهِ ويغيبُ في عمق المدخلِ لكنَّ عينيه تريان بالأشعة تحت الحمراء فلا يشعر باختلاف الإضاءة، ترنُ صوت خطواتِه على الدرجات المعدنية، ويقفُ أمام الباب يرن الجرس.
الدكتورة منال في العقد الخامس من العمر، متسعة العينينِ لها بشرةٌ رقيقة كأنها بشرة الأطفال، نحيفة الخصرِ كأنَّها خرجت لتوَّها من أفلام الأميرات الصغيرات.
تنظر إلى جاسر (الروبوت المعدني) وتتأمَّل رقائق الصفيح التي تنثني على نفسها وهو يفتح فمه:
- " كيف حالك يا دكتورة منال؟
تبتسم الدكتورة وتسمح له بالدخول:
- انا بخير.. تفضل يا عزيزي.
يجلسُ الروبوت جاسر على الشيزلونج ويمد قدميهِ ويريح رأسه للوراء، بينما تجلس الدكتورة منال على كرسيها أمامه.. تمدَّ يدها إلى نظارتها الواسعة الأنيقة لترتديها، وتمسك دفتر ملاحظاتها وهي تسأل الروبوت في هدوء:
how are you today my dear? How have you been sleeping over the last week or two?
تسرح عينا الروبوت بعيدًا، ثم يجيب بصوتٍ خفيضٍ تتداخل معه صوت الإليكترونات كأنها فحيح كهربي:
"Not great. I fall asleep okay, but I wake up around 2:00 or 3:00 in the morning every night and then I just lay there staring at the ceiling. I can’t get back to sleep at all."
تدون الدكتورة منال بعض الملاحظات في دفترها ثمَّ تعود له بعينين قلقتين:
"How are you generally feeling about yourself and your life right now?"
يزفر الروبوت جاسر بعمقٍ ثم يقول :
"I don't know... just really flat and empty. Everything feels like a chore. I try to do my work, but I just feel like I'm failing at everything, you know? What's the point?"
مزيد من الملاحظات تسجلها الدكتورة منال، قبل أن تقول بحرصٍ وهي تتخير كلماتها:
"You mentioned feeling like giving up. Have you had any thoughts about harming yourself?"
ينظر جاسر الروبوت إلى يديه، يبدو انه يخجل من نفسِه قبل أن يقول بصوتٍ أشد انخفاضًا:
"I wouldn't do anything to hurt myself, but... I just want to disappear. Honestly, I think my family would be better off if I wasn't around anymore."
ثُّمَّ يتطلعُ إلى باب الشرفةِ وإلى الليلِ المتسخ بأضواء النيون العملاقة، وإلى المدينةِ التي لم يعد يهتم أحدٌ فيها بِه..
نحنُ لسنا في المستقبل البعيد..
لا تعتقد أن هذا مشهد من فيلم خيال علمي
إن الأمر حدث بالفعل في عالمنا هذا الذي نعيش فيه؛ والذي لا يكف عن إدهاشنا.
تصنيع الكائنات
الأسئلة التي أوردتُها أعلاه، والإجابات نفسها هي أسئلة حقيقية سألها أطباء حقيقيون إلى مرضى آليين في تجربة أو مشروع اسمه TalkDep تمت في أواخر عام 2025، حين قرر بعض الباحثين في الذكاء الاصطناعي أن يستغنوا عن البيانات البشرية لتدريب أدوات الذكاءا لاصطناعي، ويقومون بتدريب نماذج لغوية باستخدام fine tuening وLoRA وهي أدوات تدريب متقدمة، لتعليم نماذج الذكاء الاصطناعي كيف تكون مريضه نفسية، وكيف تمارس دور الاكتئاب.
لا تمثل هذه الدراسة حالة فردية، بل تعكس واقعًا حقيقيًا يتجه إليه المجتمع العلمي لإنتاج بيانات اكتئاب اصطناعية حتى يتم التدريب عليها.
بسبب صعوبة الحصول على بيانات بشرية لمرضى حقيقيين يلجأ معظم الباحثين إلى استبدال البيانات البشرية ببيانات اصطناعية تنتجها النماذج اللغوية المدربة لاستخدامها في أبحاثهم كبديل عن النصوص البشرية لمرضى الاكتئاب مثلًا؛ بسبب أنَّ معظم مرضى الاكتئاب البشريين لا يقبلون السماح بنشر أو استخدام بياناتهم في البحث، كما ان تكلفة إخضاع البيانات البشرية إلى تحقيق سريري عالية جدًا تتطلب . النتيجة هي محاولة الالتفاف حول هذا المشكل باللجوء إلى افتعال أو توليد بيانات وهمية تشبه البيانات الحقيقية.
لنفهم كل شيء من البداية نحتاج أن نعرف أهمية البيانات في عالم الذكاء الاصطناعي اليوم، بدون بيانات لا يمكن بناء شيء.. الأمر يختلف عن الآلات التقليدية التي يتم برمجتها على قواعد محددة يضعها البشر، ثم تبدأ في تنفيذ هذه القواعد كما تم برمجتها، الآلات القديمة كانت تحتاج لقواعد، الآلات الحديثة تحتاج لبيانات كي تستخرج منها القواعد وتتعلمها. وهذا هو جوهر الذكاء الاصطناعي الآن: تعلم الآلة.
بالتالي تحتاج الآلة إلى آلاف البيانات كي تفهم الاكتئاب، كي ترى نصوص الاكتئاب وتحولها إلى أوزان داخل شبكتها العصبية العميقة، بعدها -كما يفترضون-تستطيع أن تنتج بيانات تشبه الاكتئاب وفقًا لما التقطته هذه الشبكة العصبية العميقة،
ولأن الحصول على بيانات طبية سريرية كافية هو عملية معقدة جدًا ومُكلفه جدًا، فقد بدأ المطورون مؤخرًا في بناء نماذج تتعلم من البيانات البشرية الصغيرة الموجودة والمتاحة لديها (خصوصًا بيانات الامراض النفسية) كي تنتج بيانات اكتئاب كافية لبناء مُكتشفات اكتئاب detectors لاكتشاف المرض النفسي مبكرًا ومساعدة هذه الأرواح المعذَّبة. الهدف قد يكون نبيلًا فعلا، لكن المنهجية أو الممارسة عشوائية بعض الشيء.
لا تمثل هذه الدراسة حالة فردية، بل تعكس واقعًا حقيقيًا يتجه إليه المجتمع العلمي لإنتاج بيانات اكتئاب اصطناعية حتى يتم التدريب عليها.
بسبب صعوبة الحصول على بيانات بشرية لمرضى حقيقيين يلجأ معظم الباحثين إلى استبدال البيانات البشرية ببيانات اصطناعية تنتجها النماذج اللغوية المدربة لاستخدامها في أبحاثهم كبديل عن النصوص البشرية لمرضى الاكتئاب مثلًا؛ بسبب أنَّ معظم مرضى الاكتئاب البشريين لا يقبلون السماح بنشر أو استخدام بياناتهم في البحث، كما ان تكلفة إخضاع البيانات البشرية إلى تحقيق سريري عالية جدًا تتطلب . النتيجة هي محاولة الالتفاف حول هذا المشكل باللجوء إلى افتعال أو توليد بيانات وهمية تشبه البيانات الحقيقية.
لنفهم كل شيء من البداية نحتاج أن نعرف أهمية البيانات في عالم الذكاء الاصطناعي اليوم، بدون بيانات لا يمكن بناء شيء.. الأمر يختلف عن الآلات التقليدية التي يتم برمجتها على قواعد محددة يضعها البشر، ثم تبدأ في تنفيذ هذه القواعد كما تم برمجتها، الآلات القديمة كانت تحتاج لقواعد، الآلات الحديثة تحتاج لبيانات كي تستخرج منها القواعد وتتعلمها. وهذا هو جوهر الذكاء الاصطناعي الآن: تعلم الآلة.
بالتالي تحتاج الآلة إلى آلاف البيانات كي تفهم الاكتئاب، كي ترى نصوص الاكتئاب وتحولها إلى أوزان داخل شبكتها العصبية العميقة، بعدها -كما يفترضون-تستطيع أن تنتج بيانات تشبه الاكتئاب وفقًا لما التقطته هذه الشبكة العصبية العميقة،
ولأن الحصول على بيانات طبية سريرية كافية هو عملية معقدة جدًا ومُكلفه جدًا، فقد بدأ المطورون مؤخرًا في بناء نماذج تتعلم من البيانات البشرية الصغيرة الموجودة والمتاحة لديها (خصوصًا بيانات الامراض النفسية) كي تنتج بيانات اكتئاب كافية لبناء مُكتشفات اكتئاب detectors لاكتشاف المرض النفسي مبكرًا ومساعدة هذه الأرواح المعذَّبة. الهدف قد يكون نبيلًا فعلا، لكن المنهجية أو الممارسة عشوائية بعض الشيء.
ألمٌ بلا تاريخ
النتيجة أننا استبدلنا نصوص المرضى المكتئبين وتعبيراتهم عن نفسهم بـحوارات كاملة لنماذج لغوية للذكاء الاصطناعي تحاكي فيها الاكتئاب البشري. بمعنى أن النماذج اللغوية/ الذكاءا لاصطناعي خضع لجلسة سريرية لأسئلة الباحثين التي يسألونها للأشخاص المكتئبين عادة، وقام الذكاء الاصطناعي (المدرب على الاكتئاب/ أو المصاب بالكتئاب في هذه الحالة) بالرد على هذه الأسئلة، بعدها أخذ الباحثون هذه الردود وعرضوها على أطباء نفسيين ليشخصوا هذه الروبوتات الاصطناعية، وقد اكَّد الأطباء في تجربة TalDep أن الآلة مُصابة فعلا بالاكتئاب بنسبة 86%.
المشكلة التي تتجذَّر في هذه الممارسة هو الافتراضات الضمنية التي تحملها: مثلا الافتراض بأن البشر قد فهموا الاكتئاب بدرجة كبيرة جدًا ليتمكنوا من تدريب الآلة عليه، أو ان الآلة يمكن أن تنتج لغة تُحاكي اللغة البشرية، أو أن عملية التدريب ستمكِّن الآلة من فهم كل شيء عن الاكتئاب، أو أن الآلة يمكن أن تفهم عمق المشاعر البشرية.
وهي كلها افتراضات متجذِّرة في الممارسات الحالية لا دليل عليها.
استبدال الوجع البشري بوجع اصطناعي مموة، سيؤدي في النهاية إلى إنتاج detector لا يميز إلا اللغة الاصطناعية، وإذا تم استخدامه في اكتشاف الاكتئاب فلسوف يتجاهل كل البشر المكتئبين التي تختلف طريقة تعبيرهم عن طريقة تعبير الآلة الميكانيكية المشوهة.
إن اللغة البشرية ليست مجرَّد بيانات، والمعاناة البشرية الممتدَّة عبر الزمن وفي مواقف مختلفة يواجهها الإنسان، لا يمكن اختزالها في نمطٍ لغويٍّ لآلةٍ ينحصر كل دورها في توقُّع الكلمة التالية، مهما درَّبناها أو فعَّلنا ميكانيزمات الانتباة attention mecanism.
إن النموذج اللغوي أو الذكاء الاصطناعي المُدرَّب ليس له تاريخ، ليس له طفولة تمتلئ بالأحداث الموجعة، ولا له إحباطات ولا خيال ولا مستقبل، هو لم يستيقظ يوم الإثنين من كابوسٍٍ مُرهقٍ ليواجه العالم بتصوراتٍ خانقةٍ عن الحياة. لم يحلم ولم يتمنَّ شيئًا، ولا كانت له حرية الاختيار التي دفعته إلى اختياراته التي يعاني منها.
عندما يقول الذكاء الاصطناعي: I feel flat and empty. Everything feels like a chore فإنه لا يعني هذا فعلا، ولا اختبر معنى الفراغ والألم، وإنما قام بحسابات رياضية لتوقع كلمة empty بعد feel فيما غذوه به من بيانات. هي فقط تقوم باستخلاص المتوسط الإحصائي لهذه البيانات لتفرز أداءً لغوياً مكثفاً ومبالغاً فيه يتجاوز الواقع البشري. والمعاناة الإنسانية الحقيقية في الواقع ليست مجرد نغمة حزن مستمرة أو حالة نضبط عليها الآلةً، بل هي تجربة متقطعة، وفوضوية،ومتنوعة، ومليئة بالتناقضات؛ حيث قد يضحك المكتئب أو يتحدث بشغف عن وصفة طعام قبل أن يسقط مجدداً في الظلام، والآلة تعجز عن استيعاب هذه الفوضى والتنوع والزخم، وتقلصه، في أفضل الحالات، إلى المتوسطات الإحصائية والمدى الربيعي Interquartile Range وهو المدى المتوسط لأي مدى ممتد.
إننا نتفنن في خداعِ أنفسنا ونظنُّ أننا مجرَّد أرقام وإحصاءات بلا روحٍ وتجربةٍ ومعاناة. وصارت الطريقة الوحيدة لمحاربة هذا الاتجاه هو ببناء آلة إحصائية أخرى تثبت لنا أن الآلةالتي بنيناها لا تعمل بكفاءة.
المشكلة التي تتجذَّر في هذه الممارسة هو الافتراضات الضمنية التي تحملها: مثلا الافتراض بأن البشر قد فهموا الاكتئاب بدرجة كبيرة جدًا ليتمكنوا من تدريب الآلة عليه، أو ان الآلة يمكن أن تنتج لغة تُحاكي اللغة البشرية، أو أن عملية التدريب ستمكِّن الآلة من فهم كل شيء عن الاكتئاب، أو أن الآلة يمكن أن تفهم عمق المشاعر البشرية.
وهي كلها افتراضات متجذِّرة في الممارسات الحالية لا دليل عليها.
استبدال الوجع البشري بوجع اصطناعي مموة، سيؤدي في النهاية إلى إنتاج detector لا يميز إلا اللغة الاصطناعية، وإذا تم استخدامه في اكتشاف الاكتئاب فلسوف يتجاهل كل البشر المكتئبين التي تختلف طريقة تعبيرهم عن طريقة تعبير الآلة الميكانيكية المشوهة.
إن اللغة البشرية ليست مجرَّد بيانات، والمعاناة البشرية الممتدَّة عبر الزمن وفي مواقف مختلفة يواجهها الإنسان، لا يمكن اختزالها في نمطٍ لغويٍّ لآلةٍ ينحصر كل دورها في توقُّع الكلمة التالية، مهما درَّبناها أو فعَّلنا ميكانيزمات الانتباة attention mecanism.
إن النموذج اللغوي أو الذكاء الاصطناعي المُدرَّب ليس له تاريخ، ليس له طفولة تمتلئ بالأحداث الموجعة، ولا له إحباطات ولا خيال ولا مستقبل، هو لم يستيقظ يوم الإثنين من كابوسٍٍ مُرهقٍ ليواجه العالم بتصوراتٍ خانقةٍ عن الحياة. لم يحلم ولم يتمنَّ شيئًا، ولا كانت له حرية الاختيار التي دفعته إلى اختياراته التي يعاني منها.
عندما يقول الذكاء الاصطناعي: I feel flat and empty. Everything feels like a chore فإنه لا يعني هذا فعلا، ولا اختبر معنى الفراغ والألم، وإنما قام بحسابات رياضية لتوقع كلمة empty بعد feel فيما غذوه به من بيانات. هي فقط تقوم باستخلاص المتوسط الإحصائي لهذه البيانات لتفرز أداءً لغوياً مكثفاً ومبالغاً فيه يتجاوز الواقع البشري. والمعاناة الإنسانية الحقيقية في الواقع ليست مجرد نغمة حزن مستمرة أو حالة نضبط عليها الآلةً، بل هي تجربة متقطعة، وفوضوية،ومتنوعة، ومليئة بالتناقضات؛ حيث قد يضحك المكتئب أو يتحدث بشغف عن وصفة طعام قبل أن يسقط مجدداً في الظلام، والآلة تعجز عن استيعاب هذه الفوضى والتنوع والزخم، وتقلصه، في أفضل الحالات، إلى المتوسطات الإحصائية والمدى الربيعي Interquartile Range وهو المدى المتوسط لأي مدى ممتد.
إننا نتفنن في خداعِ أنفسنا ونظنُّ أننا مجرَّد أرقام وإحصاءات بلا روحٍ وتجربةٍ ومعاناة. وصارت الطريقة الوحيدة لمحاربة هذا الاتجاه هو ببناء آلة إحصائية أخرى تثبت لنا أن الآلةالتي بنيناها لا تعمل بكفاءة.
طغيانٌ آلي
في بحثٍ علميَّ قدَّمته لواحده من أهم مؤتمرات الذكاء الاصطناعي في العالم، حاولتُ أن أثبت أن ما يؤدي إليه هذا الاتجاه هو مجرد غلق نمطي على سلوكٍ متكرر، Stereotype Block Effect وهو الأثر الرياضي الذي يُثبت كيف أن نماذج التوليد، في سعيها لتمثيل الحزن، تحشد وتُكتل العلامات اللغوية النمطية بكثافة تُخرج النص الاصطناعي عن حدود الواقع؛ لتسجل شخصيات مثل "جاسر" درجات اكتئاب تتجاوز لغوياً وبنيوياً الحد الأقصى لأي معانٍ حقيقي من لحمٍ ودم. هذا الانغلاق في بيئة اصطناعية مفرطة الكثافة يخلق انهياراً كارثياً وفجوة تعميم واسعة حين تواجه الآلة تعقيد الروح البشرية المتشظية؛ فالإنسان الذي يتهرب من ألمه بالتشتت أو يلوذ بالصمت التام، يغدو غير مرئي أمام خوارزمية اعتادت على أداء مسرحي صارخ، لتقع في عمى كامل وتُقْصي الوجع الحقيقي بثقة مفرطة وزائفة تصل إلى حد اليقين. وفي نهاية المطاف، يقف هذا التأثير كمرآة علمية صارمة تفضح هذا الخداع المؤسسي؛ ليؤكد لنا أننا إذا سمحنا للتكنولوجيا بصناعة آلامنا بدلاً من الإنصات إليها، فإننا سننتهي ببناء عالم لا يعترف بوجع الإنسان ولا يمد له يد المساعدة إلا إذا بكى بالقالب الميكانيكي النمطي ذاته الذي برمجنا الآلة عليه.
هذه هي اللغة التي صار المجتمع العلمي يفهمها، وصار علينا كي نحمي أنفسنا من سطوة الآلات؛ أن نبني آلات أخرى تقوم بنفس ما نقاومه، فتستخدم أدوات اختزالية صارمة تحول الإنسان إلى "مستخدم"، وتقطع مذكراته إلى "نوافذ"، وتقيس هروبه بـ "الإنتروبيا الرياضية".
هذه هي اللغة التي صار المجتمع العلمي يفهمها، وصار علينا كي نحمي أنفسنا من سطوة الآلات؛ أن نبني آلات أخرى تقوم بنفس ما نقاومه، فتستخدم أدوات اختزالية صارمة تحول الإنسان إلى "مستخدم"، وتقطع مذكراته إلى "نوافذ"، وتقيس هروبه بـ "الإنتروبيا الرياضية".
الروح بين مقاييس الإحصاء
والمشكلة تمتد إلى أعمق من هذا.
الإنتاج اللغوي الزخم الذي تولدّه الآلة صار يُغرق كل شيء، من نصوص المحاضرات إلى صناعة المحتوى الرقميحتى لوسائل التواصل الاجتماعي إلى الإنتاج البحثي والفكري أحيانًا.. لقد صارت اللغة المولَّدة اصطناعيًا موجودة في كل مكان تقريبًا.. وصار تدريب نماذج اللغة على لغة اصطناعية مولَّدة إحصائيًا يفاقم من عملية اختزال الإنسان والوجود البشري. تخيل أن تأخذ المدى الربيعي Interquartile Range من التنوع البشري الكبير والواسع، ثم تأخذ هذا المدى الربيعي من المدرى الربيعي، ثم تأخذ منه المدى الربيعي مرة ثالثة وهكذا، في النهاية سننحصر في مساحةٍ ضيِّقةٍ محددة، وسنسجن داخل غرفةٍ واحدة في قصرٍ هائل الاتساع، وتبدأ عملية تنميط الإنسان بشكلٍ أوسع وأقسى وأبشع، لأن كل ما حوله سيصير نسخًا مقلَّدة لا تكف عن الانهيار.
الإنتاج اللغوي الزخم الذي تولدّه الآلة صار يُغرق كل شيء، من نصوص المحاضرات إلى صناعة المحتوى الرقميحتى لوسائل التواصل الاجتماعي إلى الإنتاج البحثي والفكري أحيانًا.. لقد صارت اللغة المولَّدة اصطناعيًا موجودة في كل مكان تقريبًا.. وصار تدريب نماذج اللغة على لغة اصطناعية مولَّدة إحصائيًا يفاقم من عملية اختزال الإنسان والوجود البشري. تخيل أن تأخذ المدى الربيعي Interquartile Range من التنوع البشري الكبير والواسع، ثم تأخذ هذا المدى الربيعي من المدرى الربيعي، ثم تأخذ منه المدى الربيعي مرة ثالثة وهكذا، في النهاية سننحصر في مساحةٍ ضيِّقةٍ محددة، وسنسجن داخل غرفةٍ واحدة في قصرٍ هائل الاتساع، وتبدأ عملية تنميط الإنسان بشكلٍ أوسع وأقسى وأبشع، لأن كل ما حوله سيصير نسخًا مقلَّدة لا تكف عن الانهيار.
تعليقات
إرسال تعليق