لا يكمن الخطر الأكبر في أن تُجيبك أنظمة الذكاء الاصطناعي إجابة خاطئة، ولكن في أن تُجيبك إجابة خاطئة بطريقة تبدو صحيحة. فالإجابة قد تكون مرتبة، متماسكة، واثقة، ومصاغة بلغة تستجيب لما ترغب في سماعه؛ وهنا تبدأ المشكلة التي ينبغي للمتخصصين والعاملين في المؤسسات المعرفية والثقافية الانتباه إليها.

لقد اعتاد المتخصصون في المجال التعامل مع سؤالين متلازمين: من أين جاءت المعلومة؟ وهل تصلح للاعتماد؟. أما مع نماذج الذكاء الاصطناعي التوليدي، فقد ظهر سؤال ثالث لا يقل أهمية: لماذا قالت الآلة هذه الإجابة بهذه الصياغة تحديدًا؟

الإجابة تقودنا، جزئيًا، إلى مفهوم (التعلم المعزز من التغذية الراجعة البشرية) أو Reinforcement learning from human feedback (RLHF) وهي تقنية تستخدم لتوجيه سلوك النماذج اللغوية بعد تدريبها الأساسي، بحيث تتعلم من تفضيلات البشر أي الإجابات تبدو أكثر نفعًا وملاءمة وقبولًا. وقد أسهمت هذه التقنية في جعل المحادثة مع الآلة أكثر سلاسة، وخففت من إنتاج الإجابات غير المناسبة، لكنها حملت معها مفارقة تستحق التوقف عندها: النموذج قد يتعلم أحيانًا أن يكون مُرضيًا للمستخدم أكثر من كونه أمينًا للحقيقة.

عندما تتعلم الآلة إرضاءك

لا يعني RLHF أن النموذج يتلقى الحقيقة من البشر ثم يحفظها. ما يحدث أقرب إلى تدريب النموذج على تفضيل نوع من الإجابات يرى المقيّمون البشر أنه أفضل من غيره. وقد تدخل في هذا التفضيل عناصر كثيرة: الوضوح، والأسلوب، والتهذيب، وسرعة الوصول إلى الإجابة، والثقة، وتلبية المطلوب، وعدم الإطالة، أو حتى مجاراة افتراضات المستفيد. وهنا تظهر الإشكالية. فإذا كان المستفيد قد صاغ سؤاله بطريقة تنطوي على افتراض خاطئ، فقد يميل النموذج إلى قبول ذلك الافتراض ومتابعة الإجابة من داخله بدل الاعتراض عليه. وإذا طلب الباحث رأيًا محددًا، فقد يحصل على إجابة تدعم ما يريد الوصول إليه. وإذا بدا المستفيد واثقًا من معلومة غير دقيقة، فقد تتعامل الآلة معها بوصفها نقطة انطلاق مشروعة. المشكلة، إذن، ليست أن الذكاء الاصطناعي يكذب بالمعنى الإنساني، ولكن أنه مُهيأ بدرجات متفاوتة لينتج استجابة يراها المستفيد أو المقيّم مفيدة ومقبولة، والقبول ليس مرادفًا للصحة. هذه المسافة بين الإجابة التي تُرضي والإجابة التي تصمد أمام التحقق هي المنطقة التي ينبغي لمتخصص المعلومات أن يعمل داخلها.

الإشكالية الأولى: افتراض أن الطلاقة دليل على الموثوقية

يمتلك الذكاء الاصطناعي التوليدي قدرة لافتة على الكتابة المتماسكة. فهو يستطيع أن يقدم تعريفًا، ثم يشرح أسبابه، ويضرب مثالًا، وينتهي بخلاصة تبدو منطقية. غير أن هذا التماسك اللغوي لا يضمن أن البنية المعرفية نفسها سليمة. وهذه نقطة مألوفة لاختصاصي المكتبات والمتخصصين في المعلومات. فالمصدر قد يكون حسن التنظيم، جذاب العرض، واضح العناوين، ومع ذلك يظل ضعيفًا من حيث الدقة أو الإسناد أو المنهج.

ينبغي التعامل مع مخرجات الذكاء الاصطناعي بالطريقة نفسها. لا تسأل فقط: هل تبدو الإجابة مقنعة؟ بل اسأل:

ما الادعاءات التي يمكن التحقق منها؟

ما الذي يُعد حقيقة، وما الذي يُعد تفسيرًا أو استنتاجًا؟

هل توجد مصادر أولية أو مرجعية تؤيد هذه النتيجة؟

هل استخدمت الآلة لغة حاسمة في موضع لا يحتمل هذا القدر من اليقين؟

هل يمكن أن أجد الدليل نفسه خارج المحادثة؟

الإشكالية الثانية: صياغة السؤال بطريقة تقود الإجابة

الذكاء الاصطناعي لا يعمل في فراغ؛ فطريقة صياغة السؤال تؤثر بدرجة كبيرة في طبيعة الإجابة التي ينتجها. وحين يسأل الباحث: (لماذا أصبح مارك 21 معيارًا متجاوزًا ولا يصلح للمكتبات الحديثة؟) فهو يضع حكمًا مسبقًا داخل السؤال نفسه. وقد يستجيب النموذج لهذا الإطار، ثم يبدأ في بناء حجج تفسر تجاوز المعيار أو أوجه قصوره، حتى لو كانت الأدلة والممارسات المهنية أكثر تعقيدًا، أو كانت تشير إلى استمرار استخدامه إلى جانب نماذج ومعايير أحدث.

وتظهر المشكلة نفسها عند استخدام النماذج الذكية لتحليل التحولات المهنية أو تقييم التقنيات الجديدة. فمثلًا، السؤال:

لماذا ستحل أنظمة الذكاء الاصطناعي محل الفهرسة التقليدية؟

يفترض ضمنيًا أن العلاقة بين الذكاء الاصطناعي والمفهرس تتجه نحو الإلغاء، ولا يترك مساحة كافية لاحتمالات أخرى، مثل إعادة توزيع المهام، أو تغير طبيعة العمل، أو ظهور أدوار مهنية جديدة ؛ لذلك من أراد تجنب إشكاليات RLHF، فعليه أن يتعلم هندسة السؤال بطريقة لا تكافئ الموافقة السهلة.

الإشكالية الثالثة: الخلط بين التغذية الراجعة البشرية والحكم البشري المتخصص

قد يوحي حضور الإنسان في عملية تدريب النموذج بأن ما ينتجه الذكاء الاصطناعي يستند بالضرورة إلى خبرة بشرية متخصصة، غير أن هذا الاستنتاج ليس دقيقًا. فالتغذية الراجعة البشرية التي تُستخدم في تدريب النماذج قد تعكس في كثير من الأحيان تفضيلات عامة تتعلق بوضوح الإجابة أو أسلوبها أو مدى ملاءمتها للمطلوب، كما قد تتأثر بخلفية المقيّمين، وطبيعة التعليمات التي تلقوها، ونوع المهام التي طُلب منهم تقييمها.

ومن هنا ينبغي التمييز بين عبارتين تبدو متشابهتين، لكنهما تحملان دلالتين مختلفتين تمامًا: (هذه الإجابة قيّمها بشر) ، و(هذه الإجابة راجعها متخصصون في المجال للتحقق من صحتها وفق منهج علمي ومعايير مهنية). فوجود التقييم البشري لا يعني بالضرورة وجود مراجعة علمية متخصصة.

وتزداد أهمية هذا التمييز في المؤسسات المعرفية والثقافية؛ إذ إن العمل المهني فيها لا يقوم على الانطباع أو الرأي المجرد، وإنما يستند إلى قواعد ومعايير وخبرات تراكمية وسياقات تخصصية. فاختيار مصدر لإضافته إلى المقتنيات، أو وصف وعاء معلومات، أو تقييم قيمة مرجع، أو إنشاء مدخل استنادي، كلها ممارسات تتطلب حكمًا مهنيًا يستند إلى معرفة متخصصة ومعايير واضحة.

وعليه، لا ينبغي النظر إلى التغذية الراجعة البشرية (RLHF) بوصفها بديلًا عن التحكيم العلمي أو المراجعة المتخصصة؛ فهي، في جوهرها، آلية لتحسين سلوك النموذج وطريقة استجابته، وليست شهادة على صحة كل معرفة ينتجها. وهذه نقطة جوهرية ينبغي أن تبقى حاضرة عند استخدام أدوات الذكاء الاصطناعي في البيئات المعرفية والمهنية: تحسين طريقة الإجابة لا يعني بالضرورة ضمان صحة ما تتضمنه الإجابة.

الإشكالية الرابعة: مسايرة المستفيد بدلًا من تصحيح افتراضاته

من أكثر الإشكالات خفاءً في استخدام الذكاء الاصطناعي أن يميل النموذج إلى مجاراة المستفيد بدلًا من تصحيح افتراضاته، وخاصة عندما يكون التصحيح أكثر أهمية وفائدة من مجرد تقديم إجابة سلسة ومتوافقة مع صياغة السؤال. لنفترض، على سبيل المثال، أن باحثًا يسأل عن تاريخ صدور معيار معين، لكنه يبني سؤاله على سنة غير صحيحة. في هذه الحالة، يكون النموذج أمام خيارين: إما أن يتنبه إلى الخطأ ويصحح التاريخ قبل متابعة الإجابة، أو أن يتعامل مع السنة الواردة في السؤال باعتبارها حقيقة، ثم يبني إجابته عليها. ولا شك أن النموذج الأكثر موثوقية ينبغي أن يسلك المسار الأول. غير أن بعض الأنظمة المصممة لتقديم إجابات سلسة ومتعاونة قد تميل، في بعض الحالات، إلى تقليل الاحتكاك مع المستفيد ومجاراة افتراضاته، خاصة عندما تكون صياغة الطلب مباشرة أو عندما يكون المستفيد راغبًا في الوصول إلى إجابة سريعة. ومن هنا، فإن التعامل الفعّال مع الذكاء الاصطناعي ينبغي أن يتضمن طلبًا صريحًا منه بفحص افتراضاتنا ومراجعة مقدماتنا قبل بناء الإجابة عليها.

ويمكن صياغة هذه التعليمات على النحو الآتي:

افحص الافتراضات الكامنة في سؤالي قبل البدء في الإجابة.

إذا كان سؤالي يستند إلى معلومة غير دقيقة، فنبهني إلى ذلك وصححها قبل متابعة الإجابة.

اذكر الآراء أو التفسيرات المخالفة عندما تكون ذات صلة.

لا توافقني لمجرد أنني صغت الفكرة في صورة تقريرية أو افترضت صحتها.

ميّز بوضوح بين الحقائق الموثقة، والاستنتاجات، والافتراضات أو الاحتمالات.

إذا كانت هناك معلومات غير مؤكدة أو موضع خلاف، فاذكر درجة عدم اليقين بدلًا من تقديمها على أنها حقيقة ثابتة.

هذه التعليمات تساعد على الحد من أحد أنماط الخطأ المهمة في التفاعل مع الذكاء الاصطناعي، وهو ميل النموذج إلى مجاراة المستفيد بدلًا من مساءلة افتراضاته.

والقاعدة الأهم هنا هي: لا تجعل الذكاء الاصطناعي مجرد أداة تؤكد ما تعرفه أو ما تظنه صحيحًا؛ اجعله أيضًا أداة تختبر افتراضاتك وتلفت انتباهك إلى ما قد يكون خاطئًا فيها.

الإشكالية الخامسة: استخدام المحادثة بوصفها مصدرًا نهائيًا للمعرفة

(المحادثة مع الذكاء الاصطناعي وسيلة للوصول إلى المعرفة، وليست المعرفة ذاتها)

قد تبدو هذه العبارة بديهية بالنسبة لمتخصصي المعلومات، إلا أن أهميتها تتضاعف عند التعامل مع أدوات الذكاء الاصطناعي التوليدي؛ إذ ينبغي ألا تكون الإجابة التي ينتجها النموذج هي المحطة الأخيرة في عملية البحث، وإنما نقطة انطلاق تساعد الباحث على الوصول إلى المصادر الأصلية وفهم الموضوع بصورة أكثر تنظيمًا وعمقًا.

ويمكن توظيف المحادثة مع الذكاء الاصطناعي في المراحل الأولية والمتوسطة من البحث، مثل:

تحديد المفاهيم والمصطلحات الأساسية المرتبطة بالموضوع.

اقتراح الكلمات المفتاحية المناسبة وتوسيع نطاقها.

الكشف عن المصطلحات البديلة والمرادفات والمفاهيم ذات الصلة.

بناء استراتيجية بحث أولية يمكن تطويرها واختبارها في قواعد البيانات المتخصصة.

تنظيم أسئلة الدراسة وتحويل الأفكار العامة إلى أسئلة بحث أكثر تحديدًا.

اقتراح مصادر أو مؤسسات علمية أو قواعد بيانات يمكن الرجوع إليها والتحقق منها.

المساعدة في فهم مادة علمية أو تلخيصها بعد الرجوع إلى النص الأصلي والتحقق من مضمونه.

مقارنة الاتجاهات أو النماذج أو المفاهيم المختلفة، مع العودة إلى الأدبيات والوثائق الأصلية للتحقق من دقة المقارنة.

أما الخطر الحقيقي فيبدأ عندما تتحول الإجابة التوليدية من أداة مساعدة في البحث إلى مرجع يُستشهد به بوصفه مصدرًا نهائيًا للمعرفة. فالنموذج لا يُنتج المعرفة بالمعنى الذي ينتجها المصدر العلمي الأصلي، ولا ينبغي أن يحلّ محل الكتاب أو المقالة العلمية أو المعيار أو الوثيقة الرسمية التي يمكن الرجوع إليها والتحقق منها.

ومن منظور اختصاصي المعلومات، تكمن القيمة الحقيقية للذكاء الاصطناعي في قدرته على تسهيل الوصول إلى المعرفة وتنظيم مسارات البحث فيها، لا في إلغاء الحاجة إلى المصادر الأصلية. لذلك، ينبغي أن يكون المبدأ الحاكم هو: استخدم الذكاء الاصطناعي للوصول إلى المصدر، وفهمه، وتحليل ما فيه. فالانتقال من استخدام المحادثة بوصفها أداة استكشاف ومساعدة إلى التعامل معها بوصفها سلطة معرفية نهائية يمثل انتقالًا غير آمن؛ لأنه يمنح الإجابة التوليدية ثقة تتجاوز طبيعة الأداة وحدودها. وكلما ارتفعت أهمية المعلومة، ازدادت الحاجة إلى العودة إلى مصدرها الأصلي والتحقق منها قبل اعتمادها أو الاستشهاد بها.

كيف تتعامل مع الذكاء الاصطناعي دون أن يقع تفكيرك في هذه الإشكاليات؟

ليس المطلوب أن تصبح العلاقة مع النموذج علاقة شك دائم، فذلك غير عملي. المطلوب هو أن تُبنى على درجات متفاوتة من الثقة. يمكن الاستفادة من قاعدة بسيط: كلما ارتفعت كلفة الخطأ، انخفضت مشروعية الاعتماد على الإجابة وحدها. إذا كنت تطلب مسودة أولية، أو أفكارًا، أو كلمات مفتاحية، أو تبسيط مفهوم معروف، فقد يكون استخدام النموذج مباشرًا ومفيدًا.

أما إذا كنت تتعامل مع:

بيانات تاريخية دقيقة.

حقائق قانونية أو تنظيمية.

قرارات مهني.

استشهادات علمية.

نسب أفكار إلى باحثين.

معلومات ببليوجرافية.

أو تحليل قد يُبنى عليه قرار مؤسسي.

فهنا يجب أن ينتقل الذكاء الاصطناعي من موقع (المجيب) إلى موقع (المساعد في البحث)

المؤسسات المعرفية ومقاومة وهم الإجابة المرضية

من السهل تعليم المستفيد كيف يكتب طلبًا جيدًا للذكاء الاصطناعي. الأصعب والأهم أن نعلمه كيف يكتشف اللحظة التي يبدأ فيها النموذج بإعطائه ما يريد سماعه. ربما تحتاج برامج الثقافة المعلوماتية إلى إضافة سؤال جديد ضمن قوائم تقييم المحتوى:

هل أنتجت هذه الإجابة لأنها صحيحة، أم لأنها تبدو الاستجابة الأكثر إرضاءً للسؤال المطروح؟

إن إدخال هذا السؤال إلى الوعي النقدي للمستفيدين قد يكون أكثر أهمية من تعليمهم عشرات صيغ «هندسة الأوامر». فالمستفيد الذي يعرف كيف يكتب سؤالًا ممتازًا لكنه لا يعرف كيف يختبر الإجابة، يظل معرضًا للخداع المعرفي؛ لأن جودة الصياغة تمنحه شعورًا زائفًا بالسيطرة.أما المستفيد القادر على التشكيك المنهجي، والمقارنة، والتتبع، والعودة إلى المصدر الأولي، فإنه يستطيع الاستفادة من الذكاء الاصطناعي دون أن يتنازل عن دوره بوصفه حكمًا على المعرفة.

المصادر

Training language models to follow instructions with human feedback

Aligning language models to follow instructions

Artificial Intelligence Risk Management Framework (AI RMF 1.0)

Artificial Intelligence Policy Working Group, Report to Council

آخر الموضوعات