عندما يرتكب ثلاثة وكلاء ذكاء اصطناعي الخطأ نفسه: هل تعدد الوكلاء أفضل من وكيل واحد؟

ارتكب ثلاثة من وكلاء الذكاء الاصطناعي الخطأ نفسه.

إضافة المزيد من الوكلاء تمنح شعورًا زائفًا بالأمان تجاه العمليات المالية، وفي الوقت نفسه تُلغي أي مراجعة مستقلة للعمل المنجز.

على سبيل المثال:

لديك وكيل يستخرج البيانات من نظام تخطيط موارد المؤسسة (ERP)، ووكيل ثانٍ يحلل جميع الانحرافات، ووكيل ثالث يراجع حزمة التقارير الإدارية قبل رفعها إلى المدير المالي (CFO). ويصل الثلاثة إلى النتيجة نفسها. فماذا لو كانوا جميعًا مخطئين؟

وهذا ما يوضح المخاوف التي أثارها فريق البحث في شركة أنثروبيك (Anthropic) بشأن «الهلوسة» لدى نماذج الذكاء الاصطناعي اللغوية المختلفة، وعدم اتفاقها دائمًا على الحقيقة.

وقد تعمّقت أنثروبيك في هذه المسألة باختبار طريقة عمل عدة نماذج معًا، ومدى الضرر الناتج إذا اشتركت في التصورات الخاطئة نفسها عن الواقع.

وتُظهر أبحاثها أنه عند عرض مجموعة من سيناريوهات التوظيف والاستثمار وشراء العقارات، تمكنت مجموعات مكوّنة من أربعة نماذج، حصلت كلٌّ منها على جزء فقط من معلومات السيناريو، من الوصول إلى الإجابة الصحيحة بنسبة تراوحت بين %17 و%36 من الحالات، في حين أن نموذجًا واحدًا حصل على المعلومات كاملة كان يصيب بنسبة تقارب %100 من الحالات.

‍

(أداء المجموعات حسب النوع. يمثل المحور الأفقي نسبة المجموعات التي اختارت الإجابة المستهدفة، ويمثل المحور الرأسي نسبة مجموعات النموذج الواحد التي اختارت الإجابة المستهدفة عند حصولها على المعلومات كاملة.)

أداء النماذج منفردةً ليس ضعيفًا، لكن المشكلة تظهر عندما تتخذ عدة نماذج القرار الخاطئ نفسه قبل أن تتناول أهم معلومة في المسألة.

فهذه الأنواع من الذكاء الاصطناعي، مثل البشر، قد تقع في تصورات خاطئة وقد تدفع غيرها إليها. وتبقى مجموعة النماذج الأربعة نقطة ضعف، لأن النماذج اتفقت على إجابة خاطئة قبل أن تتناول المعلومة الأكثر صلة بالمسألة.

مفهوم المراجعة المستقلة ليس جديدًا على الفرق المالية. فإذا كان هناك شخص يُعدّ تسوية الحسابات، فيجب أن يكون هناك شخص آخر يراجعها. ومن المرجح أن الشخص الذي يُنشئ الدفعة ليس هو نفسه من يعتمدها، ولا من يُفرج عن الأموال ليتولى الفريق المحاسبي سدادها. وكذلك فإن الشخص الذي يعتمد التوقعات المالية ليس على الأرجح الوحيد الذي ينبغي أن يناقش الافتراضات التي بُنيت عليها.

وبالمثل، إذا كانت الإدارة المالية تستخدم عدة نماذج، فيجب أن تدرك الفرق أن أي نموذجين دُرّبا على المعلومات نفسها، ويعملان وفق التعليمات نفسها ويستندان إلى الافتراضات نفسها، لا يحققان فصلًا حقيقيًا بين المهام.

وبعبارة بسيطة، لا يوجد فصل في المسؤوليات إذا كان نموذجان يكرران عمل نموذج واحد.

إضافة عدة نماذج في هذه الحالات لا توفر حماية تُذكر، وقد تمنح شعورًا زائفًا بالأمان، لأنها على الأرجح ستقدم الإجابة الخاطئة نفسها بثقة أكبر.

متى تضيف النماذج المتعددة قيمة؟

عندما يكون العمل مقسّمًا بين النماذج، كأن يراجع كل نموذج بنودًا مختلفة في الفاتورة، أو يصنّف بنودًا مختلفة، أو يبحث في أسباب محتملة مختلفة للانحراف، أو يتحقق من أجزاء مختلفة من السياسة، فعندها نعم، تكون للنماذج المتعددة قيمة. فكل نموذج يمكن أن يضيف السرعة والكفاءة في مجالات معينة.

أما الخطر فيظهر عندما تُربط النماذج في سلسلة واحدة، فيستخرج أحدها تاريخ عقد خاطئًا، ويستخدم الثاني هذا التاريخ الخاطئ لاحتساب الإيرادات، ويكتب الثالث تفسير الانحراف، ثم يعتمد الرابع الرقم رسميًا لأنه يبدو سليمًا.

الإجماع لا يعني الرقابة، وخصوصًا ليس بالصورة التي قد تأملها الفرق المالية.

ويمكن تحقيق رقابة أفضل إذا حصل كل نموذج على أدلة مختلفة، وطُلب من كل نموذج النظر في أخطاء ومشكلات مختلفة قبل الوصول إلى إجابة.

أرى أن من المهم أن نتجه إلى أنظمة يعترض فيها الوكلاء على عمل بعضهم بعضًا ويقدمون أدلة تدعم اعتراضاتهم، بدلًا من السعي إلى الاتفاق، حتى يتمكنوا من تدقيق عمل بعضهم، لا الاكتفاء بالاعتماد على عمل وكيل آخر.

التدقيق يقوم على الأدلة، لا على اتفاق الأشخاص أو تصديقهم أو ثقتهم ببعضهم.

فالتدقيق يثبت أن الأرقام متطابقة، وأن تسوية الحسابات أُنجزت بشكل صحيح، وأن الأرقام تعكس فعلًا الوقائع الحقيقية على أرض الواقع.

اعتراض وكيل على عمل وكيل آخر بداية جيدة، لكن ماذا لو دقق كل وكيل عمل جميع الوكلاء الآخرين؟ قد يكون ذلك صعبًا في البداية، لكن هذا مقترح لنظام فعّال متعدد الوكلاء للفرق المالية مستقبلًا: وكيل للأدلة، ووكيل منفّذ، ووكيل للتدقيق، ووكيل للسياسات، إضافةً إلى مسؤول بشري.

وكيل الأدلة

يجمع هذا الوكيل كل المعلومات والأدلة المتعلقة بمهمة معينة، مثل دفتر الأستاذ والفاتورة والعقد والموافقات وأي سياسات منطبقة.

الوكيل المنفّذ

يؤدي هذا الوكيل العمل المطلوب لإعداد تسوية الحسابات، أو إجراء الاحتساب، أو إعداد التوقعات المالية، أو مراجعة المعاملة، مع التصريح بوضوح بالافتراضات التي يستند إليها.

وكيل التدقيق

يسعى هذا الوكيل المعترض إلى إبراز أوجه التعارض والمشكلات في التوصية، من خلال الإشارة إلى نقص الأدلة، والتفسيرات البديلة، والوقائع المتناقضة.

وكيل السياسات

يتحقق هذا الوكيل صراحةً من مطابقة التوصية للسياسات ذات الصلة، بما في ذلك الحدود المعتمدة، وضريبة القيمة المضافة، وقواعد التعامل مع المورّدين، وغيرها من السياسات المالية.

المسؤول البشري

يراجع هذا الشخص الأدلة والاعتراضات والافتراضات والتوصية النهائية قبل اعتماد أي إجراء عالي القيمة.

أرى أن القدرة على الاختلاف أمر صحي جدًا، وكذلك أن يتوقف النظام ريثما تُعالَج هذه المخاوف.

أفضل الأنظمة هي التي تترك مجالًا لتدخل الأشخاص، بدلًا من السعي إلى الإجماع.

فإذا اعتمد ثلاثة وكلاء دفعة ما، بينما أشار وكيل رابع إلى مشكلات في البيانات البنكية للمورّد يجب حلها قبل تحويل أي أموال، فربما ينبغي التعامل مع رأي الأقلية بين الوكلاء كأنه صادر عن شخص أعلى منصبًا.

وبالمثل، ينبغي أن يكون النظام قادرًا على التوقف إذا كانت الأدلة غير كافية، أو تعارض بعضها مع بعض، أو كانت مستويات الثقة منخفضة، أو لم يكن هناك أشخاص متاحون للتدخل والمراجعة.

الأسئلة المطروحة أمام الفرق المالية

يمكن لوكلاء الذكاء الاصطناعي أن يُعفوا الفرق المالية من عدد كبير من المهام منخفضة القيمة.

إذ يمكن استخدامهم لمراجعة تسوية الحسابات، وتحليل الانحرافات، وجمع أدلة التدقيق، ومراجعة العقود، والتحقق من الالتزام بالسياسات، وإعداد العروض التقديمية للمديرين.

والخطر أن استخدام عدة وكلاء لا يصنع سوى وهم الرقابة، بينما يُلغي المراجعة المستقلة التي تحتاج إليها الفرق المالية.

قبل تبنّي نظام كهذا، ينبغي أن يطرح القادة الماليون الأسئلة التالية: هل يستطيع الوكلاء دعم استنتاجاتهم بالأدلة؟ هل يستطيع وكيل الاعتراض على عمل وكيل آخر؟ هل يستطيع النظام رصد التناقضات؟ هل يستطيع عرض الجوانب غير المؤكدة على المسؤولين المعنيين؟ هل يستطيع الشخص المسؤول فهم المنطق قبل اعتماد الإجراءات؟ هل يمكن إيقاف المعالجة قبل تحويل الأموال أو تقديم الإقرارات الضريبية؟

من شبه المؤكد أن مستقبل الإدارة المالية سيشمل عدة وكلاء يعملون معًا.

والسؤال الأهم هو ما إذا كان هؤلاء الوكلاء قادرين على رصد الدليل الوحيد الذي لم يلحظه أحد غيرهم.

هل تسمح لوكيل بمراجعة عمل وكيل آخر كمستوى ثانٍ من الرقابة؟ وما الضمانات التي تريد أن تراها مطبقة؟

‍

أيًّا كانت إجابتك، من المفيد أن ترى موقع الوكلاء ضمن التوجه الأوسع نحو أتمتة العمليات المالية، وهو ما يتناوله دليل «أتمتة العمليات المالية» إلى جانب العمليات التي تناسبها الأتمتة وتلك التي لا تناسبها. وإذا كنت تختبر ذلك بنفسك، فإن مكتبة أوامر الذكاء الاصطناعي للفرق المالية تضم أوامر جاهزة لإعداد التقارير والتوقعات المالية وتسوية الحسابات يمكنك البدء بها.