إدخال الوكلاء مع الموافقات: أين يتخذ البشر القرار

يحتفظ البشر بالتحكم في وكلاء الذكاء الاصطناعي إذا تحددت ثلاثة أمور قبل البدء: مهمة محددة بوضوح، والخطوات التي يقتصر الوكيل على إعدادها، والخطوات التي يُسمح له بتنفيذها. ولا يعمل الوكلاء في ذلك إلا في إطار حقوق الوصول والصلاحيات المُعدّة. ويراجع المسؤولون النتائج المُعدّة ويعتمدونها قبل تنفيذ التغييرات في الأنظمة المرتبطة.

البدء بمهمة محددة بوضوح

تُظهر المهمة المحددة بوضوح المعلومات والأنظمة والصلاحيات التي يحتاج إليها الوكيل فعلًا. كما تجعل صحة نتائجه قابلة للتحقق. ويتبع الإدخال مع Hawk IVO أربع خطوات:

1. محادثة أولية: نناقش مهمتكم والفرق المعنية وأهدافكم.
2. توضيح حالة الاستخدام: نحدد معًا المعلومات والأنظمة اللازمة، وكيف تقيسون الفائدة.
3. تجربة أولية مع مستخدمين حقيقيين: نُعدّ حالة الاستخدام ونرافقكم في الأسابيع الأولى من التشغيل.
4. التوسع: تنضم فرق أو مواقع أو مهام إضافية بشكل تدريجي.

الإعداد أم التنفيذ

يعمل الوكلاء في ثلاث خطوات موصوفة بالتفصيل في المقال ما هي Agent Workforce؟. وتحددون لكل خطوة إلى أي حد يُسمح للوكيل بالمضي، وأين يتخذ الإنسان القرار.

الخطوة	ما يفعله الوكيل	ما تحددونه
استخدام المعرفة	يستعين بالمعلومات ذات الصلة في السياق المناسب للمؤسسة والمشروع.	المصادر المعتمدة
إعداد النتائج	يجمع المعلومات ويُعدّ منها مسودات وأسس عمل.	من يراجع ومن يختار
تنفيذ خطوات العمل	يعالج الخطوات المناسبة في الأنظمة المرتبطة.	الاتصالات والصلاحيات السارية، وما يُعتمد مسبقًا

ويوضح مثال مبسط من التخطيط هذا التقسيم. يقترح Hawk IVO Plan توزيعًا للموظفين وفق القواعد والمؤهلات، ويلخص أحد الوكلاء التعارضات ويُعدّ الخيارات. ثم يمنح المسؤولون الموافقة. وعندها فقط تُنفَّذ التغييرات في الأنظمة المرتبطة. ولمزيد من المعلومات اقرؤوا المقال تخطيط المناوبات بالذكاء الاصطناعي.

وتناسب البدايةَ المهامُ التي يُعدّ فيها الوكيل العمل ويراجع فيها الإنسان النتيجة قبل التنفيذ. أما الخطوات التي يستطيع الوكيل تنفيذها مباشرةً في نظام ما، فتعتمد على الاتصالات والموافقات المُعدّة.

الموافقات والصلاحيات

مع Hawk IVO Force لا يتصرف الوكلاء إلا في حدود ما تعتمدونه. وينبغي هنا التمييز بين تحديدين: فالصلاحية تحدد ما يُسمح للوكيل بفعله في نظام ما. أما الموافقة في سير العمل، فتؤكد نتيجة محددة قبل أن تصبح نافذة.

ويسري على إطار عمل الوكيل ما يلي:

• لا يستخدم الوكلاء إلا الاتصالات المُعدّة، ويعملون ضمن الصلاحيات التي تحددونها.
• تجري الإجراءات في الأنظمة المرتبطة بشكل خاضع للرقابة.
• تُحفظ تعليمات العمل القابلة لإعادة الاستخدام في صورة مهارات.
• تأتي المعرفة المؤسسية من مصادر معتمدة.

قابلية التتبع

يصبح عمل الوكيل قابلًا للتتبع عندما يكون معروفًا ما الذي يعمل به وأين يمكنه التصرف. وتوفر التحديدات التي تُوضع أثناء الإدخال الأساس لذلك. فالمعرفة تأتي من مصادر اعتمدتموها، والمهام المتكررة تتبع مهارات محفوظة. ولا يجري التصرف إلا عبر الاتصالات المُعدّة. وعندما يمنح المسؤولون الموافقة، يبقى القرار لدى شخص معيّن. أما كيفية توثيق المسودات والمراجعات والموافقات بالتفصيل، فهي جزء من توضيح حالة الاستخدام.

ما تعنيه لائحة الاتحاد الأوروبي للذكاء الاصطناعي بالرقابة البشرية

تنظم لائحة الاتحاد الأوروبي للذكاء الاصطناعي (اللائحة (EU) 2024/1689) الرقابة البشرية في المادة 14 بالنسبة لأنظمة الذكاء الاصطناعي عالية المخاطر. ويجب تصميم هذه الأنظمة وتطويرها بحيث يتمكن أشخاص طبيعيون من الإشراف عليها بفعالية أثناء استخدامها. ووفقًا للفقرة 4، ينبغي أن يكون الأشخاص المكلفون بالإشراف قادرين، من بين أمور أخرى، على:

• فهم قدرات النظام وحدوده ومراقبة تشغيله،
• البقاء على وعي بالميل إلى الاعتماد المفرط على مخرجات النظام،
• تفسير المخرجات تفسيرًا صحيحًا،
• اتخاذ القرار في موقف معين بعدم استخدام النظام، أو بتجاهل مخرجاته أو إلغائها أو التراجع عنها،
• التدخل في التشغيل أو إيقافه.

ووفقًا للفقرة 2 من المادة 26، تُسند الجهات المشغِّلة لهذه الأنظمة الإشراف إلى أشخاص يتمتعون بالكفاءة والتدريب والصلاحية اللازمة. أما ما إذا كان استخدام محدد يُعد نظام ذكاء اصطناعي عالي المخاطر، فيتحدد وفق المادة 6 وملاحق اللائحة، وهو مسألة قانونية تُبحث في كل حالة على حدة. وبصرف النظر عن هذا التصنيف، يمكن أن تكون هذه المعايير توجيهًا عندما تحددون من يتخذ القرار ومن يمكنه التدخل في عمل الوكيل.

محادثة الموقع والمقال المعرفي والوكيل المنفِّذ

لا يتصرف كل تطبيق للذكاء الاصطناعي داخل الأنظمة. وهذا الفرق هو ما يحدد نوع التحكم اللازم.

السمة	محادثة الموقع	المقال المعرفي	الوكيل المنفِّذ
الغرض	يجيب عن الأسئلة في المحادثة	يشرح موضوعًا	يتولى مهمة حتى تحقيق النتيجة
الأساس	الرسالة والصفحة المفتوحة والمقالات المعرفية	نص يتولى فريق التحرير تحديثه	المعرفة المؤسسية والمهارات والأنظمة المرتبطة
الأثر	إجابة غير ملزمة	معلومات	خطوات في الأنظمة المرتبطة
التحكم	بدء صريح من الزائر	اعتماد فني للنص	الصلاحيات والموافقات من المسؤولين

مثال عملي: مساعد الذكاء الاصطناعي في هذا الموقع

يعمل مساعد الذكاء الاصطناعي على hawkivo.com بواسطة Hawk IVO Force. ومهمته محددة بدقة: يجيب عن الأسئلة المتعلقة بـ Hawk IVO وبالمنتجات وبالصفحة المفتوحة، ويقترح مقالات معرفية مناسبة بلغة الصفحة. ولا ينفذ خطوات عمل في أنظمة أخرى.

أنتم من يقرر ما إذا كانت المحادثة ستبدأ. فلا تُحمَّل إلا عند النقر على «بدء المحادثة». وقبل ذلك يوضح تنبيه أنكم تتحدثون مع ذكاء اصطناعي، وأن الإجابات قد تحتوي على أخطاء وهي غير ملزمة، وما البيانات التي يتلقاها المساعد. فهو يعرف الصفحة والقسم المفتوحين، لكنه لا يتلقى ما تكتبونه في حقول النماذج.

ويُظهر المساعد على نطاق صغير التحديدات نفسها التي يحتاج إليها وكيل في الشركة: مهمة محددة بوضوح، ونطاقًا محددًا من المعلومات، وقرارًا بشريًا في البداية. ولمزيد من المعلومات عن هذا الاستخدام، راجعوا دراسة الحالة حول مساعد الموقع.

قائمة تحقق للبدء

ينبغي الإجابة عن هذه الأسئلة قبل التجربة الأولية:

• ما المهمة المحددة بوضوح التي يتولاها الوكيل، وأين تنتهي؟
• كيف تقيسون الفائدة؟
• ما المعلومات التي يحتاج إليها الوكيل، ومن أي مصادر معتمدة تأتي؟
• ما الاتصالات التي تُعدّ، وما الصلاحيات السارية فيها؟
• ما الخطوات التي يقتصر الوكيل على إعدادها، وما الخطوات التي ينفذها؟
• من يراجع النتائج ويعتمدها قبل أن تصبح التغييرات نافذة؟
• كيف تُوثَّق المسودات والمراجعات والموافقات؟
• مع أي مستخدمين تبدأ التجربة الأولية، ووفق أي معايير تنضم فرق أو مهام إضافية؟

ويجد مزودو البرمجيات الذين يرغبون في إدخال الوكلاء إلى منتجاتهم الخاصة الأسئلة المتعلقة بذلك في المقال تضمين الوكلاء في برمجياتكم الخاصة. وإذا كانت لديكم مهمة من هذا النوع في شركتكم، فتواصلوا معنا.