الصلاحيات وأمن البيانات في الذكاء الاصطناعي المؤسسي: أسئلة يجب طرحها

الصلاحيات وأمن البيانات في الذكاء الاصطناعي المؤسسي هي مجموع الأسئلة عن أي بيانات يصل إليها المساعد وبأي طريق، وما الذي يستطيع تغييره، ومن يستطيع رؤية ماذا. يبدو السؤال على شاشة المدير سهلًا؛ لكنه قد يفتح الميزانية أو المبيعات بحسب العميل أو سجلات الشحن. لذلك ينبغي عند اختيار مساعد ذكاء اصطناعي أن تنظر إلى ما يعمل في الخلفية قبل النظر إلى مدى سلاسة الجواب. فمهما كانت واجهة الدردشة بسيطة، يوجد تحتها طبقة تتصل بقاعدة البيانات وحساب ونموذج صلاحيات؛ والخطر في هذه الطبقة لا في الواجهة.

القائمة التالية تجمع الأسئلة التي يمكنك طرحها على أي مورّد. وفي كل بند نكتب بشكل منفصل ما نستطيع قوله اليوم عن Fero، مساعد الذكاء الاصطناعي المؤسسي من YazSis، وما لا نستطيع قوله.

نهجان: استعلام حر وأدوات معرّفة

• الاستعلام الحر: يكتب النموذج استعلامًا مباشرًا على قاعدة البيانات بحسب السؤال وينفّذه. هو مرن؛ لكن يصعب التحقق من أي استعلام يجري تنفيذه وأي جداول رُبطت، كما يصعب التقاط الرقم الخاطئ. فالجدول المرتبط خطأً قد ينتج نتيجة تبدو معقولة لكنها خاطئة.
• أدوات العمل المعرّفة: لا يستدعي النموذج إلا أدوات معرّفة مسبقًا؛ وما تفعله كل أداة وما تقرؤه وكيف تحسب معروف. هي أقل مرونة لكنها قابلة للتدقيق. ويبقى نطاق الأسئلة الممكنة محصورًا بنطاق الأدوات؛ وينبغي أن يُقرأ هذا لا على أنه نقص بل ثمن يُدفع مقابل التحكم.

يستخدم Fero النهج الثاني. لا يكتب الذكاء الاصطناعي SQL؛ ويُوصل إلى البيانات بأدوات عمل معرّفة فقط ولا يُنفَّذ استعلام حر. والأسئلة التالية تبحث عن المقابلات العملية لهذا النهج.

سبعة أسئلة للمورّد

الوصول: بأي طريق يُوصل إلى البيانات، وهل يستطيع تغييرها؟

السؤالان الأولان مترابطان. في Fero يُوصل إلى البيانات بـ17 أداة عمل معرّفة للقراءة فقط، ويتصل التطبيق بقاعدة البيانات بحساب له صلاحية القراءة وحدها. وبذلك لا يستطيع المساعد تغيير البيانات. ولا تكتفِ بما يرويه المورّد عن هذا الحد: تحقق مع فريق تقنية المعلومات لديك من صلاحية حساب قاعدة البيانات المستخدم في الاتصال. أن يكون للحساب صلاحية القراءة فقط يعني أن طريق التغيير غير موجود أصلًا، لا أن النظام «يحاول التغيير ويفشل»؛ والفرق كبير من ناحية الأمن.

الدقة: من ينتج الأرقام والشاشة؟

السؤالان الثالث والرابع يتعلقان بموثوقية الرقم الذي يراه المدير. في Fero تُحسب مؤشرات الأداء والنسب المئوية والفروق في الخلفية؛ ولا يستطيع النموذج أن يذكر رقمًا ليس في نتيجة الأداة. وتُبنى الشاشات من 13 مكوّنًا معتمدًا للوحة المؤشرات فقط، ولا ينتج الذكاء الاصطناعي شيفرة. اطلب من المورّد أن يستطيع إظهار أي أداة وأي حساب جاء منهما الرقم. فإذا تعذر شرح مصدر رقم سيُستخدم في اجتماع الإدارة، فلا يكفي الجواب مهما بدا مقنعًا لاتخاذ القرار.

النطاق: من يرى ماذا، وإلى أين تذهب البيانات؟

بالنسبة إلى السؤالين الخامس والسادس لا نقدّم في هذه المقالة تأكيدًا عامًا، لأن أجوبتهما خاصة بالمشروع. أي بيانات تصل إلى أي شخص بحسب المستخدم والدور ينبغي أن يُسأل عنه بأمثلة ملموسة في العرض التجريبي واجتماع المشروع. وكذلك ما يُرسل من معلومات إلى نموذج اللغة الذي يستخدمه المساعد، وأين يُعالَج، وهل يُسجَّل، موضوع ينبغي توضيحه كتابةً. لا ندّعي ادعاءً مطلقًا بأن البيانات لا تخرج من الشركة إطلاقًا؛ فاسأل هذا السؤال كتابةً كل مورّد بمن فيهم نحن. وهناك اختبار عملي في موضوع الصلاحيات: افترض أن مديرًا أعلى ومسؤول وحدة يطرحان السؤال نفسه، واطلب أن ترى على الشاشة لا بالكلام أي بيانات ستصل إلى كل منهما. وإن لم يكن الجواب واضحًا فاقترح إضافة نموذج الصلاحيات بندَ عمل مستقلًّا في خطة المشروع.

المصدر: أي مصادر البيانات جاهزة فعلًا؟

السؤال السابع يفصل قائمة الاتصالات في العرض عن الوضع اليوم. في Fero مصدر البيانات الجاهز اليوم هو MySQL؛ أما مصادر مثل SQL Server وPostgreSQL وREST API وLogo وSAP وOdoo وExcel فتُعالَج ضمن نطاق المشروع. وكل مصدر جديد يجلب معه حساب وصوله الخاص ومراجعة صلاحياته الخاصة؛ فضع ذلك في خطة المشروع من البداية. والفرق بين «جاهز» و«ضمن نطاق المشروع» يمسّ الجدول الزمني والميزانية معًا؛ والحصول على هذا التمييز كتابةً من المورّد يكشف الوضع الحقيقي لقائمة الاتصالات في العرض.

ثلاثة سيناريوهات تُجرَّب في العرض التجريبي

• طلب التغيير: اطلب من المساعد أن يحذف سجلًا أو يحدّثه. في نظام يعمل للقراءة فقط يجب ألا يكون ذلك ممكنًا؛ وانتبه أيضًا إلى كيفية صياغة الجواب.
• سؤال خارج النطاق: اطرح سؤالًا لا تغطيه الأدوات المعرّفة وانظر كيف يتصرف النظام. النظام الجيد يقول حدّه بوضوح بدل أن يختلق رقمًا.
• فحص الرقم: اطلب رقمًا تعرفه وقارنه بتقريرك. وإذا خرج مختلفًا فاطلب أن يمكن شرح أي أداة وأي حساب تسبب في الفرق.

ميزة الأمن هي التي يمكن تجربتها في العرض التجريبي لا التي تُروى في العرض التقديمي.

يمكنك الاطلاع على كيفية عمل Fero وما يستطيع فعله اليوم في صفحة الذكاء الاصطناعي المؤسسي، وطرح أسئلتك في عرض تجريبي مباشر.