منع المساعد من الإجابة عمّا لا ينبغي
multi-sector enterprise · Gulf
شكل هذه المشكلة
The same judgment, made differently every time
هذا أحد أعمالنا الخاصة، لا مشروعًا لعميل. وهو دليل قدرة، وموصوف بذلك.
المشكلة
Enterprise question-answering systems needed enforceable boundaries - for unsafe topics, unsupported answers, sensitive data, conversation flow, and required response formats. In most deployments those boundaries lived entirely in prompt wording, which meant they could not be audited, could not be tested independently of the model, and quietly degraded whenever the prompt, the model, or the retrieved content changed. Organisations were left unable to say which control had actually stopped a bad answer, or whether one existed at all.
ما بنيناه
We built and compared implementations across Llama Guard, NVIDIA NeMo Guardrails, and Guardrails AI, combining input and output classification, topic controls, predefined dialog flows, structured-output validation, corrective prompting, and source-grounding rules into a single accelerator.
ما تغيّر
| المقياس | قبل | بعد |
|---|---|---|
| Unsafe or off-policy responses | † | down 45% |
| Required-format compliance | † | up 30% |
| Manual review of low-risk conversations | † | down 35% |
† مقيس مقابل المستوى السابق للقياس نفسه. والمصدر ينشر مقدار التغيّر، لا الرقم الذي تغيّر عنه.
Unsafe or off-policy responses
مقيس مقابل عملية العميل السابقة نفسها، مُقاسة إلى ١٠٠. والمصدر ينشر مقدار التغيّر، لا الرقم المطلق الذي تغيّر عنه.
Required-format compliance
مقيس مقابل عملية العميل السابقة نفسها، مُقاسة إلى ١٠٠. والمصدر ينشر مقدار التغيّر، لا الرقم المطلق الذي تغيّر عنه.
Manual review of low-risk conversations
مقيس مقابل عملية العميل السابقة نفسها، مُقاسة إلى ١٠٠. والمصدر ينشر مقدار التغيّر، لا الرقم المطلق الذي تغيّر عنه.
الأرقام مأخوذة من سجلات التنفيذ الخاصة بالممارسة للمشروع المذكور، ومقيسة مقابل العملية التي سبقته. ولم تخضع لتدقيق طرف ثالث، ولا يُعرض أي منها كمتوسط بين عملاء.
ما توقّف عليه
The operational win was not maximum restriction but risk-tiered control - the full review chain was reserved for sensitive topics and actions, ordinary knowledge questions kept a fast path, and every intervention stayed attributable to a logged policy or validator. Relevant to any regulated organisation that has to explain to an auditor why a generative system refused, escalated, or answered.
ابدأ من هنا
أيّ الأربعة هو مشكلتكم؟
أخبرونا بالمستندات والحجم الشهري وسنرسل أقرب سجلّين، مع الدليل وراء كل منهما والملاحظة الصريحة حيث تكون المطابقة جزئية.
يصلك الرد في غضون يوم عمل واحد، من المهندس الذي سينفّذ العمل - لا من سلسلة رسائل تسويقية.