منع المساعد من الإجابة عمّا لا ينبغي
multi-sector enterprise · Gulf
شكل هذه المشكلة
The same judgment, made differently every time
بنته هذه الممارسة وتشغّله في بيئتها الخاصة.
المشكلة
Enterprise question-answering systems needed enforceable boundaries - for unsafe topics, unsupported answers, sensitive data, conversation flow, and required response formats. In most deployments those boundaries lived entirely in prompt wording, which meant they could not be audited, could not be tested independently of the model, and quietly degraded whenever the prompt, the model, or the retrieved content changed. Organisations were left unable to say which control had actually stopped a bad answer, or whether one existed at all.
ما بنيناه
We built and compared implementations across a model-based safety classifier, a conversational-flow control framework, and an output-validation framework, combining input and output classification, topic controls, predefined dialog flows, structured-output validation, corrective prompting, and source-grounding rules into a single accelerator.
ما تغيّر
| المقياس | قبل | بعد |
|---|---|---|
| Unsafe or off-policy responses | † | down 45% |
| Required-format compliance | † | up 30% |
| Manual review of low-risk conversations | † | down 35% |
† مقيسة مقابل المستوى السابق للمقياس نفسه.
Unsafe or off-policy responses
مقيس مقابل عملية العميل السابقة نفسها، مُقاسة إلى ١٠٠. والمصدر ينشر مقدار التغيّر، لا الرقم المطلق الذي تغيّر عنه.
Required-format compliance
مقيس مقابل عملية العميل السابقة نفسها، مُقاسة إلى ١٠٠. والمصدر ينشر مقدار التغيّر، لا الرقم المطلق الذي تغيّر عنه.
Manual review of low-risk conversations
مقيس مقابل عملية العميل السابقة نفسها، مُقاسة إلى ١٠٠. والمصدر ينشر مقدار التغيّر، لا الرقم المطلق الذي تغيّر عنه.
الأرقام من سجلات التنفيذ الخاصة بالممارسة للمشروع المذكور، مقيسةً مقابل العملية التي سبقته.
ما توقّف عليه
The operational win was not maximum restriction but risk-tiered control - the full review chain was reserved for sensitive topics and actions, ordinary knowledge questions kept a fast path, and every intervention stayed attributable to a logged policy or validator. Relevant to any regulated organisation that has to explain to an auditor why a generative system refused, escalated, or answered.
ابدأ من هنا
أيّ الأربعة هو مشكلتكم؟
أخبرونا بالمستندات والحجم الشهري وسنرسل أقرب سجلّين، مع الأرقام وراء كل منهما وما يلزم لتكرارها على موادكم.
يصلك الرد في غضون يوم عمل واحد، من المهندس الذي سينفّذ العمل.