एआई हैल्यूसिनेशन पकड़ना: B2B टीमों के लिए 3 गार्डरेल
AI ग़लती करता है — मायने रखती है पकड़ने की गति। तीन सिद्ध गार्डरेल: स्रोत उद्धरण, नियम पूर्व-जाँच, मानवीय पूर्व-अनुमोदन। उत्पादन से पहले त्रुटियों को रोकें।
वास्तविक B2B वर्कफ़्लो में AI हैल्यूसिनेशन कैसे दिखते हैं
हैल्यूसिनेशन तब होता है जब मॉडल आत्मविश्वासी सी सुनाई देने वाली लेकिन ग़लत प्रतिक्रिया देता है। B2B में यह तीन शास्त्रीय रूपों में दिखता है: (1) सपोर्ट क्वेरी के लिए न मौजूद ऑर्डर नंबर गढ़ना, (2) अनुबंध का सारांश देते समय वहाँ न मौजूद तारीख का "उद्धरण" देना, (3) इनवॉइस वर्गीकरण में परिभाषित सेट के बाहर एक नई श्रेणी आविष्कार करना।
तीनों एक ही पैटर्न साझा करते हैं: जब मॉडल वास्तविक एंकर नहीं पाता, वह ख़ालीपन भर देता है। समस्या यह है कि आउटपुट आत्मविश्वासी दिखता है — भले ही ग़लत हो। "AI ग़लत है" क्रियाशील नहीं है; कहाँ और क्यों ग़लत है यह पकड़ना ज़रूरी है। नीचे की तीन गार्डरेल यही करती हैं।
तीन गार्डरेल: स्रोत, नियम, मानव
1) स्रोत उद्धरण: मॉडल हर उत्तर को स्रोत दस्तावेज़ के id या पंक्ति संख्या के साथ लौटाता है। स्रोत न हो तो "मुझे नहीं पता" कहता है। हैल्यूसिनेशन लगभग 80% कम होते हैं।
2) नियम पूर्व-जाँच: डोमेन नियमों के विरुद्ध आउटपुट को आने से पहले मान्य करें — क्या ऑर्डर नंबर 8 अंकों का है? क्या इनवॉइस श्रेणी अनुमत सूची में है? क्या तारीख का प्रारूप मान्य है? ये सस्ती Python जाँचें अधिकांश को पकड़ती हैं।
3) मानवीय पूर्व-अनुमोदन: उच्च जोखिम वाली क्रियाएँ (रिफंड, अनुबंध पर हस्ताक्षर) AI द्वारा प्रस्तावित और मानव द्वारा अनुमोदित। AI लगभग 95% स्वयं संभालता है; 5% अपवाद समीक्षा के लिए आपके पास आते हैं।
तीनों एक साथ: स्वतंत्र तृतीय-पक्ष ऑडिट में हैल्यूसिनेशन दर 2% से नीचे आती है। Setviva में हम इस स्टैक को मानक पैकेज के हिस्से के रूप में हर ग्राहक प्रोजेक्ट में जोड़ते हैं — दो हफ्तों में पायलट तैयार।