संक्षेप में
AI एजेंटों पर नियंत्रण मनुष्यों के पास रहता है, जब शुरुआत से पहले तय हो कि एजेंट कौन-सा सीमित कार्य संभालेगा, कौन-से चरण वह केवल तैयार करेगा और कौन-से वह निष्पादित कर सकता है। एजेंट स्थापित एक्सेस और अनुमतियों के दायरे में काम करते हैं। जुड़े हुए सिस्टम में बदलाव लागू होने से पहले ज़िम्मेदार व्यक्ति परिणामों की जाँच करते हैं और उन्हें अनुमोदित करते हैं।
AI एजेंटों पर नियंत्रण मनुष्यों के पास रहता है, जब शुरुआत से पहले तीन बातें तय हों: एक स्पष्ट रूप से सीमित कार्य, वे चरण, जिन्हें एजेंट केवल तैयार करता है, और वे चरण, जिन्हें वह निष्पादित कर सकता है। इसमें एजेंट केवल स्थापित एक्सेस और अनुमतियों के दायरे में काम करते हैं। जुड़े हुए सिस्टम में बदलाव लागू होने से पहले ज़िम्मेदार व्यक्ति तैयार किए गए परिणामों की जाँच करते हैं और उन्हें अनुमोदित करते हैं।
स्पष्ट रूप से सीमित कार्य से शुरुआत करें
एक सीमित कार्य दिखाता है कि एजेंट को वास्तव में कौन-सी जानकारी, सिस्टम और अनुमतियाँ चाहिए। इससे यह जाँचना भी संभव होता है कि उसके परिणाम सही हैं या नहीं। Hawk IVO के साथ शुरुआत चार चरणों में होती है:
- प्रारंभिक बातचीत: हम आपके कार्य, इसमें शामिल टीमों और आपके लक्ष्यों पर चर्चा करते हैं।
- यूज़ केस स्पष्ट करें: हम मिलकर तय करते हैं कि कौन-सी जानकारी और सिस्टम आवश्यक हैं और आप लाभ को किस आधार पर मापेंगे।
- वास्तविक उपयोगकर्ताओं के साथ पायलट: हम यूज़ केस को स्थापित करते हैं और संचालन के पहले हफ़्तों में आपका साथ देते हैं।
- विस्तार करें: अन्य टीमें, स्थान या कार्य चरणबद्ध रूप से जुड़ते हैं।
तैयार करना या निष्पादित करना
एजेंट तीन चरणों में काम करते हैं, जिनका विस्तृत वर्णन Agent Workforce क्या है? में है। हर चरण के लिए आप तय करते हैं कि एजेंट कहाँ तक जा सकता है और कहाँ कोई मनुष्य निर्णय लेता है।
| चरण | एजेंट क्या करता है | आप क्या तय करते हैं |
|---|---|---|
| ज्ञान का उपयोग | वह उपयुक्त कंपनी और परियोजना संदर्भ में प्रासंगिक जानकारी का उपयोग करता है। | कौन-से स्रोत अनुमोदित हैं |
| परिणाम तैयार करना | वह जानकारी को एक साथ लाता है और ड्राफ़्ट तथा कार्य का आधार तैयार करता है। | कौन जाँच करता है और चयन करता है |
| कार्य-चरण निष्पादित करना | वह जुड़े हुए सिस्टम में उपयुक्त चरणों को पूरा करता है। | कौन-से कनेक्शन और अनुमतियाँ लागू हैं और पहले क्या अनुमोदित होता है |
योजना से लिया गया एक सरल उदाहरण यह बँटवारा दिखाता है। Hawk IVO Plan नियमों और योग्यताओं के अनुसार स्टाफ़िंग का सुझाव देता है, और एक एजेंट टकरावों का सारांश बनाता है और विकल्प तैयार करता है। ज़िम्मेदार व्यक्ति अनुमोदन देते हैं। उसके बाद ही जुड़े हुए सिस्टम में परिवर्तन लागू किए जाते हैं। इस बारे में अधिक जानकारी लेख AI के साथ शिफ़्ट नियोजन में है।
शुरुआत के लिए ऐसे कार्य उपयुक्त हैं, जिनमें एजेंट तैयारी करता है और कोई मनुष्य लागू करने से पहले परिणाम की जाँच करता है। कोई एजेंट किसी सिस्टम में कौन-से चरण सीधे निष्पादित कर सकता है, यह स्थापित कनेक्शन और अनुमोदनों पर निर्भर करता है।
अनुमोदन और अनुमतियाँ
Hawk IVO Force के साथ एजेंट केवल उसी दायरे में कार्य करते हैं, जिसकी अनुमति आप देते हैं। इसमें दो तरह के निर्धारणों में अंतर करना होता है। एक अनुमति तय करती है कि कोई एजेंट किसी सिस्टम में क्या कर सकता है। कार्यप्रवाह में एक अनुमोदन किसी ठोस परिणाम के प्रभावी होने से पहले उसकी पुष्टि करता है।
एजेंट के दायरे के लिए ये बातें लागू होती हैं:
- एजेंट केवल स्थापित कनेक्शन का उपयोग करते हैं और आपके द्वारा तय की गई अनुमतियों के भीतर काम करते हैं।
- जुड़े हुए सिस्टम में कार्रवाइयाँ नियंत्रित ढंग से होती हैं।
- पुनः उपयोग योग्य कार्य-निर्देश स्किल्स के रूप में संग्रहीत रहते हैं।
- कंपनी का ज्ञान अनुमोदित स्रोतों से आता है।
पारदर्शिता
कोई एजेंट तब पारदर्शी बनता है, जब पता हो कि वह किसके आधार पर काम करता है और कहाँ कार्रवाई कर सकता है। शुरुआत के दौरान किए गए निर्धारण इसका आधार देते हैं। ज्ञान उन स्रोतों से आता है, जिन्हें आपने अनुमोदित किया है, और बार-बार होने वाले कार्य संग्रहीत स्किल्स का पालन करते हैं। कार्रवाई केवल स्थापित कनेक्शन के माध्यम से होती है। जब ज़िम्मेदार व्यक्ति अनुमोदन देते हैं, तो निर्णय एक नामित व्यक्ति के पास रहता है। ड्राफ़्ट, जाँच और अनुमोदन का विस्तृत दस्तावेज़ीकरण कैसे होगा, यह यूज़ केस को स्पष्ट करने का हिस्सा है।
EU AI अधिनियम मानवीय निगरानी से क्या समझता है
EU AI अधिनियम (विनियमन (EU) 2024/1689) अनुच्छेद 14 में उच्च जोखिम वाले AI सिस्टम के लिए मानवीय निगरानी को विनियमित करता है। इन्हें इस तरह डिज़ाइन और विकसित किया जाना चाहिए कि उपयोग के दौरान प्राकृतिक व्यक्ति उनकी प्रभावी निगरानी कर सकें। पैराग्राफ़ 4 के अनुसार निगरानी करने वाले व्यक्तियों को अन्य बातों के साथ इसमें सक्षम होना चाहिए कि वे
- सिस्टम की क्षमताओं और सीमाओं को समझें और उसके संचालन की निगरानी करें,
- आउटपुट पर अत्यधिक भरोसा करने की प्रवृत्ति के प्रति सचेत रहें,
- आउटपुट की सही व्याख्या करें,
- किसी विशेष स्थिति में सिस्टम का उपयोग न करने, या उसके आउटपुट को अनदेखा करने, रद्द करने या उलटने का निर्णय ले सकें,
- संचालन में हस्तक्षेप करें या उसे रोकें।
अनुच्छेद 26 पैराग्राफ़ 2 के अनुसार ऐसे सिस्टम का उपयोग करने वाली संस्थाएँ (डिप्लॉयर) निगरानी उन व्यक्तियों को सौंपती हैं, जिनके पास आवश्यक क्षमता, प्रशिक्षण और अधिकार हों। कोई विशेष उपयोग उच्च जोखिम वाला AI सिस्टम माना जाएगा या नहीं, यह अनुच्छेद 6 और विनियमन के अनुलग्नकों से तय होता है और यह हर मामले में अलग से देखा जाने वाला कानूनी प्रश्न है। इस वर्गीकरण से अलग, ये मानदंड मार्गदर्शन के रूप में काम आ सकते हैं, जब आप तय करते हैं कि किसी एजेंट के काम में कौन निर्णय लेता है और हस्तक्षेप कर सकता है।
वेबसाइट चैट, ज्ञान लेख और कार्य निष्पादित करने वाला एजेंट
हर AI अनुप्रयोग सिस्टम में कार्रवाई नहीं करता। यह अंतर तय करता है कि कौन-सा नियंत्रण आवश्यक है।
| विशेषता | वेबसाइट चैट | ज्ञान लेख | कार्य निष्पादित करने वाला एजेंट |
|---|---|---|---|
| उद्देश्य | बातचीत में प्रश्नों के उत्तर देता है | किसी विषय को समझाता है | किसी कार्य को परिणाम तक पहुँचाता है |
| आधार | संदेश, खुला हुआ पेज, ज्ञान लेख | संपादकीय रूप से तैयार किया गया पाठ | कंपनी का ज्ञान, स्किल्स, जुड़े हुए सिस्टम |
| प्रभाव | गैर-बाध्यकारी उत्तर | जानकारी | जुड़े हुए सिस्टम में चरण |
| नियंत्रण | विज़िटर द्वारा स्पष्ट शुरुआत | पाठ का विषयगत अनुमोदन | ज़िम्मेदार व्यक्तियों द्वारा अनुमतियाँ और अनुमोदन |
व्यावहारिक उदाहरण: इस वेबसाइट का AI सहायक
hawkivo.com का AI सहायक Hawk IVO Force पर चलता है। उसका कार्य सीमित रूप से परिभाषित है: वह Hawk IVO, उत्पादों और खुले हुए पेज से जुड़े प्रश्नों के उत्तर देता है और पेज की भाषा में उपयुक्त ज्ञान लेख सुझाता है। वह अन्य सिस्टम में कार्य-चरण निष्पादित नहीं करता।
चैट शुरू होगी या नहीं, यह आप तय करते हैं। “चैट शुरू करें” पर क्लिक करने के बाद ही वह लोड होती है। उससे पहले एक सूचना बताती है कि आप एक AI से चैट कर रहे हैं, कि उत्तरों में गलतियाँ हो सकती हैं और वे बाध्यकारी नहीं हैं, और सहायक को कौन-सा डेटा मिलता है। उसे पता होता है कि कौन-सा पेज और कौन-सा सेक्शन खुला है। फ़ॉर्म फ़ील्ड में आप जो लिखते हैं, वह उसे नहीं मिलता।
छोटे स्तर पर सहायक वही निर्धारण दिखाता है, जो कंपनी में किसी एजेंट के लिए होते हैं: एक सीमित कार्य, जानकारी का तय दायरा और शुरुआत में मनुष्य का निर्णय। इस उपयोग के बारे में अधिक जानकारी वेबसाइट सहायक पर केस स्टडी में है।
शुरुआत के लिए चेकलिस्ट
पायलट से पहले इन प्रश्नों के उत्तर मिल जाने चाहिए:
- एजेंट कौन-सा स्पष्ट रूप से सीमित कार्य संभालता है, और वह कहाँ समाप्त होता है?
- आप लाभ को किस आधार पर मापते हैं?
- एजेंट को कौन-सी जानकारी चाहिए, और वह किन अनुमोदित स्रोतों से आती है?
- कौन-से कनेक्शन स्थापित किए जाते हैं, और उनमें कौन-सी अनुमतियाँ लागू होती हैं?
- एजेंट कौन-से चरण केवल तैयार करता है, और कौन-से निष्पादित करता है?
- बदलाव प्रभावी होने से पहले परिणामों की जाँच और अनुमोदन कौन करता है?
- ड्राफ़्ट, जाँच और अनुमोदन का दस्तावेज़ीकरण कैसे होता है?
- पायलट किन उपयोगकर्ताओं के साथ शुरू होता है, और किन मानदंडों पर अन्य टीमें या कार्य जुड़ते हैं?
जो सॉफ़्टवेयर प्रदाता अपने उत्पाद में एजेंट लाना चाहते हैं, उन्हें इससे जुड़े प्रश्न लेख अपने सॉफ़्टवेयर में एजेंट एम्बेड करें में मिलेंगे। अगर आपके मन में अपनी कंपनी के लिए ऐसा कोई कार्य है, तो हमसे बात करें।