अपने लॉग की जाँच के पीछे का मॉडल चुनें
SmartCode Relay किसी मानक API एंडपॉइंट के ज़रिए क्लाउड AI प्रदाता के साथ, आपके पीसी पर लोकल चलने वाले मॉडल के साथ, या बिल्ट-इन मॉडल के साथ काम करता है। तीन विकल्प हैं। आपका चुनाव तय करता है कि कौन-सा टेक्स्ट मशीन से बाहर जाएगा, इसलिए हर विकल्प के नीचे की गोपनीयता टिप्पणी पढ़ें।
मॉडल जोड़ने के तीन तरीके
क्लाउड AI प्रदाता
क्लाउड AI प्रदाता मानक API एंडपॉइंट से जुड़ता है और कठिन चरणों के लिए ठीक रहता है, जैसे सर्वर सेटिंग्स का लंबा सेट पढ़ना। प्रॉम्प्ट टेक्स्ट, एजेंट के पढ़े फ़ाइल टेक्स्ट समेत, उसी प्रदाता के पास जाता है, इसलिए जहाँ संभव हो एक्सपोर्ट किए लॉग से आगंतुकों के IP पते हटा दें। प्रदाता की शर्तें जाँचें। शुल्क, अगर कोई हो, प्रदाता लेता है।
आपके पीसी पर मॉडल
आपके पीसी पर लोकल चलने वाला मॉडल उन लॉग और सेटिंग्स के लिए ठीक है जिन्हें आप कहीं भेजना नहीं चाहेंगे। मशीन से कुछ बाहर नहीं जाता। रिस्पॉन्स टाइम और उपयोगी कॉन्टेक्स्ट विंडो आपके हार्डवेयर पर निर्भर हैं, इसलिए लंबे लॉग के लिए मॉडल पर भरोसा करने से पहले Test दबाकर दोनों देखें।
बिल्ट-इन मॉडल
बिल्ट-इन मॉडल क्लाउड AI प्रदाता और आपके पीसी पर लोकल चलने वाले मॉडल के साथ तीसरा विकल्प है। प्रॉम्प्ट केवल उसी मॉडल एंडपॉइंट पर जाते हैं जिसे आप चुनते हैं, और गोपनीयता पेज उन वैकल्पिक नेटवर्क सुविधाओं की सूची देता है जो नेटवर्क इस्तेमाल करती हैं। उसे पहले पढ़ें।
Test बटन क्या दिखाता है
Test बटन समीक्षा शुरू करने से पहले एंडपॉइंट की जाँच करता है। यह रिस्पॉन्स टाइम और कॉन्टेक्स्ट विंडो दिखाता है, जिससे पता चलता है कि एक अनुरोध में कितना लॉग टेक्स्ट और सेटिंग्स आ सकती हैं। टेस्ट फेल हो तो पहले एंडपॉइंट का ब्योरा जाँचें। बदलावों के बाद दोबारा टेस्ट करें।
काम के हिसाब से मॉडल चुनना
कठिन हिस्सों के लिए बड़ा मॉडल इस्तेमाल करें, जैसे कई नियमों वाली लंबी कॉन्फ़िगरेशन पढ़ना, और छोटे संपादनों, जैसे टाइमआउट वैल्यू, के लिए छोटा। run_on_model एक कठिन चरण बड़े मॉडल को भेजता है, और बाकी चैट छोटे मॉडल पर चलती रहती है। केवल वही चरण आगे जाता है।
मॉडलों के बीच गुणवत्ता अलग-अलग होती है, इसलिए स्वीकार करने से पहले हर diff जाँचें। Ask first मोड में एजेंट हर बदलाव से पहले रुकता है, और नतीजे को आप अपनी टेस्ट कमांड से कॉपी पर जाँचते हैं। मॉडल गलतियाँ करते हैं।
