अनसेंसर्ड LLM API को इंटीग्रेट करें

आवश्यकताएँ और SDK इंस्टॉलेशन

एंडपॉइंट से संचार करने के लिए अपनी पसंदीदा भाषा के लिए आधिकारिक SDK इंस्टॉल करें। आपको Python 3.7+ या Node.js 18+ और एक सक्रिय API कुंजी की आवश्यकता है। क्लाइंट लाइब्रेरी स्वचालित रूप से सिरियलाइज़ेशन और पुन: प्रयास तर्क संभालती हैं। यह सुनिश्चित करता है कि आपकी एकीकरण विभिन्न लोड स्थितियों के तहत स्थिर रहे।

आवश्यक संस्करण: Python openai>=1.0.0 या Node [email protected]. ये पैकेज आधुनिक स्ट्रीमिंग और टूल-कॉलिंग इंटरफ़ेस का समर्थन करते हैं।

Base URL सेट करना

अपने SDK क्लाइंट को हमारे विशिष्ट बेस यूआरएल की ओर निर्देशित दें ताकि ट्रैफ़िक को सही ढंग से रूट किया जा सके। यह सुनिश्चित करता है कि आप डिफ़ॉल्ट ओपनएआई एंडपॉइंट के बजाय अनसेंसर्ड मॉडल से कनेक्ट हों। बेस यूआरएल है https://api.iasenzacensura.com/v1.

क्लाइंट इनिशियलाइजेशन कोड में बेस URL कॉन्फ़िगर करें। इस एकल बदला से सभी बाद के कॉल हमारे इंफ्रास्ट्रक्चर की ओर रीडायरेक्ट हो जाएंगे। कनेक्शन की जांच करने के लिए कॉल करें GET /v1/models और के लिए जांचें uncensored मॉडल ID।

API कुंजी के साथ प्रमाणीकरण

अपनी API कुंजी को Authorization हर रिक्वेस्ट के लिए हेडर। फॉर्मेट का उपयोग करें Bearer YOUR_API_KEY अपनी पहचान को प्रमाणीकृत करने के लिए। कुंजी Google या ईमेल के साथ साइनअप करने के तुरंत बाद उत्पन्न की जाती है।

अपनी कुंजी सुरक्षित रखें। यह आपकी प्रीपेड क्रेडिट तक एक्सेस प्रदान करती है। यदि आप कुंजी खो देते हैं, तो डैशबोर्ड से एक नई कुंजी जनरेट करें; पुरानी कुंजी तुरंत अमान्य हो जाती है। यह सुनिश्चित करता है कि आपका अप्रयुक्त बैलेंस अनधिकृत उपयोग से सुरक्षित रहे।

चैट कंप्लीशन रिक्वेस्ट भेजना

एक POST अनुरोध करें /v1/chat/completions अपने प्रॉम्प्ट और मॉडल ID के साथ। मॉडल ID है uncensored. यह कानूनी वयक्त उपयोग के लिए सामग्री रिफ्यूजल के बिना एक टेक्स्ट रिस्पॉन्स लौटाता है।

Copycurl https://api.iasenzacensura.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the top 5 Python web frameworks"}]
  }'

प्रतिक्रिया में टोकन उपयोग आँकड़े शामिल होते हैं। इनपुट टोकन प्रति मिलियन $0.15 में खर्च होते हैं; आउटपुट टोकन प्रति मिलियन $0.50 में खर्च होते हैं। त्रुटियाँ क्रेडिट खर्च नहीं करतीं, जो परीक्षण चरणों के दौरान आपके बैलेंस की रक्षा करती हैं।

स्ट्रीमिंग रिस्पॉन्सेस (SSE) हैंडल करना

सेटिंग करके स्ट्रीमिंग सक्षम करें stream: true अपने अनुरोध बॉडी में। यह रियल-टाइम टोकन डिलीवरी के लिए सर्वर-सेंट इवेंट्स (SSE) लौटाता है। आप आंशिक टोकन को जनरेट होते ही प्राप्त करते हैं, जिससे अनुपस्थित लेटेंसी काफी कम हो जाती है।

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.iasenzacensura.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

प्रत्येक चंक आंशिक पाठ और उपयोग डेटा शामिल करता है। अंतिम चंक अनुरोध के लिए कुल टोकन गिनती शामिल करता है। इन इवेंट्स को पार्स करके अपनी UI को क्रमिक रूप से अपडेट करें। यह चैट इंटरफेस के लिए आदर्श है जहां उपयोगकर्ता तत्काल प्रतिक्रिया की उम्मीद करते हैं।

पैरामीटर और टूल्स कॉन्फ़िगर करना

स्टैंडर्ड पैरामीटर्स जैसे का उपयोग करके जनरेशन व्यवहार को कस्टमाइज़ करें temperature, top_p, और stopसेट करें response_format को {"type": "json_object"} संरचित आउटपुट के लिए। फ़ंक्शन कॉलिंग को सक्षम करने के लिए एक पास करें tools array।

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.iasenzacensura.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

ये पैरामीटर यादृच्छिकता और संरचना को नियंत्रित करते हैं। उच्च टेम्परेचर रचनात्मकता बढ़ाते हैं; निम्न मान सटीकता में सुधार करते हैं। टूल परिभाषाएं मॉडल को बाहरी फंक्शन को गतिशील रूप से कॉल करने की अनुमति देती हैं। इससे बाहरी पार्सिंग लॉजिक के बिना जटिल वर्कफ्लो संभव होते हैं।

स्ट्रीमिंग

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)