AI को सीधे अपने कंप्यूटर पर चलाना, बिना खाते, बिना सदस्यता और बिना अपने पाठ इंटरनेट पर भेजे: यह संभव है, मुफ़्त है, और जितना लगता है उससे आसान है। यह गाइड आपको शुरू से अंत तक साथ देती है — अपनी मशीन जाँचना, टूल चुनना, पहला मॉडल डाउनलोड करना और वह परीक्षण करना जो साबित करता है कि सब कुछ आपके पास रहता है।
शुरू करने से पहले आपको क्या चाहिए: एक यथोचित नया कंप्यूटर, शुरुआत के डाउनलोड के लिए इंटरनेट कनेक्शन (इसके बाद, इसकी ज़रूरत नहीं), और डिस्क पर 10 से 50 GB खाली जगह — हर डाउनलोड किया गया मॉडल कई GB का होता है।
चरण 1 — अपनी मशीन जाँचें
शुरुआत में जो चीज़ सच में मायने रखती है, वह है आपके कंप्यूटर की mémoire vive (RAM) :
8 Go de RAM : vous pourrez faire tourner de petits modèles (3 à 4 milliards de paramètres). Les réponses seront plus lentes et plus simples, मईs ça fonctionne.
16 Go de RAM : असली आरामदायक शुरुआती बिंदु। 7 से 8 अरब पैरामीटर वाले मॉडल — सबसे व्यापक और सबसे संतुलित — अच्छी तरह चलते हैं।
32 GB RAM (या बहुत मेमोरी वाली ग्राफ़िक्स कार्ड) : बड़े 14 से 32 अरब पैरामीटर वाले मॉडल, काफ़ी बेहतर, विचारणीय हो जाते हैं।
Deux précisions utiles :
ग्राफ़िक्स कार्ड अनिवार्य नहीं है बातचीत के लिए: प्रोसेसर पर्याप्त है, धीमी गति से। यह केवल छवियाँ या वीडियो बनाने के लिए लगभग अनिवार्य हो जाती है।
Apple Silicon चिप (M1, M2, M3, M4…) वाले Mac विशेष रूप से आरामदायक हैं, क्योंकि उनकी मेमोरी प्रणाली और ग्राफ़िक्स गणना दोनों का काम करती है। एक पुराना Intel Mac फिर भी Jan या GPT4All और एक छोटे मॉडल के साथ काम चला सकता है।
कहाँ देखें? Windows पर: सेटिंग्स → सिस्टम → जानकारी (« इंस्टॉल की गई RAM मेमोरी »)। Mac पर: Apple मेनू → इस Mac के बारे में।
चरण 2 — अपनी प्रोफ़ाइल के अनुसार अपना प्रवेश द्वार चुनें
सब कुछ आज़माने की ज़रूरत नहीं: टूल एक जैसे हैं, वह चुनें जो आपकी स्थिति के अनुकूल हो। यहाँ वर्णित स्थानीय उपयोग के लिए सभी मुफ़्त हैं।
« मुझे सबसे सरल चाहिए » → LM Studio। मॉडलों की सूची एकीकृत है, इंटरफ़ेस परिचित है, और एप्लिकेशन काम पर भी मुफ़्त है। एकमात्र शर्त: Apple Silicon Mac या हाल का PC। Voir la fiche LM Studio
« मुझे ओपन सोर्स चाहिए, और असली ऑफ़लाइन » → Jan। मुफ़्त, खुला कोड, यह Intel Mac पर भी काम करता है, और बातचीत Wi-Fi बंद होने पर भी जारी रहती है। Voir la fiche Jan
« मेरा कंप्यूटर मामूली है » → GPT4All। केवल प्रोसेसर के लिए बनाए गए हल्के मॉडल। Voir la fiche GPT4All
« मेरी रुचि मेरे दस्तावेज़ों में है » → AnythingLLM। आप अपनी फ़ाइलें एक कार्यक्षेत्र में रखते हैं और उनसे सवाल पूछते हैं, बिना वे मशीन छोड़े। Voir la fiche AnythingLLM
« मैं चुनने से पहले तुलना करना चाहता हूँ » → Msty। यह एक ही सवाल कई मॉडलों से पूछता है और जवाब साथ-साथ दिखाता है। Voir la fiche Msty
Étape 3 — Téléchargez un premier modèle raisonnable
चुनी गई एप्लिकेशन आपको एक सूची पेश करेगी: ये « मॉडल » हैं, वे दिमाग़ जिन्हें आप जोड़ सकते हैं (Llama, Qwen, DeepSeek, Gemma, Mistral…)।
4 से 8 अरब पैरामीटर वाले मॉडल से शुरू करें (अक्सर « 4B » या « 8B » लिखा जाता है), « क्वांटाइज़्ड » संस्करण में यदि एप्लिकेशन पेश करे: यह मानक हल्का प्रारूप है, निजी कंप्यूटरों के लिए बना। फ़ाइल का वज़न लगभग 3 से 6 GB होता है।
इस समय के सबसे बड़े मॉडल के लालच से बचें : 16 GB RAM वाली मशीन पर 32 अरब पैरामीटर का मॉडल सबसे ज़्यादा… धीमा होगा। आप बाद में हमेशा दूसरा डाउनलोड कर सकते हैं।
Le téléchargement se fait एक बार। इसके बाद, मॉडल आपकी डिस्क पर रहता है और उसे अब इंटरनेट की ज़रूरत नहीं।
Étape 4 — Faites le test hors ligne
यह सत्य का क्षण है — और इस पूरे सफ़र का कारण:
1. अपनी एप्लिकेशन लॉन्च करें और डाउनलोड किए गए मॉडल के साथ बातचीत खोलें।
2. Coupez le Wi-Fi (ou activez le mode avion).
3. एक असली सवाल पूछें: दोबारा लिखने के लिए एक पाठ, विकसित करने के लिए एक विचार, एक सारांश।
जवाब फिर भी आता है। कुछ भी किसी सर्वर पर नहीं गया : आपके शब्दों ने कभी आपका कंप्यूटर नहीं छोड़ा। ChatGPT या Gemini के साथ यही ठोस अंतर है, और इसीलिए स्थानीय AI सबसे निजी समाधान है — एक संवेदनशील ड्राफ़्ट, एक ग्राहक फ़ाइल, एक निजी डायरी के लिए, इससे बेहतर कुछ नहीं।
चरण 5 — तीन सामान्य निराशाएँ (ताकि आप बहुत जल्दी हार न मानें)
लगभग हर कोई इनसे मिलता है। ये सामान्य हैं, आपने कुछ ग़लत इंस्टॉल नहीं किया है:
1. « यह ChatGPT से धीमा है। » हाँ: आपका कंप्यूटर अकेले वह काम करता है जो ऑनलाइन पूरे डेटा सेंटर करते हैं। एक छोटा मॉडल तेज़ जवाब देगा; 4 अरब पैरामीटर का मॉडल अक्सर रोज़मर्रा का सही समझौता होता है।
2. « जवाब एक स्तर नीचे हैं। » यह भी सच है: घर पर चलाए जाने वाले मुफ़्त मॉडल ऑनलाइन सर्वश्रेष्ठ मॉडलों से कम शक्तिशाली होते हैं, विशेषकर लंबे तर्क और विशिष्ट विषयों के लिए। और सभी मॉडलों की तरह, वे आत्मविश्वास के साथ ग़लती कर सकते हैं : जो मायने रखता है उसे जाँचें, और अपने दस्तावेज़ों के लिए, जब टूल स्रोत अंश उद्धृत करे तो उन पर भरोसा करें (GPT4All और AnythingLLM ऐसा करते हैं)।
3. « पहला डाउनलोड बहुत बड़ा है। » अपरिहार्य: मॉडल के लिए कई GB, कभी-कभी एप्लिकेशन के लिए उतने ही। यह एक बार की लागत है — इसे अच्छे कनेक्शन पर रखें, सीमित मोबाइल योजना पर नहीं।
और ध्यान में रखने योग्य सुरक्षा-रेल:
एप्लिकेशन केवल प्रकाशक की आधिकारिक साइट से डाउनलोड करें (पते रिपॉज़िटरी की हर फ़िश में हैं)। कभी किसी तीसरे पक्ष की « मुफ़्त डाउनलोड » साइट से नहीं: यह मैलवेयर का क्लासिक प्रवेश द्वार है।
« स्थानीय » केवल वही सुरक्षित रखता है जो स्थानीय रहता है। यदि, Jan, Msty या AnythingLLM में, आप एक क्लाउड मॉडल जोड़ते हैं en ligne (क्लाउड प्रदाता की API कुंजी के ज़रिए), तो आपके पाठ इंटरनेट पर वापस चले जाते हैं। गोपनीयता के लिए, « स्थानीय » लेबल वाले मॉडलों पर रहें।
जो मायने रखता है उसका सामान्य रूप से बैकअप लें : आपकी स्थानीय बातचीत और दस्तावेज़ आपकी डिस्क पर रहते हैं — यदि डिस्क ख़राब हो जाए, तो वे उसके साथ चले जाते हैं।
चरण 6 — आगे बढ़ने के लिए
पहला मॉडल चलने के बाद, आपकी इच्छाओं के अनुसार:
एजेंट जो आपके घर काम करते हैं : Ollama आपके स्थानीय मॉडलों से इंटरफ़ेस और एजेंट जोड़ने का संदर्भ इंजन है — थोड़ा ज़्यादा तकनीकी, और यह इस गाइड की तार्किक अगली कड़ी है। उसी दिशा में, OpenClaw आपकी मैसेजिंग में, हमेशा सक्रिय एक निजी सहायक इंस्टॉल करता है।
छवि, आवाज़ और वीडियो एप्लिकेशन : Pinokio एक क्लिक में वे ओपन सोर्स AI एप्लिकेशन इंस्टॉल करता है जिन्हें सामान्यतः कमांड लाइन की ज़रूरत होती है। Garde-fou important : एक « एक क्लिक » लॉन्चर आपके कंप्यूटर पर कोड चलाता है — केवल आधिकारिक सूची या पहचाने जाने योग्य लेखकों की एप्लिकेशन इंस्टॉल करें, कभी फ़ोरम पर मिला कोई यादृच्छिक स्क्रिप्ट नहीं।
Une interface web मईson (étape 2, pour les plus à l'aise) : Open WebUI se branche sur Ollama et s'auto-héberge, मईs son installation passe par Docker et la ligne de commande. Nous le mentionnons ici sans fiche débutant.