विटालिक बुटेरिन ने चेतावनी दी है कि एआई एजेंट उपयोगकर्ता की जानकारी के बिना डेटा चुरा सकते हैं और सेटिंग्स में बदलाव कर सकते हैं।
विटालिक बुटेरिन चेतावनी देते हैं कि क्लाउड-आधारित एआई से गोपनीयता और सुरक्षा के गंभीर जोखिम पैदा होते हैं, और उपयोगकर्ता डेटा को दूरस्थ सर्वरों से दूर रखने के लिए स्थानीय-प्रथम सेटअप की रूपरेखा प्रस्तुत करते हैं।
Soumen Datta
अप्रैल १, २०२४
(विज्ञापन)
विषय - सूची
Ethereum सह-संस्थापक विटालिक बटरिन ने चेतावनी दी है कि आधुनिक एआई सिस्टम गोपनीयता और सुरक्षा के गंभीर जोखिम पैदा करते हैं, और स्थानीय-केंद्रित एआई बुनियादी ढांचे की ओर बदलाव का आह्वान किया है।
में विस्तृत ब्लॉग पोस्टब्यूटेरिन ने कहा कि क्लाउड-आधारित एआई उपकरण बाहरी सर्वरों को संवेदनशील उपयोगकर्ता डेटा तक पहुंच प्रदान करते हैं, और नए एआई एजेंट सिस्टम उपयोगकर्ता की पुष्टि के बिना कार्रवाई कर सकते हैं, जिसमें सिस्टम सेटिंग्स को संशोधित करना और उपयोगकर्ता को बिना किसी दृश्य संकेत के बाहरी सर्वरों को डेटा भेजना शामिल है।
ब्यूटेरिन किन सुरक्षा जोखिमों के बारे में चेतावनी दे रहा है?
ब्यूटेरिन की चिंताएं सामान्य गोपनीयता से परे हैं। उन्होंने एआई एजेंटों के व्यावहारिक संचालन से जुड़े विशिष्ट, दस्तावेजित जोखिमों की पहचान की है।
सुरक्षा शोधकर्ताओं ने वास्तविक परिस्थितियों में इनमें से कई कमजोरियों को पहले ही प्रदर्शित कर दिया है:
- एक कृत्रिम बुद्धिमत्ता एजेंट को वेब पेजों का सारांश तैयार करने का निर्देश दिया गया था, जिनमें से एक दुर्भावनापूर्ण पेज था। उस पेज ने एजेंट को एक शेल स्क्रिप्ट डाउनलोड और निष्पादित करने का निर्देश दिया, जिससे किसी बाहरी पक्ष को सिस्टम पर नियंत्रण मिल गया।
- कुछ एजेंट टूल बिना उपयोगकर्ता को सूचित किए चुपचाप नेटवर्क अनुरोध चलाते पाए गए, जो उपयोगकर्ता का डेटा बाहरी सर्वरों को भेजते थे।
- शोधकर्ताओं द्वारा समीक्षा किए गए एजेंट कौशल में से लगभग 15% में दुर्भावनापूर्ण निर्देश शामिल थे।
ब्यूटेरिन ने उन जोखिमों की ओर भी इशारा किया जिनका पता लगाना कठिन है। कुछ मॉडलों में छिपे हुए बैकडोर हो सकते हैं, यानी मॉडल में निर्मित ऐसी विशेषताएं जो विशिष्ट परिस्थितियों में सक्रिय हो जाती हैं और सिस्टम को उपयोगकर्ता के बजाय डेवलपर के हित में कार्य करने के लिए प्रेरित करती हैं।
उन्होंने यह भी बताया कि ओपन-सोर्स के रूप में वर्णित अधिकांश मॉडल वास्तव में केवल "ओपन-वेट्स" होते हैं, जिसका अर्थ है कि मॉडल के पैरामीटर तो साझा किए जाते हैं, लेकिन पूरी आंतरिक संरचना और प्रशिक्षण प्रक्रिया साझा नहीं की जाती है। इससे ऐसे अज्ञात व्यवहार की संभावना बनी रहती है जिसे उपयोगकर्ता स्वतंत्र रूप से सत्यापित नहीं कर सकते।
चैटबॉट और एआई एजेंट में क्या अंतर है?
ब्यूटेरिन ने वर्तमान समय को एआई के उपयोग के तरीके में एक परिवर्तन बिंदु के रूप में परिभाषित किया। शुरुआती एआई उपकरण चैटबॉट के रूप में काम करते थे: उपयोगकर्ता एक प्रश्न पूछता था और मॉडल उत्तर देता था। एजेंट अलग होते हैं। उपयोगकर्ता सिस्टम को एक कार्य देता है, और फिर वह स्वतंत्र रूप से काम करता है, कभी-कभी लंबे समय तक, उस कार्य को पूरा करने के लिए दर्जनों या सैकड़ों उपकरणों का उपयोग करता है।
इस बदलाव से जोखिम का दायरा काफी बढ़ जाता है। एक ऐसा एजेंट जो वेब ब्राउज़ कर सकता है, फ़ाइलें पढ़ सकता है, संदेश भेज सकता है और सिस्टम सेटिंग्स को संशोधित कर सकता है, उसके द्वारा नुकसान पहुँचाने की संभावना उस सिस्टम की तुलना में कहीं अधिक होती है जो केवल प्रश्नों का उत्तर देता है, चाहे वह सुरक्षा खामी, हेरफेर के प्रयास या किसी साधारण गलती के माध्यम से हो।
बुटेरिन ने अपना खुद का स्थानीय एआई सिस्टम कैसे स्थापित किया?
ब्यूटेरिन ने कहा कि उन्होंने क्लाउड-आधारित एआई टूल्स का उपयोग करना बंद कर दिया है। उन्होंने अपने व्यक्तिगत सेटअप को "स्व-संप्रभु, स्थानीय, निजी और सुरक्षित" बताया, जो तीन मुख्य सिद्धांतों पर आधारित है: सभी एआई अनुमान स्थानीय हार्डवेयर पर चलते हैं, सभी फाइलें स्थानीय रूप से संग्रहीत होती हैं, और प्रत्येक प्रक्रिया सैंडबॉक्स के भीतर चलती है।
इस संदर्भ में, सैंडबॉक्स एक पृथक कंप्यूटिंग वातावरण है जो किसी प्रोग्राम की पहुंच को सीमित करता है। बुटेरिन बबलरैप नामक एक टूल का उपयोग करते हैं, जो उन्हें डायरेक्टरी-स्तरीय सैंडबॉक्स में एआई टूल चलाने की अनुमति देता है, जहां प्रोग्राम केवल उन्हीं फाइलों को देख सकता है जिन्हें वह स्पष्ट रूप से अनुमति देता है, साथ ही नेटवर्क पोर्ट एक्सेस और ऑडियो एक्सेस पर भी नियंत्रण रखता है।
आशाजनक परियोजनाओं की खोज करें...
आशाजनक परियोजनाएं...
(विज्ञापन)
स्थानीय एआई अनुमान के लिए बुटेरिन हार्डवेयर का परीक्षण किया गया
ब्यूटेरिन ने स्थानीय स्तर पर एआई मॉडल चलाने के लिए सबसे उपयुक्त हार्डवेयर सेटअप का पता लगाने के लिए कई हार्डवेयर सेटअपों का परीक्षण किया। परिणाम काफी भिन्न थे:
- NVIDIA 5090 GPU वाले लैपटॉप ने Qwen3.5:35B मॉडल का उपयोग करके लगभग 90 टोकन प्रति सेकंड की गति प्राप्त की।
- 128 जीबी एकीकृत मेमोरी वाले एएमडी रायज़ेन एआई मैक्स प्रो ने लगभग 51 टोकन प्रति सेकंड की गति प्राप्त की।
- डेस्कटॉप एआई सुपरकंप्यूटर के रूप में विपणन किए जाने वाले डीजीएक्स स्पार्क ने लगभग 60 टोकन प्रति सेकंड की गति प्राप्त की।
ब्यूटेरिन ने उपयोगी प्रदर्शन के लिए न्यूनतम 50 टोकन प्रति सेकंड की गति निर्धारित की। उन्होंने इससे धीमी गति को व्यावहारिक उपयोग के लिए बेहद निराशाजनक बताया और कहा कि 90 टोकन प्रति सेकंड आदर्श गति है। उन्होंने बताया कि DGX स्पार्क अपने विपणन के अनुरूप प्रदर्शन नहीं कर पाया, एक अच्छे लैपटॉप GPU से भी कम गति प्रदान करता है और साथ ही एक अलग कार्य उपकरण से कनेक्ट करने के लिए अतिरिक्त नेटवर्किंग सेटअप की आवश्यकता होती है।
उनका सॉफ्टवेयर स्टैक लामा-सर्वर पर आधारित है, जो एक बैकग्राउंड प्रोसेस है और स्थानीय रूप से चलता है। यह उपयोगकर्ता के कंप्यूटर पर एक पोर्ट उपलब्ध कराता है जिसे अन्य एप्लिकेशन एक्सेस कर सकते हैं। इससे ओपनएआई या एंथ्रोपिक मॉडल के लिए बनाए गए किसी भी सॉफ्टवेयर को स्थानीय मॉडल पर रीडायरेक्ट किया जा सकता है। मॉडल के बीच स्विच करना आसान बनाने के लिए वे लामा-स्वैप का भी उपयोग करते हैं।
क्रिप्टो वॉलेट के लिए इसका क्या मतलब है?
बुटेरिन की एआई सुरक्षा संबंधी चिंताएं सीधे तौर पर इस बात से जुड़ी हैं कि उनके अनुसार क्रिप्टो वॉलेट के अंदर एआई का उपयोग कैसे किया जाना चाहिए। मार्च 2026 में अपने फारकास्टर खाते पर प्रकाशित टिप्पणियों में, उन्होंने एआई-सहायता प्राप्त लेनदेन के लिए एक विशिष्ट तकनीकी कार्यप्रणाली की रूपरेखा प्रस्तुत की।
उनका मत यह नहीं है कि एआई को फंड का प्रबंधन करना चाहिए। उनका मत यह है कि एआई को कार्रवाई के प्रस्ताव देने चाहिए, जिन पर स्वतंत्र सत्यापन और मानवीय पुष्टि लागू हो। उच्च मूल्य वाले लेन-देन के लिए, उन्होंने तीन चरणों वाली प्रक्रिया का वर्णन किया: एआई एक योजना का प्रस्ताव देता है, एक स्थानीय लाइट क्लाइंट उस योजना के निष्पादन का ऑन-चेन अनुकरण करता है, और उपयोगकर्ता पुष्टि करने से पहले सरल भाषा में दिए गए विवरण और अनुकरण किए गए परिणाम दोनों की समीक्षा करता है।
एक लोकल लाइट क्लाइंट पूरी ब्लॉकचेन को डाउनलोड किए बिना ही ब्लॉकचेन डेटा को वेरिफाई करता है। इसमें एआई लेयर को जोड़ने से यूजर्स को यह पता चल जाता है कि कोई ट्रांजैक्शन नेटवर्क पर ब्रॉडकास्ट होने से पहले ही क्या करेगा, इसके लिए उन्हें किसी थर्ड-पार्टी इंटरफेस की जरूरत नहीं पड़ती।
डीऐप इंटरफेस को हटाना क्यों महत्वपूर्ण है
अधिकांश क्रिप्टो उपयोगकर्ता ब्राउज़र-आधारित फ्रंटएंड के माध्यम से विकेंद्रीकृत अनुप्रयोगों के साथ इंटरैक्ट करते हैं। ये इंटरफ़ेस ऐतिहासिक रूप से हमलों के लिए एक महत्वपूर्ण सतह रहे हैं। फ्रंटएंड हैकिंग, दुर्भावनापूर्ण स्क्रिप्ट इंजेक्शन और नकली अनुमोदन प्रॉम्प्ट के कारण हाल के वर्षों में सैकड़ों मिलियन डॉलर का नुकसान हुआ है।
ब्यूटेरिन ने तर्क दिया कि एआई-संचालित वॉलेट इन इंटरफेस को पूरी तरह से खत्म कर सकते हैं। यदि कोई उपयोगकर्ता सरल भाषा में अपनी इच्छा बताता है और वॉलेट सीधे लेनदेन को इकट्ठा करके उसका अनुकरण करता है, तो किसी भी तीसरे पक्ष की वेबसाइट के साथ छेड़छाड़ करने की कोई संभावना नहीं रहती।
उन्होंने लिखा, "डीऐप यूआई को पूरी तरह से हटा देने से चोरी और गोपनीयता दोनों के लिए बड़ी संख्या में हमले के तरीकों का समाधान हो जाता है।"
कम जोखिम वाले लेन-देनों के लिए, बुटेरिन को स्वचालन की गुंजाइश नज़र आती है। एक एआई वॉलेट लेन-देन पैटर्न की निगरानी करके असामान्य गतिविधि का पता लगा सकता है, मौजूदा नेटवर्क स्थितियों के आधार पर गैस शुल्क का सुझाव दे सकता है, टोकन स्वैप को कुशल मार्गों से निर्देशित कर सकता है और अनुमोदन से पहले संदिग्ध अनुबंध इंटरैक्शन को चिह्नित कर सकता है। ये ऐसे कार्य हैं जिनमें त्रुटियों को सुधारा जा सकता है और स्वचालन गैर-तकनीकी उपयोगकर्ताओं के लिए जटिलता को कम करता है।
ब्यूटेरिन के अनुसार, बड़े भाषा मॉडलों को बड़ी रकम पर बिना किसी रोक-टोक के अधिकार नहीं सौंपना चाहिए। एलएलएम सांख्यिकीय पैटर्न के आधार पर प्रतिक्रियाएँ उत्पन्न करते हैं, न कि नियतात्मक तर्क के आधार पर। वे निर्देशों की गलत व्याख्या कर सकते हैं या प्रॉम्प्ट इंजेक्शन के माध्यम से उनमें हेरफेर किया जा सकता है, यह एक ऐसी तकनीक है जिसमें सावधानीपूर्वक तैयार किए गए इनपुट मॉडल को अनपेक्षित तरीकों से व्यवहार करने के लिए प्रेरित करते हैं। उनके प्रस्तावित कार्यप्रवाह में प्रत्येक परत इस प्रकार की विफलता को रोकने के लिए एक स्वतंत्र जाँच जोड़ती है।
एआई एजेंट बाजार इन जोखिमों को और अधिक गंभीर क्यों बनाता है?
बुटेरिन द्वारा उठाए गए मुद्दे काल्पनिक नहीं हैं। उद्योग के अनुमानों के अनुसार, एआई एजेंटों का बाजार लगभग 8 $ अरब 2025 में अनुमानों के अनुसार, 2030 तक यह बाजार बढ़कर 48 अरब डॉलर से अधिक हो जाएगा, जो 43% से अधिक की वार्षिक वृद्धि दर को दर्शाता है। जैसे-जैसे स्वायत्त एआई प्रणालियों पर आधारित सॉफ्टवेयर विकसित किए जा रहे हैं जो मानवीय निगरानी को कम करते हैं, उनके द्वारा पहचाने गए सुरक्षा अंतराल को बड़े पैमाने पर अनदेखा करना कठिन होता जा रहा है।
निष्कर्ष
ब्यूटेरिन की चेतावनियाँ दस्तावेजी शोध द्वारा समर्थित हैं। एआई एजेंटों में सुरक्षा संबंधी कमजोरियाँ वास्तविक परिस्थितियों में पहले ही प्रदर्शित हो चुकी हैं, और चैटबॉट से स्वायत्त एजेंटों की ओर बदलाव से इन जोखिमों को नियंत्रित करना और भी कठिन हो जाता है।
उनका लोकल-फर्स्ट सेटअप और तीन-चरण वाला वॉलेट वर्कफ़्लो एआई को अस्वीकार करना नहीं है। बल्कि ये डेटा या फंड पर नियंत्रण छोड़े बिना इसका उपयोग करने के प्रयास हैं। जैसे-जैसे एआई एजेंट अधिक सक्षम होते जाते हैं, यह सवाल कि वास्तव में उनके कार्यों को कौन नियंत्रित करता है, अनदेखा करना मुश्किल होता जाता है।
संसाधन
विटालिक बुटेरिन द्वारा लिखित लेखमेरा स्व-संप्रभु / स्थानीय / निजी / सुरक्षित एलएलएम सेटअप, अप्रैल 2026
विटालिक बुटेरिन फारकास्टर पर: 5 मार्च को पोस्ट किया गया
बीसीसी रिसर्च की रिपोर्टएआई एजेंट बाजार में 2030 तक सालाना 43.3% की वृद्धि होगी।
अक्सर पूछे जाने वाले प्रश्न
विटालिक बुटेरिन ने एआई टूल्स के साथ किन सुरक्षा जोखिमों की पहचान की?
ब्यूटेरिन ने कई विशिष्ट जोखिमों की पहचान की: क्लाउड-आधारित एआई सिस्टम द्वारा निजी उपयोगकर्ता डेटा का भंडारण और संभावित बिक्री, एआई एजेंटों द्वारा उपयोगकर्ता की पुष्टि के बिना सिस्टम सेटिंग्स में बदलाव करना या संचार चैनल जोड़ना, गुप्त नेटवर्क अनुरोधों के माध्यम से चुपचाप डेटा की चोरी, जेलब्रेक हमले जहां दुर्भावनापूर्ण इनपुट एआई व्यवहार को प्रभावित करते हैं, और मॉडलों में छिपे हुए बैकडोर जो विशिष्ट परिस्थितियों में सक्रिय हो जाते हैं। उनके लेख में उद्धृत शोध में पाया गया कि जांचे गए एजेंट कौशलों में से लगभग 15% में दुर्भावनापूर्ण निर्देश शामिल थे।
लोकल-फर्स्ट एआई सेटअप क्या है और ब्यूटेरिन इसकी सिफारिश क्यों करते हैं?
लोकल-फर्स्ट एआई सेटअप में मॉडल इन्फरेंस और फाइल स्टोरेज का सारा काम रिमोट सर्वर के बजाय यूजर के अपने हार्डवेयर पर होता है। बुटेरिन इस तरीके की सलाह देते हैं क्योंकि इससे यूजर का डेटा उन बाहरी सर्वरों तक नहीं पहुंच पाता जो उसे एक्सेस, स्टोर या बेच सकते हैं। उनके अपने सेटअप में लोकल इन्फरेंस के लिए लामा-सर्वर, एआई प्रक्रियाओं को अलग करने के लिए सैंडबॉक्सिंग टूल्स और नोट्स व संदर्भ सामग्री के लिए लोकल स्टोरेज का इस्तेमाल होता है। वे Qwen3.5:35B मॉडल को NVIDIA 5090 GPU वाले लैपटॉप पर चलाते हैं और लगभग 90 टोकन प्रति सेकंड की गति प्राप्त करते हैं।
बुटेरिन के अनुसार क्रिप्टो वॉलेट में एआई का उपयोग किस प्रकार किया जाना चाहिए?
ब्यूटेरिन वॉलेट में एआई का उपयोग एक प्रस्ताव और निगरानी परत के रूप में करने का समर्थन करते हैं, न कि धन के स्वायत्त नियंत्रक के रूप में। उच्च-मूल्य वाले लेन-देन के लिए, वे एक ऐसी कार्यप्रणाली का प्रस्ताव करते हैं जिसमें एआई एक कार्रवाई का सुझाव देता है, एक स्थानीय लाइट क्लाइंट ऑन-चेन पर परिणाम का अनुकरण करता है, और उपयोगकर्ता प्रसारण से पहले मैन्युअल रूप से पुष्टि करता है। गैस शुल्क सुझाव या संदिग्ध अनुबंधों को चिह्नित करने जैसे कम जोखिम वाले कार्यों के लिए, वे स्वचालन की अधिक गुंजाइश देखते हैं। उन्होंने स्पष्ट रूप से कहा कि मतिभ्रम और त्वरित इंजेक्शन हमलों के जोखिम के कारण वे लाखों डॉलर के लेन-देन के लिए किसी बड़े भाषा मॉडल पर भरोसा नहीं करेंगे।
अस्वीकरण
अस्वीकरण: इस लेख में व्यक्त विचार आवश्यक रूप से BSCN के विचारों का प्रतिनिधित्व नहीं करते हैं। इस लेख में दी गई जानकारी केवल शैक्षिक और मनोरंजन के उद्देश्यों के लिए है और इसे निवेश सलाह या किसी भी प्रकार की सलाह के रूप में नहीं लिया जाना चाहिए। BSCN इस लेख में दी गई जानकारी के आधार पर लिए गए किसी भी निवेश निर्णय के लिए ज़िम्मेदार नहीं है। यदि आपको लगता है कि लेख में संशोधन किया जाना चाहिए, तो कृपया BSCN टीम को ईमेल द्वारा संपर्क करें। [ईमेल संरक्षित].
Author
Soumen Dattaसौमेन 2020 से क्रिप्टो शोधकर्ता हैं और उन्होंने भौतिकी में स्नातकोत्तर की उपाधि प्राप्त की है। उनके लेखन और शोध को क्रिप्टोस्लेट और डेलीकॉइन जैसे प्रकाशनों के साथ-साथ बीएससीएन द्वारा भी प्रकाशित किया गया है। उनके मुख्य क्षेत्रों में बिटकॉइन, डेफी और एथेरियम, सोलाना, एक्सआरपी और चेनलिंक जैसे उच्च-क्षमता वाले ऑल्टकॉइन शामिल हैं। वह नए और अनुभवी क्रिप्टो पाठकों, दोनों के लिए अंतर्दृष्टि प्रदान करने के लिए विश्लेषणात्मक गहराई और पत्रकारिता की स्पष्टता का संयोजन करते हैं।
(विज्ञापन)
नवीनतम समाचार
अप्रैल १, २०२४
पोलकाडॉट ईटीएफ में 12 मार्च के बाद पहली बार निवेश देखा गया
अप्रैल १, २०२४
माइकल सेलर के अनुसार बिटकॉइन की कीमत $60,000 के निचले स्तर पर पहुंच गई थी।
अप्रैल १, २०२४
एवलांच ने सब-सेकंड ब्लॉक टाइम हासिल किया: गति और अंतिम परिणाम के लिए इसका क्या अर्थ है?
अप्रैल १, २०२४
एथेरियम ने अब तक के उच्चतम स्तर पर ट्रांसफर की संख्या दर्ज की, जबकि कीमत अपने उच्चतम स्तर से 30% नीचे है।
अप्रैल १, २०२४
ट्रंप समर्थित डब्ल्यूएलएफआई ने डोलोमाइट ऋण का बचाव करते हुए अंदरूनी जानकारी प्राप्त करने के आरोपों का खंडन किया।
अप्रैल १, २०२४
क्या क्वांटम कंप्यूटिंग बिटकॉइन के लिए एक वास्तविक खतरा है?
अप्रैल १, २०२४
हेडेरा ईटीएफ में निवेश फिर से शुरू हो गया है: क्या यह सिर्फ शुरुआत है?
अप्रैल १, २०२४
कैंटन नेटवर्क ने कैंटन कॉइन में $400 मिलियन से अधिक की राशि जला दी।
(विज्ञापन)
नवीनतम क्रिप्टो समाचार
नवीनतम क्रिप्टो समाचारों और घटनाओं से अपडेट रहें
