मुख्य शोध · ML आर्किटेक्चर
A.I. सेफ़्टी के लिए एक सिस्टम
मैंने सालों अपने हुनर को खंगालने और निखारने में लगाए ताकि इंडस्ट्री के लिए A.I. सेफ़्टी के अमल में लाने लायक समाधान बना सकूँ। यहाँ कई निशाने हैं, इसलिए थोड़ा धैर्य रखिए। सबसे पहले और सबसे अहम, मैं हमेशा से एक wearable बनाना चाहता था। जल्दी ही मुझे समझ आया कि A.I. जब wearables जैसे भौतिक human-computer interaction के साथ जुड़ती है, तो वही असली मंज़िल है। इस पुल के बारे में सोचते हुए मैंने देखा कि wearables सेफ़्टी लागू करने का अंतिम रूप हैं, जो उस व्यक्ति की रक्षा करते हैं जो इंटेलिजेंस का इस्तेमाल कर रहा है — “wear intelligence” Rao के लिए मेरी चाही हुई पहली टैगलाइन थी।
हालाँकि हार्डवेयर कंपनी शुरू करना कठिन है। इसके लिए या तो खुद निवेश करने की पूँजी चाहिए, या निवेशकों का एक कमरा जो बिना प्रमाणित करने वाली डिग्रियों के आप पर भरोसा करे कि आप डिलीवर करेंगे। दोनों के बिना, हार्डवेयर को कंपनी की दीर्घकालिक दृष्टि मानना और सॉफ़्टवेयर से, या कम ओवरहेड वाली किसी चीज़ से शुरू करना समझदारी है। वैसे भी A.I. सेफ़्टी सॉफ़्टवेयर और सिस्टम्स से शुरू होती है, इसलिए ये तो बनाने ही थे, और wearable वाली मंज़िल के लिए ज़रूरी पूँजी की राह में इन्हें पहले बनाना सबसे ठीक है। इसी तरह Rao Studios शुरू हुआ, Ambient, Veil और Craft की शुरुआती पेशकशों के साथ।
यह श्रृंखला बताती है कि A.I. सेफ़्टी जिन हर घटक की माँग करती है, उनके बारे में मैं कैसे सोचता हूँ, और उन्हें एक ही समाधान में कैसे जोड़ा जाए जो हमले के ज़्यादातर, अगर सभी नहीं, रास्तों को ढके, और जिसमें साफ़ संकेत हों कि जवाबदेही कहाँ रखी जाए। यह नज़रिया सालों तक इंडस्ट्री को उसके भीतर के एक इंजीनियर के रूप में देखने से आया है, सबसे हाल में 2025 में Apple, Inc. में iOS इंजीनियर के रूप में contract पर काम करते हुए: बड़े पैमाने पर पूरे क्षेत्र में सेफ़्टी को कैसे संभाला जाता है, और पूरा क्षेत्र कहाँ अब भी खुली समस्याओं से जूझ रहा है।
वे अवलोकन बहुत मूल्यवान थे, क्योंकि इंडस्ट्री कहाँ खड़ी है यह देखना ही परखने का सबसे अच्छा तरीक़ा है कि मेरा अपनाया रास्ता इंडस्ट्री के पैमाने पर ठीक है या नहीं। तो... 2026 में मैंने समाधान अपने खाली समय में बनाए।
यह पाँच हिस्सों की श्रृंखला होगी।
- Veil, Veil8, VeilGarde के ज़रिए मीडिया सेफ़्टी
- AII, Braid के ज़रिए टेक्स्ट और कोड सेफ़्टी — जल्द आ रहा है
- Hallucinations में कमी के लिए harnessing — जल्द आ रहा है
- Human in the Loop सिस्टम्स में सत्यापन — जल्द आ रहा है
- 1 सिस्टम, सभी क्षेत्र, Rao द्वारा सुरक्षित रूप से सुरक्षित — जल्द आ रहा है
पिछले दशक में मैंने कई प्रोजेक्ट बनाए हैं, अनगिनत क्षेत्रों को परखा और यह भी कि जिस-जिस विशिष्ट दर्शक-वर्ग से मैं टकराया उसमें उपयोगकर्ताओं को क्या चाहिए। हाथ से बनाना और समय के साथ पैटर्न स्वाभाविक रूप से सीखना जनरेटिव तकनीकों पर एक ख़ास नज़रिया गढ़ गया। मेरी सीखने की प्रक्रिया अपने आप में एक कला बन गई। एक टेक्स्ट बॉक्स जो सेकंडों में ऐसा कोड या काम बना दे जिसका “क्यों” समझने में मुझे पूरी प्रक्रिया लगी थी, उसने एक-एक जनरेशन के साथ मेरी पहचान मिटा दी। मैंने 2025–2026 में इसके साथ ढलना और जीना सीखा, क्योंकि यह साफ़ तौर पर एक प्रोडक्ट के रूप में आगे निकलने के लिए बना था, और ज़िंदगी में लड़ाइयाँ चुननी पड़ती हैं। और पता चला कि मुझे इसका इस्तेमाल करना काफ़ी अच्छे से आता है, इतना कि मैं अपनी पिछली क्षमताओं की जगह, लोगों और हैसियत से आगे निकल सका।
यहाँ अब भी एक खुला मुद्दा है, एक दर्द जो मैंने 2023–2024 में गहराई से महसूस किया, जब जनरेटिव A.I., कार्यबल, दृश्य कलाएँ और पहचान सब एक मिटाव में सिमट गए जिससे गुज़रना मेरी क़िस्मत में था। इस प्रक्रिया में समाधान अब भी ग़ायब हैं, और मेरे लिए सेफ़्टी सिर्फ़ वे साफ़ वजहें नहीं हैं जो Veil के policy पन्ने पर लिखी हैं। सेफ़्टी का मतलब दूसरों को उसी ख़ास अनुभव से बचाना है। जीवन में मूल्य रचने की पूरी प्रक्रिया हुनर और पेशों से परिभाषित होती है: हम गुरुओं से क्या सीखते हैं और उसे असल ज़िंदगी में किसी इनाम की तलाश में कैसे लगाते हैं, चाहे वह पूँजी हो या निजी प्रगति का कोई रूप (जिम जाकर तुरंत शारीरिक प्रगति देखना एक अच्छा उदाहरण है)। जनरेटिव तकनीकें इन लंगरों को मिटा सकती हैं। ऐसा सिस्टम बनाना जो नीति को सूचित करे, और इन लंगरों को वापस पाने के लिए एक दिखने वाला मानदंड भी दे, मेरे लिए अहम है।
बड़ी कंपनियाँ इन जोखिमों को कम करने का काम पहले से कर रही हैं, और खुले में उसी तरह के सिस्टम बनाने का मूल्य है, जहाँ open source जैसे समुदाय विचार जोड़ सकते हैं। Veil, Veil8 और VeilGarde मशीन लर्निंग सिस्टम के गिर्द इस बंद-लूप सोच को पारदर्शी ढंग से बताने के लिए बने हैं, उन रॉयल्टी एट्रिब्यूशन सिस्टम्स समेत जो व्यापक जागरूकता के हक़दार हैं। अगर ऐसा सिस्टम Google जैसे संगठन के पैमाने पर होता, तो वह मेरे अपने हुनर और क्षमताओं में लगाई मेहनत के बराबर बैठता, मेरे बीस के दशक के आख़िर तक: एक ऐसा सिस्टम जो हाथ की मेहनत को ग्रहण करे, उसे ग्रेड दे, परखे, और फिर लागत पर बाँटे। जब मुझे रफ़्तार और कुशलता चाहिए होती, तब मैं जनरेशन का इस्तेमाल कर पाता, ऐसी क़ीमत पर जो सीधे स्रोतों को फ़ंड करती, बिना अपराध-बोध के, यह जानते हुए कि मेरे अपने काम की क़द्र भी उसी तरह की जा सकती है।
इस श्रृंखला का पहला हिस्सा मीडिया को लेता है, छवियों से शुरू करके और आज की deepfake सुरक्षा की ज़रूरत से। ख़तरा हमले के दूसरे रास्तों में बदलेगा, लेकिन नींव पड़ जाने के बाद उन तक बढ़ना कहीं आसान होना चाहिए।
विषय-सूची