Veil, Veil8, VeilGarde के ज़रिए मीडिया सेफ़्टी
5 में से भाग 1
एक सुरक्षित इमेज जनरेशन और वितरण सिस्टम को हर जनरेशन चरण और अवस्था पर कॉपीराइट वाले कामों, चेहरों और संपत्ति के विरुद्ध जाँचें चाहिए, इससे पहले कि कुछ भी दर्शकों तक पहुँचे। मैंने पहचान से शुरुआत की, विज़ुअल कामों की watermarking पर पहले से हो चुकी रिसर्च के साथ। Veil, Veil8 और VeilGarde मिलकर एक त्रिकड़ी बनाते हैं जो जनरेटिव मीडिया परोसने का ज़्यादातर जोखिम हटाने के लिए बनी है। लक्ष्य एक ऐसी इंडस्ट्री है जो छेड़छाड़ दिखाने वाली हो, जहाँ दुरुपयोग का पता लगाया जा सके और उसे उन गिने-चुने जानबूझकर काम करने वालों तक सीमित किया जा सके जिन पर प्रवर्तन असरदार ढंग से कार्रवाई कर सके। इन सिस्टम्स के बिना, जनरेटिव इमेज मॉडल, open source हों या बंद, में अब भी ऐसी दरारें हैं जिन्हें भरना बाक़ी है, इससे पहले कि वे ऐसे माहौल में सुरक्षित महसूस करें जो इतनी रफ़्तार से चल रहा है कि उसके साथ चलना मुश्किल है। और मुझे गहरा यक़ीन है कि हम ऐसी दुनिया की ओर बढ़ रहे हैं जो मीडिया में provenance credentials की अनुपस्थिति को जोखिम का संकेत मानेगी।
“जब कोई कलाकार तस्वीर खींचता है, तो या तो उसे भीतर से अंदाज़ा होता है या वह रचनाओं के एक जटिल मैट्रिक्स को प्राथमिकता दे रहा होता है। दोनों में वह एक अनोखा शॉट है। ऐसे लाखों शॉट आपस में पिघलकर एक पुल जैसे दिख सकते हैं, पर कभी वैसे नहीं होंगे।” — A.I. Safety & Deepfakes
Veil
Veil एक पाइपलाइन है जो Thread डेटाबेस के साथ काम करती है, जो Ambient Intelligence Index का हिस्सा है। Ambient जैसी एप्लिकेशन का इस्तेमाल करते हुए जुटाई गईं वे तस्वीरें जो प्रमाणित रूप से आपकी हैं, और जो तस्वीरें आप Veil के ज़रिए हाथ से अपलोड करते हैं, एक Veil thread में रखी जाती हैं। स्टोरेज सिस्टम तस्वीरों को Veil8 एन्कोडिंग में रखता है, जिससे आपका डेटाबेस तस्वीर का एक अनूदित रूप रख पाता है जिसे दृश्य रूप में दोबारा बनाए बिना समझा जा सकता है, इस तरह किसी की दृश्य ज़िंदगी की निजता बची रहती है और जनरेशन में सूरत मिलाने की जाँच के लिए पर्याप्त अर्थ बचा रहता है। Veil खुद एक harness है, ऐसा सिस्टम जो किसी भी इमेज जनरेशन आर्किटेक्चर के साथ काम करने के लिए बना है, जो हर चरण पर जनरेशन को Veil8 से एन्कोड करता है, Thread डेटाबेस से नतीजे लाता है और अगर कोई सुरक्षित व्यक्ति या पहचान मिले तो जनरेशन रोक देता है। Veil एक पाइपलाइन भी है जो इमेज जनरेशन मॉडल को स्थानीय रूप से या आपके अपने होस्टिंग समाधान में चलाना आसान बनाती है। इसे एक ऐसे इमेज जनरेशन टूलकिट के रूप में डिज़ाइन किया गया है जिसमें provenance signing, tracking और सुरक्षा पहले से बनी है। इसका मक़सद नीति का पालन और जोखिम का प्रबंधन स्वचालित बनाना है, हर ब्योरे से जूझे बिना: एक सेफ़्टी मानक जो आसान इंस्टॉल के साथ आता है, ताकि आपके उपयोगकर्ता शुरू से सुरक्षित रहें।
VeilGarde
VeilGarde provenance signing और tracking का सिस्टम है, उस समय के लिए जब कोई जनरेशन halt gate पार कर लेती है। आपके सिस्टम से दी गई जनरेशन पर एक Veil watermark से हस्ताक्षर होते हैं। यह SynthID जैसा है, पर मैं इसे ज़्यादा मज़बूत बनाने के लिए डिज़ाइन कर रहा हूँ। उपयोगकर्ता को एक फ़ोटो अपलोड करके जाँच पाना चाहिए कि उसमें Veil watermark है या नहीं, ताकि साबित हो कि तस्वीर असली है या बनाई गई। इस watermark के दो रूप हैं: एक जो असली तस्वीरों पर हस्ताक्षर करके उनकी प्रामाणिकता साबित करता है, और दूसरा जो जनरेशन पर हस्ताक्षर करके साबित करता है कि जनरेशन ख़ास तौर पर Veil से बनी। दूसरा साबित करता है कि जनरेशन ऐसे सिस्टम से आई जिसमें सूरत की सुरक्षा पहले से थी, और यह भी कि वह नीति-स्वीकृत है: कॉपीराइट वाले कामों के विरुद्ध जाँची गई, और रॉयल्टी-मुक्त।
VeilGarde में एक पहचान-तंत्र भी है, जो यह विश्लेषण करने के लिए बना है कि तस्वीर असली कैमरे ने बनाई या किसी जनरेटिव मॉडल ने, बिना watermark के निशान खोजे। इसकी विश्वसनीयता अभी बढ़ रही है, और इसे जंगल में मिलने वाली जनरेटिव मीडिया शैलियों के साथ लगातार अद्यतन रखना ज़रूरी है, लेकिन यह आज उपलब्ध है, किसी भी ऐसी तस्वीर का फ़ोरेंसिक विश्लेषण करने के लिए जिसका पोस्टमार्टम चाहिए।
मुख्य चिंता एक नीति-प्रमाणित इमेज जनरेशन पाइपलाइन, Veil, बनाना है, जो open source दुनिया के हर जनरेटिव मॉडल के साथ संगत हो, या Midjourney जैसे एंटरप्राइज़ प्लेटफ़ॉर्मों से सीधे जुड़े, और एक सत्यापित वास्तविकता बनाने के लिए दो watermarking तकनीकें दे। Veil watermark अभी provisional patent की स्थिति में है, ऑडियो और विज़ुअल कामों पर हस्ताक्षर के लिए एक कस्टम तरीक़े से, जो असल में deepfake पहचान की रिसर्च से निकला था। बेहद कठिन समस्याओं को हल करने के अपने फ़ायदे होते हैं, कभी-कभी ऐसे दूसरे इस्तेमाल मिल जाते हैं जो उन तरीक़ों से मदद करते हैं जिनकी हमें उम्मीद नहीं थी। deepfake पहचान को मॉडल-अज्ञेयता की बंदिशों के भीतर रखने ने, शुरू से मॉडल जनरेशन की फ़िंगरप्रिंट पहचानने के बजाय, इस तरह सोचना संभव बनाया। मेरी एक आम इंजीनियरिंग आदत है जानबूझकर कठिन शर्तें बनाना। क्योंकि हम सचमुच बंदिशों के भीतर ही नया रचते हैं।
Veil8
वापस ingestion चरण पर: दृश्य मीडिया एक Thread डेटाबेस में रखा जाता है, चाहे वह निजी हो या क्लाउड में बड़े पैमाने पर सुरक्षा के लिए तैयार की गई, एक तरह की सूरत-रजिस्ट्री। डेटा स्टोरेज की दिक़्क़त यह है कि वह अपने साथ निजता की चिंताएँ और जवाबदेही लाता है। जब आप दूसरों की रचनाएँ या दृश्य पहचान हार्ड ड्राइव पर रखते हैं, तो वह काफ़ी संवेदनशील होता है और उसके लिए आप जवाबदेह होते हैं। मेरा मतलब है, मैं तो आम तौर पर अपनी iCloud फ़ोटो साफ़ करना तक भूल जाता हूँ...
एक iOS डेवलपर के रूप में जो computer vision में विशेषज्ञ था और सिर्फ़ Apple प्लेटफ़ॉर्मों के लिए बनाता था, मैंने अपनी iCloud को स्थायी परीक्षण सतह की तरह बरता, और रास्ते में जो सीखा उसी ने मुझे उन निजता-सुरक्षित विचारों तक पहुँचाया जो अब Veil8 में हैं। ऐसे कैमरा interactions बनाना जहाँ मशीन “कुछ देख” सके और फिर “कुछ कर” सके, मुझे हमेशा जादू जैसा लगा है, लेकिन उस मुक़ाम तक पहुँचना जहाँ आप ऐसे प्रोडक्ट पर iterate कर सकें, कठिन और थकाऊ है। मॉडल को ट्रेन करने का मतलब है डेटा जुटाना, ट्रेनिंग, पैरामीटर ट्यून करना और रन-दर-रन उन्हें तब तक समायोजित करना जब तक सटीकता अपने लक्ष्य तक न पहुँचे। कभी चुनौती यह होती है कि कितना डेटा चाहिए, पर अक्सर चुनौती सही मात्रा खोजना होती है, उन्हीं ख़ास विशेषताओं के साथ जो मॉडल को चाहिए।
मैं burst तरीक़ा पसंद करता हूँ: बड़े पैमाने पर scrape करो, फिर छाँटकर एक बारीक डेटासेट बनाओ। यह सुरक्षित ढंग से करने में सावधानी लगती है, क्योंकि Google के नतीजों के पन्नों से मिलती-जुलती तस्वीरें खींचने वाला बड़े पैमाने का scraper, अगर Instagram, X और ऐसी साइटें ग़लती से अनुमत हों, तो उनसे भी खींच सकता है। Google जैसी कंपनी के संसाधनों के बिना, मैंने जुगाड़ू सिस्टम बनाना सीखा है जो प्रतिस्पर्धी on-device मॉडलों को संभव बनाते हैं।
Veil8 सिर्फ़ वे विशेषताएँ रखता है जो similarity search के लिए चाहिए। तस्वीर लाल, हरे और नीले अंकों की इस भाषा के ज़रिए एक दृश्य प्रस्तुति है। मशीन वह नहीं देखती जो हम देखते हैं; मशीन tuples की एक सूची देखती है, और कभी-कभी उसके साथ alpha channel। हम कहानियाँ देखते हैं। शुक्र है कि computer vision के क्षेत्र में हमें बस अंक चाहिए, इसलिए Veil8 तस्वीरों को ऐसे फ़ॉर्मेट में एन्कोड करता है जो कंप्यूटर समझता है, इंसान नहीं, और इस तरह इंसान-से-इंसान के अनुवाद के स्तर पर निजता बचाता है। यह ऐसा तरीक़ा है जिसे सिर्फ़ Veil की पाइपलाइन समझती है, जो सूरत से मेल खाने वाले इलाक़े खोजने, एट्रिब्यूशन की चिंताएँ दर्ज करने और जनरेशन को जल्दी रोकने के काम आता है, यहाँ तक कि लोगों को deepfake से बचाता है।
एक बंद लूप
पाइपलाइन, वह स्टोरेज जो जोखिम घटाता है और इंटरनेट के उपभोक्ताओं की निजता बनाए रखता है, और असलियत को पहचानने और उस पर हस्ताक्षर करने का औज़ार, ये सब मिलकर artificial intelligence के इस नए दौर में computer vision समाधान बनाने का एक बंद-लूप सिस्टम बनाते हैं। निर्माता बिना अनियंत्रित जवाबदेही ढोए शानदार प्रोडक्ट पर ध्यान दे सकते हैं, और उपभोक्ता भरोसा कर सकते हैं कि उनके अधिकारों का सम्मान होता है। मैं इसे संतुलन कहता हूँ, और यह इस क्षेत्र में नया रचने और इंडस्ट्री को और आगे धकेलने की एक ठोस नींव है। मुझे पक्का यक़ीन है कि open source समुदाय वह जगह हैं जहाँ असली नवाचार होता है, जहाँ पागल लोग रहते हैं। उन्हें जो चाहिए वह सही infrastructure है: ऐसे सिस्टम जो बनाना, प्रयोग करना और यथास्थिति को चुनौती देना सुरक्षित बना दें। सिलिकॉन वैली अपने सबसे अच्छे रूप में हमेशा यही रही है... खुली वाली।