Seer टेक्स्ट से शुरू होता है, यह जानने के लिए एक अहम शुरुआती मीडिया प्रकार कि हम रॉयल्टी इंजन से कैसे निपटेंगे। कंप्यूट और स्टोरेज पर सबसे कम ख़र्चीला होने के कारण, Seer की कुल आर्किटेक्चर, तरीक़े और दृष्टि की कल्पना करना आसान था। विज़ुअल इमेज डेटा सबसे बड़ी चुनौती होगा, लेकिन एक बार पार हो जाए तो कई उपयोग-मामलों तक ले जाएगा जो लोगों को deepfake से और इंसानों के बजाय स्वचालित मशीनों द्वारा गढ़ी जा रही हक़ीक़तों से बचाने में मदद कर सकते हैं। जहाँ किसी विज़ुअल में सच को साफ़ पहचान पाना, उस भविष्य के पीछे अपने नज़रियों को टिकाने की शुरुआत के लिए काफ़ी होना चाहिए जिस पर हम भरोसा कर सकें।
इस तकनीकी सफ़र की शुरुआत 2024 में, चुनावी मौसम के दौरान, एक पहचानी गई समस्या से हुई। चुने हुए अधिकारियों की साफ़ मानहानि, ताकि उनकी विश्वसनीयता और/या चुनाव प्रचार पर प्रभाव घटाया जा सके, ऐसी यथार्थवादी जनरेशन के ज़रिए जो लोगों को अपमानजनक माहौल और हालात में बेहूदगी से दिखाती थीं। कुछ के लिए यह महज़ एक तस्वीर हो सकती है, दूसरों के लिए मज़ाक़, लेकिन उसके मनोवैज्ञानिक असर को कम मत आँकिए, ख़ासकर स्त्री नेतृत्व वाले व्यक्तित्वों के लिए। विज़ुअल छवि शक्तिशाली होती है, सोशल नेटवर्कों ने हमें दिखाया कि शॉर्ट-फ़ॉर्म वीडियो और इमेज फ़ीड के ज़रिए जानकारी कितनी तेज़ी से फैलती है। वे मानसिक रूप से टेक्स्ट से कहीं ज़्यादा डेटा पहुँचाते हैं, और इस क्षेत्र में हक़ीक़त की रक्षा करना एक सुरक्षित भविष्य के लिए सर्वोपरि है, वरना प्रोपेगैंडा को इतने बड़े पैमाने पर बाँटा जा सकता है कि सोच को तोड़-मरोड़ दे, जिसके लिए हम सचमुच तैयार नहीं हैं। अगर तैयार होते, तो Generative A.I. के उछाल से पहले ही हम उन समस्याओं को सुलझा चुके होते जो सोशल नेटवर्कों ने खड़ी कीं, फिर भी उस मोर्चे पर हमारे पास अब तक उचित सुरक्षा प्रोटोकॉल नहीं हैं।
सुरक्षा का पहला तरीक़ा जिसे Seer और Rao खंगालना चाहते हैं, जनरेशन की रोकथाम है। किसी व्यक्ति की छवि की सोशल मीडिया या इंटरनेट पर आने से पहले ही सक्रिय सुरक्षा। इसके लिए एक ऐसा डेटाबेस बनाना ज़रूरी है जिसमें किसी व्यक्ति की छवि से जुड़ी विशेषताओं की एक प्रभावी रजिस्ट्री हो। मॉडल प्रदाताओं की जनरेशन को इस एंडपॉइंट पर विज़ुअल डेटा जमा करना होगा और सर्वर एक जाँच चलाकर जवाब लौटाता है। इस जवाब में एक सरल संकेत बनता है जो बताता है कि जनरेट की गई तस्वीर में कोई पहचाना हुआ संरक्षित व्यक्ति है या नहीं। अगर है, तो मॉडल प्रदाता को उस कंटेंट को सार्वजनिक डोमेन पर प्रकाशित करने या किसी भी रूप में स्टोर करने की अनुमति नहीं होनी चाहिए। शुरुआत में हम इस कार्यक्षमता के एंडपॉइंट और संरक्षित व्यक्तियों की रजिस्ट्री बनाने के लिए होस्टेड सेवा देना चाहते हैं; इसे लागू करवाने के लिए क़ानून चाहिए, जिसमें समय लगता है। लेकिन, सालों में, अगर कोई "Seer Certified" बैज A.I. सेवाओं के लिए मूल्य का एक नया रूप बता पाता है, तो समय के साथ ज़्यादा उपयोगकर्ता मीडिया जनरेट करते समय उन सेवाओं को इस्तेमाल करने में सुरक्षित महसूस कर सकते हैं।
समय के साथ एक टीम बनाई जाएगी, जो LoRAs और ऐसे ही तरीक़े तैयार करने वाले सभी संभव ओपन-सोर्स मॉडलों को इकट्ठा करेगी, जो किसी मॉडल पर घटाव के रूप लागू करके संदर्भ विज़ुअल के केंद्रित नतीजे पैदा करते हैं। मॉडल प्रदाता के निजी इन-हाउस मॉडलों के साथ मिलाकर हम सुरक्षा मानकों के ज़्यादातर दायरे को कवर करने का वादा कर सकते हैं, ताकि सुरक्षा उद्योग में कुछ दिखने योग्य और ठोस हासिल हो। इसे लगातार अपडेट रखना, ताकि हम कभी ऐसा कोई सार्वजनिक रूप से जारी मॉडल न चूकें जो सार्वजनिक संवाद प्लेटफ़ॉर्मों को नुक़सान पहुँचा सकता है। हम जानते हैं कि जैसे-जैसे फ़ाउंडेशन मॉडल साथ-साथ बेहतर होते हैं, बाग़ी स्वतंत्र प्रोजेक्ट भी तेज़ हो सकते हैं। एक तरह से जाँच और संतुलन बनाए रखने के लिए adversarial समुदायों को बोना अहम होगा। यह पहले किया जा चुका है और दोबारा किया जा सकता है, बड़े पैमाने पर, पेशेवर ढंग से, और कमाई के साथ। बुरे किरदारों को हटाया नहीं जा सकता, लेकिन उनसे आगे निकला जा सकता है।
जनरेटिव तकनीकों का मूल्य बहुत बड़ा है, जिस रफ़्तार से वे विकास, रचनात्मक सोच और प्रोडक्ट शिप करने को बेहतर बनाती हैं, उसे अनदेखा नहीं किया जा सकता। इस रफ़्तार को बनाए रखते हुए साफ़ अंतरात्मा रखना त्वरण का वह कारक है जो हमारे पास नहीं है। कारों को जनता के लिए जारी होने से पहले एक सुरक्षा मानक पूरा करना होता है, यह प्रतिस्पर्धा का भी एक रूप है। A.I. को कारों की तरह देखने का मतलब है यह सुनिश्चित करना कि हमारी प्रक्रियाएँ और "फ़ैक्टरियाँ" ऊँचा मानक बनाए रख सकें। यह सुनिश्चित करना कि अपना भविष्य तेज़ करते हुए हम दूसरे लोगों के कामों, पहचानों और मूल्य पर अपनी सीमाएँ पार नहीं कर रहे। व्यक्तिवादी मंत्र तभी काम करता है जब हम अपने लक्ष्य हासिल करते हुए दूसरों को भी साथ लेकर चलते हैं। मानहानि, प्रतिस्पर्धा को नुक़सान पहुँचाना (मज़ाक़ में या निशाना बनाकर), या महज़ नुक़सान पहुँचाने के लिए नुक़सान पहुँचाना, ऐसी संस्कृति है जो अब अतीत की बात है। इसका एक स्वाभाविक अगला क़दम है कि अगर संरक्षित व्यक्ति या उसके संरक्षित कामों की सहमति हो, तो जनरेशन को रॉयल्टी-ट्रैक्ड वापसी के लिए सामने आने दिया जाए।
Candidate likeness registry और Seer, Rao और भविष्य में हमारे प्रोजेक्टों के लिए यह सुर तय करने के पहले क़दम हैं।
P.S.
मैंने काफ़ी समय से ऐसा नहीं किया था... लेकिन, यह रहा Rao का song of the week.