साइबर सुरक्षा
Computer Use और बॉट की समस्या
Mary और VisionAX बनाते हुए मैंने कुछ ऐसा सीखा जो सीखने के इरादे से मैं निकला नहीं था: जो आर्किटेक्चर computer use को निजी बनाता है, वही उसे विश्वसनीय भी बनाता है। यह ईमानदारी से लिखने लायक़ बात है, सिर्फ़ गर्व से नहीं।
अब तक मैंने जो कुछ भी जारी किया है, यानी Mary का स्क्रीनशॉट के बजाय accessibility tree पढ़ना, VisionAX का क्लाउड मॉडल के बजाय on-device vision पर लौट आना, वह सब एक ही लक्ष्य के इर्द-गिर्द डिज़ाइन किया गया था: मशीन से बाहर कभी न जाना, और जहाँ संरचना उपलब्ध हो वहाँ पिक्सेल का अंदाज़ा कभी न लगाना। यह अच्छी निजता इंजीनियरिंग है। लेकिन जिन प्लेटफ़ॉर्म्स को इंसानों और बॉट्स में फ़र्क़ करने के लिए बनाया गया है, वहाँ निजता और पकड़े जाने की संभावना अक्सर एक ही धुरी के दो छोर होते हैं।
प्लेटफ़ॉर्म असल में किस चीज़ की जाँच करता है
कोई सोशल प्लेटफ़ॉर्म इंसान होने की सीधे पुष्टि नहीं करता, वह कर ही नहीं सकता। वह विश्वसनीय व्यवहार के एक पैटर्न की पुष्टि करता है: माउस की ऐसी हरकत जिसमें ट्रैकपैड जैसा कंपन हो, ऐसे अनुरोध जो असली रेंडरिंग पाइपलाइन वाले ब्राउज़र से आएँ, क्रियाओं के बीच का ऐसा समय जो इस बात से मेल खाए कि कोई इंसान क्लिक करने से पहले कुछ पढ़ने में कितना वक़्त लेता है, और ऐसे सेशन जो किसी स्क्रिप्ट के मैक्रो दोहराने के बजाय एक लगातार मौजूद इंसान के लगें। पारंपरिक बॉट नेटवर्क इन जाँचों में इसलिए फ़ेल होते हैं कि वे आम तौर पर स्क्रीन को पूरी तरह छोड़ देते हैं। वे सीधे API को बुलाते हैं, या ऐसा headless ब्राउज़र चलाते हैं जो कभी एक भी फ़्रेम पेंट नहीं करता। दोनों अपने निशान छोड़ते हैं: ग़ायब headers, इंसानों जैसा न दिखने वाला समय, navigator.webdriver फ़्लैग, और बीच में कोई ब्राउज़िंग किए बिना एक जैसे अनुरोधों की बौछार।
Computer-use सॉफ़्टवेयर ठीक यही खाई भर देता है, और वह इसे अच्छी वजहों से करता है। Mary accessibility tree इसलिए पढ़ता है कि यह वही संरचना है जो macOS ख़ुद VoiceOver को देता है। यह स्क्रीन पर क्या है, उसकी ज़मीनी सच्चाई है, कोई अनुमान नहीं। VisionAX उस पल के लिए है जब AX अंधेरे में चला जाए, ताकि फ़ॉलबैक में क्षमता घटे, लेकिन असल में वहाँ क्या है, इस बारे में ईमानदारी कभी न घटे। सब मिलाकर, इस तरह बना एजेंट कोई सेशन नक़ल नहीं कर रहा होता। वह असली OS इनपुट पाथ चला रहा होता है: असली निर्देशांकों पर असली क्लिक इवेंट, उनके पीछे असली रेंडर पाइपलाइन, और कीस्ट्रोक्स जिनमें समय का वह कंपन होता है जो उन्हें पैदा करने वाली नीति का होता है। पारंपरिक बॉट के कोई संकेत लागू नहीं होते, क्योंकि पारंपरिक बॉट के कोई शॉर्टकट अपनाए ही नहीं गए।
यह Mary या VisionAX की कोई ख़ास ख़ामी नहीं है। यह पूरी श्रेणी की ख़ासियत है: कोई भी एजेंट जो स्क्रीन को उसी तरह चलाता है जैसे इंसान चलाता है, बनावट से ही इंसान से अलग पहचानना ज़्यादा कठिन होता है। Computer use अपने असली काम में, यानी एक असली मशीन का समझ में आने वाला, on-device संचालक होने में, जितना बेहतर होता जाता है, प्लेटफ़ॉर्म की trust-and-safety टीम की उस पर पकड़ उतनी ही कम होती जाती है। इस तनाव का कोई हल मेरे पास यहाँ पेश करने को नहीं है, और जो इसका दावा करे उस पर मैं शक करूँगा। मेरे पास जो है, वह एक वजह है कि इसे बॉट नेटवर्क से गुणा करना दांव को कंधे उचकाकर टाल देने की हद से आगे बदल देता है।
“बड़े पैमाने पर” वाला हिस्सा क्यों मायने रखता है
किसी की अपनी ओर से एक मशीन चलाता एक एजेंट एक पेयर प्रोग्रामर है, या ऐसा इंसान जो माउस इस्तेमाल नहीं कर सकता और अपना कंप्यूटर अपने लिए काम करवा रहा है। वही क्षमता, जब बदलती पहचानों वाले वर्चुअल मशीनों के एक फ़ार्म पर बिना निगरानी के चलाई जाए, तो हज़ारों स्वतंत्र लोगों के कोई राय रखने, किसी पोस्ट से जुड़ने, या आपस में सहमत होने का आभास गढ़ने का एक तरीक़ा बन जाती है। यह उन अहम सार्वजनिक क्षणों में होता है, जैसे चुनाव, जब वह आभास लगभग किसी भी और समय से ज़्यादा क़ीमती होता है। समन्वित अप्रामाणिक व्यवहार कोई नई समस्या नहीं है; प्लेटफ़ॉर्म एक दशक से इससे लड़ रहे हैं। नई बात यह है कि इसके औज़ारों को अब स्वचालित दिखने की ज़रूरत ही नहीं रही।
मैं यह नहीं बताऊँगा कि वह फ़ार्म कैसे बनाया जाए, और कोई पूछे तो मना कर दूँगा। किसी जोखिम का नाम लेने और किसी को उसे साकार करने के साधन थमा देने में यही फ़र्क़ है। जिस बात का साफ़ नाम लेना मुझे ज़रूरी लगता है, क्योंकि वह संरचनात्मक है, संयोगवश नहीं, वह यह है: जो क्षमता computer use को accessibility के लिए, पेयर प्रोग्रामिंग के लिए, और हर उस व्यक्ति के लिए अच्छा बनाती है जो चाहता है कि उसकी मशीन उसके इरादे पर काम करे, वही क्षमता उसे नक़ली आम सहमति गढ़ने के लिए भी अच्छा बनाती है। “असली स्क्रीन को विश्वसनीय ढंग से चलाने” का ऐसा कोई रूप नहीं है जो सिर्फ़ पहले इस्तेमाल के लिए काम करे।
इसका मतलब यह क्यों है कि इसे open होना ही होगा
ऐसी दोहरे इस्तेमाल वाली क्षमता को देखते हुए, सवाल यह नहीं है कि इसे बनाया जाए या नहीं, क्योंकि computer use वैसे भी बन रहा है, ज़्यादातर भारी पूँजी वाली कंपनियों द्वारा जो इसे बंद प्रोडक्ट के रूप में जारी कर रही हैं। सवाल यह है कि इस बात का आप क्या करते हैं कि यह दोहरे इस्तेमाल वाली चीज़ है। मुझे लगता है कि जवाब उस सहज प्रवृत्ति का उलटा है जो किसी प्रोडक्ट को बचाती कंपनी की आम तौर पर होती है।
एक बंद computer-use एजेंट दोनों सिरों पर एक ब्लैक बॉक्स है। वेंडर के बाहर कोई यह जाँच नहीं सकता कि कौन से सुरक्षा उपाय मौजूद हैं: रेट लिमिट, भरोसे की कुछ सीमाओं के पार बातचीत से इनकार, ऐसी लॉगिंग जिससे दुरुपयोग का पैटर्न वापस खोजा जा सके। वेंडर के बाहर कोई यह भी नहीं जाँच सकता कि ये उपाय अपडेट के बाद भी बने रहते हैं, या हर ग्राहक को वही मिलते हैं। और जो प्लेटफ़ॉर्म इस औज़ार के दुरुपयोग से बचने की कोशिश कर रहे हैं, वे उसके ख़िलाफ़ अंधे होकर काम करते हैं: इनपुट लेयर पर वह असल में क्या करता है यह अध्ययन करने का कोई तरीक़ा नहीं, ज्ञात व्यवहार के ख़िलाफ़ डिटेक्शन सिग्नेचर बनाने का कोई तरीक़ा नहीं, क्योंकि अध्ययन के लिए कोई चीज़ नहीं है, सिवाय उस बॉट नेटवर्क के कुल असर के जिसे रोकने में वे पहले ही देर कर चुके होते हैं।
Open source दोहरे इस्तेमाल की समस्या को बेअसर नहीं करता। कोई भी किसी open प्रोजेक्ट का सोर्स पढ़कर उससे कुछ अनुचित बना सकता है, और अगर मैं कहूँ कि VisionAX के GPL-3.0 होने से यह असंभव हो जाता है तो मैं झूठ बोलूँगा। यह जो बदलता है, वह यह है कि औज़ार कैसे काम करता है, यह कौन जान पाता है, और कब। बंद वेंडर के सुरक्षा उपाय एक ऐसा दावा हैं जिसे आप भरोसे पर मानते हैं, और जनता को वे नुक़सान और जाँच के बाद ही पता चल पाते हैं। किसी open प्रोजेक्ट के सुरक्षा उपाय एक diff हैं जिसे कोई भी उसी दिन पढ़ सकता है जब वह जुड़ता है, और उतना ही अहम यह कि उनकी ग़ैरमौजूदगी भी, इससे पहले कि कोई उस छूटे हुए टुकड़े को किसी बदतर चीज़ में बना दे। VisionAX को जिस तरह मैंने बनाया है उसकी पूरी दलील यही है: इसलिए नहीं कि खुलापन दुरुपयोग रोकता है, बल्कि इसलिए कि इस क्षमता का यही अकेला रूप है जिसमें दुरुपयोग से बचाव की कोशिश करने वाले लोग इसे बनाने वालों से हमेशा के लिए एक क़दम पीछे नहीं रहते।