इंजीनियरिंग संस्कृति
The New Silicon Valley
रसीदों से बनी एक घाटी पर, और कोहरा छँटने पर क्या बचता है।
मैं उनतीस साल से Silicon Valley में रहता हूँ। Junior high, high school, college, और उसके बाद सब कुछ। मैंने उसका हर दौर देखा है, और हर दौर की एक क़ीमत है।
इसलिए मैं सावधान रहना चाहता हूँ कि शीर्षक से मेरा मतलब क्या है। मैं उस जगह के ख़िलाफ़ नहीं लिख रहा, और किसी कंपनी या व्यक्ति पर आरोप नहीं लगा रहा। मैं कह रहा हूँ कि Silicon Valley कभी सचमुच कोई जगह नहीं थी। वह डिफ़ॉल्ट्स का एक समूह थी, और डिफ़ॉल्ट्स को कोई भी दोबारा लिख सकता है जो अलग डिफ़ॉल्ट्स के साथ बनाने को तैयार हो।
यह पोस्ट उन्हीं अलग डिफ़ॉल्ट्स के बारे में है। यह इसका सार है कि एक साल का शोध कितना जुड़ता है, और फिर एक पूर्वानुमान: अगर यह सब शिप हो जाए तो मेरे हिसाब से दुनिया कैसी दिखेगी। शोध सबूत है। पूर्वानुमान मेरी शर्त है, और मैं बताता चलूँगा कि कौन-सा कौन है।
(A.I. की मदद से मेरे अपने नोट्स और repositories से तैयार किया गया, फिर मेरे द्वारा संपादित। फ़ैसले, और शर्तें, मेरे हैं।)
पुराने डिफ़ॉल्ट्स
संक्षिप्त रूप यह है, तंत्र के रूप में बताया हुआ, इरादे के रूप में नहीं। किसी को इनमें से कुछ भी चाहने की ज़रूरत नहीं थी। प्रोत्साहनों ने काम किया।
- पहले इकट्ठा करो, बाद में समझाओ। डेटा केंद्र की ओर बहता है क्योंकि केंद्र वह जगह है जहाँ वह क़ीमती है। सहमति बाद में आती है, अगर आती है।
- ध्यान के लिए ऑप्टिमाइज़ करो। जो मीट्रिक नापना आसान है वही प्रोडक्ट का मक़सद बन जाती है।
- प्रभाव को अदृश्य रखो। चुपचाप की गई मनवाई लेबल लगी मनवाई से बेहतर काम करती है, इसलिए दिशा-निर्देशन वहाँ रहता है जहाँ कोई उसे जाँच नहीं सकता।
- अस्पष्टता एक सुरक्षित बंदरगाह के रूप में। धुँधले शब्द, धुँधली नीति, धुँधली प्रतिक्रिया। किसी बात पर प्रतिबद्धता नहीं, इसलिए किसी के ख़िलाफ़ कुछ इस्तेमाल नहीं हो सकता।
- तेज़ चलो, बाद में माफ़ी माँगो। सीमाएँ उन्हें पार करके खोजी जाती हैं।
मैंने इसके प्रोडक्ट वाले पहलू के बारे में The Case for Personal A.I. में लिखा था: फ़ीड आपको नहीं बता सकती कि आपके कौन-से विचार आपके अपने थे, और चैट विंडो नहीं बता सकती कि वह आपको नुक़सान से दूर ले जा रही है या ख़रीदारी की ओर।
मुझे नहीं लगता कि ये दो अलग समस्याएँ हैं। जो संस्कृति कोहरे पर चलती है वह कोहरे पर चलने वाले प्रोडक्ट बनाती है। जिस संगठन से सीधे पूछा नहीं जा सकता, वह ऐसा सॉफ़्टवेयर शिप करेगा जिससे सीधे पूछा नहीं जा सकता।
शोध का जोड़ क्या बनता है
जब मैं पिछले साल के प्रोजेक्ट्स को साथ-साथ रखता हूँ, तो वे अलग-अलग कोशिशें लगते हैं। Seer, Totem, Thread, Mary, Veil, Scorpion, CLR। लेकिन वे सब एक ही सवाल का जवाब देते हैं, और सवाल AI के बारे में नहीं है। वह है: क्या मैं पूछ सकता हूँ? क्या मैं पूछ सकता हूँ कि यह कहाँ से आया, कहाँ गया, इसने क्या किया, यह किससे खींच रहा है, किसे इसके लिए भुगतान हुआ?
हर प्रोजेक्ट जवाब को हाँ बनाने का एक संस्करण है।
1. हर आउटपुट जानता है कि वह कहाँ से आया। Seer एक retrieval सिस्टम के रूप में शुरू हुआ और एट्रिब्यूशन परत बन गया: हर जवाब के साथ एक Contributions शीट आती है, हर स्रोत का देय हिस्सा, और उसे चुकता करने वाला बहीखाता। royalty का काम इसी विचार को छवियों तक ले जाता है, diffusion के हर चरण में बना एक एट्रिब्यूशन मैट्रिक्स। इस सबके नीचे जो दावा है, वह मैं Attribution Decay में करता हूँ: जब हज़ार स्रोत हर एक थोड़ा-थोड़ा योगदान देते हैं, तो “कोई ज़िम्मेदार नहीं” जवाब नहीं है। वह overdetermination है, और overdetermination बरी होना नहीं है।
2. मेमोरी व्यक्ति की है। Totem और Thread ने स्टोरेज को केंद्रीय क्लाउड से हटाकर उन nodes पर रखा जिनके मालिक लोग हैं। उपयोगकर्ता तय करते हैं कि उनका डेटा नेटवर्क में शामिल हो या नहीं। STTP विचार को उसके अंत तक ले जाता है: डिवाइस चीज़ें बनते समय semantic tokens तैयार करते हैं, उन्हें peer to peer साझा करते हैं, और एक साझा aggregation परत, कोई एक monolith नहीं, पूर्णता का अनुमान लगाती है। मेरी पहली नौकरियों में से एक का नारा बार-बार लौटता है: “Big brains, small devices.”
3. एजेंट रसीदों के साथ कार्य करते हैं। Mary, और उसके macOS पात्र के रूप में Ambient, तीन सवालों के जवाब देती है जिन्हें ज़्यादातर असिस्टेंट छोड़ देते हैं: स्क्रीन कहाँ जाती है, मेमोरी कहाँ रहती है, वह कार्रवाई करती है या सलाह देती है। वह accessibility tree को in-process पढ़ती है, इसलिए pixels घर पर रहते हैं, और हर कार्रवाई रसीद के साथ एक सत्यापित चरण के रूप में लौटती है। Ambient Abilities और आगे जाता है और router का काम चलने से पहले दिखाता है, आपसे भरोसा करने को कहने के बजाय। जो सॉफ़्टवेयर असली स्क्रीन चला सकता है वह खुला होने पर सबसे सुरक्षित है, क्योंकि तब जो कोड आप पढ़ सकते हैं वही चलने वाला कोड है।
4. सुरक्षा स्रोत पर होती है। CLR pixels से ही सच पढ़ने की कोशिश करता है। Scorpion और Veil model के शिप होने से पहले चलने के लिए हैं: एक अपलोड के दरवाज़े पर memorization जाँच, दूसरा किसी चेहरे-मोहरे तक जाने वाले रास्ते बंद करता है। अकेली पहचान पोस्टमॉर्टम है। मक़सद चौकी को पहले ले जाना है।
5. A.I. व्यक्ति के साथ बढ़ता है, उससे आगे नहीं निकलता। Personal-A.I. का मूल विचार यह है कि औज़ार आपके मौजूदा शिल्प के ठीक ऊपर सवार रहे और उसके साथ चौड़ा हो, ताकि जो वह बनाए उसमें आपकी कमाई हुई मेहनत हो, किसी prompt से “vibed to completion” चीज़ नहीं। यह भर्ती और पहचान के बारे में भी एक कथन है: व्यक्ति की क़ुर्बानी दिए बिना क्षमता बताने का एक तरीक़ा।
पाँच प्रोजेक्ट, एक पैटर्न: पठनीयता। चीज़ से पूछा जा सकता है, और वह रसीद के साथ जवाब देती है।
जो साबित नहीं हुआ
यहाँ ईमानदार हिसाब किसी और जगह से ज़्यादा मायने रखता है, क्योंकि पठनीयता पर ऐसी पोस्ट जो अपनी कमियाँ छिपाए, मज़ाक़ होती।
इसमें से ज़्यादातर अभी शुरुआती है। जो payout बहीखाता मैंने दिखाया उसने एक जवाब को चुकता किया, एक मालिक के साथ। Detection की सीमाएँ हैं जिन्हें मैंने ख़ुद प्रकाशित किया है: नए generators को डेटा से कवर करना पड़ता है, और precision धीमी चढ़ाई है, कोई स्विच नहीं। STTP एक सवाल है जिसके चक्कर मैं लगा रहा हूँ, कोई नतीजा नहीं। संरक्षित लोगों की registry उतनी ही अच्छी है जितना यह कि उसमें कौन आ सकता है। Linux का मिलन, जिसका मैं बार-बार ज़िक्र करता हूँ, अभी सार्वजनिक नहीं है।
मैं यह खुलकर इसलिए कह रहा हूँ क्योंकि पुराने डिफ़ॉल्ट्स इस पर निर्भर करते हैं कि आप सबसे अच्छा मान लें। नए डिफ़ॉल्ट्स को आपके जाँचने के बाद भी टिकना होगा।
अगर यह सब शिप हो जाए
यह पूर्वानुमान है। इसे शर्त मानिए, नतीजा नहीं।
रसीद AI प्रोडक्ट की डिफ़ॉल्ट इकाई बन जाती है। अभी “आपने ऐसा क्यों कहा?” और “इसमें किसने योगदान दिया?” वे चीज़ें हैं जो आप किसी इंसान से पूछते हैं। जब कुछ प्रोडक्ट इनका जवाब दे सकेंगे, तो जो नहीं दे सकते वे वही कोहरा दिखने लगेंगे जो वे हैं। मुझे लगता है कुछ सालों में ऐसे असिस्टेंट का इस्तेमाल उतना ही अजीब लगेगा जो अपना काम न दिखा सके, जितना आज बिना HTTPS वाली वेबसाइट का इस्तेमाल लगता है।
Creators को सिर्फ़ खोजे जाने के नहीं, इस्तेमाल होने के लिए एक मद मिलती है। पुराने इंटरनेट का सौदा यह था कि आपके काम को index होने के बदले ट्रैफ़िक मिलता था। Generative सिस्टमों ने वह संतुलन तोड़ दिया, जो मेरी Fair Use पोस्ट की पूरी दलील है। परोसने से पहले की परत पर एट्रिब्यूशन विवाद को मुक़दमेबाज़ी से इंफ़्रास्ट्रक्चर में बदल देता है: बाद में कोई मुक़दमा नहीं, बल्कि इस्तेमाल के क्षण पर भुगतान। यह सटीक नहीं होगा। उसे बस कुछ न होने से बेहतर होना है, और कुछ न होना ही आज की क़ीमत है।
बुद्धिमत्ता छोटी और ज़्यादा संख्या में हो जाती है। मेरी सबसे मज़बूत शर्त सबसे कम फ़ैशनेबल है: कि लाखों छोटे models, हर एक किसी व्यक्ति या क्षेत्र के लिए ट्यून किया हुआ और सहमति से aggregate किया हुआ (Product of Experts, कोई monolith नहीं), कुछ विशाल models से बेहतर साबित होते हैं, और frontier model कमरे के बजाय कमरे में बैठा एक विशेषज्ञ बन जाता है। “Decentralized intelligence centralizes growth for the whole” अब भी मेरा सबसे अच्छा सार है।
आपकी अपनी मशीन प्राथमिक जगह बन जाती है। मेमोरी, retrieval और कार्रवाई घर लौट आती है, और क्लाउड एक ऐसा साथी बन जाता है जिसे आप ज़्यादा की ज़रूरत पर बुलाते हैं, वह केंद्र नहीं जिसे आप रिपोर्ट करते हैं। यह बदल देता है कि कोई प्रोडक्ट किसके प्रति जवाबदेह है, क्योंकि जो सॉफ़्टवेयर आपकी मशीन पर चलता है उसे आप जाँच सकते हैं।
सत्यापित शिल्प भर्ती की भाषा बन जाता है। एक इंजीनियर के रूप में मैं इसकी सबसे ज़्यादा परवाह करता हूँ। भर्ती अभी कोहरे की समस्या है: नियोक्ता मूल्य नाप नहीं सकते, नए लोग उसे व्यक्त नहीं कर सकते, और इसलिए सब कुछ प्रॉक्सियों से पढ़ा जाता है। अगर आपका काम provenance साथ लेकर चलता है (आपने क्या बनाया, कैसे, उसने किस पर भरोसा किया, सार्वजनिक रूप से, रिकॉर्ड के साथ), तो अनकहे सवाल के पास खाने को कुछ नहीं बचता। काम अपना जवाब ख़ुद देता है, और व्यक्ति को कभी उस स्व की रक्षा नहीं करनी पड़ती जिस पर कभी मुक़दमा चला ही नहीं।
सुरक्षा ऊपर की ओर जाती है और खुले में बहस होती है। Hosting परत पर जाँचें, registries जिनमें लोग शामिल हो सकें, adapters जो किसी चेहरे-मोहरे तक जाने वाले रास्ते बंद करें, watermarks जो on-device उपयोगकर्ताओं को provenance साबित करने दें। इनमें से कुछ भी हवाबंद नहीं है, और सब पर हमला होगा। लेकिन “फैल जाने के बाद ठीक कर लेंगे” इकलौता विकल्प नहीं रहता।
कंपनियाँ अपने प्रोडक्ट जैसी दिखने लगती हैं। यह सांस्कृतिक हिस्सा है। जो टीम रसीदें शिप करती है वह आराम से फुसफुसाहटों पर नहीं चल सकती। सीमाएँ फिर भी रहती हैं, क्योंकि ग़ैर-प्रतिस्पर्धी खुलासों की गोपनीयता एक असली और सम्मानजनक ज़रूरत है, पर वे घोषित होती हैं: यह किनारा है, यह वजह है, यह जवाब देने वाला है। नई Silicon Valley बिना राज़ों वाली जगह नहीं है। वह ऐसी जगह है जहाँ राज़ों के नाम हैं।
यह कैसे बिगड़ता है
हर नई घाटी पुरानी से एक फ़ैसले की दूरी पर है, इसलिए यहाँ वे तरीक़े हैं जिनसे मैं इसके विफल होने की उम्मीद करूँगा।
- रसीदें निगरानी बन जाती हैं। जो सिस्टम अपना किया सब रिकॉर्ड करता है वह आपका किया सब भी रिकॉर्ड कर सकता है। पठनीयता को मशीन की ओर इशारा करना होगा, और व्यक्ति से दूर रहना होगा।
- एट्रिब्यूशन के साथ खिलवाड़ होता है। जिस पल payout मौजूद होगा, कोई उसे पाने के लिए योगदान गढ़ेगा।
- Local-first लोगों को बाहर कर देता है। हर किसी के पास अच्छा डिवाइस नहीं है। अपने compute की दुनिया को उनके लिए योजना चाहिए जिनके पास नहीं है।
- Decentralization बिखर जाता है। हज़ार छोटे nodes जो किसी बात पर सहमत नहीं हो सकते, बस हज़ार silos हैं।
- Registry द्वारपाल बन जाती है। कौन संरक्षित है यह तय करने वाले के पास असली ताक़त होती है, और उस ताक़त का वैसा ही ऑडिट चाहिए जैसा models का।
- प्रोत्साहन चुपचाप लौट आते हैं। सबसे पुरानी विफलता: बेहतर डिज़ाइन जिसके नीचे वही बिज़नेस मॉडल हो, उसी व्यवहार की ओर लौट जाता है।
वह आख़िरी बात ही वजह है कि सब गारंटियों पर आकर टिकता है: पहले से बताइए कि क्या आँका जा रहा है, बताइए कि क्या दर्ज होता है, व्यक्ति को उसे पढ़ने दीजिए। नई घाटी की परीक्षा वही है जो नए कार्यस्थल की। यह नहीं कि वह कहती है कि अलग है, बल्कि यह कि गारंटियाँ लिखी हुई हैं या नहीं।
मुद्दा
मैं सोचता था कि अगली घाटी किसी तकनीक से परिभाषित होगी: एक model, एक chip, एक protocol। अब नहीं सोचता। शोध ने मुझे सिखाया है कि परिभाषित करने वाली ख़ूबी कहीं सादी है। वह यह है कि जब आप सीधा सवाल पूछते हैं, तो क्या उसका जवाब ऐसा है जिस पर नाम लिखा हो।
पुरानी घाटी ने वह ऑप्टिमाइज़ किया जो वह नाप सकती थी और जो किया उसे छिपाया। नई घाटी वह है जो करने को पठनीय बनाए। कहाँ से आया। कहाँ गया। क्या किया। किस पर भरोसा किया। किसे भुगतान मिला। कौन पूछ सकता है, और किसे जवाब देना पड़ता है।
मैं बाक़ी सब के साथ-साथ, सार्वजनिक रूप से, इसकी ओर बना रहा हूँ, और जहाँ ग़लती दिख सके वहाँ ग़लत होने में मुझे ख़ुशी है। किसी भी आर्किटेक्चर से ज़्यादा, वही संस्कृति बनाने लायक़ है।