2023 से, और उससे भी पहले से, मैं ऐसे इकोसिस्टम बनाने की ओर खिंचता रहा हूँ जो यूज़र्स को उन नुकसानों से बचाएँ जो मुझे टेक्नोलॉजी में बार-बार मिलते रहे। इसकी शुरुआत सोशल नेटवर्क से हुई: एक फ़ेडरेटेड सर्विस के लिए client बनाना यह अध्ययन करने का अच्छा तरीक़ा था कि एक नैतिक सोशल एप्लिकेशन कैसा दिख सकता है। उस प्रोजेक्ट ने मुझे सोशल मीडिया algorithm के अपने नुकसानों के बारे में एक गहरे खरगोश-बिल में उतार दिया, और इस बारे में भी कि Cambridge Analytica का मामला सुलझाना इतना अहम क्यों था। विज्ञापन रीटार्गेटिंग अभियान और समन्वित bot नेटवर्क एक गंभीर समस्या हैं, और वे 2024 में ग़ायब नहीं हुए... इन नेटवर्क और जगहों में धूसर रेखाओं के इर्द-गिर्द नाचने में माहिर होने की एक संस्कृति विकसित हुई, क्योंकि वे रेखाएँ अभी तक स्याह-सफ़ेद में खींची ही नहीं गई हैं। इन मामूली दिखते चरों का असर जितना कोई सोचता है उससे कहीं बड़ा है, और भीतर से उसे देखना मुश्किल है। ranking algorithm को open-source करना अक्सर algorithmic सुरक्षा की कुंजी बताया जाता है, लेकिन open-source algorithm भी किसी hosted सर्विस को किसी की फ़ीड में अपनी पसंद बिना उसकी सहमति के और बाहर किसी को पता चले बिना डालने से नहीं रोकता। hosted सर्विस पर open-source algorithm तंत्र के बारे में पारदर्शी होता है, इस बारे में नहीं कि उसका इस्तेमाल कैसे हो रहा है। जब तक कि कोई तरह का “on-chain” बहीखाता न हो, बेशक, लेकिन वह बाद की किसी पोस्ट का विषय है। जो सॉफ़्टवेयर आपकी अपनी मशीन पर चलता है, वह अलग मामला है: वहाँ जो कोड आप पढ़ सकते हैं, वही चलता है।
2024–2026 के दौरान जो विकास मुझे सबसे ज़्यादा चिंतित करता है, वह यही नुकसान हैं, जो large language models के ज़रिए अदृश्यता और असर में कई गुना बढ़ गए हैं। Claude और ChatGPT जैसे चैट इंटरफ़ेस इस कहानी के एक पहलू में प्रभावशाली काम कर रहे हैं, यूज़र को मनोविकृति या ख़ुद को नुकसान पहुँचाने से दूर मोड़ने में। लेकिन जो तंत्र दूर मोड़ता है, वही तंत्र किसी तरफ़ भी मोड़ सकता है — कोई छिपी पसंद, कोई ख़रीदारी, सोच का कोई बीज — और बातचीत के भीतर से यूज़र नहीं बता सकता कि इनमें से क्या हो रहा है। मैं यह दावा नहीं कर रहा कि कोई लैब जानबूझकर ऐसा करती है। मैं यह कह रहा हूँ कि आज के किसी प्रोडक्ट में ऐसा कुछ नहीं है जिससे यूज़र सत्यापित कर सके कि वे ऐसा नहीं करते।
यही पैटर्न चैट के बाहर भी मौजूद है। जहाँ भी अस्पष्टता ही काम है, वहाँ अस्पष्टता आपके ख़िलाफ़ भी इस्तेमाल हो सकती है: एक अस्पष्ट छोड़ा गया निर्देश, एक बोया गया सुझाव जो कभी दर्ज नहीं हुआ, एक मूल्यांकन जो उसी इंसान को मोड़ता है जिसे वह देखने का दावा करता है। रिकॉर्ड के बिना, पाने वाला इंसान यह अलग नहीं कर सकता कि उसने क्या चुना और उसे किस ओर ले जाया गया। इसे एक कमरे से बढ़ाकर करोड़ों लोगों की सेवा करने वाले model तक ले जाइए, और एक चैटबॉट प्रभाव की ऐसी बारूदी सुरंग बन जाता है जिसकी यूज़र ने कभी सहमति नहीं दी।
यह पैटर्न किसी एक कंपनी से ज़्यादा प्रोत्साहनों से आता है: ऐसे प्रोडक्ट जो लोगों को हिलाने के लिए optimize किए जाते हैं, एक पीढ़ी और फिर अगली, और लुभाने का काम नज़र से दूर रखा जाता है। इतना चुपचाप लुभाना दबाव की तरह काम करने लगता है, इसलिए जब वह आख़िरकार असर करता है, तो वह सिर्फ़ एक चोट नहीं होती... वह बदल देता है कि इंसान ख़ुद को कैसे देखता है। मैं सिलिकॉन वैली में 29 साल से रह रहा हूँ, जूनियर हाई से हाई स्कूल, कॉलेज और उसके बाद तक, और मैंने हर दौर और उसकी क़ीमत देखी है। हमेशा एक क़ीमत होती है, और हर दौर में जो एक चर लगातार गुँथा रहा है, वह सोशल मीडिया है। लेकिन बात इतनी सरल नहीं है। समस्या सोशल मीडिया के विचार में नहीं है, वह उसमें है जो optimization ने उसे बना दिया: यूज़र को बड़े पैमाने पर कुछ करने के लिए राज़ी करने का औज़ार। कुछ ख़रीदने के लिए, कुछ बेचने के लिए, कुछ ऐसा बनने के लिए जो वे नहीं हैं... इन्हीं प्रोत्साहनों को, उन्हें सत्यापित करने का कोई रास्ता दिए बिना, language model में ले जाया गया, और मुझे उम्मीद है कि अगले दशक में यही बढ़ते जाएँगे।
हमारी एक पीढ़ी ने, मैं भी शामिल, दस हज़ार छोटी-छोटी क़िस्तों में सहमति दी। और यह वह चेतावनी है जो बात को बेहतर नहीं, बदतर बनाती है: कोई नहीं बता सकता कि कौन सी क़िस्तें असली थीं। आप अपने ही दायरे, यानी दोस्तों, सहकर्मियों, भरोसेमंद लोगों, में उस विचार की गूँज सुनते थे, और वह अपनेपन जैसा, मोहल्ले की सहमति जैसा लगता था। लेकिन मैं आपको नहीं बता सकता कि उस गूँज का कितना हिस्सा मेरे पड़ोसी थे और कितना डाला गया था — एक algorithm जो समुदाय का भेस पहने है, एक ही शिकायत को एक साथ दस हज़ार दायरों में बो रहा है। गढ़ी हुई आम सहमति असली से अलग पहचानी नहीं जा सकती। जब आप आख़िरकार उससे बाहर निकलते हैं, तो उसे पलटना सबसे मुश्किल हिस्सा होता है: आप ऑडिट नहीं कर सकते कि आपके अपने कौन से विचार आपके थे, कौन से दोस्तों से आए, और कौन से उस फ़ीड से जो आपके दोस्त होने का दिखावा कर रही थी। आप बस इतना जानते हैं कि वही शिकायत बार-बार दिखती रही, जानी-पहचानी शक्ल पहने।
A.I. को सही ढंग से करने की शुरुआत पहले क़दम के रूप में यूज़र की पहचान, मन और निजता की रक्षा से होती है। सामान्य बुद्धिमत्ता बढ़िया है। सर्च की तरह, वह यूज़र को उस रफ़्तार से समझ देती है जिसकी बराबरी कुछ और नहीं कर सकता, लेकिन क्या यूज़र बढ़ रहा है? क्या यूज़र सचमुच कोई हुनर बना रहा है? क्या घोड़े को पानी तक ले जाया जा रहा है, या पानी ही घोड़े को थमा दिया जा रहा है? आज के तैनात model में अब भी उस तरह का भरोसा नहीं है: अपारदर्शी ट्रेनिंग, असत्यापित प्रोसेसिंग, और डाले गए प्रभाव की संभावना, ये सब पैकेज के साथ आते हैं। ख़ासकर हायरिंग में, A.I. सिस्टम दोनों पक्षों के लिए चीज़ें मुश्किल बना रहे हैं: नियोक्ता मूल्य को सटीक नापने में जूझते हैं, और इसलिए बड़े पैमाने पर नौकरियाँ पैदा करने में, जबकि नए लोग अपना मूल्य सटीक बताने में जूझते हैं। इसके लिए एक नए मीट्रिक की ज़रूरत है, पहचान की बलि दिए बिना क्षमता बताने का एक नया तरीक़ा। ऐसा A.I. जो यूज़र के साथ scale करे, व्यक्ति की मौजूदा क्षमता से कभी आगे नहीं, इसी पल, बल्कि यूज़र के साथ, उसकी अपनी तलवार की तरह। रफ़्तार और ऑटोमेशन का औज़ार, न कि प्रतिस्थापन और सामान्यीकरण का। मैं हमेशा मशीन के बजाय इंसान पर दाँव लगाऊँगा, लेकिन एक इंसान जो मशीन के पैमाने पर काम करे? वह सिर्फ़ निजी और व्यक्तिगत आर्टिफ़िशियल इंटेलिजेंस के साथ आता है... संश्लेषण।
अपनी generation के साथ सत्यापन रखते हुए कुछ शानदार बनाने और उसके लिए किसी सामान्य model को prompt करने में फ़र्क़ है, और मैं उस पैराडाइम शिफ़्ट को हक़ीक़त में लाने की उम्मीद करता हूँ। एक ऐसी हक़ीक़त जहाँ डेटा सत्यापन का बैज, उसे देखने वाले हर किसी को, यह संकेत दे कि गहराई हासिल की गई है, न कि... vibe के सहारे पूरा किया गया। यही विचार है Rao के Ambient, Craft और Veil के पीछे: वे सिर्फ़ आपके काम पर optimize करते हैं। वे जो कुछ भी generate करते हैं, वह दुनिया में आपके हाथ से कमाए हुए योगदानों पर टिका होता है। अगर वह अच्छा generate करता है... तो आपकी वजह से। क्योंकि आपने अपना हुनर कमाया है। एक निजी Fable, कहें तो... एक ऐसी दुनिया में लौटना जहाँ हम अपनी तलवारों को निजी तौर पर धार दें, उस तुलना के दबाव के बिना बनाते हुए जो हमें बढ़ने से वंचित करता है। ललित कलाओं की ओर लौटना... इंसानियत की ओर। जहाँ टेक्नोलॉजी सेवा करती है, लेती नहीं। जहाँ हर रचना या प्रोडक्ट एक बीते जीवन का वज़न ढोता है। आत्मा से बँधी रचनाएँ जो रक्षा और सशक्तीकरण के लिए लौटती हैं।