ML आर्किटेक्चर

Linguistic State Machines

19 अगस्त 2026llmएजेंटक्षमताएँस्टेट मशीनहार्नेस डिज़ाइन

इस पर कि क्षमता को गद्य रहना क्यों बंद करना पड़ा।

मैंने लगभग एक साल language models के इर्द-गिर्द सॉफ़्टवेयर बनाने में बिताया, और जिस एक विचार ने मेरे बनाए को बदला वह models के बारे में था ही नहीं। वह एक पुनर्वर्गीकरण था। Mary के capability सिस्टम की तीसरी और चौथी री-राइट के बीच कहीं मैंने model को ऐसा एजेंट मानना छोड़ दिया जिसे मैं निर्देश दे रहा हूँ, और उसे ऐसी मशीन मानना शुरू किया जिसे मैं प्रोग्राम करने में नाकाम हो रहा था।

Language model एक linguistic state machine है: उसकी state tokens का एक क्रम है, उसका transition function inference है, और उसकी वर्णमाला प्राकृतिक भाषा है। उसके पास कोई और state नहीं, कोई और इनपुट नहीं, और कोई विशेषाधिकार प्राप्त चैनल नहीं।

वहाँ हर शब्द काम कर रहा है, लेकिन आख़िरी उपवाक्य वह है जो आपको महँगा पड़ता है। कोई विशेषाधिकार प्राप्त चैनल नहीं है। प्राकृतिक भाषा पर बनी state machine किसी भी string को वैध इनपुट मान लेती है: यही वह गुण है जो उसे उपयोगी बनाता है, और ठीक यही वह गुण है जो उसे उन तरीक़ों से अप्रोग्रामेबल बनाता है जिन तक हम आमतौर पर पहुँचते हैं। आप उसे कॉन्फ़िगरेशन नहीं थमा सकते, क्योंकि उसके पास उसे रखने की कोई जगह नहीं है। आप उसे बस और वर्णमाला थमा सकते हैं।

Context window ही टेप है

इस ढाँचे को एक क़दम आगे ले जाइए और कुछ असहज बाहर निकलता है।

अगर model मशीन है और भाषा वर्णमाला, तो context window इनपुट टेप है, और टेप पर हर चीज़ का टाइप एक ही है। System prompt एक string है। उपयोगकर्ता का संदेश एक string है। कहीं और से लाया गया दस्तावेज़ एक string है। और एक SKILL.md, जो इसलिए लोड हुई क्योंकि router को लगा कि वह प्रासंगिक है, एक string है।

वे इरादे में एक जैसे नहीं हैं: system prompt के लेखक ने उसे क़ानून के रूप में लिखा और लाए गए दस्तावेज़ का कोई मतलब ही नहीं था। लेकिन इरादा वह गुण नहीं है जिसे मशीन पढ़ सके। मशीन स्थिति और सामग्री पढ़ती है। इसलिए skill फ़ाइल की व्यावहारिक हैसियत “वह कॉन्फ़िगरेशन जिसके तहत model चलता है” नहीं है; वह एक इनपुट symbol है जिसे संयोग से आदेश के लहजे में लिखा गया है, जो टेप के हर दूसरे symbol से ध्यान के लिए होड़ करता है, उन symbols समेत जो आपके अलावा दूसरे लोगों ने लिखे हैं।

यही पूरी आलोचना है, और वह गुणात्मक नहीं, संरचनात्मक है। बेहतर लिखी skill फ़ाइल एक बेहतर इनपुट symbol है। वह फिर भी एक इनपुट symbol है।

SKILL.md क्या सही करती है

मैं यहाँ सावधान रहना चाहता हूँ, क्योंकि जिस डिज़ाइन की आलोचना हो रही है वह सचमुच अच्छा डिज़ाइन है।

Progressive disclosure, यानी नाम और विवरण सस्ते में पहले से लोड करो, ज़रूरत पड़ने पर बॉडी लोड करो, गहरी फ़ाइलें माँग पर पढ़ो, उस समस्या के लिए सही आकार है जिसे वह हल करती है। एक अच्छी लिखी skill फ़ाइल model को मापने योग्य ढंग से केंद्रित करती है। वह उस अर्थ में पोर्टेबल है जो रोज़मर्रा में सबसे ज़्यादा मायने रखता है: वह एक फ़ोल्डर है, आप उसे पढ़ सकते हैं, उसका diff कर सकते हैं, किसी को ईमेल कर सकते हैं। 2024 में ज़्यादातर टीमें जो विकल्प शिप कर रही थीं, यानी एक विशाल system prompt जो तलछट की तरह नियम जमा करता जाता है, उसकी तुलना में यह एक असली प्रगति है।

इसलिए जब मैं कहता हूँ कि SKILL.md एक डेमो थी, तो मैं इस शब्द को उसके ईमानदार अर्थ में कह रहा हूँ। डेमो साबित करता है कि इरादा पढ़ने योग्य है। उसने दिखाया कि आप “यह एक domain है और इसमें काम कैसे करना है” को ऐसे रूप में व्यक्त कर सकते हैं जिसे model भरोसे से पकड़ ले, और यह बिना build step या runtime के कर सकते हैं। यह एक असली नतीजा है, और यही वह नतीजा है जो मुझे चाहिए था ताकि मैं देख सकूँ कि क्या कमी है।

वह जो नहीं है, वह harness है। और फ़र्क़ तब दिखता है जब आप model से कोई काम करने को कहना छोड़कर उससे किसी और की मशीन चलाने को कहना शुरू करते हैं।

चार चीज़ें जो टेप पर रखा symbol नहीं हो सकता

इनमें से हर एक ढाँचे का नतीजा है, markdown के बारे में शिकायत नहीं।

उसे हटाया नहीं जा सकता। State machine का transition function वह खा जाता है जो टेप पर है; ऐसा कोई ऑपरेशन नहीं जो किसी symbol को अन-रीड कर दे। एक बार skill की बॉडी बातचीत में आ जाए, तो सिर्फ़ lossy compaction उससे छुटकारा दिलाता है, और compaction कोई नियंत्रण सतह नहीं है: वह दबाव कम करने का तरीक़ा है। यानी उस मॉडल में क्षमता एकदिशीय है: आप जोड़ सकते हैं, घटा कभी नहीं। यह किसी ऐसी चीज़ के लिए अजीब गुण है जिसे आप इंस्टॉलेशन कहेंगे।

वह dependency हल नहीं कर सकता। Skill फ़ाइल कह सकती है “calendar इस्तेमाल करो” पर वह यह नहीं पूछ सकती कि calendar है भी या नहीं, किसी के प्रकट होने पर सक्रिय नहीं हो सकती, या हटने पर पीछे नहीं हट सकती। संयोजन इसलिए होता है कि model ने संयोग से दो फ़ाइलें पढ़ीं और संबंध जोड़ लिया। यह resolution नहीं है; यह अच्छे अवसर वाला संयोग है। और अच्छे अवसर वाला संयोग ठीक वही चीज़ है जो हर डेमो में चलती है और लंबी पूँछ में विफल होती है।

वह लागू नहीं करवा सकता। यह सबसे तीखा है। टेप पर रखा symbol अगले transition को प्रभावित करता है, वह वैध transitions के समूह को सीमित नहीं करता। यह भेद तब तक अकादमिक लगता है जब तक वह दिन नहीं आता जब model कहीं और ध्यान देता है और वह कर बैठता है जो फ़ाइल ने मना किया था, और तब आपको पता चलता है कि आपकी सुरक्षा-गारंटी एक वाक्य थी। इकोसिस्टम यह जानता है, इसीलिए जो चीज़ ज़रूर होनी चाहिए उसके लिए मार्गदर्शन आपको बिल्कुल अलग तंत्र की ओर भेजता है।

उसे सीमित नहीं किया जा सकता। अगर क्षमता गद्य के रूप में आती है, तो क्षमता का लेखक सीधे टेप पर लिखता है, और अब भरोसे का सवाल “क्या यह package ठीक व्यवहार करता है” नहीं, “क्या यह पाठ क़ायल करने वाला है” है। किसी तीसरे पक्ष का मुक्त-रूप गद्य, आपके निर्देशों वाले ही चैनल में घुला हुआ, अधिकार को धोने की मशीन है। कोई भी समीक्षा मनमाने पाठ को अनुबंध में नहीं बदल सकती।

ambient किताब इसी इलाक़े से तंत्र-दर-तंत्र गुज़रती है, Mary के कार्यान्वयन के सामने। मैं यहाँ व्युत्पत्ति चाहता हूँ, क्योंकि व्युत्पत्ति ही बताती है कि हल “बेहतर skill फ़ाइलें लिखना” नहीं हो सकता।

ढाँचे ने क्या मजबूर किया

Mary का जवाब Ability है,¹ और मैं उसके डिज़ाइन तक पसंद से नहीं पहुँचा। हर फ़ैसला वह है जो बचता है जब आप मान लेते हैं कि model एक ऐसी state machine है जिसे आप उसकी वर्णमाला के ज़रिए कॉन्फ़िगर नहीं कर सकते।

पहला क़दम वह है जिस पर बाक़ी सब टँगा है: अगर आप कॉन्फ़िगरेशन टेप पर नहीं रख सकते, तो उसे वहाँ रखिए जहाँ टेप पहुँच नहीं सकता। क्षमता पूरी तरह model के बाहर रहती है, टाइप किए हुए, सीमित डेटा के सत्यापित package के रूप में। गद्य नहीं जो व्यवहार के पक्ष में तर्क दे, बल्कि घोषणाएँ जिन्हें validator बातचीत शुरू होने से पहले स्वीकार या अस्वीकार कर सके। Mary के आर्किटेक्चर दस्तावेज़ नियम सीधे कहते हैं: “Schemas are data, never executable extensions.” Ability घोषित करती है कि उसे क्या चाहिए, उसके क्या प्रभाव हो सकते हैं, और किन सीमाओं के तहत; उसे ऐसा वाक्य लिखने की छूट नहीं जिसे model क़ानून की तरह पढ़ ले।

दूसरा क़दम यह है कि runtime तय करता है कि क्या executable है, model नहीं। Routing inference से पहले होती है: इस turn में कौन-सी क्षमता खेल में है, यह इस आधार पर तय होता है कि सचमुच क्या इंस्टॉल और तैयार है, और model को ऐसी सूची थमाई जाती है जो उसने नहीं बनाई और बदल नहीं सकता। यह सामान्य व्यवस्था को उलट देता है। Model अब दस्तावेज़ों से मनाया गया निर्णयकर्ता नहीं है: वह, Mary के अपने डिज़ाइन नोट्स की शब्दावली उधार लें तो, “a schema-conditioned routine compiler, not a miniature conversational assistant” के क़रीब है। वह ऐसे समूह के भीतर चालें सुझाता है जो उसके बोलने से पहले ही सीमित था।

तीसरा क़दम हटाए जाने की क्षमता से निकलता है। अगर क्षमता बातचीत में जमा हुआ पाठ नहीं बल्कि हर turn पर हल होने वाला डेटा है, तो अनलोड करना बस अगले turn में घोषणा का न होना है। Package हटाइए और Skill चली गई: compact करके नहीं हटी, किसी summary में अटकी नहीं रही। और अधूरी dependency कोई error नहीं बल्कि निष्क्रियता है: क्षमता मौजूद है और बस अभी उपलब्ध नहीं है, जो वही व्यवहार है जिस पर बाक़ी हर संयोजनीय सिस्टम दशकों पहले पहुँच गया था।

चौथा ज़्यादा सूक्ष्म है और वही जिससे मुझे सबसे ज़्यादा लगाव है। Abilities एक paradigm घोषित करती हैं: क्या वे कोई पोर्टेबल शिल्प कोड करती हैं या किसी एक ख़ास application की विशेषज्ञता। स्कीमा इसे साफ़ कहता है: कोई design में अच्छा और Sketch का विशेषज्ञ हो सकता है, और साथ ही design में अच्छा और Figma का नौसिखिया हो सकता है। यह विभाजन इसलिए मायने रखता है क्योंकि वह तय करता है कि निजीकरण किस के बारे में तथ्य है। आप कैसे लिखते हैं, यह आपके लेखन के बारे में तथ्य है, उस editor के बारे में नहीं जिसमें आपने संयोग से लिखा, इसलिए वह ऐसी application तक पहुँच जाता है जो तब मौजूद ही नहीं थी जब सिस्टम ने उसे सीखा। यह तभी मिलता है जब क्षमता संरचित हो। गद्य को किसी चीज़ से keyed नहीं किया जा सकता, क्योंकि गद्य में keys होती ही नहीं।

आरेख
आरेख बन रहा है

वह हिस्सा जो आलोचना नहीं है

इनमें से कुछ भी यह नहीं कहता कि skill-फ़ाइल का विचार ग़लत था। वह कहता है कि वह एक अलग सवाल का जवाब दे रहा था, मैं एक model को माँग पर गहरी संदर्भ सामग्री कैसे दूँ, और उसका जवाब अच्छे से दे रहा था। जो सवाल मेरे सामने आया वह था मैं ऐसी मशीन के इर्द-गिर्द, जिसका एकमात्र इनपुट भाषा है, ऐसा computational harness कैसे बनाऊँ कि मशीन की अनिश्चितता पर भरोसा न किया जाए बल्कि उसे सीमित किया जाए।

इन सवालों के जवाब अलग हैं, और इन्हें मिलाने से ही आप ऐसी चीज़ शिप कर बैठते हैं जो डेमो में शानदार दिखती है और जिसे चलाया नहीं जा सकता। पहचान हमेशा एक है: अगर बुरे नतीजे को रोकने वाली चीज़ एक वाक्य है, तो आपके पास harness नहीं है। आपके पास अच्छी तरह लिखी हुई उम्मीद है।

अगर मैं पिछले साल से सिर्फ़ एक चीज़ रख पाता, तो वह यह पुनर्वर्गीकरण होता। Model को linguistic state machine मानिए और आर्किटेक्चर के सवाल सही क्रम में अपने आप हल हो जाते हैं: state क्या है, इनपुट क्या है, transition function का मालिक कौन है, और इनमें से किसे छूने की package लेखक को अनुमति है। आख़िरी का जवाब, पता चलता है, इनमें से कुछ भी नहीं है।

आप किसी state machine को उसकी वर्णमाला में लिखकर प्रोग्राम नहीं कर सकते; आप बस उससे बहस करते रह जाते हैं।