जब झज्जर बसाई गई थी, उस समय पृथ्वीराज चौहान दिल्ली और अजमेर का राजा था और झज्जर का इलाका दिल्ली सूबे का हिस्सा था । सन् 1192 में मुहम्मद गौरी ने जब पृथ्वीराज चौहान पर हमला किया तो झज्जर का सारा इलाका एक गहरा जंगल था और इसके पूर्व में था एक मलोकन गांव और उसमें बसता था एक बहादुर, बुद्धिमान और कूटनीतिज्ञ बकुलान का जाट झोझू । यहां के जाटों ने पृथ्वीराज के हक में लड़ाई लड़ी थी । इसलिये 1193 में शहाबुद्दीन गौरी ने सजा के तौर पर इस मलोकन गांव को तबाह कर दिया था । इसी बहादुर झोझू जाट ने इस महान् शहर की नींव रखी थी, इसे पहले झोझू नगर भी कहते थी । झज्जर के माता गेट के अंदर, घोसियान मोहल्ले में आज भी झोझू जाट के वंशज रहते हैं । वहां रह रहे पोकर सिंह गहलावत] के पुत्र श्री अनूप सिंह और वयोवृद्ध श्री शम्भुराम गहलावत इसी वंश से हैं । उनका कहना है कि उसके वंशज झोझू, जोणा और देवा तीन भाई थे जो वास्तव में राजस्थान से आये थे । इनकी एक बहन थी जिसका नाम सुखमा था । इनके साथ केवल तीन जातियां ही आईं थीं - मुंदालिये नाई, बबेलिये ब्राह्मण और खेल के हरिजन । झज्जर क्षेत्र में उन दिनों भाटियों का अधिपत्य था । झोझू ने बांकुलान खेड़ा के पास झज्जर बसाई, दूसरे भाई जोणा ने जोणधी बसाई और तीसरे भाई देवा जो बेऔलाद था, ने देवालय बसाया जो आज झज्जर के नेहरू कालिज की पास भव्य मंदिर के रूप में मौजूद है । इनकी बहन सुखमा ने सुरखपुर बसाया । घोसिकान मोहल्ले को पहले झोझू मोहल्ला फिर माता गेट या घोसियान मोहल्ला के नाम से जाना जाता है । झज्जर के चारों तरफ मजबूत दीवार थी, बाकायदा मजबूत दरवाजे लगे नौ गेट होते थे जिनमें माता गेट, दिल्ली गेट, सिलाणी गेट, भठिया गेट, बेरी गेट, सीताराम गेट, दीवान गेट मशहूर हैं जिन्हें आज भी जाना जाता है । लेकिन इनके केवल नाम हैं, कोई गेट नहीं है और नही किसी दीवार का नामो-निशान है ।
झज्जर के नामकरण का दूसरा ऐतिहासिक पहलू यह भी है कि यहां चारों तरफ पानी ही पानी था, इसे झरना गढ़ और झझरी के नाम से भी जाना जाता था । झज्जर के इर्द-गिर्द पानी का बहाव दक्षिण से उत्तर की ओर होता था । इसके इर्द-गिर्द साहिबी, इन्दूरी और हंसोती या कंसौटी नदियां बहा करती थीं । चारों ओर पानी ही पानी होता था । झज्जर के चारों तरफ पानी की विशाल झील होती थी, झज्जर तो एक टापू सा होता था । एक विशाल झील कोट कलाल और सूरहा के बीच होती थी । दूसरी विशाल झील कलोई और दादरी के मध्य में और तीसरी झील जो कुतानी तक पहुंचती थी, वह सोंधी, याकूबपुर और फतेहपुर के बीचों-बीच एक झील बनती थे । इसके रास्ते में एक पुल सिलानी की थली में आज भी एक नए रूप में मौजूद है । झज्जर की सीमा से पांच मील तक नजफगढ झील होती थी जो और आठ मील बुपनिया और बहादुरगढ़ तक फैल जाया करती थी । सांपला को तो यह झील अक्सर डुबोये रखती थी, 15 से 30 फुट तक गहरा पानी इस झील में भर जाया करता था । उधर झज्जर के पश्चिम में जहाजगढ़, तलाव, बेरी, ढ़राणा, मसूदपुर तक के पानी का बहाव भी झज्जर की ओर ही होता था । झज्जर के दादरी सर्कल में इन्दूरी और साहिबी नदी अलग-अलग दिशाओं से बहा करती थीं । इस तरह इस शहर का नाम पहली झाज्जू नगर, फिर झरनागढ़ और झज्जरी होते-होते झज्जर हो गया ।
सिन्धु घाटी की सभ्यता के बारे में हड़प्पा की खुदाई के अवशेषों से व प्राचीन हरयाणा के सन्दर्भ से पता चलता है कि सम्भवतः आर्यों के आगमन के कारण हड़प्पा के लोग दक्षिण-पूर्व की ओर आ गये । महाभारत के समय में इस क्षेत्र को बहुधान्यक नाम से जाना जाता था और मयूर इसका चिन्ह होता था । यौद्धेय जनपद गणराज्य यानी प्राचीन हरयाणा प्रदेश का हिस्सा था झज्जर प्रदेश ।
