उनकी साफ सुथरी छवि के कारण ही उन्हें 1964 में देश का प्रधानमन्त्री बनाया गया। उन्होंने अपने प्रथम संवाददाता सम्मेलन में कहा था कि उनकी शीर्ष प्राथमिकता खाद्यान्न मूल्यों को बढ़ने से रोकना है और वे ऐसा करने में सफल भी रहे। उनके क्रियाकलाप सैद्धान्तिक न होकर पूर्णत: व्यावहारिक और जनता की आवश्यकताओं के अनुरूप थे।
निष्पक्ष रूप से यदि देखा जाये तो शास्त्रीजी का शासन काल बेहद कठिन रहा। पूँजीपति देश पर हावी होना चाहते थे और दुश्मन देश हम पर आक्रमण करने की फिराक में थे। 1965 में अचानक पाकिस्तान ने भारत पर सायं 7.30 बजे हवाई हमला कर दिया। परम्परानुसार राष्ट्रपति ने आपात बैठक बुला ली जिसमें तीनों रक्षा अंगों के प्रमुख व मन्त्रिमण्डल के सदस्य शामिल थे। संयोग से प्रधानमन्त्री उस बैठक में कुछ देर से पहुँचे। उनके आते ही विचार-विमर्श प्रारम्भ हुआ। तीनों प्रमुखों ने उनसे सारी वस्तुस्थिति समझाते हुए पूछा: "सर! क्या हुक्म है?" शास्त्रीजी ने एक वाक्य में तत्काल उत्तर दिया: "आप देश की रक्षा कीजिये और मुझे बताइये कि हमें क्या करना है?"
शास्त्रीजी ने इस युद्ध में नेहरू के मुकाबले राष्ट्र को उत्तम नेतृत्व प्रदान किया और जय जवान-जय किसान का नारा दिया। इससे भारत की जनता का मनोबल बढ़ा और सारा देश एकजुट हो गया। इसकी कल्पना पाकिस्तान ने कभी सपने में भी नहीं की थी।
भारत पाक युद्ध के दौरान ६ सितम्बर को भारत की १५वी पैदल सैन्य इकाई ने द्वितीय विश्व युद्ध के अनुभवी मेजर जनरल प्रसाद के नेत्तृत्व में इच्छोगिल नहर के पश्चिमी किनारे पर पाकिस्तान के बहुत बड़े हमले का डटकर मुकाबला किया। इच्छोगिल नहर भारत और पाकिस्तान की वास्तविक सीमा थी। इस हमले में खुद मेजर जनरल प्रसाद के काफिले पर भी भीषण हमला हुआ और उन्हें अपना वाहन छोड़ कर पीछे हटना पड़ा। भारतीय थलसेना ने दूनी शक्ति से प्रत्याक्रमण करके बरकी गाँव के समीप नहर को पार करने में सफलता अर्जित की। इससे भारतीय सेना लाहौर के हवाई अड्डे पर हमला करने की सीमा के भीतर पहुँच गयी। इस अप्रत्याशित आक्रमण से घबराकर अमेरिका ने अपने नागरिकों को लाहौर से निकालने के लिये कुछ समय के लिये युद्धविराम की अपील की।
आखिरकार रूस और अमरिका की मिलीभगत से शास्त्रीजी पर जोर डाला गया। उन्हें एक सोची समझी साजिश के तहत रूस बुलवाया गया जिसे उन्होंने स्वीकार कर लिया। हमेशा उनके साथ जाने वाली उनकी पत्नी ललिता शास्त्री को बहला फुसलाकर इस बात के लिये मनाया गया कि वे शास्त्रीजी के साथ रूस की राजधानी ताशकन्द न जायें और वे भी मान गयीं। अपनी इस भूल का श्रीमती ललिता शास्त्री को मृत्युपर्यन्त पछतावा रहा। जब समझौता वार्ता चली तो शास्त्रीजी की एक ही जिद थी कि उन्हें बाकी सब शर्तें मंजूर हैं परन्तु जीती हुई जमीन पाकिस्तान को लौटाना हरगिज़ मंजूर नहीं। काफी जद्दोजहेद के बाद शास्त्रीजी पर अन्तर्राष्ट्रीय दबाव बनाकर ताशकन्द समझौते के दस्तावेज़ पर हस्ताक्षर करा लिये गये। उन्होंने यह कहते हुए हस्ताक्षर किये थे कि वे हस्ताक्षर जरूर कर रहे हैं पर यह जमीन कोई दूसरा प्रधान मन्त्री ही लौटायेगा, वे नहीं। पाकिस्तान के राष्ट्रपति अयूब ख़ान के साथ युद्धविराम के समझौते पर हस्ताक्षर करने के कुछ घण्टे बाद 11 जनवरी 1966 की रात में ही उनकी मृत्यु हो गयी। यह आज तक रहस्य बना हुआ है कि क्या वाकई शास्त्रीजी की मौत हृदयाघात के कारण हुई थी? कई लोग उनकी मौत की वजह जहर को ही मानते हैं।
शास्त्रीजी को उनकी सादगी, देशभक्ति और ईमानदारी के लिये आज भी पूरा भारत श्रद्धापूर्वक याद करता है। उन्हें मरणोपरान्त वर्ष 1966 में भारत रत्न से सम्मानित किया गया।