ताशकन्द समझौते पर हस्ताक्षर करने के बाद उसी रात उनकी मृत्यु हो गयी। मृत्यु का कारण हार्ट अटैक बताया गया। शास्त्रीजी की अन्त्येष्टि पूरे राजकीय सम्मान के साथ शान्तिवन (नेहरू जी की समाधि) के आगे यमुना किनारे की गयी और उस स्थल को विजय घाट नाम दिया गया। जब तक कांग्रेस संसदीय दल ने इन्दिरा गान्धी को शास्त्री का विधिवत उत्तराधिकारी नहीं चुन लिया, गुलजारी लाल नन्दा कार्यवाहक प्रधानमन्त्री रहे।
शास्त्रीजी की मृत्यु को लेकर तरह-तरह के कयास लगाये जाते रहे। बहुतेरे लोगों का, जिनमें उनके परिवार के लोग भी शामिल हैं, मत है कि शास्त्रीजी की मृत्यु हार्ट अटैक से नहीं बल्कि जहर देने से ही हुई। पहली इन्क्वायरी राज नारायण ने करवायी थी, जो बिना किसी नतीजे के समाप्त हो गयी ऐसा बताया गया। मजे की बात यह कि इण्डियन पार्लियामेण्ट्री लाइब्रेरी में आज उसका कोई रिकार्ड ही मौजूद नहीं है। यह भी आरोप लगाया गया कि शास्त्रीजी का पोस्ट मार्टम भी नहीं हुआ। 2009 में जब यह सवाल उठाया गया तो भारत सरकार की ओर से यह जबाव दिया गया कि शास्त्रीजी के प्राइवेट डॉक्टर आर०एन०चुघ और कुछ रूस के कुछ डॉक्टरों ने मिलकर उनकी मौत की जाँच तो की थी परन्तु सरकार के पास उसका कोई रिकॉर्ड नहीं है। बाद में प्रधानमन्त्री कार्यालय से जब इसकी जानकारी माँगी गयी तो उसने भी अपनी मजबूरी जतायी।
शास्त्रीजी की मौत में संभावित साजिश की पूरी पोल आउटलुक नाम की एक पत्रिका ने खोली। 2009 में, जब साउथ एशिया पर सीआईए की नज़र नामक पुस्तक के लेखक अनुज धर ने सूचना के अधिकार के तहत माँगी गयी जानकारी पर प्रधानमन्त्री कार्यालय की ओर से यह कहना कि "शास्त्रीजी की मृत्यु के दस्तावेज़ सार्वजनिक करने से हमारे देश के अन्तर्राष्ट्रीय सम्बन्ध खराब हो सकते हैं तथा इस रहस्य पर से पर्दा उठते ही देश में उथल-पुथल मचने के अलावा संसदीय विशेषधिकारों को ठेस भी पहुँच सकती है। ये तमाम कारण हैं जिससे इस सवाल का जबाव नहीं दिया जा सकता।"।
सबसे पहले सन् 1978 में प्रकाशित एक हिन्दी पुस्तक ललिता के आँसू में शास्त्रीजी की मृत्यु की करुण कथा को स्वाभाविक ढँग से उनकी धर्मपत्नी ललिता शास्त्री के माध्यम से कहलवाया गया था। उस समय (सन् उन्निस सौ अठहत्तर में) ललिताजी जीवित थीं।
यही नहीं, कुछ समय पूर्व प्रकाशित एक अन्य अंग्रेजी पुस्तक में लेखक पत्रकार कुलदीप नैयर ने भी, जो उस समय ताशकन्द में शास्त्रीजी के साथ गये थे, इस घटना चक्र पर विस्तार से प्रकाश डाला है। गत वर्ष जुलाई 2012 में शास्त्रीजी के तीसरे पुत्र सुनील शास्त्री ने भी भारत सरकार से इस रहस्य पर से पर्दा हटाने की माँग की थी।