९२०च्या दशकाचा मोठा काळ गांधीजी प्रत्यक्ष राजकारणापासून दूर राहिले आणि त्यांनी आपले लक्ष स्वराज्य पक्ष आणि भारतीय राष्ट्रीय काँग्रेसमधील मतभेद दूर करण्यावर केंद्रित केले. या काळात त्यांनी समाजातील अस्पृश्यता, दारू समस्या आणि गरिबी कमी करण्याचे आपले प्रयत्न चालू ठेवले. राजकारणाच्या पटावर ते इ.स. १९२८ मध्ये परत आले. एक वर्ष आधी ब्रिटिश सरकारने संविधानात सुधारणा करण्यासाठी सर जॉन सायमन यांच्या अध्यक्षतेखाली एक समिती स्थापन केली होती. या समितीमध्ये एकपण भारतीय सदस्य नव्हता. या कारणाने भारतीय पक्षांनी या समितीवर बहिष्कार टाकला. गांधीजींनी १९२८ च्या कलकत्ता येथील काँग्रेसच्या अधिवेशनात एक ठराव पास केला. त्याद्वारे ब्रिटिश सरकारकडे भारताला सार्वभौम दर्जा देण्याची मागणी करण्यात आली व ही मागणी मंजूर न केल्यास परत पूर्ण स्वराज्यासाठी असहकार चळवळ सुरू करण्यात येईल असे बजावण्यात आले. पक्षातील सुभाषचंद्र बोस, जवाहरलाल नेहरू यांच्यासारख्या तरुण नेत्यांची मागणी तात्काळ स्वराज्याची होती. पण गांधीजींनी ब्रिटिश सरकारला उत्तरासाठी एका वर्षाचा अवधी दिला. पण ब्रिटिश सरकारने काही उत्तर दिले नाही आणि ३१ डिसेंबर इ.स. १९२९ मध्ये लाहोर अधिवेशनात भारताचा ध्वज फडकवण्यात आला. हा दिवस काँग्रेसने स्वराज्य दिन म्हणून साजरा केला. पक्षातील प्रत्येक लहान थोराने हा दिवस साजरा केला. गांधीजींनी मग मार्च इ.स. १९३० मध्ये मिठावरील कराच्या विरोधात सत्याग्रहाची घोषणा केली आणि त्याची परिणती प्रसिद्ध दांडी यात्रेत झाली. १२ मार्चला अहमदाबादहून निघालेली यात्रा, ६ एप्रिलला ४०० कि.मी.चा (२५० मैल) प्रवास करून दांडीला पोहोचली. हजारोंच्या संख्येने भारतीय या यात्रेत सहभागी झाले होते. ही यात्रा इंग्रजांची भारतातील पाळेमुळे उखडण्याच्या प्रयत्नांमधील सर्वांत यशस्वी प्रयत्न ठरली. ब्रिटिशांनी उत्तरादाखल ६०,००० हून अधिक लोकांना तुरूंगात डांबले.
शेवटी लॉर्ड एडवर्ड आयर्विन यांच्या नेतृत्वाखालील ब्रिटिश सरकारने गांधीजींशी वाटाघाटी करण्याचे ठरवले. मार्च इ.स. १९३१ मध्ये गांधी-आयर्विन करारावर स्वाक्षरी करण्यात आली. या करारानुसार ब्रिटिश सरकारने सर्व भारतीय कैद्यांना मुक्त करण्याचे मान्य केले आणि त्याबदल्यात कायदेभंगाची चळवळ बंद करण्याची मागणी घातली. याबरोबरच गांधीजींना भारतीय राष्ट्रीय काँग्रेसचा एकमेव प्रतिनिधी म्हणून लंडनमध्ये होणार्या गोल मेज परिषदेचे आमंत्रण दिले. ही परिषद गांधीजी आणि पक्षासाठी निराशाजनकच ठरली, कारण त्यामध्ये सत्तांतरणावर भर देण्याऎवजी भारतातील राजे-रजवाडे आणि अल्पसंख्यक यांच्यावर जास्त भर देण्यात आला होता. यातच भर म्हणजे आयर्विननंतर आलेले लॉर्ड विलिंग्डन यांनी राष्ट्रवाद्यांची चळवळ नरम पाडण्याचे प्रयत्न चालू केले. गांधी़जींना अटक करण्यात आली. त्यांचा अनुयायांवरील प्रभाव कमी करण्यासाठी त्यांना वेगळे करण्याचा हा डाव होता. पण त्यांचे हे प्रयत्न यशस्वी झाले नाहीत.
इ.स. १९३२ मध्ये बाबासाहेब आंबेडकरांच्या मागणीनुसार ब्रिटिश सरकारने दलितांना वेगळे मतदारसंघ देण्याचा निर्णय घेतला. याविरोधात गांधीजींनी सहा दिवसांचे उपोषण केले. यामुळे ब्रिटिश सरकारला अजून जास्त समानतेवर आधारित मतदारसंघ विभागणी करणे भाग पडले. या वाटाघाटी दलित समाजातील (भूतपूर्व क्रिकेट खेळाडू) पी. बाळू यांच्या मध्यस्थीने पार पडल्या. याबाबत गांधीजी आणि आंबेडकर यांच्यामध्ये पुण्यामध्ये झालेल्या करारास पुणे करार असे म्हटले जाते. येथून पुढे गांधीजींनी दलितांच्या उद्धारासाठी काम करणे चालू केले. ते दलितांना हरिजन (देवाची माणसे) म्हणत. ८ मे इ.स. १९३३ ला गांधीजींनी दलित चळवळीसाठी २१ दिवसाच्या उपोषणाची सुरुवात केली. त्यांचे हे प्रयत्न तितके यशस्वी ठरले नाहीत. दलित समाजामधून त्यांना पुरेसा पाठिंबा मिळाला नाही. आंबेडकरांनी दलितांना हरिजन म्हणण्याचा निषेध केला. त्यांच्या मते दलितांना हरिजन म्हणणे म्हणजे त्यांना सामाजिकदृष्ट्या अपरिपक्व म्हणण्यासारखे आहे आणि ते संबोधन, उच्च जातीं दलितांच्या पालक आहेत, असे प्रतीत करते. गांधीजी हे दलितांचे राजनैतिक हक्क हिरावून घेत आहेत असेपण आंबेडकर आणि त्यांच्या काही सहकार्यांना वाटत असे. आंबेडकरांसारखे दलित समाजातील नेते असतांनासुद्धा आणि स्वतः वैश्य असूनही, आपण दलितांची बाजू मांडू शकतो असा गांधीजींना विश्वास होता.
इ.स. १९३४ च्या उन्हाळ्यात गांधीजींवर तीन अयशस्वी प्राणघातकी हल्ले झाले.
जेव्हा काँग्रेसने निवडणूक लढवण्याचा आणि फेडरेशन आराखड्याअंतर्गत सत्ता हातात घेण्याचा निर्णय घेतला तेव्हा गांधीजींनी आपल्या पक्ष-सभासदत्वाचा राजीनामा दिला. गाधींजी पक्षाच्या या निर्यणाबद्दल असहमत नव्हते. पण त्यांना असे वाटले की, जर त्यांनी राजीनामा दिला तर, त्यांची भारतीयांमधील प्रसिद्धी, पक्षाच्या इतर साम्यवादी, समाजवादी, कामगार प्रतिनिधी, विद्यार्थी, धार्मिक रूढीतत्त्ववादी आणि व्यापारी वर्गातील प्रतिनिधींना आपले विचार जनतेसमोर मांडू देण्याच्या आड येणार नाही. तसेच गांधीजी राज (ब्रिटिश) सरकारमध्ये सहभाग स्वीकारलेल्या पक्षाचे (काँग्रेसचे) नेतृत्व करून इंग्रजांना त्यांच्याविरुद्ध बोलण्याची अजून एक संधी देऊ इच्छित नव्हते.
गांधीजी इ.स. १९३६ मध्ये पक्षात परत आले. तेव्हा जवाहरलाल नेहरूंच्या अध्यक्षतेखाली पक्षाचे लखनौ येथे अधिवेशन चालू होते. स्वातंत्र्यप्राप्तीनंतर भारताच्या भविष्याबद्दल विचार करण्यापेक्षा आधी पूर्ण स्वराज्य कसे मिळेल यावर सर्व लक्ष केंद्रित करण्यात यावे, असे गांधीजींचे मत होते. पण तरीही पक्षाच्या समाजवादी धोरणाचा अवलंब करण्याच्या निर्णयाला त्यांनी विरोध केला नाही. इ.स. १९३८ साली पक्षाध्यक्षपदी निवडून आलेले सुभाषचंद्र बोस आणि गांधीजीं यांच्यात अनेक वाद झाले. गांधीजींच्या या विरोधाची मूळ कारणे सुभाषचंद्रांचा अहिंसेवरील अविश्वासही होती. गांधीजींचा विरोध असूनसुद्धा बोस सलग दुसर्यांदा अध्यक्षपदी निवडून आले. पण जेव्हा सुभाषचंद्रांनी गांधीजींच्या तत्त्वांना सोडून दिले आहे असे कारण पुढे करून देशभरात अनेक पक्षनेत्यांनी सामुदायिक राजीनामे दिले, तेव्हा सुभाषचंद्र बोस यांनी अध्यक्षपदाचा राजीनामा दिला.