राष्ट्रपिता महात्मा गांधी  के राष्ट्रवादी विचारो से प्रेरित होकर इन्दौर के उच्च शिक्षित और जागरूक लोगो ने सन 1910 मे समिति की नीव रखी थी.आज़ादी के पहले के उस दौर मे गांधी जी भारतीय समाज मे स्वदेशी का अलख जगा रहे थे.अपनी भाषा और स्वाभिमान की रक्षा के उद्देश्य से डेली कालेज के प्राध्यापक प.कृष्णानन्द मिश्र और श्यामलाल शर्मा ने पुस्तकालय के रूप मे समिति की स्थापना की. इस संस्था का नामकरण श्री मध्यभारत हिन्दी साहित्य समिति के रूप मे किया गया.समिति का नामकरण प्रबुद्धजनो की एक समिति ने किया जिसमे प.कृष्णानन्द मिश्र के अलावा तत्कालीन होलकर राज्य के उप प्रधानमंत्री श्री माधवराव किबे, सर सिरेमल बापना, बाबू गोपालचन्द्र मुखर्जी, डा.सरजूप्रसाद तिवारी, लुकमान भाई जैन और सेठ लाचन्द सेठी भी सम्मिलीत थे.राष्ट्रपिता ने समिति की भूमि को दो बार अपनी चरणरज से पावन किया.

सन 1918 मे गांधी जी पहली बार समिति आये.यहा उन्होने हिन्दी साहित्य सम्मेलन के अधिवेशन की अध्यक्षता की. इसी सम्मेलन मे गांधी जी ने समिति द्वारा उठाई गई इस मांग को अपना स्वर दिया कि हिन्दी ही इस देश की राष्ट्रभाषा होनी चाहिये.इसी सम्मेलन के दौरान पूज्य बापू ने देश के अहिन्दी-भाषी राज्यों में हिन्दी के प्रचार के लिए समिति के इन्दौर स्थित परिसर से अपने पुत्र देवदत्त गांधी  सहित पाँच हिन्दी-दूतों को तत्कालीन मद्रास प्रांत में भेजा था। इसी अधिवेशन में तत्कालीन मद्रास प्रांत में हिन्दी प्रचार सभा की स्थापना का संकल्प लेकर उसके लिए धन एकत्रित किया गया था.इस अवसर पर उन्होने समिति के भवन का भूमि पूजन भी किया.

सन 1935 मे बापू पुनः समिति आये.उन्होने पुनः हिन्दी साहित्य सम्मेलन के अधिवेशन की अध्यक्षता की.समिति के कार्यो की समीक्षा के साथ साथ उन्होने समिति के भवन का शुभारम्भ भी किया.

​

महात्मा गांधीजी द्वारा दिया भाषण