২৪ জানুয়ারি, ১৯৬৬ সালে লাল বাহাদুর শাস্ত্রীর আকস্মিক মৃত্যুর পর তিনি ভারতের প্রধানমন্ত্রী হন। কংগ্রেসের বর্ষীয়ান নেতারা ধারণা করেছিলেন, তিনি যেহেতু রোগা-পাতলা এবং অভিজ্ঞতাহীন, তাই তারা তাঁকে ‘শোভাময়ী’ প্রধানমন্ত্রী করে রেখে নিজেরাই ক্ষমতা চালাবেন।
কিন্তু প্রথম দিন থেকেই তিনি নিজের কর্তৃত্ব প্রতিষ্ঠা করতে শুরু করেন এবং প্রবীণ, মধ্যম ও প্রতিভাবান নবীন মন্ত্রীদের নিয়ে নিজের একটি ছোট দল গঠন করেন—যেমন প্রণব মুখার্জি। এরা কংগ্রেসের পুরনো গোষ্ঠীর রক্ষণশীল নীতি থেকে এতটাই সরে আসতে শুরু করলেন যে ১৯৬৯ সালে তাঁকেই—দেশের প্রধানমন্ত্রীকে—কংগ্রেস দল থেকে বহিষ্কার করা হলো।