Po Leninově smrti v lednu 1924 se rozhořely boje o moc mezi Trockým a Stalinem. Jejich symbolickou předehrou byla neúčast Trockého na Leninově pohřbu, jež byla důsledkem Stalinovy osobní intriky. V okamžiku Leninova skonu mířil Trockij na Kavkaz, aby se zotavil ze zdravotních potíží. Ze Stalinova popudu mu bylo zasláno oznámení s chybným datem Leninova pohřbu, aby se zamezilo jeho osobní účasti na posledním rozloučení s ikonou „světového proletariátu“. Ačkoli Trockij sám tuto epizodu zlehčoval, podle mnohých tato neúčast přispěla ke ztrátě jeho mocenského postavení. Stalin byl generálním tajemníkem strany, ale Trockij ostře polemizoval s jeho názory na výstavbu sovětského státu. Vyzdvihoval nutnost urychlené industrializace státu, a především počal kritizovat to, co vnímal jako počátek nadvlády úzké byrokratické kasty nad obyčejným lidem.

Roku 1925 byl Trockij donucen odstoupit z postu předsedy revoluční vojenské rady a z funkce lidového komisaře vojenství. Trockého frakce byla původně nazývána jako „levá opozice“, protože Stalinovy názory v polovině 20. let ostřelovala z levicových pozic. Trockij neustával v ostré kritice na Stalinovu adresu a roku 1927 byl proto definitivně vyloučen ze strany.[1] Další významní představitelé strany jako Lev Kameněv či Grigorij Zinovjev stáli původně při Stalinovi, ale když viděli jeho metody, přešli na stranu Trockého a vytvořili tzv. „spojenou opozici“. V té době už však Stalin třímal moc příliš pevně a roku 1928 byli vyloučeni i oni.