8 августа Троцкий, Зиновьев, Каменев, Пятаков, Смилга, Раковский, Муралов и другие направили в ЦК покаянное письмо, второе после осени 1926 года. В нем они обещали отказаться от выступлений против руководства ЦК.
Однако уже 3 сентября 13 членов ЦК и ЦКК во главе с Троцким, Зиновьевым и Каменевым представили в ЦК подготовленный к XV съезду партии проект „Платформы большевиков-ленинцев (оппозиции)“. Они потребовали начать дискуссию перед XV съездом партии.
21—23 октября 1927 года объединенный пленум ЦК и ЦКК ВКП(б) вновь рассмотрел вопрос об оппозиции. В дискуссии принял участие Сталин. Сталин начал выступление с „личного момента“, объясняя причины, почему он стал главной мишенью атак оппозиции: „Вы слышали здесь, как старательно ругают оппозиционеры Сталина, не жалея сил. Это меня не удивляет, товарищи. Тот факт, что главные нападки направлены против Сталина, этот факт объясняется тем, что Сталин знает лучше, может быть, чем некоторые наши товарищи, все плутни оппозиции, надуть его, пожалуй, не так-то легко, и вот они направляют удар прежде всего против Сталина. Что же, пусть ругаются на здоровье“.
Сталин остановился на ленинском „Письме к съезду“, который был объявлен оппозиционерами „Завещанием Ленина“ и постоянно использовался оппозицией в атаках на Сталина. Напомнив, что место, в котором Ленин критиковал Сталина, „читалось раньше на пленуме несколько раз“, Сталин сам зачитал слова о том, что „Сталин слишком груб…“ и т. д. Закончив чтение этих слов, Сталин сказал: „Да, я груб, товарищи, в отношении тех, которые грубо и вероломно разрушают и раскалывают партию“.
Сталин напомнил, что сразу же после зачтения „Письма“ делегатам XIII съезда по делегациям, он „на первом же заседании пленума ЦК… просил пленум ЦК освободить от обязанностей генерального секретаря. Съезд обсуждал этот вопрос. Каждая делегация обсуждала этот вопрос, и все делегации единогласно, в том числе и Троцкий, Каменев, Зиновьев обязали Сталина остаться на своем посту… Через год после этого я снова подал заявление в пленум об освобождении, но меня вновь обязали остаться на посту. Что же я мог ещё сделать?“
Пользуясь тем, что оппозиция многократно возвращалась к словам Ленина о „грубости“ Сталина, он постарался показать, что эта характеристика является чуть ли не единственным аргументом в арсенале оппозиции и с его помощью нельзя объяснить многие проблемы идейной борьбы в партии. Он вспоминал борьбу Троцкого с Лениным до 1917 года, позицию Троцкого в вопросе о Брестском мире и его участие в профсоюзной дискуссии и всякий раз заключал эти напоминания словами: „Может быть тут виновата грубость Сталина?“ или „При чем же тут грубость Сталина?“
Сталин постарался показать, что не он, а Ленин был непримирим по отношению к тем, кто организовывал оппозиционные фракции, и обратил внимание на то, что недавно многие в ЦК ругали его, Сталина, за мягкость по отношению к оппозиции. В ответ на это замечание раздался чей-то голос из зала: „Правильно, и теперь ругаем!“.
Однако сейчас Сталин не был настроен миролюбиво. Он говорил: „Теперь надо стоять нам в первых рядах тех товарищей, которые требуют исключения Троцкого и Зиновьева из ЦК“. Это предложение было принято пленумом.
Итоги предсъездовской дискуссии показали, что в поддержку политики руководства ЦК проголосовало 738 тыс. членов партии, против — немногим более 4 тысяч, а менее 3 тысяч воздержалось. Очевидно, что в партии сторонники оппозиции составляли лишь около 0,5 % от общего числа членов.
И все же оппозиционеры стали готовить контрдемонстрации в Москве и Ленинграде в день празднования 10-й годовщины Октябрьской революции под лозунгами „Выполним „Завещание Ленина““, „Повернем огонь направо — против кулака, нэпмана, бюрократа“. Однако попытки Троцкого, Зиновьева, Смилги, Преображенского и других лидеров оппозиции обратиться к колоннам демонстрантов были сорваны активными действиями представителей Московского комитета партии и московских райкомов партии, во главе которых стояли их руководители Угланов, Рютин и другие.
Было также очевидно, что „рабочие массы“ не поддержали оппозицию. Контрдемонстрации превратились в цепь скандалов, сопровождавшихся драками, потасовками и швырянием друг в друга разных предметов. В описаниях этих событий в числе метательных снарядов наиболее часто упоминали сосульки, что свидетельствовало о морозной погоде, а также булки, картошка, помидоры и огурцы, что косвенным образом свидетельствовало об успехах сельского хозяйства страны.
14 ноября 1927 года ЦК и ЦКК на совместном заседании после обсуждения событий 7 ноября приняли решение об исключении Троцкого и Зиновьева из партии; остальные активные деятели оппозиции были выведены из состава ЦК и ЦКК.
Состоявшийся в декабре 1927 года XV съезд партии подтвердил решение ЦК и ЦКК о Троцком и Зиновьеве, а также исключил из партии еще 75 активных членов оппозиции, включая Каменева, Пятакова, Радека, Раковского, Сафарова, Смилгу, И. Смирнова, Н. Смирнова, Сапронова, Лашевича. А вскоре Троцкий и многие другие видные оппозиционеры были высланы далеко за пределы Москвы. (Через год Троцкий был выслан в Турцию.) Троцкистско-зиновьевская оппозиция была политически и организационно разгромлена.
Однако вскоре в Политбюро возникли разногласия между Сталиным и его сторонниками, с одной стороны, и Бухариным, Рыковым, Томским — с другой. При подготовке резолюции по отчету ЦК в конце XV съезда Бухарин, Рыков, Томский и кандидат в члены Политбюро Угланов выступали против провозглашения коллективизации в качестве основной задачи партии. Отголоском этого конфликта явилось заявление Сталина об отставке 19 декабря 1927 года, во время послесъездовского пленума ЦК. В нем Сталин писал: „Прошу освободить меня от поста генсека ЦК. Заявляю, что не могу больше работать на этом посту, не в силах больше работать на этом посту“. Хотя, как и прежде, это заявление не было принято участниками пленума, оно явилось явным свидетельством наличия в Политбюро острых разногласий.
Весной 1928 года разногласия относительно политики в деревне вспыхнули с новой силой. Бухарин и Сталин выступали с изложением своих взглядов и критикой своих оппонентов, но не называя их поименно. Скрытая борьба усилилась к середине 1928 года.
В своей борьбе против Сталина Бухарин пошел на союз со своими политическими противниками — зиновьевцами. 11 июля 1928 года, за день до закрытия июльского пленума, Бухарин вступил в тайные переговоры с Каменевым. Впоследствии были еще две тайные встречи Бухарина и Каменева. Узнав об этих встречах, Троцкий решил в своих планах политического реванша сделать ставку на Бухарина. В своем письме „Откровенный разговор с доброжелательным партийцем“, который он написал 12 сентября и распространял среди своих сторонников, он объявил о своей готовности сотрудничать с Рыковым и Бухариным „в интересах внутрипартийной демократии“. Эти встречи и письмо Троцкого означали, что еще несколько месяцев назад идейно-политические разногласия, которые разделяли сторонников „левого“ и „правого уклона“, отошли на задний план, а первостепенное значение заняли соображения беспринципной борьбы за власть.
Из содержания июльской беседы с Каменевым следовало, что Бухарин считал теперь главной целью отстранение Сталина с поста генерального секретаря. Он объяснял Каменеву: „Свою главную политическую задачу я вижу в том, чтобы последовательно разъяснить членам ЦК губительную роль Сталина и подвести середняка-цекиста к его снятию“. Бухарин сожалел, что настроения в ЦК не позволяют осуществить намеченный им переворот. Он признавал: „Снятие Сталина сейчас не пройдет в ЦК“. Оценивая шансы Бухарина в ЦК, американский историк и советолог Стивен Коэн писал: „В случае решающего голосования в ЦК… Бухарин, по всей видимости, рассчитывал вначале разделить 30 голосов из 71 примерно поровну со Сталиным, если остальные останутся нейтральными“.