Началась настоящая охота на антикоммунистических лидеров. По тому же сценарию на фиктивную украинскую организацию заманили в СССР и убили атамана Ю. Тютюнника. В 1926 г. в Париже евреем Шварцбадом был застрелен С. В. Петлюра. Якобы из личной мести. Там же бесследно исчез ген. Монкевиц, отвечавший в РОВС за связи с русским подпольем. В 1927 г. заманили на советскую территорию, осудили и расстреляли популярного среди казахов атамана Анненкова.
В 1928 г. в возрасте 49 лет умер председатель Русского Общевоинского Союза П. Н. Врангель. Обстоятельства его смерти многие находили подозрительными. Тем более что вскоре, тоже при неясных обстоятельствах, скончались великие князья Николай Николаевич и Кирилл Владимирович, т. е. оба претендента на звание местоблюстителя русского престола. Почти одновременно погибла вся «верхушка», как бы символизировавшая собой прежнюю Россию.
В 1929 г. бывший генерал Я. А. Слащев, зачисленный в Красную армию, преподававший тактику на высших курсах командного состава «Выстрел» и в высшей школе ОГПУ, был застрелен в собственной квартире. Дело тоже осталось темным. Его быстренько замяли, обвинив в убийстве одного из слушателей. "Из личной мести". В том же году во время конфликта на КВЖД отряды чекистов совершили налет на поселки казаков-эмигрантов в Китае, истребив сотни мирных поселенцев. Свыше 600 чел. угнали в СССР.
После смерти Врангеля председателем РОВС стал А. П. Кутепов. В январе 1930 г. в Париже среди бела дня он был похищен ОГПУ. Его втолкнули в машину, усыпили эфиром, вывезли на побережье и переправили на советский пароход «Спартак». А. Солженицын писал, что Кутепов был убит на Лубянке, хотя его врач Алексинский считал, что из-за прошлых ранений Кутепов не смог бы выдержать действия наркотиков. На посту председателя РОВС убитого командира сменил его начальник штаба Е. К. Миллер. Любопытно, что А. И. Деникин проявил в эмиграции и недюжинные детективные способности. Так, сопоставляя различные факты, он еще в 26 г. определил, что якобы существовавшая в России подпольная организация «Трест», с которой связался Кутепов, является грандиозной провокацией ОГПУ, а в 27 г. пришел к неожиданному выводу, что на чекистов работает… командир Корниловской дивизии ген. Скоблин. Это было действительно так, Скоблина обработали и завербовали через жену, знаменитую певицу Плевицкую. Но неоднократные предупреждения Деникина в адрес Кутепова и Миллера не дали результатов — прямых доказательств не было, а косвенные заключения воспринимались как излишняя осторожность старого перестраховщика.
Но конспиратором он был куда лучшим, чем другие белые начальники, и хотя тоже вел серьезную антикоммунистическую работу, о "деникинской организации" в отличие от кутеповской до сих пор почти ничего не известно. Мы знаем лишь, что "комитет Мельгунова", как условно называлась эта организация, издавал журнал "Борьба за Россию", часть тиража которого нелегально переправлялась в СССР, к участвовал в сборе и распределении средств для организаций, активно борющихся с коммунизмом. Все записи своевременно уничтожались Деникиным, а разговоров на данную тему он никогда не вел.
Небезынтересно, что пик политического терроризма пришелся на вторую половину 20-х годов. Т. е. как раз на годы раскулачивания и коллективизации. Поэтому вовсе не исключено, что коммунистическая верхушка опасалась возобновления гражданской войны и убирала тех, кто мог бы способствовать сопротивлению или возглавить его. Как известно, восстания действительно были, особенно сильные на Кубани, где казаки вырубили два полка Красной армии, а на подавление бросались танки и авиация. Но всеобщего размаха такие стихийные взрывы уже не получили. В 30-х годах уровень международного терроризма чекистов несколько снизился. Во-первых, русское крестьянство было окончательно побеждено, во-вторых, лучшие «международники» ОГПУ были троцкистами и попали под репрессии, а в-третьих, у спецслужб началась горячая пора внутри СССР.
Однако в сентябре 1937 г. последовали новые акции. 20.09 на квартиру к Деникину, когда он был один, явился Скоблин, настойчиво приглашая его в поездку на автомобиле за город. Деникин, будучи настороже, отказался. Предусматривался и силовой вариант увоза — в машине ждали сигнала двое неизвестных. Но неожиданно пришел здоровенный казак, которого Деникин пригласил помочь в ремонте, и Скоблин удалился. А через два дня был похищен Миллер. Его заманили на "деловую встречу", в грузовике с дипломатическими номерами вывезли в ящике в Гавр и погрузили на пароход "Мария Ульянова". Но у Миллера все же были подозрения, и он оставил письмо, что идет на встречу со Скоблиным. В результате агенты были разоблачены, Плевицкая получила 20 лет и умерла в тюрьме, а Скоблину удалось скрыться. Он пробрался в Испанию, где шла гражданская война, и в расположении республиканцев явился к советским чекистам, однако его поспешили убрать, как отработанную и компрометирующую фигуру.
Как ни парадоксально, немец Миллер пал жертвой своей антигерманской и антинацистской ориентации. В это время Советский Союз взял курс на сближение с гитлеровской Германией. Сторонники французской ориентации в европейском противостоянии во главе с Тухачевским были уничтожены, а само наметившееся было сближение с Францией оказалось торпедированным. Кстати, компромат на Тухачевского, чтобы он попал в СССР извне, из Германии, чекисты подбросили Гейдриху все через того же Скоблина, ставшего к тому времени двойником и работавшего и на ОГПУ, и на гитлеровскую СД. Советская сторона рассчитывала направить агрессию Гитлера на запад, и в рамках этой политики раньше других началось тесное сотрудничество большевистских и германских спецслужб. В частности, возник план превратить РОВС в прогерманскую "пятую колонну" в западных странах. А патриотическая позиция Деникина и Миллера мешала этому.
Приближение Второй мировой войны раскололо эмиграцию. Вероятность и близость советско-германского столкновения, как ни странно, оказалась для русского зарубежья куда более очевидной, чем для коммунистического руководства. По крайней мере никто, подобно Сталину или Ворошилову, не верил в возможность прочного советско-германского союза против Запада. А война требовала выбора позиции — как воспринимать Советский Союз? Все еще как Российскую державу — распятую, униженную, но родную? Или как коммунистическое государство, не имеющее ничего общего с уничтоженной Россией? Каждый решал этот вопрос по-своему…
После смерти Миллера РОВС, как и рассчитывали чекисты, возглавил прогермански настроенный ген. Ф. Ф. Абрамов, бывший командующий Донским корпусом и 2-й армией у Врангеля. Но пробыл он на этом посту всего полгода, и в марте 1938 г. вынужден был уйти в результате скандала — когда выяснилось, что его сын является советским агентом. Председателем стал ген. А. П. Архангельский. Однако РОВС, детище Врангеля, стал уже распадаться. В сторону германской ориентации тянул начальник 2-го отдела РОВС (Германия, Австрия, Прибалтика) А. А. фон Лампе, образовавший в 39 г. независимое Объединение русских воинских союзов в Германии. На Дальнем Востоке после смерти в 1937 г. Д. Л. Хорвата и М. К. Дитерихса на роль единоличного вождя эмиграции претендовал Г. М. Семенов. Авторитет у Архангельского был далеко не тот, что у его предшественников (при Деникине он служил генералом для поручений, при Врангеле — начальником одного из отделов штаба). А с началом войны РОВС распался окончательно. Мир разделился фронтами, и о какой-либо связи русского офицерства в разных странах думать не приходилось. Изначальная задача РОВС сохранение кадров российской армии — ушла в прошлое. А классический лозунг белогвардейцев "Кубанский поход продолжается!" потерял смысл, т. к. антисоветская борьба становилась антироссийской, а поддержка России означала бы отказ от борьбы с ее коммунистическим правительством.