В конце 20-х годов Сталин добился смещения Н. А. Угланова с поста первого секретаря МК партии. Было сменено и все бюро столичной организации, обвиненное в принадлежности к так называемому «правому» уклону. Во главе московской организации вначале встал Молотов, но в 1930 году вождем московских большевиков был избран Л. М. Каганович. Он-то и выдвинул Маленкова на более ответственную работу. Маленков стал заведующим орготделом в Московском комитете партии. Фактически это был отдел кадров, с помощью которого осуществлялись все назначения в московских райкомах, а также утверждались секретари всех крупных первичных партийных организаций. В это время Маленков познакомился со многими лидерами партии и с молодыми выдвиженцами, например, с Н. С. Хрущевым. Работу по чистке Московской партийной организации от бывших оппозиционеров (тогда это означало еще лишь исключение из партии или понижение в должности и только в крайнем случае — арест) Маленков провел, с точки зрения Кагановича, да и Сталина, очень хорошо. Между тем Сталин сразу же после XVII съезда партии стал перестраивать весь аппарат ЦК ВКП(б), подготавливая его к предстоящим новым и более жестоким чисткам. Ему нужны были свежие кадры. Сталин и раньше знал Маленкова. К тому же Каганович был о Маленкове лучшего мнения. И когда возник вопрос о назначении нового заведующего отделом руководящих партийных органов ЦК, выбор Сталина пал на Маленкова.
Почти одновременно с Маленковым Сталин выдвинул на самые ответственные посты в партийном аппарате и Н. И. Ежова. Ежов стал секретарем ЦК ВКП(б) и занял вместо Кагановича пост председателя Комиссии партийного контроля. Между Ежовым и Кагановичем началась скрытая вражда из-за влияния на Сталина, которую последний только поощрял. Маленков, хотя не был еще членом ЦК, принял сторону Ежова и вскоре стал одним из его ближайших друзей, тогда как с Кагановичем у него сложились теперь крайне неприязненные отношения. Под руководством Ежова и при активном участии Маленкова в первой половине 1936 года в стране была проведена проверка партийных документов. Фактически это была еще одна чистка партии и канцелярская подготовка террора. На каждого члена партии заводилось весьма подробное «личное дело».
Если Сталин был главным организатором и вдохновителем массового террора 1937–1938 годов, то Ежов — главным исполнителем этой страшной кровавой кампании. Именно Ежов был назначен в 1936 году наркомом внутренних дел СССР, возглавил карательные органы, которым предоставлялись чрезвычайные полномочия по выявлению, изоляции и уничтожению тех людей, которых стали теперь называть «врагами народа». Маленков действовал в тени, но именно он был одним из тех, кто под руководством Сталина приводил в движение наиболее важные тайные пружины террора. В книге «Крушение поколения» И. Бергер, однако, писал: «Маленков в отличие от Молотова и Кагановича не нес прямой ответственности за сталинский террор 30-х годов» [399] . Это мнение ошибочно. Формально Маленков не входил тогда ни в какие руководящие государственные органы. Он присутствовал в качестве делегата на XVII съезде партии, но не был избран ни членом, ни кандидатом в члены ЦК ВКП(б), не вошел он и в комиссии партийного и советского контроля и даже в Центральную ревизионную комиссию. Формально он не участвовал, таким образом, даже в пленумах ЦК, включая и февральско-мартовский пленум 1937 года. И тем не менее, находясь во главе отдела руководящих парторганов ЦК, Маленков играл в событиях 1937–1938 годов не менее важную роль, чем Ежов, Берия, Каганович и Молотов. Наделенный чрезвычайными правами, Маленков руководил репрессиями не только в тиши своего кабинета, но и непосредственно на местах, в различных республиках и областях. Было немало случаев, когда он лично присутствовал на допросах и пытках арестованных партийных руководителей. Так, например, Маленков вместе с Ежовым выезжал в 1937 году в Белоруссию, где был учинен настоящий разгром партийной организации республики. Осенью этого же года Маленков с Микояном побывали в Армении, где также был репрессирован почти весь партийный и советский актив этой республики. При участии Маленкова составлялся план репрессий во всех областях РСФСР, затем в его отделе подбирали новые кандидатуры секретарей обкомов и горкомов на место арестованных и расстрелянных.
Чтобы замаскировать масштабы террора, в январе 1938 года в Москве был проведен пленум ЦК, который рассмотрел вопрос «Об ошибках парторганизаций при исключении коммунистов из партии…». На этом пленуме присутствовали всего 28 из 71 члена ЦК, избранного на XVII съезде партии. Лишь несколько человек с тех пор умерло, тогда как почти 40 человек было к тому времени арестовано. Характерно, что пленум обсуждал доклад Маленкова, который формально не был членом ЦК. Январский пленум ЦК не остановил массовых репрессий, которые еще много месяцев свирепствовали по всей стране.
В 1937–1938 годах Маленков работал в постоянном контакте с Ежовым. В журнале «Партийное строительство», который некоторое время редактировался Маленковым, мы можем найти множество восхвалений Ежова — «сталинского наркома», «верного стража социализма». Но Маленков не разделил судьбы Ежова и с конца 1938 года стал тесно сотрудничать с Л. П. Берией, сменившим Ежова на посту главы НКВД.
По существу, только в 1939 году Маленков начинает выходить из тайных кабинетов власти и появляться на открытой политической арене. На XVIII съезде ВКП(б) Маленков возглавил мандатную комиссию и сделал на пятом заседании съезда доклад о составе съезда. Он был избран в члены Центрального комитета ВКП(б), а на пленуме ЦК 22 марта 1939 года — секретарем ЦК. В этот Секретариат, возглавляемый Сталиным, вошли также А. А. Андреев и А. А. Жданов. С тех пор Маленков неизменно входил в состав этого органа ЦК, который в повседневном практическом руководстве партией играл при Сталине, пожалуй, даже большую роль, чем политбюро. Маленков был избран также членом Оргбюро ЦК. Отдел руководящих партийных органов ЦК был реорганизован в Управление кадрами ЦК ВКП(б), во главе которого по-прежнему оставался Маленков.
Постепенно стал расширяться круг проблем, которыми теперь занимался Маленков как секретарь ЦК. Ему было поручено, например, контролировать развитие промышленности и транспорта. Когда в феврале 1941 года состоялась XVIII Всесоюзная конференция ВКП(б), посвященная хозяйственным проблемам и итогам выполнения первых лет третьего пятилетнего плана, то главный доклад на ней о задачах промышленности и транспорта сделал Маленков. Тогда же состоялся пленум ЦК, на котором Маленков был избран кандидатом в члены политбюро. Он занял отныне прочное место в ближайшем окружении Сталина.
Когда началась Отечественная война, Маленков, к удивлению многих, вошел в первый же состав Государственного Комитета Обороны, хотя он не был еще в то время полноправным членом Политбюро. В первые два года войны Маленкову приходилось выезжать во главе специальных комиссий на участки фронта, где создавалась угрожающая ситуация. В августе 1941 года он находился в Ленинграде, осенью того же года — на фронте под Москвой, в августе 1942 года как член ГКО прибыл в Сталинград — помочь в организации обороны города. Но постепенно Маленков перестал принимать участие в решении чисто военных вопросов и сосредоточился на отдельных проблемах военно-оборонного производства. Его главной задачей стало оснащение Красной Армии самолетами. Как известно, после огромных потерь советской авиации в первые недели войны германская армия имела превосходство в воздухе до конца 1942 года. Однако соотношение сил стало меняться в 1943 году. Советская промышленность сумела обеспечить отечественные ВВС большим количеством современных машин, и уже к моменту сражения на Курской дуге превосходство в воздухе стало переходить к Красной Армии. Определенные заслуги в налаживании производства самолетов были и у Маленкова, в связи с чем ему было присвоено в сентябре 1943 года звание Героя Социалистического Труда. Осенью того же года Маленков возглавил Комитет при СНК СССР по восстановлению хозяйства в районах, освобожденных от оккупации.