Однако ровно через два месяца, 10 июля, ОГПУ перестало существовать, так как было слито с Народным комиссариатом внутренних дел. Во главе него был поставлен тот же Г. Ягода. С одной стороны, такое слияние, казалось бы, расширило сферу деятельности Г. Ягоды, которому теперь подчинялась и милиция. Но, с другой стороны, теперь Ягода должен был отвечать и за борьбу с уголовной преступностью, что вряд ли соответствовало его амбициозным политическим планам. Кроме того, Ягода перестал возглавлять Объединенное государственное политическое управление при СНК СССР, само название которого предполагало значительную роль в политической жизни страны.
В день смерти Менжинского произошло событие, которое в дальнейшем повлияло на судьбу Енукидзе. 10 мая 1934 года Енукидзе принял участие в совещании, в котором участвовали члены Политбюро: Сталин, Молотов, Ворошилов, Орджоникидзе, Калинин, Куйбышев, секретарь ЦК ВКП(б) и член оргбюро А. А. Жданов, а также нарком иностранных дел Литвинов и и. о. председателя ОГПУ Ягода. На нем Енукидзе и Калинину было поручено подготовить предложения по созыву VII съезда Советов СССР. Вряд ли кто-нибудь, кроме Сталина и его ближайших соратников, догадывался, что 10 мая стало днем начала подготовки конституционной реформы, во многом изменившей жизнь Советской страны.
Казалось, что VII съезд Советов был обычным мероприятием такого рода с привычной повесткой дня. Поэтому лишь 29 мая 1934 года секретарь президиума ЦК СССР А. С. Енукидзе направил в Политбюро письмо с предложениями по повестке дня съезда Советов. Как подчеркивал Ю. Жуков, в письме, написанном «на простом листе бумаги, а не на официальном бланке», шестым пунктом значилось: «Конституционные вопросы». Через два дня аналогичное письмо было отправлено Калининым, правда уже на официальном бланке.
А вскоре Енукидзе поручили подготовить предложения по внесению изменений и дополнений в Конституцию СССР. Лишь 10 января 1935 года Енукидзе завершил выполнение своего поручения. В предложенном им проекте постановления речь шла об изменении порядка выборов в стране. В проекте говорилось, что «установленный конституцией 1918 года и действующий до настоящего времени порядок многостепенных выборов» был вызван тогдашними историческими условиями. Учитывая произошедшие изменения, предлагалось ввести прямые и равные выборы, «с установлением одинаковых норм представительства для городского и сельского населения».
Очевидно, затяжка с подготовкой документа была вызвана тем, что Енукидзе с большим трудом и, возможно, под давлением Сталина признал необходимость пересматривать порядок выборов. В то же время правка документа Сталиным показала, что Енукидзе проигнорировал важное предложение генерального секретаря — о введении тайных выборов. Скорее всего Енукидзе сознательно отказался пойти на такой шаг. Это не было случайным. К этому времени Енукидзе уже давно был участником тайного заговора, направленного против Сталина. Во главе заговора стоял Г. Г. Ягода.
Учитывая, что Г. Г. Ягода был единственным подсудимым в ходе процесса 1938 года по делу о «правотроцкистском центре», который не был реабилитирован в 1988 году, можно считать, что даже в период почти огульных реабилитаций сведения о его виновности не подвергались сомнению.
Из материалов следствия по делу Ягоды ясно, что разговоры, которые вели, и записки, которые писали А. П. Смирнов, Н. Б. Эйсмонт, В. Н. Толмачев, С. И. Сырцов, В. В. Ломинадзе и другие, а также деятельность кружка Рютина были лишь верхушками огромного айсберга тайной оппозиции, которая сложилась в начале 1930-х годов. Из допроса Ягоды 26 апреля 1937 года следовало, что заговор стал оформляться в 1931 году.
Ссылаясь на показания Г. Ягоды, которые он дал во время следствия 19 мая 1937 года, и указывая на то, что заговор Ягоды возник в 1931–1932 годах, Юрий Жуков замечая: «Вполне возможно, ибо именно тогда разногласия в партии достигли своего очередного пика, „дела“ Слепкова („школа Бухарина“), Сырцова-Ломинадзе, „право-левой“ организации Стэна, группы Рютина, ссылка за связь с этой группой Зиновьева и Каменева. Но все же, скорее всего, тогда возникла еще неясная, не вполне оформившаяся мысль. Заговор как реальность, вероятно, следует отнести в концу 1933 — началу 1934 года, как своеобразный ответ на дошедший до Советского Союза призыв Троцкого „убрать Сталина“, совершить новую „политическую“ революцию, ликвидировав „термидорианскую сталинистскую бюрократию“.»
Помимо Ягоды и высших работников ОГПУ, в заговоре принимали участие и ряд других видных лиц, включая секретаря ЦИК СССР Авеля Енукидзе, коменданта Кремля Рудольфа Петерсона, командующего Московским военным округом Августа Корка. Участники заговора поддерживали контакты с «правыми». В своем показании на следствии Ягода утверждал: «Планы правых в то время сводились к захвату власти путем так называемого дворцового переворота. Енукидзе говорил мне, что он лично по постановлению центра правых готовит этот переворот… Енукидзе заявил мне, что комендант Кремля Петерсон целиком им завербован, что он посвящен в дела заговора. Петерсон занят подготовкой кадров заговорщиков-исполнителей в Школе имени ВЦИК, расположенной в Кремле, и в командном составе кремлевского гарнизона… В наших же руках и московский гарнизон… Корк… целиком с нами.
Я хочу здесь заявить, что в конце 1933 года Енукидзе в одной из бесед говорил о Тухачевском как о человеке, на которого они ориентируются и который будет с нами». Упоминал Ягода и видного деятеля наркомата иностранных дел Л. М. Карахана.
Приводя свидетельства в пользу этого заговора, Ю. Жуков ссылается также на признательные показания Енукидзе от 11 февраля 1937 года и Петерсона от 27 февраля 1937 года, которые были сделаны еще до показаний Ягоды. Обратив внимание на совпадения этих показаний, которые были даны разным следователям и в разных городах (Енукидзе — в Киеве, Петерсон — в Харькове), Ю. Жуков писал: «Трудно представить себе их предварительный сговор об идентичности показаний только ради того, чтобы обеспечить себе смертный приговор. Еще труднее представить себе иное. То, что по крайней мере два, да еще работавшие вне столицы следователи, получив некие инструкции, добивались необходимых показаний Енукидзе и Петерсона. Ведь то, о чем поведали бывший секретарь ЦИК СССР и комендант Кремля, — четыре варианта ареста узкого руководства, все детали такой акции вплоть до указания расположения комнат и кабинетов, существующей там охраны, наиболее лучшего и самого надежного варианта ареста членов узкого руководства — никак не могло быть доверено следователям. Эта информация оставалась и весной 1937 г., и многие десятилетия спустя (и даже сегодня!) наиболее оберегаемой государственной тайной, которая ни при каких обстоятельствах не должна была выйти за пределы отделения, а с ноября 1936 года отдела охраны».
Комментируя распространенные ныне сомнения относительно возможности антигосударственного заговора, Ю. Жуков пишет: «Отвергнув саму принципиальную возможность заговора как радикальной формы противостояния внутри ВКП(б), следует тем самым исключить хорошо известные факты — весьма сильные оппозиционные настроения, не раз перераставшие в открытые конфликты, разногласия, порожденные слишком многим». Обратив особое внимание на идейные взгляды участников заговора, которые им помогали объединять вокруг себя сторонников, Жуков писал: «Часть наиболее сознательных, убежденных и вместе с тем активных коммунистов, особенно участников революции и Гражданской войны, сохранили собственное мнение по возникшим проблемам, не желая ни принимать новый курс Сталина, ни становиться откровенными конформистами. Они продолжали ориентироваться только на мировую революцию, сохранение незыблемости классовых основ Республики Советов, диктатуры пролетариата, не желали отказываться от того, что являлось смыслом их жизни. Енукидзе и Петерсон, Корк и Фельдман, Ягода… относились именно к такой категории большевиков». По сути их позиция была близка к позиции Троцкого, Зиновьева, Каменева и Бухарина, исходивших из приоритета задач мировой революции. Несмотря на постоянно повторявшиеся утверждения на XVII съезде партии о разгроме всех оппозиционных сил, подготовка заговора против руководства страны после съезда усилилась.