Есть свидетельства, что Сталин не смог сдержать свой гнев, когда он увидел среди встречавших его на вокзале в Ленинграде представителей ОГПУ. Говорили, что он не то грубо отругал встретившего его Ф. Д. Медведя, не то даже ударил его по лицу. Правда, в дальнейшем Сталин старался держать под контролем свои эмоции. Об этом свидетельствует его спокойное поведение на предварительном следствии в Ленинграде и допросах Николаева. И все же было очевидно, что убийство Кирова застало его врасплох, так как не укладывалось в его представления о том, как могла развиваться политическая борьба в СССР.
Следователи предлагали различные версии. Телефонный номер германского консула в Ленинграде, найденный в записной книжке Николаева, позволил следователям разрабатывать «германский след». К этому времени гитлеровцев уже не раз обвиняли в организации покушений. 29 декабря 1933 года членами фашистской румынской организации «Железная гвардия», связанной с нацистами, был убит премьер-министр Румынии Й. Г. Дука. 25 июля 1934 года австрийскими нацистами был убит премьер-министр Австрии Э. Дольфус. 9 октября 1934 года в Марселе были убиты король Югославии Александр I и министр иностранных дел Франции Ж. Л. Барту. Хотя убийство совершил хорватский националист, в организации теракта не без оснований подозревали гестапо. Быстрый отъезд германского консула из Ленинграда лишь усугубил подозрения относительно ответственности Германии за убийство Кирова.
Так как Мильда Драуле была латышкой, то разрабатывался и «латышский след». Однако вскоре внимание следствия было переключено на связи Николаева со сторонниками Зиновьева. Сталину показали записку о деятельности зиновьевской группы, подготовленную работниками НКВД в середине 1934 года. Авторы записки просили у Кирова дать им санкцию на арест членов группы, но Киров ответил им отказом. Теперь членов этой группы арестовали по обвинению в подготовке антиправительственного заговора. Выбор зиновьевцев в качестве основной мишени вряд ли был случайным. Как бывший сторонник Бухарина, Ягода был давним противником Зиновьева и Каменева. Он имел основание и лично ненавидеть Каменева. Известно, что Каменев распространял запись своей беседы с Бухариным 1928 года, из которой следовало, что Ягода является надежным сторонником Бухарина.
Развитию версии об ответственности оппозиционеров способствовала реакция Троцкого. В своем «Бюллетене оппозиции» Троцкий расценил «убийство Кирова, умного и безжалостного ленинградского диктатора» как признак кризиса власти Сталина. Троцкий философствовал: «Как и в царское время, политические убийства являются безошибочным симптомом грозовой атмосферы и предсказывают начало открытого политического кризиса».
В то же время вскоре стало ясно, что кто-то в органах внутренних дел пытается запутать ход следствия. Сталин еще был в Ленинграде, когда ему сообщили, что начальник охраны Кирова Борисов, арестованный сразу же после убийства, по пути на допрос стал жертвой дорожно-транспортного происшествия и погиб. Вскоре Сталин, Молотов, Ворошилов покинули Ленинград. А странности следствия не прекратились. Слесарь С. А. Платоч, который якобы обезоружил Николаева, был арестован, но затем бесследно исчез. Два других свидетеля, Васильев и Леонник, были уволены с работы, а затем также бесследно исчезли.
Однако Ягода уверял, что следствие идет по верному следу. Вскоре начались аресты среди сторонников Зиновьева в Ленинграде.
На основе данных следствия вместе с Николаевым судили членов так называемого ленинградского центра зиновьевцев во главе с бывшим секретарем Выборгского райкома ВЛКСМ И. И. Котолыновым. Все подсудимые были приговорены к смертной казни за участие в террористическом заговоре с целью уничтожить руководителей партии. Приговор был приведен в исполнение 29 декабря. Позже по делу «Ленинградской контрреволюционной зиновьевской группы Сафарова, Залуцкого и других» было привлечено 77 человек, в том числе 65 членов ВКП(б).
Однако состоявшийся 15–16 января 1935 года в Ленинграде процесс по делу «московского центра» зиновьевцев не увенчался столь же суровым приговором, как в отношении Николаева и его подельников, несмотря на то, что во время процесса по всей стране проходили митинги, на которых выдвигались требования о расстреле всех обвиняемых. Зиновьев был приговорен к 10 годам заключения, Каменев — к 5 годам. Приговор гласил: «Судебное следствие не установило фактов, которые давали бы основание квалифицировать преступления зиновьевцев как подстрекательство к убийству С. М. Кирова». Приговор соответствовал оценке Сталина роли Зиновьева и Каменева, изложенной в написанном им «закрытом письме ЦК ВКП(б)» от 18 января 1935 года «Уроки событий, связанных со злодейским убийством тов. Кирова».
С одной стороны, в письме подчеркивалось, что «зиновьевцы ради достижения своих преступных целей скатились в болото контрреволюционного авантюризма, в болото антисоветского индивидуального террора, наконец, — в болото завязывания связей с латвийским консулом в Ленинграде, агентом немецко-фашистских интервенционистов». С другой стороны, указывалось, что «Московский центр» «не знал, по-видимому, о подготовлявшемся убийстве т. Кирова». Судя по всему, Сталина в это время убедили факты, что нет оснований признать Зиновьева и Каменева ответственными за убийство Кирова.
Кроме того, в первых же строках письмо ЦК обвиняло лидеров «Московского центра» не в терроризме, а в карьеризме: «Их объединяла… одна общая беспринципная, чисто карьеристская цель — добраться до руководящего положения в партии и правительстве и получить во чтобы то ни стало высокие посты». Таким образом, Сталин видел в убийстве Кирова прежде всего проявление острой борьбы за власть в стране.
Правда, вряд ли можно было считать, что убийство Кирова расчистило бы Зиновьеву и Каменеву путь к высоким постам. Очевидно, что от убийства Кирова выгадывали бы лица из нынешних партийных верхов. Однако Сталин, видимо, не был готов предъявить подобные обвинения кому бы то ни было из высшего руководства в стране, а потому удары наносились по давно поверженным и дискредитированным оппозиционерам.
В то же время содержание письма свидетельствовало о сильных логических натяжках, допущенных Сталиным в его рассуждениях относительно причин убийства Кирова. Сталин явно пытался подогнать данные следствия под свои представления о классовой борьбе в СССР и идейно-политическом перерождении партийной оппозиции.
Поскольку убийство совершил не кулак или нэпман и не гражданин иностранной державы, а член ВКП(б) Николаев, Сталин обратил особое внимание на наличие у Леонида Николаева брата Петра, который «дважды дезертировал из Красной Армии» и якобы «якшался… с открытыми белогвардейцами». Из этого делался сомнительный вывод о том, что «Петр Николаев представлял законченный тип белогвардейца». Сведения о том, что Л. Николаев укрывал своего брата на своей квартире, послужили основой для другого скоропалительного вывода о том, что «между открытым белогвардейцем Петром Николаевым и братом его Леонидом Николаевым, членом зиновьевской группы в Ленинграде, а впоследствии убийцей тов. Кирова, не осталось никакой разницы». Из этого делался еще один сомнительный вывод о том, что Леонид Николаев «задолго до убийства тов. Кирова был уже врагом партии и белогвардейцем чистой воды».