Директором УФТИ стал Иван Васильевич Обреимов – оптик, один из первых студентов Иоффе. Он был прекрасным физиком, но оказался слабым директором. В 1932 году его заменил на этом посту Александр Ильич Лейпунский, которого относили к числу самых способных молодых советских физиков. Научные интересы Лейпунского были связаны главным образом с ядерной физикой. В 1932 году он вместе с коллегами повторил эксперимент Кокрофта и Уолтона. В середине 1930-х Лейпунский более года провел в Кавендишской лаборатории. При этом он был членом коммунистической партии, что для того времени считалось «несерьезным поведением» среди физиков.
УФТИ был богатым и хорошо обеспеченным институтом, и к середине 1930-х годов по размеру бюджета и числу сотрудников перегнал ленинградский институт Иоффе. Достаточно взглянуть, какие «светила» в нем работали. Лев Васильевич Шубников, возглавивший исследования в области низких температур, с 1926 по 1930 год занимался исследованиями в Лейдене – одном из ведущих европейских центров. Другим известным сотрудником института был Лев Давидович Ландау – наверное, самый блестящий в своем поколении советский физик: он руководил теоретическим отделом УФТИ. Институт посещали многие иностранные физики, в том числе Нильс Бор, Джон Кокрофт и Поль Дирак. Виктор Вайскопф проработал в нем восемь месяцев в 1932 году. Институт выпускал советский физический журнал на немецком языке.
Однако во второй половине 1930-х годов над советской физикой и наукой в целом начали сгущаться тучи. Коммунистический режим выбрал направление на «закручивание гаек». Наступала эпоха ежовщины, когда любое вольнодумство воспринималось как признак враждебной деятельности. Многие из ведущих сотрудников УФТИ были арестованы во время Большого террора и обвинены в фантастических заговорах против государства.
Первыми под каток репрессий попали Александра и Эва Вайсберги. В апреле 1936 года арестовали Эву: ее обвинили в том, что она якобы наносила на разработанные ею образцы чашек свастику, занималась их контрабандой и хранила два пистолета, чтобы «на съезде партии убить Сталина». Видимо, абсурдность обвинений стала очевидна даже следователям, поэтому в середине 1937 года ее освободили, после чего она сразу выехала за границу. Александра Вайсберга стали таскать на допросы в Харьковское управление НКВД. 15 февраля 1937 он уволился из УФТИ и пытался покинуть Советский Союз, однако через две недели был арестован как «участник антисоветской контрреволюционной организации». В течение трех месяцев Вайсберг категорически отрицал какую-либо вину. Но после применения пыток признал себя виновным и дал 1 июня 1937 года показания против других сотрудников института. Они легли в основу двух дел о «контрреволюционных группах» в УФТИ, в одну из которых входили иностранные специалисты и их жены. Позднее Вайсберг отказался от показаний, выдавленных под пытками, но было уже поздно.
Он вспоминал, что в беседах со своими сокамерниками описывал ситуацию так:
Послушайте, наш институт – один из самых значительных в Европе. Возможно даже, что в Европе нет института, столь же хорошо оснащенного и имеющего так много различных лабораторий, как наш. Правительство не пожалело денег. Ведущие ученые частично получили образование за границей. Долгое время их посылали за государственный счет к знаменитейшим физикам мира для продолжения образования. В нашем институте 8 отделов, во главе их стояли 8 научных руководителей. Как все это выглядит теперь?
Лаборатория кристаллов… Руководитель Обреимов арестован.
1-я криогенная лаборатория… Руководитель Шубников арестован.
2-я криогенная лаборатория… Руководитель Руэман выдворен из страны.
Ядерная лаборатория… Руководитель Лейпунский арестован.
Рентгеновский отдел… Руководитель Горский арестован.
Отдел теоретической физики… Руководитель Ландау арестован.
Опытная станция глубокого охлаждения… Руководитель Вайсберг арестован.
Лаборатория ультракоротких волн… Руководитель Слуцкин пока работает.
За освобождение Александра Вайсберга и Фридриха Хоутерманса в 1938 году ходатайствовали четыре нобелевских лауреата: Альберт Эйнштейн в письме Сталину от 16 мая и Жан Перрен, Ирен и Фредерик Жолио-Кюри в письме Генеральному прокурору от 15 июня. Но только в конце декабря 1939 года Особое совещание при НКВД СССР приняло по делу следующее решение: «Вайсберга Александра Семёновича, как нежелательного иностранца, выдворить из пределов Союза ССР». 5 января 1940 года на мосту через Буг в Брест-Литовске он в числе других европейских коммунистов, антифашистских беженцев и прочих нежелательных иностранцев был передан офицерами НКВД офицерам гестапо. Всю войну Вайсберг содержался тюрьмах на территории Польши, оказался в Краковском гетто, а после войны уехал в Швецию.
Лев Ландау к моменту ареста, 28 апреля 1938 года, перебрался в Москву и возглавил теоретическую группу Института физических проблем Петра Капицы. Понятно, что Капица немедленно написал Сталину письмо с просьбой об освобождении. Он указывал, что Ландау – один из самых сильных физиков-теоретиков в стране, что его потеря будет очень ощутимой для мировой науки. «Конечно, ученость и талантливость, как бы велики они ни были, не дают права человеку нарушать законы своей страны, и, если Ландау виноват, он должен ответить, – продолжал Капица. – Но я очень прошу Вас, ввиду его исключительной талантливости, дать соответствующие указания, чтобы к его делу отнеслись очень внимательно». Далее Капица объяснял, каким образом Ландау мог нажить себе врагов: «Следует учесть характер Ландау, который, попросту говоря, скверный. Он задира и забияка, любит искать у других ошибки и когда находит их, в особенности у важных старцев, вроде наших академиков, то начинает непочтительно дразнить». Пётр Капица продолжал прилагать усилия, чтобы защитить коллегу, и в результате добился своего: Ландау был освобожден ровно через год после своего ареста. Для этого Капице пришлось написать короткое письмо на имя Лаврентия Павловича Берии, нового главы НКВД, в котором он поручился за лояльное поведение физика.
Однако далеко не всем так повезло. Сотрудников УФТИ Льва Шубникова, Льва Розенкевича, Конрада Вайсельберга, Валентина Фомина и Вадима Горского расстреляли в ноябре 1937 года за «вредительство» и участие в «контрреволюционной организации». Реабилитированы они были только в 1956 году. Парторг института Пётр Комаров и юный аспирант Иван Гусак погибли в заключении.
Результаты проведенной в институте «чистки» оказались сокрушительными: потенциал УФТИ необычайно понизился, и он утратил то положение исследовательского центра, о котором мечтали ведущие ученые несколькими годами ранее. Получается, что в канун открытия деления ядер атомов чекисты-«ежовцы» разрушили один из наиболее важных физических институтов страны.
Тем не менее именно в Харькове намного раньше остальных был предложен работоспособный проект атомной бомбы. В 1938 году, сразу после «чистки», УФТИ был переименован в Харьковский физико-технический институт (ХФТИ). В таком качестве он и стал известен, но уже не как крупный международный научный центр, а как закрытая организация, занимающаяся секретной военной тематикой.