В рейхсвер, в котором сохранилось около 100 тысяч человек, генерал-полковник Ганс фон Сект тщательно отбирал состав офицерского корпуса, где на каждое место претендовало не менее семи кандидатов. Половина офицеров были из потомственных военных. Критическим был вопрос о Генеральном штабе. Версальский договор запрещал существование такового в любой форме. Фон Сект сумел найти выход из положения: он создал Службу войск, которая должна была якобы определять военные задачи рейхсвера. Служба имела четыре отдела: Т-1 решал оперативные проблемы, T-2 отвечал за организационное построение вооруженных сил, Т-3 анализировал боеспособность и вооружение зарубежных армий, Т-4 возглавлял анализ подготовки войск. Отсюда и пришли офицеры, возглавившие затем возрожденный Генеральный штаб. Одним из основных участков деятельности рейхсвера был внешний шпионаж.
Разоруженная Германия находилась под контролем победителей до 1926 года. Вожди Веймарской республики искали выход из изоляции. Такая возможность появилась довольно скоро. Весной 1922 года министр иностранных дел Германии Вальтер Ратенау тайно встретился с советской делегацией в городе Рапалло. Обе стороны отказались от претензий военного времени и нормализовали свои отношения. В России Германия нашла безопасные центры подготовки военных кадров (например, Военно-воздушная школа в Липецке, Школа химической войны близ Саратова, Танковая школа под Казанью). С 1925 по 1930 год в Советском Союзе находилось приблизительно 200 немецких специалистов, позже их численность возросла до 300.
В декабре 1926 года французы и англичане решили закончить свою контролирующую деятельность в Германии. Комиссия прекратила работу в 1927 году. Это ослабило контроль над активностью германских военных приготовлений. Фирма «Кох и Кинцле» вернулась на главные заводы Круппа. С этого времени началось производство самоходных орудий, установок для запуска торпед, приборов для морских орудий, перископов и т. д.
Гитлер был против скрытого военного сотрудничества с СССР, но начинать военную подготовку на немецкой территории не хотел. Выходом для него было обращение к Муссолини. Итальянский диктатор позволил проводить учения немецких пилотов на итальянских базах ВВС.
Стремясь до поры до времени не нарушать Версальский договор, Гитлер не пошел сразу на увеличение численности армии, но нашел другие формы массовой подготовки солдат. Так, например, все подростки от десяти до восемнадцати лет становились членами Гитлерюгенда, где их обучали военному и спортивному мастерству. Покидая Гитлерюгенд, молодые немцы обязательно должны были вступить в отряды так называемой рабочей службы, созданной в 1934 году. К началу 1934 года вновь образованные военные соединения насчитывали сорок четыре подразделения, рассредоточенных по всей Германии. У каждого из них было гражданское название. Так, например, эскадрилья бомбардировщиков в Фассбурге называлась «Ганзейская летная школа», а соединение истребителей в Деберице — «Рекламное объединение». Немцы после 1932 года перестали публиковать списки офицеров, находившихся на действительной военной службе. Становилось ясно, что Берлин зачисляет на воинскую службу гораздо больше офицеров, чем было разрешено Версальским договором.
О военных приготовлениях Германии, конечно же, знала французская и английская разведки, но они не предпринимали никаких мер. Часть политиков и военных в победивших странах считала, что с Германией поступили несправедливо, обвинив только ее одну в развязывании Первой мировой войны. Послабления в контроле как бы компенсировали эту несправедливость. Правящие силы западных стран полагали, что в конечном счете Германия — цивилизованная европейская страна — станет надежным заслоном от СССР. Кроме того, многие западные бизнесмены имели прямые прибыли от германского перевооружения.
21 мая 1935 года Гитлер открыто заявил о своем решении увеличить численность вермахта и назначил себя главнокомандующим вооруженными силами. Были восстановлены Генеральный штаб и Военное министерство. Гитлер воспользовался предшествовавшей подготовительной работой, развернул массовое военное производство и увеличил армию. Таким образом, если в 1933 году рейхсвер состоял из 100 тысяч человек, то в июне 1941 года он уже насчитывал 180 дивизий (3,2 миллиона человек). Процесс, начатый уже на второй день после окончания Первой мировой войны, завершился. Его результатом стала вооруженная боевым новейшим оружием армия, физически хорошо подготовленная, воспитанная в духе расового превосходства и уверенная в успехе.
Еще в начале 20-х годов Гитлером была разработана теория необходимости расширения жизненного пространства. «Мы требуем территории для обеспечения источников питания нашего народа и размещения нашего растущего населения», — писал он в «Моей борьбе». Ежегодный прирост населения Германии составлял 900 тысяч человек в год. Для того чтобы прокормить «армию новых граждан», необходимы были новые территории, получить которые фюрер рассчитывал за счет России. Союзником в этом могла стать Англия. Свои агрессивные дальнейшие планы Гитлер разделил на три этапа: на первом — Германия заключает союзные соглашения с Великобританией и Италией; на втором — планируется война против Франции; на третьем — Германия ведет войну против России. Последний этап давал жизненное пространство немецкой нации на многие поколения вперед и стал бы твердым основанием для претензии Германии на мировое господство.
После выхода Германии из Лиги Наций Гитлер совершил поездку в Италию. Было ясно, что он ищет союзника, и его поиски увенчались успехом. Второй важный шаг Гитлера (попытка наладить отношения с Британией) был сделан 18 июня 1935 года — подписано англо-германское соглашение. Оно позволяло немцам построить подводный флот. Основным противником такой политики в Англии был Черчилль. Он считал, что немцы представляют собой «наиболее умелую, гибкую, жестокую и воинственную расу в мире», а Гитлером владеет «страсть насилия, и он окружен такими же, как и он, безжалостными людьми». Но к его мнению в Британии не прислушивались, считали его реакционером, потерявшим связь с реальностью. В результате все предупреждения Черчилля о германской угрозе не находили отклика.
Первым актом агрессии со стороны фашистской Германии, который встревожил мировое сообщество, было вторжение в демилитаризованную Рейнскую область. В действительности Германия блефовала — у нее не было достаточно сил, чтобы удержать эту область. Но европейские страны не отреагировали должным образом на первый шаг, предпринятый Гитлером, и ему стало ясно, что Париж и Лондон не готовы к серьезному сопротивлению.
Вторым шагом фюрера было присоединение Австрии к Третьему рейху (так называемый «аншлюс»). Движение за объединение Австрии и Германии возникло сразу после окончания Первой мировой войны, однако страны-победительницы высказались против «аншлюса», и соответствующие статьи были включены в Версальский мирный договор.
В 20 — 30-е годы стремление к «аншлюсу» приобрело много сторонников как в Германии, так и в Австрии. Наиболее активно за него выступала НСДАП и ее австрийское отделение. 11 июня 1936 года было заключено австро-германское соглашение, по которому Австрия объявлялась вторым германским государством и брала на себя обязательство действовать в русле германской политики. Германия, в свою очередь, подтверждала суверенитет и независимость Австрии.