Разделяя взгляды на отношение к женщинам, характерные для многих мужчин Германии того времени, Гиммлер пишет в дневнике: «Настоящий мужчина любит женщину трояко. Во-первых, как милого ребенка, которого следует воспитывать, даже наказывать, когда он капризничает, но также защищать и лелеять, потому что он слаб. Во-вторых, как жену и верную подругу, которая помогает ему в жизненной борьбе, находясь рядом с ним, но никогда не портит ему настроения. В-третьих, как женщину, чьи ноги он жаждет целовать и которая благодаря своей детской чистоте придает ему силу, позволяющую не дрогнуть в самой жестокой битве».
Во время учебы в университете Гиммлер стал изучать русский язык. Есть сведения о том, что он думал заняться сельским хозяйством в России или в Грузии. О том, что в этих краях происходили бурные события, не слишком благоприятствовавшие ведению сельского хозяйства приезжими из Германии, Гиммлер возможно не знал. Затем он поменял планы и захотел отправиться в Турцию, чтобы заняться там сельским хозяйством. И опять его выбор игнорировал те общественно-политические потрясения, которые переживала в это время эта страна. Судя по этому, в ту пору Гиммлер был крайне аполитичен и плохо информирован относительно положения в странах за пределами Германии.
Одновременно Гиммлер мечтал о возвращении в армию. В 1920 г. он записал в дневнике: «Думаю, что приближаются серьезные времена. Мне не терпится снова надеть форму». Однако он был полон сомнений относительно самого себя: «Я не вполне уверен, для чего работаю, во всяком случае – сейчас. Я работаю, потому что это мой долг, потому что нахожу в работе душевный покой… и преодолеваю свою нерешительность».
Юный Гиммлер не был лишен амбиций и не раз выдвигал свою кандидатуру на выборах, происходивших в студенческих организациях. Однако он всякий раз получал лишь незначительную поддержку. В дневнике он так объяснил свои неудачи на выборах: «Мне по-прежнему недостает того природного высокомерия в поведении, которое я бы хотел приобрести». Он критически оценивал различные стороны своего характера и поведения, осуждая себя за «излишнюю болтливость», «чрезмерное мягкосердечие», «недостаток самоконтроля», отсутствие «аристократической уверенности в манерах».
В то же время он был доволен тем, что его «считают веселым, забавным парнем, который обо всех заботится». Зная его стремление помогать людям, навещать больных, утешать стариков и бывать дома со своей семьей, о нем говорили: «Хайни (так его называли в семье) за всем проследит».
Хотя еще в начале учебы в университете у Гиммлера появились сомнения в вере в Бога, он регулярно ходил в церковь. В декабре 1919 г. он писал в дневнике: «Думаю, я вхожу в конфликт с моей верой, но что бы ни случилось, я всегда буду любить Бога и молиться Ему, оставаясь преданным католической церкви и защищая ее, даже если буду от нее отторгнут». В феврале 1924 г. он упомянул в дневнике о своих сомнениях в главных церковных постулатах и все же продолжал регулярно ходить в церковь.
В последний год пребывания в университете 18 января 1922 г. Гиммлер вместе с другими студентами-националистами присутствовал на церемонии, посвященной годовщине основания Германской империи. Через 8 дней он посетил собрание стрелкового клуба в Мюнхене, где познакомился с капитаном Эрнстом Ремом. Гиммлер записал в дневнике, что Рем «держался весьма дружелюбно» и относился «к большевизму крайне отрицательно». Встреча с Ремом сыграла решающую роль в оформлении политических взглядов Гиммлера.
Эрнст Юлиус Рем был старше Генриха Гиммлера на 13 лет. По окончанию в 1908 г. военного училища он получил офицерский чин. Во время Первой мировой войны он служил командиром роты 10-го королевского баварского полка и был награжден Железным крестом 1-го класса. После трех тяжелых ранений он был назначен на должность штабного офицера 12-го баварского пехотного полка. Поражение Германии в Первой мировой войне стало шоком для Рема. Как и многие другие офицеры, он объяснял случившееся «предательством» и вступил в националистическую вооруженную организацию «Добровольческий корпус». Виктор Кузнецов в своей книге «Ночь длинных ножей» так описал Рема: «Невысокого роста, склонный к полноте, с изувеченным пулей красноватым лицом, он питал слабость к молодым мужчинам. Людей делил на военных и гражданских, друзей и врагов».
5 августа 1922 г. Гиммлер окончил Мюнхенский университет и получил диплом агронома. Вскоре он стал лаборантом в фирме по производству удобрений, находившейся в городе Шляйсхайм вблизи Мюнхена. В ходе своих посещений Мюнхена Гиммлер участвовал в мероприятиях союза «Имперское военное знамя» во главе с Ремом, в который он вступил вместе со своим старшим братом Гебхардтом. В августе 1923 г. Гиммлер вступил в нацистскую партию.
Во время мюнхенского «Пивного путча» Гиммлер был знаменосцем отряда Рема, который не принял участия в шествии трех тысяч нацистов к центру города, а двинулся к зданию баварского военного министерства. Отряду удалось завладеть зданием. Сохранилась фотография, на которой у баррикады из колючей проволоки и бревен можно увидеть Гиммлера рядом с Ремом. Гиммлер держал в руках традиционное имперское знамя.
После разгрома путча Рем, как Гитлер, Гесс и ряд других нацистов, был арестован. Гиммлер был оставлен на свободе, но за двухдневный прогул без уважительных причин, он был уволен с работы. К огорчению своего отца, Гиммлер не стал искать работу, а занялся политической деятельностью, выступая в поддержку кандидатов националистического движения в ходе выборов в мае 1924 г. в рейхстаг. Благодаря усилиям таких как Гиммлер, Рем, который вскоре был освобожден из тюрьмы, а также еще 31 нацист были избраны в германский парламент.
2 августа 1925 г. Гиммлер вновь вступил в уже легализованную нацистскую партию. В это же время он стал секретарем на фармацевтическом предприятии, принадлежавшем братьям Штрассерам, Грегору и Отто. К этому времени Грегор Штрассер стал одним из главных лидеров нацистской партии. Вышедший из тюрьмы Гитлер вынужден был пойти на компромисс с этим конкурентом в борьбе за лидерство.
В 1925 г. Гиммлер встретился с Геббельсом, который также сотрудничал с братьями Штрассерами, но жил в Берлине. Вскоре Гиммлер получил пост помощника Штрассера по организации партийной работы в Нижней Баварии. Однако эта работа потребовала его одновременного подчинения к сопернику Штрассера – Гитлеру.
В 1925 г. Гиммлер стал заместителем командира вооруженной группы из 200 человек, получившей название «Охранный отряд» (Schutzstaffel), или СС. Он отвечал за сбор пожертвований и распространение плакатов с рекламой газеты «Фёлькишер беобахтер». А на следующий год Гиммлер стал заместителем начальника департамента пропаганды.
Во время своих поездок в Берлин в 1927 г. Гиммлер познакомился с Маргарет Концежовой, полькой по происхождению, владелицей небольшой лечебницы, в которой предпочтение отдавалось гомеопатии и траволечению. Очевидцы говорили о большом сходстве в их характерах, позволявшем преодолевать разницу в возрасте: Маргарет была на семь лет старше Генриха. Они поженились в начале июля 1928 г. На следующий год у Гиммлеров родилась их единственная дочь – Гудрун.