Выпуск Баранова из корпуса пришёлся на 1858 год. Это было не лучшее время для молодых мичманов. Парусный флот к этому времени уже почти не существовал, а новый паровой ещё только зарождался. Плавать по этой причине было практически не на чём. Поначалу Баранову, правда, повезло, и он сходил в заграничное плавание на корвете «Выборг». Однако на этом морская романтика закончилась, и мичман Баранов был надолго оставлен на берегу во флотском экипаже. Кораблей в ту пору было совсем немного. Старые парусные на дрова списали, а новых паровых ещё не настроили. Должности корабельные по этой причине получали лишь по протекции, а таковой у Баранова, увы, не было. Дядька с отцом уже померли, а более за него замолвить словечко было некому. Правда, вскоре появилась отдушина — суда Русского общества пароходства и торговли (РОПиТ). Новые современные океанские суда и дальние плавания, что ещё надо тем, кто бредит морем! К тому же командному составу РОПиТа сохранялись военные чины. Особого выбора, впрочем, и не было: или прозябать в кронштадтских казармах, или плавать под коммерческим флагом.
Поэтому вскоре после выпуска в том же 1858 году Баранов увольняется из действующего флота для службы на коммерческих судах и поступает в Русское общество пароходства и торговли. Служит на Чёрном море. Плавает старшим офицером на пароходах «Херсонес» и «Таврида», затем в 1859 году три месяца командует пароходом «Веста», а затем полгода старшим офицером на пароходе «Аргонавт» — и снова капитаном, но уже парохода «Ифигения». На следующий год плавательный ценз Баранова составил три месяца старшим офицером пароходов «Таврида» и «Керчь». Остальную часть времени молодой офицер провёл при конторе РОПиТа, занимаясь вопросами организации судоходства. В конце того же года он вернулся на военную службу и был причислен к комиссии морских артиллерийских опытов. Но боевых кораблей в русском флоте по-прежнему было мало, и на корабельную должность молодой офицер без связей рассчитывать не мог. Энергичная натура Баранова же требовала реальных дел.
На следующий год Н.М. Баранов поступил кандидатом на должность мирового посредника Кологривовского уезда Костромской губернии. Там, будучи владельцем имения (отец к тому времени уже умер), принял активное участие в делах крестьянской реформы как мировой посредник в решении земельных и имущественных вопросов. Этот, казалось бы, незначительный эпизод впоследствии весьма пригодился нашему герою.
В 1862 году Баранов стал лейтенантом, а через год, с началом Польского восстания и вероятностью начала войны с Англией, был зачислен в строевой состав флота. Но и по возвращении на флот на корабли Баранов не попадает, а служит командиром береговой батареи № 7 в Кронштадте. Служба была скучная и не особо перспективная, а потому Николай Баранов, с детства любивший мастерить, чтобы не погрязнуть в рутине, занялся различными усовершенствованиями: то к прицелу крепление новое придумает, то к орудийному станку крепление удобное. О выдумках Баранова скоро прознало начальство. Приехало, посмотрело, подивилось:
— Никак, у нас новый Кулибин объявился!
— Пойдёшь начальником модельной мастерской? — предложили. — А то предшественник от потребления казённого спирту помер!
— Пойду! — без малейших раздумий согласился мичман. — Всё одно лучше что-то руками мастерить, чем у пушки сиднем сидеть и на Финский залив месяцами таращиться!
После поражения в Крымской войне русские армия и флот переживали сложную пору: отставание России от европейских стран в области вооружения было чудовищным. Не дожидаясь разрешения этой проблемы на государственном уровне, некоторые офицеры, обладающие боевым опытом и достаточным инженерным образованием, предлагали собственные решения по созданию новых или усовершенствованию старых образцов вооружения. В конце 60-х годов, когда в ходе «милютинской» военной реформы с ужасающей ясностью обозначилось отставание России от ведущих европейских держав в вооружении, нужны были срочные меры по развитию военной промышленности, но для этого надо было определённое время.
Что касается лейтенанта Баранова, то он, будучи человеком импульсивным и энергичным, страдал от рутины повседневной службы. Баранов ждать не желал. Его буквально обуревали идеи улучшения военно-морской службы, идеи совершенствования оружия. Как сказал один из его современников, Баранова «била лихорадка остающейся без приложения энергии». Поэтому, попав в модельную мастерскую, Баранов сразу засучил рукава. К начальству он явился с длинным списком требуемого оборудования.
— Нужны мне станки столярные, слесарные и токарные, и чтобы все последних конструкций английских, к ним бы хорошо ещё и пресс помощнее, да и измерительных приборов тоже надобно германских! Вот список! — огорошил он начальство.
— Это ж сколько денег на всё это надобно! — сокрушались начальники.
Кое-что Баранову удавалось выбить из них, кое-что закупал он за свои лейтенантские копейки. Перебивался с хлеба на воду, но мастерскую свою оборудовал как надо и мастеров подобрал — умелец к умельцу. Сам тоже за станки вставал и точил, и сверлил, и клепал, да так ловко, что видавшие виды мастеровые дивились:
— Ахвицер-то наш — светлая голова да золотые руки!
Вскоре беспокойный лейтенант настолько достал своих начальников, что те приложили все усилия, чтобы от него избавиться. Пожалуй, единственным, кто поддерживал инициативы Баранова, был командующий практической эскадрой адмирал Бутаков, но и он был не всесилен.
— Зная вашу любовь к техническим совершенствованиям, полагаем предложить вам место в Морском музее, где вы сможете лучше проявить весь свой талант! — объявили ему в Главном штабе на исходе 1866 года.
— Музей так музей! — пожал плечами Баранов. — Было бы где руки приложить!
Он согласился, и не только потому, что там чин был повыше, а потому, что при музее своя мастерская была и весьма неплохая. Почти десять лет Баранов занимался организацией Морского музея и привёл его в блестящее состояние.
Через год в Париже состоялась всемирная выставка. В российском зале свою экспозицию представлял и Морской музей. А Баранов был определён на выставку в качестве помощника военно-морского представителя адмирала Григория Бутакова. Баранов адмиралу понравился, и между ними завязалась если не дружба, то вполне добрые отношения. Пройдут годы, и Бутаков на деле докажет своё уважительное отношение к Баранову…
С этого времени Баранов организует ежегодные военно-морские экспозиции на различных российских и международных выставках. Там он не столько демонстрировал наши технические успехи, сколько перенимал чужие достижения, чтобы потом как можно быстрее внедрить их в нашем флоте. По существу Баранов занимался в ту пору военно-технической разведкой. И занимался вполне успешно.
Особенно раздражало Баранова положение дел со стрелковым оружием во флоте и в армии. Не одну ночь провёл он, разбирая и собирая винтовки и ружья разных систем, чертя чертежи и рвя их в клочья. Мечтой Баранова была переделка стоящих на вооружении армии безнадёжно устаревших дульно-зарядных винтовок в казнозарядные.
— Всем известно, что мы проиграли Крымскую войну только потому, что могли противопоставить английским штуцерам лишь кремнёвые гладкоствольные ружья! — говорил он в сердцах своим сотоварищам, собравшимся на совместный ужин. — И что же мы видим сейчас! Мы опять наступаем на те же грабли! Зачем нам теперь напрочь устаревшие пистонные штуцера, когда вся Европа переходит на многозарядные винтовки! Случись что, и нас ждёт поражение почище Крымского!