Осенью 1924 года Советское правительство разрешило Григоровичу, уже тяжело больному, выехать за границу для лечения. Он уехал на Французскую Ривьеру и в Россию больше не вернулся.
Остаток своей жизни И. К. Григорович прожил очень скромно во Франции, в курортном местечке Ментон близ Ниццы. Он был полным кавалером орденов Французского легиона, но отказался от положенной ему в этой стране пенсии «по принципиальным соображениям». По этой же причине он отказался и от положенной ему англичанами пенcии «в вознаграждение заслуг Русского флота перед Британским в эпоху Великой войны» Участия в общественной жизни эмиграции Иван Константинович тоже не принимал. Он жил тем, что продавал свои картины, морские пейзажи, которые писал здесь, на набережной Ментона.
Адмирал и последний морской министр Российской империи умер практически в нищете 3 марта 1930 года в Ментоне. Перед смертью он завещал, чтобы его прах был предан родной земле и захоронен в Петербурге, в фамильном склепе рядом с могилой жены. На его могиле в Ментоне была выбита надпись по-английски: «Всегда любимая, всегда дорогая, о Россия, иногда вспоминай о нем, кто так много думал о тебе…»
После завершения войны с Японией и революционных событий 1905–1907 годов в структуре армии царила полнейшая неразбериха. Под одним и тем же названием скрывались совершенно неоднородные подразделения, части и соединения. Пехотные роты по своему составу делились на одиннадцать видов и имели от 100 до 300 солдат. Число рот в пехотных батальонах было не одинаковым. Полки были следующих типов: пехотные, стрелковые, гвардейские, резервные, крепостные, отдельные, причем в одних полках было по два батальона, в других – по четыре. В округах размеры однотипных частей также разнились. Так, четырехбатальонные полки на Дальнем Востоке были сильнее таких же полков в Европейской России. Двухбатальонные полки в Финляндии качественно отличались от двухбатальонных полков в Закавказье и т. д.
Совет Государственной обороны практически ничего не делал конкретного для изменения положения дел и в конце 1908 года был распущен, а начальник Главного управления Генерального штаба генерал Палицын заменен генералом В. А. Сухомлиновым, командовавшим до того войсками Киевского округа. Выяснилось, что за три с половиной года самостоятельного существования Главного управления Генерального штаба не было составлено даже плана работ. Сдача дел выразилась в том, что генерал Палицын передал генералу Сухомлинову ключ от пустого ящика своего стола. «Когда же я попросил программу по обороне, – вспоминал Сухомлинов, – он трагически указал пальцем на свой лоб».
Военным министром был назначен генерал Редигер, который вместо того, чтобы заняться армией, начал откровенно заигрывать с различными политиками. Это сослужило ему плохую службу и вскоре он был вынужден подать в отставку.
11 марта 1909 года новым военным министром был назначен В. А. Сухомлинов. Историк Кирсновский пишет: «Человек, не лишенный способностей, генерал Сухомлинов отличался властолюбием и вместе с тем поразительным легкомыслием. Своей бодростью и неизменным оптимизмом он нравился Государю и импонировал ему. Сухомлинов всегда был в натянутых отношениях с великим князем Николаем Николаевичем. С крушением Совета Государственной обороны и выдвижением Сухомлинова вражда между этими двумя одинаково властолюбивыми и одинаково завистливыми людьми перешла в открытую ненависть. На фоне этой ненависти и борьбы двух течений – поверхностно-новаторского великокняжеского и ретроградно-бюрократического сухомлиновского – и прошли для русской армии последние пять лет перед Мировой войной».
Уже 3 августа 1909 года состоялось первое заседание Особого совещания. Оно заседало пять месяцев. Результаты его работы были доложены правительству 25 февраля 1910 года. В течение ближайших 10 лет новые ассигнования на армию и флот предполагалось делить почти поровну: 715 млн рублей на армию (из них почти половину – 373 млн. – на крепости, 114 млн на строительство стратегических шоссе и только 81 млн рублей на тяжелую артиллерию) и 698 млн. рублей на флот (из них 614 млн. на Балтийский, в том числе 478,8 млн рублей на новое судостроение).
С 1 июля 1910 года русская армия переходила на новую организацию. В результате осуществления этих мер русская армия приобрела значительно более стройную организацию. Несколько улучшалась организация артиллерии.
Нельзя сказать, что это было исключительно заслугой Сухомлинова, его активно поддерживали и другие генералы. Так, в мае 1910 года с протестом против увлечения маринизмом выступил генерал Куропаткин. В сентябре он написал и разослал членам правительства подробную «Записку по вопросу об ассигновании Военному и Морскому министерствам кредитов на неотложные нужды». В ней он утверждал, что если «будут отпускаться на флот суммы, не соответствующие важности для обороны государства морской силы, то эти отпуски неизбежно отразятся на ослаблении сухопутной армии, составляющей главную силу России». В то же время Куропаткин критиковал и Военное министерство за увлечение развитием крепостей и стратегических шоссе. Основная часть средств, отпущенных на армию, должна была, по его мнению, использоваться на развитие артиллерии, авиации, организацию автомобильного дела и увеличение оснащенности армии инженерным имуществом.
В период 1909–1910 годов Сухомлиновым был произведен ряд важных реформ. Но, прежде всего, он добился того, что Главное управление Генерального штаба было подчинено военному министру.
Основными направлениями сухомлиновских преобразований было упрощение организации, усиление материальной части, проведение территориальной системы, сосредоточение внимания исключительно на полевых войсках в предвидении скоротечного характера будущей войны.
Были внесены существенные изменения в стратегический план войны на Западе. Так, основной ареной для стратегического развертывания войск на случай войны были определены не передовой Варшавский военный округ, а другие округа, находившиеся несколько глубже. По плану Сухомлинова, в так называемом «19-м расписании» 1910 года, Варшавский военный округ, как неудобный для развертывания, отдавался врагу без боя. Благодаря этому становилась ненужной система дорогостоящих и неэффективных приграничных крепостей. Правда, на практике этот проект вызывал сильное противодействие со стороны ряда старых генералов и в последующие годы привел к компромиссу: одни крепости упразднялись, другие оставлялись. Имевшиеся 9 крепостных пехотных полков были сведены в 7 полевых пехотных дивизий. Таким образом, вся пехота была сведена к основным типам 16-батальонной пехотной дивизии и 8-батальонной стрелковой бригады. Учреждены были новые армейские корпуса.
К 1914 году пехота состояла из 70 дивизий и 22 отдельных бригад. Из дивизий 3 были гвардейскими, 52 пехотными, остальные – Кавказскими гренадерскими и Сибирскими стрелковыми. Из бригад: Гвардейская стрелковая, 5 армейских, 4 Финляндские, 2 Кавказские, 6 Туркменских, 1 пластунская и 3 Заамурской пограничной стражи. Всего в этих формированиях насчитывалось 357 полков и 1294 батальона. Пропорция пулеметов у нас была та же, что и в европейских армиях: 2 на один батальон, а в стрелковых полках двойная – 4 на один батальон.