Перед рассветом тяжелая артиллерия Франсуа открыла огонь, застав русских врасплох. Обстрел продолжался полчаса. В 4 часа утра германская пехота двинулась вперед, плохо различимая в предрассветных сумерках, пока не подошла к русским позициям на расстояние винтовочного выстрела. С наступлением утра бой разгорался по всему фронту как огонь, постепенно охватывавший хворост. Русские батареи открыли огонь по приближавшимся серым цепям, и неожиданно белая дорога, лежавшая на их пути, стала серой от покрывших ее трупов. Поднялась вторая серая волна, приблизилась. Русские уже могли различить остроконечные каски. Снова ударили русские батареи, снова волна легла и снова поднялась следующая. Русские орудия, боезапас которых исчислялся по 224 выстрела на день, вели огонь, требовавший 440 снарядов в день. В небе появился самолет с черными крестами и сбросил бомбы на русские батареи. Серые волны продолжали наступать. Они уже были на расстоянии 500 ярдов, когда русские пушки вдруг замолчали. Кончились снаряды. Две дивизии Франсуа отрезали 28-ю дивизию русских, которая понесла 60 процентов потерь, что фактически означало полное уничтожение. Кавалерия Франсуа с тремя батареями конной артиллерии, далеко обойдя открытый фланг русских и не встречая сопротивления кавалерии противника, не имевшей артиллерии, атаковала русский обоз. Таковы были успехи корпуса, действовавшего против правого фланга Ренненкампфа, но в центре и на левом фланге положение было совсем иным.
Здесь русские, предупрежденные на рассвете грохотом артиллерийской подготовки корпуса Франсуа, были готовы к сражению, которое развернулось на фронте длиной в 35 миль. В центре германский XVII корпус вышел на рубеж наступления только к 8 часам утра, отстав от Франсуа на четыре часа, а на правом германском фланге I резервный корпус появился только в полдень. XVII корпусом командовал генерал Август фон Макензен, еще один из тех генералов, кто участвовал в войне 1870 года и кто теперь был в возрасте шестидесяти пяти лет и старше. I резервным корпусом командовал генерал Отто фон Белов. Вечером 19-го числа, когда был получен неожиданный приказ присоединиться к Франсуа и начать наступление за Гумбинненом на следующее утро, оба корпуса находились за Ангераппом. Поспешно собрав свои части, Макензен за ночь успел переправиться через реку и угодил на другом берегу в самую гущу заполонивших дороги беженцев, телег и скота. Когда же войска наконец построились в боевые порядки и подошли достаточно близко, чтобы начать бой, преимущества внезапности удара были утеряны, и русские открыли огонь первыми. Результат обстрела из тяжелых орудий бывает в высшей степени ужасающим для того, кто угодил под их снаряды, а в данном случае, хотя и редком в 1914 году, под таким огнем оказались германские войска. Пехота была прижата к земле и лежала, не смея даже головы приподнять, рвались патронные и зарядные ящики, галопом носились обезумевшие, потерявшие седоков лошади. Во второй половине дня 35-я дивизия Макензена дрогнула под огнем. Одна рота побросала оружие и побежала, за ней — вторая, паника охватила целый полк, потом она перекинулась на соседние части. Вскоре по полям и дорогам в тыл бежали батальоны. Офицеры дивизии, штаба и сам Макензен кинулись к ним наперерез, носились в автомобилях вдоль фронта, пытаясь остановить бегущих. Но напрасно. Те остановились только через 15 миль.
Находившийся справа от Макензена I резервный корпус фон Белова не мог помочь соседу, потому что выступил еще позднее, а когда достиг назначенного рубежа у Гольдапа на краю Роминтенского леса, он сразу же подвергся мощной атаке русских. Бегство корпуса Макензена в центре открыло левый фланг Белова, что заставило отойти и его, как для того, чтобы прикрыть отступление Макензена, так и для того, чтобы защитить свои войска. Находившаяся справа от фон Белова, 3-я резервная дивизия под командованием генерала фон Моргена выступила с рубежа реки Ангерапп последней и прибыла только к вечеру, когда все уже было кончено. И хотя немцы отступили в порядке, а русские понесли тяжелые потери от корпуса Франсуа, сражение под Гумбинненом в целом было победой русских.
Притвиц видел, что ему грозило. Настойчивое русское преследование через взломанный германский центр могло продолжаться до самого Инстербургского промежутка, раскалывая 8-ю армию и отбрасывая корпус Франсуа на север, под прикрытие кенигсбергского укрепленного района, против чего особенно настойчиво предостерегал генеральный штаб. Чтобы спасти 8-ю армию и не дать ее разделить, Притвиц в качестве единственного выхода решил отступить за Вислу. Мольтке сказал ему напоследок такие слова: «Не позволяйте расколоть армию. Не уходите с Вислы, но в самом крайнем случае можете оставить район к востоку от нее». Притвиц решил, что тот самый крайний случай наступил, особенно после разговора по телефону с Макензеном, который живо описал панику, охватившую его войска.
В шесть часов вечера 20 августа Притвиц позвонил Франсуа и сообщил ему, что, несмотря на успех на его участке, армия должна отступить к Висле. Словно громом пораженный, Франсуа принялся протестовать, утверждая, что из-за своих собственных потерь русские не в состоянии осуществлять энергичное преследование, прося Притвица передумать. Он повесил трубку с чувством, что командующий колеблется и согласился все же обдумать свое решение.
В штабе, когда постепенно улеглась суматоха и наконец разобрались с противоречащими одно другому донесениями, стало ясно удивительное: русские не преследовали. В русском штабе Ренненкампф отдал приказ начать преследование между 3 и 4 часами дня, но, получив доклад о том, что отход Макензена прикрывает тяжелая артиллерия, отменил приказ в 4:30. Он не знал точно, насколько сильно был ослаблен германский центр, и поэтому ждал. Когда совершенно измученный штабной офицер попросил разрешения пойти спать, он ответил, что тот может лечь не раздеваясь. Через час Ренненкампф разбудил его и с улыбкой сказал: «Теперь можете раздеться, немцы отступают».
Эти слова долго и много обсуждались военными историками, которые обыкновенно слетаются на поле сражения после того, как оно закончится. Причем особенно усердствовал Гофман, описывающий этот случай со злорадной усмешкой и в весьма искаженном виде. Историки достаточно справедливо указывают, что отступающего противника нужно преследовать, а не отправляться спать. Из-за памятного исхода сражения под Танненбергом, преддверием которого был Гумбиннен, остановка Ренненкампфа породила бурю жарких споров, объяснений и осуждений, не исключая и ссылок на его немецкое происхождение и прямых обвинений в предательстве. Наиболее возможное объяснение было сделано на сто лет раньше Клаузевицем. Он так писал о проблеме преследования: «…В этот момент на волю полководца тяжелым грузом ложится физическая природа человека с ее потребностями и слабостями. Все эти тысячи людей, находящихся под его начальством, нуждаются в покое и в подкреплении своих сил… Лишь немногие, на которых можно смотреть как на исключение, чувствуют и видят за пределами настоящего мгновения; лишь у этих немногих сохраняется такой простор их мужеству, что, когда самое необходимое уже выполнено, они еще в состоянии подумать о тех достижениях, которые в такие мгновения представляются лишь украшением победы, роскошью триумфа».
Предвидел или нет Ренненкампф конечный результат, факт заключается в том, что он не мог или считал, что не мог, броситься за бегущим врагом и вырвать окончательную победу. Его тыловые коммуникации работали плохо; наступать дальше значило окончательно оторваться от тыла. Преследуя, он бы удлинял пути подвоза по вражеской территории, в то время как противник, отступая, сокращал свои. Ренненкампф не мог использовать германские железные дороги, не захватив немецкого подвижного состава, и у него не было железнодорожных бригад для переделки колеи. После нападения германской кавалерии его обоз был в хаотичном состоянии; его собственная кавалерия правого фланга действовала плохо; он потерял почти дивизию. Поэтому он решил оставаться на месте.