Таков был, конечно, первоначальный замысел, но он основывался на том, что Ренненкампф удержит немцев на севере. Фактически же в тот день Ренненкампф потерял соприкосновение с противником. 23 августа он снова начал наступать, но в неправильном направлении. Вместо того чтобы двинуться в сторону, на юг, чтобы соединиться с Самсоновым у озер, он пошел прямо на запад, намереваясь отрезать Кенигсберг, опасаясь, что Франсуа атакует его фланг, если он направится на юг. Хотя этот маневр не имел ничего общего с первоначальным планом, Жилинский не поправил его. Находясь, как и Ренненкампф, в полном неведении в отношении передвижений немецких войск, он полагал, что они поступают так, как планировали русские, то есть отступают к Висле. И поэтому Жилинский по-прежнему торопил Самсонова.
Вечером 23 августа корпус генерала Мартоса, ободренный отступлением врага, выдвинулся из Нейденбурга и вышел на позиции, отстоявшие от немецких на 700 ярдов. Корпус Шольца окопался между деревнями Орлау и Франкенау. Русские получили приказ во что бы то ни стало взять траншеи. Всю ночь они пролежали на исходных позициях, а к рассвету проползли еще на сотню ярдов вперед. После сигнала к атаке они в три броска преодолели оставшиеся 600 ярдов, залегая под огнем немецких пулеметов, а потом вскакивая и вновь устремляясь вперед. Когда волна одетых в белые гимнастерки фигур с примкнутыми штыками достигла окопов, немцы вылезли из траншей, бросив свои пулеметы, и бежали. По всему фронту подавляющее превосходство немцев в артиллерии губительно отражалось на наступающих. Русский XIII корпус, действовавший справа от Мартоса, то ли из-за плохой связи, то ли из-за неумелого управления войсками, то ли в силу обеих этих причин, не сумел оказать соседнему корпусу необходимую поддержку, поэтому бой не дал русским значительного преимущества. К концу дня немцы отступали, но не бежали. Русские захватили два полевых орудия и пленных, но их собственные потери были велики, составив в общем 4000 человек. Один полк потерял 9 из 16 ротных командиров. Одна рота из 190 человек потеряла 120, в том числе всех офицеров.
Несмотря на то, что германские потери были меньшими, Шольц отошел перед превосходящими силами еще примерно на 10 миль, остановившись на ночь со штабом в деревне Танненберг. Самсонов, все так же подгоняемый Жилинским, который требовал выхода на установленный рубеж, где он смог бы отрезать «отступающего» врага, отдал приказы всем своим корпусам — слева XXIII корпусу, в центре XV и XIII корпусам и слева VI корпусу, — указав исходные рубежи и маршруты на следующий день. За Нейденбургом со связью стало еще хуже. У одного корпуса закончились запасы проводов, и приказы и донесения передавались верховыми ординарцами. У VI корпуса не оказалось ключа к шифру, которым пользовались в XIII корпусе. В конце концов приказы Самсонова стали передавать открытым текстом по радио.
До этого момента — спустя примерно двадцать четыре часа после прибытия Людендорфа и Гинденбурга — командование 8-й армии еще не решило, посылать ли корпуса Макензена и фон Белова против правого крыла Самсонова. Гинденбург и офицеры штаба прибыли в Танненберг на совещание с Шольцем, который был «мрачен, но уверен». Затем они вернулись в штаб армии. Тот вечер, писал позднее Гофман, «был самым трудным из всего сражения». Пока штаб обсуждал обстановку на фронте, офицер-связист принес перехваченные приказы Самсонова на следующий день, 25 августа. Хотя такая подсказка от противника и не раскрывала намерений Ренненкампфа, которые и составляли основной вопрос, из перехваченных сообщений немцы узнали, где можно ожидать русские войска. Чем они и воспользовались. 8-я армия приняла решение бросить все свои силы против Самсонова. Макензену и фон Белову были отданы приказы повернуться к Ренненкампфу спиной и начать марш на юг немедленно.
Обеспокоенный мыслью о том, что в тылу у него находится Ренненкампф, Людендорф спешил завязать сражение с Самсоновым. Согласно его приказам первая стадия боя должна была начаться 25 августа атакой I корпуса генерала фон Франсуа на Уздау с целью охвата левого фланга Самсонова. Франсуа атаковать отказался. Его тяжелая артиллерия и некоторые пехотные части, проделав долгий кружной путь от Гумбиннена, до сих пор еще выгружались и не успели подойти. Атаковать без поддержки всей своей артиллерии и без полного запаса снарядов, как утверждал Франсуа, означало риск неудачи. Если путь отступления для Самсонова останется открытым, он может избежать планируемого для него уничтожения. Франсуа неофициально поддерживали Гофман и генерал Шольц, который, хотя и вел бой с русскими накануне, заверил Франсуа по телефону, что XX корпус удержит позиции без немедленной поддержки.
Столкнувшись с неподчинением уже на второй день своего командования, взбешенный Людендорф приехал в штаб Франсуа с Гинденбургом и Гофманом. В ответ на настойчивые требования Людендорфа Франсуа заявил: «Если будет отдан приказ, я, конечно, атакую, но солдатам придется сражаться штыками». Чтобы поддержать свой авторитет, Людендорф отмел доводы Франсуа и повторил свой приказ. Во время этого разговора Гинденбург хранил молчание и затем послушно уехал с Людендорфом. Гофман, ехавший в другой машине, остановился на железнодорожной станции Монтово, ближайшем пункте, имевшем телеграфную и телефонную связь со штабом. Здесь офицер-связист передал ему две перехваченные русские радиограммы, обе посланные открытым текстом, одну от Ренненкампфа в 5:30 утра, а вторую от Самсонова в 6 часов утра. Приказ Ренненкампфа на марш, определявший его дальность, показывал, что рубеж 1-й армии на будущий день окажется достаточно далек от немецких войск и она не сможет угрожать германской армии с тыла. Из приказа Самсонова, являвшегося результатом боя с Шольцем накануне, было ясно, что он неправильно истолковал отход последнего, приняв его за полное отступление, и теперь русский генерал указывал своим войскам точные направления и сроки преследования, как он думал, пораженного врага.
Никогда еще, если не считать случая, когда грек-предатель провел персидские войска в обход Фермопильского ущелья, полководцу в руки не сваливалась такая удача. Излишняя подробность телеграммы заставила генерал-майора Грюнерта, непосредственного начальника Гофмана, отнестись в ней с крайней подозрительностью. Как сообщает Гофман, «он в который раз озабоченно спрашивал меня, следует ли нам верить ей? А почему бы нет?.. Лично я, в принципе, верил каждому ее слову». Гофман утверждал, что знал о личной неприязни между Ренненкампфом и Самсоновым, истоки которой уходили еще в годы русско-японской войны, когда он был германским наблюдателем. Гофман утверждал, что сибирские казаки Самсонова, продемонстрировав храбрость в бою, вынуждены были сдать Ентайские угольные шахты из-за того, что кавалерийская дивизия Ренненкампфа не поддержала их и оставалась на месте, несмотря на неоднократные приказы, и что в пылу ссоры, разгоревшейся из-за этого на вокзале в Мукдене, Самсонов ударил Ренненкампфа. Вполне очевидно, с торжеством заключал Гофман, Ренненкампф не станет слишком торопиться на помощь Самсонову. Поскольку речь идет скорее не о помощи Самсонову, а о выигрыше — или проигрыше — кампании, весьма сомнительно, чтобы Гофман верил своей сказке, или же он только притворялся, что верит. Впрочем, рассказывал он эту историю всегда с удовольствием.