В феврале 1918 года после срыва мирных переговоров и окончания перемирия немецкие войска начали наступление на восток. Оно было приостановлено после подписания Брест-Литовского мирного договора между РСФСР и Германией. Однако на Украине немецкие войска по соглашению с так называемой Центральной Радой продолжали продвигаться и заняли Киев. Советские отряды с боями отходили под давлением немецких дивизий. В городах Донбасса создавались рабочие отряды, оборудовались бронепоезда. В Луганске под руководством Ворошилова был сформирован 1-й Луганский социалистический партизанский отряд, который принял участие в боях под Харьковом. В промышленных районах Украины была образована Донецко-Криворожская республика. В ходе боев отдельные отряды объединялись в наспех сколоченные армии. Одной из наиболее крупных стала 5-я Украинская армия, командовать которой было поручено Ворошилову.
Немцы не признали Донецкой республики. Плохо вооруженные советские войска терпели поражения и отступали. Ворошилов приказал своей армии оставить Луганск и отходить в пределы РСФСР. Однако в Донской области, через которую должна была пройти армия Ворошилова, Советская власть была свергнута. Казачье правительство генерала Краснова вступило в сговор с германским командованием. Это ставило бойцов Красной армии в очень трудное положение. Уже в первом бою у станции Лихая они потерпели поражение и отступили к Белой Калитве. Было решено, однако, не бросать эшелонов, не оставлять беженцев, а продолжать движение вдоль линии железной дороги на Царицын. Позднее Ворошилов вспоминал:
«Десятки тысяч деморализованных, изнуренных, оборванных людей и тысячи вагонов со скарбом рабочих и их семьями нужно было провести через бушевавший казачий Дон. Целых три месяца, окруженные со всех сторон генералами Мамонтовым, Фицхелауровым, Денисовым и др., пробивались мои отряды, восстанавливая ж.-д. полотно, на десятки верст снесенное и сожженное, строя заново мосты и возводя насыпи и плотины. Через три месяца «группа войск Ворошилова» пробилась к Царицыну…» (Энциклопедический словарь Гранат. 7-е изд. Т. 41. Ч. 1. Приложение. Стлб. 96.)
Участие в обороне Царицына составляет, несомненно, основной эпизод в военной биографии Ворошилова. Он привел в Царицын несколько тысяч бойцов, из которых сформировали одну из дивизий фронта. Кроме того, было образовано еще несколько дивизий и отдельных бригад. Все они приказом РВС были объединены в 10-ю армию, во главе которой был поставлен К. Е. Ворошилов. Политкомиссаром армии стал Е. А. Щаденко. В состав армии вошла и кавалерийская дивизия Б. М. Думенко, одной из бригад этой дивизии командовал С. М. Буденный. Общее руководство обороной Царицына взял на себя Сталин, который находился там еще с начала июня 1918 года в качестве руководителя продовольственного дела на юге России, облеченного чрезвычайными правами. В течение многих месяцев под Царицыном шли с переменным успехом тяжелые бои главным образом с казачьими полками генерала Краснова. Ворошилов показал себя храбрым командиром. Но скорее это можно было отнести на счет его личной храбрости, а не военного таланта. Казачий журнал «Донская волна» в феврале 1919 года писал: «Нужно отдать справедливость Ворошилову, что если он не стратег в общепринятом смысле этого слова, то во всяком случае ему нельзя отказать в способности к упорному сопротивлению».
В те годы такая резкая критика Ворошилова не была единичным фактом. Еще раньше А. Е. Снесарев, военрук Северо-Кавказского военного округа и командующий отрядами, оборонявшими Царицын, в своей докладной записке на имя Председателя Высшего Военного Совета писал:
«…т. Ворошилов как войсковой начальник не обладает нужными качествами. Он недостаточно проникнут долгом службы и не придерживается элементарных правил командования войсками» (Цит. по: Парийский В., Жаворонков Г. В немилость впавший… // Советская культура. 1989. 23 февр.).
Гораздо более категоричным было мнение членов революционного трибунала, разбиравшего обстоятельства сдачи Харькова деникинским войскам летом 1919 года. Город защищали части 14-й армии, которой командовал Ворошилов. Члены трибунала пришли к выводу, что военные познания командарма не позволяют доверить ему даже батальон. Выявившаяся некомпетентность Ворошилова оказалась столь велика, что стала смягчающим вину обстоятельством, и трибунал ограничился только снятием его с должности.
Белым дивизиям не удалось в 1918 году захватить Царицын, и это значительно облегчило общее военное положение Советской республики. Красная армия еще только создавалась, и у Ворошилова нередко возникали острые конфликты с Председателем РВС Республики Л. Д. Троцким. Действия 10-й армии несли на себе еще сильный отпечаток партизанщины. К тому же Ворошилов долгое время отказывался использовать военных специалистов из числа офицеров старой армии. Конечно, за спиной Ворошилова стоял в данном случае Сталин, которому он уже тогда подчинялся почти беспрекословно. Когда Сталин покинул Царицын, Ворошилов был отстранен Троцким от командования 10-й армией. Украина в это время уже освобождалась от немецкой оккупации, и Ворошилова назначили наркомом внутренних дел Украинской советской республики. На VIII съезде РКП(б) Ворошилов был одним из лидеров так называемой «военной оппозиции», осужденной большинством съезда. Выступая на съезде, Ленин говорил:
«…Старая партизанщина живет в нас, и это звучит во всех речах Ворошилова и Голощекина. Когда Ворошилов говорил о громадных заслугах царицынской армии при обороне Царицына, конечно, тов. Ворошилов абсолютно прав, такой героизм трудно найти в истории… Но сам же сейчас рассказывая, Ворошилов приводил такие факты, которые указывают, что были страшные следы партизанщины. Это бесспорный факт. Тов. Ворошилов говорит: у нас не было никаких военных специалистов, и у нас 60 000 потерь. Это ужасно… Героизм царицынской армии войдет в массы, но говорить, мы обходились без военных специалистов, разве это есть защита партийной линии… Виноват тов. Ворошилов в том, что он эту старую партизанщину не хочет бросить.
…Может быть, нам не пришлось бы отдавать эти 60 000, если бы там были специалисты, если бы была регулярная армия…» (Ленинский сб. Т. 37. С. 138, 139.)
Гражданская война на Украине отличалась особой ожесточенностью и сложностью, и Ворошилову не довелось спокойно работать в Советском правительстве Украины. Он участвовал в боях с отрядами мятежного атамана Григорьева, Махно, затем во главе 14-й армии оборонял Екатеринослав, командовал внутренним Украинским фронтом. Под напором войск генерала Деникина Красной армии пришлось оставить большую часть Украины. После образования Первой Конной Ворошилов назначается членом РВС этой армии. Буденный, Ворошилов и Щаденко стояли во главе Первой Конной осенью 1919 года, когда она вела ожесточенные бои с кавалерийскими дивизиями белых в Центральной России, а затем преследовала отступающего Деникина. Большую роль сыграла Первая Конная в боях на Северном Кавказе. Бои в Таврии и в Крыму против войск генерала Врангеля, а затем против отрядов Махно и Петлюры завершили боевой путь Первой Конной. От партийной организации этой армии Ворошилова направили на X съезд партии. Он был избран в президиум съезда и председательствовал на некоторых его заседаниях. Вместе с группой делегатов съезда участвовал в подавлении Кронштадтского мятежа весной 1921 года. За эту военную операцию Ворошилова награждают вторым орденом Красного Знамени. С двумя орденами на груди он появился на очередном заседании съезда партии, за что и удостоился саркастического замечания Ленина. Для членов партии считалось тогда дурным тоном демонстрировать на деловых собраниях или даже на съездах свои награды. На следующее заседание Ворошилов пришел уже в вышитой украинской рубахе и без орденов. На X съезде партии Ворошилов был избран членом ЦК РКП(б). В состав ЦК в 1921 году входило всего 25 членов и 15 кандидатов.