Осенью 1512 г. русские лазутчики донесли из Крыма, что поход крымских царевичей был следствием договора, заключенного между Менгли-Гиреем и Сигизмундом. Это известие в Москве сочли достаточной причиной для разрыва с Литвой, и Василий ІІІ послал Сигизмунду грамоту, упрекая его за оскорбление своей сестры Елены (вдовы Александра) и за старание поднять Менгли-Гирея против Москвы.
Василий ІІІ вступил в союз с германским императором Максимилианом. В феврале 1514 г. в Москву прибыл императорский посол Синцен Памер и заключил договор, предусматривавший изъятие у Сигизмунда I земель Тевтонского ордена в пользу императора, а также Киева и других русских городов в пользу великого князя Московского.
Василий ІІІ еще до заключения договора, 19 декабря 1512 г., выступил в поход с двумя братьями, Юрием и Дмитрием, зятем — крещеным татарским царевичем Петром, Михаилом Глинским и двумя московскими воеводами — князьями Даниилом Васильевичем Щеней и Иваном Михайловичем Репней-Оболенским. Целью похода был Смоленск. Как сказано в летописи, шесть недель простояв под городом, великий князь назначил приступ. Псковские пищальники, получив от Василия ІІІ три бочки меду и три бочки пива, напились и в полночь ударили на крепость вместе с пищальниками других городов. Всю ночь и весь следующий день «бились они из-за Днепра и со всех сторон, много легло их от городского наряда [пушек]». Однако все приступы московской рати были отбиты, и Василий ІІІ в марте 1513 г. возвратился в Москву, так и не взяв Смоленск.
14 июня Василий снова выступил в поход. Сам он остановился в Боровске, а к Смоленску послал воевод боярина — князя Репню-Оболенского и окольничего Андрея Сабурова. Смоленский наместник Юрий Сологуб вышел с войском из города и контратаковал русских. Однако полки его были разбиты и бежали в крепость.
Вскоре под Смоленск прибыл и сам великий князь Василий. К городу были доставлены осадные орудия. Но литовцы храбро защищались.
8 июня 1514 г. Василий ІІІ в третий раз выступил к Смоленску. С ним шли братья Юрий и Семен; третий брат, Димитрий, стоял в Серпухове для защиты южных границ от крымцев; четвертый брат, Андрей, остался в Москве. 29 июля началась осада Смоленска.
Действиями пушек распоряжался пушкарь Стефан. Первым же выстрелом Стефану удалось попасть в пушку в крепостной башне. Литовская пушка разорвалась, и все, кто находился в башне, были убиты. Через несколько часов Стефан дал залп из пушек меньших калибров «ядрами мелкими окованными свинцом», то есть несколькими камнями средней величины, покрытыми свинцовой оболочкой. Таким образом, эти боеприпасы напоминали дальнюю картечь XVIII в. с той разницей, что тогда ядра были чугунные. Смоляне не ожидали от русских такой пакости, и у стен собралось много военных и гражданских лиц, пришедших посмотреть на войско москвичей. Согласно русской летописи, этот залп «еще больше народу побил; в городе была печаль большая, видели, что биться нечем, а передаться — боялись короля». Тем временем великий князь велел Стефану дать третий залп, вызвавший новые потери среди осажденных.
Тогда православный владыка Варсонофий вышел на мост и стал просить у великого князя перемирия до следующего дня. Но Василий не согласился и велел бить по городу из всех пушек со всех сторон. Варсонофий вернулся в город, собрал церковный причт, надел ризу, взял крест, иконы и вместе с наместником Сологубом, панами и простыми людьми снова вышел на мост и обратился к Василию: «Государь князь великий! Много крови христианской пролилось, земля пуста, твоя отчина. Не погуби города, но возьми его с тихостию». Тогда Василий подошел к владыке для благословения, а затем велел ему, Сологубу и панам идти к себе в шатры.
На следующий день, 30 марта, Василий ІІІ послал в Смоленск Даниила Щеню с товарищами, дьяков и подьячих с заданием переписать всех жителей и привести к присяге «быть за великим князем и добра ему хотеть, за короля не думать и добра ему не хотеть». К вечеру следующего дня все смоляне были переписаны и приведены к присяге. А 1 августа Василий ІІІ вместе с владыкой Варсонофием торжественно вступил в Смоленск, где был радостно встречен народом. После молебна и многолетия в соборной церкви владыка сказал великому князю: «Божиею милостию радуйся и здравствуй православный царь Василий, великий князь всея Руси, самодержец, на своей отчине, городе Смоленске на многие лета!»
Смоленским князьям, боярам и мещанам Василий объявил свое жалованье, уставную грамоту и назначил им наместником боярина князя Василия Васильевича Шуйского, а затем позвал всех обедать. После обеда все получили великокняжеские дары. Сологубу же и сыну его Василий сказал: «Хочешь мне служить, и я тебя жалую, а не хочешь, волен на все стороны». Сологуб выразил желание вернуться к своему королю и был отпущен. А в Польше его объявили изменником и отрубили голову. Всем остальным королевским служилым людям Василий ІІІ также предложил на выбор остаться у него на службе или возвратиться к Сигизмунду. Оставшиеся получили по два рубля и по сукну, те же, кто решил уехать к королю, получили по рублю. Многие смоляне уже давно хотели покинуть свой город, и тем, кто ехал в Москву, давали подъемные, те же, кто оставался, удерживали за собой свои вотчины и поместья.
В осаде Смоленска активно участвовал Михаил Глинский. Он был уверен, что получит город себе во владение. Василий же не собирался отдавать этот ключевой пункт столь легко увлекающейся личности. Глинский сильно обиделся и вступил в переговоры с королем Сигизмундом. Тот обрадовался и переслал князю охранную грамоту. Глинский решил тайно покинуть свой отряд и бежать в Оршу, но один из близких его слуг в ту же ночь прискакал к князю Михаиле Голице, доложил о бегстве своего господина и даже указал дорогу. Голица, предупредив воеводу Челядина, помчался вдогонку за беглецом и схватил его этой же ночью. На рассвете Голица соединился с отрядом Челядина, и они вместе повезли Глинского в Дорогобуж, где находился Василий ІІІ. Великий князь приказал заковать изменника и отправить в Москву. Изъятая у Глинского Сигизмундова охранная грамота стала страшной уликой против него.
Генеральное сражение русских и польско-литовских войск произошло 8 сентября 1514 г. близ Орши, у слияния реки Крапивны с Днепром. Сигизмунд остался в городе Борисове с четырьмя тысячами воинов, а навстречу русским отправил князя Константина Острожского с тридцатью тысячами.
Русские воеводы, князь Михаила Голица и боярин Иван Челядин, заняли позицию на левом берегу Днепра, опираясь левым флангом на болота у Крапивны. В ночь на 8 сентября Острожский переправил через Днепр вплавь кавалерию, а за ней двинул пехоту по двум наскоро наведенным мостам. Челядин допустил большую ошибку, дав противнику без боя форсировать Днепр. К девяти часам утра польско-литовское войско стояло в полном боевом порядке на левом берегу.
Челядин построил свои войска в три растянутые линии, а на флангах послал отдельные отряды в тыл противнику. Голица, отделившись от правого крыла с большим отрядом конницы, стремительно ударил на левый фланг литовской кавалерии, но она выдержала удар, а польская конница из резерва атаковала отступавшего Голицу во фланг. Подоспевшее подкрепление позволило Голице вновь двинуться на противника. Но тут неожиданно неприятельская кавалерия расступилась и открыла пехоту, которая огнем с близкой дистанции привела ряды русского войска в беспорядок. Тогда Острожский ударил всей литовской конницей и, преследуя, очутился за второй линией русских. Зборовский прискакал на помощь, вместе с гусарами Шпаковского прорвался сквозь растянутую линию русских и ударил в копья.