Перед Паскевичем была поставлена задача не только отразить удары противника, но и покорить Карский, Ахалцихский районы и занять крепость Поти. Для решения этой задачи ему с трудом удалось собрать 18-тысячный корпус, которому противостояла 60-тысячная турецкая армия. Чтобы хоть как-то нарастить свои силы, Паскевич обратился с призывам к местному населению идти в ополчение. Горцы охотно откликнулись и в последующем, по воспоминаниям участников событий, служили хорошо и были грозой для турок.
Русский командующий решил громить противника по частям. В середине июня русские войска двинулись к Карсу и после недельной осады 24 числа взяли крепость штурмом. Турки потеряли 2 тысячи человек убитыми и ранеными, 1360 пленными и 151 орудие. Урон русских войск составил менее 400 человек. За Карс Паскевич был награжден двумя пушками из числа захваченных в крепости, а его старшая дочь Александра стала фрейлиной императрицы. Правда, радость карской победы вскоре была омрачена эпидемией чумы, от которой за 20 дней умерло 263 русских солдата и офицера.
От Карса Паскевич пошел к Ахалкалаки и 24 июля взял его штурмом. Половина гарнизона сложила оружие, другая половина, попытавшаяся спастись бегством, была настигнута русской конницей и изрублена.
4 августа у Ахалциха произошло сражение между 9-тысячным русским соединением и 30-тысячной турецкой армией. Оно проходило в грозу и было выиграно россиянами. Турки отступили, потеряв 2 тысячи человек убитыми, 500 — пленными и упустив 10 орудий. Затем началась осада крепости, завершившаяся 16 августа победоносным штурмом. Турки, отчаянно защищавшиеся, из 9-тысячного гарнизона потеряли 5 тысяч человек. Потери русских при осаде и штурме Ахалциха составили 234 человека убитыми и 921 раненым. За взятие турецкой твердыни Паскевич получил орден Св. Андрея Первозванного.
Наступление русских войск продолжалось. К сентябрю были взяты крепости Ацхур, Ардаган, Поти и Баязет. Лишь с наступлением осеннего ненастья боевые действия в Закавказье временно прекратились.
Неудачи кампании 1828 года вызвали гнев султана. Военачальники были заменены, группировка войск пополнена новыми частями. К весне 1829 года турецкая армия насчитывала 120 тысяч человек при 136 орудиях. С февраля ее 10-тысячный корпус осаждал Ахалцих, оборонявшийся малочисленным русским гарнизоном. В начале мая туда же был направлен еще 20-тысячный корпус трапезундского паши. Такой же корпус паши ванского пошел к Баязету. Сам главнокомандующий сераскир эрзерумский Хаджи Селех с 70-тысячной армией двинулся к Карсу.
И.Ф. Паскевич смог противопоставить противнику всего 18 тысяч человек при 70 орудиях. Остальные силы корпуса использовались для поддержания порядка во внутренних районах Кавказа и для охраны новой границы с Персией. Тем не менее, несмотря на столь ощутимое неравенство сил, русские смело двинулись навстречу противнику, вновь решив громить его по частям, и военное счастье приняло сторону смелых. 19 и 20 июня Паскевич в сражениях под Каиндлами и у Милле-Дюзе разбил армию сераскира, уничтожив 5 тысяч и пленив 12 тысяч турок. За эту победу он был отмечен алмазными знаками к ордену Св. Андрея Первозванного, а его супруга пожалована в статс-дамы к Высочайшему двору.
Остатки разгромленной турецкой армии, преследуемые русской кавалерией, бежали в Эрзерум. 23 июня они оставили крепость Гассан-Кале вместе с находившимися в ней 28 пушками. А четыре дня спустя без сопротивления капитулировал 15-тысячный гарнизон Эрзерума вместе с сераскиром. В крепости были захвачены 150 орудий, 6 знамен, огромные запасы оружия, боеприпасов и другого военного имущества. За одержанную победу Паскевич был награжден орденом Св. Георгия 1-й степени, став семнадцатым по счету обладателем этой высшей награды с момента ее учреждения и третьим полным кавалером военного ордена.
Падение Эрзерума значительно ускорило, но не положило конец войне. 12 июня 1929 года войска под командой Меншикова во взаимодействии с кораблями Черноморского флота вице-адмирала Грейга в третий раз взяли Анапу.
Только после этого, 1 июля эриванский паша снял осаду Баязета, продолжавшуюся почти полтора месяца и стоившую русскому гарнизону 77 человек убитыми и 332 ранеными. Через шесть дней после этого события отряд генерал-майора И.Г. Бурцова овладел крепостью Байбурт, располагавшейся на пути от Эрзерума к Трапезунду. 9 июля отряд полковника Лемана занял крепость Хнисс, находившуюся в 100 километрах от Эрзерума на пути в Мушский пашалык. И только затем, в конце сентября, Паскевич в сражении под Байбуртом нанес поражение войскам нового сераскира. Турки потеряли 700 человек убитыми и ранеными, 1236 пленными, 6 пушек и 12 знамен. Урон русских составил 110 человек убитыми и ранеными. Примечательно то, что это сражение произошло уже после подписания мира в Андрианополе, положившем конец русско-турецкой войне 1828–1829 годов. Паскевич еще не знал об этом факте, а турецкий военачальник его умышленно скрыл, рассчитывая завершить войну победой. В результате этой «хитрости» турки потерпели еще одно поражение.
Очередная русско-турецкая война была выиграна Россией. По условиям Андрианопольского мирного договора, подписанного 2 сентября 1829 года, к Российской империи был присоединен Ахалцихский пашалык. Остальные захваченные территории Николай 1 великодушно возвратил Порте. Крошечное территориальное приобретение едва ли стоило потерь, понесенных Россией в этой войне и исчислявшихся 932 убитыми, 3367 ранеными и 6 миллионами рублей серебром. Известно, что сам Паскевич был очень недоволен уступнической политикой Петербурга. Но император утешил своего полководца, возведя его по итогам войны в чин генерал-фельдмаршала, вследствие чего Паскевич стал 45-м по счету носителем этого высшего звания в российской армии. Для отличия всех участников войны, от рядового до генерала, указом императора от 1 октября 1829 года была учреждена специальная серебряная медаль «За турецкую войну».
Войны России с Персией, а затем с Турцией в значительной степени отвлекли внимание И.Ф. Паскевича от Северного Кавказа. Воспользовавшись этим, мусульманские проповедники усилили антироссийскую агитацию, которой легко поддались многие правители и народы.
В Аварии «зашаталась» власть верноподданного России Сурхай-хана, возведенного на престол по ходатайству Ермолова, но по местным обычаям не имевшего на то права. Поэтому ряд селений остались верны сыну низвергнутого хана Абу-Султан-Насалу, также назвавшемуся ханом. Такое раздвоение власти было чревато междоусобицей, которая легко могла превратиться в антироссийское выступление.
Чтобы избежать этого, Паскевич принял решение признать права Абу-султан-Насал-хана на послушную ему часть Аварии, уравнять его в правах с Сурхай-ханом и постараться примирить обоих противников. С этой целью оба правителя получили чин полковника, жалованье в 2000 рублей серебром в год и право выдачи грамот подданным на проезд и торговлю во внутренние районы России. Высочайшие грамоты обоим ханам за подписью Николая I вместе с инвеститурными знаками и подарками были доставлены в Аварию 25 февраля 1829 года.
Однако примеру аварских ханов последовали немногие правители горских народов. Призывы к выступлениям в горах Дагестана и Чечни звучали все чаще, все чаще вооруженные отряды нападали на русские воинские посты, расположенные на Кавказской линии.