В то время как часть населения Эстонии, Латвии и Литвы, либо мстя за потери, понесенные после установления Советской власти, либо решая свои корыстные задачи, поддержала оккупантов, немало граждан советских республик Прибалтики с первых же дней оккупации стали активно бороться против немецко-фашистских захватчиков и их пособников.
С конца июня 1941 года на территории оккупированной Литвы создавались отряды и группы вооруженного сопротивления. Крупная антифашистская организация имени Пожеглы была создана в Паневежеском уезде. К концу 1941 года в 14 партизанских отрядах и группах участвовали 600 бойцов. Партизаны совершали диверсии против оккупантов: сжигали их продовольственные склады, речные трамваи с зерном, организовывали побеги военнопленных. Зимой 1941/42 года в Каунасе литовские партизаны вывели из строя три деревоперерабатывающих завода, взорвали 2 вагона с боеприпасами, уничтожили вещевой склад.
Однако вскоре гитлеровцы выследили подпольщиков Каунаса. Свыше 90 из них были расстреляны, остальные — брошены в концлагеря. В мае 1942 года была раскрыта и организация имени Пожеглы. 48 ее участников были расстреляны. В целом во второй половине 1941-го — начале 1942 года погибло почти 40 % участников литовского подполья.
Сразу же после оккупации Латвии в Риге, Лиепае, Вентспилсе, Даугавпилсе были созданы подпольные группы. К сожалению, подпольщики, особенно молодые, не имели достаточного опыта борьбы с опытным врагом. Уже в августе 1941 года фашисты раскрыли подпольную комсомольскую группу в Лиепае, члены которой распространяли антифашистские листовки. Все участники группы были захвачены и расстреляны. Вскоре была раскрыта и подпольная организация в Даугавпилсе.
Несмотря на эти поражения, подпольщики и партизаны Латвии не прекращали своей борьбы против оккупантов. На территорию оккупированной Латвии были переброшены коммунисты, комсомольцы, советские активисты, которые возглавили организацию новых подпольных групп и партизанских отрядов. Осенью 1941 года партизаны Латвии совершили ряд нападений на вооруженные части оккупантов. Были организованы побеги пленных красноармейцев из концлагерей. Партизаны сумели захватить водный транспорт, следовавший по Даугаве. 6 ноября 1941 года было организовано крушение железнодорожного состава вермахта, в ходе которого погибло 17 немецких офицеров.
Оценивая партизанское движение в 1942 году, авторы «Истории Латвийской ССР» отмечали, что для этого года «характерным являлось расширение вооруженной борьбы, усиление актов саботажа, диверсий. Особенно ярко разгорелась борьба в Латгалии, так как она находилась по соседству с русскими и белорусскими партизанскими районами, от которых партизаны Латвии получали помощь».
В 1942 году латвийскими партизанами был организован пожар на даугавпилсской товарной станции, взорван эшелон с боеприпасами в Вентспилсе, подожжен склад трофейных боеприпасов в Риге и другие диверсии.
В июне 1942 года за пределами Прибалтики был образован латышский партизанский полк, получивший название «За Советскую Латвию!». Небольшими группами этот полк пробивался на территорию Латвии.
Разрасталось подпольное и партизанское движение Литвы. Летом 1942 году в 17 уездах Литвы действовало 12 партизанских отрядов и 24 отдельные группы. В городах действовали подпольные группы коммунистов, в которых участвовало 382 человека.
В марте 1942 года на территорию Литвы были заброшены из центра две группы партийных и комсомольских работников во главе с И. Мескуласом-Адомасом. Однако участники этих групп погибли в боях с карателями.
Были созданы партизанские отряды в различных районах Эстонии. Партизаны-эстонцы сражались также в Ленинградской и Калининской областях РСФСР и на территории Латвийской ССР.
По мере того как жизнь становилась все более невыносимой для подавляющего большинства населения прибалтийских стран, росло и недовольство оккупационным режимом. Руководитель полиции Эстонии доносил в июле 1943 года: «Необычные трудности прошлой зимы, недостатки в снабжении продовольствием, топливом и т. д. положили основу… отрицательной критике. К этому добавилось разочарование в немецком человеке. Высокое мнение эстонцев об организаторских, умственных и характерных свойствах немцев, которые они имели с бывших времен, впервые пошатнулось в дни военного правления, когда население увидело в тыловых службах преступность, жадность, спекуляцию, эгоизм, ссоры, соперничество и т. д…
Мысль, что эстонский народ уже с прошлых веков мог существовать перед Востоком только благодаря немецкому господству, отгонялась полностью и всеми и не имела глубокого влияния. Это тем более характерно, что подобные идеи, только в менее развитом виде, широко распространялись в начале немецкой оккупации. Такая переориентировка мировоззрения значительно затруднялась также разными высказываниями с немецкой стороны. Статьи газет «Дас шварце корпс» и «Фёлькишер беобахтер», в которых говорилось о преобразовании Востока, истолковывались эстонцами в том смысле, что Германия видит единственную возможность присоединения прибалтийских стран к европейской системе в их германской колонизации. Поэтому чувство взаимопонимания все в большей мере исчезает. Существует глубокое недоверие, которое в основном выражается в том факте, что пропаганда больше не действует и встречает почти единодушное сопротивление. Эстонцы полностью разочарованы в Германии».
Но «разочарование» касалось не только оккупантов, но и их пособников. В своем приказе Мяэ писал: «В последнее время в настроении и поведении населения наблюдаются внушающие большую тревогу явления. Распространяются всевозможные слухи. Осуждается деятельность государственных учреждений. Главным содержанием слухов являются события на фронтах, организация местного правления, деятельность немецких и эстонских учреждений, вопросы снабжения и нормы. Особенно большое распространение получили издевательские песни на актуальные темы, в них задеты и руководящие лица».
Глухое неприятие оккупантов охватывало все большее число населения Прибалтики, включая даже тех, кто первоначально активно поддержал «новый порядок». Испытывая недоверие к ряду бойцов из вооруженных формирований, созданных из местного населения, оккупанты прибегали к репрессиям против них.
28 декабря 1943 года немцы окружили батальоны добровольческого латышского 32-го гренадерского полка, расформировали их, придав латышей немецким воинским частям. 13 января 1944 года гитлеровцы, заподозрив 1-ю роту 313-го латышского полицейского батальона в попытках дезертировать, расстреляли в ней каждого третьего.
Возрастали и трения между оккупантами и верхушкой коллаборационистов. 16 февраля 1944 года было объявлено о соглашении между командованием СС в Литве и литовским генералом П. Плехавичиусом о создании «Литовского территориального корпуса» для борьбы с советскими партизанами. «Это мероприятие, в отличие от предыдущих, получило благословение многих знатных местных людей, которые увидели в этом ядро возрождавшейся литовской армии в то время, когда приближались советские войска», — отмечали Р. Мисиунас и Р. Таагепера. В ряды этого формирования вступили около 30 тысяч добровольцев. Однако немцы нарушили свое обещание и стали направлять их на фронт. Это привело к конфликту с генералом Плехавичиусом, который вместе со своим штабом был арестован в мае 1944 года.