Z organizacji ZWZ pod okupacją sowiecką pozostały jedynie szczątki (z wyjątkiem Wilna). Trzeba było więc na nowo odtwarzać obsadę personalną i montować siatkę terenową. Na komendanta Obszaru nr 2 Rowecki wyznaczył płk dypl. Juliana Filipowicza, który przyjął pseudonim "Pobóg", jednak ze względu na zły stan zdrowia nie mógł on objąć nowej funkcji. Tymczasowo zastąpił go Inspektor KG płk Emil Fieldorf "Weller", szefem sztabu został płk Marian Dorotycz-Malewicz "Topór".

Okręg Białostocki, kryptonim "Maślaki" dowodzony był przez mjr Władysława Liniarskiego "Mścisława" i dzielił się na 13 Obwodów, w których rozpoczęto formowanie oddziałów polowych.

Okręg Polesie kryptonim "Rydze" miał zorganizować przeniesiony z Krakowa ppłk Franciszek Faix "Odryński" jako pełniący obowiązki komendanta. Szczególnie dotkliwy był tutaj brak kadry oficerskiej. Rowecki przy tworzeniu dowództwa musiał sięgnąć po oficerów z Generalnej Guberni. W tym czasie praca Okręgu była w stadium organizacyjnym. Nawiązywano kontakty z miejscowym społeczeństwem oraz przygotowywano alibi i rozpoczęto działalność wywiadu.

Okręg Nowogródek "Kurki" również nie wyszedł jeszcze z fazy organizacyjnej. Komenda Główna mianowała pełniącego obowiązki komendanta mjr broni panc. Jana Szulca "Prawdzica". Okręg posiadał osiem obwodów, trzy jeszcze nie działały z powodu braku oficerów.

Do Obszaru nr 3 (Lwów) przybyła tzw. ekipa warszawska z gen. Kazimierzem Sawickim "Prutem" na czele. Szefem sztabu został ppłk dypl. Mieczysław Dobrzański "Leon" przeniesiony z komendy Okręgu Warszawa - Miasto.
Jedynym miejscowym oficerem, który znalazł się w Komendzie Obszaru był mjr rez. Jerzy Neugebauer "Piotr" szef Oddziału I. W niedługim czasie zastąpił go mjr Kornel Stasiewicz "Kostek". Szefem BIP-u został Lech Sadowski "Wasyl", który we Lwowie ukończył gimnazjum, kierownikiem Związku Odwetu mjr. Jan Władyka "Łopot". Na razie nie obsadzono Oddziału III i IV.

W terenie komendę Okręgu Tarnopol objął ppłk Franciszek Studziński "Rawicz", natomiast Okręg Stanisławów, już w 1942 roku ppłk Jan Rogowski.
We Lwowie rozpoczęto organizowanie sztabów i odbudowę struktur terenowych. Najszybciej zrekonstruowano Komendę Obszaru nr 2, której służby liczyły na dzień 1 stycznia 1942 r. ponad 500 ludzi, w tym 62 oficerów.
W tym samym czasie Okręg Lwów osiągnął stan 872 ludzi (głównie we Lwowie i Drohobyczu), Okręg Stanisławów około 200 ludzi, a Okręg Tarnopol poniżej 50-ciu.
Okręgu Wołyń na przełomie 1941 i 1942 r. nie zaczęto jeszcze organizować. Dopiero w lutym wyruszyła do Równego ekipa w liczbie 6 oficerów pod dowództwem mjr Brunona Rolkego "Asa Pik", który wkrótce został zastąpiony, na rozkaz Warszawy przez ppor. Józefa Guźniczaka "Fiedię"

Zgodnie z zapowiedziami Komendy Głównej przystąpiono na terenach wschodnich także do tworzenia placówek wywiadowczych. W warszawskiej centrali Oddziału II utworzono Referat Wschód (WW-72, później "Pralnia"). Szybko wyznaczono kierunki pracy wywiadowczej i tak:

Odcinek I z bazą w Baranowiczach osiągnął stosunkowo słabe wyniki. Znacznie silniejsza okazała się obsada Odcinka II z bazą w Wilnie, prowadzoną przez rtm. Tomasza Zana "Olesia", następnie przez rtm. Romualda Giecewicza "Montera". Dysponowała ona placówkami m. in. w Rydze i w Mińsku.
Największy obszar przypadł Odcinkowi III, kierowanemu przez mjr dypl. Aleksandra Klotza "Wizera". Ekspozytura A tego Odcinka mieściła się w Kijowie z placówkami w Żytomierzu, Berdyczowie, Winnicy, Czerkasach i Konotopie. Ekspozytura B w Kirowogradzie miała placówki w Gołcie k. Pierwomajska, Nikołajeiwe, Dniepropietrowsku i Odessie a więc prawie na linii frontu.
Ekspozytura C działała w Charkowie z placówką w Rostowie nad Donem. Meldunki z Ekspozytur przekazywał Referat "Wschód" Biuru Studiów, nastepnie kierowano je droga radiową do Sztabu Naczelnego Wodza w Londynie.

Wszystkie te zabiegi i prace organizacyjne miały zapoczątkować niejako trzeci etap działalności konspiracyjnej polskiej armii podziemnej. Przyczyniły się one niewątpliwie do skoordynowania wszystkich akcji, natężenia walki czynnej i poczucia odpowiedzialności za losy kraju. Rozpoczynał się trzeci rok istnienia Związku Walki Zbrojnej, stanowiącego nie tylko część Sił Zbrojnych Rzeczypospolitej, ale także rzeczywistą siłę.

Brak jest dokładnych danych co do liczebności ZWZ na przełomie 1941 i 1942 roku, należy więc przyjąć szacunkowe dane. Według nich Związek Walki Zbrojnej liczył w tym czasie około 2 469 plutonów (pełnych i szkieletowych), co daje około 88 450 żołnierzy, nie licząc służb, kolportażu, ludzi współdziałających z organizacją (ich zsumowanie dałoby liczbę około 120 000).
Z tego było 6 315 oficerów i podchorążych oraz 26 370 podoficerów. ZWZ pozostawał więc ciągle organizacją kadrową, choć jej szeregi z każdym miesiącem powiększały swoją ilość, co było jasnym dowodem na to, że kryzys wywołany kapitulacją Francji dawno minął.

Gorzej wyglądała sytuacja z uzbrojeniem. W meldunku organizacyjnym nr 79 z 1 października 1941 r. Rowecki podawał, że ZWZ rozporządza w Okręgach (Warszawa-Miasto, Warszawa Województwo, Kielce, Lublin, Kraków, Katowice i Łódź) 31 291 karabinami zwykłymi, 6 492 pistoletami, 40 513 granatami, 659 ciężkimi karabinami maszynowymi, 1 097 ręcznymi karabinami maszynowymi, 28 działkami przeciwpancernymi i 25 karabinami przeciwpancernymi. Około 50 % broni była zmagazynowana i zakonserwowana, pozostała część nie była objęta kontrolą i można było z niej użytkować tylko około 10 %.

Podany tutaj stan posiadania należy jednak potraktować szacunkowo, bowiem nie można dokładnie określić ilości posiadanej broni a to z tej przyczyny, że część sprzętu nie była w ogóle zgłaszana i raczej zaniżano jego stan w obawie, że zostanie rozkazem "góry" skierowany do innych oddziałów.

Podstawową jednostką taktyczną ZWZ były:

- Plutony pełne. Skład pojedynczego plutonu pełnego w 1941 r., ustalono na: dowódcę i zastępcę, trzy drużyny , każda obejmująca dowódcę, zastępcę i trzy sekcje po 5 ludzi. Razem 55 do 56 ludzi, w rzeczywistości plutony rzadko przekraczały stan 50-ciu żołnierzy.

- Plutony szkieletowe. Pojedynczy pluton szkieletowy składał się z: dowódcy, zastępcy wraz z pocztem, dowódców i zastępców dowódców drużyn i dowódców sekcji z gońcami. Razem wynosił 20-29 ludzi.

- Wyższe jednostki organizacyjne, jak kompanie czy bataliony, wystąpiły z czasem w zgrupowaniach podległych bezpośrednio Komendzie Głównej, jak np. w "Baszcie" ( Batalion: dowództwo i trzy kompanie strzeleckie).

Szeregi ZWZ zwiększały się o żołnierzy innych organizacji, które po rozmowach scaleniowych były włączane do oddziałów Okręgów. Odbywało się to z reguły przez wyznaczanie oficerów ZWZ na ich komendantów, ustalanie danych liczbowych, a także zaprzysiężenie i dalsze szkolenie. Do 1942 r. w strukturach ZWZ znalazły się oddziały takich organizacji jak:

Polska Organizacja Zbrojna kierowana przez ppłk Hieronima Suszczyńskiego "Szeligę", Konfederacja Zbrojna w skład której wchodziły Tajna Armia Polska pod dowództwem ppłk Jana Włodarkiewicza, Gwardia Obrony Narodowej ppłk Józefa Patera "Orlota", Związek Czynu Zbrojnego ppłk Franciszka Juliana Znamirowskiego "Profesora".

Poza tym do struktur ZWZ przyłączyły się także: Kadra Powstańców Niepodległościowych - KNP, Związek "Wolność i Lud" (grupa Związków Zawodowych - syndykaliści), Związek Oficerów Rezerwy, Polski Związek Wolności (skupiający byłych żołnierzy 36 pp Legii Akademickiej), Korpus Zachodni (organizacja zrzeszająca wysiedlonych Poznaniaków i Pomorzan, opierająca się ideowo o grupę narodowców "Ojczyzna"), Unia (jej prezesem był poeta i filozof Jerzy Braun "Bronisław", zaś komendantem Polskich Wojsk Unijnych płk dypl. Stanisław Grodzki "Dr Edward".


Podsumowując trzeba stwierdzić, że Rowecki w dwa lata po klęsce wrześniowej dowodził względnie silną liczebnie armią podziemną, niewiele mniejszą niż wrześniowa Armia "Modlin", a nawet Armia "Poznań" oczywiście pomijając brak artylerii i innego wyposażenia. Naczelny Wódz Władysław Sikorski w depeszy z 10 lutego 1942 r. pisał:

"Po powrocie z Rosji stwierdziłem z wielką radością wspaniałe wyniki, jakie pan Generał (Rowecki) osiągnął w pracy prowadzonej w warunkach tak tragicznych. Nadał Pan Generał działalności w Kraju kierunek właściwy, zmierzający do zjednoczenia całokształtu poczynań wojskowych nad odbudową Sił Zbrojnych dla wywalczenia Niepodległości. Wasze raporty wywiadowcze stanowią gros wiadomości o przeciwniku posiadanych przez Sprzymierzonych. Pracą rozkładową w terenie potrafił Pan Generał zadać dotąd przeciwnikowi straty materialne i moralne".

Naczelny Wódz w zakończeniu podawał:

"Za tak owocny wysiłek organizacyjny przesyłam Panu Generałowi w imieniu Służby wyrazy głębokiego uznania. Ofiary ponoszone przez Armię Krajową na ziemi ojczystej posiadają wielkie znaczenie dla wkładu w te wojnę Polski Walczącej".

W tej depeszy, świetnie oddającej podziw dla osiągnięć Roweckiego, po raz pierwszy padła nazwa Armia Krajowa, a także określenie Polska Walcząca, które już wkrótce staną się synonimem i zarazem symbolem walki w Kraju.
Obie te nazwy rozpoczynają także nowy etap w działalności Związku Walki Zbrojnej, który 14 lutego 1942 r. przemianowany został oficjalnie na Armię Krajową. Fakt ten był nie tylko nadaniem nowej nazwy, lecz także wyrazem zwiększenia rangi rzeczywistej AK, walczącej w konspiracji jako składowa część Polskich Sił Zbrojnych.