1925 оны эхээр засаг төрийн шинэчилсэн зохион байгуулалтаар Сэцэн хан аймгийн Боржигон Сэцэн вангийн хошууны Догшин Гучит сумын Их догшин отгийг Хан хэнтий уулын аймаг, Оцол сансар уулын хошуу Баян жаргалан уулын сум гэж нэрлэн 1925 оны дөрөвдүгээр сард 5 баг, 200-аад өрх 1000 гаруй хүн амтай, 37819 толгой малтай байгуулагдаж анхдугаар хурлаа хийж сумын даргаар Хиа Бадрахыг сонгож уулын жасын дэргэдэх алаг өндөр гэдэг газар анхлан төвлөрөхөөр шийджээ. Нутгийн олны хүндэтгэн дээдэлж тахиж шүтдэг Баян уул, Жаргалангийн усны нэрийг нийлүүлж ийнхүү Баянжаргалан хэмээн нэр хайрлажээ. Сум нь сумын дарга, бичээч гэсэн хоёр орон тоотой таван ханатай нэг гэртэй 500 лан мөнгөний үндсэн хөрөнгөтэй анх байгуулагдсан.Хоёр жилийн дараа 7 арван буюу далаад өрхийг салгаж Өлзийт цагаан айраг сум болгоод 1929 оны 8-р сард ахин нийлүүлсэн жишлэнгээр одоогийн энэ нутаг дээр Баянжаргалан, Баянцогт, Өлзийт цагаан айраг, Их эрээн гэсэн дөрвөн жижиг сум салж нийлж жижгэрч томорч байсаар хамгийн сүүлд зүүн талаар зах залгаж байсан Их эрээн сумыг 1951 онд татан буулгахдаа нутгийх нь баруун хэсгийг тэнд нутагладаг 43 өрхтэйгөөр, 1946 онд Цагаандэлгэр сумын 8-р багийг нутгийн харьяаллаар Баянжаргалан суманд нэгтгэжээ.      

Тус сум нь 1925 оноос Хан хэнтий уулын Оцол сансарын уулын хошуунд, 1931 оноос Дорноговь аймгийн харъяанд, 1942 онд Дундговь аймаг байгуулагдахад тус аймгийн харъяанд оржээ. Баянжаргалан сум нь эхэн үедээ нэг гэртэйгээр уулын жасын Алаг өндөр, Дэрт даравгайн хүрэн хад, Мөнх шивээ зэрэг газраар малчдаа даган нүүдэллэж байгаад 1940 онд Холбоод байрлаж намын үүр, захиргаа, сургууль, хоршоо, хүн малын эмнэлэг нь тус бүр нэг гэртэй нижгээд модон байшинтай төвлөрч байгаад 1954 оноос ард түмний санал, засгийн газрын зөвшөөрөл, тэр үеийн удирдлага Насангийн Төмөр-Ухна,Хоньтын Гэлэгсамдан, Санзайн Данзанпэрэнлэй нарын зохион байгуулалтаар төмөр замд ойр дөтийг бодож Аргатайн Дөшийн ард шаваа тавьж 1955 оны 3,4-р сараас ердийн хөсгөөр нүүж Аргатайн дэнжид 60 жил болж хаяа тэлэн өргөжсөөр байна. 1930 аад оны эхээр Өмнөговь аймгийн баруун урд талын хил давж дүрвэн Өвөр Монголын нутагт очиж түр суурьшиж байсан хэсэг айл өрх 1945 оны чөлөөлөх дайны ялалтын үр дүнд эх орон Ар монголдоо эргэж ирэх бололцоо олдсоноор 1956 онд Дорноговь аймгийн Иххэт, Дэлгэрэх сумаар дамжин 20 шахам айл өрх,  1981-1986 онд малчин элсүүлэх илгээлтийн шугамаар Өвөрхангай аймгийн Төгрөг, Баян-Өндөр сунаас 15 өрх, Төв аймгийн Сэргэлэн сумнаас 5 өрх, өөрийн аймгийн Адаацаг сумнаас 5 хот айл тус тус нүүн ирж суурьшин нутгийн иргэд болцгооосон. Өдгөө энэ сумандаа  суурьшин дасаж нутгийнхантай ах дүүс худ ураг болцгоожээ. Тус суманд 1925 онд Хөдөлмөрчдийн хурлын захиргаа, 1927 онд МАХН-ын үүр, 1928 онд Мал эмнэлэг, Эд хэрэглээний хоршоо, 1937 онд Хүн-эмнэлэг, 1940 онд бага сургууль, 1945 онд улаан гэр, 1960 онд Холбооны салбар, 1965 онд хүүхдийн цэцэрлэг, 1956 онд ХАА-н нэгдэл, 1975 онд Эмийн сан зэрэг байгууллагууд байгуулагдаж хөдөлмөрчин ардуудад үүдээ нээж үйлчилж эхэлжээ.