根据中共满洲省委的指示和抗日斗争的需要，在满洲省委军委书记杨林的主持下，1932年6月4日，于呼兰镇孤山村将磐石工农反日游击队改编为满洲工农反日义勇军第四军第一纵队，亦称磐石工农反日义勇军，张振国任队长，杨君武任政委。下设三个分队，第一分队长、政委由杨君武兼，活动区域为磐东区。第二分队长孟洁民，政委李红光，活动区域为磐北区。第三分队长常春凤，政委朴亨燮，活动区域为伊通与磐石边界。满洲工农反日义勇军成立后，发展极其迅速，不到两个月就扩充到120多人。打过几次漂亮仗，尤其是黑石大捷，使日伪当局感到了这支武装的威胁。

由于受上海北方会议左的路线干扰，满洲工农反日义勇军面临树敌过多，生存境地艰难，不得不转移到桦甸的蜂蜜顶子，隐姓埋名，报号“五洋”。期间召开了两次党的会议，讨论部队的前途方向，由于意见严重不一致，发生了激烈的争论，相持不下。磐石中心县委指派张振国到省委汇报，并要求省委派人来决定部队的前途。

 杨君武任磐石工农反日游击队、满洲工农反日义勇军政委期间，曾两次负伤。1932年的6月14日，杨君武带领满洲工农反日义勇军第一分队，驻扎在驿马的样子沟密营，遭到混进队伍的奸细纪振国同反动地主武装高锡甲里应外合的袭击，牺牲了3名队员，杨君武负了伤。8月下旬，杨君武、孟洁民、李红光率领百余人在黑石镇黑石村北部设伏，取得毙伤日伪军60余人的大捷，杨君武4处负伤，不得不回哈尔滨治疗。回到省委的杨君武向满洲省委建议，磐石党的这支武装素质过硬，并且磐石的群众基础与党的工作基础都好，且这个地方的战略位置重要，处吉林、长春、奉天（沈阳）腹地，省委要迅速派人去领导这支队伍。听说省委决定杨靖宇到磐石巡视，特地叮嘱杨靖宇说：磐石的武装力量复杂，你去了就说是我的大哥，在东北军旧部和山林队那里很管用。省委采纳了杨君武的建议，一直化名张贯一的马尚德来磐石就改为杨靖宇。从此，杨靖宇这个名字就同磐石连在了一起，响彻南满大地，让日伪军闻风丧胆，成为东北抗联的名片。