1937年任东北抗日联军第一路军总指挥兼政委，基本队伍有六千余人，分布南满一带开展抗日斗争。卢沟桥事变后，杨靖宇发动西征，经常出击日军，支援关内的斗争。1938年5月，召集南满党和军队干部开会，讨论坚持游击战争策略。会后，在通化、临江一带开展抗日斗争，给敌伪军以沉重打击。同年冬，日寇实施惨无人道的归屯并户政策，进行武装屯田移民，加强对南满抗日根据地的摧残，抗日联军的处境更加艰难。杨靖宇率第一路军一部一千四百多人，进入长白山密林中。次年，在蒙江县境与敌人战斗中受重大损失，队伍剩四百多人。1940年1月，为解决部队给养问题，命部队主力北上，自己带领一支小部队东进。到了最后，他身边仅有7名战士，4名负伤。于是杨靖宇下令4人转移。后来，他派了剩下的两名战士去村落里找些吃的，下山后，两名战士被日伪军杀死。杨靖宇明白了一切。2月22日，在一间雪地中的小破屋里度过了人生的最后一夜。2月23日，孤身一人在吉林蒙江县（今靖宇县）保安村前三道崴子遇到四个中国人，杨靖宇恪守党的铁的纪律，不拿群众的一针一线，于是给了钱，让其中一人帮他买些食物和棉鞋。那个人回大屯泄密给日伪当局；关东军讨伐队包围了将军，并紧急召集由抗联叛徒组成的伪满特工队参战；经过数小时激战，将军被叛徒机枪点射命中要害，壮烈殉国。终年三十五岁。经日军解剖，发现他竟以军大衣中的棉花、树皮、雪下的草根为食，残暴的侵略者也为之震惊和折服了，当年杀害将军的岸谷隆一郎特意为杨靖宇举行了“慰灵祭”。
杨靖宇将军牺牲5年后，1945年8月15日日本帝国主义宣布无条件投降。10月下旬，共产党领导的东北民主联军在蒙江县建立了民主政府。新政府成立后，立即筹备为杨靖宇将军重新安葬。1957年7月15日，朱德委员长为杨靖宇烈士题词:“人民英雄杨靖宇同志永垂不朽”。
