后来这位同志返回苏区，就有一批冀南籍的革命分子也一起南下，加入苏区的红军。孙义海就是去了南方苏区的其中一个。到了苏区以后，一九三三年，在江西博生县，加入了中国工农红军少共国际师，担任少共国际师第六十团三营政委。随后少共国际师被编入中国工农红军红五军团，为第十五师，孙义海为第四十五团三营政委。
红军长征结束后，随着日军的入侵，国共开始了第二次合作，全面开战开启。为了开辟敌后根据地，延安方面调派了许多熟悉地方情况的老红军到老家开展抗日工作，孙义海就回到了自己的家乡涉县。在涉县工作了一年之后，随着敌后抗日武装的扩大，他又被调入八路军一二九师三八六旅。在此之前，孙义海不但是涉县县委副书记，还是涉县县大队队长和政委，一人三职。
离开县大队的时候，孙义海就将弟弟孙义成托付给两位继任者，希望他们能够照顾自己这个小弟。