1923年考入常德省立第二师范学校。1924年10月加入共青团。1925年加入中国共产党。1926年後歷任共青團平江縣委書記、湖南省農民協會委員長、中共湘東特委書記兼醴陵縣委書記、湘鄂贛邊特委書記等職，從事青年運動、農民運動和兵運工作。1928年参加领导平江起义。曾任红三军团政委、红一方面军副政委等职。1933年初，受到王明、博古路线的排挤，被迫离开红三军团领导岗位，1934年前往苏联出席共产国际第七次代表大会，并入蘇聯紅軍陸軍大學、列宁学院学习。1937年春回到新疆，與陳雲組織接應西路軍餘部進入迪化。

抗日战争爆发后，任中共中央军委参谋长。参与加强八路军、新四军的政治工作。1940年调任抗日军政大学副校长，在太行抗日根据地办学，致力培养抗日军政干部。1942年8月任八路军参谋长。1945年8月，率部对日伪军反攻作战，收复大片失地。抗战胜利后，任晋冀鲁豫军区副司令员，1945年，滕前往北平军事调查处，担任叶剑英的军事顾问。

1923年考入常德省立第二师范学校。1924年10月加入共青团。1925年加入中国共产党。1926年後歷任共青團平江縣委書記、湖南省農民協會委員長、中共湘東特委書記兼醴陵縣委書記、湘鄂贛邊特委書記等職，從事青年運動、農民運動和兵運工作。1928年参加领导平江起义。曾任红三军团政委、红一方面军副政委等职。1933年初，受到王明、博古路线的排挤，被迫离开红三军团领导岗位，1934年前往苏联出席共产国际第七次代表大会，并入蘇聯紅軍陸軍大學、列宁学院学习。1937年春回到新疆，與陳雲組織接應西路軍餘部進入迪化。

抗日战争爆发后，任中共中央军委参谋长。参与加强八路军、新四军的政治工作。1940年调任抗日军政大学副校长，在太行抗日根据地办学，致力培养抗日军政干部。1942年8月任八路军参谋长。1945年8月，率部对日伪军反攻作战，收复大片失地。抗战胜利后，任晋冀鲁豫军区副司令员，1945年，滕前往北平军事调查处，担任叶剑英的军事顾问。