郑大林，曾用名郑自其，河南省郑州市人。

1927年入冯玉祥部当兵，1929年在吉鸿昌部当班长。因受地下党员副连长教育，1930年随部在商城与红军作战时，带领22人投奔红军。郑大林被编入商城特务营1连任排长，后调任皖西北特区保卫局军事教员、商城煤矿工人纠察队队长、商城独立团9连连长。

1932年加入中国共产党，任红4军12师特务营1连连长、红9军12师34团连长、副营长、红四方面军后方总医院3分院政治部组织科科长、西路军供给部军事教员。参加了鄂豫皖，川陕苏区反“围剿”和长征。西路军失败后，郑大林遵照组织决定，从甘肃赴延安，途中被捕，后借机脱险。

1937年回到358旅，入延安抗大学习。