20世纪前，今阿尔山市境范围内尚无耕地。

清光绪二十八年（1902年），清王朝实行“移民实边”政策，五岔沟地区开始有人垦荒。

民国17年（1928年）10月，东北兴安屯垦区第一团进驻索伦后，设置屯垦公署，在阿尔山岭南地区及阿尔山村屯垦。民国20年至民国34年（1931～1945年），由于日本侵略军侵略和诺门罕战争等影响，阿尔山地区的垦植业停止。

中华人民共和国成立初，阿尔山地区以发展林业为主，农业发展缓慢，至1958年，有耕地1418.7亩。此后农用耕地逐渐开发，至1961年，耕地面积达5130亩。“文化大革命”期间，农业发展缓慢。80年代初开始，农业用地面积快速发展，大量宜农荒地被开垦，耕地面积不断扩大，至1999年底，耕地面积达32万亩，全部为旱地。

1999年起，根据国家有关政策，阿尔山市部分地区实行退耕还林还草，截至2000年12月，全市有耕地27万余亩，完成退耕还林还草5万亩。