小兴安岭山地是在海西褶皱带基础上形成的。地面组成以结晶岩、片岩、片麻岩、花岗岩为主，还有玄武岩及砂砾岩。小兴安岭山势，面向黑龙江的东北坡比较陡峻，而面向嫩江平原的西南坡比较平缓，显示出不等量的隆起。小兴安岭可以铁力、嘉荫一线为界划为北部和南部两段，南部较高而北部较低。南部山体山顶浑园，一般海拔500—1000米。由片麻岩组成的山峰比较突兀，高可达1000米以上。伊春附近的大青山海拔1203米，白石砬子1060米，还有许多山峰在1000米左右，多形成尖顶山及“Ｕ”形宽谷。谷中有沼泽湿地，当地称为“甸子”。小兴安岭北段多丘陵盆地和熔岩台地，海拔300—600米，山势和缓，山顶较平坦。侵蚀剥蚀丘陵主要沿辰清河两岸的西岗子、孙吴和龙门等地分布。熔岩台地分布在乌云河上游、库尔滨河和沾河一带，主要是上新统玄武岩经流水切割而成，海拔400米左右，形成深切曲流和峡谷，相对高度80—100米。小兴安岭北段多火山发育，在接近大兴安岭部位有嘎从火山、大黑山、新安屯火山群，科洛火山群等，稍南有五大连池火山群和二克山火山群等，历史上曾多次喷发。

小兴安岭的植被主要是针阔混交林。针叶树种以红松为主。这一森林类型可与苏联的阿穆尔等远东沿海地区及吉林和朝鲜北部的针阔混交林相连。在针阔混交林内，降水量较丰富，植物种类可超千种。在小兴安岭南侧的腹部，伊春市的五营区，1963年已建立了“丰林自然保护区”。