阿尼玛卿冰川在地质上属于晚古生代，受第三纪末喜马拉雅山造山运动与青藏高原之隆起而形成。其岩石大多为二迭纪、三迭纪砂岩，夹有石灰纪地层与花岗岩入体，故山势极为雄伟。

阿尼玛卿山区大小冰川40余条，面积约150平方公里，水资源丰富，冰川融水分别汇入黄河支流切木曲等水系。