起源于公元前的罗马时代。18世纪末，德国体操家将其用于体操训练的辅助器材，后传入欧美国家。

最初平衡木为圆形，两端及中部用支架支撑。19世纪初，德国体操家古茨穆特斯将平衡木设计成平面，置于地上。1845年成为女子体操项目。平衡木为方形木条，长5米，宽10厘米，距地面高1.20米。平衡木决赛时每队最多两名运动员参赛，只有在团体赛中平衡木成绩排位前八名或前六名者才有参赛资格。只比自选动作。