北凉的创始人是临松卢水胡人沮渠蒙逊。这个王国的建立和当时游牧政权建立的情形相似，基本上都是以部族为主体建立的。

东晋安帝隆安五年（401年），沮渠蒙逊自称大都督、大将军、凉州牧、张掖公，当了北凉国王，定都于张掖，改年号永安。东晋安帝义熙八年（412年）蒙逊驱逐南凉，夺取姑臧，统一了河西走廊和湟水流域。蒙逊由张掖迁都姑臧，改元玄始，自称河西王。