李存信早年为牧羊奴，因为聪慧机敏而多计谋，通晓四夷语言，能识别六蕃书，善于战事，懂得兵势，成为沙陀军李国昌的亲信。

黄巢起义军攻陷长安后，唐僖宗赦免李克用叛乱之罪，命其率军入关勤王。李克用于是率领大军进入关中，平定黄巢起义。李存信一直跟随作战，屡有功勋，被李克用收为义子，赐名李存信，在十三太保中排行第四。