小叶黄杨和大叶黄杨的区别主要在四个方面。

一是株形不同，前者是小灌木，株形低矮，而后者相比要高大一些。

二是叶片不同，两者的叶子大小就有明显区别，且后者的叶子边缘部分有锯齿。

三是木质不同，前者木质重，密度大，且纤维很细腻，后者木质轻，密度小，纤维粗。

四是科属不同，前者是黄杨科的，后者是卫矛科的。