传说，该胡同内一董姓人家将自家种完地后闲下来的一头驴杀掉，精心制成小车驴肉上街出售，没想到立时兜售一空，从此就干起了卖驴肉的营生。久而久之，驴肉越做越香，卖驴肉的户也越来越多，相继出现了胡、靳、王、徐等各家。

因沁阳古为怀庆府治，商业发达，商贾云集，每天都有各州县的客商云集这里批肉贩往各地。从此，怀府驴肉远近闻名，这条小巷也因此得名“杀驴胡同”，一直流传至今，名声越传越广。