小黄鱼体长短于大黄鱼，一般为15—25厘米，与大黄鱼的主要区别是：大黄鱼的鳞较小，背鳍起点与侧线间有八至九个鳞片；在而小黄鱼的鳞较大，在背鳍起点与侧线间有五至六个鳞片。大黄鱼的尾柄较长，其长度为高度的三倍多，而小黄鱼仅二倍左右。
头部区别：大黄鱼的头部更大一些，小黄鱼的头部较小。身体形状区别：大黄鱼的身体宽，接近方形，小黄鱼窄一些。体型区别：大黄鱼的体型比小黄鱼的大。分布水域区别：大黄鱼生活在东海和黄海南边，小黄鱼在渤海、黄海、东海之中都有。肉质区别：大黄鱼肉质粗，刺较少；小黄鱼的肉质好，但刺多。