540:依据《增强材料 机织物试验方法 第 5 部分:玻璃纤维拉伸断裂强力和断裂伸长的测定》GB/T7689.5-2013 标准规定,夹具的夹持面应尽可能平滑,若夹持试样不能满足要求时,可使用()的夹具。

这是一道关于标准规范应用的选择题，旨在考察对《增强材料 机织物试验方法 第5部分:玻璃纤维拉伸断裂强力和断裂伸长的测定》GB/T7689.5-2013标准的理解和应用。

首先，我们需要明确题目要求：在夹具夹持面不够平滑，且夹持试样不能满足要求时，应使用何种类型的夹具。

接下来，我们逐一分析选项：

A. 衬垫：衬垫通常用于增加夹具与试样之间的接触面积，提高夹持的稳定性和均匀性。在夹持面不平滑或试样特殊时，使用衬垫可以有效改善夹持效果，因此A选项是合理的。

B. 锯齿形：锯齿形夹具设计可能具有更好的咬合能力，特别是在夹持面不平滑或试样表面特性复杂时，锯齿形设计能够增加夹具与试样之间的摩擦力，防止试样在测试过程中滑脱，所以B选项也是合理的。

C. 矩形：矩形夹具虽然常见，但在此情境下，其并不具备解决夹持面不平滑或夹持不稳定问题的特殊优势。矩形夹具的夹持效果主要取决于其材质、表面处理和夹持力等因素，而非其形状本身，因此C选项不符合题目要求。

D. 波形：波形夹具可能通过其特殊的波形设计，在夹持过程中提供更为均匀的应力分布，同时增加与试样的接触面积，从而提高夹持的稳定性和可靠性。在夹持面不平滑时，波形夹具可能表现出更好的适应性，因此D选项也是合理的。

综上所述，当夹具夹持面不够平滑且夹持试样不能满足要求时，应使用能够改善夹持效果的夹具类型。衬垫、锯齿形和波形夹具均能在不同程度上提高夹持的稳定性和可靠性，而矩形夹具则不具备此特殊优势。

因此，正确答案是A、B、D。