酉矩阵是一种在复数域上保持向量长度不变的方阵，意味着它的逆矩阵等于其共轭转置。用数学语言表达就是，如果一个矩阵U满足UU=UU=I（I为单位矩阵），那么U就是一个酉矩阵。酉矩阵在量子力学中扮演着重要角色，因为它们能够保持波函数的归一化状态，确保概率守恒。换句话说，酉矩阵可以被看作是一种旋转操作，不会改变向量的长度或空间中的角度。

次酉矩阵是酉矩阵的一种推广形式，它允许某些元素为零，但仍然保持酉矩阵的核心特性，即保持向量长度不变。这意味着次酉矩阵的行（或列）不再是正交归一的，而是部分正交归一的。在信号处理和图像处理领域，次酉矩阵因其稀疏性而受到欢迎，这使得计算更加高效，同时还能保持重要的数学性质。