毫米波Massive-MIMO系统中，单用户下行链路通信场景如图1所示。基站配备$N_t^{{\rm{RF}}}$个射频链和${N_t}$根天线，满足${N_t} \geqslant N_t^{{\rm{RF}}} \geqslant {N_s}$。用户接收机配备${N_r}$根天线和$N_t^{{\rm{RF}}}$个射频链，满足${N_r} \geqslant N_r^{{\rm{RF}}} \geqslant {N_s}$，${N_s}$为系统传输的数据流数量。

图  1  单用户毫米波Massive-MIMO系统模型

毫米波通道采用扩展的Saleh-Valenzuela几何模型^[4]。信道转移矩阵${{H}}$可以表示为：

式中，${( \cdot )^H}$表示复共轭转置运算；$L$为传播路径数；${\alpha _i} \sim {\rm{CN}}(0,{\rm{1/}}L)$为毫米波信道第$i$条传播路径的独立同分布复增益；$\theta _i^r$和$\theta _i^t \in [ - {\text π} {\rm{/2}},{\text π}{\rm{/2}}]$为相应路径电磁波的到达角(angles of arrival, AoAs)和离开角(angles of departure, AoDs)；${{{a}}_r}({\theta ^r})$和${{{a}}_t}({\theta ^t})$为对应发射端和接收端阵列响应矢量，并采用均匀线性阵列(uniform linear array, ULAs)，可分别表示为：

式中，$\lambda $是信号波长；$d$是天线单元之间的距离。

模拟预编码${{{F}}_{{\rm{RF}}}}$和模拟合并器${{{W}}_{{\rm{RF}}}}$的元素都由移相器实现，并具有恒定幅度和量化相位。${{{F}}_{{\rm{RF}}}}\left( {i,j} \right) = {{\rm{e}}^{{\rm{j}}{\theta _{i,j}}}}{\rm{/}}\sqrt {{N_t}}$，其中${{{F}}_{{\rm{RF}}}}(i,j)$表示矩阵${{{F}}_{{\rm{RF}}}}$的第$i$行$j$列个元素，$\theta $被量化为${\theta _{i,j}} \in \mathbb{B} \triangleq $$\left\{ {\dfrac{{2{\text π} b}}{{{2^B}}}\left| {b = 1,2, \cdots ,} \right.{2^B}} \right\} $，${\rm B}$是量化bit数，${{{F}}_{{\rm{RF}}}}\left( {i,j} \right) \in {\cal{F}} \triangleq \left\{ {{{\rm{e}}^{{\rm{j}}\frac{{2{\text π} b}}{{{2^B}}}}}{\rm{/}}\sqrt {{N_t}} \left| {b = 1,2, \cdots ,} \right.{2^B}} \right\}$。${{{W}}_{{\rm{RF}}}}$中的元素与${{{F}}_{{\rm{RF}}}}$具有相同的约束，${{{W}}_{{\rm{RF}}}}\left( {i,j} \right) \in {\cal{W}} \triangleq$$ \left\{ {{{\rm{e}}^{{\rm{j}}\frac{{2{\text π} b}}{{{2^B}}}}}{\rm{/}}\sqrt {{N_r}} \left| {b = 1,2, \cdots ,} \right.{2^B}} \right\} $。

图1为毫米波Massive-MIMO通信系统，在下行链路的传输中，基站传送给用户数据矢量为${{s}} \in {\mathbb{C}^{{N_s} \times 1}}$，用户收到的信号须经模拟合并器和数字合并器处理，可表示为：

式中，$P$为基站发射功率；${{{F}}_{{\rm{BB}}}} \in {\mathbb{C}^{N_t^{{\rm{RF}}} \times {N_s}}}$是基带数字预编码矩阵；${{{F}}_{{\rm{RF}}}} \in {\mathbb{C}^{{N_t} \times N_t^{{\rm{RF}}}}}$为模拟预编码矩阵；${{{W}}_{{\rm{RF}}}} \in {\mathbb{C}^{{N_r} \times N_r^{{\rm{RF}}}}}$和${{{W}}_{{\rm{BB}}}} \in {\mathbb{C}^{N_r^{{\rm{RF}}} \times {N_s}}}$分别为模拟合并器和数字合并器；${{n}} \sim {\rm N}\left( {0,{\sigma ^{\rm{2}}}{{{I}}_{{N_r}}}} \right)$表示接收到的复高斯噪声。为了简化设计，仅考虑基站的混合预编码设计。并通过收发信号间互信息的最大化来设计混合预编码^[4]，由式(4)可得对应的互信息解析式：

由式(5)可知基站混合预编码器的优化问题能够建模为：

式中，${\rm{Tr}}( \cdot )$表示求方阵的迹；${\rm{Tr}}({{{F}}_{{\rm{RF}}}}{{{F}}_{BB}}{{F}}_{BB}^{\rm{H}}{{F}}_{RF}^{\rm{H}}) \leqslant P$表示为模拟预编码矩阵与数字预编码矩阵的功率上限值。式(6)的优化目标函数是多变量约束优化问题，可先求得模拟预编码，再求解数字预编码设计。

在大规模天线情况下，最优${{{F}}_{{\rm{BB}}}}$总是满足${{{F}}_{{\rm{BB}}}}{{F}}_{{\rm{BB}}}^{\rm{H}} \propto {{I}}$^[6]，采用等功率分配时，在高信噪比中可得到最佳比例常数，即得${{{F}}_{{\rm{BB}}}}{{F}}_{{\rm{BB}}}^{\rm{H}} \approx {\beta ^2}{{I}}$，其中${\beta ^2}{\rm{ = }}P{\rm{/}}\left( {{N_t}N_t^{{\rm{RF}}}} \right)$。假设${{{F}}_{{\rm{BB}}}}{{F}}_{{\rm{BB}}}^{\rm{H}} = {\beta ^2}{{I}}$，将其代入式(6)并令${{D}} = {{{H}}^{\rm{H}}}{{H}}$，可得模拟预编码${{F}}_{{\rm{RF}}}^ * $优化目标函数：

为了降低运算复杂度，将优化解${{F}}_{{\rm{RF}}}^ * $分解为对应射频链的模拟预编码矢量${{f}}_{{\rm{RF}},l}^{}$后分别求解。若矩阵${{D}}$的奇异值分解为${{D}} = {{U\Sigma }}{{{V}}^{\rm{H}}}$，则${{f}}_{{\rm{RF}},l}^{}$的优化目标函数可表示为：

式中，${{{G}}_l} \triangleq \overline U {\left( {\alpha {{{I}}_{Ns}} + \overline {{\Sigma }} {{\overline {{V}} }^{\rm{H}}}{{{F}}_{{\rm{RF}},\backslash l}}{{F}}_{{\rm{RF}},\backslash l}^{\rm{H}}\overline {{U}} } \right)^{ - 1}}\overline {{\Sigma }} {\overline {{V}} ^{\rm{H}}}$为包含干扰的信道矩阵；$\alpha $是一个很小的标量，确保可逆性；${{{F}}_{{\rm{RF}},\backslash l}}$表示${{{F}}_{{\rm{RF}}}}$中不包含第$l$列，${{{f}}_{{\rm{RF}},l}}$表示${{{F}}_{{\rm{RF}}}}$的第$l$列；$\overline {{U}} \triangleq {{U}}\left( {:,1:K} \right)$，$\overline {{V}} \triangleq {{V}}\left( {:,1:K} \right)$，$\overline {{\Sigma }} \triangleq {{\Sigma }}( 1:K,$$1:K )$。若通过穷举搜索求解该优化问题，则算法复杂度为$O({{\cal{F}}^{{N_t}}} \times {{\cal{F}}^{{N_t}}})$，具有指数特性。鉴于毫米波Massive-MIMO信道的的稀疏性，以低秩矩阵表示干扰信道${{{G}}_l}$，以进一步降低计算复杂度，并获取算法性能和复杂度的性能折衷^[10]。

假设矩阵${{{G}}_l}$特征值分解为：

式中，${\lambda _i}$和${{{q}}_i}$分别表示特征值和特征向量。基于上述分析，仅保留最大的2阶秩矩阵特征矢量以降低运算复杂度，则近似可得${{{G}}_l} \approx {\lambda _{\rm{1}}}{\left( {{{{q}}_{\rm{1}}}} \right)^2}{\rm{ + }}{\lambda _{\rm{2}}}{\left( {{{{q}}_{\rm{2}}}} \right)^2}$，则式(8)可近似表示为：

式中，${{z}} \triangleq {\lambda _1}{{{q}}_1} + {\rm{j}}{\lambda _2}{{{q}}_2}$为复数向量。籍此，通过穷举搜索算法求解式(10)优化矢量的计算复杂度可降为$O({{\cal{F}}^{{N_t}}})$。然而，在大规模天线MIMO系统中，优化算法对应的计算复杂度仍然很高。

为了降低优化矢量${{f}}_{{\rm{RF}},l}^ * $的计算复杂度，同时提高编码性能，提出改进相位迭代的模拟预编码优化矢量${{f}}_{{\rm{RF}},l}^ * $求解算法。该算法通过迭代搜索得到${{{f}}_{{\rm{RF}},l}}$中的标量元素在条件约束下的最佳相位。假设${\theta _{l,u}}\left( {u = 1,2, \cdots ,{N_t}} \right)$为模拟预编码矢量${{{f}}_{{\rm{RF}},l}}$对应元素的连续相位，则${{{f}}_{{\rm{RF}},l}}$最优的连续相位${\hat \theta _{l,u}}$可表示为：

式中，${\rm{angle}}\left\{ \cdot \right\}$表示提取复数的角度，对相位${\hat \theta _{l,u}}$量化，对应移相器的最优的离散相位$\tilde \theta _{l,u}^*$为：

然后通过迭代算法设计${{{f}}_{{\rm{RF}},l}}$，直到${{{f}}_{{\rm{RF}},l}}$每个元素的最优离散相位$\tilde \theta _{l,u}^*$都收敛。下面证明该算法可得最优模拟预编码矢量，即式(10)可等效为：

证明：1)求${\hat \theta _{l,{\rm{1}}}}$，为简化求解，暂不考虑式(13)的常数系数${\rm{1/}}\sqrt {{N_t}} $，则求和公式可展开为$\max \left| {\displaystyle\sum\limits_{u{\rm{ = 2}}}^{{N_t}} {{{\rm{e}} ^{ - {\rm{j}}{\theta _{l,u}}}}{{z}}\left( u \right)} {\rm{ + }}{{\rm{e}} ^{ - {\rm{j}}{\theta _{l,1}}}}{{z}}\left( 1 \right)} \right|$。可见，当第一项$\displaystyle\sum\limits_{u{\rm{ = 2}}}^{{N_t}} $${{{\rm{e}}^{ - {\rm{j}}{\theta _{l,u}}}}{{z}}\left( u \right)}$的相位与第二项${{\rm{e}} ^{ - {\rm{j}}{\theta _{l,1}}}}{{z}}\left( 1 \right)$的相位相等时，式(13)可取得最大值，此时可得最优的${\hat \theta _{l,{\rm{1}}}}{\rm{ = }}{\rm{angle}} $$\left\{ {\displaystyle\sum\limits_{u{\rm{ = 2}}}^{{N_t}} {{{\rm{e}}^{ - {\rm{j}}{\theta _{l,u}}}}{{z}}\left( u \right)} } \right\}{\rm{ - angle}}\left( {{{z}}\left( 1 \right)} \right)$。

2)求${\hat \theta _{l,u}}$，将${\hat \theta _{l,{\rm{1}}}}$其代入式(13)，可通过迭代方法分别求得${\hat \theta _{l,u}}$，但由于求和部分的重复计算，使得循环复杂度过高，为简化上述的计算复杂度，令式(13)所有展开项相位相等，即${\rm{angle}}\left\{ {{{\rm{e}} ^{ - {\rm{j}}{\theta _{l,{\rm{1}}}}}}{{z}}\left( {\rm{1}} \right)} \right\} = $${\rm{angle}}\left\{ {{{\rm{e}} ^{ - {\rm{j}}{\theta _{l,{\rm{2}}}}}}{{z}}\left( {\rm{2}} \right)} \right\}{\rm{ = }} \cdots {\rm{ = angle}}\left\{ {{{\rm{e}} ^{ - {\rm{j}}{\theta _{l,{N_t}}}}}{{z}}\left( {{N_t}} \right)} \right\} $以此降低复杂度，同时保证式(13)的最大化。此时最优连续相位${\widehat \theta _{l,u}}$为：

相应可得低精度移相器最优的离散移相为$\tilde \theta _{l,u}^* = \arg {\kern 1pt} {\kern 1pt} {\kern 1pt} \mathop {{\kern 1pt} {\kern 1pt} {\kern 1pt} \min }\limits_{\;{{\tilde \theta }_{l,u}} \in \mathbb{B}} \left| {{{\hat \theta }_{l,u}} - {{\tilde \theta }_{l,u}}} \right|$，最后迭代${{{f}}_{{\rm{RF}},l}}$每个元素的相位直到取得收敛。

在上述模拟预编码优化解求解过程中，由于$\arg \max {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} \left\{ \cdot \right\}$函数返回值对应最大的自变量，所以优化目标函数${{f}}_{{\rm{RF}},l}^ * = \arg {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} \max {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} \left\{ {\left| {{{f}}_{_{{\rm{RF}},l}}^{\rm{T}}{{z}}} \right|} \right\}$具有单调递增特性，并且${\kern 1pt} {{{f}}_{{\rm{RF}},l}}(i) \in {\cal{F}}{\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} ({\kern 1pt} i = 1, 2, \cdots ,{N_t})$集合有限，因此，目标函数存在上界，故而提出的算法能保证其收敛性，并可收敛至局部最优解。

为了进一步降低硬件成本，并提高硬件效率，通过构造候选波束集方法，得到移相器量化精度为1 bit的模拟预编码向量${{f}}_{{\rm{RF}},l}^ * $的优化算法。为此，引入辅助变量$\psi \in \left[ {{\rm{ - }}{\text{π}} ,{\text{π}} } \right]$，将式(10)的优化问题转化为：

式中，${\mathop{\rm Re}\nolimits} \left\{ \cdot \right\}$表示提取复数的实部；${\vartheta _i}$为${{z}}(i)$的角度。对任意的$\;\psi \in \left[ { - {\text π} ,{\text π} } \right]$，最优的${{f}}_{{\rm{RF}},l}^ * (i) = \dfrac{1}{{\sqrt {{N_t}} }}{\rm{sgn}} (\cos (\psi - {\vartheta _i})),$$ i = 1,2, \cdots ,{N_t}$。此时可构造一个小尺度候波束选集合${{\cal{F}}_l} \triangleq \left\{ {{{{f}}_{l,1}}, \cdots ,{{{f}}_{l,{N_t}}}} \right\}$，其中最优的${{f}}_{{\rm{RF}},l}^ * \in {{\cal{F}}_l}$^[10]。式(10)可等效为：

此时求解式(16)仅多项式复杂度，即可得最优模拟预编码${{f}}_{{\rm{RF}},l}^ * $。

模拟预编码向量${{F}}_{{\rm{RF}}}^ * $优化算法的具体步骤如下：

1)初始化$l = 1$，${{{F}}_{{\rm{RF}}}} = {{0}}$；

2)当$l < {N_t}$，计算${{{G}}_l}$，然后秩−2矩阵近似得到${{{G}}_l} \approx {\lambda _{\rm{1}}}{\left( {{{f}}_{_{{\rm{RF}} ,l}}^{\rm{H}}{{{q}}_{\rm{1}}}} \right)^2}{\rm{ + }}{\lambda _{\rm{2}}}{\left( {{{f}}_{_{{\rm{RF}} ,l}}^{\rm{H}}{{{q}}_{\rm{2}}}} \right)^2}$，定义复数向量${{z}} \triangleq {\lambda _1}{{{q}}_1} + {\rm{j}}{\lambda _2}{{{q}}_2}$，即可得优化函数${{f}}_{{\rm{RF}} ,l}^ * = \arg\max $$\left\{ {\left| {{{f}}_{_{{\rm{RF}} ,l}}^{\rm{H}}{{z}}} \right|} \right\}$。否则跳转到步骤4)；

3)利用算法1(或算法2)求解${{f}}_{{\rm{RF}} ,l}^ * $。然后$l = l + 1$，跳转到步骤2)；

4)如果${{F}}_{{\rm{RF}} }^ * $收敛，则直接输出。否则$l = 1$并跳转到步骤2)。

基站求得模拟预编码${{{F}}_{{\rm{RF}}}}$后，可得等效信道${{{H}}_e} = {{H}}{{{F}}_{{\rm{RF}}}}$，代入式(6)，则数字预编码${{F}}_{{\rm{BB}}}^{}$的优化目标函数可表示为：

式中，${{Q}} = {{F}}_{{\rm{RF}}}^{\rm{H}}{{{F}}_{{\rm{RF}}}}$，优化问题(17)可用注水方案求得${{{F}}_{{\rm{BB}}}} = {{{Q}}^{ - 1/2}}{{{U}}_e}{{{\Gamma }}_e}$，其中${{{U}}_e}$是${{{H}}_{ef}}{{{Q}}^{ - 1/2}}$的右奇异向量集合，对应最大的${N_s}$个奇异值，${{{\Gamma }}_e}$是数据流对应的功率分配矩阵，其${{{\Gamma }}_e} \approx \sqrt {P/{N^{{\rm{RF}}}}} {{I}}$^[6]。

模拟合并器${{W}}_{{\rm{RF}}}^*$的优化问题与求解模拟预编码类似，确定混合预编码${{{F}}_{{\rm{RF}}}}{{{F}}_{{\rm{BB}}}}$和模拟合并器${{W}}_{{\rm{RF}}}^*$后，采用MMSE方法获取最优数字合并器${{W}}_{{\rm{BB}}}^{\rm{*}}$^[11]。

为了方便性能分析比较，假定射频链数目${N^{{\rm{RF}}}}{\rm{ = 6}}$和发送端天线数目${N_t}{\rm{ = 64}}$。所提改进相位迭代的模拟预编码算法，在迭代操作前，对矩阵${{G}}$执行SVD计算的复杂度为$O(N_t^3)$。每次迭代中计算${Q_l}$的计算复杂度为$O({N^{{\rm{RF}}}}{N_t})$，内部循环具有的复杂度为$O(N_t^2)$。因此，改进相位迭代的模拟预编码算法的复杂度为$O\left( {N_t^3 + N_{{\rm{iter}}}^0N_{{\rm{iter}}}^i{N^{{\rm{RF}}}}\left( {{N^{{\rm{RF}}}}{N_t}{\rm{ + }}N_t^2} \right)} \right)$，其中$N_{{\rm{iter}}}^0$和$N_{{\rm{iter}}}^i$分别表示外部迭代和内部迭代的次数，分别为2～4次和3～6次。

在构造候选波束集的模拟预编码算法中，首先对${Q_l}$进行特征值分解，对应的计算复杂度为$O(N_t^3)$，之后排序操作的计算复杂度为$O({N_t}{\log _2}{N_t})$。最后模拟预编码选择的计算复杂度为$O(N_t^2)$，因此构造候选波束集的模拟预编码算法的计算复杂度为$O\left( {N_t^3 + {N_{{\rm{iter}}}}{N^{{\rm{RF}}}}\left( {{N_t}{{\log }_2}{N_t}{\rm{ + }}N_t^2} \right)} \right)$，其中${N_{{\rm{iter}}}}$为2～4次。

将本文算法与混合波束形成方法(hybrid beamforming, HBF)^[6]和相位迭代匹配算法(IPMAN)^[9]的计算复杂度进行对比，如表1所示。

其中，混合波束形成方法${N_{{\rm{iter}}}}$为3～6次，相位迭代匹配算法中，$N_{{\rm{iter}}}^{\rm{0}}$为2～5次，$N_{{\rm{iter}}}^i$为3～8次。从表1可以看出本文算法近似于混合波束形成方法的计算复杂度，并且明显低于相位迭代匹配算法的计算复杂度。

仿真实验环境的相关参数设置如下：基站发射机和用户接收机都配备64根天线ULA阵列，发射机和接收机射频链数目均为${N^{{\rm{RF}}}} = 6$，并且数据流数也假设为${N_s} = 6$，以确保空间复用的效率，发射机和用户之间传播路径数$L = 6$，天线间距为$d = \lambda /2$。

为了验证本文提出的低分辨率移相器算法的性能，将与已有的低分辨率混合预编码算法性能进行比较，包括正交匹配追踪(orthogonal matching pursuit, OMP)算法^[4]，IPMAN算法^[9]，基于SVD完全数字波束形赋型方法，基于相位交替(PE-AltMin)的无限精度(B=∞)移相器混合预编码算法^[12]。算法1为改进相位迭代的模拟预编码算法，采用2 bit分辨率移相器，算法2为基于构造候选波束集的模拟预编码算法，采用1 bit分辨率移相器。

图2为频谱效率随信噪比的变化曲线。从图中可以看出，算法1性能接近无限分辨率移相器性能，并且算法1和算法2在2 bit和1 bit相位分辨率下的性能均远优于OMP算法且与IPMAN算法近似相同。表明本文算法在低分辨率情况下具有较优的频效性能。这主要是由于本文算法将模拟预编码优化矩阵分解为列向量逐个求解，并采用2阶秩矩阵近似得到次优的优化函数，相比IPMAN算法中的仅保留最大秩的矩阵特征矢量，本文算法能从信道中获取更多的信道状态信息。

图3为频谱效率随天线数量的变化曲线，从图中可以看出算法1和算法2的性能均远优于OMP算法且近似IPMAN算法。表明所提算法在大规模天线的情况下依然保持很好的性能优势。这是因为本文算法比IPMAN算法保留更多的矩阵特征矢量信息，并采用改进的相位迭代方法得到最优相位。

图  2  频谱效率与SNR

图  3  频谱效率与天线数目(SNR=10 dB)

图4为算法2与最优穷举搜索方法进行比较，由于穷举搜索方法的指数复杂度，这里选择发射机和用户的天线数为8，数据流数为${N_s}{\rm{ = 1}}$。算法2通过构造候选波束集求模拟预编码矩阵，相比穷举搜索方法有更少的计算复杂度，从图中可以看出，算法2获得的频谱效率与最优穷举搜索方法近似相同，这表明算法2在低计算复杂度情况下，同时可以提供近似最优的性能。

为了验证所提算法在多用户场景中的的性能，将其拓展到多用户下进行性能仿真，并与已有的HBF算法^[6]和IPMAN算法^[9]进行性能比较，同时使用基于SVD的完全数字预编码作为性能基准。

图5为和速率随SNR的变化曲线，用户数为4。已知所提算法在单用户场景下，求解最优的模拟预编码矩阵和模拟合并器矩阵具有较优的性能。从图中可以看出相位分辨率为2 bit时算法1性能优于IPMAN算法和HBF算法，并且相位分辨率为1 bit时算法2的性能接近对比算法为2 bit相位分辨率的性能，表明本文算法在多用户场景下的性能更好。

图  4  频谱效率与SNR

图  5  和速率与SNR

图6为和速率随用户数的变化曲线，信噪比为20 dB。本文算法与IPMAN算法和HBF算法相比，在求解最优的模拟预编码矩阵和模拟合并器矩阵上具有性能优势，并结合最小均方误差(minimum mean squared error, MMSE)准则获得基带合并器数字预编码矩阵，以进一步消除用户间干扰。从图中可以看出相位分辨率为2 bit时算法1的性能优于IPMAN算法和HBF算法，在用户数较少时与对比算法性能近似，当用户数$K > 5$时明显优于对比算法。由此可见，本文算法1随着用户增长依然能取得很好的性能优势。

图  6  和速率与用户数

在毫米波Massive-MIMO系统中，针对低精度移相器的模拟预编码算法运算复杂度高的问题，提出改进的相位迭代混合预编码算法，采用将模拟预编码优化矩阵分解为列向量逐个求解，并用2阶秩矩阵近似得到次优的优化函数，以此降低计算复杂度。同时，采用构造候选波束集方法的设计移相器量化精度为1 bit的模拟预编码，来最大化硬件效率。最后仿真结果表明，所提算法优于现有的混合预编码算法性能。