为了进一步提高频谱效率，在大规模多输入多输出(MIMO)系统中引入了非正交多址 (NOMA)，然而当基站与用户之间的信道较差时，这很难保证用户的频谱效率。为解决这一问题，探讨了基于智能反射表面(IRS)的大规模 MIMO-NOMA系统，来保证用户的频谱效率。具体地，首先考虑了 IRS辅助的大规模 MIMO-NOMA系统模型。然后根据簇头选择算法，为每个波束选择一个簇头来设计模拟预编码。之后，根据等效信道的相关性对用户进行分组，选择在每个波束中等效信道增益最强的用户来设计数字预编码。最后联合优化基站的功率分配和 IRS的相移矩阵，来保证用户频谱效率的公平性，即最大化最小频谱效率。仿真结果表明，与没采用 IRS的大规模 MIMO-NOMA系统相比，IRS辅助的大规模 MIMO-NOMA系统可显著改善最弱用户的频谱效率。

在大规模多输入多输出(massive MIMO)系统中使用天线选择算法可提高能效和系统吞吐量，然而适用于传统 MIMO系统的天线选择算法具有高复杂度，很难用于 massive MIMO系统。为优化天线选择算法，以算法复杂度和系统容量为优化目标，提出了收发联合阈值天线选择算法。该算法在发射端使用最大范数双向天线选择算法进行天线选择，在接收端使用分组 maxvol算法并通过仿真实验结果的预设阈值进行天线选择。仿真实验表明，收发联合阈值天线选择算法在降低复杂度的同时可以提高系统容量，与递增天线选择算法相比，系统容量最多可提高 52.2 bit/s/Hz。提出的天线选择算法可以满足不同天线相关度和信噪比的传输环境。

毫米波大规模多输入多输出(MIMO)系统具有更多的射频链路, 带来更大的功耗, 接收端使用低分辨率模数转换器(ADC)可有效解决功耗高的问题。针对低分辨率ADC引起接收信号幅度失真, 进而影响信道估计准确性的问题, 文章提出了一种基于优化的两阶段毫米波信道估计算法。第1阶段, 根据量化后的接收信号确定采样后的接收信号取值范围, 并将其作为约束条件构造优化问题, 利用l1范数衡量向量稀疏度估计波达方向; 第2阶段, 根据估计的波达方向, 使用Bussgang分解模型近似非线性量化过程, 得到信道复增益的最小二乘估计。仿真结果表明, 所提算法准确性比目前最先进的算法提升了约5 dB, 且算法复杂度降为线性。由此可见, 所提算法在有效性和可靠性方面均有较大提升, 具有实用价值。

针对大规模多输入多输出(MIMO)系统中线性最小均方误差(MMSE)信号检测算法复杂的高维矩阵求逆难以用于实际工程的问题,文章基于矩阵分块思想并结合Neumann级数展开算法,提出了一种低复杂度的混合迭代算法。利用MMSE算法中加权矩阵逆矩阵的Neumann级数二阶展开作为其分块矩阵求逆的迭代初始值,可以有效提高算法收敛速度。仿真结果表明,该方法能以较少迭代次数逼近传统MMSE算法较优检测性能,并降低计算复杂度。

最小均方误差(MMSE)检测器在大规模多输入多输出(MIMO)系统中实现了较优的误码率(BER)性能,但其涉及高复杂度的大规模矩阵求逆运算,因此对硬件要求很高。针对这一问题,文章提出了一种预处理的广义加权高斯赛德尔(GS)(GW-PGS)迭代算法。在该算法中,首先提出了基于预处理的初始化方案,在不增加额外复杂度的情况下加快了收敛速度。此外,文章还提出了自适应的加权因子方案。实验结果表明,与传统GS算法相比,文章所提算法能够有效降低BER和计算复杂度。

毫米波大规模多输入多输出系统依赖于准确的信道状态信息，然而毫米波的高频率使得用于信道估计的时间变短，以往单独利用其波束域的稀疏性或天线域的低秩特性的高复杂度估计算法不再可行。因此提出了一种新的估计算法，该算法结合了稀疏和低秩两种特性，将信道估计看作矩阵完备问题，利用基于增广拉格朗日交替方向非精确牛顿法进行求解。经仿真验证，该算法具有更快的收敛速度和更高的准确度。

针对宏微协同组网下小区间无线资源管理问题, 文章提出一种大规模多入多出系统下基于微小区分簇的联合传输和动态频谱分配策略, 该策略分两步执行以优化网络加权和速率。首先, 所提算法根据各用户当前的信道状态执行微小区分簇, 以尽可能地降低小区间干扰, 提升系统容量。接着, 宏基站和各微小区簇根据所服务用户当前的业务请求信息分别为其动态分配子载波, 以最大化网络加权和速率, 并提升资源利用率。仿真结果显示, 该文提出的微小区分簇和动态频谱分配策略能在尽可能降低宏微协同组网中用户间干扰的同时, 有效地提升系统吞吐量。

针对毫米波和传统蜂窝频段场景下频谱效率和传输可靠性较低的问题，文章提出了一种三维散射簇多天线信道模型以分析大规模多输入多输出(MIMO)系统性能。文章假设仰角和方位角分别遵循拉普拉斯和Von-Mises分布，推导出均匀平面阵列天线各单元之间空间相关系数的解析表达式，最后建立MIMO多天线系统模型并分析其系统性能。研究了仰角功率谱中不同角度扩展对均匀平面阵列衰落相关性和信道容量的影响，以及不同信噪比和天线阵元数对频谱效率的影响。分析结果与传统的均匀线性阵列进行比较表明，在毫米波场景下，均匀平面阵列比均匀线性阵列更适用于大规模MIMO系统，这使未来的移动网络工作在不同频段和蜂窝小区成为可能。

透镜天线阵列下毫米波大规模多输入多输出(MIMO)系统通过波束选择可以大大减少所需的射频链数目, 解决系统硬件成本和能耗过高的问题, 然而, 波束选择需要基站端获取准确的信道状态信息。对此, 文章首先利用波束空间的结构特性, 采用基于支持检测(SD)的信道估计方案, 以较低的导频开销和计算复杂度对大尺寸信道进行更加可靠的估计；其次受仿生学中蚁群优化(ACO)算法的启发, 文章提出了一种基于SD估计信道的ACO波束选择方案, 该方案既能有效地避免用户间波束的干扰, 又能最大限度地提高系统和速率；最后, 仿真结果表明, 该方案能够得到计算复杂度显著降低的近优解, 在提高系统和速率方面优于现有方案。