毫米波通信具有丰富的频谱资源，可以支持多千兆的无线接入，但是毫米波通信具有非常高的路径损耗，容易发生阻塞现象，尤其是在密集的城市环境。为了解决这一问题，引入了智能反射面(IRS)这一新技术，来增加反射路径，提高毫米波通信的性能。主要探讨IRS 辅助下的毫米波系统，推导出引入IRS 的平均可达速率，并对比分析了这一技术与传统放大转发(AF)中继系统的性能差。分析表明当反射元件的数量达到一定值时，IRS 系统的平均可达速率高于AF 中继系统。并且得到了反射元件的最优值，来使IRS 系统的能量效率最高。仿真验证了推导公式的正确性，并显示，当反射元件的数量取最优值时，随着可达速率的增大，系统的能量效率增大。

为了进一步提高频谱效率，在大规模多输入多输出(MIMO)系统中引入了非正交多址 (NOMA)，然而当基站与用户之间的信道较差时，这很难保证用户的频谱效率。为解决这一问题，探讨了基于智能反射表面(IRS)的大规模 MIMO-NOMA系统，来保证用户的频谱效率。具体地，首先考虑了 IRS辅助的大规模 MIMO-NOMA系统模型。然后根据簇头选择算法，为每个波束选择一个簇头来设计模拟预编码。之后，根据等效信道的相关性对用户进行分组，选择在每个波束中等效信道增益最强的用户来设计数字预编码。最后联合优化基站的功率分配和 IRS的相移矩阵，来保证用户频谱效率的公平性，即最大化最小频谱效率。仿真结果表明，与没采用 IRS的大规模 MIMO-NOMA系统相比，IRS辅助的大规模 MIMO-NOMA系统可显著改善最弱用户的频谱效率。

透镜天线阵列下毫米波大规模多输入多输出(MIMO)系统通过波束选择可以大大减少所需的射频链数目, 解决系统硬件成本和能耗过高的问题, 然而, 波束选择需要基站端获取准确的信道状态信息。对此, 文章首先利用波束空间的结构特性, 采用基于支持检测(SD)的信道估计方案, 以较低的导频开销和计算复杂度对大尺寸信道进行更加可靠的估计；其次受仿生学中蚁群优化(ACO)算法的启发, 文章提出了一种基于SD估计信道的ACO波束选择方案, 该方案既能有效地避免用户间波束的干扰, 又能最大限度地提高系统和速率；最后, 仿真结果表明, 该方案能够得到计算复杂度显著降低的近优解, 在提高系统和速率方面优于现有方案。

为改善现有可见光通信中光正交频分复用(OFDM)系统的性能,提出了一种新型的光空间调制OFDM系统,该系统使用哈特莱变换代替傅里叶变换,降低了近一半的计算复杂度;同时采用一种复-实转换函数在频域将复数符号转换为实数符号,去除了哈特莱变换中实星座映射的限制,极大地增加了系统的灵活性;最后利用两个发光二极管(LED)区分时域信号的正、负极性并分别进行传输,提高了系统的频谱效率和功率效率;相较于其他基于LED的光空间调制OFDM,可以在不损失系统可靠性的同时,增加系统设计的灵活性,大幅降低计算复杂度。此外,针对LED和PD(光电检测器)对称放置的情况,提出了利用接收信号功率直接判别传输信号极性的方法;针对非对称情况提出了一般极性判别法,这两种方法相较于传统的迫零检测法,都能够有效改善系统的误码性能,采用64进制正交振幅调制(64QAM),误比特率(BER)为10 ^-4时,系统性能均提高了约2.9 dB。

针对由于室内照度不均匀导致的通信性能不均衡的问题，提出基于一种新型的启发式优化算法——鲸鱼优化算法（WOA）的LED布局设计方案，即利用WOA算法的收敛速度快、全局寻优能力强、求解效率高等优点对LED布局进行优化。首先，以室内照度均匀度为目标函数，迭代优化得到LED布局；其次，根据优化后的布局，对室内光照度、接收功率、误码率进行仿真分析；最后，将WOA算法和遗传算法（GA）的收敛曲线进行比较。在布置有4个LED阵列的房间中，经WOA算法优化布局的照度均匀度比GA算法提高了12.8%，平均接收功率优于GA算法0.659 8 dBm，并且WOA算法的收敛速度更快，最终收敛值更优。因此，考虑照明和通信，WOA算法是更好的选择。

可见光通信具有环保、安全和能耗低等优点，是第5代移动通信的一个强有力补充。针对多小区多用户多输入多输出可见光通信系统中小区间干扰的问题，文章提出使用基于棱镜阵列的非成像接收机作为接收设备，并讨论了两种多小区划分方案来降低小区间干扰的影响,第1种是动态小区，第2种是非动态小区。仿真结果表明，经过光电探测器选择后，这两种方案都能有效地消除小区间干扰的影响。当用户处于干扰区时，动态小区方案的误比特率（BER）性能更优，但是其计算复杂度较高。当用户都处于非干扰区时，这两种方案的BER性能相同。

文章在室内多小区可见光通信（VLC）系统中设计了一种使用视场角（FOV）不同的两种光电二极管（PD）的角度分集光接收机（2FOV-ADR），并且以面积频谱效率（ASE）最大化为目标进一步对接收机进行参数优化，包括接收机PD的仰角以及采用的合并方式。考虑了4种合并方案，即等增益合并（EGC）、选择合并（SBC）、最大比合并（MRC）和最小均方误差（MMSE）合并。作为对比，也仿真了单PD接收机（SR）和传统角度分集接收机（ADR）的室内信干噪比（SINR）分布及ASE性能。仿真结果表明，2FOV-ADR极大地改善了室内SINR分布，相比于单PD接收机和传统ADR，小区边缘位置处的SINR分别得到30和20 dB的改善，并且在不同用户数下，2FOV-ADR都具有最高的ASE。因此，2FOV-ADR可以实现比单PD接收机和传统ADR更优的性能。

设计了一种在室内可见光MIMO通信系统(MIMO-VLC)中使用具有两个不同视场角(FOV)的光电二极管(PD)的角度分集光接收机(2FOV-ADR),其兼具两个不同视场角的接收机(2-FOV)和传统角度分集接收机(ADR)的优点,实现了更优的接收性能。对将LED灯用作数据发射器的典型室内可见光通信场景进行仿真,结果表明,2FOV-ADR均衡器输出端的最小信噪比(minSNR)要高于2-FOV接收机和传统ADR,实现了室内97%的位置的minSNR在45 dB以上,相比于前两种接收机,这一比例分别提高了96%和32%。最后,对使用非对称限幅光正交频分复用(ACO-OFDM)作为调制方案的系统,计算总误码率(BER),给出了迫零和最小均方误差均衡器的结果。结果表明,对于所考虑的室内位置,2FOV-ADR都具有最低的误码率。

小区间干扰严重影响了多小区系统的性能，为了降低小区间干扰的影响，研究了多小区多用户多输入多输出可见光通信(MIMO-VLC)系统的性能，使用基于孔的角度分集接收机作为接收设备，通过选择合适的LED配置，对干扰区进行了优化，并讨论了2种多小区实现方案:第一种是动态小区划分；第二种是光电探测器选择(PDS)消除小区间干扰。仿真结果表明:当小区中有用户处于干扰区时，对于这个小区中的用户，动态小区划分方法的误码率(BER)性能更优，但这个小区中用户的位置会对其它小区中用户的性能产生影响，并且其计算复杂度较高；对于PDS消除小区间干扰方法，一个小区中用户的BER性能不受其它小区用户位置的影响，其计算复杂度较低；当用户都处于非干扰区时，这2种方法的BER性能相同。