自旋-轨道耦合作用下近藤晶格中物相、相变及拓扑性质的理论研究

In topological Kondo insulators (such as SmB6) and non-centrosymmetric heavy-fermions superconductors (such as CePt3Si), the spin-orbit coupling may induce non-trivial topological phases and unique quantum phase transitions. Based on previous works on heavy-fermion systems, we first adapt the mean-field theory, variational Monte Carlo method and quantum Monte Carlo simulation on the Anderson lattice model and Kondo lattice model, to study the Kondo effect, the surface states, the phase evolutions and phase transitions arising from the spin-orbit coupling in topological Kondo insulators, focusing on the experimental observed magnetic phase transition and topological phase transition. We also study the superconducting paring mechanism and paring symmetry of the non-centrosymmetric heavy-fermion superconductors in the context of spin-orbit coupling, then investigate the interplay between superconductivity and magnetism, to draw the phase diagram among the antiferromagnetic phase, superconducting phase and possible their coexisting phase. This project may improve the theoretical understanding of the phases, phase transitions and topological character induced by the spin-orbit coupling in topological Kondo insulator and non-centrosymmetric heavy-fermion superconductors, and may provide deeper supports to future experimental exploration in related materials.

在拓扑性近藤绝缘体如SmB6和非中心对称性重费米子超导体如CePt3Si中，自旋-轨道耦合可能导致拓扑型物相的出现，并可能产生特殊的相变过程。基于项目组在重费米子领域的前期工作基础，本项目拟采用平均场理论、变分蒙特卡罗方法、量子蒙特卡罗模拟等方法，利用Anderson晶格模型和近藤晶格模型，首先研究在自旋-轨道耦合的作用下，拓扑性近藤绝缘体中的近藤效应、物相及表面态的拓扑性质，并研究随体系参数变化下的相变过程，解释实验观测到的磁性相变和拓扑相变；其次研究在自旋-轨道耦合的影响下，非中心对称性重费米子超导体的微观超导配对机制及其配对对称性，并研究磁性和超导的相互作用过程，给出包含反铁磁相和超导相及其共存相的相图。本项目预期将提升对拓扑性近藤绝缘体和非中心对称性重费米子超导体中的物相、相变以及拓扑性质的理论理解，并对相关材料的实验研究做出一定的理论参考。

拓扑材料的探索和发现是最近十余年来凝聚态物理的重要突破，其中对无相互作用或弱关联的拓扑体系已经进行了较深入的研究，而对强关联拓扑体系的了解还很欠缺。其中SmB6等拓扑性近藤绝缘体作为一类新发现的强关联拓扑材料已成为重要的研究体系。拓扑性近藤绝缘体中自旋-轨道耦合、近藤耦合、磁性关联发生相互影响，将产生与通常的近藤绝缘体及拓扑绝缘体均不同的拓扑型物相及特殊的相变过程，因此成为拓扑材料中强关联效应研究的理想载体。本项目利用拓扑性Anderson晶格模型和近藤晶格模型，采用隶玻色子理论等方法研究了自旋-轨道耦合及近藤耦合的共同作用，发现体系在一定条件下将出现多种拓扑型近藤绝缘态，包括四种强拓扑绝缘相和两种弱拓扑绝缘相，它们之间可发生丰富的拓扑相变过程。另外，本项目还发现，在一定条件下，拓扑性近藤绝缘态可发生磁性相变，产生一种强关联的反铁磁拓扑绝缘相，其遵循独特的Z2拓扑分类方法。此外，在一定条件下，拓扑近藤绝缘体还会发生剧烈的价态转变过程。这些拓扑相变、磁性相变、价态转变都可以用统一的相图描述。本项目的结果不仅可以定性解释SmB6等材料在高压下发生的磁性相变、价态变化行为，而且提升了对拓扑性近藤绝缘体中近藤效应、物相及相变、拓扑性质的理论认识，对相关材料的实验研究给出一定理论参考。