利用某些特殊子群的性质来研究有限群的结构是近年来众多学者研究的重点课题之一，文献[1]利用子群的S-拟正规嵌入性给出了有限群为p-幂零群的一个充分条件，推广了已有的结论. 文献[2]刻画了Conway单群和Fischer单群. 文献[3]确定了共轭类个数取最小值的2³p阶群的具体结构. 在这基础上，本文继续研究某些特殊子群的性质对有限群结构的影响.

设G是有限群，H≤G，如果对任意g∈G有H^g∩H=H，1，则称H为G的TI-子群. 设H≤G，则H≤N_G(H)≤G. 如果N_G(H)=G，则H⊴G，且H是G的TI-子群. 如果H=N_G(H)，且H是TI-子群，则G是Frobenius群，H是G的Frobenius补. 显然，Frobenius群的Frobenius补是TI-子群. 近年来，越来越多的学者研究在特定条件下某些子群是TI-子群的有限群的结构. 文献[4]研究了所有非交换子群是TI-子群的有限群的结构. 文献[5]研究了所有交换子群是TI-子群的有限群的结构. 文献[6]对所有非亚循环群皆为TI-子群的有限群进行了完全分类.

设H≤G，如果C_G(H)≤H，则称H为自中心化子群. 近几年来，众多学者研究了自中心化子群满足特定性质的有限群，并得到了一系列的结论. 文献[7-8]研究了所有非交换自中心化子群是TI-子群或次正规子群的有限群的结构，并得到：如果有限群G的所有非交换自中心化子群是TI-子群或次正规子群，则G的非交换子群皆次正规于G. 文献[9]研究了所有自中心化子群皆正规的有限群，得到：有限群G的所有自中心化子群皆正规当且仅当G是幂零类长不超过2的幂零群. 此外，文献[9]还得到：有限群G的所有自中心化子群皆次正规当且仅当G的每个子群皆次正规于G.

本文主要研究非幂零自中心化子群对有限群结构的影响，并得到了一些有意义的结果. 本文考虑的群都是有限群，使用的符号和术语都是标准的(参见文献[10]).

引理1^[11]   设H≤G，则N_G(H)是G的自中心化子群.

引理2^[9]   设G是群，H≤G，如果K是H的自中心化子群，则$\mathop K\limits^ \wedge $ =〈K，C_G(K)〉是G的自中心化子群，且：

(i) $\mathop K\limits^ \wedge $ ∩H=K；

(ii) N_G($\mathop K\limits^ \wedge $)∩H≤N_H(K).

引理3   设G的每个非幂零自中心化子群是TI-子群或次正规子群，K≤G，则K的每个非幂零自中心化子群是K的TI-子群或次正规子群.

证   设L是K的非幂零自中心化子群，根据引理2知$\mathop L\limits^ \wedge $ =〈L，C_G(L)〉是G的自中心化子群. 假设$\mathop L\limits^ \wedge $是幂零的，由L≤$\mathop L\limits^ \wedge $知L是幂零的，矛盾. 故$\mathop L\limits^ \wedge $是非幂零的，从而根据假设，$\mathop L\limits^ \wedge $是G的TI-子群或次正规子群.

若$\mathop L\limits^ \wedge $◁◁G，则L⊴$\mathop L\limits^ \wedge $◁◁G，从而L◁◁G，因此L◁◁K.

若$\mathop L\limits^ \wedge $是G的TI-子群，则对任意g∈G，有$\mathop L\limits^ \wedge $ ∩$\mathop {{K^g}}\limits^ \wedge $ =$\mathop L\limits^ \wedge $，1. 由K≤G知，对任意k∈K，有$\mathop L\limits^ \wedge $ ∩$\mathop {{K^k}}\limits^ \wedge $ =$\mathop L\limits^ \wedge $，1. 若$\mathop L\limits^ \wedge $ ∩$\mathop {{K^k}}\limits^ \wedge $ =1，则由引理2有

从而L是K的TI-子群. 若$\mathop L\limits^ \wedge $ ∩$\mathop {{K^k}}\limits^ \wedge $ =$\mathop L\limits^ \wedge $，则

从而L是K的TI-子群.

引理4^[12]   设G是群，则下述结论等价：

(i) G是幂零群；

(ii) 若H < G，则H < N_G(H)；

(iii) G的每个极大子群M⊴G(这时|G∶M|是素数)；

(iv) G的每个Sylow p-子群都是正规的，因而G是它的诸Sylow子群的直积.

引理5^[13]   Frobenius群的所有Frobenius补共轭.

引理6^[13]   设G是Frobenius群，K是G的Frobenius核，H为G的Frobenius补，则：

(i) K幂零；

(ii) 若p>2，则H的Sylow p-子群循环；若p=2，则H的Sylow p-子群循环或为广义四元数群.

引理7^[14]   设G是群，H◁◁G且H的阶为合数，如果存在H到G的合成列

使得对每个1≤i≤s，G_i是G的TI-子群，且G_i-1/G_i是素数阶循环群，则H⊴G.

定理1   设群G的每个非幂零自中心化子群是TI-子群或次正规子群，则G的每个非幂零子群皆次正规于G.

证   设K是G的一个非幂零子群，若K◁◁G，则结论成立. 假设K非次正规于G，选择K是G的极大非幂零且非次正规的子群.

假设C_G(K)⊈K，则K < $\mathop K\limits^ \wedge $ =〈K，C_G(K)〉. 根据引理2，$\mathop K\limits^ \wedge $是自中心化的. 因为$\mathop K\limits^ \wedge $非幂零，所以由K < $\mathop K\limits^ \wedge $ =〈K，C_G(K)〉≤G及K的极大性知$\mathop K\limits^ \wedge $◁◁G. 又因K◁$\mathop K\limits^ \wedge $，则K◁◁G，矛盾. 故C_G(K)≤K，从而K是G的自中心化子群.

假设K < N_G(K)，由引理1知N_G(K)是G的自中心化子群. 假设N_G(K)是幂零群，由K < N_G(K)知K幂零，矛盾. 因此N_G(K)非幂零，从而由K的极大性知N_G(K)◁◁G. 又由K◁N_G(K)知K◁◁G，矛盾. 故K=N_G(K)，从而K是G的非幂零自中心化子群. 又因K非次正规于G，由假设知K是G的TI-子群，故G是Frobenius群，且K是G的Frobenius补. 设N是G的Frobenius核，则G=N⋊K，即G是N和K的半直积.

设K₁是K的极大子群，假设K是素数阶群，则K循环，从而K交换，因此K幂零，矛盾. 故K不是素数阶群，从而K₁≠1，且N⋊K₁是G的非幂零极大子群. 若N⋊K₁⋬ G，则N⋊K₁非次正规于G，且N⋊K₁是自中心化的，从而由假设知N⋊K₁是G的TI-子群，因此N⋊K₁也是G的Frobenius补，由引理5知，存在x∈G，使得K=(N⋊K₁)^x，则

矛盾. 于是对K的每个极大子群K₁有

由引理4知K幂零，矛盾，即K非次正规于G不成立.

定理2   设群G的每个非循环自中心化子群是TI-子群或次正规子群，则G的每个非循环子群皆次正规于G.

证   因为任意非交换自中心化子群必是非循环自中心化子群，所以G的每个非交换自中心化子群是TI-子群或次正规子群. 根据文献[7]的定理1.1知G的每个非交换子群皆次正规于G.

设H是G的非循环子群. 反证法，假设H非次正规于G，选择H是G的极大非循环且非次正规的子群.

假设C_G(H)⊈H，则H < $\mathop H\limits^ \wedge $ =〈H，C_G(H)〉. 根据引理2知$\mathop H\limits^ \wedge $是自中心化的. 因为$\mathop H\limits^ \wedge $非循环，所以由H < $\mathop H\limits^ \wedge $ = 〈H，C_G(H)〉≤G及H的极大性知$\mathop H\limits^ \wedge $◁◁G. 又因H◁$\mathop H\limits^ \wedge $，则H◁◁G，矛盾. 故C_G(H)≤H，从而H是G的自中心化子群.

因H≤G，N_G(H)≤G，则H≤N_G(H). 若H < N_G(H)，由引理1知N_G(H)自中心化，且N_G(H)非循环，从而由H的极大性知N_G(H)◁◁G. 又由H◁N_G(H)知H◁◁G，矛盾. 故H=N_G(H). 由H是G的TI-子群和H=N_G(H)知，G为关于子群H的Frobenius群，H为G的Frobenius补. 因为G的每个非交换子群皆次正规于G，则H交换，从而H幂零，于是由引理4知，H为它的诸Sylow子群的直积. 又由引理6及H交换知，H的Sylow子群皆为循环群，从而由文献[12]第一章的习题3.1知H循环，矛盾. 因此G的每个非循环子群皆次正规于G.

定理3   设G是非幂零群，如果G的每个非幂零自中心化子群是TI-子群或次正规子群，则G可解.

证   假设结论不成立，设G为极小阶反例. 设K≤G，由引理3知K的每个非幂零自中心化子群是TI-子群或次正规子群，则由G的极小性知K是可解的. 假设G的每个极大子群幂零，则由文献[13]的定理9.19知G可解，矛盾. 故存在G的极大子群非幂零. 不妨设M为G的非幂零极大子群，假设M⊴G，则G/M只有平凡子群1和G/M，从而由文献[12第一章的习题1.19知G/M必为素数阶循环群，因此G/M可解. 又因M可解，于是G可解，矛盾. 故M⋬ G. 显然M非次正规于G. 由M的极大性及M⋬ G知M=N_G(M)，则由引理1知M为G的非幂零自中心化子群，从而由假设知M是G的TI-子群，因此G是Frobenius群，M为G的Frobenius补. 不妨设N为G的Frobenius核，则由引理6知N幂零，从而N可解. 又因G/N≅M，则G/N可解，从而G可解，矛盾. 因此G可解.

定理4   设G是非幂零群，如果G的所有非幂零自中心化子群是TI-子群，则G的每个非幂零自中心化子群皆正规于G.

证   反证法，假设存在G的非幂零自中心化子群K，使得K⋬ G. 由K⋬ G知N_G(K) < G. 考虑群列

如果存在正整数r使得N_G(K_r)=G，则K_r⊴G. 设G=K_r+1，因为

则K◁◁G. 由Schreier加细定理知K在G的某个合成列中出现. 不妨设

是从K到G的合成列. 因K是自中心化的且K≤G_t，0≤t≤s，则每个G_t皆是自中心化的. 由假设知G_t是G的TI-子群. 又因K非幂零且K⋬ G，则K≠1，且K的阶为合数. 由引理7及定理3知K⊴G，矛盾. 故N_G(K_r) < G.

假设不存在r使得K_r=N_G(K_r)，则对∀r，K_r < N_G(K_r) < G，从而

因此

又因N_G(K_r)和K_r皆为G的TI-子群且K_r⋬ G，则

显然K_r∩K_r^g < N_G(K_r)∩N_G(K_r)^g不成立，矛盾. 故存在正整数r，使得K_r=N_G(K_r). 由引理1知K_r是自中心化的，又由K非幂零知K_r非幂零，则由假设知K_r是TI-子群，从而G是Frobenius群，K_r是G的非幂零Frobenius补. 设N是G的Frobenius核，则G=N⋊K_r，即G是N和K_r的半直积.

设L是K_r的极大子群，则N⋊L是G的非幂零极大子群. 若N⋊L⋬ G，则N⋊L非次正规于G，且N⋊L是自中心化的，从而由假设知N⋊L是G的TI-子群，这说明N⋊L⊴G，矛盾. 因此N⋊L⊴G. 由子群的模律有

由引理4知K_r幂零，矛盾. 因此G的每个非幂零自中心化子群皆正规于G.

定理5   设G是非幂零群，K是G的任一非幂零自中心化子群，如果K⊴G，或存在子群L正规于G，使得L是以极大子群K为Frobenius补的Frobenius群，则G的所有非幂零自中心化子群是TI-子群.

证   设K是G的任一非幂零自中心化子群，则只需证K是G的TI-子群.

若K⊴G，则K^g=K，显然K是G的TI-子群.

若K⋬ G，则由假设知存在L⊴G，使得K是L的极大子群，且K是L的Frobenius补，即有K^x∩K=1(∀x∈L\K). 显然K^g是L^g的极大子群，而

则K^g是L^g的Frobenius补. 又因L⊴G，则L^g=L(∀g∈G)，从而K^g是L的Frobenius补. 由引理5知，存在y∈L使得K^y=K^g. 又由K是L的Frobenius补知K^l∩K=1(∀l∈L\K)，则K^y∩K=K，1，从而K^g∩K=K，1(∀g∈G)，故K是G的TI-子群.