本发明公开一种基于概率排序的低复杂度存储空间约束检测方法,它主要应用于采用差分调制以及多符号检测算法的MIMO通信系统中,其特征在于:利用杰斯特拉概率排序算法(DSPS)和简单化的存储检测器(MCTS)的优势来降低检测复杂度以及对存储空间的需求。设置存储空间M,根据DSPS算法将传统度量值进行数学统计概率的转换,利用MCTS得到自树根开始的节点候选分支集合及对应的概率统计判决度量值,然后根据MCTS保留存储度量值最小的M条路径,在这M条路径的基础上继续进行计算,得到该层保留节点的候选分支集合和度量值,直到到达路径的最末分支得到最佳的解。本发明能够极大地减少浮点计算次数,从而降低了计算复杂度。