目前，我国煤炭开采仍然属于传统生产方式。大部分煤炭开采区是在采煤矿井被废弃后才开始治理和修复生态环境，煤炭开采对生态环境造成的累积负效应日益增大，由此引发的经济、环境和社会矛盾越来越尖锐。各级政府已通过确立指导原则、颁布相关政策、筹集资金等方式直接或间接地参与到矿区生态环境治理工作中，但是实际效果并不理想。本文运用文献分析法和结构化系统分析方法，在深入剖析陕西榆林煤炭开采区生态环境破坏现状的基础上，突破目前学者对于制度、体制与机制研究的视角，从“制度”概念解析出发，结合在榆林煤炭开采区实地调研的文字、影像和数据资料，运用系统工程的原理，采用“逐层分解”的思想对复杂系统进行分解并分析，构建了煤炭开采区生态补偿他组织体制的基本框架，并对其向自组织体制进化的条件和路径进行了分析；绘制出了完整的榆林煤炭开采区生态补偿机制框架，模拟了煤炭开采区生态补偿机制这一复杂系统内部的作用流程和机理及向自组织演化的基本过程，并提出了保障机制组织运行的基本措施。以此为政府相关部门制定煤炭开采区生态补偿政策提供理论依据。本文通过上述研究工作得出如下结论：1）煤炭开采区的生态补偿制度是调整因煤炭开采造成生态环境破坏引起的生态补偿责任主体与生态补偿客体之间的环境利益、经济利益和社会利益的分配关系的规则。它包括煤炭开采区的生态补偿产权规则、煤炭开采区的生态补偿体制和煤炭开采区的生态补偿机制；2）通过建立煤炭开采区生态补偿他组织体制，依靠外部指令的强制干预矫正目前已经形成的各补偿主体间被扭曲的利益关系；通过生态补偿内部作用机制的有效运行，煤炭开采区生态补偿的他组织体制就会向自组织体制转化，从而形成高级有序的、可自我完善和自我进化的煤炭开采区生态补偿体制；3）包括生态补偿责任确立机制、生态补偿范围界定机制、生态补偿标准确定机制、生态补偿方式选择机制和生态补偿运行保障机制在内的煤炭开采区生态补偿机制，在经过动态演化和不断自我完善后，能够形成由内部决策机制与反馈机制、外部监督与评估机制共存的自我进化和自我升级的煤炭开采区生态补偿自组织机制。