行政单位按照构成，主要分为六个部分：①国家权力机关，即各级人民代表大会及其常务委员会，我国的国家权力机关是人民代表大会，最高的国家权力机关是全国人民代表大会。②各级行政机关，即中央政府、地方政府、基层政府的各级机关，国家的派出机构。③各级审判机关和检察机关，即各级人民法院和各级人民检察院。④政党组织，包括中国共产党、各民主党派以及共青团、妇联、公会等。⑤接受国家预算拨款的人民团体。按照严格意义上来说，人民团体其实是不属于行政单位的，但是由于团体中的经费来源主要是通过国家财政预算拨款，所以才将人民团体划分在行政单位范围之内。⑥国家规定的其他单位或组织。事业单位的构成可以按照《关于分类推进事业单位改革的指导意见》（中发［2011］5号）规定，事业单位按照社会功能，可以分为行政性事业单位、经营性事业单位和公益性事业单位。其中，行政性事业单位指承担行政决策、行政执行、行政监督等职能的事业单位；经营性事业单位是指所提供的产品或服务可以由市场资源配置、不承担公益服务职责的事业单位；公益性事业单位是指面向社会提供公益服务和为机关行使职能提供支持保障的事业单位。根据此次事业单位分类改革，除了公益性事业单位保留其事业单位序列外，其他两类事业单位将逐渐退出事业单位序列。其中，行政性事业单位将逐渐归于行政机构，或者转为行政机构，经营性事业单位逐步转为企业或者撤销。
在此次改革中，根据职责任务、服务对象和资源配置方式等情况，尚留在事业单位序列的公益性事业单位又细分为公益一类和公益二类。其中，公益一类是指承担义务教育、基础性科研、公共文化、公共卫生及基层的基本医疗服务等基本公益服务，不能或不宜由市场配置资源的事业单位。
划入公益一类，一般需同时具备以下三个条件：一是面向社会提供基本公益服务；二是不能或不宜由市场配置资源；三是宗旨、职能任务和服务规范由国家确定，不从事经营活动。公益二类是指承担高等教育、非营利医疗等公益服务，可部分由市场配置资源的事业单位。