（一）我国国家行政机关同国家权力机关、国家审判机关、国家检察机关等共同构成国家机构的整体，它们都是行使国家权力、执行国家职能的重要工具，它们都接受中国共产党的政治领导，实行民主集中制，并对人民负责，受人民监督。这些都是国家行政机关和其他国家机关的共同点。但是，国家行政机关在行使国家权力的职能范围和活动方式等方面与其他国家机关又有着显著的区别。我国各级国家权力机关实行会议制，国家行政机关则实行首长负责制。在我国，领导、组织和管理国家行政事务是国家行政机关特有的任务，这些职能是其他国家机关所不具有的。为了完成行政管理任务，根据宪法、法律的规定，国家行政机关有权制定行政法规范、采取各种行政措施，这也是国家审判机关、检察机关所不具有的。在我国，人民法院、人民检察院和国家行政机关都是国家法律的执行机关，但它们的职权不同、执法的方式也有所区别。人民法院和人民检察院执行法律具有一定程度的被动性，即只有出现违法犯罪行为时，法院、检察院才对既成事实通过司法程序进行处理，而国家行政机关的执法活动则大量表现为主动的、积极的行政行为。
（二）国家行政机关与企业、事业单位以及社会团体最根本的区别在于；企事业单位和社会团体都不属于国家机构体系，它们都不能行使国家权力。社会团体是群众性组织，它的章程和决议只能约束本团体成员，社会团体一般根据自愿申请并履行必要手续接受其为成员并可自由退出该团体，这同国家行政机关所采取的行政措施和制定的行政法律规范对全社会成员都具有约束力且带有国家强制性是不一样的。