我国目前尚未制定专门用来规范行政调解的法律或行政法规。有关行政调解的规定大致包括三个方面：（1）在少数行政管理领域内，法律法规将相关民事纠纷作为行政调解的对象，比如资源权属纠纷、电信纠纷、消费纠纷、医疗纠纷、离婚纠纷、因民间纠纷引起的轻微人身损害或财物损毁纠纷、专利及著作权等知识产权纠纷、道路交通事故纠纷等。（2）一些地方政府对包括行政调解在内的行政程序，或者单独就行政调解所制定的政府规章或者规范性文件，比如2008年4月9日湖南省人民政府第4次常务会议通过的《湖南省行政程序规定》（湖南省人民政府令第222号），2009年8月28日四川省人民政府办公厅《关于加强行政调解工作的意见》，2011年5月12日北京市人民政府办公厅《关于进一步加强本市行政调解工作的意见》等。（3）国务院为全面实施依法行政、加强法治政府建设而颁布的规定，比如国务院《全面推进依法行政实施纲要》（国发〔2004〕10号），《国务院关于加强法治政府建设的意见》（国发〔2010〕33号）。
仅在原则上规定可以进行调解。比如《中华人民共和国著作权法》规定，著作权纠纷可以调解。此类规定并未涉及行政调解的效力，不是本文讨论的重点。对调解不成的，规定为可以向人民法院提起民事诉讼。找律师网指比如《中华人民共和国专利法》规定，专利工作的管理部门可以就侵犯专利权的赔偿数额进行调解，调解不成的，当事人可以依照《中华人民共和国民事诉讼法》向人民法院起诉。这种规定符合通理，亦是较为常见的。由于在调解不成的情况下也未真正涉及到行政调解的效力问题，故此类情形也不作为本文议论的重点。
对达成调解协议后出现的相关情形的规定，直接关乎行政调解的效力。法律猫解释对此，相关规定出现了几种体现行政调解效力有所差异的不同表述：明确规定达成调解协议后不履行的，当事人可向人民法院提起民事诉讼。比如《中华人民共和国治安管理处罚法》规定，对于因民间纠纷引起的轻微人身损害或财物损毁等情节较轻的违反治安管理行为，经调解未达成协议或者达成协议后不履行的，公安机关在依法进行行政处罚的同时，告知当事人可以就民事争议向人民法院提起民事诉讼。《中华人民共和国道路交通安全法》规定，对交通事故损害赔偿的争议，经公安机关交通管理部门调解，当事人未达成协议或者调解书生效后不履行的，当事人可以向人民法院提起民事诉讼。这类规定，使行政调解的效力处于最低层次。