1951年8月，休宁县设人民检察署，1954年12月，改称休宁县人民检察院。1968年检察院被撤销。1978年6月，休宁县人民检察院恢复重建，现办公大楼位于休宁县新城区内黄山南路，为五层建筑，占地2920平方米。2017年根据中央编办、最高人民检察院安排部署，在部分地区市县两级人民检察院进行内设机构大部制改革试点工作。休宁县人民检察院作为安徽省33个改革试点基层院，于2017年9月完成内设机构改革。此次改革以突出一线办案为特点，以整合机构设置、优化职能配置、推行扁平化管理为主线展开，坚持统筹协调，提高司法效率。内设机构整合后设三部一局一室（现职务犯罪侦防局已整体转隶至监察委）。整合原公诉科、侦查监督科为刑事检察部，主要履行公诉、侦查监督职能；整合原控告申诉科、监所检察科、民事行政检察科为诉讼监督部，主要履行民事行政检察、公益诉讼、刑事执行检察、控告、刑事申诉、国家赔偿等职能；整合原案件管理中心、检察技术科为综合业务部，主要履行案件管理、法律政策研究、检察技术等职能；整合原政治处、办公室、计划装备科为综合办公室，统一负责综合行政、财务、后勤管理等工作；整合原反贪污贿赂局、反渎职侵权局、职务犯罪预防科为职务犯罪侦防局，现该部门已整体转隶至监察委。按照休宁县纪委统一部署，设立派驻纪检组，行使纪检监察职责。此外，我院保留了原派驻海阳镇检察室，作为促进检力下沉的平台，服务群众，维护基层稳定。

一流的环境和一流的工作创造了一流的业绩：近年来多次在全市检察系统目标管理考评中被评为“先进单位”，并先后荣获全省检察系统“人民满意检察院”和基层院规范化建设“先进检察院”，多次被县双拥工委评为“拥军优属先进单位”，为休宁县的政治安定社会稳定和经济发展发挥了应有的作用。