chương I thông tư số 427/TTLB ngày 28.1963 của VKSNDTC và Bộ Công an đã quy định: "…Viện kiểm sát sẽ trực tiếp điều tra một số loại phạm pháp về kinh tế và trị an xã hội mà kẻ phạm pháp và hành vi vi phạm đó tương đối rõ ". Năm 1978, Vụ điều tra thẩm cứu được thành lập trên cơ sở Phòng điều tra thẩm cứu VKSNDTC. Còn ở VKS địa phương thì công tác điều tra thuộc nhiệm vụ của các đơn vị kiểm sát điều tra (Điều 5 Pháp lệnh ngày 16/4/1962 và Pháp lệnh sửa đổi ngày 15/01/1970). Đến năm 1981, Luật tổ chức VKSND được ban hành, thẩm quyền điều tra của VKSND đã được quy định rõ ràng hơn.
Theo quy định tại khoản 1 Điều 10 Luật tổ chức VKSND năm 1981 thì: ".Trong trường hợp do pháp luật quy định thì Viện kiểm sát nhân dân trực tiếp tiến hành điều tra". Đó là các vụ án do Viện trưởng VKS cấp trên giao và các vụ án Viện trưởng VKS 16 thấy cần thiết phải trực tiếp điều tra theo quy định tại Thông tư số 01/TTLB ngày 23.1984 giữa VKSNDTC và Bộ nội vụ (nay là Bộ công an) về quan hệ giữa hai ngành Kiểm sát và Công an trong công tác điều tra và kiểm sát điều tra. Trên thực tế, các trường hợp cần thiết được xác định là: Do yêu cầu chính trị và cấp ủy giao hoặc khi xét thấy các vụ án do cơ quan Công an điều tra không được khách quan, toàn diện, cán bộ điều tra vi phạm pháp luật tới mức nếu để họ tiếp tục điều tra sẽ dẫn đến oan sai, bỏ lọt tội phạm và dư luận xã hội không đồng tình. Để thực hiện nhiệm vụ này, từ năm 1984, ngoài Vụ điều tra thẩm cứu tại VKSNDTC, Viện trưởng VKSNDTC ra quyết định thành lập 04 Phòng điều tra thẩm cứu ở các VKSND Thành phố Hồ Chí Minh, Hà Nội, Hải Phòng và Quảng Nam - Đà Nẵng.
VKS địa phương các cấp cũng đã tiến hành các hoạt động điều tra; cách tổ chức thực hiện hoạt động điều tra thời điểm đó là khi cần thiết thì thành lập một tổ để điều tra và người thực hiện điều tra là các cán bộ, Kiểm sát viên của Phòng kiểm sát điều tra kiêm nhiệm thực hiện. Như vậy giai đoạn 1960 – 1988 đánh dấu mốc quan trọng trong lịch sử TTHS, bằng việc Hiến pháp, pháp luật quy định thẩm quyền điều tra của VKSND, trong đó đơn vị trực tiếp làm nhiệm vụ điều tra là Vụ điều tra thẩm cứu. Hoạt động điều tra của VKSND có tính độc lập tương đối hơn so với trước đây góp phần tăng cường hiệu quả trong công tác đấu tranh phòng, chống tội phạm, tránh làm oan người vô tội. Giai đoạn 1988-2003 (theo quy định của Bộ luật Tố tụng hình sự năm 1988) BLTTHS đầu tiên của nước ta - BLTTHS năm 1988 đã quy định rõ CQĐT của VKSND là một trong hệ thống các CQĐT.
Theo quy định tại khoản 3 Điều 92 BLTTHS 1988 quy định về thẩm quyền điều tra của CQĐT VKSND là: Cơ quan điều tra của Viện kiểm sát nhân dân điều tra trong những trường hợp sau đây, khi Viện trưởng xét thấy cần thiết: 17 a) Khi phát hiện việc điều tra có vi phạm pháp luật nghiêm trọng; b) Khi tiến hành kiểm sát việc tuân theo pháp luật, phát hiện những vụ phạm tội rõ ràng, không cần thiết phải chuyển cho cơ quan điều tra khác; c) Khi phát hiện tội phạm trong hoạt động tư pháp; Viện trưởng Viện kiểm sát nhân dân tối cao có thể giao cho cơ quan điều tra của Viện kiểm sát nhân dân điều tra trong những trường hợp khác. Cụ thể hóa quy định trên, thông tư số 79-VKSND/TT ngày 15/9/1989 của Viện trưởng VKSNDTC ban hành đã hướng dẫn cụ thể thế nào là "những việc mà Viện trưởng VKS xét thấy cần thiết" là: Trường hợp Cơ quan điều tra khác điều tra nhưng có vi phạm pháp luật hoặc làm oan, bỏ lọt tội phạm; thông qua công tác kiểm sát chung mà phát hiện thấy có dấu hiệu tội phạm; một số tội phạm trong hoạt động tư pháp và những vụ án khác do Viện trưởng xét thấy cần thiết và tiến hành xác minh những vụ án theo trình tự tái thẩm thuộc thẩm quyền kháng nghị của Viện trưởng VKS. Để phù hợp với quy định của pháp luật, Vụ điều tra thẩm cứu VKSND tối cao được đổi tên thành Cục điều tra. Từ đây, CQĐT VKSND đã trở thành hệ thống CQĐT chuyên trách, độc lập trong hoạt động tố tụng và có sự phân cấp về thẩm quyền điều tra bao gồm: VKSNDTC và VKSND cấp tỉnh (không còn ở VKSND cấp huyện).
Với sự ra đời của BLTTHS 1988 đã mở rộng thẩm quyền điều tra của CQĐT VKSND, đảm bảo quyền chủ động cho CQĐT VKSND trong việc thực hiện thẩm quyền điều tra các vụ án hình sự, hạn chế các vi phạm pháp luật xảy ra trong quá trình tiến hành tố tụng, góp phần làm trong sạch bộ máy tư pháp. Tuy nhiên, đến năm 2000 với định hướng cải cách tổ chức và hoạt động của cơ quan tư pháp theo tinh thần tại Thông báo số 136/TB-TW ngày 25.1996 của Bộ Chính trị, Chỉ thị số 01 ngày 10.2000 của Viện trưởng 18 VKSNDTC về công tác điều tra của CQĐTVKSND thì thẩm quyền của CQĐT VKSND đã có sự thay đổi, cụ thể: Thực hiện đổi mới Cơ quan điều tra của Viện kiểm sát nhân dân theo hướng tăng cường tổ chức và hoạt động của Cục điều tra thuộc Viện kiểm sát nhân dân tối cao, chỉ để lại phòng điều tra Viện kiểm sát cấp tỉnh ở những nơi xét thấy thật cần thiết. Cơ quan điều tra của Viện kiểm sát nhân dân chỉ tập trung vào việc điều tra tội phạm xâm phạm hoạt động tư pháp mà người phạm tội là cán bộ của các cơ quan tư pháp [51, tr. Như vậy, giai đoạn 1988 - 2003 với sự ra đời của BLTTHS năm 1988 và các văn bản pháp luật khác, CQĐT VKSND đã trở thành hệ thống CQĐT chuyên trách, độc lập trong hoạt động TTHS.
BLTTHS năm 1988 đã quy định cụ thể và rõ ràng thẩm quyền của CQĐT VKSND. Tuy thẩm quyền của CQĐT VKSND đã có sự thay đổi theo hướng thu hẹp thẩm quyền từ năm 2000, nhưng nhìn chung hoạt động của CQĐT VKSND thời kỳ này đã góp phần hạn chế việc vi phạm pháp luật của các cơ quan và người tiến hành tố tụng, củng cố lòng tin của nhân dân đối với Đảng, Nhà nước và các cơ quan bảo vệ pháp luật. Giai đoạn 2003 đến 2014 (theo quy định của Bộ luật Tố tụng hình sự năm 2003) Đến BLTTHS năm 2003, quy định về phân cấp thẩm quyền điều tra của VKSND có sự thay đổi, cụ thể các phòng điều tra cấp tỉnh đều giải thể, CQĐT của VKSND chỉ được tổ chức ở VKSNDTC (Cục điều tra) để phù hợp theo tinh thần chủ trương cải cách tư pháp của Đảng tại Nghị quyết số 08/NQ- TW của Bộ Chính trị, với định hướng VKS không thực hiện chức năng kiểm sát chung (kiểm sát việc tuân theo pháp luật trong lĩnh vực hành chính, kinh tế). Vì vậy, thẩm quyền điều tra của CQĐT VKSND đã bị thu hẹp hơn rất nhiều so với BLTTHS 1988, cụ thể tại khoản 3 Điều 110 BLTTHS 2003 quy 19 định: "Cơ quan điều tra của Viện kiểm sát nhân dân tối cao điều tra một số loại tội xâm phạm hoạt động tư pháp mà người phạm tội là cán bộ thuộc các cơ quan tư pháp".
Nhằm thống nhất thực hiện quy định của BLTTHS năm 2003 về thẩm quyền điều tra của CQĐT VKSND, nâng cao hiệu quả công tác điều tra, đáp ứng yêu cầu đấu tranh phòng, chống tội phạm trong tình hình mới, Viện trưởng VKSNDTC đã ban hành Quy chế tổ chức và hoạt động của Cục điều tra ban hành kèm theo Quyết định số 1169/QĐ-VKSTC-C6 ngày 19.2010 (gọi tắt là Quy chế 1169), thì CQĐT VKSNDTC có thẩm quyền điều tra các tội phạm sau đây:(1) Các xâm phạm hoạt động tư pháp quy định tại Chương XXII của BLHS mà người phạm tội là cán bộ của các cơ quan tư pháp khi các tội phạm đó thuộc thẩm quyền xét xử của TAND; (2) Các tội phạm có nguồn gốc phát sinh từ việc thực thi nhiệm vụ, quyền hạn của cán bộ các cơ quan tư pháp hoặc liên quan đến việc thực thi nhiệm vụ, quyền hạn của cán bộ các cơ quan tư pháp hoặc liên quan đến việc thực thi nhiệm vụ, quyền hạn của cán bộ các cơ quan tư pháp trong quá trình tiến hành tố tụng (hình sự, dân sự, hành chính, kinh tế, lao động.) ở các giai đoạn điều tra, truy tố, xét xử và thi hành án; (3) Hành vi phạm tội hoặc người thực hiện hành vi phạm tội có liên quan đến vụ án thuộc thẩm quyền điều tra của CQĐT VKSNDTC đang khởi tố, điều tra. Mặc dù chỉ là quy chế nhưng do nội dung quy chế đã thể hiện cụ thể, rõ ràng thẩm quyền điều tra của CQĐT VKSNDTC, được quy định của BLTTHS và được định nghĩa trong khái niệm tội phạm XPHĐTP tại Điều 292 BLHS, đã tạo ra hành lang pháp lý cho thẩm quyền điều tra của CQĐT VKSNDTC. Với những đóng góp tích cực cho công cuộc cải cách tư pháp, đặc biệt là trong chống oan, sai, ngày 29/7/2013 Quốc hội đã ban hành Nghị quyết số 640/NQ-UBTVQH13 phê chuẩn việc đổi tên gọi của Cục điều tra VKSNDTC 20 thành CQĐT VKSNDTC. Đó cũng là thể hiện sự chính quy, hiện đại, góp phần tăng thêm uy thế trong thực hiện thẩm quyền điều tra của một CQĐT có đối tượng điều tra đặc biệt (có trình độ hiểu biết về pháp luật, tố tụng…) mà quá trình điều tra các tội phạm này hết sức khó khăn, gặp nhiều trở ngại.
Như vậy, giai đoạn 2003 – 2014, thẩm quyền của CQĐT VKSND đã được quy định rõ ràng hơn, CQĐT VKSND có thẩm quyền điều tra một số loại tội xâm phạm hoạt động tư pháp được quy định tại Chương XXII (Điều 292 đến Điều 314) BLHS 1999 và những loại tội phạm có nguồn gốc phát sinh hoặc liên quan đến thực thi nhiệm vụ của những người có chức danh pháp lý thuộc các cơ quan tư pháp (Điều tra viên, Kiểm sát viên, Thẩm phán, Chấp hành viên) và người tiến hành tố tụng khác thuộc các ngành CAND, VKS, TAND, THA các cấp được quy định trong các bộ luật, luật tố tụng khi họ thực hiện nhiệm vụ hoặc tiến hành tố tụng đối với vụ án hình sự, dân sự, hành chính, kinh tế, lao động…ở bất cứ giai đoạn nào. Hoạt động của CQĐT VKSND thời kỳ này đã chuyển sang một bước ngoặt mới góp phần nâng cao hiệu quả công tác điều tra tội phạm của VKSND, đáp ứng yêu cầu đấu tranh phòng, chống tội phạm.