Устав Босне и Херцеговине успоставио је надлежност тужилаштава на ентитетском нивоу, док је Тужилаштво Босне и Херцеговине успостављено накнадно као институција с посебном надлежношћу за поступање пред Судом Босне и Херцеговине у кривичним дјелима прописаним Законом о Суду БиХ, Законом о Тужилаштву БиХ, Кривичним законом БиХ, Законом о кривичном поступку БиХ, Законом о уступању предмета од стране Међународног кривичног суда за бившу Југославију Тужилаштву БиХ.
Надлежност и подручје дјеловања Тужилаштва прописани су Законом о Тужилаштву Босне и Херцеговине, према којем је Тужилаштво:
Тужилаштво БиХ је sui generis институција, и није надређено ентитетским тужилаштвима него је његова надлежност ограничена на процесуирање кривичних дјела прописаних горе наведеним законима.
Друга тужилаштва у БиХ успостављена су у складу с постојећoм политичко-административнoм организацијом Босне и Херцеговине тако да је:
Федерално тужилаштво Ф БиХ "врховно" тужилаштво за десет кантоналних тужилаштава с подручја Ф БиХ.
Републичко тужилаштво РС је "врховно" тужилаштво за пет окружних тужилаштава на подручју Републике Српске.
Јавно тужилаштво Брчко дистрикта БиХ је надлежно за подручје Дистрика.
Шема организације свих тужилаштава у БиХ