Ustav Bosne i Hercegovine uspostavio je nadležnost tužiteljstava na entitetskom nivou, dok je Tužiteljstvo Bosne i Hercegovine uspostavljeno naknadno kao institucija s posebnom nadležnošću za postupanje pred Sudom Bosne i Hercegovine u kaznenim djelima propisanim Zakonom o Sudu BiH, Zakonom o Tužiteljstvu BiH, Kaznenim zakonom BiH, Zakonom o kaznenom postupku BiH, Zakonom o ustupanju predmeta od strane Međunarodnog kaznenog suda za bivšu Jugoslaviju tužiteljstvima u BiH.

Nadležnost i područje djelovanja Tužiteljstva propisani su Zakonom o Tužiteljstvu Bosne i Hercegovine, prema komu je Tužiteljstvo:

• organ nadležan za provedbu istrage za kaznena djela za koja je nadležan Sud Bosne i Hercegovine, te za gonjenje počinitelja pred Sudom Bosne i Hercegovine, sukladno Zakonu o kaznenom postupku Bosne i Hercegovine i drugim primjenjivim zakonima,
• organ nadležan za primanje zahtjeva za međunarodnu pravnu pomoć u kaznenim stvarima, sukladno zakonima, multilateralnim i bilateralnim sporazumima i konvencijama, uključujući i zahtjeve za izručenje ili predaju traženih osoba od strane sudova ili organa na području Bosne i Hercegovine i drugih država, odnosno Međunarodnih sudova ili Tribunala,
• organ zadužen za izradu statističkog pregleda svojih aktivnosti (izvještaja o radu), te izradu informacije o stanju kriminaliteta u Bosni i Hercegovini i ukazuje na tendencije u njegovom kretanju. U zaključnom dijelu ove informacije glavni tužitelj može iznijeti prijedloge zakonskih reformi.

Tužiteljstvo BiH je sui generis institucija, te nije nadređeno entitetskim tužiteljstvima nego je njegova nadležnost ograničena na procesuiranje kaznenih djela propisanih gore navedenim zakonima.

Druga tužiteljstva u BiH uspostavljena su u skladu s postojećim političko-administrativnim ustrojem Bosne i Hercegovine tako da je:

Federalno tužiteljstvo F BiH „vrhovno“ tužiteljstvo za deset kantonalnih tužiteljstava s područja F BiH.
Republičko tužiteljstvo RS je „vrhovno“ tužiteljstvo za pet okružnih tužiteljstava na području Republike Srpske.
Javno tužiteljstvo Brčko distrikta BiH je nadležno za područje Distrika.

Šema organizacije svih tužilaštava u BiH