Античкиот град Баргала се наоѓа на 12 км североисточно од Штип, во во близината на Горни Козјак, крај Козјачка Река во подножјето на планината Плачковица. Кон крајот на IV век, градот служел како доцноримски воен логор (каструм), кој бил изграден како тврдина на граничниот појас меѓу провинциите Втора Македонија и Средоземна Дакија. Подоцна, градот бил разурнат, а жителите подигнале нов град крај Козјачка Река во близината на Горни Козјак. По губењето на стратешкото значење, Баргала прераснала во цивилен – епископски град. Во V и VI век, а особено во времето на Јустинијан I (527–565), градот го достигнал својот врв, но кон крајот на VI век, во неколку наврати, настрадал од аварско-словенските походи кои го треселе Балканот. Градот не бил потполно напуштен, меѓутоа опстојувал како неурбанизирана.
Во северозападниот агол на тврдината е откриен речиси во целост епископиумот на градот, епископска базилика и нејзиниот дворен простор, во кои се наоѓаат крстилница со мозаични површини, a во просторот на бањата сочувани се и делови од мозаик. Потоа се откриени цистерна за вода, и две бањи – доцноантичка голема и мала бања. Големата бања е лоцирана на просторот помеѓу двориштето на епископската базилика и северозападниот градски бедем. Станува збор за добро сочуван комплексен објект со поединечни простории меѓусебно функционално поврзани. Покрај тоа, откриени се и делови од стопански и станбени објекти.
Епископската базилика е откриена во северозападен дел е градот. Таа била подигната кон крајот на IV век, а била обновена, односно преѕидувана и ремоделирана, во V-VI век. Таа претставува објект изграден по стандардниот тип на старохристијански градби од Балканскиот Полуостров и Медитеранот. Набљудувано од архитектонска гледна точка, таа претставува трикорабна базилика со полукружна апсида однатре и однадвор и со внатрешен нартекс и егзонартекс. Од внатрешноста на базиликата, особено впечатливи се подовите обложени со камени плочи, освен северниот, што бил решен со полихромен мозаик. Како најубав се издвојува подот од презвитариумот, што бил обложен со бели и сиви плочи во opus sectile. Објектот изобилува со богата архитектонско-декоративна пластика, меѓу која, особено се истакнуваат мермерните капители на украсени со глави од лавови и лисја од винова лоза, како и неколку парапетни плочи. На еден капител на влезниот трибелон во ексонартексот пронајден е натписот: ”Христе, помогни му на твојот роб, епископот Хермија”. Споменатиот епископ и епископите Филип и Евстатиј од двете епископски базилики во Стоби, се обележани како ктитори на базиликите