Potpuno je nepoznato u naučnoj i stručnoj literaturi kao i u široj javnosti da u naselju Gornji Baljkovci i njegovoj mahali Muhamedbegovići u općini Sapna, postoji nekoliko lokaliteta historijskog naslijeđa.
Na jednom krečnjačkom uzvišenju se prema narodnoj tradiciji nalazila utvrda nekog velikaša prije osmanske uprave po imenu Balik. Stariji mještani Muhamedbegovića se sjećaju ostataka zidina te utvrde. Mnogi stanovnici mahale su obrađeni kamen sa te utvrde koristili za gradnju svojih objekata. Ispod utvrde su pronađeni i ostaci keramike.
Koju stotinu metara iznad uzvišenja se nalazi zemljište pod nazivom Crkvište. Starinom se tu nalaze ostaci kreča i maltera od neke građevine a također i razni arheološki nalazi.
Za sada je nepoznato o kakvim se starinama tu radi, jesu li to prahistorijski ili srednjovijekovni tragovi. Prije pet stoljeća se u osmanskim dokumentima naselje spominje pod nazivom Balikova Kruška.