伊勢上野城は、津市北部、伊勢湾に面した標高30メートルの本城山を中心とする丘陵上に立地する。

城主とされる分部氏は、津市分部を本拠としていた武士で、戦国時代には長野氏に従っていた。軍記物によると、永禄11年（1568）の織田信長の侵攻に際して、当時の当主・分部光嘉は、織田氏よりの立場をとり、信長と長野氏の和議を説いたとされる。和議が整い、信長の弟・三十郎（後の信包）が長野氏の養子となり、伊勢上野城に入ったとされている。

その後、信包が津城に移ると、光嘉は再び伊勢上野城の城主となった。豊臣政権になり、織田信包が失脚しても、光嘉の地位は安堵されたようである。

関ヶ原の戦いに際しては、光嘉は東軍に属し、富田信高に協力して津城に籠城している。その後、光嘉の跡を継いだ光信が近江大溝に移り、伊勢上野城は廃された。

城の麓には伊勢街道が走り、さらに東には伊勢湾を望む。城跡にあった松は伊勢湾を航行する船の目印にもなっていたようである。城の東麓の、鈴鹿市白子あたりから津市栗真あたりまでの平野は、中世には栗真荘という荘園であった。