山形平野の東南部、奥羽山脈の山麓の比高差57メートルほどのところに位置している。当地は、山形城より、東南に進み、当城から奥羽山脈の裾野を南に進んで、上山方面に到る交通上の要衝にある。また、当城から真東に到れば、中世の山岳信仰のひとつ龍山信仰の登拝口のルートとの分岐点にもあたっていた。

城の範囲は南北で580メートル、東西で350メートルに及ぶ。城は斯波兼頼の孫の兼義が、成沢城より北西にある泉出館から当地に移った時の築城という。天正6（1587）年の最上義光と、伊達輝宗の応援を受けた上山満兼とが柏木山で合戦した時、山形防衛の前線基地となったのが、当城であった。

慶長5年（1600）の時の城主は、坂紀伊守。その後、氏家尾張守・安食大和守・寺内薩摩守などが城主となった。

城は、2つの中心点を持つ一城別郭型的な様相を有している。2つの曲輪がそれぞれ本丸、二の丸にあたる。両者は尾根道で連絡されており、土塁の残存も確認されている。2つの曲輪がともにその下に幾重もの曲輪を配しているが、畑やブドウ園造成のために削平されている。

さらに城の東南にも虎口がある。この地点は横矢が入る虎口であり、「大手口」という伝承が地元にあり、虎口の残存状況もよい。また曲輪に城の東北部から入る道があり、途中の折りでは横矢が入るようになっている。また、大きな堀切で尾根筋を断ち切っている。現在は、その堀切を拡張して道路が通っている。また、この堀切の東方に連なる高日向山の方から樋を用いて城内に飲料水を引き込んだという伝えもあって、堀切の付近は「樋下」と称されている。

ひとつの曲輪には秋田藩佐竹氏の寄進による馬頭観音が、またもうひとつの曲輪には秋葉社が建つ。秋葉社の真下には八幡神社が建ち、県文化財の平安末期の石鳥居が佇立している。八幡神社は成沢城のある山上に鎮座しており、築城とともに現在地に下したと言われている。成沢城の築かれた館山全体が龍山信仰の登拝道のひとつ成沢口に位置していた。

成沢城の西側真下を鴨沢川が流れ、天然の内堀を形成しており、内堀と館山との間の空間に城主の居館や家臣団屋敷が拡がっていた。また、鳴沢川に沿って道が走り、都市的な場が形成されていたことが、馬場宿・裏宿・町裏の小字名からも言える。現在の常善寺門前には六面石幢がたっている。このような都市的空間の西側を囲む形で外堀が巡っていた。成沢城は、宿町を包み込んだ宿城として総構えの構造を有していた。