太尾山城跡は、JR米原駅の東にそびえる太尾山にある。

築城年代は不明だが、在地土豪の米原氏によって築かれたといわれている。

文明3年（1471）には美濃の守護代・斎藤妙椿が近江に侵攻し、米原山で合戦したとの記録があり、この山が太尾山ではないかと考えられている。

天文7年（1538）の六角定頼による北近江攻めでは、永田氏などが太尾に在陣しているのが記録されている。

天文21年には、京極高広が六角方の太尾山城の攻略を今井氏に命じたが失敗。永禄4年（1561）になると浅井長政による太尾山城攻めが開始され、攻撃に加わった今井定清が夜襲で誤って味方の槍を受け討ち死にするが、ようやく攻略して中嶋宗左衛門尉を入れ置いた。

元亀2年（1571）、織田信長による浅井氏攻めで佐和山城が開城すると、宗左衛門尉も太尾山城を退き、以後廃城になった。

太尾山城は標高254メートルの山頂にある。北城と南城から構成される「別城一郭」の構造で、南近江との境目の城である磯山城跡や菖蒲獄城跡なども同じ構造である。

土塁を巡らした曲輪や、尾根筋を切断する堀切などが要所に設けられている。