以後忠季、尋季、舜季、愛季、実季までの居城となった。 天正17年に檜山・湊の両安東家を統一した愛季は脇本城を居城とし、天正17年(1589年)以降は湊城へと居城が移された。 これによって檜山城は代官地となり、関ヶ原の戦い以後は佐竹氏が城代を置いたが、一国一城令により元和6年(1620年)に廃城となった。