El año 1091 el rey junto con el príncipe heredero llevaron a sus hombres casi hasta las puertas de Zaragoza y ocuparon la fortaleza de Castellar, situada en la margen izquierda del Ebro. Ordenó la construcción de una iglesia en el lugar y dio fueros para los pobladores que viniesen a asentarse en el lugar. Las crónicas hablan de un supuesto rey musulmán de Huesca que solicitó ayuda al rey Mustain de Zaragoza. Mustain por su parte, que en cierta forma era protegido del rey castellano, veía la fundación de esta fortaleza como una afrenta y, molesto por el asentamiento cristiano en ella, buscó el apoyo de Alfonso VI de Castilla y del Cid. Estas maniobras dieron ocasión a Sancho Ramírez para atacar Huesca y su región. Sancho ya dominaba el Norte de la Sierra de Guara y se había hecho con las plazas de Loarre, Aniés (1084), Montearagón (1089) y Labata (1092) y, para esta ocasión, reunió un considerable ejército con las fuerzas de Pamplona y de Aragón más un contingente de hombres que retiró de la guarnición de otras fronteras.
Los musulmanes de Huesca y Zaragoza preparaban junto con los castellanos un plan militar para afrontar el ataque de aragoneses y pamploneses. Se pensó en atacar al reino de Pamplona por sus fronteras occidentales, por las tierras alavesas, ya que éstas eran las más lejanas a Huesca. El ejército de Alfonso VI, que se encontraba en Vitoria, atacó por este flanco. Los pamploneses y aragoneses aparecieron rápidamente en esas fronteras, después de atravesar el país a grandes marchas. Con su presencia el ejército castellano se batió en retirada, por lo que tal vez sus acciones sólo fuesen maniobras de distracción. Pamploneses y aragoneses dieron la vuelta y se encaminaron de nuevo hacia Huesca, tomando el cerro de Monte Aragón.
El año 1094 comenzó de nuevo el cerco a Huesca y antes de acercarse a las murallas de la ciudad conquistaron los altos más cercanos. Las crónicas relatan que el rey se estableció en el cerro conocido como "Pueyo de Sancho", cortando las comunicaciones con Zaragoza. En este episodio del cerco a Huesca se produjo la muerte del rey; Sancho Ramírez exploró el campo en compañía de sus capitanes y de su hijo Pedro, rey de Sobrarbe y Ribagorza. Cuando Sancho se hallaba examinando ciertas partes vulnerables de las murallas, los enemigos le alcanzaron con una saeta. El monarca llamó a sus hijos a su tienda, ordenó que se le sacara la flecha y tomó juramento a sus hijos de no levantar el cerco hasta ver tomada la ciudad. Por contra, otros autores como Menéndez Pidal mantienen que murió de muerte natural. Las dos versiones sobre su muerte coinciden en datar su fallecimiento el 4 de junio de 1094.