A partir de 1995 una lesión en un pie le mantuvo inactivo durante dos años; se le diagnosticó artritis reumatoide. Sin embargo, un médico alemán le dio un tratamiento que resultó exitoso. El año 1996 no pudo competir.
En 1997 vuelve a la competición y gana dos torneos y se adjudica la Ryder Cup con el equipo de Europa.
En abril de 1999 ganó su segundo Masters de Augusta, que dominó desde la segunda jornada y terminó el recorrido con ocho golpes bajo par, para un total de 280 golpes, con dos de ventaja respecto a Davis Love III. Al repetir como campeón en el Torneo de Maestros, "Txema" Olazabal se convirtió en el decimocuarto jugador en ganarlo en dos o más ocasiones.
En 1998, ganó el Dubai Dessert Classic, torneo valedero para el Circuito Europeo de golf en el campo del Club de los Emiratos, tras superar tanto a sus rivales como la faringitis y la fiebre que estuvieron a punto de hacerle retirarse del torneo.
Tras su segunda "chaqueta verde" conseguida con la victoria en el Masters de Augusta de 1999, había bajado su rendimiento. Sólo consiguió meter el 58% de las pelotas en los "fairways" y cayó hasta la plaza 164 en el circuito europeo. En el 2000 logró el título en el Benson & Hedges de Inglaterra. Pero José María Olazabal quiere dar un giro a su carrera y decide jugar más torneos en el circuito de Estados Unidos en detrimento del europeo. Tal es así que el mes de mayo de 2001 se proclamó campeón del Abierto de Francia y en diciembre, del Open de Hong Kong, en el que consiguió tres "birdies", haciendo una tarjeta de 64 golpes, siete bajo par, y un total de 262, 22 bajo par. Una semana antes fue segundo en Taiwán. De esta forma, sigue ocupando un importante lugar en la élite del golf, ya que estos éxitos le permiten al golfista de Hondarribia olvidar una sequía que en los últimos años ha dejado su palmarés bajo mínimos.