Pierwszym klubem piłkarskim w karierze Yoshiteru Yamashity była Avispa Fukuoka, do którego trafił w 1996. W J.League zadebiutował 16 marca1996. W latach 2001–2003 był zawodnikiem klubu Vegalta Sendai, a 2004-2006 Kashiwy Reysol. W 2005, kiedy to Kashiwa spadła z J.League Yamashita był wypożyczony do klubu Omiya Ardija. Ostatnie lata kariery spędził w trzecioligowych klubach: Tochigi SC i FC Ryukyu, w którym zakończył karierę w 2010.
W reprezentacji Japonii Yoshiteru Yamashita zadebiutował w 4 czerwca2001 w meczu z Brazylią w Pucharze Konfederacji, na którym zajęła drugie miejsce. Drugi i zarazem ostatni raz w reprezentacji Yamashita wystąpił 16 kwietnia 2003 w towarzyskim meczu z Koreą Południową.