Hans Sarpei kom till Fortuna Köln 1998 där han under två säsonger gjorde 44 matcher. Efter ett år i MSV Duisburg skrev Sarpei på för VfL Wolfsburg där han mellan 2001 och 2007 gjorde 139 ligamatcher. I slutet av säsongen 2006/2007 valde Sarpei att inte förlänga sitt kontrakt då han ville prova på något nytt.[1] 18 maj 2007 skrev Sarpei på för Bayer Leverkusen.[2] Efter 42 matcher under tre års tid lämnade han Leverkusen 2010 för Schalke 04,[3] där han senare kom att avsluta karriären.