Sua primeira conquista aconteceu ao vencerem tanto a Copa do Imperador quanto o título da JSL Division 2 em 1982. Eles conquistaram seu primeiro título da antiga liga japonesa na temporada 1987/88. Devido a problemas na futura profissionalização do clube, a Yamaha decidiu se rebaixar e não ser um dos membros fundadores da J.League.
Terminando em 2º lugar na primeira divisão da JFL, uma divisão abaixo da elite, em 1993, o clube foi promovido para aJ1 League em 1994. A equipe recebeu Marius Johan Ooft como seu treinador, além do capitão da seleção brasileira na época, Dunga, e vários jogadores estrangeiros para formar uma equipe vencedora. A filosofia de futebol de Dunga influenciou profundamente o clube, inicialmente como jogador e atualmente como conselheiro.