Enquanto sua carreira como ator começou em 1999, o caminho musical de Yamashita teve início em 2003, quando ele foi escolhido para ser líder e vocalista principal do grupo News. Ainda que o plano fosse fazer um grupo temporário, com a atenção instantânea que conseguiu, o News se tornou um sucesso nacional e, desde então, uma das bandas mais populares da Johnny’s hoje em dia.
Em 2005, Yamashita formou seu segundo grupo, Shuji to Akira, com Kamenashi Kazuya, do Kat-Tun, para promover o dorama ”Nobuta wo Produce”, estrelado por ambos. A banda existiu por dois anos antes de entrar em hiatus, mas eles ainda se apresentam uma vez por ano, na véspera de ano Novo.
A primavera de 2006 trouxe mais um reconhecimento a Yamashita, não apenas por seu papel principal no dorama “Kurosagi”, mas também pelo lançamento de seu primeiro single solo, Daite Senorita. O single foi direto para a primeira posição dos rankings da Oricon e vendeu mais de 600.000 cópias – o dobro das vendas do News por single. Apesar do sucesso, Yamashita disse que não seguiria carreira solo e continuaria com o News.
No verão daquele ano, o Kitty Gym foi formado por Yamashita e a dupla de irmãos tailandeses Golf e Mike. Logo se reuniram a eles Kitayama Hiromitsu, do Kis-my-ft2, Inoo Kei, do J.J. Express, Totsuka Shota, do A.B.C e Yaotome Hikaru, do Ya-Ya-Yah. O grupo temporário, que foi criado como líderes de torcida para o time feminino de vôlei daquele ano, lançou o single Fever to Future usando o nome Gym, formado pelas iniciais dos membros fundadores.
