Filho do deputado estadual e promotor público João Evangelista Barroso e Angelina de Resende. Aos oito anos, órfão de pai e mãe, Ary foi adotado pela avó materna, Gabriela Augusta de Resende.
Realizou estudos curriculares na Escola Pública Guido Solero, Externato Mineiro do prof. Cícero Galindo, Ginásios: São José, Rio Branco, de Viçosa, de Leopoldina e de Cataguases.
Estudou teoria, solfejo e piano com a tia Ritinha. Com doze anos já trabalhava como pianista auxiliar no Cinema Ideal, em Ubá. Aos treze anos trabalhou como caixeiro da loja “A Brasileira” e com quinze anos fez a primeira composição, um cateretê "De longe".
Em 1920, com o falecimento do tio Sabino Barroso, ex-ministro da Fazenda, recebeu uma herança de 40 contos (milhões de reis). Então, aos 17 anos veio ao Rio de Janeiro estudar Direito, ali permanecendo sob a tutela do Dr. Carlos Peixoto.
Aprovado no vestibular, ingressa em 1921 na então Faculdade de Direito da Universidade do Rio de Janeiro, atual Faculdade Nacional de Direito da Universidade Federal do Rio de Janeiro (UFRJ). A Faculdade seria importante na consolidação da veia artística, esportiva e política. Quando calouro, foram colegas de Faculdade mais chegados: Luís Galotti (jurista, dirigente esportivo e posteriormente ministro do STF), João Lira Filho (jurista e professor), Gastão Soares de Moura Filho (dirigente esportivo), João Martins de Oliveira, Nonato Cruz, Odilon de Azevedo (ator), Taques Horta, Anésio Frota Aguiar (jurista, político e escritor).
Adepto da boemia, é reprovado na Faculdade, abandonando os estudos no segundo ano. Suas economias exauriram o que o fez empregar-se como pianista no Cinema Íris, no Largo da Carioca e, mais tarde, na sala de espera do Teatro Carlos Gomes com a orquestra do maestro Sebastião Cirino. Tocou ainda em muitas outra orquestras.
Em 1926 retoma os estudos de Direito, sem deixar a atividade de pianista. Dois anos depois é contratado pela orquestra do maestro Spina, de São Paulo, para uma temporada em Santos e Poços de Caldas. Nessa época, Ary resolve dedicar-se à composição. Compõe "Amor de mulato", "Cachorro quente" e "Oh! Nina", em parceria com Lamartine Babo, seu contemporâneo na Faculdade de Direito.
Em 1929 obtém, finalmente, o bacharelado em Ciências Jurídicas e Sociais. Seu colega de Faculdade e grande incentivador, Mário Reis, grava "Vou a Penha" e "Vamos deixar de intimidades", que se tornou o primeiro sucesso popular.
Nos anos 1930, escreveu as primeiras composições para o teatro musicado carioca. Aquarela do Brasil teve a primeira audição na voz de Aracy Cortes e regravada diversas vezes no Brasil e no exterior. Recebeu o diploma da Academia de Ciências e Arte Cinematográfica de Hollywood pela trilha sonora do longa-metragem Você já foi à Bahia? (1944), de Walt Disney.
A partir de 1943, manteve durante vários anos o programa A hora do calouro, na Rádio Cruzeiro do Sul do Rio de Janeiro, no qual revelou e incentivou novos talentos musicais. Também trabalhou como locutor esportivo (proporcionado momentos inusitados ao sair para comemorar os gols do seu time o CR Flamengo). Autor de centenas de composições em estilos variados, como choro, xote, marcha, foxtrote e samba. Entre outras canções, compôs Tabuleiro da baiana (1937) e Os Quindins de Yayá (1941), Boneca de piche, etc.
Durante os a década de 40 e a década de 50 compôs vários dos sucessos consagrados por Carmen Miranda no cinema. Ao compor Aquarela do Brasil inaugurou o gênero samba-exaltação.
No centenário do compositor Ary Barroso (2003), a Rede STV SESC SENAC foi a única a produzir um documentário especial de 60 minutos sobre a vida deste brasileiro único, intitulado "O Brasil Brasileiro de Ary Barroso", com depoimentos de Sérgio Cabral (Biógrafo), Dalila Luciano, Carminha Mascarenhas, Carmélia Alves, Roberto Luna, e a filha de Ary Barroso, Mariúza . A direção foi de Dimas Oliveira Junior e produção de WeDo Comunicação.