A Enciclopédia da Música em Portugal no Século XX aponta Carlos Gonçalves como "um dos mais destacados" músicos de fado da sua geração.

Carlos Gonçalves acompanhou Amália Rodrigues (1920-1999), durante cerca de 30 anos, para quem compôs várias melodias, maioritariamente para poemas de autoria da fadista, como "Lágrima", "Grito", "Amor de Mel, Amor de Fel", "Sou Filha das Ervas", "Ó Pinheiro Meu Irmão", "Ai, Maria", "Ai, Minha Doce Loucura" ou "Lavava, no rio Lavava", entre outros.

A colaboração do músico com Amália iniciou-se em 1969, ainda com José Fontes Rocha (1926-2011), como primeira guitarra, e como principal guitarra a partir de 1980, tendo-a acompanhado em todas as suas digressões.

Sobre as suas composições para Amália, a Enciclopédia de Música em Portugal no Século XX escreve que Carlos Gonçalves elaborava "um percurso melódico sobre uma letra já criada pela cantora, ou a composição de um fado sobre o qual a cantora adaptava uma nova letra".

Refere ainda que nessas composições "predominam os tonalidades menores, percursos melódicos moldados em forma estrófica sobre a estrutura do texto, realçando as palavras-chave e potenciando as característica vocais e a capacidade interpretativa de Amália".

Como acompanhador, refere a Enciclopédia, "complementava a melodia principal desenhada pela voz, através de um suporte harmónico em acordes ou harpejos, figurações melódicas e contracantos padronizados".

Além de Amália, Carlos Gonçalves acompanhou Alfredo Marceneiro, Maria Teresa de Noronha, Filipe Pinto, Lucília do Carmo, Argentina Santos, Fernando Maurício, Fernando Farinha, Fernanda Maria, Beatriz da Conceição, Ada de Castro, Anita Guerreiro, Julieta Estrela e Manuela Cavaco, entre outros.

Nascido em Beja, em 03 de junho de 1938, escolheu a guitarra portuguesa aos 16 anos, tendo aprendido o repertório fadista a partir do programas da antiga Emissora Nacional.

Em 1957 fixou-se em Lisboa e fez parte dos elencos das casas típicas Adega da Anita, Café Lisboa, Lobos do Mar, Nau Catrineta, A Severa, Solar da Márcia Condessa, A Toca, O Folclore, elenco com o qual fez digressões internacionais (tendo atuado no palácio real do Mónaco), e ainda da Taberna do Embuçado e Fado Maior.

Na década de 1990 dedicou-se à atividade pedagógica, tendo orientado músicos como Paulo Silva, Bernardo Couto e Bruno de Jesus.