A Convenção Batista Carioca tem suas raízes em 1º de janeiro de 1905, quando foi organizada a Sociedade Missionária Batista do Rio. Participaram representantes de oito igrejas da região: a Primeira Igreja Batista do Rio de Janeiro, a Primeira Igreja Batista de Niterói, a Igreja Batista de Engenho de Dentro (hoje Segunda Igreja Batista do Rio de Janeiro), a Primeira Igreja Batista de Santa Cruz (atual Primeira Igreja Batista de Campo Grande), a Igreja Batista de Paraíba do Sul, a Igreja Batista de Sapucaia, a Igreja Batista do Peão e a Igreja Batista Barão de Aquino. Esse encontro configurou uma “Autêntica Convenção”, presidida pelo pastor Francisco Fulgêncio Soren, tendo o pastor A. B. Deter como secretário correspondente e tesoureiro.

Em 1908, durante a 4ª Assembleia (2ª reunião da Sociedade Missionária), que reuniu 41 mensageiros, a organização passou a se chamar Associação das Igrejas Batistas do Rio. Representavam-na as mesmas igrejas, com a inclusão da Igreja de Anta e a ausência da Igreja do Peão, sob a mesma diretoria, exceto pela supressão de um secretário correspondente. Em 1910, o nome aparece registrado como Associação Batista do Rio.

Em 1918, na 14ª Assembleia, as igrejas batistas fluminenses se separaram e passaram a integrar a Convenção Batista Fluminense, organizada em 1907 com o nome de Associação Batista Fluminense. Pouco depois, entre 17 e 19 de janeiro de 1919, na 15ª Assembleia, a Associação das Igrejas Batistas do Rio adotou o nome de Convenção Batista Federal. Sua diretoria era formada por W. E. Entzminger (presidente), Ricardo Pitrowsky (vice-presidente), José de Souza Marques (1º secretário), João Dórea (2º secretário) e A. V. Fonseca (tesoureiro).

As mudanças de nome acompanharam, depois, as transformações político-administrativas da região. Na Assembleia realizada na Primeira Igreja Batista do Rio de Janeiro, de 18 a 26 de fevereiro de 1946, a Convenção passou a chamar-se Convenção Batista do Distrito Federal. Em 30 de maio de 1960, em Assembleia Extraordinária no mesmo templo, tornou-se Convenção Batista do Estado da Guanabara.

Com a fusão dos estados da Guanabara e do Rio de Janeiro, em 1974, o nome passou por novas alterações. Em busca de uma designação definitiva, a Convenção recebeu, em 1976, os nomes de Convenção Batista do Estado do Rio de Janeiro e de Convenção Batista do Grande Rio. Por fim, em 30 de setembro de 1976, em Assembleia Extraordinária realizada no templo da Igreja Batista do Méier, adotou o nome que mantém até hoje: Convenção Batista Carioca.