Concebido com a finalidade de aferir a evolução dos custos de construções habitacionais, o índice, de início, referia-se aos padrões e gabaritos simples de então.O primeiro índice oficial de Custo da Construção Civil no Rio de Janeiro data de 1950 com retroação de sua série histórica até janeiro de 1945. Esse índice referia-se ao custo de um edifício de três pavimentos, sem elevador, padrão esse que constituía o mais usual na época. Sua composição inicial compreendia 16 itens específicos.
Em vista das inovações posteriormente introduzidas nos estilos, gabaritos e técnicas de construção, o ICC teve que, aos poucos, se adaptar aos novos produtos e especialidades de mão-de-obra.
Em janeiro de 1972 foi realizado estudo para implantação do novo sistema de cálculo do Índice de Custo da Construção, em decorrência da necessidade de revisão da metodologia, e ao mesmo tempo, da atualização do sistema de pesos, face a mudança na composição de diversos gabaritos e padrões usuais na cidade do Rio de Janeiro.
Até dezembro de 1974, seu cálculo era baseado na fórmula tipo Laspeyres de base fixa. Não era permitida a introdução de modificações na especificação de nenhum de seus componentes. O sistema de ponderação empregado referia-se à estrutura de custo de um edifício de três pavimentos com seis apartamentos ao todo.
Em janeiro de 1975 adotou-se nova fórmula de cálculo que permitiu a primeira mudança nos materiais de construção. A segunda modificação refere-se aos tipos de gabaritos e padrões utilizados no novo índice. Chegou-se a um desdobramento tal que, além do índice médio, tinha-se aberturas segundo as suas características verticais: 1 (casas), 4 , 8 e 12 pavimentos.
Esse índice abrangia o total de 31 itens, sendo três relativos a mão-de-obra e 28 a materiais de construção.
Com o agravamento do processo inflacionário nos anos 80, a utilização do ICC-RJ na formação do Índice Geral de Preços (IGP) passou a apresentar um sério inconveniente em função das bruscas oscilações por conta dos reajustamentos salariais concedidos em fevereiro e agosto de cada ano, meses de dissídios coletivos no Rio de Janeiro.
Se já havia uma vontade de que o índice deixasse de ser apenas regional, esses acontecimentos anteciparam a decisão de mudança no IGP, que deveria incorporar um índice de construção nacional. Há algum tempo já existia o índice de Edificações, e a substituição de um índice pelo outro poderia ter sido efetuada. De certa forma isso foi feito, pois o INCC introduzido em fevereiro de 1985 (incluindo mais sete capitais, além do Rio de Janeiro) pode ser visto como um encadeamento da série anterior do ICC-RJ com as evoluções de custos captadas pelo Índice de Edificações. Os dois continuaram a coexistir apenas por questões de formas de apresentação e, principalmente, para resguardar interesses de usuários (como se sabe, existem muitos contratos de obras com cláusulas de correção baseadas num ou noutro índice).
Em janeiro de 1986 foram efetuadas atualizações de itens e ponderações. Além disso, expandiu-se o número de municípios de capitais para 18. Os prédios de oito andares, de menor expressão nas licenças de "habite-se", foram excluídos do índice, e a estrutura de custos foi revista, de forma que se chegou a especificação de 56 tipos de materiais e 16 categorias de mão-de-obra, levando-se em consideração os seguintes padrões de construção habitacional:
H1 - casa de 1 pavimento, com sala, 1 quarto e demais dependências, medindo em média 30 metros quadrados;
H4 - edifício habitacional de 4 pavimentos, constituído por unidades autônomas de sala, 3 quartos e dependências, com área total média de 2520 metros quadrados;
H12 - edifício habitacional de 12 pavimentos, composto de apartamentos de sala, 3 quartos e dependências, com área total média de 6013 metros quadrados.
O custo da mão-de-obra está segmentado em salários e encargos sociais. A coleta de informações, no que se refere a preços e salários, é feita uma vez por mês junto a fabricantes, atacadistas e construtoras.
Em janeiro de 1996 foram feitas alterações no sistema de pesos do INCC, além da inclusão de mais duas capitais aumentando para 20 o número de municípios pesquisados.
Em janeiro de 2001, o INCC sofreu nova reestruturação, diminuindo para 12 o total de municípios pesquisados. Nessa atualização da amostra do INCC, chegou-se à seleção 723 itens específicos, sendo 659 relativos a materiais e serviços e 64 relativos a mão de obra. Agrupando-se os itens de baixa representatividade no custo total das obras, chegou-se à especificação de 51 tipos de materiais e serviços, além de 16 categorias de mão-de-obra relevantes. São pesquisados mensalmente 3500 informantes, que fornecem cerca de 20.000 cotações mensais.