Seu nome de batismo era José Melquior Sarto. Seu pai, funcionário da prefeitura, morreu, deixando sua mãe, Margarida Sanson, com dez filhos para criar. José, que já havia iniciado os estudos do seminário, bem que quis interrompê-los para ajudar sua mãe, mas ela o motivou a continuar.
