A frase tem origem na banda desenhada Keeping Up with the Joneses, criada por Arthur R. “Pop” Momand em 1913. A tira funcionou até 1940 no The New York World e em vários outros jornais. A tira retrata a escalada social da família McGinis, que luta para “acompanhar” os seus vizinhos, os Joneses do título. Os Joneses eram personagens invisíveis durante toda a corrida da tira, muitas vezes falados mas nunca mostrados. O idioma que acompanha os Joneses manteve-se popular muito depois do fim da tira.
O uso do nome Jones para os vizinhos envolvidos na comparação social é anterior à tira de quadrinhos de Momand. Em 1879, o escritor inglês E. J. Simmons escreveu em Memoirs of a Station Master of the Railroad Station como um lugar de intercâmbio social: “Os Joneses, que não se associam com os Robinsons, encontram-se lá.” O humorista americano Mark Twain fez uma alusão às famílias Smith e Jones com relação aos costumes sociais no ensaio “Corn Pone Opinions”, escrito em 1901, mas publicado pela primeira vez em 1923. “As influências externas estão sempre a derramar sobre nós, e nós estamos sempre obedecendo às suas ordens e aceitando seus veredictos”. Os ferreiros gostam da nova peça; os Joneses vão vê-la, e copiam o veredicto dos Smith”. A partir de 1908, D.W. Griffith dirigiu uma série de curtas de comédia estrelada por The Biograph Girl, Florence Lawrence, apresentando as pessoas ao lado, The Joneses.
Uma explicação alternativa é que os Joneses do ditado se referem à família rica do pai de Edith Wharton, os Joneses. Os Joneses eram uma proeminente família de Nova York com interesses substanciais no Chemical Bank, como resultado do casamento das filhas do fundador do banco, John Mason. Os Joneses e outros ricos nova-iorquinos começaram a construir vilas rurais no Vale Hudson em torno de Rhinecliff e Rhinebeck, que tinham pertencido aos Livingstons, outra proeminente família nova-iorquina com a qual os Joneses eram parentes. As casas tornaram-se cada vez mais grandiosas. Em 1853, Elizabeth Schermerhorn Jones construiu uma vila gótica de 24 quartos chamada Wyndcliffe, descrita por Henry Winthrop Sargent em 1859 como sendo muito boa no estilo de um castelo escocês, mas por Edith Wharton, sobrinha de Elizabeth, como uma monstruosidade sombria. A vila alegadamente estimulou mais construções, incluindo uma casa de William B. Astor (casado com um primo Jones), um fenômeno descrito como “acompanhando os Joneses”. A frase também está associada a outra das tias de Edith Wharton, Mary Mason Jones, que construiu uma grande mansão na Quinta Avenida e na 57th Street, então subdesenvolvida. Wharton retrata sua carinhosamente em The Age of Innocence como a Sra. Manson Mingott, “calmamente esperando a moda fluir para o norte”.
Uma versão ligeiramente diferente é que a frase se refere ao grande estilo de vida dos Joneses que em meados do século eram numerosos e ricos, graças à conexão entre o Chemical Bank e Mason. Foi a relação deles com a Sra. William Backhouse Astor, Jr. que iniciou os “bailes patriarcais”, a origem dos “Quatrocentos”, a lista da elite da sociedade que foram convidados. Até então os Joneses estavam sendo eclipsados pela enorme riqueza dos Astors, Vanderbilts e outros, mas a lista dos Quatrocentos publicada em 1892 continha muitos dos Joneses e seus parentes – dinheiro antigo ainda importava.