Frasen har sitt ursprung i serieteckningen Keeping Up with the Joneses, skapad av Arthur R. ”Pop” Momand 1913. Strippen publicerades fram till 1940 i The New York World och olika andra tidningar. I serien skildras familjen McGinis, som kämpar för att ”hålla jämna steg” med sina grannar, Joneses i titeln. Joneses var osynliga karaktärer under hela serien, ofta omtalade men aldrig visade. Uttrycket att hålla jämna steg med Joneses har förblivit populärt långt efter det att serien tog slut.
Användningen av namnet Jones för grannar som är involverade i sociala jämförelser är äldre än Momands serietidning. År 1879 skrev den engelske författaren E. J. Simmons i Memoirs of a Station Master om järnvägsstationen som en plats för socialt utbyte: ”Joneses, som inte umgås med Robinsons, träffas där.” Den amerikanske humoristen Mark Twain gjorde en anspelning på Smith- och Jones-familjerna när det gäller sociala sedvänjor i essän ”Corn Pone Opinions”, skriven 1901 men först publicerad 1923. ”De yttre influenserna strömmar alltid in på oss, och vi lyder alltid deras order och accepterar deras domar. Smiths gillar den nya pjäsen; Joneses går och ser den, och de kopierar Smiths dom”. Med början 1908 regisserade D.W. Griffith en serie komiska kortfilmer med The Biograph Girl, Florence Lawrence, i huvudrollen, där grannarna, The Joneses, var med.
En alternativ förklaring är att talesättets Joneses hänvisar till Edith Whartons fars rika familj, the Joneses. Joneses var en framstående New York-familj med betydande intressen i Chemical Bank till följd av att de gifte sig med döttrarna till bankens grundare John Mason. Joneses och andra rika New York-bor började bygga villor på landet i Hudsondalen runt Rhinecliff och Rhinebeck, som hade tillhört Livingston, en annan framstående New York-familj som Joneses var släkt med. Husen blev allt större och större. År 1853 byggde Elizabeth Schermerhorn Jones en gotisk villa med 24 rum som kallades Wyndcliffe och som av Henry Winthrop Sargent 1859 beskrevs som mycket fin i stil med ett skotskt slott, men av Edith Wharton, Elizabeths brorsdotter, beskrevs som en dyster monstrositet. Villan uppmuntrar enligt uppgift till fler byggen, bland annat ett hus av William B. Astor (gift med en kusin till Jones), ett fenomen som beskrivs som att ”hålla jämna steg med Joneses”. Uttrycket förknippas också med en annan av Edith Whartons mostrar, Mary Mason Jones, som byggde en stor villa vid Fifth Avenue och 57th Street, som då var obebyggd. Wharton porträtterar henne kärleksfullt i The Age of Innocence som Mrs Manson Mingott, ”calmly waiting for fashion to flow north”.
En något annorlunda version är att frasen hänvisar till den storslagna livsstilen hos Joneses, som vid mitten av århundradet var många och rika, tack vare Chemical Bank och Mason-kopplingen. Det var deras släkting Mrs William Backhouse Astor, Jr som startade ”patriarkernas baler”, ursprunget till ”The Four Hundred”, listan över den societetselit som bjöds in. Vid det laget hade familjen Jones överskuggats av Astors, Vanderbilts och andras enorma rikedomar, men den lista över de fyra hundra som publicerades 1892 innehöll många av familjen Jones och deras släktingar – gamla pengar betydde fortfarande något.