Yrityksen perustivat vuonna 1988 Donald ja Susan Sutherland, jotka etsivät jäätelöä, joka ei olisi kovapakkausta eikä pehmytjäätelöä. Mainosmateriaalit kuvaavat sitä ”sileäksi ja kermaiseksi superpremium-jäätelöksi”. Cold Stone Creamery avasi ensimmäisen myymälänsä samana vuonna Tempeen, Arizonaan. Alkuperäinen Cold Stone Creamery, myymälä #0001, toimii nykyään lähellä samaa risteystä (McClintock & Southernin lounaiskulma) kuin alkuperäinen Tempen toimipiste. Myymälä muutti alkuperäisestä paikasta nykyiseen paikkaan 1990-luvun alussa.
Yhtiö on säilyttänyt saman konseptin, jonka Steve Herrell loi perustamalla Steve’s Ice Creamin. Asiakkaat valitsevat ensin, minkä makuista jäätelöä he haluavat, ja valitsevat sitten jäätelöön sekoitettavien sekoitusten joukosta. Sekoituksia ovat muun muassa karkit, pähkinät, browniet ja siirapit. Cold Stone on saanut nimensä jäädytetystä graniittilaatasta, jota työntekijät käyttävät sekoitusten sekoittamiseen jäätelöön. Kiitokseksi asiakkaille Cold Stonen työntekijät laulavat laulun saadessaan tippiä.
Vuonna 1995 Cold Stone Creamery avasi ensimmäisen franchising-myymälänsä Tempeen, Arizonaan. Pian sen jälkeen avattiin toinen toimipiste (ensimmäinen osavaltion ulkopuolella) Camarilloon, Kaliforniaan. Cold Stone Creamery on nykyään kuudenneksi myydyin jäätelömerkki Yhdysvalloissa, ja sillä on myymälöitä Japanissa, Taiwanissa, Etelä-Koreassa, Thaimaassa, Brasiliassa, Puerto Ricossa, Indonesiassa, Guamissa, Kiinassa, Meksikossa, Bahrainissa, Egyptissä, Yhdistyneissä arabiemiirikunnissa, Saudi-Arabiassa, Keniassa, Keniassa, Trinidadissa ja Tobagossa, Qatarissa, Nigeriassa, Kuwaitissa, Filippiineillä, Turkissa, Pakistanissa, Bangladeshissa ja Intiassa. Vuonna 2008 Cold Stone avasi ensimmäisen Euroopan franchising-ketjunsa Tanskan Kööpenhaminaan. Myöhemmin avattiin kolme muuta myymälää muualla maassa. Tammikuussa 2006 Entrepreneur-lehti nimesi yrityksen 11. nopeimmin kasvavaksi franchising-yritykseksi. Kesäkuussa 2009 yritys avasi ensimmäiset toimipisteensä Kanadassa. Vuoteen 2012 mennessä Singaporessa oli avattu kolme myymälää. Tammikuun 3. päivänä 2020 Cold Stone Creamery ilmoitti, että se sulkee ovensa 31. tammikuuta 2020 Singaporessa. Maaliskuussa 2015 Cold Stone avasi ensimmäisen toimipisteensä Turkin pääkaupunkiin Ankaraan. Vuonna 2015 Cold Stone Creamery avasi ensimmäisen toimipisteensä El Salvadorissa Multiplaza Mallissa. Vuoteen 2020 mennessä Bangladeshin Dhakassa on viisi myymälää; Gulshanissa, Uttarassa, Mohammadpurissa, Square Hospitalissa ja Tejgaon IA:ssa. Vuodesta 2019 lähtien Intiassa on 21 myymälää.
Toukokuussa 2007 Cold Stone Creamery fuusioitui Kahala Corp:n kanssa muodostaen Kahala-Cold Stonen, joka omistaa yhdessä 13 tuotemerkkiä. Doug Ducey, Cold Stone Creameryn entinen toimitusjohtaja ja sittemmin Arizonan kuvernööri, nimitettiin vastaperustetun yhtiön toimitusjohtajaksi. Kahalan entisestä toimitusjohtajasta Kevin Blackwellistä tuli hallituksen puheenjohtaja ja päästrategiajohtaja. Syyskuussa 2007 Ducey kuitenkin ilmoitti jättävänsä yrityksen. Blackwell nimitettiin toimitusjohtajaksi. Vuonna 2013 Ontarion Torontossa sijaitseva Serruyan perhe osti enemmistöosuuden Kahalasta ja muutti nimen Kahala Brandsiksi, jotta se vastaisi paremmin liiketoiminnan painopistettä.
Co-brandingEdit
Cold Stone Creameryn emoyhtiö Kahala Brands ilmoitti helmikuussa 2009, että se oli päässyt sopimukseen kanadalaisen kahvilaketju Tim Hortonsin kanssa 100 co-brändätyn myymälän avaamisesta Yhdysvalloissa sen jälkeen, kun se oli menestyksekkäästi kokeillut kahta toimipistettä Rhode Islandissa. Strategisen liiton tarkoituksena oli tasoittaa Tim Hortonsin tietä useammille yhdysvaltalaisille toimipaikoille ja antaa Cold Stone Creamerylle mahdollisuus laajentua Kanadaan. Merkittävin yhteisbrändätty myymälä avattiin elokuussa 2009, kun Tim Hortons muutti kolmeen Cold Stone Creameryn toimipisteeseen New Yorkissa, mukaan lukien Times Squaren lippulaivamyymälä.
Kesäkuussa 2009 Cold Stone Creamery aloitti Kanadan markkinoiden testaamisen avaamalla seitsemän yhteisbrändättyä toimipistettä Tim Hortonsin kanssa Torontossa, Oakvillessä, Mississaugassa, Hamiltonissa, Pickeringissä, Sudburyssa ja Halifaxissa Nova Scotiassa. Heillä oli toimipisteitä jokaisessa Kanadan provinssissa lukuun ottamatta Newfoundlandia ja Labradoria.
Tim Hortonsin hanke seurasi vuosina 2007 ja 2008 toteutettuja vastaavia yhteisbrändäyspyrkimyksiä, mutta päättyi vuonna 2014. Cold Stonen franchising-yrittäjät New Yorkissa alkoivat tehdä yhteistyötä Soup Kitchen Internationalin kanssa myydäkseen keittoa myymälöissään vuoden 2007 lopusta alkaen. Vuonna 2008 yritys allekirjoitti sopimuksen Rocky Mountain Chocolate Factoryn kanssa seitsemän toimipisteen avaamisesta Länsi-Yhdysvalloissa. Yritys on suunniteltu tuomaan asiakkaita ympärivuotisesti, toisin kuin kausiluonteiset vetovoimat, joita kumpikin yritys kokee. Cold Stonen ja Rocky Mountainin yhdistäminen johti Rocky Mountainin myymälöiden viikoittaisen myynnin yli 10 prosentin kasvuun yhteisbrändäyksen jälkeen.