Zgodba o evoluciji psov v mnogih pogledih sledi istemu načrtu kot evolucija konji in sloni: majhna, žaljiva, vrsta prednikov v desetletjih milijonov let ustvari spoštljivo velike potomce, ki jih poznamo in ljubimo danes. Vendar sta v tem primeru dve veliki razliki: prvič, psi so mesojedi, evolucija mesojedih pa je zvita, serpentinske afere, v katere niso vključeni samo psi, temveč prazgodovinske hijene, medvedi, mačke in zdaj že izumrli sesalci, kot so kreodonti in mezoniidi. In drugič, seveda je evolucija psov ostro desno spremenila pred približno 15.000 leti, ko prvi volkovi so bili udomačeni zgodnjih ljudi.
Kolikor paleontologi lahko povedo, so se prvi mesojedi sesalci razvili v pozni kredni dobi, pred približno 75 milijoni let (pol kilogram Cimolestes, ki je živel visoko v drevesih, je najverjetneje kandidat). Vendar je večja verjetnost, da lahko vsaka mesojeda živa živa danes zasledi svoje prednike do Miacis-a večje, lasu podobno bitje, ki je živelo pred približno 55 milijoni let ali 10 milijonov let po odhodu dinozavrov izumrli. Miacis pa še zdaleč ni bil strašljiv morilec: ta drobna krogla je bila tudi drevoreda in se je lovila žuželk in jajc ter majhnih živali.
Pred Canids: Creodonts, Mesonychids in Friends
Sodobni psi so se razvili iz linije mesojedih sesalcev, imenovane "kanidi", po značilni obliki svojih zob. Pred (in ob njih) kanidami so bile tako raznolike družine plenilcev, kot so amfikonidi ("medvedji psi", ki jih je opisal Amfikion, ki se zdi, da so bili bolj povezani z medvedi kot psi), prazgodovinske hijene (Iktiterij je bil prvi te skupine, da bi živeli na tleh in ne na drevesih), ter "mursupialnih psih" Južne Amerike in Južne Amerike Avstralija. Čeprav so po videzu in obnašanju nejasno podobni psom, ti plenilci niso bili neposredno predniki sodobnih pasjih vrst.
Še bolj strašljivi kot medvedji in marsupial psi so bili mezoniidi in kreodonti. Najbolj znani mezoniidi so bili enotonski Andrewsarchus, največji kopenski sesalec, ki je kdajkoli živel, in manjši in bolj volkodlak Mesonyx. Nenavadno je, da so mezonihidi predniki ne sodobnih psov ali mačk, ampak prazgodovinskih kitov. Po drugi strani pa kreodonti niso pustili živih potomcev; najbolj opazni pripadniki te pasme so bili Hyaenodon in presenetljivo imenovan Sarkastodon, katerega prvi je izgledal (in se obnašal) kot volk, zadnji pa je izgledal (in se obnašal) kot grizli medved.
Prvi kanidi: Hesperocyon in "Psi, ki drobijo kosti"
Paleontologi se strinjajo, da pozno Eocen (pred približno 40 do 35 milijoni let) Hesperocyon je bil neposredno prednik vseh poznejših rodu - in s tem rodu Canis, ki se je pred približno šestimi milijoni let odcepil od poddružine kanid. Ta "zahodni pes" je bil približno velikosti majhne lisice, njegova struktura notranjega ušesa pa je bila značilna za poznejše psi, in obstaja nekaj dokazov, da je morda živel v skupnostih, visoko v drevesih ali pod zemljo brane. Hesperocyon je zelo dobro predstavljen v zapisu o fosilih; pravzaprav je bil to eden najpogostejših sesalcev prazgodovinske Severne Amerike.
Druga skupina zgodnjih kanid so bili borofagini, ali "psi za drobljenje kosti", opremljeni z močnimi čeljustmi in zobmi, primernimi za čiščenje trupov sesalcev megafavne. Največji, najnevarnejši borofagini so bili 100-kilogramski borofag in še večji Epicion; drugi rodovi so vključevali prejšnji Tomarctus in Aelurodon, ki sta bila bolj razumne velikosti. Ne moremo reči zagotovo, vendar obstajajo nekateri dokazi, da so ti psi za drobljenje kosti (ki so bili omejeni tudi na Severno Ameriko) lovili ali se sklanjali v čopih, kot sodobne hijene.
Prvi pravi psi: Leptocyon, Eucyon in Dire Wolf
Tukaj so stvari nekoliko zmedene. Kmalu po pojavu Hesperocyona pred 40 milijoni let je na sceno prišel Leptocyon - ne brat, ampak bolj podoben drugemu bratrancu. Leptocyon je bil prvi resnični pas (to je, da je pripadal poddružini caninae iz družine Canidae), vendar majhen in nevsiljiv, ne veliko večji od samega Hesperocyon-a. Neposredni potomec Leptocyona, Eucyon, je imel srečo živeti v času, ko sta bili Evrazija in Južna Amerika dostopni iz Severne Amerike - prva prek Beringa kopenski most, drugo pa zaradi razkritja Srednje Amerike. V Severni Ameriki se je pred približno šestimi milijoni let populacija Eucyona razvila v prve člane sodobnega pasjega rodu Canis, ki so se razširili na te druge celine.
Toda zgodba se tu ne konča. Čeprav so pasji psi (vključno s prvimi kojoti) še naprej živeli v Severni Ameriki Epoha pliocena, prvi volkovi velikega števila so se razvili drugje in so "vdrli" v Severno Ameriko tik pred naslednjim Pleistocen (prek istega Beringovega kopenskega mostu). Najbolj znan od teh očk je bil Dire Wolf, Canis diris, ki se je razvil iz volka iz starega sveta, ki je koloniziral tako Severno kot Južno Ameriko (mimogrede, Dire Wolf je tekmoval neposredno za plen s Smilodon, "sabljastega tigra.")
Konec pleistocenske epohe je bil priča vzponu človeške civilizacije po vsem svetu. Kolikor lahko rečemo, je prva udomačitev Sivi volk se je zgodilo nekje v Evropi ali Aziji nekje od 30.000 do 15.000 let. Po 40 milijonih let evolucije je sodobni pes končno debitiral.