Kar zadeva fosilne zapise, je New York narisal krajši konec palice: Empire State je bogata z majhnimi nevretenčarji, ki živijo v morju Paleozojska doba, pred stotimi milijoni let, vendar daje virtualno prazno, ko gre za to dinozavri in megafaunski sesalci. (Krivimo lahko, da Newyorkovo relativno pomanjkanje sedimentov, nakopičenih med EU, ni Mezozoik in Kenozoik Eras.) Vendar to ne pomeni, da je bil New York v celoti brez prazgodovinskega življenja, nekaj vidnih primerov najdete na naslednjih diapozitivih. (Glej a seznam dinozavrov in prazgodovinskih živali, odkritih v vseh državah ZDA.)
Pred nekaj več kot 400 milijoni let, med Silurian obdobje, je bil velik del Severne Amerike, vključno z zvezno državo New York, potopljen pod vodo. Eurypterus, uradni državni fosil New Yorka, je bil vrsta morske nevretenčarje, znane kot morski škorpijon, in je bil eden najbolj strašnih podmorskih plenilcev pred evolucijo prazgodovinskih morskih psov in velikan morski plazilci. Nekateri primerki Eurypterusa so zrasli na skoraj štiri metre, kar je pritlikalo primitivne ribe in nevretenčarje, s katerimi so plenili.
To ni dobro znano dejstvo, ampak različne odtisi dinozavrov so bili odkriti v bližini mesta Blauvelt v newyorški okrožju Rockland (nedaleč od New Yorka). Te skladbe segajo pozno Triasno obdobje pred približno 200 milijoni let in vključujejo nekaj zastrašujočih dokazov za vrtoglave pakete Koelofiza (dinozaver, najbolj znan po razširjenosti v daljni Novi Mehiki). Do pričakovanja prepričljivih dokazov, da je te odtise res postavil Coelophysis, jih paleontologi raje pripisujejo "ikonogenu", imenovanem Grallator.
Leta 1866 so delavci med gradnjo mlina v vzhodnem New Yorku odkrili skoraj popolne ostanke pet ton Ameriški Mastodon. "Cohoes Mastodon", kot je postalo znano, priča o tem, da so ti velikani prazgodovinskih slonov pred več kot 50.000 leti (brez dvoma skupaj s svojim bližnjim sodobnikom Pleistocen epoha, Woolly Mammoth).
Tako kot številne druge države na vzhodu ZDA je bil tudi New York do pozne pleistocenske razmere razmeroma majhen, geološko gledano, ko so ga prehodile najrazličnejše megafaunski sesalci, od mamuta in mastodonov (glej prejšnje diapozitive) do eksotičnih rodov kot je Velikanski medved kratkega obraza in Velikanski bober. Na žalost je večina teh veliko velikih sesalcev konec zadnje ledene dobe izumrla in je bila podvržena kombinaciji človeške plenilstva in podnebnih sprememb.