Delstaten New Yorks to største landformer er Adirondack og Catskill Mountains som til sammen dekker en tredjedel av hele staten. Adirondack-fjellene utgjør den største landformen av de to, og de når 5344 fot på toppen. New York har også mange innsjøer, inkludert Lake Champlain Lake George og Oneida Lake.
New Yorks mange fjell er en del av Appalachian-fjellkjeden som strekker seg inn i delstatene Vermont og New Hampshire samt inn i den sørlige regionen av Canada. Andre bemerkelsesverdige innsjøer i New York inkluderer Lake Erie og Lake Ontario, to av Great Lakes som også grenser til Canada i nord. Delstaten New York inneholder også mange daler, skoger og bølgende åser, samt elver, fossefall og strender i hele staten. Betydelige elver inkluderer elvene Genesee Hudson Delaware og Mohawk.
New York er også hjemsted for det mange anser som en av de største fossene i verden Niagara Falls. Denne store landformen ligger på grensen mellom USA og Canada og er den kraftigste fossen i Nord-Amerika. Mange av New Yorks landformer er store turistattraksjoner og trekker utallige besøkende til staten hvert år.