Le New York Central Railroad a été créé à partir de plusieurs lignes de chemin de fer différentes qui ont été réunies pour consolider les lignes de chemin de fer dans tout l'État de New York. George W. Featherstonhaugh a demandé à la législature de l'État de New York d'incorporer la Mohawk & Hudson Railroad Company (M&H) le 28 décembre 1825. Quatre mois plus tard, le 17 avril 1826, Featherstonhaugh a nommé Stephen Van Rensselaer III comme premier président de M&H . Les autres acteurs clés dans la création de la ligne de chemin de fer étaient Lynde Catlin (présidente de la Merchant's Bank de New York), James Renwick (professeur de mathématiques à l'Université de Columbia) et John Jacob Astor (trafiquant et marchand de fourrures).
Curieusement, M&H est resté essentiellement inactif jusqu'en janvier 1829, lorsque la construction a commencé sur une ligne allant d'Albany à Schenectady, New York, pour augmenter les affaires florissantes de fret menées sur le canal Érié. L'ingénieur Peter Fleming a été embauché pour construire ce tronçon de piste de 16 milles. Fleming, cependant, a abandonné ce poste en 1830 et a été remplacé par John B. Jervis. Le chemin de fer a finalement ouvert ses portes en août 1831, au double du coût estimé. Les chevaux et la seule locomotive de la ligne ont été utilisés pour tirer les wagons pendant sa phase d'exploitation initiale, bien que d'autres locomotives aient été achetées peu de temps après.
La liaison suivante de la ligne, reliant Utica et Schenectady, a commencé son service en 1836. Cependant, comme ces voies étaient parallèles au canal Érié chargé de marchandises, la législature de l'État a proclamé qu'il était illégal de transporter des marchandises jusqu'en 1844. ce chemin de fer pendant les mois d'hiver.
Pendant ce temps, d'autres chemins de fer se développaient à travers l'État de New York. Les lignes interétatiques ont prospéré, même si la rivière Hudson s'est avérée être un obstacle important en raison de la vitesse élevée et du coût relativement faible auquel elle pouvait être utilisée pour transporter des marchandises. En 1849, cet obstacle fut surmonté par la construction d'une ligne reliant Poughkeepsie à New York. Cette piste a été rallongée jusqu'à East Greenbush, et il est vite devenu évident qu'une consolidation des lignes interétatiques était en ordre. Les voies ont finalement été reliées en 1853 et le New York Central Railroad (NYC) a été formé.
Le célèbre magnat des chemins de fer Cornelius Vanderbilt (1794–1877) a pris le contrôle du New York Central en 1868 et l'a combiné avec le chemin de fer de la rivière Hudson. Agissant en tant que président des deux lignes, Vanderbilt entreprit d'étendre la portée de ces chemins de fer jusqu'à Chicago, Illinois. Il a commencé une série d'acquisitions, en commençant par l'achat de Lake Shore & Michigan Southern. Le fils de Vanderbilt, William, a continué à étendre l'empire grâce à l'acquisition de Nickel Plate Road (1883) et de West Shore (1885). L'influence de Vanderbilt a continué à dominer même après la mort de William H. Vanderbilt en 1885. D'autres chemins de fer ont été acquis sous la direction de Chauncey Depew, et bientôt la ligne a atteint aussi loin à l'ouest que le fleuve Mississippi. En 1900, la société loua la ligne Boston & Albany, créant l'une des sociétés les plus puissantes des États-Unis et un chemin de fer de grande envergure qui s'étendait au nord de New York au Canada et à l'ouest de Boston, en passant par Chicago jusqu'à Saint-Louis, Missouri.
Le New York Central Railroad a apporté de nombreuses contributions à l'industrie ferroviaire. Celles-ci comprenaient la machine à vapeur de type américain n ° 999, l'invention du dynamomètre (un appareil utilisé pour mesurer la force exercée par les locomotives lors du remorquage des trains) et l'ouverture de la première école d'apprentis ferroviaires. Le New York Central a également été la première ligne à adopter l'utilisation de freins haute puissance spécialement conçus pour les équipements passagers en acier lourd.
Malheureusement, des temps difficiles s'annoncent. En 1954, Robert R. Young a pris le contrôle du New York Central. Alfred E. Perlman a été nommé président du chemin de fer, la dernière personne à détenir ce titre. Les voyages en automobile et en avion avaient commencé à éloigner les passagers des rails. En 1962, les directeurs du New York Central et du Pennsylvania Central ont décidé de fusionner les deux systèmes dans le but d'éliminer les installations ferroviaires qui se chevauchaient et de développer un seul chemin de fer puissant. Diverses questions juridiques ont retardé la fusion jusqu'en 1968, mais il était alors trop tard. Les chemins de fer combinés, surnommés New Penn Central, ont fait faillite en 1970. Ce qui a commencé en 1825 sous le nom de Mohawk & Hudson Railroad Company et a prospéré pendant des années sous le nom de New York Central, est devenu une partie de la Consolidated Rail Corporation (ConRail) gérée par le gouvernement. en 1976.