La prima volta che venne usata la similitudine "New York - Mela" fu nel 1909 da Edward S. Martin, nel libro "The Wayfaver in New York". Nel suo saggio su New York, il Martin paragona lo stato di New York ad un melo le cui radici provengono dalla valle "proletaria" del Mississippi, mentre il frutto "aristocratico" dell'albero (appunto, la "grande" mela) riceve da parte del governo un sussidio economico sprzionato nei confronti degli altri stati dell'unione federale.
Il termine venne dimenticato fino agli anni '20, quando venne riproposto dal cronista sportivo John J. Fitzgerald che sentì questo termine sulla bocca di due stallieri afroamericani, che definivano così l'ippodromo di New York. L'espressione gli piacque e la usò sul New York Morning Telegraph, riferendosi sempre all'ippodromo, riportando come per gli scommettitori di corse ai cavalli, New York fosse sicuramente il circuito ("la mela") più ambito e remunerativo.
I musicisti jazz nel corso degli anni '30 e '40 spesso usavano quest'appellativo, ancora una volta come una metafora del successo che ci si aspettava dal suonare nei club di Harlem e Broadway. Quando si suonava lontano da New York, si suonava "sui rami", al contrario suonare a New York significava suonare nella "Grande Mela"!
Il soprannome è stato rispolverato, dopo un periodo di silenzio, negli anni '70, quando Charles Gillet, presidente dell'ufficio del turismo, usò il termine nella campagna di promozione della città e New York City ne fece suo il simbolo di una mela rossa. Infine nel 1997 il sindaco Rudolph Giuliani ha battezzato "Big Apple Corner" l'angolo tra la 54 strada ovest e Broadway, dove John J. Fitzgerald abitò dal 1934 al 1963, per rendere omaggio al grande scrittore, in qualche modo padrino della definizione.