カリフォルニア州のロサンゼルスに生まれる。父のジョン・ミルトン・ケージ・シニア(1886〜1964)は発明家で、母方の叔母と叔父には音楽家がいた。父は1912年に潜水艦を建造して当時の世界記録を更新したが、ガソリン・エンジンだったため兵器には採用されなかった。ケージは家族の転居によって多くの学校に通い、サンタモニカでピアノを習いはじめる。ロサンゼルスの高校を優秀な成績で卒業し、クレアモントのポモナ・カレッジに入学したが、学業に興味を失い渡欧の計画を立てる。 1930年にパリで建築家エルノ・ゴールドフィンガーに建築を学んだのち、マジョルカではじめて作曲を行なうが、当時の作品は現存していない。31年にアメリカに戻り、ピアニストのリチャード・ビューリックに頼み込んで音楽を学ぶ。 のちにヘンリー・カウエルの紹介でアルノルト・シェーンベルクに師事し、1934年から1937年にかけて南カリフォルニア大