常陸国筑波郡(現在の茨城県つくばみらい市)にルーツを持つ横浜市中区真金町の遊女屋の長男・椎名貞雄と、千葉県市原市瀬又の農家の娘・伊藤ふくの長男として生まれる[3]。3歳で父を結核で亡くし、ふくは遊郭を手伝っていた。 歌丸が9歳のとき、戦況の悪化によりふくの実家がある千葉方面へ疎開。疎開中、横浜の空襲が起き、それをただただ見つめていたという[4]。また、千葉への疎開中は道端の草やサツマイモばかり食べていたため、その影響で終戦以降「私ゃね、サツマイモが食えねえんだよ」とサツマイモが食べられなくなってしまったことを語っていた[4]。さらに、父方の祖母・タネとふくはしきたりの違いなどで関係が修復不可能になり、ふくは遊郭を出てしまう。 終戦直後、疎開先に母ふくが歌丸を引き取りにきたが、2,3日後にはタネが歌丸を真金町に連れ帰った。タネが連れ帰ることを歌丸本人も嫌とは言わなかった(歌丸本人談)[3]。