Dan Smith(ダン・スミス)のソロプロジェクトとしてスタートし、後にメンバーがそれぞれ加入したことでロック・バンドとして2010年正式に結成されました。バンド名は、Dan Smith(ダン・スミス)の誕生日である7月14日に祝われるBastille Day(フランス建国記念日)に由来し命名されました。
同年インディーズレーベル「Young&Lost Club」から「Flaws」「Icarus」の2曲入りシングル「7」でデビュー。YouTubeやMySpaceなどのサイトでオンラインでも公開し、徐々に視聴者を増やしていきます。2011年12月Virgin Recordsと契約。その後、Glastonbury、Isle of Wight、Redfest Reading、Leeds Festival、Blissfieldsなどの英国の主要フェスティバルで上演され、「Other People's Heartache」と題したミックステープの2部をレコーディングしリリース。