1917年ロシアで発生したロシア革命の後、中央アジアの国々に居住していたイスラム教徒はさまざまな拷問や弾圧を受けました。生命の危機を逃れるために、その地方に居住していたイスラム教徒は、海外への移住を始めました。

その一部は、中央アジアからシベリア鉄道を通って満州に移動・定住し、他の一部は小規模な商売をしながら韓国や日本に定住を始めました。
自国から逃亡し満州に定住した避難者にはパスポートがなく、海外渡航のためのビザを取得できませんでした。しかし当時、日本政府が1500円の保証金の代わりにビザを発給することがわかり、1920年代に満州に逃亡していたカザン州のトルコ人が、日本に移住を始めました。

カザン州のトルコ人は、短期間で日本の生活になじみました。特に日本の気候は、彼らにとって快適でした。1922年の東京大震災発生の後、アメリカ政府は東京在住の外国人を救助するため、アメリカへ招待し横浜港に特別船を用意したにもかかわらず、カザン州のトルコ人はこの招待を断り、日本を離れませんでした。

最初に来日したカザン州のトルコ人は神戸と東京に定住し、東京で最初の定住地となったのは大久保でした。
アブドゥルハイ・クルバン・アリ(1890~1972)の来日により、来日カザン州トルコ人はより結束し、1922年アブドゥルハイ・クルバン・アリを代表に、メハッレイ・イスラミイイェの名前で協会を作りました。カザン州トルコ人がトルコ共和国民になった以後、1953年にこの協会の名は、東京トルコ人協会と変更されました。

1933年のアブドゥルレシド・イブラヒムの来日は、日本に逃亡したカザン州トルコ人にとって、第二の転期となりました。その理由は、アブドゥルレシッド・イブラヒムはそれ以前の来日の際、多くの日本政府関係者と出会い、友好を深めていたからです。この友好関係により、カザン州トルコ人はより生活しやすくなりました。アブドゥルレシド・イブラヒムは、1944年に東京で他界し多磨霊園に埋葬されています。

カザン州トルコ人の増加する子供達への教育に対応するために、1927年に日本政府に学校設立を申し込みました。許可取得後、新大久保にある建物を賃貸し、1928年メクテビ・イスラミイェと命名された学校が開校されました。そして、この建物の一部を礼拝所として使用しましたが、1931年に富ヶ谷に建物を購入し学校が移転されました。メクテビ・イスラミイェで生徒達は、トルコ人とタタール人教師から、トルコ語、タタール語、英語、ロシア語を学び、小学校課程の全授業を日本語で学びました。学校では、民族的精神気質を子供達に植え付けるために、様々な活動が行われました。演劇はこの努力によって実現された活動のひとつです。

その後、日本企業の協力により渋谷区に土地を購入し、1935年校舎が建てられ、富ヶ谷から学校が移転されました。1996年4月12日に起工式が行われ1938年6月30日より工事が開始し2000年6月30日に無事開館いたしました。

イスラム教徒の宗教的・社会的な要求に対応してきた東京ジャーミィは、時と共に老朽化が進み、1986年にモスクの建物は取壊されました。その後、モスクと学校の所在地は、モスク建設を条件にトルコ共和国に寄附されました。

東京ジャーミィは、下記のモスク責任者とイマーム(指導者)が任務に当たりました。

  1. アブドゥルハイ・クルバン・アリ(初代責任者)
  2. アブドゥルレシド・イブラヒム(1938~1943年)
  3. トゥルキスタンル・エミン・イスラム(1943~1950年)
  4. シェリフッラ・ミフタヒュディン(1950~1969年)
  5. アイナン・サファ(1969~1983年)
  6. ヒュセイン・バシュ(1979~1983年)
  7. ジェミル・アヤズ (2000~2004 年)
  8. エンサリ・イェントルク(2004~)