沙未爾在印度遇著一個日本人。那人受洗以後自稱為保羅，勸沙未爾到日本去傳道。於是在公元1549年沙未爾和保羅坐中國的輪船到了日本，當地的地方官員也很優待他們。沙未爾雖然不能多講日語，還是常常用剛學回來的日語傳道，並且靠保羅的幫助著了一本說明基督教的書。過了兩年，已經有七百六十個信徒。後來，沙未爾來到中華，留下他的兩個朋友住在日本。那時日本雖然是帝國，但群雄割據互為兵爭，幕府稱為大將軍。
幕府雖沒有皇帝的名號，卻擁有皇帝的實權。這時又是佛教在日本最興旺的時代，和尚有統管炮台和陸軍的大權，真算是一個有勢力的機構。當時的大將軍長為因要壓制佛教，利用基督教為他的利器。當時天主教的耶穌修會依從了他的旨意，也不顧及干涉日本的內政的危險。當時教會在日本才稍有進步，願意信道的人也多，但中間也有因強迫而信的。比如在長崎有一個諸侯曾說：基督教的真神幫助他戰勝了他的仇敵，所以他吩咐那不信基督的，一概離開他的邦土。
主後1582年秀吉續信長為將軍。秀吉首先待基督徒很好。後來(主後1587年)因怕基督教帶來禍難，就變了態度，命令外國來的信徒，限二十天之內，都要離開日本。這命令一下，有些修道士即刻走了。不料有法蘭西斯(方濟會)和多米尼古派(道明會)的修道士，正從菲律賓群島來到日本。他們中間也常起紛爭。秀吉因此忿怒，在長崎把六個西班牙修道士，三日本修道士，和另外十七個日本人釘在十字架上。
以後的將軍也相繼逼迫基督徒。最初的基督徒還有忍耐的心志，但是到了主後1637年，就在長崎反叛起來。次年有男丁兩萬，婦孺一萬七千，佔據一個老炮台，藉此保全性命。過了三個月，他們屢被攻打，所有的人不是死在瘟疫和饑荒之中，就是死在刀劍之下。後來政府下一通令：「凡信基督教和與外國人有往來的，都處死刑。」
居留澳門的葡萄牙人，不信通令上的話，就遣派四個尊貴的老人，帶了珍貴的禮物到日本去作公使；另外還有五十七人。他們到了日本，日本人即把這四個老人和隨從的人殺了。未被殺的僅十三個人，為的是要他們回去報告。從這時起，西方的人不能明明的到日本去傳道。
主後1853年美國強逼日本開放海口，日本也藉著與西方來往進步很大。以後日皇便發出寬容宗教的告示。於是羅馬天主教的人來到長崎，調查那裏還有沒有信徒。後來他們在那裏找到了幾千人信徒。在這二百五十年的苦難時代，信徒還未絕跡。現在日本有基督教徒數十萬，教會多有自立的。
