人类从什么时候开始在日本群岛定居的，仍然没有明确的结论。4世纪中叶，日本建立了第一个统一的国家。10世纪以前，日本主要吸收外国文化。中国、朝鲜和印度的文化对日本有很大的影响。只有在10世纪之后，真正的日本文化才得以发展。17世纪以后，日本的数学甚至更加繁荣。
日本人把在受到西方数学影响之前根据自己的特点发展起来的数学称为和运算，这也是日本的传统数学。17世纪末至19世纪中叶是和谐计算的繁荣时期。
和谐与计算是在中国古代数学的影响下发展起来的。自6世纪以来，中国历法和数学被直接或间接地(通过朝鲜)引入日本。日本政府也多次派留学生到中国唐朝学习数学。到8世纪初，日本已经在隋唐时期建立了自己的数学教育体系，并采用了中国古代的书籍，如《周笔算》、《九章Suan》、《孙子Suan经》和《叙书》作为教材。这是中国数学第一次传入日本。
从13世纪到17世纪，是中国数学传入日本的第二个时期。杨辉的算法、数学启蒙以及一系列算法相继传入日本，对日本数学的发展产生了重要影响。明仁吉田的《尘埃落定记》(1627年)使珠算在日本迅速流行。其内容与《算法的统一》非常相似，但许多例子都是根据日本的实际情况编写的。在此期间，其他几本书致力于介绍和解释数学启蒙运动。
17世纪初，日本数学家开始写他们自己的作品，如毛利人的《切割之书》(1622年)和木村商志的《竖亥记录》(1639年)。到17世纪末，通过关小和等人的努力，日本的数学体系——和谐计算逐渐形成。
关小和在日本被视为“圣人”。从17世纪末到18世纪初，一个以他为核心的学派(关流)形成了。该学派的主要成果是“点通灵”和“圆论”。“点窜”是一种特殊的笔画代数，它将从中国引进的天文技术转化为笔画计算，并改进了计算公式的记数法。“圆理论”可以看作是一种独特的和计算的数学分析。健步先弘得到了弧长的无穷级数表达式，也称为圆公式。Kurujima Yitai推广了圆理论的公式，发展了圆理论的极数(极值问题)，在西方数学家之前发现了欧拉函数和行列式展开定理。关学派第四代大师直圆深入微积分领域，提出了求弧长的方法。将这种方法推广到二重积分，得到了两个相交圆柱体的公共部分的体积。后来关的数学家和田宁进一步改进了圆的理论，简化了弧长、面积和体积的计算。他的方法类似于目前的积分法的原理。
除了关学校，还有一些规模较小的学校。他们在求和计算中总结了各种几何问题。深入研究了椭圆和球面等面积和等体积的计算公式。讨论了代数方程理论。
19世纪中叶，日本政府采取了建国政策，引进了大量西方数学。明治维新时期，日本政府实行“取消调和计算法，只使用外国计算法”的政策。和声计算迅速衰落(至今只使用了算盘计算)，同时开始了现代数学的研究。今天，日本已经进入世界数学研究先进国家的行列。