14至16世纪是欧洲历史上从中世纪向现代过渡的时期。它在历史上被称为文艺复兴。中世纪束缚人们思想的宗教观点、神学和经院哲学逐渐被摧毁，一场复兴古代科学和艺术的文化运动出现了。在自然科学领域，诸如哥伦布的伟大地理发现、哥白尼的日心说、伽利略的数学和物理发明等革命性事件相继发生。
在这一时期，透视法首先在数学中发展起来。艺术家把描述现实世界作为绘画的目标，研究如何在二维画布上绘制三维现实世界。他们研究了绘画的数学理论，建立了早期的数学观点，成为18世纪射影几何的起点。其中，最著名的代表有:意大利人莱昂纳多·达文西、阿尔贝蒂娜、皮耶奥德尔·兰斯斯卡、德国人丢勒等。
文艺复兴时期，出版了许多流行的算术书籍，大部分是关于商业和税收计量的实用算术。印度阿拉伯数字的使用使算术运算标准化。帕西奥利的《算术、几何和比例性质概述》(SummaryMetrica，geometrica，比例比例，1494)是一本全面的数学书籍。符号“+”和“-”在J·威德曼的“商业速度算法”(1489)中第一次用来表示加法和减法。里斯于1522年出版的算术书被多次重印，影响广泛。西蒙斯泰文的《论十进制分数》(1585)系统地阐述了十进制分数的理论。
代数在文艺复兴时期取得了重要发展。最突出的成就是意大利学者建立的三次和四次方程的解。卡尔达诺在他的著作《阿尔马格纳》(1545)中发表了三次方程的求根公式，但是这个公式的发现应该归功于另一位学者塔尔塔利亚。四次方程的解是由卡达诺的学生法拉利发现的，也记录在《大书》上。后来，邦贝利在他的著作中解释了三次方程的不可约性，使用了虚数并改进了当时流行的代数符号。
16世纪最著名的法国数学家维特完成了符号代数的最终建立。在前人工作的基础上，他于1591年出版了著名的《分析错误学》一书，系统地整理了代数，并首次有意识地用字母来表示未知和已知的数，使代数在形式上更加抽象，应用更加广泛。在他的另一本书《论方程的识别和修正》(DeaequationUMrecognitioneetemandatione，1615)中，吠陀改进了三次和四次方程的解，并且还建立了n=2和3的情况下方程的根和系数之间的关系，这在现代被称为vieta定理。
在文艺复兴时期，三角学也有了很大发展。德国数学家雷乔蒙塔努斯的《论各种三角形》(Detriangulisomnimodis)是欧洲第一部独立于天文学的三角学著作。该书系统地阐述了平面三角形和球面三角形，并提供了一个非常精确的三角函数表。哥白尼的学生雷蒂斯
文艺复兴时期，文学、绘画、建筑和天文学都取得了巨大成就。另一方面，数学主要是建立在中世纪伟大的翻译运动的基础上，吸收了希腊和阿拉伯数学的成就，从而在数学和科学技术之间建立了密切的联系，并为未来两个世纪数学的伟大发展做准备。