刘辉开创了一种精确探索圆周率的方法。另一位中国古代数学家祖冲之的主要成就也在于圆周率的计算。据《隋书李露志》记载，祖冲之确定圆周率的不足近似值为3.1415926，剩余近似值为3.1415927，这是世界上圆周率第一次精确到小数点后第七位。直到16世纪，阿拉伯数学家阿尔卡西才打破了这一记录。祖冲之给出了圆周率的误差范围。
祖冲之和他的儿子祖？同时，用一种巧妙的方法解决了球体积的计算问题。《算术九章》认为外切圆柱与球的体积比等于正方形与内切圆的面积比。刘辉在《算术九章注》中指出，原书的说法是不正确的。只有“木荷方盖”(垂直相交的两个圆柱体的公共部分的体积)与球体体积之比恰好等于正方形与内切圆的面积比。然而，刘辉没有找到两个圆柱体垂直相交的体积公式，所以他找不到球的体积公式。祖冲之和他的儿子应用了“两个等截面的固体在等高度的体积必然相等”的原理，找到了牟河平盖的体积。球体的体积等于π/4乘以正方形覆盖的体积，因此球体的最终体积是π D3/6 (d是球体的直径)。这个公式被称为“祖？正义”。当西方人得到这条公理时，祖冲之和他的儿子已经有1000多年了。祖冲之还研究了“开放的差别权力”和“开放的差别地位”问题。这涉及到寻找二次和三次规划的根的问题。祖冲之甚至在解决方案中“同时使用正参数和负参数”，这显示了研究的高水平。
祖冲之和他的儿子在数学研究方面的成就被收录在他的数学专著《后缀技术》中。这本书如此深刻，以至于“学术官员无法探究它的深度，所以它被抛弃和忽略了。”在唐代的官方研究中，“后缀技术”也被列为十大经典之一。它需要4年的学习，学习年限是所有经典著作中的第一个。后来，“后缀”被引入朝鲜，但10世纪后，“后缀”逐渐在各国消失。虽然今天不可能知道“后缀法”的具体内容，但从《唐书》的研究年代和相关史书的零星记载中，我们仍然可以看到它的学术价值。