“＋、－、×、÷”和“=”这五个符号，小学生和学前幼儿也已懂得它们的意义及其用法，在高等数学里当然少不了它们。但是它们的来历确实经过了一段十分曲折的发展历程。
古希腊与印度人不约而同，都把两个数字写在一起，表示加法，如3＋1/4就写成了3又四分之一。直到现在，从带分数的写法中还可能看到这种方法的痕迹。
若要表示两数相减，就把这两个数字写得离开一些，如6－1/5的意思就是6减去1/5。
于是后来，有人用拉丁字母的P（Plus的第一个字母，意思是相加）代表相加；用M（Minus的第一个字母，意思是相减）代表相减。如5P3就表示5＋3，7M5就表示7－5。到中世纪后期，欧洲商业开始变发达。许多商人常在装货的箱子上画一个“＋”字，表示重量超过一些；画一个“－”字，表示重量还不足。文艺复兴时期，意大利的艺术大师达·芬奇在他的一些作品中也采用过“＋”和“～”的记号。公元1489年，德国人威德曼在他的著作中开始正式用这两个符号来表示加减运算。到了后来又经过法国数学家韦达的大力宣传以及提倡，这两个符号才普及，到了1630年，最终获得大家的公认。
在我国，以“李善兰恒等式”闻名的数学家李善兰，也曾用““｜”表示“＋”；用“▲”表示“－”。因为当时社会上普遍使用筹算以及珠算来进行加、减、乘、除，所以还没有创立专用的运算符号。
后来人们开始采用了印度数码1、2、3、4、5、6、7、8、9、0（叫阿拉伯数码，但发明者却是印度人），同时也采用了“＋”和“－”的记号。至于“×”“÷”符号的使用，大约也不过三百多年。传说英国人威廉·奥特来德于1631年在他的著作上用“×”表示乘法，于是后人就把它沿用到今天。
中世纪时，阿拉伯数字十分发达，还出了一位大数学家阿尔花拉子密，他曾经用“3/4”表示3被4除。大多数人认为，现在通用的分数记号来源就是出于这里。至于“÷”的使用，能追溯到1630年一位英国人约翰·比尔的著作。人们估计他大概是根据阿拉伯人的除号“～”与比的记号“∶”合并转化而成的。
在国内，人们也曾把单位乘法叫“因”，单位除法叫“归”，被乘数叫“实”，乘数叫“法”，乘的结果叫“积”。在除法中，尽管被除数与除数也叫“实”与“法”，但他们相除的结果却叫“商”。
现代许多国家的出版物中，都是用“＋”“－”来表示加与减，“×”“÷”的使用则远没有“＋”“－”来得普遍。如，一些国家的课本中用“·”来代替“×”。在苏联或德国出版物中，很难看到“÷”，大多用比的记号“∶”来代替。实际上，比的记号的用法可以说与“÷”号基本一样，可以不必再画出中间的一条线。所以，这个“÷”号，现在用得越来越少了。
在这些符号当中，等号是相当重要的。巴比伦以及埃及曾用过各种记号来表示相等，但是最先得到公认的，是古代大数学家丢番图的记法esti和isas，简写为is。它们在中世纪，用来表示相等的记号有过特别大的混乱。第一个使用近代的“=”号的见雷科德的名著《智慧的磨刀石》，但“=”号直到18世纪才被普及，当时“=”号的两条线的长度经常被画得相当长。雷科德也曾说，他选择两条等长的平行线作为等号，原因是因为它们再相等不过了。
