数学系学生想要出国留学，可以遵循以下步骤和建议：

明确目标国家和院校

根据个人兴趣、专业优势和职业发展规划，选择适合的国家及院校。美国、英国、法国等国家的知名学府在数学领域都有很高的声誉。

准备申请材料

准备大学成绩单、雅思或GRE成绩（如果要求）、文书材料等。

撰写个人陈述，突出自己的学术兴趣、研究经历和职业目标。

提升学术和语言能力

提高本科数学课程成绩，尤其是专业核心课程。

如果目标院校是英语授课，需要准备雅思或托福考试，争取达到目标分数。

如果目标院校是其他语言授课，也要相应地参加语言水平测试并取得优异成绩。

参与科研和学术活动

主动联系本科院校的数学教授，争取参与科研项目的机会，如数学建模、数学理论研究等。

尝试在学术期刊上发表论文，哪怕是校级或省级的学术刊物。

参加数学竞赛和志愿活动

参加各类数学竞赛和志愿活动，增加自己的经验和技能，同时也能帮助学生建立良好的人脉关系。

制定详细申请计划

提前1-2年开始准备，明确目标院校的录取标准和申请条件。

定期检查和调整申请计划，确保所有材料按时准备并提交。

考虑实习和工作经验

如果有机会，可以寻找与数学相关的实习或工作经验，以增强自己的竞争力。

保持积极心态

出国留学是一次冒险，需要学生准备好离开自己的舒适区并迎接新的挑战。

保持积极的心态，相信自己的努力和准备最终会得到回报。

通过以上步骤，数学系学生可以更好地准备和申请出国留学，实现自己的学术和职业目标。