CSDN技术社区 · 2022年07月27日

高数有多难?AI 卷到数学圈,高数考试正确率 81%!

OpenAI的Codex已经在MIT的7门高数课程题目中正确率达到81.1%,妥妥的MIT本科生水平。课程范围从初级微积分到微分方程、概率论、线性代数都有,题目形式除了计算、甚至还有画图。

高数是多少理科生的噩梦?小编当时就是一个高数很差的人图片

那让 AI 做一道数学题有多难呢?又何况是高数呢?

昨天,看到一则这样的热搜:
1.jfif
是不是更难以接受了?!!!

多年来,科学家一直尝试让 AI 机器人挑战数学考试,但连年不及格,甚至低到20多分。因此,科学家们普遍认为人工智能无法挑战高数。然而近日,麻省理工的科学家基于 OpenAI Codex 预训练模型在高数上通过 few-shot learning 的正确率达到了81%!相关研究已经被 ArXiv 收录。课程范围从初级微积分到微分方程、概率论、线性代数都有,题目形式除了计算、甚至还有画图。

一、语言模型 Minerva

研究者发现,让 AI 解决数学问题存在多种方案。

首先,利用最新的 GPT-3 语言模型通过文本预训练使用小样本学习仅能达到 18.8% 的正确率;其次研究者尝试使用小样本学习和最新的思维链提示,正确率上升到了 30.8%;最后,研究者对代码进行微调,使用 Codex 进行少量学习的方式,让 AI 挑战麻省理工大学学院六门数学课程中的 210 道问题,正确率提升到了 81.1% 。

研究团队的解决思路是先在文本上做预训练,再用代码进行微调,把数学问题转换成等价的变成问题,通过让 AI 自动生成补充提干的上下文,将题目自动生成适合模型运行的文本后,再生成对应的代码并运行,最终解决数学问题。研究团队下一步打算把这项技术扩展到更多课程,并考虑实际应用到教学中。

在提交的这篇论文中,我们了解到他们推出了语言模型 Minerva,该模型能够解决数学和科学问题,让模型一步一步来。通过收集与定量推理问题相关的训练数据、大规模训练模型,以及使用先进的推理技术,该研究在各种较难的定量推理任务上取得了显著的性能提升。

Minerva 通过生成解决方案来解决问题,包括数值计算、符号操作,而不需要依赖计算器等外部工具。Minerva 可以将自然语言和数学符号进行结合来解析和回答数学问题。

此外,Minerva 还结合了多种技术,包括小样本提示、思维链、暂存器提示以及多数投票原则,从而在 STEM 推理任务上实现 SOTA 性能。

Minerva 不仅可以解决代数问题,还能解决物理、数论、几何、生物、化学、天文学等众多问题。
2.png
研究者发现,让 AI 解决数学问题存在多种方案。

首先,利用最新的 GPT-3 语言模型通过文本预训练使用小样本学习仅能达到 18.8% 的正确率;其次研究者尝试使用小样本学习和最新的思维链提示,正确率上升到了 30.8%;最后,研究者对代码进行微调,使用 Codex 进行少量学习的方式,让 AI 挑战麻省理工大学学院六门数学课程中的 210 道问题,正确率提升到了 81.1% 。

研究团队的解决思路是先在文本上做预训练,再用代码进行微调,把数学问题转换成等价的变成问题,通过让 AI 自动生成补充提干的上下文,将题目自动生成适合模型运行的文本后,再生成对应的代码并运行,最终解决数学问题。研究团队下一步打算把这项技术扩展到更多课程,并考虑实际应用到教学中。

在提交的这篇论文中,我们了解到他们推出了语言模型 Minerva,该模型能够解决数学和科学问题,让模型一步一步来。通过收集与定量推理问题相关的训练数据、大规模训练模型,以及使用先进的推理技术,该研究在各种较难的定量推理任务上取得了显著的性能提升。

Minerva 通过生成解决方案来解决问题,包括数值计算、符号操作,而不需要依赖计算器等外部工具。Minerva 可以将自然语言和数学符号进行结合来解析和回答数学问题。

此外,Minerva 还结合了多种技术,包括小样本提示、思维链、暂存器提示以及多数投票原则,从而在 STEM 推理任务上实现 SOTA 性能。

Minerva 不仅可以解决代数问题,还能解决物理、数论、几何、生物、化学、天文学等众多问题。
3.png

下面是 Minerva 解决几何问题:
4.png
应用题上,可以列出方程式:
5.png
甚至还可以推导证明。

为了测试 Minerva 的定量推理能力,研究者们在不同的 STEM 基准上进行了评估,覆盖从小学水平的问题到研究生水平的课程。研究者们还在 OCWCourses 上评估了 Minerva,涵盖了从 MIT OpenCourseWare 中收集的固态化学、天文学、微分方程和狭义相对论等各种 STEM 主题。

结果表明,在所有数据集的评估后,5400亿参数的 Minerva 在各种测试集中达到 SOTA,有时甚至是大幅提升。

不过,Minerva 也犯了很多错误。

为了更好地确认模型可以改进的领域,研究者们分析了模型出错的问题样本,发现大多数错误很容易解释。结果表明,大约一半是计算错误,另一半是推理误差,原因是解决步骤没有遵循逻辑思考链。

同时,Minerva 也有可能得出正确的最终答案,但推理依然错误。分析结果显示,这种概率相对较低,Minerva 62B 在 MATH 数据集上的平均低于 8%。

二、结语

AI 不仅在技术圈有着不错的发展,在不同的领域也大展拳脚,前有让 AI 写高考作文,用 AI 修复解放军进驻香港的珍贵画面。

不仅有学生们盼着有一天能用 AI 做作业,还有老师们也期望用 AI 出卷子。

也有网友表示,想要挑战他。

你怎么看呢?

参考链接:
https://s.weibo.com/weibo/%25...

https://ai.googleblog.com/202...

推荐阅读
关注数
1858
内容数
103
本栏目由中国开发者社区 CSDN 发起,报道人工智能领域的热点资讯,帮助开发者全方位了解前沿 AI 技术,勾勒 AI 产业全景图。
目录
极术微信服务号
关注极术微信号
实时接收点赞提醒和评论通知
安谋科技学堂公众号
关注安谋科技学堂
实时获取安谋科技及 Arm 教学资源
安谋科技招聘公众号
关注安谋科技招聘
实时获取安谋科技中国职位信息