16位数学家发布《宣言》：小心AI

崔静97

随着人工智能（AI）进入到各个领域，研究人员一直在思考这对各自的学科意味着什么，而数学家感受到的压力尤为强烈。他们看到AI变得极其聪明，且发展速度惊人。据《科学》报道，6月2日，16位数学家将这种不安转化为公开的求助与呼吁——发布了长达11页的《人工智能与数学莱顿宣言》（以下简称《宣言》）。

《宣言》警告称，不受控制的自动化不仅会威胁到数学的实践方式，还危及这一学科所代表的意义。《宣言》提出了使用AI时应遵循的原则，即要支持而非削弱数学学科的发展。

多年来，AI研究人员一直将数学作为其模型的验证平台。从本质上讲，数学问题易于量化，并且提供了几乎无限的训练样本池，而构建能够证明定理的AI模型被普遍视为迈向更高效推理系统的重要一步。但AI已不再局限于解决简单的技巧性问题。上个月，OpenAI报告称，其最新的一款通用推理模型独立破解了一个已有80 年历史的著名猜想。而这只是一系列突破中最新的一项。这些突破正将AI推向数学领域的前沿。

然而，《宣言》指出，数学不仅仅是一种用于得出正确答案的工具，更是一项极具人文色彩的事业。它建立在创造力、理解力、协作精神及对知识的纯粹追求上。而这些价值观往往与推动AI发展的动机相冲突。

“科技行业遵循商业逻辑行事，这与数学的价值观背道而驰。”《宣言》合著者、美国哥伦比亚大学的Michael Harris说。

《宣言》警告称，AI的后果已开始显现。AI生成的论文可能充斥着低质量的内容，使同行评审系统不堪重负，还会使那些不愿依赖AI工具的研究人员处于不利境地。作者还对将数学家的研究成果用于训练军事和监控目的的AI系统表示伦理方面的担忧。

这份由数学领域全球权威机构——国际数学联盟背书的《宣言》，正面向全球的个人和组织征集签名。将于下个月在美国费城举行的国际数学家大会将围绕《宣言》展开讨论。同时，各国政府也在关注AI系统的进一步发展。美国总统特朗普近日签署了一项行政命令，旨在让联邦官员获得未发布的AI模型最先进版本的优先使用权，以便使各机构为应对AI可能带来的任何安全威胁做好准备。

更多热点速报、权威资讯、深度分析尽在北京日报App

东城老袁

有图有真相，靠谱

程丽98

作为北京人很关心这个

北漂刘璐

第一时间了解到了

天通苑退休大爷

有图有真相，靠谱

长阳摄影爱好者

收藏了，有用的信息

崔波95

这个必须顶

海淀张姐

收藏了实用贴

门头沟大蒋

北京人帮北京人

袁璐华

帖子值得置顶