据 U.Today 报道，Ripple 荣休首席技术官 David Schwartz 近日对 Gary Gensler 等人 2020 年论文中关于人工智能金融风险的论述发表看法。他质疑论文讨论中“AI 会因为太聪明而做蠢事”的逻辑，同时承认自动化决策可能被大规模执行。
争议源于社交媒体用户重新提及 Gensler 在 2020 年 11 月与 Lily Bailey 合著的论文《Deep Learning and Financial Stability》。该论文当时发表于 MIT Sloan School of Management，早于 Gensler 出任美国 SEC 主席。论文警告，金融行业正进入数据分析快速演进的新时代，而为早期数据分析技术建立的监管制度，可能不足以应对深度学习被广泛采用后产生的风险。
讨论为何重新升温
X 用户 Andrew Curran 重新引发讨论，称 Gensler 可能“早到派对”，提前预见到深度学习在金融领域广泛采用的系统性风险。Curran 还引用 Apollo 首席经济学家 Torsten Slok 的警告：AI 代理大规模采用可能触发银行挤兑，因为这些代理会以优化用户投资为目标。Curran 补充称，Gensler 也警告市场可能出现同类问题，即追求规模化算法完美会破坏系统稳定。
Schwartz 的核心质疑
Schwartz 在回应中写道：“我认为其中很多内容有道理。没有道理的部分是‘它们会聪明到去做蠢事’。”报道称，这一评论似乎挑战了更智能的 AI 代理必然产生更非理性结果的观点，同时似乎也承认此类自动化决策可能被大规模做出。
AI 代理与金融稳定
自主 AI 代理具备推理、规划并执行跨互联网多步骤任务的能力。随着 AI 代理越来越多地被用于自主决策，成千上万甚至数百万个独立运行系统之间如何互动，可能成为金融基础设施和监管机构需要重点考虑的问题。
原文发表于 U.Today。