由于微信公众号开始试行乱序推送，为了让您在第一时间获取AI新文，请将"AI新文"设为星标。
从博弈论视角看AI对齐：综述
原标题：AI Alignment through a Game-theoretic Lens: A Survey
作者：Yanan Cai; Zhongrui Zhao; Zhigang Lu; Ickjai Lee; Wei Emma Zhang; Minhui Xue; Yihong Zhang; Shuchao Pang; Wei Xiang
期刊：arXiv每日人工精选
出版时间：2026/08/28
摘要：随着大型语言模型和功能日益强大的AI代理在高风险环境中部署，使它们与复杂的人类价值观保持一致已成为一个核心挑战。现有的对齐方法虽然有效提高了有用性、无害性和可控性，但往往难以捕捉到受上下文影响的、非传递性的并且由动态多方互动塑造的真实世界偏好。此调查通过博弈论视角审视AI对齐问题。具体而言，它围绕关键博弈论要素组织了近期的进展，并沿三个挑战综合了文献：偏好多样性，对齐优先级和时间动态。这一视角阐明了当前的对齐方法在何处真正受益于博弈论分析，在何处框架较为宽松，以及在构建稳健、适应性和可验证的人工智能系统方面仍存在哪些挑战。
原文链接
离散对数钟：一个变压器如何学习模乘运算
原标题：The Discrete-Log Clock: How a Transformer Learns Modular Multiplication
作者：Huu Danh Nguyen
期刊：arXiv每日人工精选
出版时间：2026/08/27
摘要：当小型变压器grok模块化乘法时，先前的工作报告称，所学嵌入具有“密集”的傅里叶频谱，需要所有频率。这与模块化加法不同，在模块化加法中，仅需一组稀疏的关键频率。我们表明这种密度是由于在错误的基础上进行分析而产生的伪像。自然的傅里叶变换用于乘法不是标准的加法DFT而是乘法字符变换，它将函数分解在乘法群(Z/pZ)∗上到其不可约表示。将此变换应用于在a⋅bmod113上训练的grokked变压器，我们发现嵌入光谱变得非常稀疏（基尼系数0.58 vs.0.07（在添加剂基础上）仅四个主要频率携带显著能量。此外，96.9％的MLP神经元清晰地调谐到单一乘法频率，并且当按离散对数重新排序时，神经元激活热图揭示了二维周期性结构。这些结果表明变压器在离散对数空间中将乘法转换为加法，实现了“离散对数钟”算法，类似于Nanda等人提出的用于加法的Clock算法。该方法具有通用性：将分析基础匹配到任务的代数结构中揭示了标准工具视为噪声的可解释结构。
原文链接
基于感觉运动规律的集体运动机制模型
原标题：A Mechanistic Model for Collective Motion from Sensorimotor Regularities
作者：Vito Mengers; Bao Duc Cao; Oliver Brock
期刊：arXiv每日人工精选
出版时间：2026/08/27
摘要：动物集体行为长期以来通过自推进粒子模型进行建模，这些模型通过抽象的相互作用力再现了令人瞩目的群体水平现象。然而这些模型本质上是描述性的：它们留下了集体行为实际上是如何产生的这个问题。最近的经验研究表明这一差距是具体的：蝗虫不会与邻近个体对齐，感官和认知机制介导相互作用。一个机制模型因此必须在感觉运动层面上运行，基于个体生物实际上能够感知、估计和物理执行的内容。我们基于机器人领域的建模框架提出这样一个模型，并将其扩展到集体运动。每个代理通过有限视野内的方位角和视大小线索感知邻居，保持不确定的内部状态估计，并通过梯度下降选择期望的社会距离下的动作---没有任何规定的作用力。这个简单的模型产生了多种集体行为包括极化运动、环游、环状结构形成以及子群分裂。全局敏感性分析表明行为转换受制于对应可测量生物量的感器运动参数：视野几何形状、感觉噪声、转向敏捷性和记忆。集体行为可以理解为交互的感觉运动规律所导致的涌现结果，而不同物种之间的差异则是由于身体化和环境的不同所导致的涌现结果。
原文链接
方法、心智与道德：人们如何理解人工智能
原标题：Method, Mind, and Morality: How People Make Sense of Artificial Intelligence
作者：Jacy Reese Anthis; Erik Brynjolfsson; James Evans
期刊：arXiv每日人工精选
出版时间：2026/08/25
摘要：人类如何理解人工智能(AI)的迅速崛起？我们通过一项开放式混合方法研究探讨了人工智能的意义构建动态，该研究对数百万篇与人工智能相关的报纸文章和社会媒体帖子进行了计算文本分析，并基于2021年和2023年的57次半结构化访谈——在公众兴趣激增之前和之后进行的访谈，受访者均为人工智能专业人士。我们识别了一系列社会学框架（结构集体认知的解释模式），并展示了AI专业人士如何使用这些框架来应对重要的认知挑战，例如分配对社会影响的责任。我们构建了一个框架，在这个框架中存在三个主要的辩论领域，其中涉及采用和争夺不同的视角：(i) 人工智能开发的方法，即自上而下的专家系统与自下而上的新兴能力之间的对比，(ii) 人工智能系统的思维，从被动工具到类似人类的“数字心灵”的范围，以及(iii) 有关如何使用人工智能的道德问题，特别是关于是否要放慢或加快人工智能发展的决定。随着人类进入变革性人工智能的时代，技术专家和政策制定者必须考虑那些将界定我们的信念、价值观和行为的框架动态。
原文链接
塑造黑人社区生成式AI未来的框架分析：公共话语与实证学术研究
原标题：Shaping the Future of Generative AI for Black Communities: A Frame Analysis of Public Discourse and Empirical Scholarly Research
作者：Angela D. R. Smith; Gabriella Thompson; Christopher L. Dancy; Mark Díaz; Seyi Olojo; Christina N. Harrington
期刊：arXiv每日人工精选
出版时间：2026/08/25
摘要：随着生成式人工智能（genAI）系统在教育、就业、医疗保健和创意产业中的嵌入，这些技术对边缘化群体的影响和参与已经成为广泛讨论的话题，并且是学术研究的重点。作为起点，我们考察公共讨论和实证研究以探讨生成式人工智能系统对黑人社区的影响。我们对91篇实证论文进行了系统文献回顾(SLR)，并对28个公共资源进行了媒体话语框架分析，应用Entman的框架理论来描述每个语料库如何定义问题，归因原因以及提出解决方案。我们的研究发现表明，学术研究在技术偏差检测方面投入了大量精力，将黑人身份简化为可测量的变量，而不是参与文化实践、结构性条件或黑人知识体系。我们的框架分析表明，公共讨论将生成式人工智能相关的危害归因于历史和系统性力量，而学术研究则将其因果解释停在了数据集层面，并且其建议的补救措施仅限于技术改革。我们证明这种错位是由结构产生的：反黑人行为在两个层面同时运作，共同导致了对黑人认识论主体性的排除。我们主张框架分析作为一种AI伦理学方法论，能够揭示技术评估所忽视的问题。
原文链接
基于脉冲的信念传播在非线性动力系统中(Spike-based Belief Propagation in Nonlinear Dynamical Systems)
原标题：Spike-based Belief Propagation in Nonlinear Dynamical Systems
作者：Sepideh Adamiat; Hongye Wang; Wouter M. Kouw; Bert de Vries
期刊：arXiv每日人工精选
出版时间：2026/08/20
摘要：本文提出了一种贝叶斯控制框架，该框架将基于脉冲的动力学与概率推理相结合，用于自适应控制。贝叶斯推理被广泛认为是大脑功能的核心计算原则，为感知、决策和在不确定性下的学习提供了规范框架。通过结合生物启发的脉冲神经模型与贝叶斯推理原则，我们提出了一种能够在不确定环境中运行的大脑样控制算法。我们使用具有非线性动力学的山地汽车停车问题作为基准。我们的结果表明，所提出的控制器能够通过脉冲驱动的动力学实时更新状态并生成目标导向的动作计划。结果突出了所提出的模型作为计算神经科学和概率控制理论之间的桥梁的潜力。
原文链接
认知诱发的风险在代理型AI系统中的理解
原标题：Understanding Cognition-Induced Risks in Agentic AI Systems
作者：Guanchu Wang; Qinuo Li; Mengnan Du; Xia Hu; Bowen Zhou
期刊：arXiv每日人工精选
出版时间：2026/08/15
摘要：前沿代理系统由大型语言模型（LLMs）驱动，表现出类似人类的认知模式。随着这些系统在不同领域中深度融合，它们的认知参与引发了对人类社会具有重要影响的问题，这些问题尚未得到充分研究。为了解决这一缺口，我们系统地分析了扩展认知能力所引发的风险，遵循一个三层次框架定义的认知范围，从物理认知到社会认知，最后到自我参照认知。我们研究它们对人类代理、自主性和控制能力的潜在风险，对应于每个认知层次。我们最终提出策略来减轻这些风险并增强代理型AI系统的可控性，确保其长期安全发展。
原文链接
NeuroRefiner：形态感知多智能体精炼用于三维荧光显微镜神经元分割
原标题：NeuroRefiner: Morphology-Aware Multi-Agent Refinement for 3D Fluorescence Microscopy Neuron Segmentation
作者：Haiyang Yan; Jinyue Guo; Yanchao Zhang; Bingqing Wang; Zhenchen Li; Jing Liu; Jiazheng Liu; Linlin Li; Hua Han
期刊：arXiv每日人工精选
出版时间：2026/08/10
摘要：准确的荧光显微镜下的三维神经元分割对于神经科学至关重要。然而，神经元稀疏且延长的形态对现有的分割方法提出了显著的挑战。这些方法难以同时保持局部细节和全局拓扑结构，导致碎片化结果。为了应对这一问题，我们提出了NeuroRefiner，一个多智能体系统，它形式化了人类专家的工作流程，包括迭代的全局观察和局部编辑。特别是，NeuroRefiner 包含三个协作代理，分别致力于诊断拓扑错误，生成校正指令和验证精炼质量。为了便于代理指令引导的分割细化，我们提出了TopoRefineNet，这是一个基于3D U-Net的专用工具，利用跨模态特征融合生成精化的掩膜。通过多轮智能体推理和体素级编辑，NeuroRefiner 产生拓扑更准确的分割结果，并增强可解释性。在BigNeuron、CWMBS和ZBFWB数据集上的实验表明，NeuroRefiner优于现有方法，在具有挑战性的ZBFWB数据集中F1得分提高了3.02％。
原文链接
在词汇空间中解开MLP神经元权重
原标题：Disentangling MLP Neuron Weights in Vocabulary Space
作者：Asaf Avrahamy; Yoav Gur-Arieh; Mor Geva
期刊：arXiv每日人工精选
出版时间：2026/08/04
摘要：解释语言模型权重中编码的信息仍然是机制可解释性的一个基本挑战。在本工作中，我们介绍了ROTATE（Rotation-Optimized Token Alignment in weighT spacE），一种无需前向传递的数据免费方法，可以直接在权重空间中解缠多层感知器神经元。我们的方法依赖于一个关键的统计观察结果：编码一致且单一语义概念的神经元在投影到模型词汇表上时表现出高峰度。通过优化神经元权重的旋转以最大化它们的词汇空间峰度，我们的方法恢复了稀疏且可解释的方向，我们将其命名为词汇通道。对Llama-3.1-8B-Instruct和Gemma-2-2B-it的实验表明，ROTATE始终恢复了忠实于神经元行为的词汇通道；消融单个通道会针对性地禁用相应的输入激活或促进特定概念。此外，聚合通道级描述可生成全面的神经元描述，在直接比较中优于基于激活优化的基础线模型2到3倍。通过提供无数据的神经元权重分解，ROTATE 提供了一个可扩展的、细粒度的构建模块用于解释语言模型。
原文链接
低维感觉动力学在循环网络中的嵌入：对神经表征几何的启示
原标题：Embedding of Low-Dimensional Sensory Dynamics in Recurrent Networks: Implications for the Geometry of Neural Representation
作者：Vikas N. O'Reilly-Shah; Alessandro Maria Selvitella
期刊：arXiv每日人工精选
出版时间：2026/07/31
摘要：感觉皮层中的神经群体活动组织在低维流形上，但为什么会出现这样的流形以及什么决定了它们的几何形状仍然不清楚。We将皮层群体建模为由低维规则感觉动力学(circles, tori)驱动的递归电路。结合广义同步和延迟嵌入理论，我们证明收缩的递归网络通常会发展出平滑的内部流形来嵌入感觉动力学。维数要求是适度的：N>2d 即可，其中 d 是固有的感觉维度（兼容 Whitney 和 Takens 的界限）。我们证明了一个预测分离结果，将表征几何学与预测性能联系起来，而不假设收缩：准确的预测迫使状态分离达到由预测误差设定的分辨率，从而产生类别边界、同色异谱等价性和辨别阈值。数值实验表明，训练后的tanh RNN恢复了环状和环面状的隐藏流形；状态分离在2d+1阈值处显著改善。训练使网络超越严格的收缩，但嵌入仍然存在，表明条件充足但非必要。这些结果提供了在递归回路中感觉流形为何会出现的机制解释以及预测如何限制其分辨率。
原文链接
几何引导的功能脑图生成表征
原标题：Geometry-Guided Generative Representation for Functional Brain Graphs
作者：Subati Abulikemu; Tiago Azevedo; Michail Mamalakis; John Suckling
期刊：arXiv每日人工精选
出版时间：2026/07/22
摘要：在神经网络科学中，功能脑系统通常使用独立但相关的图论或谱描述符来表征，忽略了这些属性如何在个体和条件下共变以及部分重叠。我们预计密集加权的功能连接图位于一个低维潜在几何结构上，在此结构上拓扑结构和谱结构在群体水平上平滑变化。尽管基于图的深度学习为建模这些脑连接组提供了一个强大的框架，监督方法受到标注数据有限可用性的限制。现有的无监督图表示方法也通常集中在节点级别的嵌入上，这些方法在捕获紧凑的图级别表示方面存在局限性，而这些表示需要保持来自密集功能连接组的信息。为了填补这些空白，我们使用图变换自动编码器学习紧凑的大脑图表示，在此过程中，领域特定的、对齐的功能梯度几何学提供了归纳偏置以指导学习。尽管采用完全无监督的方式进行训练，我们的方法能够有意义地分离认知状态，并实现视觉刺激的解码，性能通过纳入神经动力学进一步提高。同时，为了生成合成的大脑图谱，我们将一个扩散模型拟合到学习到的潜在表示中，并解码样本回密集连接组。
原文链接
基于主动推理的社会现实建构：模刻画从众与创造力的辩证关系
原标题：Social Reality Construction via Active Inference: Modeling the Dialectic of Conformity and Creativity
作者：Kentaro Nomura; Takato Horii
期刊：arXiv每日人工精选
出版时间：2026/07/21
摘要：社会代理人既内化集体规范又通过创造性行动重塑这些规范，然而计算模型尚未在一个统一的框架内捕捉到这一双向过程。我们提出了一种基于主动推理的多智能体仿真模型，在结构化的社会网络上形式化了社会现实的辩证构成。每个代理都维护一个内部生成模型，与邻居通信形成社会先验，创造新颖的观察结果，并选择性地将他人的创作纳入记忆。模拟实验展示了三个主要发现。首先，信息上具有凝聚力的社会群体内生性地出现，代表性的对齐反映了底层网络的聚类拓扑。其次，在社会表征和社会观察分布之间产生了循环互构关系，这种关系通过代理人的创造性行为得以维持，这些行为将表征结构投射到外部世界。第三，创作的传播表现出选择性、异质性的模式，不同于社会表征的稳定扩散，表明代理者通过局部互动动态构建文化生态位。这些结果表明，社会从众与创造性偏离之间的相互作用可以导致共享社会现实的内在形成和分化。
原文链接
PhenSPINE：脊柱病理诊断的标准基准
原标题：PhenSPINE: A Standardized Benchmark for Spine Pathology Diagnosis
作者：Duong Ngoc Vu; Hai Son Nguyen; Trong-Nghia Nguyen; Bien Tran Van; Trang Mai Xuan; Huan Vu; Thien Van Luong
期刊：arXiv每日人工精选
出版时间：2026/07/21
摘要：脊柱疾病的准确诊断依赖于放射学解读，然而自动化系统由于缺乏多样且高质量的基准而受到限制。在这项研究中，我们介绍了PhenSPINE，一个包含来自250名患者共计16,813张图像的磁共振成像数据集，旨在促进高级深度学习研究。我们提出了一种稳健的诊断基准，它结合了最先进的卷积骨干网络与位置编码机制，以明确建模椎间盘的解剖学背景。通过对四种标准MRI序列的评估，我们的实验表明，矢状T2加权序列提供了最可靠的诊断价值，实现了50.31%的优越宏平均F1分数。我们发现多序列融合策略的性能劣于单一序列基线，因为我们的数据集中跨序列的图像受到周围解剖区域噪声干扰的影响显著。本研究建立了一个稳健的基础线，并提供了对脊柱分析中序列选择的关键见解。
原文链接
动态系统中的化学反应
原标题：Towards chemistries in dynamical systems
作者：Martin Biehl; Nathaniel Virgo
期刊：arXiv每日人工精选
出版时间：2026/07/21
摘要：化学从分子及其反应的角度描述宇宙的各个方面。在这项探索性工作中我们提出了一种用类似术语描述任何动力系统方面的方法。用这种方式描述一个动力系统需要作出三个决定第一个是如何多的不同“位置”存在，在这些位置分子或化学物质可以出现；第二个是如何确定在每个位置存在的物种（or not）；第三个是在各个位置之间物种可以发生的转换和反应集合。为了这些选择能够与动态系统的状态更新兼容，每个状态都必须能够确定将当前发生的分子转化为在更新后状态中出现的分子的转换。我们还提出一个额外的要求，即在状态更新过程中总是存在一种唯一的方法来选择发生的最少转换次数。我们在生命游戏中讨论滑翔机(细胞自动机)，并认为根据Randall Beer的定义，它们也满足额外的标准。我们也指出了这种方法的一些问题。
原文链接
