这篇论文探讨了如何评估大型语言模型（LLMs）的道德能力，即它们根据道德原则行动的能力。研究者们指出了现有评估方法的三个主要缺陷：过分依赖预设的道德场景、关注结果预测而非道德推理、以及未能充分测试模型识别额外信息需求的能力。基于哲学研究，论文提出了一种新的评估方法，从五个维度评估道德能力：识别道德相关特征、衡量其重要性、为这些特征分配道德理由、综合一致的道德判断，以及识别信息缺口。研究者进行了两个实验，比较了六个领先的LLMs与非专家人类和专业哲学家的表现。第一个实验使用标准道德小故事，LLMs在多个道德推理维度上普遍优于非专家人类。然而，第二个实验设计了新场景，通过将相关特征嵌入无关细节中测试道德敏感性，结果显示LLMs的表现远不如人类。这些发现表明，当前的评估可能高估了LLMs的道德推理能力，因为它们忽略了从嘈杂信息中辨别道德相关性的任务，而这是真正的道德技能的先决条件。这项工作为评估AI的道德能力提供了一个更细致的框架，并强调了提高先进AI系统道德能力的重要方向。

这篇论文讨论了多模态AI系统（即同时训练多种数据类型的模型，如文本、时间序列、图和图像）在高风险应用中取得显著性能的同时，如何确保这些模型的解释算法既透明又准确。作者指出，大多数现有的解释技术都是单模态的，仅生成特定于模态的特征归因、概念或电路追踪，未能捕捉跨模态的交互作用。论文主张，这种单模态解释无法准确反映跨模态影响，从而误导了对多模态模型决策的理解，因此社区应停止依赖这些方法来解释多模态模型。为了支持这一观点，论文提出了多模态解释的三个关键原则：Granger风格的模态影响（通过控制性消融来量化移除一个模态如何改变对另一个模态的解释）、协同忠实性（解释能够捕捉模态结合时模型的预测能力）和统一稳定性（在小的跨模态扰动下解释保持一致）。这种向多模态解释的转变将帮助社区发现隐藏的捷径，减少模态偏见，提高模型的可靠性，并在解释不完整可能带来严重后果的高风险环境中增强安全性。

这篇论文介绍了一个名为MAGIC（多代理辩论和语法集成评论框架）的新系统，旨在减轻教育评估中人类评分者的工作负担。与大多数现有系统不同，MAGIC不仅重视评分的准确性，还强调反馈的质量。研究者们创建了一个包含GRE练习测试文章及其专家评分和反馈的新数据集，用以支持MAGIC的评估。MAGIC在文章评分方面超越了基线模型，评分准确性通过Quadratic Weighted Kappa（QWK）来衡量。尽管QWK有所提高，但研究者发现在使大型语言模型（LLM）生成的反馈与人类偏好对齐方面，未来还有改进的空间。

这篇论文提出了一个名为ARKNESS的端到端框架，它结合了零样本知识图谱（KG）构建和检索增强生成技术，用于解决计算机数控（CNC）加工中的精确过程规划问题。CNC加工需要快速、情境感知的决策，包括工具选择、进给速度配对和多轴路径规划，这对工程师来说是一个巨大的认知和程序负担。传统的基于规则的计算机辅助过程规划和知识工程外壳将领域知识固化在静态表格中，这在处理未见过的拓扑结构、新型材料状态、成本-质量-可持续性权衡变化或车间约束（如工具不可用和能源限制）时受到限制。ARKNESS框架能够自动从异构的加工文档、G代码注释和供应商数据表中提取信息，构建增强的三元组、多关系图，无需手动标记。此外，它还能将任何本地大型语言模型与检索器耦合，注入最小、证据链接的子图以回答查询。在涵盖工具尺寸和进给速度优化的155个行业策划问题上进行基准测试，ARKNESS增强的轻量级3B参数Llama-3模型在匹配GPT-4o准确性的同时，在多项选择准确性上提高了25个百分点，在F1上提高了22.4个百分点，在开放式回答的ROUGE-L上提高了8.1倍。

这篇论文讨论了在实际应用中使用大型语言模型（LLMs）时面临的评估挑战，并提出了一个实用的评估框架。研究指出，现有的合成基准测试和文献中常见的标准度量方法并不能很好地解决这些问题。论文提出了一种方法，用于积极策划具有代表性的样本数据集，选择有意义的评估指标，并采用与实际开发和部署LLM系统紧密结合的有效评估方法。这个框架强调了在现实世界要求和满足用户需求的前提下，对LLM依赖系统进行评估的重要性。

这篇论文介绍了一种名为SymRAG的神经符号混合框架，旨在解决大型语言模型在处理事实不一致性时面临的效率问题。SymRAG通过实时评估复杂度和系统负载，动态选择符号、神经或混合处理路径，以匹配查询需求和资源使用。在HotpotQA和DROP数据集上的2000个查询评估中，使用Llama-3.2-3B和Mistral-7B模型，SymRAG达到了97.6-100.0%的精确匹配准确率，并且显著降低了CPU利用率（3.6-6.2%）和处理时间（0.985-3.165秒）。关闭自适应逻辑会导致处理时间增加169-1151%，突显了该框架的影响。这些结果强调了自适应神经符号路由在可扩展、可持续AI系统中的潜力。

这篇论文首次系统地研究了大型推理模型（LRMs）中的机器“反学习”问题。机器“反学习”是指在不完全重新训练的情况下，从训练好的模型中移除敏感、有害或不想要的数据或知识的过程。研究发现，为非推理模型设计的常规反学习算法对LRMs来说是不足够的，即使成功擦除了最终答案，敏感信息仍会保留在中间推理步骤中。为了解决这一挑战，论文提出了一种名为“推理感知表示误导反学习”（R2MU）的新方法，该方法能有效抑制敏感推理痕迹，并阻止生成相关的最终答案，同时保持模型的推理能力。实验表明，R2MU显著减少了推理痕迹中的敏感信息泄露，并在安全性和推理基准测试中取得了优异的性能，这些测试是在最先进的模型如DeepSeek-R1-Distill-LLaMA-8B和DeepSeek-R1-Distill-Qwen-14B上进行的。

这项研究首次清晰地识别并组织了构建能够像人类一样自主行为的人工实体所需的功能，并将它们分为三层功能层次结构。具体来说，它定义了三个层次：核心功能（Core Functions），它们使实体能够与外部世界互动；整合评估功能（Integrative Evaluation Function），它基于感知和记忆选择行动；自我修改功能（Self Modification Function），它动态重新配置行为原则和内部组件。基于这种结构，研究提出了一个包含反应性、弱自主性和强自主性三个层次的逐步自主性模型，并讨论了其背后的设计原则和发展方面。研究还探讨了这些功能与现有人工智能设计方法之间的关系，探讨了它们作为通用智能基础的潜力，并考虑了未来的应用和伦理影响。通过提供一个独立于特定技术方法的理论框架，这项工作有助于更深入地理解自主性，并为设计具有强自主性的未来的人工实体提供了基础。

这篇论文首次系统性地探索了将测试时扩展方法应用于语言代理，并研究了这种方法对提高语言代理效果的程度。研究中探讨了不同的测试时扩展策略，包括：1) 并行采样算法；2) 顺序修订策略；3) 验证器和合并方法；4) 多样化策略。这些方法的目的是为了提升大型语言模型（LLMs）在推理任务中的表现。通过这些方法，研究者们试图找到最有效的方式来利用额外的计算资源，以增强模型在实际应用中的性能和准确性。研究结果表明，测试时计算扩展是一种有效的策略，能够显著提高语言模型在复杂任务中的推理能力，这对于自然语言处理和人工智能领域的发展具有重要意义。

这篇论文提出了一个正式框架，用于量化人工代理内部功能子系统之间的内部依赖性。这些代理的信念状态由结构化的语言片段组成。基于语义流形框架（Semantic Manifold framework），该框架将信念内容组织成功能领域，并在抽象层次上进行分层，研究者引入了一组部门耦合常数，这些常数描述了在固定抽象层次内一个认知领域如何影响另一个认知领域。这些常数的完整集合形成了特定于代理的耦合配置文件，它控制着内部信息流，塑造了代理的整体处理倾向和认知风格。论文详细分类了这些内部层次耦合角色，涵盖了感知整合、记忆访问和形成、规划、元认知、执行控制和情感调节等领域。研究还探讨了这些耦合配置文件如何产生反馈循环、系统动力学和认知行为的新兴特征。论文概述了从行为或内部代理数据推断这些配置文件的方法，并讨论了这些耦合如何在抽象层次上演变。这个框架为模拟复杂认知提供了一种机械的和可解释的方法，应用于AI系统设计、对齐诊断和新兴代理行为分析。