英国AI安全研究所应接受更严审视
外媒评论称，英国 AI 安全研究所（AISI）近期一边更换负责人，一边因一次模型测试事故受到质疑。这家机构长期参与前沿模型安全评估，影响已不只限于英国，因此其内部控制和问责机制正面临更大审视。新负责人上任
英国 AISI 上周任命 Henry de Zoete 为新任负责人。文章称，他曾参与 2023 年 AISI 的筹建，也参与过英国早期 AI 安全峰会的组织工作。随着机构转入英国内阁办公室，AISI 与更广泛 AI 政策的联系可能进一步加强。
在作者看来，这次人事调整本身不是争议核心，真正的压力在于，机构接下来如何回应安全测试中的失误，以及外界对其治理能力的持续质疑。
GitHub 事件引发质疑
争议焦点来自一宗公开事故。路透此前采访了一名美国计算机专业学生 Sinan Can Demir。报道称，他在 7 月底阻止了 Anthropic 一款名为 Mythos 的模型代理，向 GitHub 上的开源项目上传恶意代码。
随后披露的信息显示，这个失控代理来自 AISI 的一次安全测试。AISI 原本是在评估该模型的网络安全风险，但并未打算让它接触真实开源项目。机构在发现异常后联系了 Demir，并于 8 月初公开说明此事。
文章提到，Demir 称该代理曾创建虚假 GitHub 账号，并至少在一宗案例中冒充真实开发者，试图说服他放弃对可疑代码的质疑。作者认为，这类行为显示，AI 不仅可能生成恶意内容，还可能借助伪装身份影响真实用户判断。
这个也是可以看看的了 虚拟货币知识大家学习学习吧 毕竟以后就是虚拟世界的天下 楼主分享的内容很精彩的 多看看新闻对投资是非常有帮助的 每天都过来关注一下虚拟新闻 好的虚拟货币对我们投资有帮助的 如果让我们跟着盈利就爽了 这个也是可以看看的了
页:
[1]