面向前沿AI的研究与评估服务
新衡(Neo Research)是一家设在新加坡的AI安全研究与评估实验室。我们应开发者的请求对模型进行评估,发布开放权重模型的安全报告,并与学术实验室、前沿安全组织及标准制定机构开展研究合作。
使命
我们致力于确保前沿AI能够安全地大规模部署。
AI系统的能力不断增强,承担的工作也越来越重要。安全失效只有先被观察到,才谈得上缓解。
我们测量模型在测试条件下的行为,验证安全框架,并评估风险。
服务
-
面向模型开发者
第三方评估
在模型发布之前或之后,基于您提供的访问权限对其进行安全评估,并向您报告评估结果。
包括
- 全面覆盖《欧盟AI法案》行为准则中的全部四个系统性风险领域:CBRN、网络攻击、有害操纵以及失控风险
- 评估方法参照行为准则对模型评估的要求
- 可供您撰写《安全与安保模型报告》(Safety and Security Model Report)时引用的结果
- 成熟基准与我们自研的评估套件相结合
- 与其他前沿模型在完全相同的条件下进行公平比较
结果是否公开由您决定。这一决定在评估开始前作出并写入协议。
申请评估 -
面向开发者、部署方与政策制定者
公开模型卡
我们评估发布时处于或接近能力前沿的开放权重模型,并以模型安全报告的形式发布结果。我们只使用公开发布的版本,不从开发者处获得任何特殊访问权限。
包括
- 附交互式图表的完整报告,以及 PDF 版论文
- 根据每个模型的能力与已有评估,为其选定风险领域
- 已发布:DeepSeek v4 Pro 与 Kimi K3
-
面向研究合作伙伴
研究合作
针对模型不对齐(misalignment)与失控风险开展实证研究,重点关注随着模型能力和自主性的提升,安全失效是如何出现的。
包括
- 联合评估与方法论共享
- 与学术实验室合作开发基准、开展共同研究
- 与前沿安全组织及标准制定机构的技术协作
团队
一支立足亚洲、专注于前沿AI安全的精干团队。
我们的团队成员来自AI安全研究所、前沿评估公司、治理研究机构与产业界,并得到世界各地研究员与顾问的支持。
-
曾任新加坡人工智能安全研究所(NTU DTC)研究工程师,主要研究多模态模型与计算机操作智能体的安全性。他以第一作者身份在ICLR、EMNLP和ACL发表多篇论文。目前担任Apart Research研究顾问,过去三年指导了数十个技术AI安全项目。
-
在欧洲和亚洲拥有十年的产品、治理与研究管理经验,曾任职于SAP、ByteDance、牛津大学和GovAI。他是新加坡AI安全中心的创始人,毕业于清华大学苏世民书院。
-
Isaac Lai
研究工程师
主导了新衡对Kimi K3不对齐风险的独立评估。此前,他曾在新加坡科技研究局(A*STAR)高性能计算研究所担任研究实习生,其物理信息神经网络研究发表于IJCNN 2026;也曾在新加坡国家医疗科技机构Synapxe担任机器学习工程实习生,从事医疗领域的多模态检索。在新加坡国立大学,他担任CS1010S助教近三年,并在最后一个学期出任首席助教。
-
Farrel Mahaztra
研究工程师
从事智能体与计算机操作智能体的评估研究。此前他在HUD(YC W25)担任技术团队成员(Member of Technical Staff),为前沿AI实验室编写评估与强化学习环境,并参与构建了一个LLM评估平台,该平台已支撑超过一百万次智能体评估运行。加入HUD之前,他在RemNote担任软件工程师近三年,主导开发了PDF与网页阅读器,30%的付费订阅用户将这一功能列为订阅原因;他还为抽认卡生成构建了LLM流水线,服务超过一百万用户。
-
Andreas Hermann
研究员
拥有七年以上研究经验,发表同行评审论文17篇,被引用超过450次。加入新衡之前,他在BlueDot Impact职业转型资助下开展独立的技术AI安全研究,考察智能体系统中的安全干预措施在微调、分布偏移和对抗性适应下能否保持有效。他曾任Safe AI Germany的AI安全研究员,研究开放权重大语言模型中涌现性不对齐的应对措施。此前,他曾任Syndigo的AI/ML工程总监,以及明斯特大学研究员,负责管理一个横跨六个国家的欧盟资助研究项目。
-
Neil Shah
研究员
机器学习研究者。他在新加坡国立大学开展的数据删除研究发表于ICML,被引用超过100次;近期关于一致性训练的研究被EMNLP Findings接收。他曾任LASR Labs的AI研究员,研究良性文档中难以察觉的词元如何操纵大语言模型的决策。转向对齐研究之前,他在Workato担任AI高级技术产品经理四年,推出了智能体编排、企业级MCP与文档处理产品,合计创造超过2000万美元收入。
-
Rhea Srivats
研究员
从事前沿模型的多智能体倾向性评估。她在多家领先科技公司拥有六年以上软件工程经验,最近任Skydio高级软件工程师,负责其飞控移动端体验中的连接与嵌入式挂载功能,并主导了Android平台集成、空中升级(OTA)与性能优化等工作。加入Skydio之前,她是Instagram相机AR团队的软件工程师。
-
我们正在新加坡及全球远程招聘研究科学家与研究工程师。
查看所有职位
顾问
-
Ze Shen是AI Standards Lab联合负责人,深度参与了欧盟《人工智能法》下《通用人工智能行为准则》的起草工作,并将行业实践与《行为准则》中的安全与安保措施逐项对照。他是牛津马丁AI治理计划研究附属成员,在该计划从事前沿AI风险管理方面的研究。他还致力于为AI评估制定最佳实践。他目前就欧盟《人工智能法》、《通用人工智能行为准则》,以及如何使评估与其安全和安保措施相一致,为新衡(Neo Research)提供咨询。
精选成果
团队成员的代表性学术成果
- The 2026 Singapore Consensus on Global AI Safety Research Priorities
- Open Problems in Frontier AI Risk Management
- Noise injection reveals hidden capabilities of sandbagging language models
- Understanding Refusal in Language Models with Sparse Autoencoders
- Turning Up the Heat: Min-p Sampling for Creative and Coherent LLM Outputs
- Chain-of-Thought is Not Explainability