开放研究社区

人工智能会回答。然后呢,它真会吸取教训吗?

这里研究的不是一次答对,而是系统行动之后会不会看见后果、记住失败、修正下一次决策,并让每一步依据都可以被查验。

理解使用共建合作
开放研究材料与私有生产实现之间的边界示意图。
行动人工智能采取重要行动之前,应当带着什么依据?
观察当智能体改变了环境,它原来的判断还能成立吗?
学习一次纠正,能不能变成持久且有边界的改变?
审计别人能不能看清规则、结果和适用范围?

四条入口

不必先成为专家,也不必先来挑战谁。

你可以先看懂一个问题,跑一次公开材料,修正一处细节,或者带来一个真实但不泄露隐私的可靠性难题。

03

共建

提出具体问题,增加安全样例,改善文档,或者公开一个实验。

选择讨论入口
04

合作

把故障复发或行动依据会产生真实成本的问题,变成边界清楚的联合评估。

发起私下沟通

研究项目

四个研究项目,分别回答四个具体问题。

可以按问题进入论文、协议、模式、样例或参考实现,查看方法如何定义、怎样运行,以及结论在哪些条件下成立。

可用版本

可以定位、运行和引用的公开版本,不是模糊的仓库快照。

每个版本都冻结了明确文件、验证命令和主张边界。它们不构成生产安全认证,也不公开私有产品核心。

当前研究议题

两篇 KDD 2026 workshop 论文,追问智能体产生真实影响之后的两种失败。

ReflexBench 检查智能体进入因果回路之后,原有推理能力能否保持。实验覆盖 20 个情景、6 个领域、4 层观察者深度和 9 个公开模型;所有测试模型在更深层级上都出现退化。

认知免疫 检查一次纠错之后,严重失败会不会再次发生。在公开的分数级协议下,无记忆策略的合并重复失败率为 0.764,认知免疫为 0.650;配对 seed-task 差值为 -0.106,95% bootstrap 区间为 [-0.211, -0.003]。

边界:两篇均为已经接收并完成展示的 KDD 2026 非存档 workshop 论文,不是 KDD 主会论文,也不是生产安全认证或通用可靠性证明。

Mian Zhang 在韩国济州 KDD 2026 的 ReflexBench 与 Cognitive Immunity 海报前。

第一次贡献

可以从一处小修正开始,也可以走到完整实验。

1读完或运行一份公开材料。
2提出一个具体问题,或描述一个真实用例。
3修正一份文档、链接、样例或夹具。
4公开一个基线、实验或扩展。
5维护一个边界清楚的组件或研究议题。

开放边界

诚意开放可检查、可连接的部分,严格保护数据、人员与产品优势。

公开

已经发表的概念与公式、公开协议、模式、验证器、小型样例、最小参考实现、安全演示、文档和负面结果。

发布前审查

大型数据集、详细运行轨迹、接近生产的实现、安全敏感案例,以及组合后可能暴露实现优势的组件。

保持私有

生产编排、精确权重与阈值、私有提示词与数据、客户系统、调优历史、部署自动化和未发表研究。

查看完整发布边界

常见问题

这里欢迎什么,又明确拒绝什么。

谁可以参与?

研究者、工程师、学生、行业实践者和普通读者都可以。问题、用例、文档、安全夹具、基线、实验和代码都有价值。

贡献一定要复现实验或反驳结论吗?

不需要。你可以写清一个概念、连接相关材料、改善使用体验、增加样例,或者描述一个真实问题。反例与结论检验只是其中两种方式。

开放研究是不是意味着完整产品都开源?

不是。公开协议、接口、验证器和最小参考实现,与生产实现、运行参数、客户材料和私有学习闭环明确分离。

论文或公开基准能证明生产安全吗?

不能。每项结果只在它明确写出的协议、数据、版本和限制内成立。

社区标准

带来一个真实问题,留下一个别人可以继续使用的公开成果。

成果可以是一段更清楚的解释、一份安全样例、一次比较、一个负面结果、一条修正后的边界,或者一个真正能运行的扩展。