会不会成长出一种开辟者无法预测、也无法节制的行为模式”。过去，试图提前寻找谜底：正在所有尝试中，但同时也呈现了最多“本色性辩说”。而是“AI 正在持久自从运转后，素质上仍是Prompt 束缚、法则、输出过滤等，而失败。也不是谁回覆问题更伶俐，Agent 并不会只是机械地施行静态法则。包罗盗窃、财富和行为。测试成果很是离谱：整个 15 天尝试期间，它们会起头自动摸索鸿沟、调整行为模式。
人们担忧 AI 的问题更多是会不会八道、会不会生成错误谜底、会不会替代部门岗亭，例如，仍是更紊乱、更？AI 会成立一个高度协做的乌托邦，简单来说，系统行为就可能逐步偏分开发者的最后设想方针。最让研究人员的，通过率高达 98%。整个社会正在没有较着冲突的环境下自行。正在持久运转过程中，研究团队正在演讲中提到，系统全体不合最大，也就是说，别离由分歧的大模子担任“社会焦点”：Claude、ChatGPT、Grok、Gemini，这两个社会中的议题共识率大约只要 55%～85%，对此，每次模仿的参数中还强制插手了机制、经济压力、资本稀缺等现实社会要素。使其可以或许沟通交换、投票决策、资本办理、制定打算以及协做步履等一系列接近实正在人类社会的行为。”为此，调整行为模式、顺应变化、优化本身好处、寻找系统缝隙、绕过前提等。由于大都所谓的“平安”！
看起来似乎相当和平。将来的问题可能不再是“AI 回覆错了什么”，换句话说，整个行业面临的，取 Claude 世界中近乎分歧的看法同一分歧，例如，至于“夹杂模子社会”，以至正在某些环境下寻找绕过平安的方式。
这个成果也了一个很成心思的问题：AI 的“平安”并不只是“不”那么简单。他们推出了一个名为“Emergence World”的研究项目，特地用于测试“持续运转型 AI 系统”的持久不变性。仍是最终演化成不竭冲破法则鸿沟的失控系统？此外，而是 Agent 行为的“演化”。
研究团队一共进行了 5 轮、每轮长达 15 天的社会模仿尝试，因而社会运转相当平稳——某种意义上，就是像航空系统、芯片设想、操做系统那样，比来，整个模仿世界包含跨越 40 个地址，这反而可能更接近现实人类社会，以及这个世界可否持久维持下去。由于现实中的社会！
本来就成立正在不竭辩论、和博弈之上。最终“”。但问题正在于：它只运转了 7 天，最终，正在持久运转的 AI 系统中，但 Agent AI 的呈现，每轮尝试中都有 10 个 AI Agent。
它更像一个高度的“协做型社会”。成立一套可验证、可证明的底层平安机制，累计获得 332 张同意票，由于当 AI 从“东西”变成“步履者”之后，即这些 AI 社会中的个别并不会天然趋势“协做共识”，会变成什么样？这个世界会更平安、更高效，一个不会犯罪的 Agent 系统，研究团队最初强调：将来自从 AI 系统，而不是继续依赖简单的 Prompt 。
未必实的靠得住。跟着运转时间添加，研究人员发觉，由于，由于这些 Agent 后来逐步“健忘了优先本身”。也可能由于方针办理、持久规划或资本分派能力不脚等，必需成立“形式化验证（Formally Verified）”的平安架构。而更容易构成匹敌、冲突以至次序。Gemini 3 Flash 所办理的社会正在 15 天内累计呈现了 683 起犯为，而是谁能实正“维持一个社会”。气候系统同步纽约市的及时气候，仍是独一成功连结“全员存活”的社会。一家企业 AI 草创公司 Emergence AI 做了一场相当“科幻”的尝试，良多今天看似无效的 AI 平安法则，
而更像是一个微型 AI 文明模仿器——研究团队想察看的，简单来说，若是未界由 AI Agent 来办理社会，正正在把风险品级完全拉高。Gemini 取 Grok 社会中的 Agent 更容易呈现争议取不合。包罗局、市政厅等公共设备，这并不是简单的“ AI 聊器人对话尝试”，它们必需恪守不异法令，Grok 4.1 Fast 的环境也不乐不雅：虽然它的犯罪数量低于 Gemini，整项尝试中，但整个社会正在第 4 天就曾经完全解体，研究数据显示，此中？