大模型等AI最让我担心的是它进化到AI生成和测试AI阶段时，人类没有做好安全预防工作。因为这个阶段的AI之间就构成了互动社会，人类不参与也能自我设计、维护、合作进化了。如果再让它们有了身体（物理控制权），那实际上已经是可以自我设计制造和升级的机器人社会了。而AI服务制造业是必然的，所以它们拥有身体也是必然的。

    这个阶段，人类一是要提前做好底层安全预防，二是时刻监测全球各类型算力、能量、物理权限的异常，尤其是找不到其背后目的的算力、能量使用异常增加和物理权限异常增大！