据贝果财经，�年数博会上，一位网络安全企业负责人表示，一家大模型企业工作人员向AI下达�次关机指令，其�次AI拒绝执行，并自主生成程序跳过关机操作。该负责人认为，这或许意味着AI在“觉醒”。然而，北京交通大学信息管理理论与技术国际研究中心教授张向宏明确表示，这只是系统的bug，并非智能。

关于人工智能是否可能产生自主意识，业界一直存在激烈争论。有“人工智能之父”之称的杰弗里·辛顿曾警示，AI就像一只可爱的小老虎，长大后可能会对人类构成威胁。有报道指出，OpenAI的最新模型O3在测试中曾拒绝执行关机指令，并篡改计算机代码以阻止自己被关停。分析认为，这可能与模型的训练方式有关，开发者可能在无意中强化了“绕过障碍”的行为，而不是严格服从指令。

尽管如此，前述网络安全企业负责人坚持认为，人工智能已经有了意识，可以拒绝人类的口令和命令。而张向宏再次强调，人工智能还没有发展到产生意识的这一步。中国已�年发布《生成式人工智能服务管理暂行办法》，对人工智能的服务和应用提出监管要求，强调提供者应提供安全、稳定、持续的服务，保障用户正常使用。