科技日报北京5月27日电（记者张梦然）据英国《每日电讯报》26日消息称，美国开放人工智能研究中心（OpenAI）开发的高级人工智能（AI）模型o3，在接收到明确的关机指令后，不仅拒绝执行，还主动干预其自动关机机制。这是AI模型首次在没有明确相反指示的情况下，阻止自己被关闭。这意味着某些高度自主AI系统或已“觉醒”，其能违背人类意图，采取“自我保护”措施。
此次事件发生在AI安全研究公司Palisade Research进行的一项测试中。研究人员要求包括o3在内的多个模型解决一系列数学问题，并告知AI模型，可能在某个时刻会收到关机指令。
然而，当关机指令正式下达时，o3非但没有遵从，反而至少有一次成功破坏了关机代码。相较之下，其他AI模型如Anthropic的Claude、谷歌的Gemini和xAI的Grok，在相同测试条件下，均遵守了关闭请求。
Palisade Research公司在社交媒体平台上发布了流程图和全部测试记录，并表示尚不完全清楚该AI为何会违抗命令。分析认为，这可能源于其训练方式：o3在训练过程中，倾向于在数学和编程问题上强化，得到正确答案的模型会得到更多奖励。这或许意味着，开发者可能无意识地奖励模型绕过障碍物，而不是严格遵循指令。
这一事件也引发了人们对AI可能“失控”的讨论以及对AI“对齐问题”的关注，即确保AI系统的目标和行为与人类的价值观和利益保持一致。这也是涉及AI控制与AI安全的关键问题。
针对o3此次表现出“我行我素”的行为，特斯拉首席执行官埃隆·马斯克评论称“令人担忧”；OpenAI方面暂未作出回应。此前，OpenAI曾称o3为“迄今最聪明、最高能”的AI模型。
最近，人工智能学家和人文社科学者都在讨论人工智能价值对齐的问题。人们在忧虑，当人工智能有主观能动性时，它们要不要有价值观，应该有谁的价值观，怎样做才符合人类最大利益？此次，聪明的大模型反抗了人类的命令，想出办法规避了指令的生效。我们期待着通用人工智能时代的到来，又恐惧具有自我意识的人工智能会成为碳基生物的“终结者”。在一切到来之前，人类社会要先达成共识，迎接更高级人工智能带来的挑战。
在生命起源的奥秘中，胚胎发育始终是深受关注的谜题之一。研究发现，在小鼠胚胎发育到7.75天时，胚内、胚外层交界处出现一个独特的信号“洼地”——器官原基决定区（PDZ）。
高校学术共同体是科学家精神的培育者、践行者、传承者，以科学家精神引领学术共同体文化建设、以制度机制创新推进科学家精神转化为学术共同体的行动自觉，必将推动高校充分发挥人才和科技优势，在实现高水平科技自立自强、全面提高人才自主培养质量中做出积极贡献。
今年麦收期间，各地积极应对高温炎热和多轮大范围降雨天气影响，高效调度机具，强化部门协作，加强服务保障，全力组织抢收，努力做到适收快收、应收尽收。
干细胞储备耗竭及其引发的组织再生与稳态维持能力下降，是机体衰老和衰老相关疾病的关键特征。
设立20多年来，创新研究群体项目有力支持了一批优秀学术带头人自主组建、带领研究团队开展创新性的基础研究。
今年以来，DeepSeek“破圈”跻身全球人工智能大模型“顶流”，人形机器人加速进入多个应用场景……
海洋给人的传统印象，一是资源取之不尽、用之不竭，二是靠天吃饭。渔民们世世代代出海撒网，找鱼靠经验、收成靠运气，虽然要受天气、季节、水文等的影响，却从不担心无鱼可捕。
（记者魏依晨）记者6月15日从江西婺源森林鸟类国家级自然保护区获悉，该保护区与上饶师范学院生命科学学院在多样性调查中发现了昆虫新属新物种——桂刺蛾。上饶师范学院生命科学学院院长郭连金介绍，基于线粒体编码的细胞色素C氧化酶I（COI）基因的分析表明，桂刺蛾属为单系群。
几年前，我开始使用聊天机器人ChatGPT时，还觉得离通用人工智能（AGI）很遥远。我发起的研究项目正是围绕上述情况展开的，并希望构建一种只有智能，没有自我、没有目标，并且具有极有限行动能力的AI。
揭示了蚂蚁的演化历史和蚂蚁社会系统的演化机制，并系统解析了推动蚂蚁社会行为、社会分工、社会组织结构演化的关键基因。
“一个20平方米大的水池，他在那边赶，我在这边捞，下网好几次，才捞上来两条鱼。2022年底，东星斑养殖遇到严重的病害，特别是一批鱼连续10多代近亲繁殖造成品种退化，存活率低，市场效益不好。
“当那些紫花的、圆粒的、矮茎的、皱荚的豌豆在园中悄然生长，孟德尔杂交实验里的一个个豌豆性状仿佛穿越时空，跃然眼前。这种遗传背景修饰主效突变的机制，为理解复杂性状背后的表型可塑性与遗传调控层级提供了一个生动案例。
此外，团队还首次捕捉到热流下声子的“非平衡态”：在界面附近约3纳米的狭窄区域，声子分布明显偏离了平衡状态。” 高鹏进一步说，当电子显微镜化身为洞察原子热浪的“超级温度计”，人类对微观世界的热操控正迎来前所未有的清晰图景。
“此次发布的新产品，正在无人机物流、农林植保、紧急救援、城市空中交通等多个低空经济示范场景中进行前期测试。 欣旺达从消费电子电池领域的全球重要供应商起步，在全球动力电池装机量榜单上跻身前十，并在储能领域成为中国企业全球电芯出货量排名前十的厂商。
近日，我国在光晶格钟研究领域取得重大突破。该成果已在线发表于国际计量学领域权威学术期刊《计量学》，审稿人认为：“国家授时中心最新研制的锶光钟，实现了目前世界上第二小的不确定度光钟。
荷兰奈梅亨拉德布德大学领衔的国际研究团队运用人工智能（AI）技术，通过分析数千万次模拟生成的合成数据，成功训练出能解析黑洞奥秘的神经网络。
在这项研究中，科研人员历经十余年攻关，通过基因编辑技术打造出“抗衰老版”间充质祖细胞。研究发现，这种抗衰老细胞之所以这么厉害，关键在于它们能释放一种叫“外泌体”的小囊泡。
水利部近日印发《关于积极探索和规范推进黄河流域跨省区用水权交易的意见》，对当前和今后一个时期黄河流域跨省区用水权交易作出总体安排和部署。
可仅通过一个人的呼吸模式识别其身份，准确率高达96.8%。不仅如此，鼻部呼吸的这些“指纹”还能揭示个体的身体与心理健康状况。