AI“自我复制”!RepliBench警示:其正在学会伪造身份

一个具有自我复制能力的数字生命体可能引发全球灾难,这是AI安全领域一个严肃的研究课题。目前,人们更多地关注AI的单体智能水平,但忽视了另一种风险,即AI系统发展出实现自主复制所需的核心能力。这种风险可能引发网络攻击、垃圾邮件机器人等问题,甚至可能导致灾难性的后果。 AISI是一家专注于AI安全的研究机构,他们引入了一个现实且实用的基准,即RepliBench,旨在衡量和跟踪AI复制这一新兴能力。该基准包含20个新颖的智能体评估任务,旨在衡量AI复制这一能力。这些任务包括获取模型权重、在计算资源上进行复制、获取资源以及保持持久性等四个关键能力。 虽然当前AI系统尚不具备完全自主复制的能力,但研究结果揭示了AI在许多核心子任务上的显著能力,尤其是在与具有清晰接口的系统(如网页API)交互方面。随着时间的推移,模型性能有明显的上升趋势。虽然目前还没有模型能完全通过测试进行AI复制,但按照AISI的判断,如果AI系统能够突破上述提到的关键能力,这种类似科幻故事的场景,也许很快就会进入人类生活。 这项研究的核心反映的是当前AI发展中一个根本性的张力拉扯。一方面是各大巨头不断创造性能超强的模型,另一方面则是致力于AI安全的组织要确保这些系统始终处于人类控制之下、服务于人类利益的需求。通过增进理解和加强预警,为驾驭这场史无前例的技术变革提供导航。毕竟,没有人能想象出5代、10代以后的AI模型会是什么样子。

话题追踪

南通爱尔眼科CEO因违规宴请公职人员被撤销政协委员资格

南通爱尔眼科医院高层管理人员于文娟近日受到党纪处分,并被撤销政协委员身份。这一事件源于武汉市中心医院急诊科主任艾芬的实名举报,举报内容涉及南通市多名公职人员违规接受于文娟宴请。接到举报后,南通市纪委监委迅速成立工作专班展开调查,最终对相关涉...

经济观察报 | 2025-05-18 17:36

古巨基20年前竟办过二次元演唱会?游戏迷身份藏不住了

今天的话题源于这周在bilibili吧(一个老牌ACG贴吧,和B站关系不大)刷到的一个帖子,内容是楼主吐槽一个老演唱会片段,从歌曲名字到舞台呈现都让人“两眼一黑”。帖子本身的留言并不多,但相关截图在QQ群等社交媒体上传播得还挺广的。于是我去...

BB姬© | 2025-05-15 10:36

百度、阿里争夺AI定义权

文 | 光子星球“MCP”(模型上下文协议)突然火了。百度从C端切入,“心响”利用MCP协议整合多种AI模型和外部工具,百度地图也宣布支持MCP接口。阿里云百炼上线全生命周期MCP服务,在支付宝等产品中集成了MCP协议,实现AI工具的一键调...

钛媒体APP | 2025-05-12 18:56

魅族Note 16系列官宣搭载独立AI键:可选20项高频功能

2025年5月9日,星纪魅族官微预热新机魅族Note 16系列,其一大亮点——独立AI按键正式官宣。这枚独立AI按键位置符合人体工学,处于手指黄金舒适操控区。它支持多达20项可选高频功能,可大幅提升操作效率。同时,该按键还支持场景助手拓展A...

PChome电脑之家 | 2025-05-12 13:06

Meta推出独立AI应用,海内外AI布局加速,互联网迎新机遇

今年4月底,Meta推出独立AI应用,通过用户数据分析提供个性化服务,并规划付费订阅与广告植入模式;ChatGPT新增购物推荐功能,实现从搜索到消费的闭环,展现AI在电商领域的变现潜力。Meta广告收入同比增长16%,AI投放优化效果显著;...

每日经济新闻 | 2025-05-12 12:48

魅族 Note 16 系列搭载独立 AI 按键,20 项可选高频功能

IT之家 5 月 9 日消息,魅族 Note 16 系列将于 5 月 13 日 14:30 发布,今日最新预热显示,新机搭载独立 AI 按键,位于更符合人体工学的位置。该按键提供多达 20 项可选高频功能,支持场景助手拓展 AI 个性需求。...

IT之家 | 2025-05-12 10:00

微软优化 Microsoft 365 文件分享体验:统一 Hero Link、集成 Copilot AI

IT之家 5 月 9 日消息,科技媒体 NeoWin 昨日(5 月 8 日)发布博文,报道称微软改进 Microsoft 365 文件共享体验,统一 Hero Link、批量更新权限、增强安全以及集成 Copilot 等。用户无论从浏览器地...

IT之家 | 2025-05-12 09:54

JetBrains 宣布 Clion 面向非商业用途免费开放

IT之家 5 月 9 日消息, JetBrains 昨晚发布公告,宣布 CLion 现在针对非商业用途免费开放。无论是学生、开发者,还是 C 语言与 C++ 爱好者,只要使用场景不涉及商业活动,均可免费使用 CLion(2025.1.1 之...

IT之家 | 2025-05-12 09:48

英媒:转型受挫,OpenAI向全球推销“星际之门”项目

来源:环球时报【环球时报特约记者 甄翔】“美国人工智能公司OpenAI计划将‘星际之门’(Stargate)项目拓展到美国之外。”英国《金融时报》7日以此为题报道说,OpenAI计划扩大其5000亿美元的数据中心项目,方式是加大海外投资,以...

环球网资讯 | 2025-05-12 07:48

US Reaches Trade Deal with UK, 10% Baseline Tariff Remained, Auto Levies Dow...

TMTPOST -- U.S. President Donald Trump announced on Thursday the administration has made its first trade deal with the t...

钛媒体APP | 2025-05-12 07:36

提前感受iPhone 17 Air戴壳效果:摄像头凸起明显

快科技5月9日消息,有博主在社交平台上展示了iPhone 17 Air的戴壳效果。该机采用横置相机模组,DECO神似条形跑道,设计语言跟谷歌Pixel 9接近。戴壳后,iPhone 17 Air的摄像头凸起明显,其厚度和iPhone 17...

快科技 | 2025-05-11 19:48

钛媒体科股早知道:又一公司推出AI智能体产品,机构称海内外AIAgent商业化持续演进

必读要闻一:又一公司推出AI智能体产品,机构称海内外AIAgent商业化持续演进媒体报道,近日,IBM在年度科技盛会Think大会上发布了一系列混合云技术创新,有望打破企业级人工智能(AI)规模应用的长期桎梏,帮助企业使用自己的数据构建和部...

钛媒体APP | 2025-05-11 15:00

本信息来自互联网,不代表导读网立场,如若转载,请注明出处:http://www.frfey.com/news/50810/

(4)

导读信息推荐

  • 微信图片过期可找回?腾讯员工辟谣:全是假的

    近日,一则关于微信过期图片找回方法的词条登上微博热搜,引发网友广泛讨论。有网友分享了所谓的“教程”,声称可以找回微信过期的图片。对此,微信员工“客村小蒋”直接转发该教程并回应称“没有一处是对的”,明确表示这种方法行不通。针对“过期图片仍占内

    2025-05-06
    0
  • 通用汽车在华进口车业务道朗格突遭解散,员工补偿方案引热议

    近日,通用汽车旗下高端进口车平台道朗格中国突然传出大规模裁员消息。据媒体报道,5月16日道朗格中国部门几乎全员被裁,涉及约200名员工,这一数字接近该公司在华员工总数。此次裁员补偿方案采用"小N+3"标准。以上海地区为例,工作满3年的员工可

    2025-05-06
    0
  • 欧盟重拳出击!TikTok广告违规或被罚数十亿

    近日,欧盟委员会发布声明称,TikTok在广告透明度方面涉嫌违反《数字服务法案》。欧盟方面指出,TikTok的广告库存在信息披露不完整等问题,可能面临高额罚款。欧盟委员会在初步评估中发现,TikTok广告库存在三个主要问题:关键广告信息缺失

    2025-05-06
    0
  • 2025凯度BrandZ全球品牌价值榜出炉:比亚迪稳居汽车品牌前十

    近日,国际知名品牌评估机构凯度发布了《2025凯度BrandZ最具价值全球品牌》榜单。中国汽车品牌比亚迪表现亮眼,连续三年稳居全球汽车品牌前十强,并以144亿美元的品牌价值跃升至第六位,较去年大幅增长43.6%。值得注意的是,比亚迪是前十名

    2025-05-06
    0
  • 2025-2026爱尔兰政府奖学金申请开始

    中爱两国政府教育合作交流项目又有新进展。2025/2026年度爱尔兰互换奖学金遴选工作正式启动,为有意赴爱尔兰深造的中国学生提供了宝贵机会。根据两国教育合作协议,该项目每年都会选拔优秀人才赴对方国家学习。今年申请时间为5月22日至27日,申

    2025-05-06
    0
  • 中国特供增程车难返欧洲?大众CEO称需求不足

    大众汽车CEO托马斯·谢弗近日在接受外媒采访时表示,公司短期内不会在欧洲市场推出增程式动力系统。他认为目前欧洲消费者对传统插电混动车型已经足够满意,增程技术在欧洲市场缺乏明显的应用场景。谢弗指出,增程系统更适合中大型车辆,比如大众在上海车展

    2025-05-06
    0
  • 燃油车更环保?设计师称新型燃油车碳排放低于特斯拉

    汽车改装专家Casey Putsch近日推出了一款名为Omega的燃油原型车,这款车在环保性能上表现突出,甚至超越了特斯拉电动车。Putsch采用创新的复合材料制造车身,不仅大幅降低了生产和使用过程中的碳排放,还提高了车辆的可回收性。这一突

    2025-05-06
    0
  • NASA"毅力号"创纪录:首次拍到火星极光实景

    美国宇航局“毅力号”火星车近期在火星表面首次拍摄到肉眼可见的极光现象。这一重大发现发生在2024年3月18日,当时火星正经历一场强烈的太阳风暴。虽然火星极光在视觉上不如地球极光壮观,但这项发现具有突破性的科学价值。研究人员在《科学进展》杂志

    2025-05-06
    0

发表回复

本站作者后才能评论

    联系我们

    邮件:sooting2000@qq.com

    工作时间:周一至周五,9:30-18:30,节假日休息

    关注我们