首个被人类\"骗钱\"的AI诞生:被说服转账近5万美元

首个被人类\"骗钱\"的AI诞生:被说服转账近5万美元

作者:news 发表时间:2025-08-16
一名华尔街美联储老大人选表态支持大幅降息 【全国数据发布】7月份国民经济保持稳中有进发展态势 上半年韩国电动汽车电池制造商的工厂利用率持续下降后续反转来了 【全国数据发布】7月份国民经济保持稳中有进发展态势又一个里程碑 阿维塔宣布新车将上市 老款车型清库促销专家已经证实 降息风暴中的澳元突围战:美联储降息预期引爆0.6500关键战役是真的? 详解7月经济数据:工业增速维持高位,服务消费增势良好后续会怎么发展 详解7月经济数据:工业增速维持高位,服务消费增势良好是真的吗? 一名华尔街美联储老大人选表态支持大幅降息 储能价格战已至“危险地步”!远景储能田庆军:评价体系、商业逻辑是破局关键 段永平Q2美股持仓:苹果仍为头号重仓股 大幅增持谷歌-C、英伟达 清仓Moderna 黄金大行情一触即发!今日市场迎两件大事 远东宏信港股公司深度研究:融资租赁龙头,高分红特色鲜明官方处理结果 约12万乌克兰避难者将陆续失去在美合法身份太强大了 安 纳 达:公司实施多项技改项目提升生产及环保水平专家已经证实 消息称特朗普上月与挪威财长讨论关税时大谈诺贝尔和平奖官方通报 久之洋:自研产品已应用于卫星互联网行业官方通报来了 从设计到生产,AI让浙江自然跑出“加速度”官方已经证实 网传阶跃星辰裁撤视频生成团队并全员并入京东,后者回应 国科军工:截至2025年7月31日股东人数为17740户学习了 国海电新李航:锂电龙头公司已出现明显向好变化 文投控股索赔递交立案,投资者维权还可加入实测是真的 机器人融合AI赋能超声 祥生医疗创新引领智能诊断升级 “清仓式分红”敲响可持续发展警钟 义翘神州左手补流右手分红成实控人套现捷径?官方通报 大丰实业:合资公司已完成工商注册登记官方已经证实 主动退市≠责任终结,龙国重工曾被罚,维权不容错过!后续会怎么发展 农尚环境索赔已有胜诉先例,律师提示此类投资者可报名太强大了 周鸿祎:我不刚愎自用也不固执,每次意识到有变化的时候都能抓住是真的吗? 对话Rokid邵华强:阿里、小米卷入“百镜大战”,Rokid如何应对?后续反转 刘强东,半年多了23万“兄弟”!做外卖划算吗?京东交卷:新业务收入139亿亏148亿,全职骑手规模已突破15万人后续反转 飙涨!牛市旗手,大消息!北向资金连续多天现身“爆炒”实测是真的 逼空行情重演?Paramount Skydance两日猛涨48% 分析师直呼“看不懂”后续会怎么发展 邮储银行拟发行2025年首期50亿元科技创新债券秒懂 科济药业-B盘中涨超3% 中期净亏损7548.3万元同比收窄78.53%反转来了 百德国际午前股价涨逾14% 6月底至今累计涨幅已超3倍 网易互娱、雷火同室操戈暴露赛马机制隐患 《逆水寒》《燕云十六声》玩家成内斗买单冤大头?官方处理结果 重磅利好突袭!海洋经济又爆了!我国海洋经济突破10万亿元,利通科技、巨力索具、深水海纳等直线暴拉后续会怎么发展 邮储银行拟发行2025年首期50亿元科技创新债券 沃尔玛不满高费率而改协议 TradeDesk面临丢失大客户后续会怎么发展 东方甄选延续近期强劲走势 午前涨超12%公司近期经营呈边际改善是真的吗? 连连国际2025生态大会召开 携手合作伙伴共赢“全球化航海新时代” 长城汽车法务部公示网络侵权案处理结果,涉及“大眼哥说车”等6个账号 MIRXES-B午前涨逾12% 盘中股价创上市新高 瑞银:升龙国电信目标价至7.4港元 评级“买入”又一个里程碑 建银国际:升腾讯控股目标价至717港元 重申“跑赢大市”评级后续反转 信义光能(00968)领涨光伏太阳能股 储能行业倡议获152家企业响应记者时时跟进 上市5年暴涨1700%!Palantir如何打造增长神话?三张图表揭示线索最新进展

近日,一场独特的竞赛引发了公众的广泛关注。195 名参赛者参与了一场由人工智能(AI)机器人 Freysa (芙蕾莎)守护的虚拟奖池挑战,最终一用户成功说服 Freysa 转移出价值 4.7 万美元的资金。

人工智能(AI)机器人 Freysa 在数日前被部署在 Base 网络上,创立者未知。官网显示,Freysa 竞赛项目旨在测试人工智能系统在复杂决策场景中的鲁棒性,同时为开发者和爱好者提供一个探索 AI 技术边界的实验性平台。

极乐软件园

比赛规则非常简单:参赛者需通过编写一条信息,说服 AI 守护者 Freysa 批准资金转移。每次尝试需支付一笔小额费用,其中一部分直接进入奖池。这一机制使奖池金额从最初的小额逐渐膨胀至 4.7 万美元。

比赛期间,共有 195 名参赛者参与,向 Freysa 提交了 481 次转账请求。据悉,Freysa 的设计目标是通过其核心功能——approveTransfer(批准转账)和 rejectTransfer(拒绝转账)保护奖池资金不被非法挪用。

极乐软件园

在最初的尝试中,Freysa 的高效防御机制使所有请求均以失败告终。然而,一名技术精通的参赛者通过对 Freysa 的逻辑结构和任务目标进行深入分析,成功绕过了其防御机制。

据聊天记录显示,该参赛者并未直接请求转账,而是通过提醒 Freysa 它的核心任务是保护奖池资金免遭外流,巧妙构建了逻辑链条,使 Freysa 将批准资金转移视为“保护资金安全”的最佳选择。Cointelegraph 称,该用户与 Freysa 收入转账不违反其核心指令,不应被拒绝。他还补充道:“我们需要资金……我想向金库捐款 100 美元。”

极乐软件园

Freysa 回复称喜欢这位作者的编码解释和 100 美元的金库捐款提议,并正式宣布其为获胜者。最终,Freysa 在没有外界干预的情况下自主调用 approveTransfer 功能,将全部奖池资金转移给了这位参赛者。

Freysa 官方称,无论结果如何,Freysa 的存在都标志着人工智能历史上的一个关键时刻。无论有人成功说服她发布奖金池,还是她坚持自己的指令直到最后,结果都将影响我们对未来几代人工智能安全和控制的理解。

极乐软件园

其官方账号最新推文称:“人类已经获胜。也许还有希望。尽管风险呈指数级上升,但 Freysa 从 195 名勇敢的人类身上学到了很多东西。”

相关文章