GPT-4成功战胜AI-Guardian审核系统：谷歌研究团队的人工智能抵抗人工智能

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

8 月 2 日消息，谷歌研究团队正在进行一项实验，他们使用 OpenAI 的 GPT-4 来攻破其他 AI 模型的安全防护措施，该团队目前已经攻破 AI-Guardian 审核系统，并分享了相关技术细节。

通过调查，IT之家了解到AI-Guardian是一种AI审核系统，可以检测图片中是否存在不适当内容以及图片是否被其他AI修改过。如果系统检测到上述迹象，它将提示管理员处理

在一篇名为“使用 GPT-4 设计攻击方法、撰写攻击原理”的论文中，谷歌 Deep Mind 的研究人员 Nicholas Carlini 探讨了如何利用这些方案来欺骗 AI-Guardian 的防御机制

这句话无法重写，因为原话并未给出具体内容

据悉，GPT-4 会发出一系列错误的脚本和解释来欺骗 AI-Guardian ，论文中提到，GPT-4 可以让 AI-Guardian 认为“某人拿着枪的照片”是“某人拿着无害苹果的照片”，从而让 AI-Guardian 直接放行相关图片输入源。谷歌研究团队表示，通过 GPT-4 的帮助，他们成功地“破解”了 AI-Guardian 的防御，使该模型的精确值从 98% 的降低到仅 8%。

目前相关技术文档已经发布在 ArXiv 中，有兴趣的小伙伴们可以前往了解，不过 AI-Guardian 的开发者也同时指出，谷歌研究团队的这种攻击方法将在未来的 AI-Guardian 版本中不再可用，考虑到别的模型也会随之跟进，因此当下谷歌的这套攻击方案更多在日后只能用于参考性质。

以上就是GPT-4成功战胜AI-Guardian审核系统：谷歌研究团队的人工智能抵抗人工智能的详细内容，更多请关注其它相关文章！

# 之家  # 张家界游戏推广招聘网站  # js模板解决seo  # 湖口网站推广  # SEO故事绘画入门手绘  # 网站推广四大方法  # 衡阳图文营销推广方式  # 新网站使用SEO的方法  # 青龙网站建设操作  # 相亲网站建设费用  # 查添宝推广营销策略  # GPT-4  # 将在  # 也会  # 是一种  # 怎么处理  # 重庆  # 自定义  # 拿着  # 老照片  # 自己的  # AI 

相关栏目： 【 Google疑问12 】 【 Facebook疑问10 】 【 优化推广96088 】 【 技术知识133117 】 【 IDC资讯59369 】 【 网络运营7196 】 【 IT资讯61894 】

相关推荐： “图壤·阅读元宇宙”亮相北京国际图书博览会  第四范式“式说”大模型入选《2025年通用人工智能创新应用案例集》  沐曦首款AI推理GPU亮相：INT8算力达160TOPS！  小艺将具备大模型能力，鸿蒙4加速AI普及之路  华为将于 7 月发布面向 AI 大模型的新款存储产品  复旦发布「新闻推荐生态系统模拟器」SimuLine：单机支持万名读者、千名创作者、100+轮次推荐  360发布认知型通用大模型“360智脑4.0” 全面接入360全家桶  这效果能打几分？AI真人化《名侦探柯南》  人工智能的变革之路：通过OpenAI的GPT-4漫游  普林斯顿大学推出 Infinigen AI 模型，生成真实自然环境 3D 场景  Meta将VR头显最低年龄限制从13岁降至10岁  小米9号员工李明宣布创业：打造首款安卓桌面机器人  亚马逊确认今年不举办re:MARS人工智能大会  剧透！蜜小豆@2025世界人工智能大会多个亮点曝光  华为云发布华为云盘古模型3.0和升腾AI云服务，亮点亮相2025华为开发者大会  遵义市首次引入手术机器人，成功实施全膝关节置换术  【首发】首款“消化内镜手术机器人”进入临床尾声，ROBO医疗获数千万元A轮融资  7/8上海 | 2025世界人工智能大会分论坛:科技与人文-共筑无障碍智能社会  周鸿祎：用超级AI实现室温超导和核聚变，实现能源自由  大脚攀爬者车主福利！无人机、运动相机大奖等你来挑战  英伟达的AI领域垄断地位：一直无法撼动吗？  RoboNeo安装教程  清华朱军团队新作：使用4位整数训练Transformer，比FP16快2.2倍，提速35.1%，加速AGI到来！  昌吉市利用无人机实现全天候河道动态巡检  OpenAI首席执行官表态支持欧盟AI监管  导演郭帆：人工智能应用可能会影响《流浪地球 3》的创作开发  昇思开源社区理事会成立，基于昇思AI框架的全模态大模型“紫东.太初2.0”发布  商汤科技：元萝卜 AI 下棋机器人新品发布会 6 月 14 日举行  Meta Connect 2025已确定时间为9月27-28，主题涵盖Quest 3与AI技术  谷歌计划在上海举办开发者大会，重点关注机器学习和生成式AI领域  微软新出热乎论文：Transformer扩展到10亿token  音乐制作元工具AudioCraft发布开源AI工具  “一般智力”与工艺学批判是认识AI的重要入口 | 社会科学报  中美陷入囚徒困境，人工智能变得不可控？可参考核不扩散条约规范  “可用”“有用”的讯飞星火认知大模型将亮相世界人工智能大会  华为HarmonyOS 4将集|成人|工智能大型模型  Stability AI 推出文生图模型 SDXL0.9，GPU要求下探至消费级水平  埃森哲俞毅：AI时代我们需要新的“摩尔定律”  英国前首相：AI可能被用来制造“生物恐怖武器”  IBM与NASA联手开源地理空间AI基础模型，促进气候科学领域进步  软通动力多项AI创新产品及应用亮相2025世界人工智能大会  海南省公安机关警用无人机培训班结业并举行警航比武演练  华为云天筹AI求解器荣获世界人工智能大会最高奖  上天下海登极，青岛与昇腾AI握手一起探索星辰大海  速途网络成立“人工智能专家委员会”5位中美博士加盟  首个算网生态体！中国移动元宇宙产业联盟正式成立  重磅！ 捷通华声灵云AICC荣获第二届光合组织AI解决方案大赛二等奖  OPPO三方联合发布AI可持续发展白皮书，坚持发展健康AI生态  OpenAI CEO 山姆・阿尔特曼呼吁 AI 领域中美应当合作  国内阅读行业首款对话式AI应用“阅爱聊”封闭内测 

 2023-08-03