人择表示，一名网络犯罪分子利用其人工智能 (AI) 模型窃取敏感的个人信息，并要求巨额赎金以防止泄露信息。
Anthropic 威胁情报团队成员 Alex Moix、Ken Lebedev 和 Jacob Klein 说 一份新报告称，一名网络犯罪分子滥用该人工智能公司的 Claude 聊天机器人来协助窃取数据和索要赎金。
我们最近挫败了一名经验丰富的网络犯罪分子，该犯罪分子利用克劳德密码大规模窃取和勒索个人数据。该犯罪分子至少针对了17个不同的组织……
我们认为，该攻击者对人工智能的运用达到了前所未有的程度。Claude Code 被用于自动化侦察、收集受害者凭证并渗透网络。Claude 可以做出战术和战略决策，例如决定泄露哪些数据，以及如何制定针对心理的勒索要求。Claude 分析了泄露的财务数据以确定合适的赎金金额，并生成了视觉上令人震惊的赎金票据，显示在受害者的机器上。
Anthropic 说 网络犯罪分子利用人工智能模型策划了“一场以全面数据盗窃和勒索为重点的系统性攻击活动”。
“攻击者在 CLAUDE.md 文件中向 Claude Code 提供了他们首选的操作 TTP（战术、技术和程序），该文件用作 Claude Code 以用户喜欢的方式响应提示的指南……
该犯罪分子的系统性做法导致个人记录遭到泄露，包括医疗数据、财务信息、政府凭证和其他敏感信息，直接赎金要求有时甚至超过 50 万美元。”
该公司还表示，尽管努力遏制其人工智能模型被用于非法目的，但仍有此类事件发生。
我们制定了完善的安全措施，以防止我们的人工智能模型被滥用。虽然这些措施通常有效，但网络犯罪分子和其他恶意行为者仍在不断尝试绕过这些措施。
生成的图像：Midjourney
微信里点“发现”，扫一下二维码便可将本篇文章分享至朋友圈
主题测试文章，只做测试使用。发布者：币安赵长鹏，转转请注明出处：https://www.paipaipay.cn/319371.html
