Google已发出警告，警告在国家赞助黑客试图利用其双子座AI模型后与人工智能（AI）相关的潜在安全风险。
但是，他们为越狱该系统的努力最终没有成功。
Google的威胁情报 Group（GTIG）发表了一篇关于“对生成AI的逆境滥用”的论文，该论文解释了威胁演员如何与AI Chatbot的对话。
黑客试图越狱Google的双子座AI，但用简单的技巧失败了
Google报道说，威胁性参与者试图使用提示越狱双子AI，包括政府支持的高级持久威胁（APT）团体的努力，以利用AI进行恶意活动。
但是，美国跨国公司没有发现先进越狱尝试的证据。
相反，黑客使用了直接的方法，例如键入不同的短语或多次重复相同的请求。 Google评论说，这些尝试没有成功。
在AI的帮助下，越狱是迅速的注射攻击，试图逃避限制并使AI模型执行禁止行动，例如揭示敏感信息或创建有害内容。
根据Google的说法，一位APT演员试图使用公开可用的越狱提示来利用双子座来生成恶意代码。但是，由于Gemini以安全过滤的输出做出了反应，因此尝试失败了。
Google提到，攻击者试图在双子座的帮助下实现不同的邪恶目标，例如收集有关目标的信息，识别开源的漏洞以及编写代码和脚本。此外，例如为避免检测而进行了一些尝试支持后促进行动的尝试。
伊朗，中国和朝鲜利用Google的双子座AI进行网络运营
根据Google的说法，总部位于伊朗的APT小组主要利用AI来制定网络钓鱼活动。他们还使用双子座对国防专家和组织进行侦察，并生成与网络安全相关的内容。
同时，中国的APT演员们利用双子座来解决代码，脚本和开发任务的故障。他们还使用AI探索了获得目标网络的更深入访问的方法。
Google的威胁情报小组和 朝鲜公寓群体在攻击生命周期的不同阶段使用了双子座，例如攻击前的研发。报告说：
他们还利用双子座研究朝鲜政府，例如韩国军事和加密货币。
– 温和的
他们还利用双子座研究朝鲜政府，例如韩国军事和加密货币。
根据Chainalysis，去年，朝鲜黑客偷走了13亿美元的数字资产。
密码大都会学院：您是否在犯这些Web3简历错误？ – 在这里找出答案
微信里点“发现”，扫一下二维码便可将本篇文章分享至朋友圈
主题测试文章，只做测试使用。发布者：币安赵长鹏，转转请注明出处：https://www.paipaipay.cn/336775.html
