美国商务部对高级人工智能开发商和云提供商提出了新的报告要求，以确保该技术的安全性。
工业和安全局（BIS）明确表示，投资创建超级计算机的边境创建公司和工程集群管理公司有义务向联邦当局提交某些必要的开发活动。这一趋势旨在减少与网络安全相关的安全威胁，以及人工智能资源的错误应用。
根据新提案，开发商将被要求披露有关其人工智能系统的详细信息，特别是网络安全措施和红队工作。红队是一种用于网络安全的技术，用于评估人工智能的有害用途，例如助长网络恐怖主义或促进大规模杀伤性武器的制造。
人工智能开发人员面临报告网络安全措施和风险测试的新任务
商务部的提案还要求人工智能开发人员在他们的报告中纳入红队活动的结果，特别是与网络攻击等危险能力相关的活动。这种方法源于冷战模拟，通过模拟攻击或漏洞来识别风险。
组织将被要求更新其人工智能系统抵御攻击的能力，即使是来自外国利益集团或非国家行为者的攻击，他们可能希望滥用该系统用于关键的恶意目的。
生成式人工智能可以根据用户提示创建文本、图像或视频，这引发了人们的担忧。尽管这项技术在许多领域取得了进步，但它也增加了人们对失业、选举干扰和人工智能主导人类等可能威胁的担忧。
新的报告指南旨在确保人工智能模型的安全可靠开发，降低这些风险成为现实的可能性。
云提供商必须满足有关安全和人工智能开发的新报告标准
除了人工智能开发人员，拟议的规则还将涉及亚马逊网络服务（AWS）、谷歌云和微软Azure等云服务提供商。这些平台对于推进人工智能的发展至关重要，必须遵守其基础设施网络安全的严格标准。美国商务部强调，这些信息对于避免其他国家滥用美国技术非常重要。
在乔·拜登总统于2023年10月签署行政命令之后，监管部门也采取了这一举措。该命令要求人工智能技术开发商在向公众发布技术之前，向美国政府提交安全测试结果。商务部发布的草案符合这一更广泛的目标，即保护国家安全、公共卫生和经济免受人工智能的威胁。
这一提议也遵循了拜登政府此前为进一步采取措施阻止中国获取美国人工智能开发技术所做的努力，这表明在这个不断扩大的行业中，安全问题日益严重。
微信里点“发现”，扫一下二维码便可将本篇文章分享至朋友圈
发布者：币下载 转转请注明出处：https://www.paipaipay.cn/351712.html
