微软起诉利用其人工智能平台创建非法内容的服务

该服务使用未公开的应用程序编程接口（API）及其他手段绕过安全防护措施。

微软指控三名个人运营一个 “黑客即服务” 计划，该计划旨在利用微软的人工智能生成内容平台创建有害及非法内容。

微软数字犯罪部门助理总法律顾问史蒂文・马萨达表示，这些来自国外的被告开发了专门用于绕过微软所设安全防护措施的工具，这些防护措施旨在防止通过其生成式人工智能服务创建有害内容。随后，他们入侵了付费客户的合法账户。他们将这两者结合，打造出一个可供人们使用的收费平台。

一个复杂的计划

微软还起诉了七名个人，称他们是该服务的客户。由于微软不知道这 10 名被告的真实身份，因此均以 “约翰・多伊” 指代。

律师们在提交给弗吉尼亚东区联邦法院的一份诉状中写道：“通过此次行动，微软试图破坏由网络犯罪分子实施的一个复杂计划，这些犯罪分子开发了专门用于绕过微软及其他公司提供的生成式人工智能服务安全防护措施的工具。” 该诉状于周五解封。

据称，运营该服务的三人入侵了微软合法客户的账户，并通过现已关闭的 “rentry [.] org/de3u” 网站出售这些账户的访问权限。该服务从去年 7 月运营至 9 月，后被微软采取行动关停，其中包含 “如何使用这些定制工具生成有害及非法内容的详细说明”。

诉讼称，该服务设有一个代理服务器，用于在其客户与提供微软人工智能服务的服务器之间转发流量。该代理服务除其他手段外，还使用了未公开的微软网络应用程序编程接口与该公司的 Azure 计算机进行通信。由此产生的请求旨在模仿合法的 Azure OpenAPI 服务 API 请求，并使用被盗用的 API 密钥进行身份验证。

微软律师附上了以下图片，第一张展示了网络基础设施，第二张展示了提供给被告服务用户的用户界面：

微软未说明合法客户账户是如何被入侵的，但表示已知黑客会创建工具，在代码存储库中搜索开发者在创建的应用程序中无意包含的 API 密钥。微软及其他公司长期以来一直建议开发者从发布的代码中删除凭证及其他敏感数据，但这一做法常被忽视。该公司还提出，这些凭证有可能是被未经授权访问其存储网络的人窃取的。

微软及其他公司禁止使用其生成式人工智能系统创建各类内容。禁止的内容包括展示或宣扬性剥削、性虐待，色情低俗的材料，或基于种族、民族、国籍、性别、性别认同、性取向、宗教、年龄、残疾状况或类似特征攻击、诋毁、排斥他人的内容。它也不允许创建包含威胁、恐吓、宣扬身体伤害或其他辱骂性行为的内容。

除明确禁止此类平台使用方式外，微软还开发了防护措施，对用户输入的提示词以及生成的输出内容进行检查，查看所请求的内容是否违反任何这些规定。近年来，通过黑客手段，这些基于代码的限制屡屡被绕过，其中一些是研究人员实施的无害行为，另一些则是恶意威胁行为者所为。

微软并未详细说明被告的软件据称是如何设计以绕过该公司所创建的防护措施的。

马萨达写道：

微软的人工智能服务部署了强大的安全措施，包括在人工智能模型、平台和应用程序层面的内置安全缓解措施。正如我们今天解封的法庭文件中所指控的，微软发现一个来自国外的威胁行为者组织开发了复杂的软件，利用从公共网站上获取的暴露的客户凭证。他们试图借此识别并非法访问某些生成式人工智能服务的账户，并有目的地改变这些服务的功能。网络犯罪分子随后使用这些服务，并将访问权限转售给其他恶意行为者，同时提供如何使用这些定制工具生成有害及非法内容的详细说明。发现这一情况后，微软撤销了网络犯罪分子的访问权限，采取了应对措施，并加强了安全防护，以进一步阻止未来此类恶意活动。

该诉讼指控被告的服务违反了《计算机欺诈和滥用法案》《数字千年版权法案》《兰哈姆法案》以及《反有组织犯罪及腐败组织法案》，构成电信欺诈、访问设备欺诈、普通法中的非法侵入和侵权干扰。诉状请求发布禁令，禁止被告从事 “本文所述的任何活动”。

黑客联盟】带你走进神秘的黑客世界