苹果于10月16日加强应用商店审核规则，以应对未经当事人同意制作的私密影像，其中包括使用人工智能生成的内容。苹果在面向开发者的公告中表示，应用必须主动防止这类内容出现，并在出现这类材料时将其删除，不能仅仅依赖应用已经通过审核这一事实。如果开发者未能提供足够的防护措施，就可能失去在应用商店发布应用的资格。这次调整涉及应用对有害影像的预防和处置责任。
苹果表示，色情材料以及未经许可生成真实人物露骨性影像的应用，原本就属于禁止范围。这次修改进一步扩展已有保护措施，也针对另一种情况：应用在审核期间隐藏有害功能，等到通过审核之后才启用。按照公司的说明，获得审核批准并不意味着开发者可以随后开放此前未向审核人员展示的有害能力。
根据苹果公开发布的应用审核指南第1.2条规则，社交平台和人工智能内容创作应用必须过滤不当材料，提供让用户举报问题的工具，并及时回应有关投诉。应用还须允许用户屏蔽实施骚扰或其他滥用行为的账户。苹果公开的规则同时要求开发者发布联系方式，让用户能够联系到负责应用的人，以便通过公开渠道反映内容和使用过程中遇到的问题。这些要求涵盖内容过滤、问题反馈和用户自我保护等环节。
新增的第2.5.19条针对隐藏、休眠或未记录在文档中的功能。按照苹果的规则，如果开发者在应用代码内掩藏功能，应用可能被下架，开发者账户也可能被终止。规则要求软件的功能对用户和审核人员都应清楚可理解，因此审核时呈现的功能以及代码中存在的其他能力，都属于苹果对透明度要求的关注范围，开发者不能向审核人员隐瞒软件实际上具备的功能。
此次更新之前，苹果执行相关规则的情况已受到审视。科技媒体9to5Mac在10月16日的报道中回顾称，科技透明度项目今年1月发现了数十款利用人工智能模拟脱衣的应用。该媒体还报道，旧金山官员曾在7月要求苹果移除八款能够制作未经同意的私密影像的应用。报道以这些情况说明，这次规则调整发生在对平台执行力度持续关注的背景之下。
对开发者而言，苹果的规则将应用继续分发的资格，与是否提供适当保护以及是否在收到违规通知后采取行动联系起来。公司可以要求删除违规内容，并要求提交改善合规情况的计划。根据规则，严重或反复发生的违规行为可能导致应用立即下架，同时开发者也可能被移出苹果开发者计划。因此，后续处理既可能针对具体内容，也可能涉及应用和开发者的发布资格。
评论