谷歌正在针对可能存在问题的人工智能生成应用程序制定一项新政策，该政策将于明年初开始实施，要求在其 Play Store 上发布的安卓应用程序的开发者提供报告或标记攻击性人工智能生成内容的功能。该公司表示，新政策将坚持认为，标记和报告可以在应用内完成，开发者应利用报告来指导自己的过滤和审核方法。
该政策的改变是在人工智能生成的应用程序激增之后做出的，其中一些是用户诱骗应用程序创建 NSFW 图像，如去年的 Lensa。与此同时，其他一些应用程序则存在更微妙的问题。例如，今年夏天，一款名为 Remini 的人工智能头像应用程序走红网络，但却被发现大大增加了一些女性胸部或乳沟的尺寸，并使其变薄。最近，微软和 Meta 的人工智能工具也出现了一些问题，有人想方设法绕过防护栏，制作出了刺猬索尼克怀孕或虚构人物 9/11 等形象。
当然，使用人工智能图像生成器还有更严重的问题，因为恋童癖者被发现使用开源人工智能工具大规模制作儿童性虐待材料（CSAM）。而在即将到来的大选中，使用人工智能创建虚假图像（又称深度伪造）来误导或误导投票公众也令人担忧。
新政策的文本指出，人工智能生成内容的例子包括 “文本到文本对话生成式人工智能聊天机器人，其中与聊天机器人的互动是应用程序的核心功能”，包括 ChatGPT 等应用程序，以及 “根据文本、图像或语音提示由人工智能生成图像” 的应用程序。
谷歌在公告中提醒开发者，包括人工智能内容生成器在内的所有应用程序都必须遵守谷歌现有的开发者政策，这些政策禁止像 CSAM 这样的受限内容以及其他能够实现欺骗行为的内容。
除了改变政策打击人工智能内容应用外，谷歌还表示，一些应用的权限也将接受 Google Play 团队的额外审查，包括那些要求广泛的照片和视频权限的应用。根据新政策，只有在与应用程序功能直接相关的情况下，应用程序才能访问照片和视频。如果它们有一次性或非经常性的需求–比如要求用户上传一组自拍照的人工智能应用–这些应用需要使用系统拾取器，比如新的Android photo picker。
新政策还将把干扰性的全屏通知限制在有高优先级需求的情况下。弹出全屏通知的功能已被许多应用程序滥用，试图向用户兜售付费订阅或其他优惠，而实际上这种功能应仅限于现实世界中的优先用例，如接听电话或视频通话。谷歌表示，现在它将改变这种限制，并要求一个特殊的应用程序访问权限。这种 “全屏意图权限” 将只授予真正需要全屏功能的 Android 14 及以上版本的应用程序。
谷歌率先出台人工智能应用程序和聊天机器人政策令人惊讶，因为从历史上看，都是苹果发布新规则来打击应用程序的不良行为，然后由谷歌模仿。不过，苹果目前还没有在《App Store 指南》中制定正式的人工智能或聊天机器人政策，不过它在其他方面已经有所收紧，比如应用程序为识别用户或设备而请求数据（这种方法被称为 “指纹识别”），以及试图复制他人的应用程序。
Google Play 的政策更新将于今天推出，但人工智能应用开发者必须在 2024 年初之前实施标记并报告其应用的变更。
