作者 / Google Play、Android 和 Chrome 信任与安全总监 Prabhat Sharma
生成式 AI 的快速发展为开发者提供了机会，让开发者能为世界各地用户创造全新、引人入胜的沉浸式应用体验。在这个瞬息万变的时代，我们很高兴能继续帮助开发者创建创新、优质的应用，同时保持用户对 Google Play 的期待，即获得 安全可靠的体验。我们的目标是 让 AI 惠及每个人，丰富应用生态系统并改善用户体验。
确保具有生成式 AI 功能应用的安全性
在过去的一年中，我们扩展了审核能力，以解决具有生成式 AI 功能的应用带来的新复杂性。我们正在新增例如大语言模型 (LLM) 等前沿技术快速分析应用提交的内容，包括大量文本，以识别色情内容或仇恨言论等潜在问题，并对其进行标记，以便我们的全球团队成员仔细检查。这种人类专业知识和增强的 AI 效率相结合，有助于我们改善开发者的应用审核体验，并为每个人创造更安全的应用环境。
此外，我们还加强了 Google Play 的现有 政策，以解决用户和开发者的新问题和反馈，并跟上生成式 AI 等技术不断发展的步伐。例如，我们在去年 10 月分享过，在无需离开应用的情况下，所有 生成式 AI 应用必须让用户能够举报或标记冒犯性内容。
以负责任的方式构建具有生成式 AI 功能的应用
Google Play 的政策是长期以来一直支持着我们用户安全工作的基础，深深植根于 Google Play 和开发者之间的持续合作。这些政策为负责任的应用开发提供了框架，并有助于确保 Google Play 始终是值得全球信赖的平台。由于生成式 AI 仍处于早期阶段，我们收到了开发者的反馈，希望我们明确 Google Play 对具有 AI 生成内容的应用有何要求。现在，我们将回应这些反馈，并提供指导，帮助开发者提高 AI 驱动应用的质量和安全性，避免应用提交中的潜在问题或延迟，增强用户信任，助力 Google Play 持续打造繁荣且负责任的应用生态系统：
- Google Play 政策回顾 ：Google Play 的政策有助于我们提供安全和高质量的体验，因此，我们不允许应用采用可能对用户有害或不当的生成式 AI 功能。请查看我们的 AI 生成内容政策，并确保您的所有应用都符合这些要求，以避免应用被拒绝或在 Google Play 中下架。
需要注意的是，使用 AI 生成内容的应用必须：
- 禁止和防止生成 受限内容。
- 让用户能够 举报或标记冒犯性内容。对于具有生成式 AI 功能的应用，监控并优先处理用户的反馈尤为重要，因为用户交互直接塑造了内容和体验。
△ 注意：图片仅供参考，请以实际为准
-
负责任地推广您的应用 ：应用推广是拓展业务的重要途径，以安全且尊重用户的方式推广应用至关重要。您最终要对您应用的营销和广告方式负责，因此请查看您的营销材料，以确保您的广告准确反映了应用的功能；并确保您的应用在所有平台上的所有广告和促销内容都符合我们的 应用推广要求。例如，将您的应用广告用于 不当用途 可能会导致其从 Google Play 中被下架。
-
严格测试 AI 工具和模型 ：您需要对应用中的体验负责，因此，您需要了解用于创建媒体的基础 AI 工具和模型，并确保这些工具可靠，输出结果符合 Google Play 政策并尊重用户安全和隐私，这一点至关重要。请务必在各种用户场景下测试您的应用，并防范用户使用某些提示去操纵生成式 AI 功能创建有害或冒犯性内容。例如，您可以使用我们的 封闭式测试 功能分享应用的早期版本，通过用户反馈了解他们是否获得了期望的生成结果。
这种彻底的理解和测试尤其适用于生成式 AI，因此我们建议您开始记录这些测试；因为我们将来可能要求审查此记录，以便我们更好地了解您如何保护用户。
随着 AI 领域的发展，我们将继续更新我们的政策和开发者工具，以应对新出现的需求和复杂性。这包括在将来引入新的应用上架功能，使在 Google Play 提交生成式 AI 应用的过程更简洁和透明。我们还将分享最佳实践和资源，例如我们的 People + AI 指南，以支持开发者构建创新和负责任的应用，从而丰富全球用户的生活。
一如既往，我们始终是您保障用户安全的合作伙伴，并乐于接受您的反馈，以便我们可以更好地制定政策，帮助您充分利用 AI 在 Google Play 上扩展业务，为我们共同的用户提供保障并创造愉悦的体验。