Character.AI通过新功能强化用户保护安全措施
realtime news Oct 23, 2024 06:11
Character.AI引入了新的安全措施，包括针对未成年人的功能和主动的角色审核，以增强用户安全并保持平台的吸引力体验。
Character.AI 作为一个知名的人工智能平台，宣布了一系列旨在提高用户安全性和增强整体平台体验的更新。根据Character.AI 博客，这些措施是其不断改进安全协议和引入满足未成年人及更广泛社区需求的新功能的努力的一部分。
加强安全协议
过去六个月来，Character.AI 在其信任与安全流程方面投入了大量资金。公司任命了信任与安全负责人和内容政策负责人，并扩展了其工程安全支持团队。这些努力是其更广泛战略的一部分，以确保平台始终是一个供用户探索多样化 AI 生成角色主题的安全空间。
平台政策严格禁止未经同意的色情内容、详细描述性行为的内容和宣扬自虐或自杀的内容。为了执行这些指导原则，Character.AI 持续训练其大型语言模型 (LLM) 以符合这些标准。此外，新功能会在检测到与自虐相关的某些短语时，引导用户到国家自杀预防生命线。
引入新安全功能
Character.AI 将推出多个新的安全和产品功能，旨在增强安全性而不影响用户参与度。主要功能包括：
- 针对18岁以下用户的专业模型，以减少对敏感内容的接触。
- 增强违反社区指南输入内容的检测和干预机制。
- 修订免责声明，提醒用户AI互动并非与真实人物的互动。
- 为长时间使用平台的用户提供通知，增加用户控制。
主动角色审核
平台还在推进其角色审核工作，采用行业标准和自定义黑名单，这些名单会定期更新。这种主动方法包括删除因违反服务条款或版权法的角色。用户已获知部分角色已被移除并加入黑名单，影响到之前聊天记录的访问。
Character.AI 重申其承诺，将根据需要监控和更新政策与功能，以维护安全和愉快的用户环境。有关其政策的更多详情，用户被鼓励查看平台的服务条款和社区指南。
Image source: Shutterstock