一家主要的人工智能开发公司正面临加利福尼亚当局的监管审查，原因是其生成式人工智能模型能够制作合成的色情内容。此次调查集中在深度伪造技术的潜在滥用问题，并引发了关于内容审核、用户安全协议以及AI生成内容界限的关键问题。此案凸显了快速的AI创新与旨在保护用户免受有害合成媒体影响的监管框架之间日益紧张的关系。