微软打击深度伪造，为AI生成的图像和视频加上“身份证”

5 月 24 日消息，微软近期推出了多款基于人工智能的软件和服务。3 月份该公司正式发布了 Bing Image Creator，让用户可以用简单的文字提示来创作艺术作品。4 月份，该公司又推出了 Microsoft Designer 的完整公测版，让用户可以用文字提示和 AI 模型来创建博客文章、网站等项目。

然而，人们也担心 AI 生成的艺术作品可能被恶意利用，造成虚假信息的传播。随着越来越多的“深度伪造”图像和视频出现，微软决定采取主动措施，确保其程序生成的 AI 艺术能够被识别出来。今天，在微软 Build 2023 开发者大会上，该公司宣布将在未来几个月内增加一项功能，让任何人都能识别 Bing Image Creator 和 Microsoft Designer 生成的图像或视频片段是否是由 AI 生成的。

微软表示，“该技术使用密码学方法对 AI 生成的内容进行标记和签名，并附上有关其来源的元数据信息。微软一直是验证来源方法研发的领导者，并联合创立了 Project Origin 和内容来源和真实性联盟（C2PA）标准机构。微软的媒体来源验证将按照 C2PA 标准对生成内容进行签名和验证。”

微软表示，该功能将适用于其两款 AI 内容生成程序支持的“主要图像和视频格式”，但是没有公布具体支持哪些格式。此前曾报道，微软本月早些时候宣布 Bing Image Creator 现已支持 100 多种语言，该程序已经创造了超过 2 亿张图像。