
感谢IT之家网友 咩咩洋 的线索投递!
IT之家 10 月 5 日消息,OpenAI 今日宣布,为配合《欧盟人工智能法案》的内容透明要求,将来几周将在欧盟地区符合条件的 ChatGPT 和 Codex 文本输出中加入机器可识别的隐形水印。
据介绍,文本水印工艺名为 textGrain(文本粒水印),会在模型选词过程中嵌入不可见的统计信号。检测器借助识别该信号,判断一段文本是否带有 OpenAI 水印。
IT之家注意到,OpenAI 下一步将在欧盟推广文本水印。将来几周,团队将仅在欧盟所有计划中向符合条件的 ChatGPT 和 Codex 使用者引入文本水印能力。值得一提的是,OpenAI 不会在发布时将文本水印设为全球默认。
OpenAI 将为 API 客户启用挑选加入的水印能力。从今天起,全球的 API 客户将可以挑选为部分模型添加水印文本输出。这让客户可以决定水印如何符合其透明度义务以及为使用者给出的感受。团队还在与云合作伙伴合作,在将来几周内为借助其服务访问的 OpenAI 模型输出给出水印能力。
OpenAI 还将为研究人员和专家组织给出探测器访问,获批的研究人员和专家组织可以申请从今天开始。依据行为准则访问最初将依据具体情况逐案授予,以兼容文本来源的评估和改进。该工具会报告是否检测到 OpenAI 水印,但不会透露使用者身份或提示内容或对话内容。
本文来源:https://www.ithome.com/1/009/903.htm
若有版权问题,请来信告知:13951431913#139.com 或在右方提交评论。