- 行业趋势
- 3条评论
IT之家 11 月 1 日消息,OpenAI、谷歌、微软以及 Anthropic 近日宣布将采用一项新标准,内容发布方可以借助该标准选择拒绝 AI 抓取自家网站内容。借助这项管控机制,内容发布方可以一次性向多家 AI 企业统一申明自身针对 AI 模型训练的内容使用偏好,而不必为每家企业单独设置规则。 该标准由 Anthropic 技术负责人 Kevin Kelley 向互联网工程任务组(IETF)提出,并将集成在网站的 robots.txt 文件中。 长期以来,robots.txt 文件用于告知网络爬虫哪些网站内容允许抓取、哪些禁止抓取,适用场景包含搜索