丰色 发自 凹非寺量子位 | 公众号 QbitAI
OpenAI的反击来了。
针对被纽约时报提起史上最受关注的侵权诉讼一案，OpenAI公开发表长文表明立场。
文章直接表示：整个诉讼毫无根据，并指出纽约时报：
存在故意引导ChatGPT之嫌疑
隐瞒信息，没有讲出完整的事情经过
![]()
以及OpenAI的总体观点是：
（1）使用版权数据训练合理。没有它们，哪来的当今世界上最先进的模型？（2）如果你不想被训练？可以退出。单一数据源（包括纽约时报在内）的缺失也不会对模型的表现造成重要影响。
消息一出，吃瓜群众再次火速聚集，吵成一团。
支持OpenAI的直接“虾仁猪心”：
纽约时报退出训练数据集，反而会让模型输出质量更好（Doge）
![]()
有人则问了当事模型GPT-4的看法，结果AI也把纽约时报无情嘲讽了一番：
![]()
吴恩达也洋洋洒洒写了一大堆，总结来说就是：
同情OpenAI多于纽约时报，后者所说的全文抄袭更可能是RAG机制所致，并且实测OpenAI已经堵住漏洞，质疑纽约时报究竟受到了多少实际损失。
![]()
不过，反方网友也毫不留情，直接指着鼻子骂：
OpenAI，你太双标了，什么训练合理，都是为了你的利益最大化罢了。
![]()
你才是那个没有讲出完整故事的人。
![]()
OpenAI具体回应
先来看看OpenAI回应的具体立场，一共包含四个点：
1、非常乐意与新闻机构合作
OpenAI表示，自己在技术设计过程中努力行动支持新闻机构，会见了数十家相关媒体，聆听他们提出的担忧，并提供解决方案。
其本意也是支持健康的新闻生态系统，并实现互利互惠，具体包括：
（1）通过部署他们的产品，来协助新闻从业者完成一些耗时的任务，比如分析大量公共记录和翻译故事，最终让编辑和记者从中受益。
（2）通过对历史、非公开内容进行训练，向他们的AI模型传授世界知识。
（3）在ChatGPT回答中显示带有归属信息的实时内容，为新闻发布者与读者建立联系。
2、训练属于合理使用，提供退出机制
OpenAI此前就在提交给英国上议院的一份意见书中警告称：
如果没有受版权内容的训练，我们的模型就将无法运行。
在此，OpenAI再次表示，使用公开的互联网材料训练AI模型是合理的，既对创作者公平、对创新者必要，也对国家的竞争力至关重要。
并指出这一观点已经在美国得到很多团体、学者的支持，在其他国家和地区例如欧盟、日本、新加坡等甚至有法律支持对受版权保护的内容进行训练。
不过，话锋一转，本着“合法权利对我们来说不如成为好公民重要”，OpenAI表示自己提供了一个简单的退出流程，可以防止他们的AI模型再次访问这些网站数据。
据介绍，纽约时报已经于2023年8月采用这一机制，退出OpenAI的训练。
3、“反流”是罕见错误，希望用户也不要故意引导
所谓“反流”（Regurgitation），其实就是指模型输出和训练数据一模一样的内容。
纽约时报在诉讼中就列出ChatGPT和该家新闻惊人雷同的情况：
![]()
对于这一文绉绉的表达，有网友是不满的：不就是抄袭（plagarism）吗？
![]()
但不管怎么说，OpenAI的解释是：
当特定内容在训练数据中多次出现时就会出现这种罕见的错误，不过我们已经采取了措施来防止情况出现。
以及，OpenAI也特别劝诫用户：
采取负责任的行为，不要故意操纵模型进行反流，这既是对我们技术的不当使用，也违反了我们的使用条款。
然而，马库斯和一位数字插画家几天前曾联合撰文，列出包括 DALL-E 3在内的AI模型如何在没有明确提示的情况下的不少“反刍数据”，也就是给出一些明显和已有作品场景基本相似的图片等内容。
而这，就使得OpenAI的说法有些矛盾。
最后，在本段末尾，OpenAI还来了一句：
模型是从人类知识的巨大集合中学习的，因此任何一类数据（包括新闻）都只是整体训练数据的一小部分，任何单一数据源（包括纽约时报在内），对于模型的知识学习都并不重要。
4、完整故事被隐藏，收到起诉后惊讶又失望
OpenAI透露，在去年12月19日时，其实已经和纽约时报取得了建设性谈判进展，包括在回答中实时显示来源和跳转等，并和纽约时报解释：
与任何单一来源一样，你们的内容对我们现有模型的训练没有任何有意义的贡献，也不会对未来的训练产生足够的影响。
然而OpenAI表示没想到，12月27号就被直接起诉了，并且还是通过纽约时报的消息才知道——心情整个就是一个既惊讶又失望。
在此，OpenAI指出，对于纽约时报指出的”反流”情况（也就是回答逐字抄写纽约时报新闻），他们很努力解决这个问题，拿出了诚意，并曾要求后者分享示例，但一再遭到拒绝。
更有趣的是，OpenAI发现，所谓的“反流”内容，其实是多年前多个第三方网站上大量传播的文章（即并非来自纽约时报）。
以及纽约时报可能涉嫌故意操纵提示词——放进去大段原文让模型“上当”。
OpenAI表示，按照他们这么操作，模型其实也并没有像纽约时报展示的那样夸张。
这说明：他们要么故意引导模型，要么进行过精挑细选。
综合以上，OpenAI认为：
纽约时报的诉讼毫无根据。
不过缓和的场面话也是有的：
我们仍然希望与其建立合作伙伴关系，毕竟它曾在60年前报道了第一个有效工作的神经网络。
前情回顾
去年12月27日，纽约时报突然一纸状书、220000页附件，递交到地方法院状告OpenAI侵权，当然还包括微软。
诉状中指出，纽约时报的文章构成了Common Crawl中用于训练GPT的最大单个专有数据集。
基于此，他们找到了多达100个铁证，证明ChatGPT输出内容与纽约时报新闻内容几乎一模一样。
并且有时由于幻觉问题，模型还会以纽约时报的名义“造谣”，生成一些假新闻，例如橙汁会导致淋巴癌，这也对他们的名声造成了困扰。
对此，纽约时报的诉求是：
要求OpenAI和微软销毁包含侵权材料的模型和训练数据，并对非法复制和使用《纽约时报》独有价值的作品相关的“数十亿美元的法定和实际损失”负责。
由于证据充足、律师团队强大，网友直呼这是一起“见证AI侵权里程碑式的案件”、“恐怕不能再像之前摆平其他出版商那样三瓜两枣就打发了”。
![]()
据了解，去年4月份时，纽约时报就与OpenAI谈判，但没谈妥，OpenAI拒绝达成协议。
原因可能是金额巨大，特别是考虑到OpenAI利润的增长以及类似案例的增多。
有一个大胆猜测是，OpenAI可能想用七至八位数金额（百万美元/千万美元）解决此事，但纽约时报所追求的是更高的赔偿和持续的版税收入。
Ps. OpenAI年收入在16亿美元左右，每年用于买授权文章和材料进行训练的金额在100万美元至500万美元之间。
这次，网友站哪边？
有网友指出，这起案子的关键是“训练是否为合理使用”，而他认为：
模型的输出可能会侵权，但输入不会。
![]()
但有人讽刺道：
当你拥有数十亿美元时，一切都是合理使用。
![]()
也有人提出：
我同意为合理使用，但前提是你开源。
![]()
并有人附和：
确实强调非营利性组织很重要。
![]()
此外，对于OpenAI提出的退出机制，有一位作家网友不满的声音也得到了很多支持：
光退出，也就是禁止你们的模型读取我的个人网站还不够，我还需要你仔细检查并从训练数据中完全删除我的内容。
![]()
结局究竟会如何？
一项调查显示，有59%的受访者认为，不应允许人工智能公司使用出版商内容来训练模型。
而70%的人表示，如果公司想在模型训练中使用受版权保护的材料，则应向出版商进行补偿。
看起来，舆论似乎是站在纽约时报这一边的。
你觉得这个案子应该怎么判？
参考链接：[1]https://openai.com/blog/openai-and-journalism [2]https://x.com/OpenAI/status/1744419710635229424?s=20 [3]https://www.ft.com/content/04861d1e-2e9f-4b92-a294-8d0c223a8287[4]https://techcrunch.com/2024/01/08/openai-claims-ny-times-copyright-lawsuit-is-without-merit/ [5]https://www.theregister.com/2024/01/08/midjourney_openai_copyright/ [6]https://x.com/AndrewYNg/status/1744433663969022090?s=20 [7]https://x.com/futuristflower/status/1744422698636218807?s=20
— 完 —
点这里👇关注我，记得标星哦～
一键三连「分享」、「点赞」和「在看」
科技前沿进展日日相见 ~
![]()
OpenAI的反击来了。
针对被纽约时报提起史上最受关注的侵权诉讼一案，OpenAI公开发表长文表明立场。
文章直接表示：整个诉讼毫无根据，并指出纽约时报：
存在故意引导ChatGPT之嫌疑
隐瞒信息，没有讲出完整的事情经过
以及OpenAI的总体观点是：
（1）使用版权数据训练合理。没有它们，哪来的当今世界上最先进的模型？（2）如果你不想被训练？可以退出。单一数据源（包括纽约时报在内）的缺失也不会对模型的表现造成重要影响。
消息一出，吃瓜群众再次火速聚集，吵成一团。
支持OpenAI的直接“虾仁猪心”：
纽约时报退出训练数据集，反而会让模型输出质量更好（Doge）
有人则问了当事模型GPT-4的看法，结果AI也把纽约时报无情嘲讽了一番：
吴恩达也洋洋洒洒写了一大堆，总结来说就是：
同情OpenAI多于纽约时报，后者所说的全文抄袭更可能是RAG机制所致，并且实测OpenAI已经堵住漏洞，质疑纽约时报究竟受到了多少实际损失。
不过，反方网友也毫不留情，直接指着鼻子骂：
OpenAI，你太双标了，什么训练合理，都是为了你的利益最大化罢了。
你才是那个没有讲出完整故事的人。
OpenAI具体回应
先来看看OpenAI回应的具体立场，一共包含四个点：
1、非常乐意与新闻机构合作
OpenAI表示，自己在技术设计过程中努力行动支持新闻机构，会见了数十家相关媒体，聆听他们提出的担忧，并提供解决方案。
其本意也是支持健康的新闻生态系统，并实现互利互惠，具体包括：
（1）通过部署他们的产品，来协助新闻从业者完成一些耗时的任务，比如分析大量公共记录和翻译故事，最终让编辑和记者从中受益。
（2）通过对历史、非公开内容进行训练，向他们的AI模型传授世界知识。
（3）在ChatGPT回答中显示带有归属信息的实时内容，为新闻发布者与读者建立联系。
2、训练属于合理使用，提供退出机制
OpenAI此前就在提交给英国上议院的一份意见书中警告称：
如果没有受版权内容的训练，我们的模型就将无法运行。
在此，OpenAI再次表示，使用公开的互联网材料训练AI模型是合理的，既对创作者公平、对创新者必要，也对国家的竞争力至关重要。
并指出这一观点已经在美国得到很多团体、学者的支持，在其他国家和地区例如欧盟、日本、新加坡等甚至有法律支持对受版权保护的内容进行训练。
不过，话锋一转，本着“合法权利对我们来说不如成为好公民重要”，OpenAI表示自己提供了一个简单的退出流程，可以防止他们的AI模型再次访问这些网站数据。
据介绍，纽约时报已经于2023年8月采用这一机制，退出OpenAI的训练。
3、“反流”是罕见错误，希望用户也不要故意引导
所谓“反流”（Regurgitation），其实就是指模型输出和训练数据一模一样的内容。
纽约时报在诉讼中就列出ChatGPT和该家新闻惊人雷同的情况：
对于这一文绉绉的表达，有网友是不满的：不就是抄袭（plagarism）吗？
但不管怎么说，OpenAI的解释是：
当特定内容在训练数据中多次出现时就会出现这种罕见的错误，不过我们已经采取了措施来防止情况出现。
以及，OpenAI也特别劝诫用户：
采取负责任的行为，不要故意操纵模型进行反流，这既是对我们技术的不当使用，也违反了我们的使用条款。
然而，马库斯和一位数字插画家几天前曾联合撰文，列出包括 DALL-E 3在内的AI模型如何在没有明确提示的情况下的不少“反刍数据”，也就是给出一些明显和已有作品场景基本相似的图片等内容。
而这，就使得OpenAI的说法有些矛盾。
最后，在本段末尾，OpenAI还来了一句：
模型是从人类知识的巨大集合中学习的，因此任何一类数据（包括新闻）都只是整体训练数据的一小部分，任何单一数据源（包括纽约时报在内），对于模型的知识学习都并不重要。
4、完整故事被隐藏，收到起诉后惊讶又失望
OpenAI透露，在去年12月19日时，其实已经和纽约时报取得了建设性谈判进展，包括在回答中实时显示来源和跳转等，并和纽约时报解释：
与任何单一来源一样，你们的内容对我们现有模型的训练没有任何有意义的贡献，也不会对未来的训练产生足够的影响。
然而OpenAI表示没想到，12月27号就被直接起诉了，并且还是通过纽约时报的消息才知道——心情整个就是一个既惊讶又失望。
在此，OpenAI指出，对于纽约时报指出的”反流”情况（也就是回答逐字抄写纽约时报新闻），他们很努力解决这个问题，拿出了诚意，并曾要求后者分享示例，但一再遭到拒绝。
更有趣的是，OpenAI发现，所谓的“反流”内容，其实是多年前多个第三方网站上大量传播的文章（即并非来自纽约时报）。
以及纽约时报可能涉嫌故意操纵提示词——放进去大段原文让模型“上当”。
OpenAI表示，按照他们这么操作，模型其实也并没有像纽约时报展示的那样夸张。
这说明：他们要么故意引导模型，要么进行过精挑细选。
综合以上，OpenAI认为：
纽约时报的诉讼毫无根据。
不过缓和的场面话也是有的：
我们仍然希望与其建立合作伙伴关系，毕竟它曾在60年前报道了第一个有效工作的神经网络。
前情回顾
去年12月27日，纽约时报突然一纸状书、220000页附件，递交到地方法院状告OpenAI侵权，当然还包括微软。
诉状中指出，纽约时报的文章构成了Common Crawl中用于训练GPT的最大单个专有数据集。
基于此，他们找到了多达100个铁证，证明ChatGPT输出内容与纽约时报新闻内容几乎一模一样。
并且有时由于幻觉问题，模型还会以纽约时报的名义“造谣”，生成一些假新闻，例如橙汁会导致淋巴癌，这也对他们的名声造成了困扰。
对此，纽约时报的诉求是：
要求OpenAI和微软销毁包含侵权材料的模型和训练数据，并对非法复制和使用《纽约时报》独有价值的作品相关的“数十亿美元的法定和实际损失”负责。
由于证据充足、律师团队强大，网友直呼这是一起“见证AI侵权里程碑式的案件”、“恐怕不能再像之前摆平其他出版商那样三瓜两枣就打发了”。
据了解，去年4月份时，纽约时报就与OpenAI谈判，但没谈妥，OpenAI拒绝达成协议。
原因可能是金额巨大，特别是考虑到OpenAI利润的增长以及类似案例的增多。
有一个大胆猜测是，OpenAI可能想用七至八位数金额（百万美元/千万美元）解决此事，但纽约时报所追求的是更高的赔偿和持续的版税收入。
Ps. OpenAI年收入在16亿美元左右，每年用于买授权文章和材料进行训练的金额在100万美元至500万美元之间。
这次，网友站哪边？
有网友指出，这起案子的关键是“训练是否为合理使用”，而他认为：
模型的输出可能会侵权，但输入不会。
但有人讽刺道：
当你拥有数十亿美元时，一切都是合理使用。
也有人提出：
我同意为合理使用，但前提是你开源。
并有人附和：
确实强调非营利性组织很重要。
此外，对于OpenAI提出的退出机制，有一位作家网友不满的声音也得到了很多支持：
光退出，也就是禁止你们的模型读取我的个人网站还不够，我还需要你仔细检查并从训练数据中完全删除我的内容。
结局究竟会如何？
一项调查显示，有59%的受访者认为，不应允许人工智能公司使用出版商内容来训练模型。
而70%的人表示，如果公司想在模型训练中使用受版权保护的材料，则应向出版商进行补偿。
看起来，舆论似乎是站在纽约时报这一边的。
你觉得这个案子应该怎么判？
参考链接：[1]https://openai.com/blog/openai-and-journalism [2]https://x.com/OpenAI/status/1744419710635229424?s=20 [3]https://www.ft.com/content/04861d1e-2e9f-4b92-a294-8d0c223a8287[4]https://techcrunch.com/2024/01/08/openai-claims-ny-times-copyright-lawsuit-is-without-merit/ [5]https://www.theregister.com/2024/01/08/midjourney_openai_copyright/ [6]https://x.com/AndrewYNg/status/1744433663969022090?s=20 [7]https://x.com/futuristflower/status/1744422698636218807?s=20
— 完 —
点这里👇关注我，记得标星哦～
一键三连「分享」、「点赞」和「在看」
科技前沿进展日日相见 ~