据Theintercept.com最新报道，OPENAI本周悄悄地从其使用政策中删除了明确禁止将其技术用于军事目的的措辞，该政策旨在规定如何使用ChatGPT等强大且非常流行的工具。在五角大楼将目光投向OpenAI这家领先的人工智能公司的同时，该公司弱化对军事用途禁令的变化，引发行业专家的猜测和解读。AI军事应用的正邪之争，即将进入新的高度和新的阶段。
在2023年3月23日更新的OpenAI的“使用政策”页面中，包括禁止“具有高人身伤害风险的活动”，特别是“武器开发”和“军事和战争”。禁止军事应用的明确措辞似乎排除了美国国防部或任何其他国家军队的任何官方且极其有利可图的使用。
但在2024年1月10日更新的OPENAI使用政策和ChatGPT使用政策中，保留了不得“使用我们的服务伤害自己或他人”的禁令，并以“开发或使用武器”为例，但对“军事和战争”使用的全面禁令已经消失。
在后关部分CHATGPT的使用政策页面中，也没有找到之前所宣称的“武器开发”和“军事和战争”的禁止条款。
此次未经宣布的修订是政策页面重大重写的一部分，该公司表示，其目的是使文档“更清晰”和“更具可读性”，其中包括许多其他实质性的语言和格式更改。
OpenAI发言人菲利克斯（Niko Felix）在给The Intercept的电子邮件中表示：“我们的目标是创建一套易于记忆和应用的通用原则，特别是我们的工具现在已被全球普通用户使用，他们现在也可以构建GPT。” “像‘不伤害他人’这样的原则很广泛，但很容易掌握，并且在许多情况下都具有相关性。此外，我们还特别引用了武器和对他人造成的伤害作为明显的例子。”
菲利克斯拒绝透露模糊的“伤害”禁令是否涵盖所有军事用途，他写道，“任何使用我们技术的行为，包括军队，‘[开发]或[使用]武器、[伤害]他人或[破坏]财产，或[从事]违反任何服务或系统安全的未经授权的活动，'是不允许的。”
网络安全公司Trail of Bits的工程总监、机器学习和自主系统安全专家克拉夫(Heidy Khlaaf)表示：“OpenAI非常清楚在军事应用中使用其技术和服务可能产生的风险和危害。” ，他引用了2022年的一篇论文中特别标记的军事用途的风险。克拉夫补充说，新政策似乎更强调合法性而不是安全性。她说：“这两项政策之间存在明显区别，前者明确规定禁止武器开发、军事和战争，而后者则强调灵活性和遵守法律。” “开发武器以及开展与军事和战争有关的活动在不同程度上都是合法的。对人工智能安全的潜在影响是巨大的。鉴于大语言模型（LLM）中存在众所周知的偏见和幻觉，并且总体上缺乏准确性，它们在军事战争中的使用只会导致不精确和有偏见的行动，可能会加剧伤害和平民伤亡。”
该政策的现实后果尚不清楚。去年，The Intercept报道称，面对五角大楼和美国情报界日益浓厚的兴趣，OpenAI不愿透露是否会执行自己明确的“军事和战争”禁令。
AI Now董事总经理莎拉·迈尔斯·韦斯特(Sarah Myers West)表示：“鉴于人工智能系统在加沙针对平民，现在是做出从OpenAI允许使用政策中删除‘军事和战争’一词的决定的重要时刻。”“政策中的语言仍然含糊不清，并引发了人们对OpenAI打算如何执行的疑问。”
虽然目前OpenAI提供的任何产品都无法用于直接杀人，无论是军事上还是其他方面——ChatGPT无法操纵无人机或发射导弹——任何军队都在从事杀人业务，或者至少保持杀人能力。像ChatGPT这样的LLM可以增强许多与杀戮相关的任务，例如编写代码或处理采购命令。对OpenAI提供的由ChatGPT驱动的定制机器人的审查表明，美国军事人员已经使用加快文书工作的技术。直接协助美国作战的国家地理空间情报局已公开猜测使用ChatGPT来协助其人类分析师。即使OpenAI工具被部分军队部署用于非直接暴力目的，它们仍然会帮助一个主要目的是杀伤力的机构。
应The Intercept要求审查政策变化的专家表示，OpenAI似乎正在悄悄削弱其反对与军队开展业务的立场。“我可以想象，从‘军事和战争’到‘武器’的转变为OpenAI提供了支持作战基础设施的空间，只要该应用程序不直接涉及狭义的武器开发，”兰卡斯特大学科学技术人类学博士名誉教授苏奇曼(Lucy Suchman)说道。“当然，我认为你可以为作战平台做出贡献，同时声称不参与武器的开发或使用，这种想法是不诚实的，将武器从社会技术系统中移除——包括指挥和控制基础设施——它是社会技术系统的一部分”。苏奇曼是20世纪70年代以来的人工智能学者，也是国际机器人武器控制委员会成员，他补充道：“新政策文件通过专门关注武器来回避军事承包和作战行动问题，这似乎是合理的。”
Suchman和Myers West都指出了OpenAI与主要国防承包商微软的密切合作关系，微软迄今为止已向这家LLM制造商投资了130亿美元，并转售该公司的软件工具。
这些变化发生之际，世界各地的军队都渴望采用机器学习技术来获得优势。五角大楼仍在试探性地探索如何使用ChatGPT或其他大型语言模型，这是一种可以快速、灵巧地生成复杂文本输出的软件工具。LLM接受大量书籍、文章和其他网络数据的培训，以便模拟人类对用户提示的反应。尽管像ChatGPT这样的LLM的输出通常非常令人信服，但它们是针对连贯性而不是对现实的牢固把握而优化的，并且经常遭受所谓的幻觉，从而使准确性和事实性成为问题。尽管如此，LLM快速摄取文本并快速输出分析（或至少是分析的模拟）的能力使他们自然适合数据密集的国防部。
尽管美国军方领导层中的一些人表达了担忧,鉴于LLM倾向于插入明显的事实错误或其他扭曲，以及使用ChatGPT分析机密或其他敏感数据可能带来的安全风险，五角大楼仍然普遍渴望采用人工智能工具。国防部副部长凯瑟琳·希克斯(Kathleen Hicks)在11月的讲话中表示,打开人工智能是“我和劳埃德·奥斯汀部长从第一天起就一直在推动的以作战人员为中心的全面创新方法的关键部分”，尽管她警告说，大多数当前产品“在技术上还不够成熟，无法满足要求”遵守我们的人工智能道德原则。”
去年，五角大楼可信人工智能和自主事务首席主任金伯利·萨布隆(Kimberly Sablon)在夏威夷举行的一次会议上表示，“在我们如何利用[ChatGPT]等大型语言模型来破坏整个部门的关键功能方面，有很多好处。”
参考资源
1.https://theintercept.com/2024/01/12/open-ai-military-ban-chatgpt/
2.https://web.archive.org/web/20240109122522/https:/openai.com/policies/usage-policies
3.https://openai.com/policies/usage-policies
4.https://theintercept.com/2023/05/08/chatgpt-ai-pentagon-military/
5.https://www.armscontrol.org/act/2023-06/news/chatgpt-sparks-us-debate-over-military-use-ai
6.https://www.nationaldefensemagazine.org/articles/2023/3/8/pentagons-top-ai-official-addresses-chatgpts-possible-benefits-risks
人工智能产业链联盟高端社区
相关阅读
【碳中和】珍藏版！22个国内外“碳中和”相关报告合集！
【工业机器人】全球工业机器人详细产业链梳理！
【智能制造】智能制造50大产业链全景图
【智能工厂】智能工厂如何快速落地
【工业技术】航空制造推动新概念机器人发展（上）
【工业技术】航空制造推动新概念机器人发展（下）
【新基建+人工智能生态】全网最火“新基建”生态图谱—人工智能篇（含40个细分领域厂商）
【AI】一文读懂人脸识别技术
【AI】解析 | 人工智能发展及技术架构
【报告】中国人工智能厂商全景报告（附PDF下载）
【AI】（收藏）从 A-Z 全面盘点人工智能专业术语梳理！
【AI】计算机视觉入门大全：基础概念、运行原理、应用案例详解
【AI】一文读懂机器学习、数据科学、人工智能、深度学习和统计学之间的区别
【智能仓储】一文带你彻底搞懂智能仓储！
【深度学习】12张高清思维导图，总结深度学习
【神经网络】给初学者们讲解人工神经网络（ANN）
人工智能的基础--知识分类
【AI产业链】120图勾勒全球AI产业完整图谱!
【AI】一文读懂人工智能产业链
【AI】中国人脸识别产业链全景图！
【AI】史上最全的人工智能（AI）产业链地图！
【芯片】国产芯片大全：70个细分领域代表企业
人工智能产业链深度透析—基础层
人工智能产业链深度透析-技术层
人工智能全产业链深度透析--（综合）
人工智能产业链深度透析—产业应用医疗篇
朱松纯 | 人工智能的现状、任务、构架与统一（上）
朱松纯 | 人工智能的现状、任务、构架与统一（中）
朱松纯 | 人工智能的现状、任务、构架与统一（下）
【AI】美国国家人工智能研发战略规划2019
【智慧农业】2018中国农牧家禽行业智慧养殖白皮书
【智慧农业】2019年智慧农业市场调研及前景研究报告（附PDF下载）
【智能家居】我国智能锁产业现状及未来发展趋势分析
【知识图谱】详解知识图谱关键技术与应用、AI图谱技术在知乎的应用实践、如何构建多快好省的“知识图谱即服务”
荐：
【中国风动漫】《姜子牙》刷屏背后，藏着中国动画100年内幕
【中国风动漫】除了《哪吒》，这些良心国产动画也应该被更多人知道！
【中国风动漫】《雾山五行》大火，却很少人知道它的前身《岁城璃心》一个拿着十米大刀的男主夭折！
声明
免责声明：部分文章和信息来源于互联网，不代表本订阅号赞同其观点和对其真实性负责。如转载内容涉及版权等问题，请立即与小编联系（微信号：913572853），我们将迅速采取适当的措施。本订阅号原创内容，转载需授权，并注明作者和出处。如需投稿请与小助理联系（微信号：AI480908961）
编辑：Zero