讨论将 AI 应用于战争，这家企业“疯了”！
5 月 7 号到 8 号，华盛顿特区举办了一场特别的大会。此次会议的主赞助商则是由美国企业家与风险资本家、政治活动家、PayPal 联合创始人 Peter Thiel 参与创立的软件厂商 Palantir，这家公司因在 2019 年疫情封闭期间联手移民和海关执法局（Ice）组织抗议活动而闻名。目前，Palantir 正在向以色列国防军供应部分 AI 产品。
此外，微软、谷歌、亚马逊、Groq 等 20 多家企业也是这场大会的赞助商。
当时，微软宣布已在隔离的 Azure 政府绝密云中部署了 GPT-4 大型语言模型，供国防部使用。一旦该工具获得认可，五角大楼官员将能够在安全的环境中使用该技术。这个消息在当时被广泛关注，但更多主题可能被大家忽略。
亲身参加了这次会议的外媒记者 Caroline Haskins 近日发文详细记录了自己的所见所闻。他说到，会议厅里满是代表美国军方及其数十家承包商的展位，其中包括博思艾伦公司，还有某家可称为“飞机软件界的 Uber”的企业。
“在这样的行业内部会议上，权贵们往往更加直言不讳、疏于掩饰——他们自认为身处安全空间，毕竟身边全都是朋友和同事。”Haskins 表示，“这也让我加倍好奇，他们对于加沙地带的 AI 驱动暴力行动，乃至于战争的未来形态究竟有何看法？”
与会者们被告知，会议最大的亮点就是主厅后方房间里的一连串展板。事实上，那个房间专门展示一个主题，其余部分则由 Schmidt 本人和 Palantir 公司 CEO Alex Karp 主持的 fire-breathing 定基调。
值得注意的是，2023 年 9 月，《时代》周刊发布了首届全球百大 AI 人物，Karp 被评为全球 AI 领袖。在此前联名呼吁“暂停人工智能（AI）研究”的活动中，Karp 反驳了公开反驳，并回怼那是因为他们自己没有 AI 产品。
今年 4 月底，Palantir 推出了自己最新的生成式人工智能平台，该平台理论上可以为军事指挥官提供军事决策、命令下达、作战监控，实现优化决策流程、缩短决策时间、获得最优作战方案、保障作战质量的目标。Palantir 与美国政府的合作一直都很紧密。
Palantir 联合创始人兼 CEO Alex Karp 与海军上将 Tony Radakin
这场大会把参与者们划分成了两类：一类将战争视为经济与战略问题，另一类将战争理解为死亡问题。Haskins 表示，与会的大多数人都属于前一类。
“我之前就一直在关注科技企业与军方机构之间的关系，所以本来不该对在这次会议上看到或听到的任何情况感到意外。但在会议结束、离开华盛顿返回家中时，我感到自己的生命力似乎已经被这场狂暴的活动抽干了。”Haskins 写道。
Haskins 究竟看到了什么？下面我们跟随 Haskins 的视角，近距离看看会议上的权贵们都说了些什么。
Palantir CEO 的“高谈阔论”
跟着大群观众，我们穿过主厅去观看核心议题的小组讨论。Karp 和 Schmidt 连同 CIA 中情局副局长 Divad Cohen，以及负责战争事务的高级官员 Mark Milley 在这里发表了讨论。
Schmidt 自我介绍时麦克风意外故障，于是 Cohen 把自己的麦克递了过去。Schmidt 开玩笑说，“中情局总能及时伸出援手。”在接下来的 90 分钟里，讨论就在这样的轻松氛围下进行。
Eric Schmidt、David Cohen、Mark Milley 将军、Palantir 公司 CEO Alex Karp 以及 Andrew Ross Sorkin 齐聚小组讨论现场
当主持人询问小组成员对于未来战争的看法时，Schmidt 和 Cohen 都回答得相当谨慎。
而向来以态度激进闻名的 Karp 则极度纵容暴力，而且不吝以饥渴的眼神凝视观众，希望从我们身上得到或赞许、或震惊的明确反馈。
这位 AI 领袖首先表示，美国必须在战中“吓死我们的对手。”在谈到哈马斯去年 10 月 7 日对以色列的袭击时，他指出“如果我们美国遭遇到类似的突袭，那地球表面就会多出一个大洞。”Karp 坚称，“和平活动家就是战争活动家。所以我们明显属于和平活动家。”
随着 Karp 的加入，Milley 的言辞也愈发夸张。在讨论结束时，他甚至直接将反对加沙战争的美国人称为“恐怖组织的支持者。”
Schmidt 同时提到了无人机和自动化技术在战争中的重要性。他本人也在低调创办自己的军用无人机公司。
Cohen 则敦促大家将 10 月 7 日的袭击视为对军事环境中技术升级的“重大警告”。Cohen 指出，尽管以色列在防御的监控技术方面“投入了大量资金”，但仍然未能阻止垄断。“我们确实要保持一点谦逊之心。”
但从多数发言者的观点来看，人们普遍比 Cohen 更加乐观，只是觉得系统故障属于技术问题，用更多、更新的技术就可以解决。
我带着麻木的脑袋和僵硬的身体离开了小组讨论现场。
我无意间听到了身边其他与会者们那冷漠的话语。他们有为这么恐怖的发言而震撼吗？完全没有，他们在讨论午餐、周末去哪玩，还有下一场小组讨论的内容。我们似乎完全生活在不同的世界里。
“我就是新时代的奥本海默”
在到处转悠了大概 10 分钟之后，我给手机充上电，然后向身边的另一位与会者主动打了招呼。这是位 50 多岁的男性，我问他对这场小组讨论怎么看，他温和地微笑回应，说 Milley 的二战观点很“有趣”。
他问道，“你看过‘奥本海默’吗？”
我说，“没有，但我读过《原子弹的诞生（The Making of the Atomic Bomb）》。”
我以为他想聊聊那帮制造战争武器的家伙有多傲慢。但相反，他说他在洛斯阿拉莫斯实验室从事核武器研究。他把手伸进背包，给我拿了几根带着阿拉莫斯 logo 的钢笔的贴纸。
他没有透过太多关于工作的细节，但给我看了几眼他花钱租来的豪车。聊了几分钟后，他开始收拾东西，并突然笑着说，“我刚刚想到一件事，我就是新时代的奥本海默！”
看着他返回阿拉莫斯实验室的展位，我勉强挤出礼貌的微笑。
在整场会议期间，我游走于不同的展位，并最终遇到了两个校友。在国家安全局的展位上，一名年轻女士告诉我，安全局岗位有着良好的“工作生活平衡”。我还参观了 Palantir 的招聘展位，那里的员工 Elizabeth Watts 告诉我，愿意在 Palantir 工作的人首先要能承受 Karp 的言论。“想要捍卫西方民主国家的人、对国家安全感兴趣的人都知道，这个世界并不是非黑即白。”
Palantir 公司为士兵们提供一款新型增强现实工具
在 Palantir 巨大的主展位中，我试着戴上 VR 头显来测试 Palantir 为士兵们提供的新型增强现实工具。有人告诉我，我可以在正常观察身边环境的同时指挥卡车或者无人机。但在戴上头显后，我发现自己的视野很不稳定而且会失焦。
一位 Palantir 员工向我解释说，现场有很多人都在试戴这款头显。要想确保视野清晰，头显必须完美贴合使用者的头部和眼睛。但他没有主动帮助我调整头显，所以我的高科技作战视野仍然一片模糊。
活动第一天晚间，Palantir 举办了一场提供免费酒水的社交活动。现场只提供两款 IPA 精酿啤酒，我选择的叫“the Corruption”，可以说是这辈子我喝过的最难喝的酒。之后我跟一位名叫 Sata 的加拿大男子攀谈，他看上去也就 20 多岁。他说自己是 Palantir 的投资者，所以我当然好奇他这么年轻怎么会有闲钱投资。
他说“我出了车祸”。在正常治疗之外，他把剩下的钱拿去投资。总之他的投资比较成功，但这趟会务出行却是亏的。
Palantir 地图工具：帮助选择轰炸目标
我还参加了 Palantir 展位上名叫“缓解平民伤害”的小组讨论。这场讨论由两名“隐私与公民自由工程师”主持，这是一对言语无味的年轻男女。他们用各种委婉的说法来形容轰炸和死亡。其中的女士称，Palantir 的 Gaia 地图工具能帮助用户“处理目标筛选流程”以挑选“感兴趣的目标”，也就是帮助士兵选择具体要轰炸哪些地点。
在交互式地图上点击了几个选项之后，目标区域就亮起了耀眼的蓝色斑点。她解释称，这些亮点代表的是医院和学校等民用区域。以往民用地点大多采用文字描述，但阅读起来费时费力。因此，Gaia 利用大语言模型（例如 ChatGPT）来筛选信息并加以简化。从本质上讲，选择轰炸目标的士兵们可以借此快速了解哪里聚集着大量儿童或者病人。
我后来问这位工程师，“假设你在一个存在大量平区域的地方行动，比如加沙地带，Palantir 是否会阻止你在平民地点‘指定目标’？”
这位女士直接回答不会，“一切由最终用户决定。”
接下来我看到了一个小小的沉浸式展位，在灰色墙体上张贴着关注普通民众受到战争影响的海报。这里就是国际红十字会的地盘。
国际红十字会的展位
穿过一道看似平常的出口，我又迈进一处“紧急避难所”。这是一处为冲突地区的年轻民众提供庇护的样板房间，里面有一张小沙发，上面摆着一只摊开的睡袋，角落里还放着儿童玩具。黄色字样警告称居民应“留在指定的安全区域”。厨房桌子上的收音机似乎正在播放新闻，但信号不太稳定。
这处避难所虽然规模不大，但在这场堪称军工复合体狂欢的会议上却是如此引人瞩目。终于有一个地方在呼吁人们关注战争的受害者，至少应该注意到他们。
走出避难所，我与国际红十字会员工 Thomas Glass 聊了一会。他很专注、很投入，但看起来也很疲惫。他说他刚刚花了几周时间，在加沙南部建立了一处野战医院并搭设起了公共厨房。
我问与会者们对红十字的展位有何反应。Glass 表示，他遇到的大多数人都持开放态度，但也有些人问红十字跟到军工展会来干什么。也许更可悲的是，这么问的人并不是在刻意挑衅，他们是真的无法理解。
结束语
目前，五角大楼官员已经接受了在整个部门内使用生成式 AI 工具。五角大楼官员将生成式 AI 视为一种可以在整个部门内使用的工具，具体包括增强后台功能乃至辅助一线作战人员等。
然而，仍有一些安全问题需要解决。他们即将发布一项新指令，以指导该部门运用生成式 AI、特别是大语言模型方面。“大语言模型很强，堪称生产力的巨大驱动引擎，让我们能够完成更多工作。但作为一项新技术……在我看来，目前仍处于 AI 泡沫阶段。放眼整个行业，每个人都在积极竞争，希望尽快打造出最出色的大语言模型。在这方面，我们仍存在一些差距。所以最重要的就是不能直接借用外部大语言模型、指望登录上去并输入我们的数据就能获得符合预期的 AI 回复。”陆军数据、工程与软件副助理秘书 Jennifer Swanson 表示，
她指出，这样做可能会导致陆军敏感数据通过互联网及对手也能访问到的训练模型而泄露至公共领域。“这将非常危险。因此，我们正在研究内部应对之策，包括在影响等级 IL5 和 IL6 范围之内，可以采取哪些行动。”
一位美军方人士表示，“我们的总体目标就是让大模型以数据功能的形式存在，借此为军方的供应商提供辅助。我们会先以特定用例试水，比如为美国政府构建一套模型的话应该是什么样子、要为军方总部构建的模型又应该是什么样子，以及这些模型之间是什么关系等等。这一切将成为推动后续合作及发展的起点。”
Garciga 透露，他们正在对指南备忘录中的内容做初步整理，目前内容主要集中在数据保护方面，包括设想当中的护栏应当具备哪些功能、政府及产业之间又将以何种方式围绕生成式 AI 开展交互等。
显然，即将出台的新政策将高度关注安全问题。但这种安全只是系统的安全，更广泛的人类范畴内，可能并不在讨论范围里。
声明：本文为 InfoQ 翻译整理，未经许可禁止转载。
参考链接：
https://www.theguardian.com/technology/article/2024/may/17/ai-weapons-palantir-war-technology
https://defensescoop.com/2024/05/09/army-policy-guidance-use-large-language-models-llm/
人工智能产业链联盟高端社区
相关阅读
【碳中和】珍藏版！22个国内外“碳中和”相关报告合集！
【工业机器人】全球工业机器人详细产业链梳理！
【工业机器人】日本工业机器人大盘点
【工业机器人】详解工业机器人控制系统架构
【机器人】一文解析机器人发展趋势，从自动化演进到自主化
【机器人】全球首个活体机器人诞生：100%青蛙基因，撕成两半能自我愈合，还能注入体内摧毁癌细胞
【智能工厂】智能工厂如何快速落地
【工业技术】航空制造推动新概念机器人发展（上）
【工业技术】航空制造推动新概念机器人发展（下）
一文读懂人脸识别技术
【神经网络】给初学者们讲解人工神经网络（ANN）
人工智能的基础--知识分类
人工智能产业链深度透析—基础层
人工智能产业链深度透析-技术层
人工智能全产业链深度透析--（综合）
人工智能产业链深度透析—产业应用医疗篇
朱松纯 | 人工智能的现状、任务、构架与统一（上）
朱松纯 | 人工智能的现状、任务、构架与统一（中）
朱松纯 | 人工智能的现状、任务、构架与统一（下）
【智慧农业】2018中国农牧家禽行业智慧养殖白皮书
【智慧农业】2019年智慧农业市场调研及前景研究报告（附PDF下载）
【智能家居】我国智能锁产业现状及未来发展趋势分析
【知识图谱】详解知识图谱关键技术与应用、AI图谱技术在知乎的应用实践、如何构建多快好省的“知识图谱即服务”
【智造】重磅！《中国智能制造排行榜TOP100》榜单发布 揭露智能制造发展趋势
荐：
【中国风动漫】《姜子牙》刷屏背后，藏着中国动画100年内幕
【中国风动漫】除了《哪吒》，这些良心国产动画也应该被更多人知道！【中国风动漫】《雾山五行》大火，却很少人知道它的前身《岁城璃心》一个拿着十米大刀的男主夭折！
声明
内容来源：网络等，免责声明：部分文章和信息来源于互联网，不代表本订阅号赞同其观点和对其真实性负责。如转载内容涉及版权等问题，请立即与小编联系（微信号：913572853），我们将迅速采取适当的措施。本订阅号原创内容，转载需授权，并注明作者和出处。如需投稿请与小助理联系（微信号：AI480908961）
编辑：Zero