刚刚，OpenAI 董事会宣布成立安全与安保委员会
opencat第一时间带来报道
官宣了啥
1. OpenAI宣布开始训练下一个前沿模型，虽然没有指名道姓，但是肯定是比GPT5更先进的模型，我们暂且叫他GPT6（按照altman的说法，下一代模型不一定沿用之前的大模型命名规则）
2. OpenAI董事会新成立安全与安保委员会,其首要任务是在未来90天内评估和进一步完善OpenAI的安全流程和保障措施
该委员会将由OpenAI的技术和政策专家们组成,包括应急准备、安全系统、对齐科学、安保等领域的主管和首席科学家
官宣全文
今天,OpenAI董事会成立了一个由董事Bret Taylor(主席)、Adam D'Angelo、Nicole Seligman和Sam Altman(CEO)领导的安全与安保委员会。该委员会将负责就OpenAI项目和运营的关键安全和安保决策向全体董事会提出建议
最近,OpenAI开始训练下一代前沿模型,我们预计由此产生的系统将使我们在通往通用人工智能的道路上达到下一个能力水平。尽管我们自豪能够打造并发布在能力和安全性方面都处于行业领先地位的模型,但我们在这个重要时刻欢迎进行充分的辩论
安全与安保委员会的首要任务是在未来90天内评估和进一步完善OpenAI的流程和保障措施。90天期满时,该委员会将向全体董事会分享其建议。在全体董事会审查后,OpenAI将以符合安全和安保要求的方式公开分享所采纳的建议
OpenAI的技术和政策专家Aleksander Madry(应急准备主管)、Lilian Weng(安全系统主管)、John Schulman(对齐科学主管)、Matt Knight(安保主管)和Jakub Pachocki(首席科学家)也将加入该委员会
此外,OpenAI还将聘请并咨询其他安全、安保和技术专家以支持这项工作,包括为OpenAI提供安保咨询的前网络安全官员Rob Joyce,以及John Carlin。
OpenAI改变关于超级智能的说法
这个申明应该是在回应外界的质疑? 毕竟前几天OpenAI负责安全对齐的大佬Ilya 和 jan leike都离开了
OpenAI 全球事务副总裁Anna Makanju) 在接受采访时表示，其使命是构建能够“执行人类今天可以完成的认知任务”的通用人工智能（AGI）。
“OpenAI的使命是构建 AGI；我不会说我们的使命是建立超级智能。 “超级智能是一种比地球上人类聪明几个数量级的技术。”
奥特曼去年 11 月人事大地震之前一直在口嗨的是他花了一半的时间研究如何构建超级智能
Makanju 强调，关于人工智能“长期可能性”的研究仍在进行中，即使它们只是理论上的。AGI 还不存在，并表示这种技术在安全之前不会发布
⭐星标AI寒武纪，好内容不错过⭐
用你的赞和在看告诉我～
GPT6？👇👇