奥特曼离开OpenAI安全委员会:可决定大模型是否发布
鞭牛士报道,奥特I安9月17日消息,曼离模型据外电报道,开O可决苏州市某某软件客服中心OpenAI 首席执行官 Sam Altman 将离开 OpenAI 于 5 月成立的全委内部委员会,该委员会负责监督与公司项目和运营相关的奥特I安关键安全决策。
OpenAI在今天的曼离模型一篇博文中表示,安全与保障委员会将成为由卡内基梅隆大学教授Zico Kolter担任主席的开O可决独立董事会监督小组,成员包括 Quora 首席执行官 Adam D'Angelo、全委美国退役陆军将军 Paul Nakasone 和前索尼执行副总裁 Nicole Seligman。奥特I安
他们都是曼离模型 OpenAI 董事会的现任成员。
OpenAI 在帖子中指出,开O可决委员会对OpenAI 的全委最新 AI 模型o1进行了安全审查——尽管 Altman 仍参与其中。该公司表示,奥特I安苏州市某某软件客服中心该小组将继续定期接受 OpenAI 安全团队的曼离模型简报,并保留推迟发布的开O可决权力,直到安全问题得到解决。
OpenAI 在帖子中写道:作为其工作的一部分,安全委员会将继续定期收到有关当前和未来模型的技术评估报告,以及持续发布后监测报告。我们正在基于我们的模型发布流程和实践,建立一个综合的安全框架,明确定义模型发布的成功标准。
Altman 离开安全与保障委员会之前,五名美国参议员在今年夏天致 Altman 的一封信中对 OpenAI 的政策提出了质疑。
OpenAI 曾经专注于人工智能长期风险的员工中,近一半已经离职,前 OpenAI 研究人员指责Altman 反对真正的人工智能监管,而倾向于推进 OpenAI 企业目标的政策。
正如他们所说,OpenAI 大幅 增加了 在联邦游说方面的支出,2024 年前六个月的预算为 80 万美元,而去年全年的预算为 26 万美元。
今年春天早些时候,Altman 还加入了美国国土安全部的人工智能安全与安保委员会,该委员会为美国关键基础设施中人工智能的开发和部署提供建议。
即使 Altman 被撤职,也几乎没有迹象表明安全委员会会做出严重影响 OpenAI 商业路线图的艰难决定。
值得注意的是,OpenAI 在 5 月份表示,它将寻求通过委员会解决对其工作的有效批评——当然,有效批评取决于旁观者的看法。
5 月份,OpenAI 前董事会成员海伦·托纳 (Helen Toner) 和塔莎·麦考利 (Tasha McCauley)在《经济学人》的 一篇专栏文章中表示,他们认为目前的 OpenAI 不值得信任,无法承担责任。
他们写道:根据我们的经验,我们认为自治无法可靠地承受利润激励的压力。
而OpenAI的盈利激励还在不断增长。
据传,该公司正在筹集65 亿美元以上的资金,这将使 OpenAI 的估值超过 1500 亿美元。为了达成这笔交易,OpenAI 可能会放弃其混合非营利性公司结构,该结构旨在限制投资者的回报,部分原因是确保 OpenAI 与其创始使命保持一致:开发造福全人类的通用人工智能。
(责任编辑:休闲)
-
5月7日,原创沪剧《黄宝妹》在虹桥艺术中心上演,“2024第十二届上海市优秀民营院团展演”由此正式拉开了帷幕。一年一度的上海市优秀民营院团展演由上海市文化和旅游局主办、上海市演出行业协会承办,至今已坚 ...[详细]
-
当地时间21日,欧盟理事会轮值主席国比利时对外宣布,当天欧盟理事会批准了使用俄罗斯央行被冻结资产的收益为乌克兰提供援助的提案。 根据提案,欧盟今年将向乌克兰提供30亿欧元,资金中的90%将被用于 ...[详细]
-
过去四天,黄浦滨江成了申城最靓丽的一道风景线。在这里,奥运会资格系列赛·上海闪亮登场,全球顶尖运动员在这里为巴黎奥运资格奋力角逐,自由式小轮车、滑板、街舞、攀岩四个项目一同释放潮流运动的魅力,作为东道 ...[详细]
-
@北青体育 5月21日消息,皇马球星克罗斯宣布,欧洲杯后将离开皇马,并且就此退役。 ...[详细]
-
杭州这辆僵尸车,引擎盖都长小树苗了……小区停了至少5年,一直没人管
橙友“钱塘饮酒生”近日向橙柿直通车反映:“之前在沈塘桥有辆车里长了草,这不,永庆坊也有一辆停了好久的‘僵尸车’。车胎已经没有了气,侧窗上遍布收报废车的广告,最好玩的是后备箱上也长出了杂草。看来这车已经 ...[详细] -
对小学阶段的学生来说,在学校获得一两张奖状并非难事,除了“三好学生”奖状之外,还有“优秀班干部、劳动实践小能手、超越之星、艺术之星”等五花八门的奖状。但到了初中或高中阶段,想拿到三好学生或单科第一的奖 ...[详细]
-
致命鹅膏(白罗伞) 灰花纹鹅膏(麻母鸡) 黄盖鹅膏(黄罗伞) 条盖盔孢伞 毒沟褶菌(小白菌、蝴蝶菌) 亚稀褶红菇(火炭菌) 松茸 又到了一年一度云南野生菌大量采摘上市的季节。看到鲜美 ...[详细]
-
曾经的球场对手,如今同在一队,变成队员与教练。十一年前的欧罗堡球场,一场无人问津的荷甲联赛,格罗宁根主场1比0击败兹沃勒。这场荷甲中下游的对决,本来没有任何吸引眼球的理由,但足球世界的时转势移,总有老 ...[详细]
-
雷递网 乐天 5月7日电动汽车Faraday FutureFF)创始人兼CPUO贾跃亭今天发表视频,表示他将考虑和Matthias马提亚斯)共同出任公司联席CEO,并将开启个人IP商业化挣钱造车,和公 ...[详细]
-
5月17日,零跑汽车发布2024年一季度财报。数据显示,零跑汽车当期实现营收34.86亿元,同比增加141.7%,环比下滑33.9%,净亏损为10.13亿元。2024年第一季度,零跑汽车共交付3.34 ...[详细]