关闭广告

OpenAI CEO首场中国演讲:推进AGI安全治理,需要国际科技界展开合作

经济观察网12592人阅读


萨姆·阿尔特曼强调,OpenAI在依托技术消除全球合作障碍的同时,还试图为AGI治理系统沟构建一个框架和安全标准。他认为,AI安全确实需要技术的参与,但更为关键的是,“要保持一致的价值观。”

记者 |钱玉娟

图源 |图虫创意

正在世界各地进行旋风式访问的“ChatGPT之父”、人工智能公司OpenAI的CEO萨姆·阿尔特曼(Sam Altman),6月10日首次“云”上参与了在中国举行的行业峰会“2023北京智源大会”。北京智源大会是由智源研究院(全称:北京智源人工智能研究院)主办的年度国际性人工智能领域的专业交流活动,定位于“AI内行顶级盛会”,今年已经是第五届。

五年前,智源研究院在科技部和北京市的支持下,联合北京人工智能领域的优势单位共建而成。因汇集了张宏江、黄铁军等国际顶尖人工智能学者,智源研究院聚焦核心技术与原始创新,旨在推动人工智能领域发展政策、学术思想、理论基础、顶尖人才与产业生态的五大源头创新。

萨姆·阿尔特曼在名为“AI安全与对齐”的分论坛中进行了主题演讲,在穿越五大洲近20个国家,与多国领导人、开发者及学生们展开交流、讨论后,他发现,世界的注意力都集中在解决AI的安全问题上。

除了给OpenAI优化工具等方面工作提出宝贵意见,萨姆·阿尔特曼希望,在亲眼目睹了通用人工智能(Artificial General Intelligence, AGI)发展带来的变革,人类的想象力被迅速拓展后,防范风险,“推进AGI安全治理,是我们寻找共同立场的最重要领域之一。”

萨姆·阿尔特曼举例称,像根除小儿麻痹和天花等疾病,以及减少全球气候变化等风险,大国之间经常在关键医学和科学领域展开合作,以实现共同目标。在他看来,AGI安全治理同样需要国际合作,尤其在AI开发和安全部署方面,需要建立包容的国际标准,使所有国家对AGI发展抱以一个统一且平等的准则;同时,在可验证的方式下,全球范围内建立起对AGI安全开发的信任。

作为首场中国演讲,萨姆·阿尔特曼特意援引《道德经》中的“千里之行,始于足下”,以呼吁国际科技界能迈出建设性的第一步,合作推动AGI安全。与此同时,他也提及,要深入地思考,如何尊重和保护知识产权,推动并引导与安全研究有关的投资。

谈及OpenAI当前的重点内容,“如何训练优化模型,以使AI系统成为人类有益且安全的助手。”萨姆·阿尔特曼演讲后还与智源研究院理事长张宏江进行了对话,他谈到,过去的六个月时间里,人们愈发重视AGI风险和机遇,OpenAI在让人们享受技术变革带来的益处同时,也在努力减轻风险,但“全球合作始终是困难的”。

萨姆·阿尔特曼强调,OpenAI在依托技术消除全球合作障碍的同时,还试图为AGI治理系统沟构建一个框架和安全标准。他认为,AI安全确实需要技术的参与,但更为关键的是,“要保持一致的价值观。”为此,OpenAI要设计出一个公平、包容又具有代表性的系统,“我们需要构建安全的分类器和检测器,以监测符合用户规范的情况。”

中国、美国和欧洲是推动人工智能和创新的三个主要力量,当张宏江问及国际合作对于解决AI需求和决策具备怎样的优势时,萨姆·阿尔特曼表示,AI安全需要受益于不同国家和不同背景下的用户偏好,因此需要融合不同的观念来实现这一目标。

聚焦中国,萨姆·阿尔特曼认为,这里拥有世界上一些最优秀的AI系统,也从根本上使研究人员在解决AI系统问题时面临困难,他希望未来中美两国间的AI技术研究人员能一起为AI安全做出贡献。

对谈中,张宏江疑问,未来OpenAI的GPT源代码会否重新开放,萨姆·阿尔特曼并未直接回答。但他对开源模型的发展以及开源这一路径的正确性予以认可,只是伴随模型变得越来越大,他强调,“确保正确性变得昂贵,开源一切可能不是最优路径。”

The END

No.1

No.2

No.3

No.4

No.5

微信号 |eeojjgcw

新浪微博 |@经济观察报

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

打铁大战!首节快船全队22中4拿13分&魔术20中6得18分

直播吧 浏览 9534

印媒:收到不合格药品投诉后,印下令药厂年内必须达到新生产标准

环球网资讯 浏览 8857

荷兰弟赞达亚恋情曝光,两人曾在蜘蛛侠中有过密切合作

趣看热点 浏览 23999

图片报:弗里克可能在9月的国际比赛日征召穆勒和诺伊尔

直播吧 浏览 12273

又是一个苦涩赛季?利物浦欧冠惨败,联赛第8,国内杯赛皆出局

直播吧 浏览 15460

日本"全球最大"反导战舰露真容 被称为新版"大和"号

中国青年报 浏览 65035

韦德:中国篮球的教学体系需要改正,让球员充分发挥创造力

懂球帝 浏览 8499

《人民的名义》:一个被优秀反噬的孩子,才是人性最大的真相!

娱乐白名单 浏览 8523

王猛预测比尔下家:能争冠&缺锋线火力&大城市 勇火鹿熊还有谁?

直播吧 浏览 12418

银行存款利率下调 年轻人跨城存钱:50万能多赚6000元

上观新闻 浏览 96663

美国总统拜登签署对华投资限制行政令 外交部回应

财联社 浏览 66861

电动公交陷困境:电池衰减严重、停运,不敢开空调

界面新闻 浏览 10560

别低估了连衣裙的美 好看又好穿

一只可可 浏览 11855

台积电之后 韩国芯片工厂也关停光刻机了:仅一半产线运转

快科技 浏览 10263

杨颖带儿子现身机场 私服全身配饰近10万忙着赶路

萌神木木 浏览 10615

岸田要求中方撤销水产品进口管制措施 中国大使回击

环球网 浏览 66947

两嫌犯被抓后银行卡遭警方扣押 卡内13万被25次取空

红星新闻 浏览 66676

大张伟夫妇澳洲被偶遇,妻子穿8000元鞋子,脚踝纤细瘦了20斤!

缘木不求娱 浏览 8695

赖斯:想和杰拉德一起踢球,我觉得我们可以互补

懂球帝 浏览 8712

一年后态度转变 曾"拒见"中国大使的莫里森与大使会面

环球时报新闻 浏览 70373

戴安娜王妃的珠宝"沦落"到拍卖?

《买手客buyerkey》 浏览 11732
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1