高文:AI赋能新质生产力发展

专题:2024中国高新技术论坛

  “2024 中国高新技术论坛”于11月14日在深圳举行。中国工程院院士、鹏城实验室主任高文出席并演讲。

  以下为演讲实录:

  高文:今天我和大家分享的是“AI赋能新质生产力发展”的命题作文。

  我讲两点:一是关于今年诺奖给了人工智能,谈谈我的考虑;二是关于人工智能发展现在我所在的鹏城实验室做了一点东西。

  首先看第一部分。

  为什么今年的诺奖会给人工智能两个,物理学奖和化学奖,它背后的逻辑是什么?到底是什么使得这两个奖最后找到了人工智能?可能大家不知道,背后的逻辑是科学大奖赛,是靠比赛最后选出了获奖人。

  先说问题,这一轮人工智能起来,是深度神经网络。要想凑深度神经网络的热闹,那一定要给做深度神经网络的人一个奖,到底给谁?最后给了他俩,给他俩的主要理由,Hopfield就是统计物理学家,后半生主要做神经网络,但是用统计物理学的方法在研究神经网络。右边这个和物理学没什么关系,但他发展了Hopfield基于统计学的神经网络,给出了玻尔兹曼机,是优化问题。优化问题是数学问题,但他用了Hopfield的模型,最后他拿了奖。获奖,这个领域一点问题都没有。化学也一样,把这个问题给了一个蛋白质折叠的预测。右边两个人(Demis Hassabis 、John M.Jumper)是做软件的,只有最左边这个人(David Baker)是真正做这个行业的。它是一个搭配,但这个搭配里面有非常深层次的原因。

  诺奖很愿意蹭热度,在上世纪70年代也有一个人工智能的专家得诺奖,他(赫伯特·西蒙)得的是诺贝尔经济学奖。刚才陈院士提到,智能里很重要的是推理,上世纪70年代的人工智能主要在研究推理,研究推理时赫伯特·西蒙给了一个决策模型,要推理时最后要拍板到底哪个对哪个错,他给了一个决策模型。为了蹭人工智能的热度,这个决策模型说在社会学里可以使用,就给了赫伯特·西蒙。

  诺奖在抓一些在社会上影响比较大,可能会带动一个潮流的领域。

  今年为什么给了物理学奖和化学奖?它的判断是由两个科学大赛引出来的。

  第一个,物理学奖,真正确定要给谁的是由于ImageNet比赛(机器视觉比赛)。但机器比赛太绕口,这个比赛的数据库叫ImgeNet。这个图像数据库是现在人工智能里比较有名的斯坦福大学教授李飞飞领着学生做出来的图像数据库,用这个图像数据库做比赛。

  2010年开始正式比赛,全世界所有做计算机视觉和算法的都可以来比赛,你说你的算法厉害,是骡子是马拉出来练练。这个练是在大数据上练。ImgeNet这个图像数据库里有1500万张图像,里面有22000类目标或者叫物体。它给出一张图像,问你这图像里有什么,你就回答这个图像里有什么,你回答对了就不减分。比如这里有一只猫,你说是老虎,那你就错了,就扣分。谁扣分扣得最少谁就得第一。

  2010年得第一的,他的错误率是28.2,2011年的错误率是25.8,到2012年错误率一下降了10个百分点,16.4。当时大家说你这个算法挺有意思,一下可以提升这么多。做科学研究的都知道,努力一年能提升一两个百分点都不错了。他说我用了一个神经网络做的。从2013年以后全都是深度神经网络,只是里面的层数不一样、配置不一样等等。

  ImgeNet比赛2012年这个结果是深度神经网络在应用中的第一滴血。如果你要找最根上的东西,那肯定要找这个,所以AlexNet就被确认为入围诺奖物理学奖最重要的线索。Alex没有得到这个奖,他的导师得到了,他的导师就是物理学奖第二位的Hinton。Hinton是深度神经网络里活着的最大人物。深度网络做起来有三个人比较关键,这三个人是2006年分别各发表了一篇论文,告诉说深度神经网络可以做大规模的使用。2006年也被称为是深度神经网络的元年。深度神经网络这三个人中Hinton是排第一的。这三个人是不是都要给?物理学奖虽然可以给三个人,但学生没给,光给老师,和老师无关的另外两个人好像也不是很合乎逻辑。就在这里面找,Alex导师是新的,他在这一轮神经网络中贡献不错,但和物理学没太大关系,就要往前挖。Hinton在1985年写了玻尔兹曼机,1986年的BP网络是今天深度神经网络优化的基础模型,所以要给应该给他这个工作。但说还不能说这个工作,还要说玻尔兹曼机。确定了要给Hinton,但Hinton又不是物理学家,要给物理学家Hopfield,Hopfield都90多岁了,他做梦都没有想到突然会拿到这样一个奖。

  第二个,这个更有意思。前面那个是2012年的结果,2024年才给的奖。这个更快,蛋白质折叠的预测是非常挑战的工作,原来做结构生物学的科学家全世界大概能预测出1万个左右的蛋白质三维结构。但实际上生命界存在的蛋白质大概有上亿,一万和上亿之间差了1万倍。如果按常规方法,要把所有蛋白质结构解析出来,要一万年的时间,这是不可忍受的。1994年有一个马里兰大学的教授提出一个比赛,他说有没有可能用已有的蛋白质结构、已有的序列,去预测新的东西,因为它每年都会产生将近1万个。每年产生1万个,先不公布,拿这个东西来比赛,看看谁的算法好。从1994年开始每两年就有一次CASP大赛,这个比赛前些年的结果不怎么样,2006、2008年预测的准备率都在40%上下,40%能预测对,60%预测错的,准确率很低没有办法用。2016、2017年AIphaGo非常热,当时AIphaGo把人类围棋打败,有人问过DeepMind的CEO下一个目标是什么,他说我下一个目标是拿诺贝尔奖。那时候他已经想清楚了他要参加CASP比赛,而且他很肯定,他在这个比赛里只要拿了冠军,他将来就可能获诺贝尔奖。这个年轻人的想法很直截了当。2018年第一次去参加他们的得分就将近60,一下提升了将近20个百分点。2020年到90分,常规的东西已经价值没有那么大了,这个的价值就比较高了。他一下把原来很多合成生物学的科学家饭碗打掉了,现在合成生物学的工作都要转到怎么用这个东西了。

  正因为这个工作,确定了后面这两位的奖。但后面两位不是传统意义上化学领域专家,所以光给预测还不行,还要给蛋白质设计,要找一个人来陪榜。所以第一个人是真正做蛋白质设计和预测的,主要做设计,三维结构可以人工设计,他得了一半。后面两个做计算机的得了另外一半。

  这告诉我们什么?科学比赛对于评价一个科学发现的价值,也是非常重要的,以前都说论文重要,因为论文需要沉淀,需要大量人去引用。但你参加这个比赛,就非常直截了当,你把别人打败了,那你就厉害。怎么厉害,你可以把它写成论文,但这个结果是由大赛产生的。

  鹏城实验室是在深圳的一个国家实验室,网络通信领域。现在网络通信和人工智能分不开,所以我们也做人工智能应用。

  为了做这个东西,前些年我们一直在做算力,用算力支持人工智能大模型的训练,所以我们做了一个鹏城云脑2,这个机器的性能非常好,在存储性能方面连续八次获得世界超算比赛榜单,连续八次第一,而且它在人工智能性能榜单以及人工智能图搜索榜单上都是表现非常突出的。

  这是4096块卡用华为昇腾芯片做的机器。(见PPT)

  这个机器做出来后,国内很多大模型都是在这个机器上训练的,包括大家经常听到的华为盘古,它早期的版本都是在这个机器上训练的,也包括百度文心,还有像北京智源的模型。

  我们开源了很多东西,也有一大批,包括丝路、大圣、扁鹊、通言、通图、常羲等等。

  这台机器从2020年10月份上线到现在差不多4年,4年运行下来,机器的使用率非常饱满,90%多的使用率。其中大概只有一半48.27是实验室自己使用,剩下大部分都分享出去给合作单位甚至公益机构使用。

  (短视频播放)

  这是2020年时。

  我们这个机器上线后训练了一批模型,线上开源社区里有很多我们的模型,包括7B、33B和200B的模型,有兴趣的都可以到那儿下载。200B的模型是比较典型的任务,花了差不多7个月时间,用整台机器,这里面的3456卡做训练,另外的做数据整备和验证。这个模型训练出来当时也比较不错。

  这些模型都是用开源方式做,所以可以做各种各样的合作。

  这是云脑2,正在做的是云脑3,云脑3的算力是云脑2的16倍,里面用了2万多块最新华为的卡,每一块卡的算力相当于H100的当量。

  这台机器的原型已经完成了,我们在原型基础上开始做视频内容的生成,用Open-sora跑,可以生成几十秒甚至几十分钟的视频。后面就是生成一段内容,大家可以看一看。

  (短视频播放)

  刚才陈院士说科学无国界,地球上的科学家都应该互相合作,其实外星球的也一样。

  科学大赛非常重要,鹏城实验室这几年在深圳市科创委的组织下,我们也搞了一个全国人工智能大赛,这个人工智能大赛已经举行了很多届,每年都有几千个队伍来参加比赛,今年还会有,希望大家关注。

  科学大赛对于科技成果的评价有很重要的作用,中国的人工智能大模型要有自己的底座、算力,这样才能承载我们想做的智能和中华文明的传承。对于这样一些生态,希望大家关注,谢谢大家!

  新浪声明:所有会议实录均为现场速记整理,未经演讲者审阅,新浪网登载此文出于传递更多信息之目的,并不意味着赞同其观点或证实其描述。

标签:

相关推荐

  • 首都经济贸易大学官网首都经济贸易大学官网教务处

    首都经济贸易大学官网首都经济贸易大学官网教务处

    本文目录导读:首都经济贸易大学官网概述历史沿革与学院设置师资力量与科研成果招生信息与学术交流校友风采与校园文化网站功能与服务首都经济贸易大学官网——探索知识殿堂的窗口在浩瀚的学术海洋中,首都经济贸易大学官网如同一座知识殿堂的窗口,为外界提供了了解学校、探索学术的途径,这个官方网站不仅是学校对外展示的窗口,更是学生、教师、校友以及社会各界人士获取学校最新动态、...

  • 首都经济贸易大学地址首都经济贸易大学地址丰台区

    首都经济贸易大学地址首都经济贸易大学地址丰台区

    本文目录导读:首都经济贸易大学的地址校园环境与文化学术研究与成就学生生活与成长校园设施与服务知识的殿堂在繁华的都市中,有一所大学,它承载着无数学子的梦想与希望,它就是首都经济贸易大学,这所大学以其独特的魅力吸引着来自四面八方的学子,成为他们追求知识、实现梦想的摇篮,就让我们一起走进这所知识的殿堂,探寻它的地址及其背后的故事。首都经济贸易大学的地址首都经济贸易...

  • 对外经济贸易大学继续教育学院对外经济贸易大学继续教育学院院长

    对外经济贸易大学继续教育学院对外经济贸易大学继续教育学院院长

    本文目录导读:对外经济贸易大学继续教育学院的特色课程设置与教学特点学院的社会价值对个人发展的意义学院的未来展望对外经济贸易大学继续教育学院:探索终身学习的广阔天地在当今这个知识爆炸的时代,终身学习已经成为每个人不可或缺的追求,对外经济贸易大学继续教育学院,作为一所致力于提供高质量继续教育服务的学院,为广大学子提供了丰富的课程资源和优质的教育服务,本文将详细介...

  • 首都经济贸易大学研究生首都经济贸易大学研究生分数线

    首都经济贸易大学研究生首都经济贸易大学研究生分数线

    本文目录导读:首都经济贸易大学研究生的背景与特点首都经济贸易大学研究生的学术研究首都经济贸易大学研究生的成长与未来首都经济贸易大学研究生的影响与贡献首都经济贸易大学研究生:探索经济与贸易的未来在中国的首都,有一所知名的大学,它就是首都经济贸易大学,这所大学以其严谨的学术态度和高质量的教育水平,吸引了无数热爱经济、贸易等领域的学子,我们要讲述的就是这所大学的研...

  • 金价突然猛跌逾60美元!特朗普“中东停火”通牒奏效 如何交易黄金与美元指数?

    金价突然猛跌逾60美元!特朗普“中东停火”通牒奏效 如何交易黄金与美元指数?

      24K99讯周一(11月25日),黄金价格日内猛烈下跌超过60美元,最低下探2659美元。美国当选总统特朗普(DonaldTrump)告诉以色列总理内塔尼亚胡,他希望在2025年1月20日就任时结束加沙战争。地区消息人士周日称,以色列与真主党之间的停火协议非常接近。  美国有线电视新闻网(CNN)引述一名地区消息人士透露,以色列与黎巴嫩激进组织...

    2024/11/25
  • 郑州市经济贸易学校郑州市经济贸易学校官网

    郑州市经济贸易学校郑州市经济贸易学校官网

    本文目录导读:学校概况教育理念课程设置师资力量学生活动就业前景未来展望郑州市经济贸易学校:培养未来经济贸易人才的摇篮郑州市经济贸易学校,位于河南省郑州市,是一所历史悠久、声誉卓著的职业教育学校,自成立以来,学校始终秉持着“育人为本,服务社会”的办学理念,致力于为社会培养高素质的经济贸易人才。学校概况郑州市经济贸易学校坐落在美丽的郑州市区,校园环境优美,设施完...

  • 提高所得税门槛,日本再提大规模刺激计划,市场对12月加息越来越相信

    提高所得税门槛,日本再提大规模刺激计划,市场对12月加息越来越相信

      华尔街见闻  日本个人所得税的起征点将从现有的6640美元大幅提高至11500美元,分析认为,这一举措将为日本经济注入更多可支配收入,缓解人口萎缩、老龄化等长期压力。但也有反对者认为,这是一种鲁莽的财政扩张,可能导致收入不平等加剧,还可能引发通胀快速增长,或为12月加息打开大门。  日本大幅提高个人所得税起征点、石破茂着重关注工资增长,通胀会飙升吗?...

    2024/11/25
  • 对外经济贸易大学在职研究生对外经济贸易大学在职研究生学费

    对外经济贸易大学在职研究生对外经济贸易大学在职研究生学费

    本文目录导读:对外经济贸易大学在职研究生项目简介对外经济贸易大学在职研究生的意义对外经济贸易大学在职研究生的学习体验对外经济贸易大学在职研究生的学习之旅在繁忙的职场生活中,许多人渴望通过学习来提升自己,而对外经济贸易大学在职研究生项目正是为这些有志之士提供了一个绝佳的进修平台,本文将详细介绍对外经济贸易大学在职研究生项目的特点、学习内容以及其对于个人和社会的...

  • 国泰基金A500优势再次被华夏基金超越!华夏A500ETF上市6天规模超百亿,此前国泰基金A500ETF突破百亿用了7天

    国泰基金A500优势再次被华夏基金超越!华夏A500ETF上市6天规模超百亿,此前国泰基金A500ETF突破百亿用了7天

      11月25日消息,A500指数热度高居不下,华夏A500ETF基金(512050)仅六个交易日规模突破百亿,引发关注。  回顾此前,国泰基金国泰中证A500ETF(159338)则是上市7个交易日规模突破百亿;第17个交易日规模突破200亿元!  华夏A500ETF基金(512050)在突破百亿的时间上,超越了国泰基金,那么,突破200亿元规模,...

    2024/11/25
  • 广东省经济贸易职业技术学校广东省经济贸易职业技术学校电话

    广东省经济贸易职业技术学校广东省经济贸易职业技术学校电话

    本文目录导读:学校概况专业设置与教学特色校园文化与育人环境学生就业与社会贡献未来展望广东省经济贸易职业技术学校:培养未来经济贸易人才的摇篮广东省经济贸易职业技术学校,位于我国南方的经济大省——广东省,这所学校在职业教育领域中独树一帜,以其卓越的教育理念和高质量的教学水平,成为了培养未来经济贸易人才的摇篮。学校概况广东省经济贸易职业技术学校是一所集职业教育、技...

返回顶部
微信号复制成功
微信号: 13695011756
点击下方按钮