李飞飞最新访谈:我每天都在对AI的担忧中醒来

日期:2021-04-13 15:44:02 | 人气: 1097

本文摘要:录像:【 图像来源: WIRED所有者: WIRED】(公众号:)人工智能对人类影响不大。

录像:【 图像来源: WIRED所有者: WIRED】(公众号:)人工智能对人类影响不大。还有一点讨论的话题,是不配合人类还是反击? 这周,在斯坦福伦理社会中心、斯坦福大学的人工智能研究所和斯坦福大学人文中心进行了关于“人工智能”人工智能的活动。人工智能领域的先驱之一——李飞飞参加了这次对话希望分为三个部分。首先,说明我们现在的位置。

北单竞彩app

然后谈谈我们现在必须做的自由选择。最后,我要向大厅里的所有人提出建议。飞飞,你有博士学位和计算机科学学位还是斯坦福大学的教授? 你指出生物科学知识除以计算能力,除以数据侵略相等的人的能力吗? 李飞飞:作为工程师和科学家,我们现在有必须解决问题的危机。

当提到人工智能危机时,我躺在那里思考。这是我热情的领域,我对这个领域有热情,然后研究了20年。这是老年科学家成为人工智能博士的科学好奇心。但是,20年后又发生了什么,人工智能危机了吗? 其实,我在谈论人工智能的发展。

这和斯坦福大学的同事们今天有着以人为本的人工智能方向。这是革命性的技术。

这是新技术。与物理、化学、生物学相比,人工智能依然是一门新科学,但由于数据、计算能力、人工智能带来的各种影响,正如你所说,人工智能以普遍而深刻的印象方式影响着人类的生活和商业。针对人类面临的这些问题和危机,斯坦福大学想明确提出的解决方案之一是以人为中心的方法重新构建人工智能和技术的教育、研究和对话吗? 我们今天不一定需要寻找解决办法,但可以转向人道主义者、哲学家、历史学家、政治学家、经济学家、伦理学家、法律学家、神经学家、心理学家以及更好的其他学科研究和人工智能的发展。

主持人:不要那么同意我们今天得到答案。还有72分钟,我们试试吧。据说人工智能有很多危机,对吧? 他们说人工智能看起来很有意识,这意味着什么? 他们在谈论更换工作和种族歧视。

但这是考虑人工智能的人应该关注的明确问题吗? 李飞飞:当然。人类从火中建立的任何技术都是双刃剑。

人工智能可以改善生活、工作和社会,但不会带来风险。我说我每天醒来都会担心人工智能的多样性和包容性问题。

我们担心缺乏公平或公平、隐私和劳动力市场。因此,在著必须关注的意义上,所以我们必须扩大研究、发展政策、人工智能的对话,进入人间,进入社会问题,在一定程度上是代码和产品。所以我完全同意你的意见。

现在是打开对话的时候了。打开关于这些问题的研究。

人工智能的诞生是人工智能科学家和生物学家,特别是神经科学家的对话。人工智能的诞生相当有大脑活动的灵感。快进到60年后的今天,今天的人工智能在医疗领域取得了很大的进步。

我们从生理和病理中收集了很多数据,利用机器学习帮助了我们。“AI能爱观众中的某个人吗? ”主持人:让我们关注反击大脑是什么意思。现在我的大脑可能变白了,对吧? 这个设备有更多人的地方。我想让我大检查一下,就像我的大脑被黑客侵略了一样。

你不在。你每天冥想两个小时,我有。可能很多人都有。

但是未来的黑客会怎么样呢? 飞,乌托邦a,鼓励自由民主的反乌托邦中,不存在人类特有的不可侵略的东西吗? 李飞飞:你两分钟前回答我这个问题的时候,我第一个想起的是恋人。恋人可以被侵略吗? 但是这两个反乌托邦,我没有答案。但我后来想说的是,这就是为什么现在正是我们必须寻求解决办法的时候。

所以,我们现在指出人工智能的新篇章必须通过人文主义者、社会科学家、商界领袖、公民社会、政府等各方面的合作来写,不能坐在同一张桌子上,进行多边合作对话。我指出你们显然强调了这场潜在危机的紧迫性、重要性和规模。但是我指出,面对这种情况,我们必须行动。

主持人:我指出这个装置将来的某一天不比现在强多了。你能爱观众中的某个人吗? 李飞飞:这是我的研究领域。我想说两种意见。

个人认为,我们在对话的这一部分作了两个非常重要的假设。其一,人工智能不是这样的,它已经超越了一种状态,打破了任何物理现象的预测,它超越了意识水平,超越了爱的无限大。确认我们充分认识到那十分、十分、接近十分。这项技术还处于票房阶段。

我对今天人工智能的部分担忧是过度抹杀它的能力。所以我并不是说这不是有效的问题。但是,我指出这个对话的一部分已经建立在非常强大的假设之上,但我甚至不告诉你离那个时代还有多少年。第二个假设,我们的对话是基于我们谈论的世界和世界的状态,只有强大的人工智能存在,或者生产强大的人工智能,只有少数群体试图反击人类的假设。

但事实上,我们人类社会很简单,我们有很多人,对吧? 我的意思是,人类在其历史上目睹过很多技术。如果我们把它分给坏玩家,没有任何管理,跨国合作、规则、法律、道德规范、技术不是反击人类,而是极大地破坏人类,伤害人类。这早就再次发生了,但从历史角度来看,我们的社会大致在南北更文明和可控。

因此,他指出,最重要的是看到更大的社会,把其他参加者和人们带回这个对话中。所以我们说只有全能的人工智能要求把一切摧毁到最后。这让我想起你的话题。

除了以你说话的水平反击人类,还有多样性、隐私、工人、法律变化、国际地缘政治等非常严峻的问题。指出现在解决问题的这些问题非常重要。

以人为本的人工智能主持人:我讨厌和人工智能研究者聊天。五年前,所有的人工智能研究者都说比你想象的要强。

现在他们说没有你想象的那么强。好的,让我们回答——李飞飞。这是因为五年前,你没有告诉我什么是人工智能。

现在你估计太多了。主持人:我不是说那是错误的。我只是说了这样的话。今天说说我们能做的事吧。

当我们考虑人工智能的风险和人工智能的好处时请告诉他我们应该使用人工智能思考的最重要的事情是什么。李飞飞:我们今天能做很多事。我想再谈谈在斯坦福大学的希望。

因为这是我们相信能达成很多希望的好代表。以人为本的人工智能,这是整体的主题,人工智能的下一章指出应该以人为中心,相信三个原则。其中一个原则是投资下一代人工智能技术,这种技术更好地体现了我们认为的人类智能。

我希望关于数据依赖的评论,以及数据的政策和管理在规范和管理人工智能的影响方面应该如何频繁出现。我们必须开发需要说明人工智能的技术。我们称之为可解释的人工智能或人工智能的可解释的研究。

我们应该把重点放在更复杂地解读人类智能的技术上。我们必须投资于开发不太依赖数据的人工智能技术,这将考虑直觉、科学知识、创造性和其他形式的人类智能。

所以人类智能唤起的人工智能是我们的原则之一。第二个原则是再次青睐人工智能的多学科研究。与经济学、伦理学、法学、哲学、历史学、认知科学等学科交叉。

因为在社会、人类、人类学和伦理影响方面,我们需要理解的还有很多。作为技术人员,我们不能把这个分开。我们有些人不应该这样做。

伦理学家和哲学家必须参加这些问题,与我们合作。这是第二个原则。在这方面,我们与政策制定者合作,开会多边利益攸关方的对话。还有第三点。

最后一点,但不是最重要的。尼克,你从对话一开始就说了。我们必须增进这项技术的人性、合作性和讨论性方面。

你说得有道理。即使在那里,也有可能看起来很有操作性。

但是,我们必须从这种警察的感觉、解读开始,但依然要增进这项技术希望的应用和设计。至少,这是斯坦福以人为本的人工智能研究所所基础的三项原则。我非常骄傲。这个研究所正式成立的短短几个月内,这个校园里就有200多名教师参加了这个研究、对话、自学和教育,而且这个数字还在迅速增加。

主持人:在这三项原则中,我们开始深入探讨吧。我们来看看第一个。我可以解释。

这是人工智能中非常有趣的讨论。有些实践者说应该有算法解释他们做了什么,他们做了什么。一起听很合理。

但是你是怎么做到的? 我提出了各种要求,但几乎无法说明正确性。比如,我为什么要雇这个人而不是那个人? 我可以告诉你我为什么这么做。

但是我不确认。如果我们太了解自己了,总是不能现实全面地说明我们在做什么,我们怎么能确信人工智能的电脑在做那个呢? 如果我们在西方拒绝它,世界上其他地方将拒绝谁需要更慢地行动。所以第一部分,如果我们自己很难解释的话,我们能解释吗? 李飞飞:是的,两个数字很难相加,但电脑说它可以。

所以对人类来说有困难并不意味着我们不应该让机器做。特别是,你说这些算法都是基于非常简单的数学逻辑。当然,我们现在处理的神经网络连接着数百万个节点和数十亿个。

所以说明实质上很难。这是正在开展的研究。

但他指出,这是一片贫瘠的土地。如果涉及医疗要求、财务要求和法律要求,这是非常重要的。在许多情况下,这项技术可能非常简单。如果有这样可解释的能力,我们必须试试。

我有自信,有很多聪明的头脑。这是更容易需要密码的事情。

最重要的是,如果我们有说明算法决策过程的技术,那就有不操作它或傻瓜的观点。是吧? 这是一个技术解决方案,而不是整个解决方案,有助于应对该技术在做什么。如果人工智能概率得到2000个潜在特征的维度,这是无法解读的,但人类文明史中的整个科学史需要更好地表现科学的结果。

北单竞彩app

是吧? 就像我刚做了一年身体检查一样,很多电话号码撞到了我的手机。首先,我的医生,专家可以协助我解释这些数字。现在,维基百科也有助于说明这些数字的一部分,表示这些数字的技术改良不会改良。

如果我们只是把200或2000维的概率数字扔给你,这就是我们作为技术专家的结束。AI算法种族歧视主持人:在我们结束这个话题之前,我想转到非常相关的问题上。

我指出这是最有趣的问题之一。那就是算法的种族歧视问题。这是你已经正确地说了。

让我们从金融系统中回忆起来。你可以想象算法被用来要求银行是否应该向一些人贷款。你也可以想象用种族歧视的历史数据训练。

我们想这样做。因此,让我们考虑一下如何保证这些数据不是种族歧视,让人们获得不分种族的贷款。

我们说的每个人都指出这是个好结果。分析过去的数据,假设女性比男性更有可能偿还债务贷款。我们要去除那个吗? 还是我们允许它不存在? 如果允许以后不存在的话,就不能得到更有效率的金融系统吗? 除去它,以前的男女之间的公平就不会再高了。

你想避免哪个种族歧视,能维持哪个种族歧视? 李飞飞:是的,这是个很好的问题,尼克。我的意思是个人得到答案,但我指出你确实看到了最重要的问题。

也就是说,首先,机器学习系统的种族歧视在现实中是不存在的。就像你说的,它从数据开始。从我们收集数据的那一刻,到我们收集数据的类型,到整个管道,都有可能到达应用程序。

但种族主义经常以非常复杂的方式出现。斯坦福大学有机器学习科学家的技术解决方案,研究种族歧视,包括偏移数据和正常化特定决策。但是,我们人文主义者也在讨论什么是种族主义,什么是公平,种族主义什么时候好,种族主义什么时候可怕。

所以,我指出你为了这个话题的研究,讨论和对话打开了终极话题。我想的是,你们已经使用了非常相关的例子,机器学习算法有可能暴露种族主义。是吧? 我最喜欢的研究之一是几年前的论文,分析好莱坞电影,用机器学习面部识别算法。

这是目前很有争议的技术,有系统地认识到好莱坞会给男演员比女演员更好的屏幕时间。没有人能躺在那里数所有面部的帧数。性种族主义是否存在是为机器学习而暴露的终极例子。

因此,总的来说,我们应该研究一系列非常丰富的问题,再次督促,将人文主义者、伦理学家、法律学家、性别研究专家纳入研究。主持人:表示同意。但在那篇文章公开发表之前,好莱坞说是性别歧视。

李飞飞:你是个聪明人。主持人:我来回答你吧。

因为三四个人回答了这个问题。人工智能的集中力可能会使数据和最坏的计算机更强大,而且无论是国内还是世界都可能加剧收益的不公平。就像你提到的国家,首先中美两国突然名列前茅,欧洲各国紧随其后,加拿大更差,但它们必须远远领先于中美洲。这种现象不会加剧全球收益的不公平。

a,你真的有可能吗? b,你有多担心? 李飞飞:我们多次注意到,在建立以人为本的人工智能社区和内部与外部人聊天的过程中,世界各地的企业和世界各国政府都有机会考虑他们的数据和人工智能战略。对公司和国家来说,让他们切实认识到这是他们国家、他们的地区、他们的企业向数字时代过渡的最重要的时刻,这种机会依然很多。我指出,当你提到这些潜在的危险性和尚未切实赶上世界数字变化的地方缺乏数据的时候,现在才是时间。

我们提高了这种意识,希望这种变化。“在共享和传播科学知识和技术方面非常开放的全球社区”的主持人:下一个问题是斯坦福大学的工作人员协助进一步推进、失败和制定数据殖民化进程。至少由斯坦福大学支持,试图建立基于虚拟世界的墙壁和人工智能的世界。

对于所有的学生,你期待他们是怎么看人工智能的? 你希望他们告诉我什么? 在最后十分钟讨论一下大家应该做什么吧。李飞飞:如果你是计算机科学或工程学的学生,我会选择Rob的课程。如果你是人文主义者,就上我的课。

我教的是深度自学。但是说真的,我想说的是斯坦福大学的学生。你们有很好的机会。

我们有把这项技术带回生活的骄傲历史。斯坦福大学处于人工智能诞生的最前线。事实上,我们的教授John McCarthy构建了人工智能一词,于1963年回到斯坦福大学,成立了这个国家最古老的人工智能研究所之一。从那以后,斯坦福大学的人工智能研究依然处于所有人工智能变革的前沿。

2019年,我们也站在了以人为中心的人工智能革命的最前线,或者我们正在写新的人工智能章节。过去60年来,我们为你们完成了这一切,为走出去的人们,为毕业成为实践者、领导和市民社会一部分的人们,这是我们的基础。

以人为中心的人工智能必须由下一代技术人员制作,这些技术人员阅读Rob这样的课程来考虑伦理意义、人类福利。也是由来自斯坦福大学人文学科和商学院的潜在未来决策者创建的。他们熟悉技术细节,他们解读了这项技术的意思,他们有能力和技术专家交流。

也就是说,不管我们是怎么同意还是不同意,最重要的是我们必须是这种多语言的领袖、思想家和实践者。这是斯坦福人工智能研究所的宗旨。

主持人:好的,飞起来,慢慢看几个问题。我们经常谈论来自大企业的自上而下的人工智能,我们应该如何设计个人的人工智能,加速我们的生活和事业? 我解释这个问题的是很多人工智能在大公司工作。

如果你想在小公司或个人中享受人工智能,可以吗? 李飞飞:首先,显然有很多投资、希望、资源投入了大公司的人工智能研究和研发,但并不是所有的人工智能都再次发生在那里。我想说学术界之后在人工智能的研究和发展中起着很大的作用,特别是在人工智能多年的探索中。学术界是什么? 学术界是由学生和教授组成的世界规模的网络,他们有不同的观点和非常独立的国家开展着创造性的思考。

所以从这个角度来看,这是人工智能研究中非常基础的希望,这个希望还在后面。中小企业和独立国家研究机构也发挥作用。

有很多可以用于公开发表的数据集。这是一个科学知识和技术方面非常对外开放的全球社区。

所以,是的。无论如何我们都希望全世界都参加。

主持人:太好了。这是我最喜欢的问题。出乎意料的是,这是匿名人送的。

如果我是八年级的话,我还必须自学吗? 李飞飞:作为妈妈,我会告诉他你是。回去写作业吧。主持人:飞,75分钟前,我们说了要得出结论。

你真的对我们有什么进展吗? 李飞飞:是的,召开了人文主义者和技术专家之间的对话。我想看更多这样的对话。主持人:太好了。

非常感谢你,谢谢你飞来飞去。录:本论文的编译器从WIRED版权文章中,发出许可禁令后刊登。以下,听取刊登的心得。


本文关键词:北单竞彩app

本文来源:北单竞彩app-www.ttnmw.com