丁香成人网
你的位置:丁香成人网 > 萝莉 胜利女神:nikke >
大沢佑香种子 物理诺奖得主最新演讲,Hinton带伤飞到瑞典,LSTM之父:齐是剽窃
发布日期:2024-12-12 14:24    点击次数:139

大沢佑香种子 物理诺奖得主最新演讲,Hinton带伤飞到瑞典,LSTM之父:齐是剽窃

2024 年诺贝尔物理学奖的两位获奖者 John Hopfield 和 Geoffrey Hinton 最近在斯德哥尔摩大学发表了最新的演讲大沢佑香种子。

现场的氛围十分激烈!

看到 Hopfield 进修即使借助手杖也躬行到达现场发表了演讲,Hinton 进修也忍着腰痛专程飞到瑞典,让不雅众们十分敬佩。

在此次活动中,John Hopfield 进修的演讲主题是"物理学是一种不雅点",敷陈他个东谈主的科研履历和作念科研的想考模式。

他直露了好多对于科研和对物理的想法:

如何选拔问题是科研效果的关节身分

大脑是如何产生想想的,这对我来说是东谈主类最精深的问题

我认为物理学有助于结合东谈主类和寰宇

Geoffrey Hinton 进修则用通俗明了的方式敷陈了Hopfield 网络和玻尔兹曼机器的旨趣与发展,全程莫得用一个方程式。

当咱们最终了解了大脑是如何学习的时辰,我确信寝息的作用一定辱骂常艰苦的,对此我十分乐不雅

两位进修罢休演讲时,台下的不雅众亦然忍不住齐站起来向他们饱读掌问候。

以下是现场演讲实践,在不更正本旨的情况下,量子位对部分篇幅作念了休养。

John Hopfield:物理学是一种不雅点

约翰 · 霍普菲尔德于 1933 年出身于芝加哥,1954 年在威廉 · 莫尔学院获取第一个学位,1958 年在康奈尔大学获取博士学位。1964 年,他被任命为普林斯顿大学物理学进修,1980 年景为加州理工学院化学和生物学进修,之后他回到普林斯顿大学,现在是分子生物学名誉进修。

(以下为 John Hopfield 进修发言)

我的第一份全员职责是在比尔电话公司发明晶体管的实验室,我加入了一个六东谈主小组。初入实验室时,我在新办公室掀开书本期刊,参不雅库存室获取文具后,想考着下一步职责。

在科研中,多半东谈主常奉公称职,很少深远想检修究标的的选拔,而这正是科研效果的关节身分。我在科研中撰写了 40 余篇论文,几年前造成的职责基础最终发展成霍普菲尔德模子,有关不雅点源于对随即事件的分析。

我成长于物理学家家庭,自幼受物理学不雅念教授,心爱探索事物旨趣,如拆解自行车、进行化学实验等,这让我大略结合复杂系统运作。上高中时,化学老非憨厚常出色,物理憨厚却对电磁学旨趣结合不及,这影响了我大学专科选拔,但最终我决定在斯沃斯莫尔学院专注物理。

插足物理学究诘生院后,我在康奈尔大学学习,时间与 Albert Overhauser 合营,从他的究诘列表中采选晶体中激子放射寿命有关问题,开启究诘。获取博士学位后,我在表面小组任职,后褂讪化学家 David G. Thomas,成立表面实验定约,取得效果并获奥利弗里 · 巴克利固体物理学奖。

之后,我在究诘中遭受瓶颈,赶赴剑桥大学寻找新标的,回普林斯顿后担任半导体组照应人,斗争到血红卵白有关实验,为我从凝华态物理转向生物物理提供机会,我也受 Linus Pauling 不雅点启发究诘卵白质合成问题并取得效果。

1974 年论文影响我对生物常识题的究诘想路,促使我想考神经元网络特色等。1977 年在哥本哈根举办研讨会后,我寻求跨学科打破,受邀参加神经科学会议,固然其时一无所知,其后加入样式获取神经生物学灵感。

1979 年,我转任化学和生物学进修,发现了学科关连,提议新狡计观点并撰写论文,该论文鼓吹了有关领域发展。

其后,我发现霍普菲尔德模子网络问题,2015 年与他东谈主合营提议密集假想挂牵模子,渴望鼓吹东谈主工智能发展。

我十分尊重各个领域的各人,积极参与跨学科互动,我认为物理学有助于结合东谈主类与寰宇。

Hinton:Hopfield 网络与 Boltzmann 机的发展

杰弗里 · 辛顿,1947 年生于英国伦敦,获剑桥大学实验激情学博士学位,曾在爱丁堡大学从事东谈主工智能博士后究诘,在多所大学任职,现从事学术究诘,并在谷歌公司任职。

(以下为 Geoffrey Hinton 进修发言)

今天我将无谓任何方程式,向粗鄙不雅众进修 Hopfield 网络。

先来看一个二元神经元版块的小霍普菲尔德网络,其神经元间有对称加权结合,网络全局情景是建树,建树有优良性(单位对权重总数),能量是优良性相背数,网络中闲适于能量最小值。

霍普菲尔德提议用能量最小值对应挂牵,通过二元有野心方法计帐不完竣挂牵,完了实践可寻址内存。

特里 · 西诺斯基和我提议用网络构建感官输入证明,网络含可见和避讳神经元,可见汲取感官输入(如二进制图像),避讳构建证明,能量代表证明强横进程,咱们需要拙劣量证明。

以线条画为例,有不同三维证明,咱们要让网络给出证明。

先将线条鼎新为线条神经元激活,线条神经元与三维边际神经元结合,研究感知光学身分让边际神经元互相羁系,还要依据图像线条结合原则建造结合,但愿通过成立结合强度使网络管制两种替代证明。

这产生两个问题:一是幸免堕入局部最优的搜索问题;二是神经网络自动学习结合的问题。

对于搜索问题,咱们通过使神经元有噪声管制,有噪声神经元情景是二元的但有野心具有概蹂躏。

用避讳神经元证明二进制图像时,在可见单位固定图像,随即选避讳神经元阐发输入决定其情景,抓续操作使系统达热均衡,此时避讳神经元情景是均衡证明,网络学习正确权重使拙劣量情景对应更好的证明,热均衡是系统闲适于概率漫衍(波尔兹曼漫衍),拙劣量建树概率大。

玻尔兹曼机学习办法是使网络生成的图像近似它感知到的简直图像,有通俗学习算法,含叫醒和寝息阶段。

叫醒阶段固定图像于可见单位,让避讳单位达热均衡后休养结合权重,寝息阶段近似作念梦更新神经元达热均衡后反向休养权重,该算法平均上能让网络生成图像流程近似感知图像,触及对数似然梯度主意,通过更正权重使网络祥和 wake 阶段看到的数据。

但玻尔兹曼机存在问题,权重变大时热均衡流程慢,固然想法很好但算法太通俗,不错作念复杂的事情但速率受限。

其后我发现了受限玻尔兹曼机(RBM),其避讳单位不互相结合,叫醒阶段更新避讳神经元更通俗,寝息阶段有捷径虽不扫数正确但执行有用。Netflix 公司即是用受限玻尔兹曼机联结其他设施保举电影。

四房色播

为构建特征检测器层可堆叠 RBM,将前一个 RBM 避讳单位活动模式当数据给下一个 RBM,以此捕捉复杂有关性学习多组权重,堆叠后视为前馈网络可进行监督学习,这么运鼎新网络学习更快。因为网络已学习了数据结构,背面用于学事物称呼相对容易,如识别物体方面。

One More Thing

就在演讲视频发布不久后,你懂的,LSTM之父又来搞事情了。

有名狡计机科学家J ü rgen Schmidhuber发表推文称,Hopfield & Hinton 的 2024 年诺贝尔物理学奖是抄袭得来的。

J ü rgen 宣称,这两位进修重新发表了乌克兰究诘者 Ivakhnenko 和日本究诘者 Amari 在 20 世纪 60 年代和 1970 年代开拓的设施以过头他本事,且莫得援用原作家。

现在这一帖子在 X 上如故获取了 2.1k 点赞、跨越 44 万次浏览。

有网友示意若是事情是确实,那将比剽窃更灾祸:

不外也有网友合计这是 J ü rgen 吃不到葡萄就说葡萄酸的激情:

J ü rgen 还发表了一个详备的本事答复,列出了两位诺贝尔获奖者职责的存疑之处,感兴味的一又友不错点击参考贯串 2 进一步阅读。

参考贯串:

[ 1 ] https://www.youtube.com/watch?v=lPIVl5eBPh8

[ 2 ] https://people.idsia.ch/~juergen/physics-nobel-2024-plagiarism.html#DLP

—  完  —

点这里� � 祥和我,记起标星哦~

一键三连「共享」、「点赞」和「在看」

科技前沿发扬日日再见 ~