博业体育年终重磅盘点2022 计算机科学领域发生了哪些大事?

  新闻资讯     |      2024-01-23 16:44

  博业体育年终重磅盘点2022 计算机科学领域发生了哪些大事?在今年,计算机科学家学会了完美传输秘密,Transformer的进步神速,在AI的帮助下,数十年历史的算法被大大改进……

  密码学的背后,往往是复杂的数学问题。曾经有一种非常有前途的新密码方案,被认为足以抵御来自量子计算机的攻击,然而,这个方案被「两条椭圆曲线的乘积及其与阿贝尔曲面的关系」这个数学问题推翻了。

  另外,人工智能一直与生物学相得益彰——事实上,生物学领域就是从人脑中汲取灵感,人脑也许是最终极的计算机博业体育

  长久以来,计算机科学家和神经科学家都希望了解大脑的工作原理,创造出类脑的人工智能,但这些似乎一直是白日梦。

  但不可思议的是,Transformer神经网络似乎可以像大脑一样处理信息。每当我们多了解一些Transformer的工作原理,就更了解大脑一些,反之亦然。

  甚至,AI还可以帮我们创造更好的AI,新的超网络(hypernetworks)可以帮助研究人员以更低的成本、用更快的速度训练神经网络,还能帮到其他领域的科学家。

  量子纠缠是一种将遥远的粒子紧密联系起来的特性,可以肯定的是,一个完全纠缠的系统是无法被完全描述的。

  不过物理学家认为,那些接近完全纠缠的系统会更容易描述。但计算机科学家则认为,这些系统同样不可能被计算出来,而这就是量子PCP(概率可检测证明,Probabilistically Checkable Proof)猜想。

  为了帮助证明量子PCP理论,科学家们提出了一个更简单的假设,被称为「非低能平凡态」(NLTS)猜想。

  今年6月,来自哈佛大学、伦敦大学学院和加州大学伯克利分校对三位计算机科学家,在一篇论文中首次实现了NLTS猜想的证明。

  这意味着存在可在更高的温度下保持纠缠态的量子系统,同时也表明,即使远离低温等极端情况,纠缠粒子系统仍然难以分析,难以计算基态能量。

  物理学家们很惊讶,因为这意味着纠缠不一定像他们想象的那样脆弱,而计算机科学家们很高兴离证明一个被称为量子PCP(概率可检测证明)定理的证明又近了一步。

  人们开发Transformer,是为了理解和生成语言。它可以实时处理输入数据中的每一个元素,让它们具有「大局观」。

  与其他采取零散方法的语言网络相比,这种「大局观」让Transformer的速度和准确性大大提高。

  这也使得它具有不可思议的通用性,其他的AI的研究人员,也把Transformer应用于自己的领域。

  Transformers迅速成为专注于分析和预测文本的单词识别等应用程序的领跑者。它引发了一波工具浪潮,例如 OpenAI的GPT-3,它训练数千亿个单词并生成一致的新文本,达到令人不安的程度。

  不过,跟非Transformer模型相比,这些好处是以Transformer更多的训练量为代价的。

  这些人脸是由基于Transformer的网络,在对超过20万张名人面孔的数据集进行训练后创建的

  在今年3月,研究Transformer工作原理的研究人员发现,它之所以如此强大,部分原因是它将更大的意义附加到词语上的能力,而不是简单的记忆模式。

  事实上,Transformer的适应性如此之强,神经科学家已经开始用基于Transformer的网络对人脑功能进行建模。

  量子计算的出现,让很多原本需要消耗超大计算量的问题都得到了解决,而经典加密算法的安全性也因此受到了威胁。于是,学界便提出了后量子密码的概念,来抵抗量子计算机的破解。

  然而就在今年7月,两位来自比利时鲁汶大学的研究人员发现,这个算法可以在短短1个小时内,用一台10年「高龄」的台式计算机被成功破解。

  值得注意的是,研究人员从纯数学的角度来解决这个问题,攻击算法设计的核心,而不是任何潜在的代码漏洞。

  对此,研究人员表示博业体育,只有当你能证明「单向函数」的存在时,才有可能创建一个可证明的安全代码,也就是一个永远不可能失败的代码。

  虽然现在仍然不知道它们是否存在,但研究人员认为,这个问题等同于另一个叫做Kolmogorov复杂性的问题。只有当某一版本的Kolmogorov复杂性难以计算时博业体育,单向函数和真正的密码学才有可能。

  它的速度很快,能够分析任何指定的网络,并迅速提供一组参数值,这些参数值和以传统方式训练的网络中的参数,一样有效。

  尽管GHN-2提供的参数可能不是最佳的,但它仍然提供了一个更理想的起点,减少了全面训练所需的时间和数据。

  无论是探索模拟世界的代理,还是真实世界中的机器人,这些系统拥有从根本上不同的学习方式,而且在许多情况下,这些方式比使用传统方法训练的系统更好。

  提高基础计算算法的效率一直都是学界热点,因为它会影响大量计算的整体速度,从而对智能计算领域产生多米诺骨牌式的效应。

  今年10月,DeepMind团队在发表于Nature上的论文中,提出了第一个用于为矩阵乘法等基本计算任务发现新颖、高效、正确算法的AI系统——AlphaTensor。

  矩阵乘法,作为矩阵变换的基础运算之一,是是许多计算任务的核心组成部分。其中涵盖了计算机图形、数字通信、神经网络训练和科学计算等等,而AlphaTensor发现的算法可以使这些领域的计算效率大大提升。

  今年3月,由六位计算机科学家组成的团队提出了一种「快得离谱」的算法,让计算机最古老的「最大流问题」获得了突破性的进展。

  新算法可在「几乎线性」的时间内解决这个问题,也就是说,其运行时间基本与记录网络细节所需的时间正比。

  最大流问题是一种组合最优化问题,讨论的是如何充分利用装置的能力使得运输的流量最大,进而取得最好的效果。

  在日常生活中,它在很多方面都有应用,如互联网数据流、航空公司调度,甚至包含将求职者与空缺职位进行匹配等等。

  作为论文的作者之一,来自耶鲁大学的Daniel Spielman表示,「我原本坚信,这个问题不可能存在如此高效的算法。」

  普林斯顿大学的理论计算机科学家Mark Braverman,花了一生中超过四分之一的时间,来研究交互式通信的新理论。

  他的工作使研究人员能够对「信息」和「知识」等术语进行量化,这不仅使人们在理论上对互动有了更多的了解,而且还创造了新的技术,使交流更加高效和准确。

  由于他的这一成就,以及其他成果,国际数盟今年7月授予Braverman IMU Abacus奖章,这是理论计算机科学领域的最高荣誉之一。

  IMU的颁奖词指出,Braverman对信息复杂性的贡献,使人们更深入地了解了当两方相互沟通时,信息成本的不同衡量标准。

  他的工作为不易受传输错误影响的新编码策略,以及在传输和操作过程中压缩数据的新方法,铺平了道路。

  信息复杂性问题,来自于Claude Shannon的开拓性工作——在1948年,他为一个人通过通道向另一个人发送消息,制定了数学框架。

  而Braverman最大的贡献在于,建立了一个广泛的框架,该框架阐明了描述交互式通信边界的通用规则——这些规则提出了在通过算法在线发送数据时,压缩和保护数据的新策略。

  「交互式压缩」问题可以这么理解:如果两个人交换一百万条短信,但只学习1,000位信息,交换是否可以压缩为1,000位守恒?

  而Braverman不仅破解了这些问题,他还引入了一种新的视角,使研究人员能够首先阐明它们,然后将它们翻译成数学的正式语言。