首页 >>  正文

全微分方程的判断方法

来源:baiyundou.net   日期:2024-09-28

Pine 萧箫 发自 凹非寺

量子位 | 公众号 QbitAI

困扰数学家百年的微分方程难题,被MIT解决了!

这个微分方程可以用来模拟神经元间通过突触的相互作用方式,换言之就是大脑传递信息的过程。现实生活中有诸多应用场景,比如自动驾驶、大脑和心脏的监测等。

然而,以前求解这个微分方程的过程比较复杂,计算量还会随着数据的增加而暴增——

模拟几个神经元之间的信息传递还好。但如果像人脑一样,有几百亿个神经元、几百万亿个突触呢?

现在,研究人员终于找到了这个微分方程的近似解析解,一下子将计算速度提升了好几倍。

要知道,论文第一作者表示,从1907年以来,就一直没有人能找到这个微分方程的解析解。

牵一发而动全身,论文第一作者还放话称:

数十亿个神经元和数万亿个突触组成的大脑动力学,我们现在也可以模拟了!

还有网友表示:

这将会改善神经网络对大规模数据计算的适应能力。点个赞!

相关论文已发表在最新一期的Nature MI上,立刻引发了不少关注:

到底是什么样的一个数学难题,能够让网友产生这样大的反应,一起来看看~

解决了一个什么样的难题?

这次MIT的突破,在于找到了两个神经元之间通过突触相互作用微分方程的近似解析解

突触,即一个神经元的冲动传到另一个神经元或另一细胞间的相互接触的结构。两个神经元之间神经冲动,则是由突触前末梢,传递给突触后神经元的。

要模拟神经元间通过突触相互作用的过程,就需要模拟传导的动作电位。

MIT研究人员先是用去年做出来的“液体”神经网络 (Liquid Time-constant Networks,简称LTC)模拟了这一现象。

如下图,x(t)就是研究希望求解的突触后神经元电位,但之前它需要通过直接求解微分方程来计算,也就是图中左边的一大堆方程:

BUT,他们很快发现,LTC神经网络模型虽然模拟得好,但常微分方程(ODE)计算还是不够快,通常需要结合ODE求解器来搞定。

即通过左边的一堆公式,虽然在给定时间t的情况下也能算出x(t)来,但它不仅算得慢,而且误差还会随着求解过程中的迭代计算一步步被放大。

但如果能求出x(t)的解析解,也就是求出等式右边不包含x(t)这个变量的公式,那么计算效率就能得到成倍的提升。

然而,求解这个常微分方程dv/dt=−glv(t)+S(t)的方法,从1907年提出以来还没有人求出过它的解析解。

在通过一番计算后,研究人员终于得出了这个微分方程的近似解析解,能很好地近似出x(t)的数值:

最关键的是解析解能“一步到位”地求出结果,研究人员表示这比正常求微分方程模型快上1~5倍。

依靠这个新的近似解析解,研究人员提出了一种名叫CfC (closed-form continuous-depth networks,闭式连续深度神经网络)的模型,进一步提升了计算效率、降低了微分方程求解带来的近似误差(approximation error)

求解出来与原微分方程的相似度也极高:

所以CfC的提出,究竟解决了什么问题?

作者:下一步建立大脑计算模型

提到CfC的作用,还得先说回它的基础,也就是MIT去年建立的“液体”神经网络(LTC)

△图源:MIT

当时“液体”神经网络的提出,是用于简化如视频处理、金融数据和医疗诊断这类与连续时间强相关的问题计算。

这类问题往往与时间的相关度很高(如股票、视频等变量会不停地随着时间产生变化),这也导致它们的变化情况难以预测,往往需要求解非常复杂的偏微分方程。

“液体”神经网络就是为了解决这一点出现的,确实也提升了这类场景的计算效率。

然而,建立“液体”神经网络的灵感虽然来自小物种的大脑,具有很强的灵活性和适应能力,不过计算量仍然不算低——

一旦增加神经元和突触的数量,计算机可能就因为数据计算量过大“撑不住”了。

这不,今年MIT就带着CfC神经网络来了!

与“Liquid”神经网络相比,CfC可谓去粗取精,它既保留了“Liquid”网络的灵活、因果、稳定和可解释性,同时数量级更快、可扩展性更高。

换句话说,就是CfC更快更强了,而这也意味着它能够适用于更多任务。

论文中的测试结果显示,CfC在一系列任务中表现都要优于SOTA神经网络。

比如说在一项医学预测任务中,对8000名患者进行抽样调查,新模型的速度要比连续潜伏模型快220倍。

其中,CfC在从运动传感器识别人类活动建立模拟步行机器人的物理动力学模型以及基于事件的连续图像处理方面具有相当高的加速度和性能。

而这对应到现实的实际应用,就是无人驾驶无人机导航或者各类预测任务

值得一提的是,据MIT消息,此前也已有证据证明,CfC神经网络能够在没有额外学习的情况下将所学技能迁移到一个全新的环境中,这恰恰是人工智能研究最基本的挑战之一。

(没错,CfC也是不容小觑的)

这一步研究团队解决了神经元之间如何相互作用的描述,那下一步准备干啥?他们立了个flag:

希望通过测量数百万个神经元连接,建立大脑动力学模型

论文的第一作者,同时也是MIT CSAIL研究所附属机构的Ramin Hasani也表示:

一旦我们对神经元和突触的联系有了一个解析解描述,我们就可以用数十亿个细胞建立大脑的计算模型了。

据神经学家估计,人脑神经元数量在1000亿个左右,不知道团队是否会挑战“模拟人类大脑”这一难题(手动狗头)

目前CfC模型已经开源,想要拿它用来模拟一些问题计算的小伙伴,可以去看看了~

CfC项目地址:

https://github.com/raminmh/CfC

论文地址:

https://www.nature.com/articles/s42256-022-00556-7

— 完 —

量子位 QbitAI · 头条号签约

","force_purephv":"0","gnid":"969535ff5b62f763e","img_data":[{"flag":2,"img":[{"desc":"","height":"324","title":"","url":"https://p0.ssl.img.360kuai.com/t01312dbef939933880.jpg","width":"1080"},{"desc":"","height":"272","title":"","url":"https://p0.ssl.img.360kuai.com/t0193bb957aca99c869.jpg","width":"1080"},{"desc":"","height":"170","title":"","url":"https://p0.ssl.img.360kuai.com/t01ae2aeddbe51d18bb.jpg","width":"1080"},{"desc":"","height":"1140","title":"","url":"https://p0.ssl.img.360kuai.com/t01fc662f867c7f4d9a.jpg","width":"1144"},{"desc":"","height":"260","title":"","url":"https://p0.ssl.img.360kuai.com/t01ac5dd4f371d124be.jpg","width":"1080"},{"desc":"","height":"340","title":"","url":"https://p0.ssl.img.360kuai.com/t01baafd61e2944fcb1.jpg","width":"1080"},{"desc":"","height":"122","title":"","url":"https://p0.ssl.img.360kuai.com/t0157b095bc3d70d813.jpg","width":"800"},{"desc":"","height":"559","title":"","url":"https://p0.ssl.img.360kuai.com/t014303359bf96f168f.jpg","width":"1080"},{"desc":"","height":"717","title":"","url":"https://p0.ssl.img.360kuai.com/t01262d92a73eaeefc6.jpg","width":"1080"},{"desc":"","height":"582","title":"","url":"https://p0.ssl.img.360kuai.com/t0173b0ecc44e170f3f.jpg","width":"1080"},{"desc":"","height":"912","title":"","url":"https://p0.ssl.img.360kuai.com/t010d0b485ad36b8720.jpg","width":"788"}]}],"original":0,"pat":"art_src_3,fts0,sts0","powerby":"hbase","pub_time":1668661740000,"pure":"","rawurl":"http://zm.news.so.com/b534363497790eb094d2111a77ffc42f","redirect":0,"rptid":"212dd5a2ec6ef358","s":"t","src":"量子位","tag":[{"clk":"kscience_1:mit","k":"mit","u":""}],"title":"百年微分方程难题被解决!作者:可以模拟大脑动力学了 | MIT

赖童芸1524常微分是什么?全微分又是什么? -
齐艳祁19663576211 ______ 常微分一般指常微分方程,是一门数学课程名,是相对于偏微分方程(数学物理方程)而言,专门研究只含一元函数的导数(微分)的方程.全微分是多元函数的先行主部,数值为各偏导数与各自增量乘积增量之和.例如z=f(x,y),dz=Z'xdx+Z'ydy

赖童芸1524如何判断一个微分方程是显式的还是隐式的,求举例 -
齐艳祁19663576211 ______ 书上应该有 f(x,y)dx=0为隐式 y=f(x)dx为显示 y=f(x)隐式通解 显式解就是y可以用x表达出来,比如y=x^3+x+C 隐式解就是没有一个x的表达式能写出y,比如 xsiny+x^2y^2+lny+C=0 像这个式子,你说 y=?没办法用x写出y

赖童芸1524常微分方程和偏微分方程有什么区别? -
齐艳祁19663576211 ______ 凡是表示未知函数的导数以及自变量之间的关系的方程,就叫做微分方程. 未知函数是一元函数的微分方程称作常微分方程. 常微分方程是微分方程的一部分,如果把二者看成集合的话,常微分方程是微分方程的真子集

赖童芸1524如何确定微分方程的阶数
齐艳祁19663576211 ______ 确定微分方程的阶数只需要看最高次导数即可.假如题中y'''就是最高次导数,求导次数为3.故此方程的阶数是3.所以一般最高次导数的右上方有几个撇就是几阶的.微分方程,是指含有未知函数及其导数的关系式.解微分方程就是找出未知函数,如dy/dx=2x、ds/dt=0.4都是微分方程. 一般的、凡是表示未知函数、未知函数的导数与自变量之间的关系的方程,叫做微分方程.

赖童芸1524判断下列方程代表什么曲线? -
齐艳祁19663576211 ______ 这个函数的意思是z的模等于z的实部加1 z的模等于 z的模 相当于解以下方程

赖童芸1524偏微分方程是说未知数是多元函数的微分方程,那么全微分方程属于偏微分方程吗?还是属于常微分方程?如题... -
齐艳祁19663576211 ______[答案] 偏微分方程的未知量肯定是大于或等于2个.这样才有对于其中的某一个变量的偏微分. 而全微分的变量只有一个

赖童芸1524微分方程的解答有什么技巧? -
齐艳祁19663576211 ______ 一阶微分方程 如果式子可以导成y'+P(x)y=Q(x)的形式,利用公式y=[∫Q(x)e^(∫P(x)dx)+C]e^(-∫P(x)dx)求解 若式子可变形为y'=f(y/x)的形式,设y/x=u 利用公式du/(f(u)-u)=dx/x求解 若式子可整理为dy/f(y)=dx/g(x)的形式,用分离系数法,两边积分求解 二...

赖童芸1524阶数怎么判断
齐艳祁19663576211 ______ 判断方法:微分方程中所出现的未知数的最高阶导数的阶数.微分方程,是指含有未知函数及其导数的关系式.解微分方程就是找出未知函数.微分方程是伴随着微积分学一起发展起来的.微分在数学中的定义:由函数B=f(A),得到A、B两个数集,在A中当dx靠近自己时,函数在dx处的极限叫作函数在dx处的微分,微分的中心思想是无穷分割.微分是函数改变量的线性主要部分.微积分的基本概念之一.

赖童芸1524如何判断微分方程是否可解 -
齐艳祁19663576211 ______ 微分方程有很多种,每种都有各自的解法.解的时候先判断属于哪一种类型,然后用对应的方法解就能解决.没有固定的办法判断所有的微分方程是否可解.

(编辑:自媒体)
关于我们 | 客户服务 | 服务条款 | 联系我们 | 免责声明 | 网站地图 @ 白云都 2024