首页 >>  正文

微分方程公式总结

来源:baiyundou.net   日期:2024-09-28

Pine 萧箫 发自 凹非寺

量子位 | 公众号 QbitAI

困扰数学家百年的微分方程难题,被MIT解决了!

这个微分方程可以用来模拟神经元间通过突触的相互作用方式,换言之就是大脑传递信息的过程。现实生活中有诸多应用场景,比如自动驾驶、大脑和心脏的监测等。

然而,以前求解这个微分方程的过程比较复杂,计算量还会随着数据的增加而暴增——

模拟几个神经元之间的信息传递还好。但如果像人脑一样,有几百亿个神经元、几百万亿个突触呢?

现在,研究人员终于找到了这个微分方程的近似解析解,一下子将计算速度提升了好几倍。

要知道,论文第一作者表示,从1907年以来,就一直没有人能找到这个微分方程的解析解。

牵一发而动全身,论文第一作者还放话称:

数十亿个神经元和数万亿个突触组成的大脑动力学,我们现在也可以模拟了!

还有网友表示:

这将会改善神经网络对大规模数据计算的适应能力。点个赞!

相关论文已发表在最新一期的Nature MI上,立刻引发了不少关注:

到底是什么样的一个数学难题,能够让网友产生这样大的反应,一起来看看~

解决了一个什么样的难题?

这次MIT的突破,在于找到了两个神经元之间通过突触相互作用微分方程的近似解析解

突触,即一个神经元的冲动传到另一个神经元或另一细胞间的相互接触的结构。两个神经元之间神经冲动,则是由突触前末梢,传递给突触后神经元的。

要模拟神经元间通过突触相互作用的过程,就需要模拟传导的动作电位。

MIT研究人员先是用去年做出来的“液体”神经网络 (Liquid Time-constant Networks,简称LTC)模拟了这一现象。

如下图,x(t)就是研究希望求解的突触后神经元电位,但之前它需要通过直接求解微分方程来计算,也就是图中左边的一大堆方程:

BUT,他们很快发现,LTC神经网络模型虽然模拟得好,但常微分方程(ODE)计算还是不够快,通常需要结合ODE求解器来搞定。

即通过左边的一堆公式,虽然在给定时间t的情况下也能算出x(t)来,但它不仅算得慢,而且误差还会随着求解过程中的迭代计算一步步被放大。

但如果能求出x(t)的解析解,也就是求出等式右边不包含x(t)这个变量的公式,那么计算效率就能得到成倍的提升。

然而,求解这个常微分方程dv/dt=−glv(t)+S(t)的方法,从1907年提出以来还没有人求出过它的解析解。

在通过一番计算后,研究人员终于得出了这个微分方程的近似解析解,能很好地近似出x(t)的数值:

最关键的是解析解能“一步到位”地求出结果,研究人员表示这比正常求微分方程模型快上1~5倍。

依靠这个新的近似解析解,研究人员提出了一种名叫CfC (closed-form continuous-depth networks,闭式连续深度神经网络)的模型,进一步提升了计算效率、降低了微分方程求解带来的近似误差(approximation error)

求解出来与原微分方程的相似度也极高:

所以CfC的提出,究竟解决了什么问题?

作者:下一步建立大脑计算模型

提到CfC的作用,还得先说回它的基础,也就是MIT去年建立的“液体”神经网络(LTC)

△图源:MIT

当时“液体”神经网络的提出,是用于简化如视频处理、金融数据和医疗诊断这类与连续时间强相关的问题计算。

这类问题往往与时间的相关度很高(如股票、视频等变量会不停地随着时间产生变化),这也导致它们的变化情况难以预测,往往需要求解非常复杂的偏微分方程。

“液体”神经网络就是为了解决这一点出现的,确实也提升了这类场景的计算效率。

然而,建立“液体”神经网络的灵感虽然来自小物种的大脑,具有很强的灵活性和适应能力,不过计算量仍然不算低——

一旦增加神经元和突触的数量,计算机可能就因为数据计算量过大“撑不住”了。

这不,今年MIT就带着CfC神经网络来了!

与“Liquid”神经网络相比,CfC可谓去粗取精,它既保留了“Liquid”网络的灵活、因果、稳定和可解释性,同时数量级更快、可扩展性更高。

换句话说,就是CfC更快更强了,而这也意味着它能够适用于更多任务。

论文中的测试结果显示,CfC在一系列任务中表现都要优于SOTA神经网络。

比如说在一项医学预测任务中,对8000名患者进行抽样调查,新模型的速度要比连续潜伏模型快220倍。

其中,CfC在从运动传感器识别人类活动建立模拟步行机器人的物理动力学模型以及基于事件的连续图像处理方面具有相当高的加速度和性能。

而这对应到现实的实际应用,就是无人驾驶无人机导航或者各类预测任务

值得一提的是,据MIT消息,此前也已有证据证明,CfC神经网络能够在没有额外学习的情况下将所学技能迁移到一个全新的环境中,这恰恰是人工智能研究最基本的挑战之一。

(没错,CfC也是不容小觑的)

这一步研究团队解决了神经元之间如何相互作用的描述,那下一步准备干啥?他们立了个flag:

希望通过测量数百万个神经元连接,建立大脑动力学模型

论文的第一作者,同时也是MIT CSAIL研究所附属机构的Ramin Hasani也表示:

一旦我们对神经元和突触的联系有了一个解析解描述,我们就可以用数十亿个细胞建立大脑的计算模型了。

据神经学家估计,人脑神经元数量在1000亿个左右,不知道团队是否会挑战“模拟人类大脑”这一难题(手动狗头)

目前CfC模型已经开源,想要拿它用来模拟一些问题计算的小伙伴,可以去看看了~

CfC项目地址:

https://github.com/raminmh/CfC

论文地址:

https://www.nature.com/articles/s42256-022-00556-7

— 完 —

量子位 QbitAI · 头条号签约

","force_purephv":"0","gnid":"969535ff5b62f763e","img_data":[{"flag":2,"img":[{"desc":"","height":"324","title":"","url":"https://p0.ssl.img.360kuai.com/t01312dbef939933880.jpg","width":"1080"},{"desc":"","height":"272","title":"","url":"https://p0.ssl.img.360kuai.com/t0193bb957aca99c869.jpg","width":"1080"},{"desc":"","height":"170","title":"","url":"https://p0.ssl.img.360kuai.com/t01ae2aeddbe51d18bb.jpg","width":"1080"},{"desc":"","height":"1140","title":"","url":"https://p0.ssl.img.360kuai.com/t01fc662f867c7f4d9a.jpg","width":"1144"},{"desc":"","height":"260","title":"","url":"https://p0.ssl.img.360kuai.com/t01ac5dd4f371d124be.jpg","width":"1080"},{"desc":"","height":"340","title":"","url":"https://p0.ssl.img.360kuai.com/t01baafd61e2944fcb1.jpg","width":"1080"},{"desc":"","height":"122","title":"","url":"https://p0.ssl.img.360kuai.com/t0157b095bc3d70d813.jpg","width":"800"},{"desc":"","height":"559","title":"","url":"https://p0.ssl.img.360kuai.com/t014303359bf96f168f.jpg","width":"1080"},{"desc":"","height":"717","title":"","url":"https://p0.ssl.img.360kuai.com/t01262d92a73eaeefc6.jpg","width":"1080"},{"desc":"","height":"582","title":"","url":"https://p0.ssl.img.360kuai.com/t0173b0ecc44e170f3f.jpg","width":"1080"},{"desc":"","height":"912","title":"","url":"https://p0.ssl.img.360kuai.com/t010d0b485ad36b8720.jpg","width":"788"}]}],"original":0,"pat":"art_src_3,fts0,sts0","powerby":"hbase","pub_time":1668661740000,"pure":"","rawurl":"http://zm.news.so.com/b534363497790eb094d2111a77ffc42f","redirect":0,"rptid":"212dd5a2ec6ef358","s":"t","src":"量子位","tag":[{"clk":"kscience_1:mit","k":"mit","u":""}],"title":"百年微分方程难题被解决!作者:可以模拟大脑动力学了 | MIT

边妻峡700线性微分方程式 -
屠贡印15650786605 ______ y''+xy'+3y=x^2 不是常数的线性为微分方程 因为y'的系数是x

边妻峡700微分方程的解答有什么技巧? -
屠贡印15650786605 ______ 一阶微分方程 如果式子可以导成y'+P(x)y=Q(x)的形式,利用公式y=[∫Q(x)e^(∫P(x)dx)+C]e^(-∫P(x)dx)求解 若式子可变形为y'=f(y/x)的形式,设y/x=u 利用公式du/(f(u)-u)=dx/x求解 若式子可整理为dy/f(y)=dx/g(x)的形式,用分离系数法,两边积分求解 二...

边妻峡700一阶线性微分方程的公式y=e的负px的积分乘括号里qx乘e的px的积分 的积分 -
屠贡印15650786605 ______ y"+y=x+e^x特征方程为r²+1=0,得r=i,-i令特解y*=Ax+B+Ce^x代入方程得:Ce^x+Ax+B+Ce^x=x+e^x即Ax+B+2Ce^x=x+e^x得A=1,B=0,2C=1故A=1,B=0,C=0.5通解y=C1cosx+C2sinx+x+0.5e^x

边妻峡700高等数学上下册的主要公式 -
屠贡印15650786605 ______ 高等数学公式 导数公式: 基本积分表: 三角函数的有理式积分: 一些初等函数: 两个重要极限: 三角函数公式: ·诱导公式: 函数 角A sin cos tg ctg -α -sinα cosα -tgα -ctgα 90°-α cosα sinα ctgα tgα 90°+α cosα -sinα -ctgα -tgα 180°-α sinα ...

边妻峡700高数公式都有哪些 -
屠贡印15650786605 ______ 你是准备考研吧,我也准备考研,收集了高数公式因为这里回答的字数限制~~不好写完导数公式;基本积分表;三角函数的有理式积分;一些初等函数: 两个重要极限三角函数公式;三角函数公式;倍角公式;半角公式;高阶导数公式——莱...

边妻峡700怎么解微分方程 -
屠贡印15650786605 ______ 解微分方程是比较复杂的问题 首先尽可能进行变量分离 即f(x)dx=g(y)dy 然后积分得到结果 或者一阶线性微分方程 y'+p(x)y=q(x) 这个套用公式即可

边妻峡700高二数学的所有公式 -
屠贡印15650786605 ______ 116定理 一条弧所对的圆周角等于它所对的圆心角的一半 117推论1 同弧或等弧所对的圆周角相等;同圆或等圆中,相等的圆周角所对的弧也相等 118推论2 半圆(或直径)所对的圆周角是直角;90°的圆周角所 对的弦是直径 119推论3 如果三角...

边妻峡700高数,微分方程,求大神 -
屠贡印15650786605 ______ D,方程是齐次微分方程,令u=y/x,方程化为u+x*du/dx=u+1/cosu,所以cosudu=dx/x,所以sinu=ln|x|+C,原微分方程的通解是sin(y/x)=ln|x|+C.A,微分方程化为dx/dy+(1-2y)/y^2*x=1,是一阶非齐次线性方程,由通解公式得x=y^2+Cy^2e^(1/y).另外y=0也是解.

边妻峡700常微分方程,偏微分方程,全微分方程各是什么,有什么区别? -
屠贡印15650786605 ______ 常微分方程:解得的未知函数是一元函数的微分方程. 偏微分方程:解得的未知函数是多元函数的微分方程. 全微分方程:一个一阶微分方程写成P(x,y)dx+Q(x,y)dy=0的形式后,它的左端恰好是某个函数u=u(x,y)的全微分,则该微分方程叫全微分方程.

(编辑:自媒体)
关于我们 | 客户服务 | 服务条款 | 联系我们 | 免责声明 | 网站地图 @ 白云都 2024