深度人工神经网络模拟单个皮层神经元1

重点

1.皮层神经元很好地近似于一个深度神经元具有 5-8 层的网络 (DNN)

2.DNN 的深度来自于 NMDA 之间的交互受体和树突形态

3.树突分支可以概念化为一组时空模式检测器

4.提供了一种统一的方法来评估计算任何神经元类型的复杂性

简要总结

利用机器学习的最新进展,我们引入了一种系统方法来表征神经元的输入/输出 (I/O) 映射复杂性。训练深度神经网络 (DNN) 以在毫秒(尖峰)分辨率下忠实地复制皮层神经元的各种生物物理模型的 I/O 功能。需要一个具有五到八层的时间卷积 DNN 来捕获第 5 层皮质锥体细胞 (L5PC) 的真实模型的 I/O 映射。当在训练分布范围之外广泛呈现输入时,该 DNN 可以很好地泛化。当 NMDA 受体被移除时,一个更简单的网络(具有一个隐藏层的完全连接的神经网络)足以拟合模型。对 DNN 的权重矩阵的分析表明,树突分支中的突触整合可以概念化为来自一组时空模板的模式匹配。这项研究提供了单个神经元计算复杂性的统一表征,并表明皮层网络因此具有独特的架构,可能支持其计算能力。


第一节

神经元是大脑的计算构建块。因此,自 Ramon y Cajal 的“神经元学说”以来,了解它们的输入/输出 (I/O) 转换一直是神经科学的一项主要任务。随着最近复杂的遗传、光学和电学技术的发展,很明显,许多关键神经元类型(例如,皮质和海马锥体神经元、小脑浦肯野细胞)是高度复杂的 I/O 信息处理设备。它们通过精心设计的树突分支接收到成千上万的突触输入;这些输入与大量的局部非线性再生过程相互作用,包括反向传播(Na+ 依赖性)动作电位(Stuart 和 Sakmann,1994)、多个局部树突状 NMDA 依赖性尖峰(Schiller 等人,2000;Polsky 等人) al., 2004; Branco et al., 2010; Kastellakis et al., 2015),以及第 5 层 (L5) 皮质锥体神经元顶端树突处的大而长的 Ca2+ 尖峰(Schiller et al., 1997; Larkum 等人)等人,1999)。

输入突触与这些局部非线性树突特性相互作用,最终在神经元的轴突中产生一系列输出尖峰,携带通过突触传递给数千个其他(突触后)神经元的信息。事实上,由于其固有的非线性机制,神经元可以实现高度复杂的 I/O 功能(Bar-Ilan 等人,2013;Behabadi 和 Mel,2014;Caze´ 等人,2013;Doron 等人,2017 ;Hausser 和 Mel,2003 欧元;Hawkins 和 Ahmad,2016;Katz 等人,2009;Koch 和 Segev,2014;Koch 等人,1982;London 和 Hausser,2005;Mel,1992;Moldwin 和 Segev,2018; Poirazi 等人,2003b,2003a;Shepherd 等人,1985;Tzilivaki 等人,2019;Zador 等人,1991;参见 Gidon 等人最近关于人类皮层神经元非线性树突计算的工作,2020)。研究神经元 I/O 关系的经典方法是构建一个简化模型,省略了它们的许多详细生物学机制。这些模型对神经元的 I/O 特征进行了高度简化的现象学抽象(Lapicque,1907;McCulloch 和 Pitts,1943)。

一种这样的抽象是“感知器”(Rosenblatt,1958),它是迄今为止一些最先进的模式识别技术的核心(LeCun 等人,2015)。然而,感知器的基本功能,即其输入的线性求和和输出生成的阈值,忽略了非线性突触整合过程和输出的时间特性,这些过程发生在真实的神经元中。最近的一些建模研究已经解决了这一差距(Gutig 和 Sompolinsky,2006;Poirazi 等人,2003a;Polsky 等人,2004;Ujfalussy 等人,2018),但要么没有考虑完全多样化的突触输入分布在整个非线性树突树或不旨在以输出尖峰的毫秒时间精度捕获神经元的 I/O 转换。 Jolivet 等人尝试预测神经元响应体细胞输入电流/电导而不是树突突触输入的尖峰活动。 (2008 年)和 Naud 等人。 (2014),并尝试预测神经元响应自然图像的尖峰活动可以在 Cadena 等人中找到。 (2019)和济慈等人。 (2001 年)。研究神经元 I/O 特性的另一种常用方法是通过一组偏微分方程,使用 Rall 引入的电缆和隔室建模方法来模拟神经元的精细电学和解剖学细节(Rall,1959,1964;塞格夫和拉尔,1988 年)。使用这些模型,可以解释几乎所有上述实验现象并探索当前实验技术无法获得的条件。虽然这是迄今为止解释神经元中完整 I/O 转换的唯一方法,但这种成功是有代价的。隔室模型和电缆模型由耦合非线性微分方程的高维系统组成,众所周知,这很难理解(Strogatz,2001)。具体来说,从如此详细的模拟中提取控制数千个突触输入转换为以毫秒精度的脉冲输出序列的一般原则是一项艰巨的任务(但请参见 Amsalem 等人,2020;Larkum 等人,2009; Magee 和 Johnston,1995;Rapp 等人,1992;Schiller 等人,2000;Spruston 等人,1995;Stuart 和 Sakmann,1994;Stuart 等人,1997;Wybo 等人,2021)。

在这里,我们提出了一种利用机器学习领域的最新进展来研究神经元作为复杂 I/O 信息处理单元的新方法。具体来说,在这种情况下,我们利用深度神经网络 (DNN) 的能力来学习非常复杂的 I/O 映射,即神经元的映射。为此,我们训练了具有丰富的空间和时间突触输入模式的 DNN,以模仿具有完全复杂性的 L5 皮质锥体神经元模型的 I/O 行为,包括其精细的树突形态、高度非线性的局部树突膜特性和轰炸神经元的大量兴奋性和抑制性输入。因此,我们获得了一个计算效率很高的 DNN 模型,该模型忠实地预测了该神经元在毫秒(尖峰)时间分辨率下的输出。然后,我们分析了 DNN 的权重矩阵,以深入了解塑造皮层神经元 I/O 功能的机制。通过系统地改变 DNN 大小,这种方法使我们能够表征单个生物神经元的功能复杂性,确定这种复杂性的基于离子通道和形态学的起源,并检查所得 DNN 对突触输入的普遍性不在训练集分布范围内。我们证明了皮质锥体神经元及其形成的网络在计算上可能比以前假设的更强大和“更深”。



©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 205,132评论 6 478
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 87,802评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 151,566评论 0 338
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,858评论 1 277
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,867评论 5 368
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,695评论 1 282
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,064评论 3 399
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,705评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 42,915评论 1 300
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,677评论 2 323
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,796评论 1 333
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,432评论 4 322
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,041评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,992评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,223评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,185评论 2 352
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,535评论 2 343

推荐阅读更多精彩内容