澎湃新闻记者邵文 当下，深度神经网络应用越来越广泛，帮助设计微芯片，预测蛋白质折叠，并在复杂游戏中胜过人类，性能越来越强大。但也有大量证据证明，它们通常是不稳定的。一个非常明显的表现是，深度神经网络接收到的数据的微小变化，就可能会导致结果的巨大变化。 例如《Onepixelattackforfoolingdeepneuralnetworks》研究中所揭示的，改变图像上的一个像素，AI就把马识别成青蛙。哈佛医学院计算机科学家和生物医学信息学家SamuelFinlayson也曾发现，医学影像可以以人眼无法察觉的方式进行修改，然后导致人工智能100地误诊癌症。 在以前的研究中，有数学证据表明，存在用于解决各种问题的稳定、准确的神经网络。然而最近剑桥大学和奥斯陆大学的研究人员发现，这些人工智能系统可能仅在有限的情况下是稳定和准确的。理论上存在的兼具稳定性和准确性的神经网络，可能无法准确描述现实中可能发生的事情。 从理论上讲，神经网络的限制很少。英国剑桥大学的数学家MatthewColbrook说。然而当试图计算这些神经网络时，问题就出现了。 数字计算机只能计算某些特定的神经网络，挪威奥斯陆大学的数学家VegardAntun认为，有时计算一个理想的神经网络是不可能的。 这样的表述可能听起来令人困惑，《IEEESpectrum》在谈论这项研究时以蛋糕做比喻，好像有人说可能存在一种蛋糕，但不存在制作它的配方。 我们会说问题不在于配方。相反，问题在于制作蛋糕所必须的工具。剑桥大学的数学家AndersHansen说，我们说可能有蛋糕的配方，但无论你有什么搅拌机，你都可能无法制作出想要的蛋糕。此外，当你尝试在厨房用搅拌机制作蛋糕时，你会得到一个完全不同的蛋糕。 依此，继续进行类比，甚至在你尝试之前无法判断蛋糕是否不正确，然后为时已晚。Colbrook说，然而，在某些情况下，你的搅拌机足以制作你想要的蛋糕，或者至少可以很好地近似于该蛋糕。 这些关于神经网络局限性的新发现与数学家KurtGdel和计算机科学家AlanTuring关于计算局限性的先前研究相呼应。粗略地说，他们揭示了有些数学陈述永远无法被证明或反驳，还有一些基本的计算问题是计算机无法解决的。Antun表示。 此项研究以《计算稳定准确的神经网络的难点：关于深度学习的障碍和Smale的第18个问题》（Thedifficultyofcomputingstableandaccurateneuralnetworks：OnthebarriersofdeeplearningandSmale’s18thproblem）为题，于3月16日发布在《美国国家科学院院刊》上。 在人工神经网络中，被称为神经元的组件被输入数据并协作解决问题，例如识别图像。神经网络反复调整各个神经元之间的联系，并查看由此产生的行为模式是否能更好地找到解决方案。随着时间推移，网络会发现哪些模式最适合计算结果。然后它采用这些作为默认值，模仿人脑中的学习过程。如果一个神经网络拥有多层神经元，它就被称为深度。 在以前的研究中，有数学证据表明，存在用于解决各种问题的稳定、准确的神经网络。然而，在这项新的研究中，研究人员现在发现，尽管理论上可能存在稳定、准确的神经网络来解决许多问题，但矛盾的是，实际上可能没有算法能够成功地计算它们。 这项新研究发现，无论算法可以访问多少数据或该数据的准确性，算法都可能无法针对给定问题计算出稳定、准确的神经网络。Hansen表示，这类似于图灵的论点，即无论计算能力和运行时间如何，计算机都可能无法解决一些问题。 计算机可以实现的功能存在固有的限制，这些限制也会出现在AI中，Colbrook表示，这意味着理论上存在的具有良好特性的神经网络，可能无法准确描述现实中可能发生的事情。 这些新发现并不表明所有神经网络都存在完全缺陷，但它们可能仅在有限的情况下是稳定和准确的。在某些情况下，可以计算出稳定且准确的神经网络，Antun说道，关键问题是‘在某些情况下’的部分，最大的问题是找到这些案例。目前，人们对如何做到这一点知之甚少。 研究人员发现，神经网络的稳定性和准确性之间经常需要权衡。问题是我们同时想要稳定性和准确性，Hansen说道，在实践中，对于安全相关的关键应用，人们可能不得不牺牲一些准确性来确保稳定性。 作为新研究的一部分，研究人员开发了他们快速迭代重启网络（FIRENET），以期在涉及分析医学图像等任务时实现，神经网络可以提供稳定性和准确性的结果。 研究人员认为，这些关于神经网络局限性的新发现并不是为了抑制人工智能研究，从长远来看，弄清楚什么可以做和什么不可以做什么对人工智能研究来说是健康的。请注意，图灵和Gdel的负面结果引发了数学基础和计算机科学方面的巨大变化，这分别导致了现代计算机科学和现代逻辑的大部分发展。Colbrook说， 具体而言在这项研究中，研究人员认为，这些新发现意味着存在一种分类理论，其可以描述哪些具有给定精度的稳定神经网络可以通过算法进行计算。用之前谈到的蛋糕类比，这将是一个分类理论，描述了哪些蛋糕可以用物理上可能设计的搅拌机烘烤。如果无法烘烤蛋糕，我们也想知道与想要的蛋糕类型有多接近。Antun说道。 责任编辑：李跃群 校对：张亮亮
今年穿T恤不建议配裙子了！瞧瞧杨幂杨紫这样穿，是有多美T恤的百搭是众所周知的，夏季的缎面必备单品。但是以往的搭配思路都是T恤配裙子，追求的简约却是是好看的，差点意思也是真的。今年夏天是真的不建议再用T恤搭裙子了，咱们的带货女王也早……6岁孩子上学前目不识丁，因我做对一件事，让他迎来识字量大爆发编辑：硬核育儿《全文大约2200字阅读共需10分钟》6岁孩子上学前目不识丁，因我做对一件事，让他迎来识字量大爆发如今在幼儿园小学教育当中，我们都能经常听到双减……容貌遗传是个玄学高颜值明星的孩子，也不一定是绝顶姿色豪门找明星改善家族颜值基因，早已是众所周知的事情，但基因这种事就是碰运气，即便找个惊为天人的女明星做妻子，孩子也不一定就会继承到母亲的容貌。比如林青霞的两个女儿，就全都长……黑木耳含抗肿瘤基因，对甲状腺疾病是否有效？中科院给出答案木耳是我们非常常见的一种食用菌，无论是口感还是营养含量，在素食中都属佼佼者，被现代养生专家与美食家称赞为素中之荤，无论是口感还是营养价值，都能与动物类食材相媲美。2019……火山睡了，火山醒了视角选材独特的火山科普绘本说来也挺奇怪的，我们家的小朋友竟然对自然灾害无比感兴趣，不管是气象灾害，比如龙卷风、台风、冰雹等，还是地质灾害，如地震、泥石流、火山喷发等，都念念不忘，看过不少相关科普绘本，也……ROG游戏手机6再确定6000毫安165Hz高刷18GB运存6月25日消息，ROG游戏手机6入网工信部，外观设计和主要硬件配置被曝光：该机搭载最新的骁龙8Gen1满血三件套，最高提供18GB512GB大存储，还拥有6000毫安时和65W……中山汉普敦两房一厅，坐拥270一线海景，网友白菜价【中山丨汉普敦】打卡天际泳池！游玩5000M观海泳池！299抢海景复式两房一厅3公里海岸线私家阳台一线海景等点开我的头像，再点底部活动资讯，搜索关键词汉普下单预定各……文案普通且高级的文案01、电影永远没有预告片精彩。02、没有人会记得曾经的许诺。03、我好像已经释怀了又好像一直没有。04、但是他没有陪伴你对你忽冷忽热。05、难过怎么讲的……经常失眠多梦？多半是脏腑出了问题，教你3个小妙招，恢复好睡眠失眠，已经不是一个陌生的词，随着现代社会的飞速发展，失眠的人群与日俱增，据相关的调研显示，我国现今失眠人数远超3亿。对于失眠，解决的办法众说纷纭，吃药物、褪黑素、谷维素等……中国床垫第一股领先席梦思！蝉联9次排行榜第一民族匠心品牌目前，全球主要床垫市场集中在中美两国。但，中国的床垫行业市场集中度仍然处于较低水平。在国内市场中，顾家家居、喜临门、慕思以及梦百合等品牌名列前茅。国品强国20……美国队长后悔换机iPhone13Pro，203g烫手重量让他克里斯埃文斯最近在接受Collider采访时，称新iPhone实在是太重了，需要用双手握持才能一起使用，iPhone13Pro的重量已经达到203g，可屏幕也才6。1英寸，这个……浩瀚星河，541个新疏散星团以四川高校命名它们是如何被发现的5月4日，由西华师范大学物理与天文学院天文系何治宏博士领衔发现、并以CWNU（西华师范大学）命名及编号的541个新疏散星团，在国际顶级刊物《天体物理学增刊》（TheAstrop……