厦门致联科技有限公司

【国家级高新技术企业】

区块链
您当前位置:致联科技 >> 区块链 >>

通往通用人工智能的路上,我们少不了无监督学习

2019年05月09日

AI 科技评论按:在曩昔十年中,机器学习在许多领域都取得了前所未有的进展,如图像识别,主动驾驶汽车、和玩复杂游戏如「GO」等。这些成就在很大程度上都是通过采用监督学习和强化学习两种范式中的一种来训练深度神经网络得以实现的。这两种范式都要求人为设定「训练旌旗灯号」并将其传递给计算机。在监督学习的示例中,这些旌旗灯号被视为「目标」(例如某个图像的精确标签);在强化学习中,它们是举动精确时获取的「奖励」(例如在 Atari 游戏中获得高分)。因此,机器学习的界限是由人类训练者所定义的。

虽然一些科学家认为,拥有充足包容的训练体系体例,如使智能体具备完成各类义务的能力,就应该足以达到通用的智能水平,但其他人则认为真正的智能必要更多的自力学习策略。例如,回归到人类小童如何学习的场景,她的祖母可能会坐在她身旁,耐心地举出什么是「鸭子」的例子(该举动像是监督学习中的指示旌旗灯号),或者在她完成木版拼图时用掌声透露表现奖励(如同在强化学习中一样)。但是,幼儿在绝大多数时间里都是在灵活地探索世界,通过好奇心、游戏和观察的体例来理解她四周的环境。无监督学习是一种旨在通过奖励智能体(即计算机程序)来创建自立智能以便在不考虑特定义务的情况放学习其观察到的数据的范式。换句话说,智能体是为了学习而学习。

无监督学习的一个关键动机是,虽然传递给学习算法的数据拥有很雄厚的内部结构(如图像、视频和文本),但用于训练的目标和奖励通常都特别很是稀少(例如,标签「狗」指的是尤其多变的物种,标签「0」或「1」透露表现游戏中的「失败」或「成功」)。这注解算法学到的大部分内容必须包括对数据自己的理解,而不是将这种理解应用于特定义务。

解码视觉元素

2012 年是深度学习的里程碑年,这一年,AlexNet (以其首席架构师 Alex Krizhnevsky 命名)席卷 ImageNet 分类竞赛,其识别图像的能力被认为是前所未有的,而更令人瞩目的则是它的内部结构。当研究人员分析 AlexNet 时,发现它通过构建图像输入更复杂的内部透露表现来诠释图像。在底层透露表现如纹理和边缘之类的低层特性,然后将它们组合在一路形成高级概念,如轮子和狗。

这与我们的大脑处理信息的体例特别很是相似,在初级感官处理区域的简单边缘和纹理被聚合成复杂对象,如更高区域中的面部。因此,复杂场景的透露表现可以由视觉基元构建,这种体例大致类似于构成句子的单个词所带来的意义。即使没有明确的引导,AlexNet 的层级也已经发现了一个基本的视觉「词汇」来解决其义务。从某种意义上说,它已经学会了玩 Wittgenstein 所谓的「语言游戏」,该游戏会反复地将像素转换为标签。

卷积神经网络的视觉词汇。在网络的每一层都会生成最大程度地激活特定神经元的图像。然后,这些神经元对其他图像的相应可以被诠释为视觉上看不见的「单词」,如纹理、书架、狗鼻子、鸟等。(图源:特性可视化,Olah et al,2017)。

迁移学习

从通用智能的角度来看,关于 AlexNet 词汇的最风趣的事情,就是它可以被重复使用或迁移到正在训练以外的视觉义务中,例如识别整个场景而不是单个对象。在赓续转变的世界中,迁移是必不可少的,并且也是人类所擅长的,我们能够将从已有经验(世界认知模型)中得到的技能和理解敏捷地顺手应用到任何场景中。例如,一位古典乐钢琴家可以相对轻松地演奏爵士钢琴。理论上,塑造了对于世界精确的内部表征的人工智能体,应该能够做类似的事情。

尽管如此,AlexNet 等分类器所学到的透露表现仍具有局限性。分外是,因为该网络只训练成单一类别(如猫、狗、汽车、火山)的标注图像,因此标注推理中任何不必要的信息都易于被忽略,无论这些信息对其他义务有多紧张。例如,假如标签推导的总是前景,那透露表现可能就无法捕捉图像的背景特性。一种可行的解决方案是提供更周全的训练旌旗灯号,如将描述图像的题目更细致化:不仅仅在题目中提到「狗」,而要完备地写出「柯基犬在阳光明媚的公园中追赶飞盘」。然而,这些目标很难获取,分外是在规模上,可能不足以捕捉完成义务所需的所有信息。无监督学习的基本前提是,学习内容雄厚、广泛可迁移性的透露表现的最佳途径就是尝试学习能被学到数据的所有信息。

假如通过透露表现学习的迁移概念看起来过于抽象,那么可以试想一个学过将人画成火柴人的小孩。她发现了一种高度紧凑和具有快速适应性的人类形态的透露表现。她可以通过为每个火柴人增长详细细节,为她所有的同窗绘制肖像画:例如为她最好的同伙画一幅眼镜,给她同桌「穿」上他最喜好的红色 T 恤。而且她学习这项技能不是为了完成一项特定义务或获得奖励,而是对反映了她四周世界的基本需求的回应。

从创造中学习:生成式模型

大概无监督学习的简单的目标是训练算法以生成其自己的数据实例。所谓的生成式模型不应该简单地再现他们正在上面训练的数据,这是一种无趣的记忆举动。生成式模型的目的是建立一个基础类,并能够从中抽取数据的模型:不是特定的马或彩虹的照片,而是马和彩虹的所有照片集;不是来自特定谈话者的特定表达,而是说话表达体例的通用性分布。生成式模型的引导原则是,能够构建一个令人佩服的数据例子就是智能体已经理解了该数据的最有力证据:正如 Richard Feynman 所说,「对于我所无法理解的东西,我就无法创造出来。」

对于图像,迄今为止最成功的生成式模型要数生成式对抗网络(简称 GAN),它包含两个网络,即一个生成网络和一个判别网络,二者在 GAN 中的作用就如同参与一场类似于艺术品伪造和甄别的识别竞赛。生成网络产生图像的目的是诱使鉴别者信赖它们是真实的;与此同时,判别网络则会因发现赝品而获得奖励。所生成的图像,先是紊乱和随机的,随后在很多次迭代中被细化,并且在网络之间的持续动态会让图像变得更加真切——在很多情况下,这些图像甚至与真实照片无法区分。生成对抗性网络还可以由用户大致用草图勾勒出其定义的场景细节。

扫一眼下面的这些图像,它们足以让我们信赖,网络已经学会了如何透露表现其训练的图片的很多关键特性,如动物身体的结构、草的纹理以及光影的细节结果(即使是通过肥皂泡折射的)。但细心观察下面这些图,就不免能发现些许小非常,如白狗显明多了条腿,喷泉其中一个喷嘴的水流呈新鲜的直角状。虽然生成式模型的开发者在努力避免这种不完善,但这些可见的不完善也突显了重修认识的数据(如图像)的一个益处,即研究人员可以通过检查样本,推测出模型学到了什么以及没有学到什么。

BigGAN 描绘的场景和生物(Brock, Donahue and Simonyan, 2018)

从展望中创造

无监督学习中另一个闻名的成员是自回归模型,该模型其中的数据被分成连续串小部分,然后对每个小部分依次进行展望。这类模型可以通过延续展望接下来会发生什么,从而来生成数据,并将上轮展望效果作为新的输入继承进行展望。语言模型可能就是最好的例子,语言模型中每个单词都是它上一个的单词的展望效果,这些模型可用于在某些电子邮件和新闻应用程序中弹出的文本展望。语言建模的最新进展是能够生成看似合理的段落,例如下图所示的 OpenAI 的 GPT-2 生成的段落。

文本中一个风趣的谬误就是独角兽被描述为有四个角:再次证实了对于网络理解局限性的探究是特别很是风趣的。

通过控制用于决定输出展望的输入序列,自回归模型也可以用来将一个序列转换为另一个序列。这个 demo 使用了一个假定的自回归模型将文本转换为真切的手写。WaveNet 可以将文本转换为天然语音,并且如今也应用于为 Google 智能助理生成语音。条件和自回归生成的类似处理过程也可用于语种间的翻译。

自回归模型通过尝试以特定顺序展望数据来学习数据。通过一部分数据来展望其他数据的方法可以用来构建一种更泛化的无监督学习的算法类。例如,这可以看做是从句子中删除一个单词,并尝试用剩余的内容来展望这个被删掉的单词。通过学习来进行大量的局部展望,模型渐渐能够从团体上学习数据。

关于生成式模型的一个担忧,就是它们有可能被滥用。人类虽然早就能够通过照片,视频和音频编辑操纵证据,但借助生成式模型可以更容易地恶意编辑媒体数据。我们可以看到所谓的「deepfakes」的例子,比如对奥巴马总统的伪造视频片段。鼓舞人心的是,针对这些挑衅,业界已经开展了几项重要的应对工作,其中包括使用统计技术来帮助检测合成媒体和验证真实媒体、进步公众意识以及围绕限定训练好的生成式模型的可用性的讨论。此外,生成式模型自己可用于检测合成媒体和非常数据,如模型可用于检测虚伪语音或识别付出非常以珍爱客户免受欺诈。而研究人员则必要研究生成式模型,以便更好地理解它们并降低其应用风险。

重新想象的智力

生成式模型自己就很吸引人,但 DeepMind 对于它们重要感爱好的是,该模型能够在通往通用智能的道路上起到「垫脚石」的作用。赋予智能体生成数据的能力就是一种赋予其想象力的体例,从而使其具备规划和推理将来的能力。我们的研究注解,即使没有明确的数据支撑,学习展望环境的方方面面也可以雄厚智能体的世界模型,从而进步其解决题目的能力。

这些效果与我们对人类思维的认知特别很是同等。我们所拥有的在没有明确监督的情况下了解世界的能力,是我们所认为的智力的基础。在乘坐火车时,我们可能会无精打采地凝视着窗户,将手指划过座位的天鹅绒,看着坐在我们对面的乘客。我们没有带着任何义务去做这些事,然而几乎都在情不自禁地收集信息,并且我们的大脑也在偶然识地赓续地解我们四周的世界,以及我们所处的位置。

via:https://deepmind.com/blog/unsupervised-learning/ 

  • NB-IOT智能温湿度监测解决方案是将NB-IOT技术引入环境温湿度监测中,突破传统方式,实现对温湿度信号采集、传输、平台监控和管理,广泛应用于医药、农业、食品、博物馆文物、档案管理、建筑等领域。
  • 1安全性原则 系统以三权分立为原则,对需要使用本系统的部门以及相关人员、角色、权限、角色权限对应关系、人员角色对应关系进行管理。系统内建安全员、系统管理员、审计员三个角色,分别操作相应的业务功能。在权限管理中系统的每一个职能模块都有自己的使用权限。 用户角色可以跨模块对应相关权限,每一个用户也可以跨部门,跨
  • 目前医院正面临每年都要处理成千上万件的工作服 、病人服及各种被服,对于这些衣物的交接、洗涤、熨烫、消毒、整理、储藏等工序,若没有一套完整的自动识别管理系统,想高效地跟踪管理每一件衣物的洗涤过程、洗涤次数、库存状态和衣物有效归类等是一件极具挑战的事情;而且工作服洗衣登记、领收工作繁琐,很大程度浪费宝贵的工作
  • 在光纤配线设备(光纤托盘/光纤配线架)光纤端口上加装无源RFID电子标签来标示其端口属性,并在跳接用的光跳纤的接头上也附加上成对的无源RFID电子标签。这样通过单端口读写器一次性读取和采集端口RFID标签信息和对应的光跳纤头上的RFID标签信息,把这双无源的RFID电子标签信息进行绑定并处理,从而达到智能管理的目的。  单端口
  • 前言: 2018年1月26以“凝心聚力,蓄势待发”为主题 致联科技年会,在厦门银海蓝戴斯酒店隆重召开 告别难忘的2017,喜迎崭新的2018,回首来时奋斗路,我们展望新征程。2018年1月26日,厦门致联科技有限公司在厦门银海蓝戴斯酒店隆重举行了主题为“凝心聚力,蓄势待发”的新年庆典。 致联董事长杨顺福先生,董事郭宏清先生,夏教授
  • 智享科技物联未来 2017年,匠心致联,收获满满。 2018年,拥抱用户,创造未来。 律回春晖渐,万象始更新。值此辞旧迎新的时刻,我们向一如既往关心和支持公司发展的广大客户、合作伙伴、社会各界人士以及辛勤付出的全体致联同仁,致以衷心的感谢和新年的祝福,感谢大家一路同行。  回首望着渐行渐远的2017,我们感慨良多。这一
  • 前言:2017年9月20日,新华网、中国投资协会、中国互联网协会、厦门市思明区人民政府、厦门市会议展等单位主办,北京物联网学会、工业4.0俱乐部、台湾物联网行业协会、香港物联网协会等协办的以“物联中国,共赢未来”为主题的“物联中国”年度盛典,2017物联中国项目路演全国总决赛在厦门会展中心306会议厅隆重举行。 作为201
  •   厦门致联科技有限公司荣获第六届中国创新创业大赛(厦门赛区)成长企业组优胜奖。 第六届中国创新创业大赛(厦门赛区)暨第三届“白鹭之星”创新创业大赛是由厦门市科学技术局和集美区人民政府主办,厦门市集美区科学技术局、厦门科技产业化集团有限公司等承办的厦门规模最大的创新创业赛事。 本届大赛报名情况异常火爆,
  • 2017年6月17日,以“互联网与两岸青年文化共识”为主题的第十五届海峡青年论坛在厦门拉开帷幕。作为第九届海峡论坛的重要活动,海峡青年论坛吸引了数百名两岸的青年代表,共同探讨互联网时代两岸交流的新动向与新思考。 6月18日,海峡青年论坛之台湾青年来闽就业、创业、见习现场对接会在厦门佰翔酒店隆重举行。本次论坛汇聚了
  • 2017厦门工业博览会历时四天精彩的展示、研讨与洽谈,完成了各项预定议程,并于4月15日下午在厦门国际会展中心圆满落下帷幕。致联科技亮相本次工博会的智能制造展,推出基于RFID物联网技术的智能制造解决方案与致联智能制造MES系统。 大会聚焦“智能制造”,展览汇聚产业前沿,论坛引领智慧发展,项目对接务实高效,集中展示了两
  • 2017年1月13日,致联科技技术团队奔赴厦门建霖工业有限公司,为建霖员工进行RFID应用技术分享及设备操作培训。 厦门建霖工业有限公司位于厦门市集美北区天凤路69号,专业生产、制造和销售卫浴设备零件、汽车零配件、家电配件、五金件、精密型腔模、精冲模及塑料金属表面电镀,是摩恩、科勒、3M、海尔等世界顶级品牌的OEM/ODM制
  • 8月21日,第八届中国(深圳)国际物联网博览会在深圳会展中心完美落幕。厦门致联科技有限公司应邀参加了此次展会,首次对外推出的RFID服装智能门店管理系统闪耀整个展会,吸引了众多国内外客户的关注。 RFID服装智能门店管理系统 是基于RFID技术所制的服装吊牌在服装门店的应用,整个系统包括智能试衣、快速找货、快速收银、快
  • 2016年6月3日至5日,厦门会展中心迎来第三届中国(厦门)国际物联网博览会。此次物博会,致联科技展位设在国际会展中心C3馆C022,旗下多款关于物联网领域RFID行业应用解决方案首次对外发布。 致联科技作为RFID物联网行业应用解决方案提供商,此次参展的产品有关于服装行业智能仓储及门店管理系统RFID应用解决方案、卫浴行业制造
  • 百年文明付之一炬巴黎圣母院始建于1163年,并在1345年完工,有850年历史。位于巴黎塞纳河西堤岛上的圣母院建筑,总高度约130米。它是欧洲历史上第一座完全哥德式的教堂,也是法国巴黎历史悠久最具代表性的古迹。然而,当地
  • 2019年2月16日,福建省统计局局长张国旺、厦门统计局局长孔曙光、湖里区区长林重阳等领导团队共20人莅临致联科技考察调研,重点调研了致联科技作为国家高新技术企业的发展情况,参观了解了公司在物联网领域的研究进展及
  • 成人用品消费的痛点?成人用品的即时性以及隐秘性要求强烈,而消费者却很难得到完美的消费体验。电商平台的物流时间较长,不够及时;而线下商超、成人用品店需要与人接触,中国人普遍具有害羞心理,害怕被披上色彩的外衣;现
  • 关闭
    0592-5285711 时 间:9:00-18:00
    联系我们
         QQ客服 热线电话 公司地图