读书成神豪

从前有只坏猪

首页 >> 读书成神豪 >> 读书成神豪最新章节(目录)
大家在看都市之最强狂兵 重生之大富翁系统 重生:权势巅峰 重返1988 重生60年代,开局就上山下乡 我和崇祯成了合伙人 重生之2006 消费系男神 巅峰强少 你跑不过我吧 
读书成神豪 从前有只坏猪 - 读书成神豪全文阅读 - 读书成神豪txt下载 - 读书成神豪最新章节 - 好看的都市小说

第252章 浅度学习

上一页书 页下一页阅读记录

这种原任务和对偶任务之间,他们的输入和输出正好是反着来的。

原本章杉还因为论文是系统弄得而心存愧疚,但现在看来这论文完全是照着他的思路去写的。

因为之前对多门语言的卓越性。

章杉自己本人来写这个论文的话,最可能想到的涉及对偶属性的应用也是翻译工作。

不过对偶工作不止于此。

在语音处理里面,语音识别是把语音转化成文字,语音合成是把文字转化成语音,也是互为对偶的两个任务。

在图像理解里面,看图说话,也就是给一张图生成一句描述性的语句,生成式对抗网络的对偶任务是给一句话生成一张图,这两个任务一个是从图像到文本,另外一个是从文本到图像。在对话系统里面,回答问题和问题生成也是互为对偶的两个问题,前者是给定问题生成答案,后者是给定答案生成问题。

在搜索引擎里面,给定检索词返回相关文档和给定文档或者广告返回关键词也是互为对偶的问题:搜索引擎最主要的任务是针对用户提交的检索词匹配一些文档,返回最相关的文档;当广告商提交一个广告之后,广告平台需要给他推荐一些关健词使得他的广告在用户搜索这些词能够展现出来被用户点击。

对偶学习试图把这种结构的对偶属性应用在机器学习里。

其基本思想比较简单,章杉以机器翻译为例子来说明。

当我们想把一个中文句子翻译成英文,可以先用一个中文到英文的翻译模型,把这个句子翻译成英文的句子,因为没有英文的标注,所以不知道这个英文的翻译是好还是坏以及有多好多坏。章杉再利用从英文到中文的翻译模型,把这个英文的句子翻译成中文的句子,这样一来,章杉就得到了一个新的中文句子。

整个过程包含了正向翻译和反向翻译互为对偶的两个步骤。

然后章杉比较原始中文的句子和后来得到的中文句子,如果两个翻译模型都很好的话,这两个中文的句子应该比较相似,如果两个模型不好或者有一个模型不好的话,得到的两个中文句子就不相似。因此章杉可以通过这种对偶过程从无标注的数据获得反馈信息,知道章杉的模型工作的好还是不好,进而根据这些反馈信息来训练更新正向反向模型,从而达到从无标注数据学习的目的。

章杉在机器翻译里面做了一些实验,发现通过对偶学习的过程,章杉只需要用10%标注的数据(大概100万英法双语句对),再加上很多没有标注的数据,达到用100%标注数据(1200万英法双语句对)训练的模型的准确度。

一千万个训练语料标注的费用差不多2200万美元,如果章杉能把标注的人工费用从2200万美元降到200万美元,这会是一个非常好的结果,能够大大降低公司运营成本提高运营效率。

很多问题以前是因为受限于没有标注的数据,没有办法用深度学习技术。

现在章杉能够从无标注的数据进行学习,那么很多应用很多问题里面都可以应用深度学习技术。

论文到这里已经很牛了!

但仅仅如此吗~

章杉继续读完,很快就震惊了!

因为论文里似乎提出了一种崭新的概念。

现在虽然深度学习很受欢迎,但是说到底深度学习主要是从大数据进行学习,就是通过很多标注的数据,使用深度学习算法学习得到一些模型。

虽然叫着人工智能的名字。

但是这种学习方式和人的智能是非常不一样的。

人是从小样本进行学习。

人对图像进行分类,只需要很少几个样本就可以做到准确分类。

两三岁小孩,开始认识世界的时候,他如果想知道什么样的动物是狗,我们给他看几张狗的图片,并且告诉他狗有什么特征,和其他动物像猫或者羊有什么区别的话,小孩可以很快很准确的识别狗。

但是像深度残差神经网络,一般来说一个类别大概需要上千张图片才能进行比较充分的训练,得到比较准确的结果。

再比如汽车驾驶,一般来说,通过在驾校的培训,也就是几十个小时的学习,几百公里的练习,大多数人就可以开车上路了。

但是像现在的无人车可能已经行驶了上百万公里,还是达不到人的全自动驾驶的水平。

原因在于,人经过有限的训练,结合规则和知识能够应付各种复杂的路况,但是当前的AI还没有逻辑思考、联想和推理的能力,必须靠大数据来覆盖各种可能的路况,但是各种可能的路况几乎是无穷的。

随着一项项能力的提升,章杉现在对人的理解也很深。

人的智能包含了很多方面,最基本的阶段是认知性智能,也就是对整个世界的认知。

尽管现在对于图象识别、语音识别,AI已经差不多能达到人类的水平,当然可能是在某些特定的约束条件下,能够达到人类的水平。

这章没有结束,请点击下一页继续阅读!

喜欢读书成神豪请大家收藏:(m.2yq.org)读书成神豪爱言情更新速度全网最快。

上一页目 录下一页存书签
站内强推女配修仙:干掉原书大女主 全球冰封:我打造了末日安全屋 全球转生:从无限复活开始成神 战场直播,开局单压M249 五仙门 我,大明皇子,拉上皇帝一起造反! 嫁死人?她随军一夜怀双宝了 仙灵图谱 影视从四合院阎解成开始 我做古籍修复得天道 开局获得满级速度,杀穿五大联赛 大秦:暴君胡亥,杀出万世帝国 盛唐华章 四合院:傻柱重生之这饭盒不能给 战锤:决定走群星包围亚空间路线 天官赐福 我不是戏神 开局逃荒带八娃 晴时踏雪覆白桥 热芭:满级小孩哥,长大要娶我? 
经典收藏我在非洲当酋长 全球轮回:没有人比我更懂剧情 全球兵符:从传国玉玺开始无敌 带着空间闯非洲 四合院:美好人生 黑科技直播间 重生2003:智霸科技界 大王饶命 四合院之民警居然会查克拉 重生看到机缘后,送未婚妻上热搜 滚远点吧校花,重生我只想搞钱! 重生60年代,开局就上山下乡 天空农场,你管这叫种田? 重生80靠赶山狩猎实现财富自由 高武:顿悟亿点点 四合院之我也来凑热闹 让你直播普法,没让你当预言家 诗酒双绝:一剑开天,校花崩坏了 四合院之李安的精彩人生 上班摸鱼,一等功自己送上门了? 
最近更新我转生成兔子这档事 盗墓:开局觉醒神级选择 就算变身萝莉,也要大声说爱你 酗酒家暴三年?可我刚上大学啊! 被病娇姐姐圈禁?我反手PUA她 那天,师父语重心长,我被骗很惨 重生84:九个赔钱货?我把女儿宠上天 下山后,千金大小姐以身相许 我和漂亮阿姨的荒岛生活 1969:拒绝喜当爹,退婚知青成首富 上学工作和恋爱 四合院:少女淮茹为我生三胎 漫威:黑寡妇醉酒后,我跟她谈心 港片:我真南哥,开局捡了小结巴 都市天医望气术天下无双 重生1979:我把知青老婆宠上天 满级仙帝,带着修为回来了 重生八零:我的毛熊媳妇超会撩 觉醒无敌系统,却低调到让人发疯 校花分手?我反手混沌体镇压星空 
读书成神豪 从前有只坏猪 - 读书成神豪txt下载 - 读书成神豪最新章节 - 读书成神豪全文阅读 - 好看的都市小说