精品国产人成在线_亚洲高清无码在线观看_国产在线视频国产永久2021_国产AV综合第一页一个的一区免费影院黑人_最近中文字幕MV高清在线视频

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

在深度學習如日中天的現在,三巨頭又在忙活著什么?

lviY_AI_shequ ? 來源:lp ? 2019-04-13 10:43 ? 次閱讀

上上周,AI圈最大的事情,沒有之一,就是圖靈獎,終于終于,終于頒給了深度學習三巨頭。

關于GeoffreyHinton和他的兩位學生YoshuaBengio、YannLeCun的故事,在消息出來后的幾天里,理所當然完成了刷屏。

即使AI從業者和愛好者基本已經對這三位的事跡耳熟能詳,但他們“高舉著火焰,沖過了最黑暗的時代”的英雄主義情結,還是能夠輕易讓遠離AI世界的人們動容。

“三巨頭”和深度學習的經歷,事實上是一幕從學術邊緣開始,在產業狂歡中自證,再回頭征服主流學術界的故事。起伏線索簡直比好萊塢大片還要好萊塢。

然而現實人生和電影最大的區別或許在于,電影可以在高潮處戛然而止,留給觀眾意味深長的壯美。但生活還要繼續,日子還得過,AI還得發展。深度學習并不會因為圖靈獎的到來而畫上圓滿的句號。

如果說三巨頭在全世界都不相信深度學習時的執拗,最終換來了圖靈獎和一句句“泰斗”的贊美聲;那么我們今天更應該留意的,或許是在深度學習如日中天的現在,三巨頭又在忙活著什么?他們現在所忙的,是不是又映射著AI的未來?

咱們不妨換個角度,不說他們可歌可泣的當年,而是聊聊三巨頭的現在。

需要注意的是,這里并不打算把三人及團隊的每一篇論文都整理出來,而是希望從他們在AI爆發之際的選擇,讀出些許關于深度學習未來走勢與先天不足的底層規律。

YannLeCun:

產學候鳥與AI圈魯迅

三巨頭中最頻繁活躍在大眾視線里的,是YannLeCun。

為什么很多不認識Hinton的人也認識YannLeCun?這個AI界的未解之謎有很多解釋。

不靠譜的解釋包括,YannLeCun這個名字非常適合寫成楊麗坤,所以好記。再比如說他的招牌式笑容很容易讓人覺得AI沒那么枯燥。

而靠譜的解釋是,YannLeCun是三人中進入產業世界程度最深的那一位,甚至一度被視作AI科學家走向商業世界的代表人物。

2013年,YannLeCun突然加入Facebook是一件非常有爆炸力的事。大家既不理解Facebook要AI科學家干嘛,也不明白YannLeCun去一個社交媒體做什么。

來到Facebook之后,YannLeCun一手創立了FAIR。這不是個律師事務所,而是Facebook人工智能實驗室。

必須要承認,作為FAIR一把手的YannLeCun,在那幾年間是有不少作為的。比如大幅度提升了Facebook的自動化運營能力,提高了廣告等Facebook生命線的智能化程度。而另一方面,充滿理想主義精神和學者氣息的YannLeCun還把FAIR搞成了硅谷最有烏托邦味道的實驗室之一。

在Facebook,FAIR的專家們關注那些天馬行空的前瞻性技術,以及AI如何在未來造福全人類。在扎克伯格的默許與支持下,FAIR的紅火甚至一度被認為是硅谷的工程師文化要向科學家文化交槍。

此外,YannLeCun個人魅力也成為Facebook快速招到頂級科學家的利器,5年中,FAIR擴大到6個辦公地點,有近100名研究員。與吳恩達、李飛飛并列,YannLeCun也被稱為由學校到企業的三位AI明星之一。

但隨著團隊規模的不斷擴大,YannLeCun作為理想派科學家,逐漸暴露出了團隊管理能力的不足。加上2017年Facebook風雨飄搖,在整體業務改革之后,業務線開始向FAIR索取更多直接的、有助于提升業務質量或者變現能力的技術——而這并非YannLeCun所愿與所長。

始終保留著紐約大學教職的YannLeCun,在2018年1月宣布辭去了FAIR負責人的職務,轉向幕后擔任首席科學家。而這也被外界解讀為一個信號:似乎和吳恩達、李飛飛一樣,頂級科學家真的不那么容易在大企業高管的位置上長治久安。

而在產業的探索之外,YannLeCun的另一個人設,堪稱AI圈里的魯迅——路見不平一聲twitter,該罵你時候絕不休息。

不少人感覺YannLeCun有點過于“好作驚人語”,但其實要看到更大的背景在于,今天圍繞著深度學習到底是什么,未來會怎么發展,以及AI有沒有用等一系列問題,滋生出了無盡的爭議。

而作為AI行內最大的明星之一,YannLeCun似乎也在某種程度上有義務出來正本清源。

讓咱們回顧一下讓YannLeCun啟動開懟模式的三件事:

1、對著名的人形機器人,全球首位“機器公民“索菲亞。YannLeCun怒斥其為“徹頭徹尾的騙局”“完全是胡說八道”。在YannLeCun看來,所謂索菲亞不過是一具放錄音的模型而已,對它的“物體崇拜”會讓人們覺得AI就是在變戲法。真正的AI想要達到嬰兒甚至動物的智商,還要走很遠的路。

2、硅谷鋼鐵俠馬斯克,近兩年的愛好是到處說AI就要毀滅人類了。YannLeCun認為這種說法非常不負責任。在他看來,馬斯克就是跟一些樂觀派的科學家聊天,又回家看了一些想象成分居多的書,然后就產生了《終結者》馬上要實現的想法。加上眾所周知馬斯克總想拯救人類,最后導致了我們聽到的那些聲音。而在YannLeCun看來,科學家是知道那種強AI不太可能在幾年內實現的,馬斯克的言論是在散布恐慌。

3、去年,一位計算機視覺專家FilipPiekniewski連續發表了《深度學習已死》之類的“雄文”,高唱深度學習泡沫要破。YannLeCun則馬上開啟了回懟模式,直言作者“非常無知”,指出這位作者首先沒有看到學術和產業界的現實,其次用一些無關的證據強行證明AI“寒冬來了”的結論。比如作者提到AI藥丸,一大證據是AI科學家發twitter少了——氣的YannLeCun趕緊發了一堆twitter。

總結一下,會發現YannLeCun開懟的主要是三種聲音:假AI、AI威脅論,AI寒冬論。

其實環顧左右,這三種論調是不是也飄散于我們身邊呢?

YoshuaBengio:

保衛象牙塔,鎮守加拿大

說了最高調的,再說說最低調的YoshuaBengio。

之所以說他低調,是因為YoshuaBengio可說是三巨頭中最不愿意探索產業世界的一位。他在必然出現的重金誘惑面前,也沒有加入那幾家我們耳熟能詳的科技巨頭,而是選擇繼續留在蒙特利爾大學的象牙塔里,享受著加拿大的好山好水。

然而隨著自己發明的深度學習越來越火,YoshuaBengio發現事情并不簡單。科技巨頭和投資人開始瘋狂向學校搶人。深度學習方向的博士變成了炙手可熱的香餑餑,直到YoshuaBengio發現,他還沒畢業的博士都已經被饑渴的科技公司瓜分干凈。這位科學家決心要保衛象牙塔的純凈。

他的辦法是,自己開一家公司……

咳咳,事實上,YoshuaBengio是在幾位合伙人的勸說下,決定共同建立一個新型的產學一體化機構。我們知道AI界有著名的OpenAI,專注無不商業目標的開源項目,讓科學家能在企業完成自己的夢想。

而YoshuaBengio與合伙人聯合創立的ElementAI,則反其道而行之。它致力于讓AI科學家們可以直接參與商業項目,獲取相關回報,但同時能夠保留教職——比如每周只用抽出幾個小時來來ElementAI干活,大家一起做做項目賺賺外快就行了。

這種有點像AI科學家在線兼職的模式,可以有效解決一個問題:創業企業和傳統企業,根本無力與科技巨頭爭搶AI人才,但他們卻實打實地需要AI人才來幫忙。這樣一種模式可謂兩全其美。

很快,ElementAI就獲得了微軟的投資,現在在深入各行業定制AI解決方案之外,也開始與大公司的聯合科研,以及對優質AI項目進行投資和技術幫助。而對于客戶來說,YoshuaBengio本人就是商業合作上的金字招牌。

YoshuaBengio的另一個工作重心,是學校里的蒙特利爾學習算法研究所(MILA)。MILA和ElementAI一學一產,構成了蒙特利爾AI產業的雙核驅動。今天,加拿大AI的快速發展,以及蒙特利爾被稱為AI時代的硅谷,都與YoshuaBengio的工作緊密相關。

嗯,至少目前來看,這位象牙塔守護者,加拿大AI之星,還是比較好地完成了任務。

YoshuaBengio還有一項比較出名的行動,是在AI社會責任與公益領域廣泛擔當呼吁者。比如他帶頭反對谷歌的軍方項目,呼吁終止AI武器化。并且積極推動關注AI中的歧視與不公平問題。

假如給YoshuaBengio近年來的工作打上三個標簽,那就是:學術的,公益的,加拿大的……

GeoffreyHinton:懷疑者,依舊懷疑

與兩位50多歲的學生相比,已經72歲的老師Hinton,似乎應該閑下來,享受“AI教父“的尊名,指導指導學生,籌劃一下傳記。

然而事實并非如此,GeoffreyHinton今天依舊在保持高強度的工作。被腰間盤疾病困擾的他,甚至必須要站著完成所有研究。與兩位學生和大部分功成名就的同行相比,Hinton更像是工作在AI一線的那一個。

簡單來說,那個又倔又橫的小伙子,如今變成了個又倔又橫的老頭。

曾經在一次采訪中,GeoffreyHinton被問到為什么能在幾十年的不被重視中堅持下來,他的回答非常酷也非常Hinton。他說:

“他們都錯了。”

直到今天,Hinton還是認為有可能所有人都錯了,包括他自己。

1986年,Hinton發表了《Learningrepresentationsbyback-propagationerrors》,這是Hinton一生的代表作之一,標志著反向傳播算法被引進深度學習,今天來看有著跨時代的意義。

然而Hinton在近兩年卻頻頻表示,反向傳播有可能存在這巨大的缺陷。他不但自己嘗試了多種方式突破它,還將大量相關研究綜合起來,寫論文對比如何擺脫反向傳播的窠臼——直到現在,他還沒有超越自己,但并不代表以后不能。

GeoffreyHinton是一個徹頭徹尾的懷疑者,這點并沒有因為他變成“泰斗”而改變。

在產業世界,Hinton的主要工作在谷歌大腦。近兩年,TensorFlow的簡化升級,谷歌大腦的AI能力拓展,背后都有Hinton與團隊的身影。

而作為“教父”一樣的存在,Hinton更被人關注的是在AI學術領域不斷提出的顛覆性觀點。恰好這又是一個樂于顛覆自己和其他人工作的人。

2017年年底,Hinton發表了名為膠囊網絡CapsuleNetworks的方案,被廣泛認為將改寫深度學習的發展軌跡。

膠囊網絡所針對的,是卷積神經網絡的操作模式。傳統的深度學習算法中,每一層神經網絡必須做同樣的卷積運算。而膠囊網絡則認為,不同的神經元可以攜帶不同屬性,這就像人腦中的不同區域負責不同的工作。

這種將深度學習進行稀疏激活的顛覆式方案,目前已經被證明可以在圖像識別領域達成創新。不少人相信,膠囊網絡未來會成為AI可解釋、AI被賦予常識的關鍵技術。

近幾年,Hinton帶來的另一個顛覆,是在暗知識提取darkknowledgeextraction領域不間斷的工作。一般來說,深度學習獲取抽象特征,是建立在龐大的數據運算基礎上的。而這會導致AI必須消耗大量的數據和算力來反復完成訓練。而暗知識提取,或者叫知識蒸餾,則致力于讓智能體之間可以提取隱藏的知識,把一部分知識留存到子深度學習系統,最終達成智能體擺脫龐大的算力與數據渴求,觸及相對先天的“智能”。

可以看到,Hinton在今天依舊那么硬核。很多在AI世界看似常識的東西,AI之父卻壓根不相信它,并且在反復挑戰。

AI走到頭了嗎?深度學習是最終解法嗎?這老頭一輩子從來沒相信過大多數人的判斷。

三巨頭的今天:深度學習,從1到很多

假如說,三巨頭高舉火把,四下無人的那些年,是深度學習從0到1的時代。

那么今天全世界的深度學習熱,毫無疑問標志著深度學習開始從1到N。然而從三巨頭今天的工作來看,它也僅僅才到1而已。

不知道大家注意到沒有,三巨頭今天主要關注的方向,恰恰對應著以深度學習為代表的這一次AI復興,所攜帶的先天不足,以及后天激發的問題。把三巨頭的工作強行合并,可以看到這樣幾個方向:

1、AI到底是空談還是事實?解決這個問題,必須把深度學習扔到產業熔爐當中,在算力、數據和應用場景里,檢驗深度學習到底能干什么。而這也是大量AI科學家必須去企業的邏輯之一。

2、AI火了之后,各種亂七八糟的事情一定會出來飛舞,需要有人把火車拉回軌道。YannLeCun在社交媒體上四面開火就是因為這個。索菲亞的把戲、馬斯克的AI威脅論,以及“AI寒冬又來了”,這幾個說法今天在中國一定有大批擁護者。不難看出問題還是挺尖銳的。

3、AI的人才匹配與平衡問題。這輪AI復興的一個特征,是高度的產學一體化,導致學術人才可以直接與應用打通。然而學術人才如何在產業誘惑面前保持學術追求,產業如何在巨頭爭搶下獲得AI人才幫助,這個問題在中國同樣存在。

4、深度學習是把雙刃劍,軍事化、歧視與不公、因素安全等問題隨之產生。AI的社會責任,是一個刻不容緩的矛盾。

5、深度學習,不是終點。反向傳播,多層神經網絡等等技術模式構成了我們習以為常的那個“AI”。但是深度學習依舊有大量問題存在,比如黑箱性,遷移能力差,高消耗等等。我們是把今天的AI當成原教旨,還是繼續挑戰,尋找更上層的終點?這點Hinton這位“深度學習之父”真是帶了個好頭。

功績當然偉大,問題還有一堆。今天,三巨頭還在工作,他們在為他們的造物負責。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • AI
    AI
    +關注

    關注

    87

    文章

    30146

    瀏覽量

    268421
  • Facebook
    +關注

    關注

    3

    文章

    1429

    瀏覽量

    54650
  • 深度學習
    +關注

    關注

    73

    文章

    5492

    瀏覽量

    120978

原文標題:昨日種種已得獎,那深度學習三巨頭今天在忙什么?

文章出處:【微信號:AI_shequ,微信公眾號:人工智能愛好者社區】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    GPU深度學習中的應用 GPUs圖形設計中的作用

    隨著人工智能技術的飛速發展,深度學習作為其核心部分,已經成為推動技術進步的重要力量。GPU(圖形處理單元)深度學習中扮演著至關重要的角色,
    的頭像 發表于 11-19 10:55 ?246次閱讀

    NPU深度學習中的應用

    隨著人工智能技術的飛速發展,深度學習作為其核心驅動力之一,已經眾多領域展現出了巨大的潛力和價值。NPU(Neural Processing Unit,神經網絡處理單元)是專門為深度
    的頭像 發表于 11-14 15:17 ?298次閱讀

    GPU深度學習應用案例

    GPU深度學習中的應用廣泛且重要,以下是一些GPU深度學習應用案例: 一、圖像識別 圖像識別是深度
    的頭像 發表于 10-27 11:13 ?328次閱讀

    FPGA做深度學習能走多遠?

    ,共同進步。 歡迎加入FPGA技術微信交流群14群! 交流問題(一) Q:FPGA做深度學習能走多遠?現在用FPGA做深度學習加速成為一個熱
    發表于 09-27 20:53

    深度學習算法嵌入式平臺上的部署

    隨著人工智能技術的飛速發展,深度學習算法各個領域的應用日益廣泛。然而,將深度學習算法部署到資源受限的嵌入式平臺上,仍然是一個具有挑戰性的任
    的頭像 發表于 07-15 10:03 ?1179次閱讀

    深度學習中的時間序列分類方法

    的發展,基于深度學習的TSC方法逐漸展現出其強大的自動特征提取和分類能力。本文將從多個角度對深度學習時間序列分類中的應用進行綜述,探討常用
    的頭像 發表于 07-09 15:54 ?707次閱讀

    深度學習中的無監督學習方法綜述

    深度學習作為機器學習領域的一個重要分支,近年來多個領域取得了顯著的成果,特別是圖像識別、語音識別、自然語言處理等領域。然而,
    的頭像 發表于 07-09 10:50 ?514次閱讀

    深度學習視覺檢測中的應用

    能力,還使得機器能夠模仿人類的某些智能行為,如識別文字、圖像和聲音等。深度學習的引入,極大地推動了人工智能技術的發展,特別是圖像識別、自然語言處理、語音識別等領域取得了顯著成果。
    的頭像 發表于 07-08 10:27 ?627次閱讀

    人工智能、機器學習深度學習是什么

    科技日新月異的今天,人工智能(Artificial Intelligence, AI)、機器學習(Machine Learning, ML)和深度學習(Deep Learning,
    的頭像 發表于 07-03 18:22 ?1112次閱讀

    深度學習與傳統機器學習的對比

    人工智能的浪潮中,機器學習深度學習無疑是兩大核心驅動力。它們各自以其獨特的方式推動著技術的進步,為眾多領域帶來了革命性的變化。然而,盡管它們都屬于機器
    的頭像 發表于 07-01 11:40 ?1193次閱讀

    深度解析深度學習下的語義SLAM

    隨著深度學習技術的興起,計算機視覺的許多傳統領域都取得了突破性進展,例如目標的檢測、識別和分類等領域。近年來,研究人員開始視覺SLAM算法中引入深度
    發表于 04-23 17:18 ?1238次閱讀
    <b class='flag-5'>深度</b>解析<b class='flag-5'>深度</b><b class='flag-5'>學習</b>下的語義SLAM

    FPGA深度學習應用中或將取代GPU

    上漲,因為事實表明,它們的 GPU 訓練和運行 深度學習模型 方面效果明顯。實際上,英偉達也已經對自己的業務進行了轉型,之前它是一家純粹做 GPU 和游戲的公司,現在除了作為一家云
    發表于 03-21 15:19

    什么是深度學習?機器學習深度學習的主要差異

    2016年AlphaGo 擊敗韓國圍棋冠軍李世石,媒體報道中,曾多次提及“深度學習”這個概念。
    的頭像 發表于 01-15 10:31 ?1021次閱讀
    什么是<b class='flag-5'>深度</b><b class='flag-5'>學習</b>?機器<b class='flag-5'>學習</b>和<b class='flag-5'>深度</b><b class='flag-5'>學習</b>的主要差異

    GPU深度學習中的應用與優勢

    人工智能的飛速發展,深度學習作為其重要分支,正在推動著諸多領域的創新。在這個過程中,GPU扮演著不可或缺的角色。就像超級英雄電影中的主角一樣,GPU深度
    的頭像 發表于 12-06 08:27 ?1212次閱讀
    GPU<b class='flag-5'>在</b><b class='flag-5'>深度</b><b class='flag-5'>學習</b>中的應用與優勢

    深度學習人工智能中的 8 種常見應用

    深度學習簡介深度學習是人工智能(AI)的一個分支,它教神經網絡學習和推理。近年來,它解決復雜問題并在各個領域提供尖端性能的能力引起了極大的興
    的頭像 發表于 12-01 08:27 ?3238次閱讀
    <b class='flag-5'>深度</b><b class='flag-5'>學習</b><b class='flag-5'>在</b>人工智能中的 8 種常見應用