第72章 生成式對抗網絡(求追讀)
報告的標題一出,台下的學者們都露出感興趣的表情。
生成式對抗網絡,這完全是瑞秋新造出來的詞語。
到底這裡面的對抗是什麼意思?
連江銘都仰起腦袋,眼睛盯著屏幕,等待著接下來的內容。
好在瑞秋並沒有讓大家等太久,她立刻開始了解釋。
「生成模型的目標,是為了生產出原本並不存在於世的數據。」
「我所設計的生成式對抗網絡由兩個部分組成,分別是生成器和判別器。」
「生成器就是那個不斷創作的低水平樂手,他以一串隨機數作為靈感輸入,並將靈感轉換成一段音樂。」
「如果單單只有生成器,這個神經網絡是無法訓練的,因為我想要的是樂手創造出當前數據集中不存在的新的音樂!」
「而加入我又根據音樂的數據集,訓練出一個音樂評論家,他要努力區分到底這個音樂是真實存在的,還是剛剛那個低水平樂手創作的。」
「我們只需要不斷交替地訓練樂手和評論家,評論家的評判能力越來越強,而樂手的創作也越來越以假亂真。」
「最後,我們就訓練出了一個最棒的音樂生成器,和一個最有效的音樂判別器!」
轟!全場震驚。
台下瞬間爆發出一片竊竊私語聲。
「臥槽,好像還真的可以?」
「這個生成方法,完全不同於以前的最大似然估計或是變分自編碼器,簡直是徹底的顛覆性工作!」
「是啊,這個方法沒有顯式的那種概率分布,甚至生成器和判別器用不同的模型都可以,非常靈活啊...」
「不知道最後的效果怎麼樣,不過,即使效果不好,也是可以繼續改進的,光是這個想法就很棒了。」
「太妙了,真的給我打開了全新思路。」
「是啊,我們以前有一個很大的誤區,就是總想靠一個模型解決問題。她這提出用兩個組件共同訓練,竟然能起到這樣奇特的效果!」
江銘也是石化在原地。
這個成果的創新性毋庸置疑!
報告繼續,但是眾人還沉浸在剛剛的震驚情緒中無法自拔,直到瑞秋講完都還沒回過神。
錢峰及時走上台,宣布下一位報告人上台...
...
之後的兩個小時裡,江銘又聽了好幾位研究員的報告,全部都是非常優秀的工作。
有的如同瑞秋一樣,極具創新性,有的是非常簡單高效,還有的是做了非常有意思的應用。
終於到了中午的茶歇,江銘跟著林欣然第一時間來到了會展中心大廳,拿著盤子開始取餐。
會議的午餐大多不會過於豐盛,但也種類齊全,不僅有櫻花國比較特色的壽司,還有餐前的茶湯和餐後甜點。
江銘坐在角落吃得狼吞虎咽。
他還想著能在吃飯上節省點時間,再看看自己的圍棋訓練程序怎麼優化。
吃完午飯,他背上電腦,準備在會展中心找個沒人的小會議室,獨自研究一下。
路過一處沙發的時候,他正好看到瑞秋和一男一女兩位教授坐在會展中心走廊的沙發上,愉快地討論著。
看到江銘路過,瑞秋招了招手,往旁邊讓開了點位置,示意江銘坐過去。
江銘有些不好意思,但在眾人期待的目光下,也不便拒絕,只好坐了過去。
瑞秋身著比較正式的襯衫,搭配著一套黑色裙子,勾勒出性感的曲線。
江銘微微側身,稍微躲開了一絲距離,才不至於和瑞秋貼上,鼻尖傳來一絲柑橘味香水的清新氣息。
他有點臉紅,忙裝作鎮定地岔開話題:「你提出來的生成式對抗網絡真的很有意思。」
「哈哈,你過獎了,我只是一個業餘的信息學研究員。」,瑞秋謙虛道:「倒是你,開會之前我問你最近到底在研究什麼,你還沒告訴我呢。」
江銘撓了撓頭:「不是我不說,是其中有一些難題沒有解決。」
瑞秋則更好奇了,她和旁邊的教授確認了一下眼神,道:「還有能難住你的問題嗎,沒事你說出來,我們幫你想想。」
周圍的兩位教授也友好地點點頭。
他們都對江銘的研究很感興趣,短短兩個月內解決了機器翻譯問題,又提出策略梯度的研究天才,竟然也會有被難住的時候?
兩位教授眼中閃過一絲興奮,他們最喜歡有挑戰性的話題了。
「好吧,哎,其實也沒什麼,是我想訓練出一個超越人類的圍棋程序。」,江銘嘆了口氣:「就還是用策略梯度算法來讓圍棋自我對弈,不過,我昨天試了一下,這個訓練實在太難收斂了。」
眾人眼睛一亮,這個課題有意思!
圍棋一直被譽為人類智力的最高峰,其複雜程度遠遠超過其他智力遊戲的總和,如果真能挑戰成功,將是一個里程碑式的大事件。
「嗯...這的確難以收斂。」,那位男教授率先道:「我研究過你的策略梯度算法,這個通過試錯和探索來收集數據實際上是一種蒙特卡洛法,也就是需要完整下完一整局才算作收集一次有效數據。」
「但是圍棋的每一步,都有可能讓最終的勝負翻轉。這樣上百步疊加在一起,方差幾乎是個天文數字,當然難以收斂了。」,他咋舌感嘆,這個難題的確棘手。
「那有沒有可能,先學習人類的下法啊,或者讓人類來指導訓練?」,瑞秋問道。
「感覺似乎也不太走得通,人類還是太渺小了,人類的下法可能是誤導也說不定呢?況且讓人類指導,人類也判斷不出一步棋的好壞吧。」,另一位女教師反駁道。
江銘眉頭微皺,聽著面前三人的對話,突然感覺有了一點點的靈感。
人類指導不了,那機器呢?
江銘冥冥之中有了一點知覺,但靈感就像在空氣浮動的楊絮,想要抓卻又擾動了氣流,怎麼都抓不住。
就差一點點了!
不行,他感到靈感快要消失了,於是立刻在心中默念:「系統,我要使用頓悟因子。」
呼!一股熱流湧入了他的大腦,江銘終於在最後一刻把靈感化成了領悟。
「我...我好像明白了!」
生成式對抗網絡,這完全是瑞秋新造出來的詞語。
到底這裡面的對抗是什麼意思?
連江銘都仰起腦袋,眼睛盯著屏幕,等待著接下來的內容。
好在瑞秋並沒有讓大家等太久,她立刻開始了解釋。
「生成模型的目標,是為了生產出原本並不存在於世的數據。」
「我所設計的生成式對抗網絡由兩個部分組成,分別是生成器和判別器。」
「生成器就是那個不斷創作的低水平樂手,他以一串隨機數作為靈感輸入,並將靈感轉換成一段音樂。」
「如果單單只有生成器,這個神經網絡是無法訓練的,因為我想要的是樂手創造出當前數據集中不存在的新的音樂!」
「而加入我又根據音樂的數據集,訓練出一個音樂評論家,他要努力區分到底這個音樂是真實存在的,還是剛剛那個低水平樂手創作的。」
「我們只需要不斷交替地訓練樂手和評論家,評論家的評判能力越來越強,而樂手的創作也越來越以假亂真。」
「最後,我們就訓練出了一個最棒的音樂生成器,和一個最有效的音樂判別器!」
轟!全場震驚。
台下瞬間爆發出一片竊竊私語聲。
「臥槽,好像還真的可以?」
「這個生成方法,完全不同於以前的最大似然估計或是變分自編碼器,簡直是徹底的顛覆性工作!」
「是啊,這個方法沒有顯式的那種概率分布,甚至生成器和判別器用不同的模型都可以,非常靈活啊...」
「不知道最後的效果怎麼樣,不過,即使效果不好,也是可以繼續改進的,光是這個想法就很棒了。」
「太妙了,真的給我打開了全新思路。」
「是啊,我們以前有一個很大的誤區,就是總想靠一個模型解決問題。她這提出用兩個組件共同訓練,竟然能起到這樣奇特的效果!」
江銘也是石化在原地。
這個成果的創新性毋庸置疑!
報告繼續,但是眾人還沉浸在剛剛的震驚情緒中無法自拔,直到瑞秋講完都還沒回過神。
錢峰及時走上台,宣布下一位報告人上台...
...
之後的兩個小時裡,江銘又聽了好幾位研究員的報告,全部都是非常優秀的工作。
有的如同瑞秋一樣,極具創新性,有的是非常簡單高效,還有的是做了非常有意思的應用。
終於到了中午的茶歇,江銘跟著林欣然第一時間來到了會展中心大廳,拿著盤子開始取餐。
會議的午餐大多不會過於豐盛,但也種類齊全,不僅有櫻花國比較特色的壽司,還有餐前的茶湯和餐後甜點。
江銘坐在角落吃得狼吞虎咽。
他還想著能在吃飯上節省點時間,再看看自己的圍棋訓練程序怎麼優化。
吃完午飯,他背上電腦,準備在會展中心找個沒人的小會議室,獨自研究一下。
路過一處沙發的時候,他正好看到瑞秋和一男一女兩位教授坐在會展中心走廊的沙發上,愉快地討論著。
看到江銘路過,瑞秋招了招手,往旁邊讓開了點位置,示意江銘坐過去。
江銘有些不好意思,但在眾人期待的目光下,也不便拒絕,只好坐了過去。
瑞秋身著比較正式的襯衫,搭配著一套黑色裙子,勾勒出性感的曲線。
江銘微微側身,稍微躲開了一絲距離,才不至於和瑞秋貼上,鼻尖傳來一絲柑橘味香水的清新氣息。
他有點臉紅,忙裝作鎮定地岔開話題:「你提出來的生成式對抗網絡真的很有意思。」
「哈哈,你過獎了,我只是一個業餘的信息學研究員。」,瑞秋謙虛道:「倒是你,開會之前我問你最近到底在研究什麼,你還沒告訴我呢。」
江銘撓了撓頭:「不是我不說,是其中有一些難題沒有解決。」
瑞秋則更好奇了,她和旁邊的教授確認了一下眼神,道:「還有能難住你的問題嗎,沒事你說出來,我們幫你想想。」
周圍的兩位教授也友好地點點頭。
他們都對江銘的研究很感興趣,短短兩個月內解決了機器翻譯問題,又提出策略梯度的研究天才,竟然也會有被難住的時候?
兩位教授眼中閃過一絲興奮,他們最喜歡有挑戰性的話題了。
「好吧,哎,其實也沒什麼,是我想訓練出一個超越人類的圍棋程序。」,江銘嘆了口氣:「就還是用策略梯度算法來讓圍棋自我對弈,不過,我昨天試了一下,這個訓練實在太難收斂了。」
眾人眼睛一亮,這個課題有意思!
圍棋一直被譽為人類智力的最高峰,其複雜程度遠遠超過其他智力遊戲的總和,如果真能挑戰成功,將是一個里程碑式的大事件。
「嗯...這的確難以收斂。」,那位男教授率先道:「我研究過你的策略梯度算法,這個通過試錯和探索來收集數據實際上是一種蒙特卡洛法,也就是需要完整下完一整局才算作收集一次有效數據。」
「但是圍棋的每一步,都有可能讓最終的勝負翻轉。這樣上百步疊加在一起,方差幾乎是個天文數字,當然難以收斂了。」,他咋舌感嘆,這個難題的確棘手。
「那有沒有可能,先學習人類的下法啊,或者讓人類來指導訓練?」,瑞秋問道。
「感覺似乎也不太走得通,人類還是太渺小了,人類的下法可能是誤導也說不定呢?況且讓人類指導,人類也判斷不出一步棋的好壞吧。」,另一位女教師反駁道。
江銘眉頭微皺,聽著面前三人的對話,突然感覺有了一點點的靈感。
人類指導不了,那機器呢?
江銘冥冥之中有了一點知覺,但靈感就像在空氣浮動的楊絮,想要抓卻又擾動了氣流,怎麼都抓不住。
就差一點點了!
不行,他感到靈感快要消失了,於是立刻在心中默念:「系統,我要使用頓悟因子。」
呼!一股熱流湧入了他的大腦,江銘終於在最後一刻把靈感化成了領悟。
「我...我好像明白了!」