第章意義空前的貢獻

　　這種情況下，找知識的共性非但沒對他們造成幫助。

　　反而成為了他們學習時候的拖累。

　　就很苦逼了。

　　與其出現(xiàn)這種情況，這些人干脆放棄了找知識的共性。

　　直接一視同仁，至少不會聰明反被聰明誤。

　　類似于學習上這些人面對的窘境。

　　或許機器學習方面的學者也是因為同樣的境遇才放棄了對訓練數(shù)據(jù)共性的尋找。

　　至少在伊芙·卡莉這是因為這個原因。

　　縱然是現(xiàn)在知道了林灰在模型訓練中引入了預(yù)訓練方式。

　　伊芙·卡莉現(xiàn)在也不知道林灰究竟是如何做的。

　　按照林灰在論文中補充內(nèi)容進行的闡述。

　　傳統(tǒng)的訓練機制下，文本摘要模型的產(chǎn)生思路是：

　　語料訓練→模型

　　而按照林灰的思路引入預(yù)訓練機制后。

　　文本摘要模型的產(chǎn)生思路是：

　　語料預(yù)訓練→預(yù)訓練模型→微調(diào)→模型

　　這個思路的本身是沒問題的。

　　但伊芙·卡莉面對著這個全新的模型產(chǎn)生思路卻滿腦子全是問題。

　　具體應(yīng)用的時候究竟引入何種的預(yù)訓練方式才能夠起到事半功倍的訓練效率？

　　什么樣的預(yù)訓練模型才是預(yù)訓練的目標？

　　對于預(yù)訓練模型的“微調(diào)”究竟應(yīng)該如何理解呢？

　　前兩個問題是就林灰鼓搗的理論而產(chǎn)生的疑問。

　　第三個問題是因為語言方面的闡述而產(chǎn)生的一些疑問。

　　盡管伊芙·卡莉最近在向米娜·卡莉努力地學習漢語了。

　　但漢語顯然并不是短時期內(nèi)能夠速成的。

　　對于預(yù)訓練模型林灰所謂的“微調(diào)”的“微”究竟應(yīng)該如何理解呢？

　　只是一點點小小的調(diào)整么？

　　還是說所謂的“微”只是因為林灰本人對這一事情難度的蔑視。

　　伊芙·卡莉覺得應(yīng)該是后者。

　　不太可能是微小的調(diào)整。

　　為什么伊芙·卡莉這樣想呢？

　　伊芙·卡莉覺得涉及到文本摘要方面的模型往往都是極其復(fù)雜的。

　　一個正式模型所涉及到的參數(shù)都是極其繁多的。

　　更何況是預(yù)訓練產(chǎn)生的預(yù)訓練模型呢？

　　這種先于正式模型產(chǎn)生的粗模型可能參數(shù)要更加復(fù)雜。

　　當然，這只是伊芙·卡莉的一點猜測。

　　涉及到這些問題只有林灰本人才可能有真正的答案。

　　自從來到林灰的身邊之后。

　　原本伊芙·卡莉以為自己的問題會逐漸變少。

　　但實際卻是問題愈發(fā)變得多了起來。

　　至少剛才的那幾個問題在美國的時候伊芙·卡莉就從來沒疑惑過。

　　但對此伊芙·卡莉并沒有灰心喪氣。

　　科研方面從來都是提出問題比解決問題更重要。

　　伊芙·卡莉很清楚，雖然此時她的疑惑比在美國時候的疑惑還要多。

　　但這無關(guān)緊要，至少她現(xiàn)在提出的問題相比于以往那些問題現(xiàn)在才更接近技術(shù)的本質(zhì)了。

　　而這就是學術(shù)方面的成長。

請勿開啟瀏覽器閱讀模式，否則將導致章節(jié)內(nèi)容缺失及無法閱讀下一章。