由統計機器學習的觀點,如何在概念上理解預訓練的過程

2022-06-22 18:06:37 字數 5048 閱讀 9261

1樓:匿名使用者

預訓練指的是train model的過程。感覺從概率的角度看,一般是用概率上的統計模型擬合資料,

例:資料源自高斯,或類高斯的模型,那麼就可以用高斯模型擬合資料,進而得到該高斯模型的(均值,方差),然後對於乙個新來的輸入,就可以根據這個高斯模型,**其屬於該類別的概率。

目前機器學習的乙個比較熱門的方向是統計機器學習(另外乙個可能是圖模型,按照jordan的說法是統計機器學習屬於頻率主義,而圖模型屬於貝葉斯主 義), 對於每乙個做統計機器學習的研究者來說,他們大致可以分為兩類:一類做統計學習理論相關工作,如泛化界、約簡或一致性;一類做優化演算法,如支援向量機、 boosting等。作為乙個純統計機器學習的學者來說,我想這兩塊內容都得了解。

優化演算法的門檻低點,可能比較容易上手,了解並不太難,比如支援向 量機本質上是求解乙個rkhs上的二次優化問題,boosting是函式空間上的梯度下降優化問題。統計學習理論的門檻高點,需要的基礎數學知識多點,離 計算機出生的人比較遠,因而常常使人望而生畏。對統計學習理論這塊做了些整理,發現其實這塊東西並非如想象的那麼難,本質無非是概率集中不 等式在機器學習上的應用,下面以泛化界為例講一下自己對那塊內容的理解。

中文上的意思是,依賴於許多獨立隨機變數的隨機變數本質上是個常量,舉個例子,經驗風險就是乙個依賴於乙個隨機訓練樣本集合的隨機變數,因而經驗風險本質 上應該是個常量。

2樓:寒寒家

預訓練指的是train model的過程麼?還是deep learning中的unsupervised pre-training?

如果是前者的話:

感覺從概率的角度看,一般是用概率上的統計模型擬合資料,例:資料源自高斯,或類高斯的模型,那麼就可以用高斯模型擬合資料,進而得到該高斯模型的(均值,方差),然後對於乙個新來的輸入,就可以根據這個高斯模型,**其屬於該類別的概率了。

3樓:墨漬

如果你聽說過猴子和打字機的故事就好理解了,猴子打出來的名著就是人工智慧,所謂的機器學習就是猴子打字,而預訓練就是培訓猴子打字

4樓:匿名使用者

以作畫為例。這個本身可以當成乙個隨機過程。可參考lda對比。可以是 想法->輪廓畫->成畫。預訓練,可以認為,給定一幅成畫,找出其最可能的輪廓畫的樣子。

5樓:匿名使用者

不好說。直覺上,第一點,預訓練後,新的表示只留了骨架,類似一張**的速寫素描版本,資訊量減少了,但表達的意思都還在。

6樓:匿名使用者

所以可以從速描圖和原圖兩者之間的關係上想想。

學習哲學後的感悟?

7樓:匿名使用者

哲學是一門讓人變聰明的學問。通過學習哲學,我受益匪淺。但我首先想談的不是學習哲學我獲得了什麼,而是我為什麼要選擇哲學這門選修課。

因為我覺得我現在在哲學上所獲得,正是由於當初的選擇。選擇決定收穫這個觀點,雖然片面但是如果只從自己的角度來看,我覺得它是正確的。我為什麼會選擇哲學這門課呢?

具體的有以下三個原因:第一點:選擇這門課是因為我是山東人。

我從很小的時候就知道我們山東有個聖人——孔子。聽說孔子對山東乃至整個中國都影響很大。但是我卻對孔子了解甚少。

小學的時候不懂的去學習有關孔子的知識。到了中學卻忙於考高中,高中時候又忙於考大學,這又是六年的時間被我荒廢了。在這六年中我雖然接觸孔子的很少,但是我愈睞愈發現我對孔子的精神是那麼的偉大,我對他的崇拜漸漸的公升高了。

當我看到這門課中能夠學習到孔子,我心動了。第二點:我選這門課還因為乙個人,那就是《三十六計》的創作者——孫武。

我曾經看過白話本的《三十六計》,覺得枯燥無味,於是半途而廢,沒有看完。後來一次和朋友討論問題是,談到孫武的《三十六計》。當時朋友是侃侃而談,而我只有聽的份。

我甚是汗顏,為什麼同樣是看過的知識,我怎麼就一點也不會運用呢?我想了想,終於得出答案:我不曾系統的學習過。

當看到選修課程中提到孫子,我更加堅定我的選擇了。再往下看,課程中還提到莊子、孟子、墨子、老子等等,這簡直是超出我的期望值了。於是我毫不猶豫的選擇了哲學這門課。

第三點:這門課吸引我的地方還有一點,那就是它的名字「中國哲學智慧型」。哲學的智慧型,智慧型的哲學。

我自認為自己比較笨,缺少智慧型。現在中國哲學智慧型這門課能夠給我智慧型,我為什麼不學呢?為了使自己智慧型,我也要選這門課。

在後來的學習中我確確實實的感受到哲學真的可以給人智慧型。接著我想要說的也不是學習哲學我獲得了什麼,而是我為什麼有興趣學習哲學。我曾聽到一起學習哲學的同學說:

學習哲學真枯燥。聽到他這麼說,我都會對著他說:你認認真真的聽一堂課,你會愛上哲學的。

後來他告訴我:哲學課挺有意思,為什麼你不早告訴我呢?每次上課時候我都會乖乖的坐在前三排的位置上,感受哲學的薰陶。

我為什麼對哲學課情有獨鍾呢?有以下三點原因:首先是老師的氣質深深的感染了我。

這絕對不是奉承。我自己認為學生喜歡某一門課,首先要喜歡老師被老師吸引,其次是喜歡老師講的課。當我第一眼見到老師的時候,我就被老師那樣一身的哲學氣質吸引。

我當時嘆了一句:不愧是哲學老師。我當時就想:

即使在哲學課上我學不到知識上的東西,但我只要能學到一點老師身上的氣質,我也就滿足了。現在想起來我學了不少的哲學知識,但是像老師那樣的氣質我卻很難學得到。其次是老師講的課。

老師講的課把本來枯燥的哲學講的生趣有味,使我們理解起來容易,不覺得是一種負擔,反而覺得是一種享受。把哲學和當今社會,把哲學和個人緊密的聯絡起來,把哲學變成能夠實用的學問,這很符合現在人們急功近利的心態,所以我們很喜歡。拿來能自己用,這也是學習的目的。

再者就是自己的求知慾望。我覺得哲學是一種很深的學問,僅在課上聽到是不夠的,如果自己再不聽課的話那更是遠遠不夠的。所以我有聽課的動力。

再加上我開始就對哲學很感興趣,我會更努力的去聽課。以上是我對哲學課的一些感觸。下面我談談一直沒有談到的學習哲學的收穫和感受。

我認為學習哲學就是學習一些思想,一種思維方式,但是這些思想不是那種條條框框所束縛的。哲學的思想是需要感悟的。每個人由於經歷的不同,所以對哲學的感悟也不盡相同。

感悟的這些思想是獨立的,不受任何的條框限制的。我通過學習哲學感悟到許多的東西:人生,生死,為人,處世等等。

人生是什麼?我曾經考慮過,但不曾有結果。學習了哲學,了解了許多的哲學家的人生觀,我自己也想了想自己的人生,發現自己人生有點可悲。

我想到那個放羊娃的故事,那個故事敘述了放羊娃的一生「放羊—娶妻—生娃—娃再放羊……」,而想象一下自己的人生我發現我的人生和放羊娃有著極其相似的一面:「上大學—娶妻—生娃—娃再上大學……」。我想人生是輪迴吧,也許人生就是乙個人在乙個圓上的乙個點往前走又走回到這個點。

生與死的思考。閒暇之餘自己想生和死的問題。有的時候想著想著自己就搞不懂自己是生是死。

把生想到盡頭就是死,而一旦你把死看開,那麼死的盡頭是什麼,那不還是生嗎?這時候覺得生死是一樣的。我曾經這樣理解生和死:

我認為人總是生著或者總是死著。但是生和生又不一樣,有的生在這裡(比如天堂)有的生在那裡(比如人間)。如果天堂和人間是一樣的那,那麼我們自己到底是生存在哪個世界呢?

我不知道了。生和死沒有太大的區別。為人,即怎麼樣做人。

學習哲學接觸到那麼多的聖人,了解了那麼多他們的思想。在聖人身上我學到了:人要不畏艱難險阻,不畏生死,敢於獨立思考。

比如孫臏身殘志不殘,給後人留下了《孫臏兵法》。比如莊子,他自己一生一貧如洗,沒有幾個朋友,但是他仍然保持自己的個性,脫世超俗,著書立說。他們的精神深深的感動著我。

處世方面:孔子教育我要尊敬師長;要再思可行;要「知其不可為而為之」;要「溫、良、恭、儉、讓」;要從善如流。墨子教育我要有博愛精神,「兼相愛」;要「非攻、非樂、節用」;要「交相利,任人唯賢」。

莊子教育我要出世超俗;要把外在事物看淡。不以外物而動心;要懂得浪漫一點;要「知其不可奈何而安之若命」;要學會忘,「忘形、忘言、忘蹄、忘簽」;在學習上莊子說「吾生也有涯,而知也無涯。以有涯求無涯,怠矣!

」他教育我們要抓住瞬間即逝的樂趣,及時行樂。 而韓非子教育我「重利,重力」。在現代社會中,在現代的功利社會中,韓非子的理論很受用。

以上的哲人告訴我們的智慧型,只要好好的加以選擇利用,則會對我們的處世幫助很多。哲學課上學到的東西不僅僅有這麼多。那些哲人的精神引導著我,讓我在挫折困難面前能夠應付自如。

哲學教我用乙個積極的心態去面對問題,解決問題。我想哲學的智慧型就在於此吧!

8樓:sky梓珞

在漢語中,哲學是聰明的意思。在希臘文中則意味著愛智慧型。所以,按照字義的解釋,哲學是一種可以使人聰明啟發智慧型的學問。

然而,這並不足以表明哲學的實質,哲學作為一門學問,是同人們的世界觀聯絡在一起的,是人們世界觀的理論表現形態。

因此,哲學是理論化,系統化的世界觀。所謂的世界觀就是人們對於生活在其中的整個世界以及和世界關係的根本觀點根本看法。 哲學則是將人們的世界觀用理論的形式加以高度的抽象概括,通過系統特有的概念,範疇和系統的邏輯論證而形成的思想體系。

9樓:匿名使用者

剛開始比較難 ,後來會好一點的

10樓:匿名使用者

認識到自己存在於這個世上的價值!

學習哲學的好處有哪些?

11樓:匿名使用者

思考這個問題。

根據我的切身經歷:我學習哲學有一年了,前半年是看康德的哲學,後來隨便看了點雜文和哲學史,還讀了些叔本華尼采的哲學,後半年就學習心理學去了,都是自學。不知道你為什麼想到要學習哲學,我當時是因為極度陷入孤僻和痛苦之中,感覺無法自拔,偶然發現的,想從哲學裡面尋找到解脫和出路,可一年過去了,我還是沒有走出孤僻,卻發現痛苦不見了。

我覺得學哲學收穫的不應該是知識,而是獨立思考的習慣,和嚴謹認真思考的習慣,最後提高的是思考的能力,這才是哲學真正的用處,其他的只能算作是附帶的。

其實哲學並不能真正幫助你獲得什麼,也談不上有什麼用,因為不管你是學習哲學,還是做其他什麼事情,獲得的都是經驗,是關於人生的經驗,那些都是人獲得幸福的根本,因為經驗會改變你的習慣,這才是人真正需要的,所以培養好的習慣是最重要的。建議你從自己的性格出發,理性考慮實際情況,去培養好的習慣(比如鍛造自己的毅力等),這是最有用和最有效率的,學了哲學,你得到的結論也只會是這樣的,適合自己的永遠都是最好的。

當然,如果你真的對哲學十分有興趣,我推薦你先讀一些哲學史之類的書籍,入門的有《蘇菲的世界》、《西方哲學史》,稍微暢銷但個人認為還不錯的普及哲學書籍有《當下的力量》、《沉思錄》。

如何在老師外出時保持自我學習的作文

周四下午,臨近放學,班主任 突然對我們說 同學們,明天,我就要去外地學習了。大概15天,期中考試之後回來。啊?同學們都驚訝地張大了嘴巴,您走了,我們的課誰來上?學校會安排代課老師的。今晚我會把學習提綱寫好,放在班長那兒,以後就按提綱上的來。我不在的這段時間裡,大家能管好自己嗎?能!大家異口同聲地說。...

如何在工作和學習中間進行有效的休息?

要想在工作和學習中進行有效的休息。就每天要勞逸結合,早睡早起,不要有過多的時間去浪費精力,過多的時間看一些無聊的東西呀。把這些時間騰出來學習或者工作,這樣會有很好的休息時間。在工作和學習中間進行有效的休息。能咋滴呀,抽空就休息唄。聽聽 啦。趴在桌上眯一會兒。要是說時間長的話。你可以出去散散心。去公園...

如何在教學中激發學生的學習興趣,如何培養激發學生的學習興趣

文庫精選 內容來自使用者 泥越 如何激發學生的學習興趣 興趣是求知的內在動力。激發起學生的興趣,學習就會積極主動,學得輕鬆而有成效。但是學習興趣不是天生的,主要在於教師如何引導學生,充分調動學生對學習的積極性和主動性,進而能創造性地學,最終達到優化課堂教學和提高教學效率的目的。語文教學應該怎樣去激發...