
6
|
第一章:機器學習
• 螞蟻
• 白蟻
1
• 蜜蜂
• 遺傳演算法
以螞蟻聚落(Ant colonies,
https://mitpress.mit.edu/books/ant-colony-optimization
)
的研究為例,研究人員致力於讓電腦能像螞蟻一樣,成為一種強大的去中心化
電腦,這麼一來就沒有任何一隻螞蟻(電腦)會成為失敗的中心點。螞蟻會透
過像是「定量共識主動性(quantitative stigmergy)」這樣的元啟發式(meta-
heuristics)技術,藉由不斷轉換工作的方式,找出接近最佳的負載平衡解決方
案。螞蟻聚落有能力同時執行包括防禦、築巢、搜尋、儲存食物等各項工作,
又可以根據相對需求,讓參與每項工作的工作者維持近乎最佳的數量,而不需
依靠單獨的螞蟻進行直接的協調工作。
什麼是深度學習?
深度學習的定義,對許多人來說是一種挑戰,而在過去十年中,它的樣子也緩慢地逐漸
在改變。其中一種還算有用的定義方式,就是把深度學習定義為「具有兩層以上的神經
網路」。但如果根據這個定義,深度學習似乎從 1980 年代以來就已經存在了。我們認
為,現代神經網路必須在架構上超越早期的網路風格(也就是結合更多的處理能力),
才能展現出近年來的豐碩成果。以下就是現代神經網路經過逐步演化之後其中的一些
面向:
• 比過去的網路包含更多的神經元
• 神經網路中的層與層、神經元與神經元之間,連結的方式更加複雜
• 可用於訓練的計算能力呈現數量級暴增
• 特徵提取自動化(Automatic feature ...