雖然TensorFlow,、PyTorch等深度學(xué)習(xí)框架大大降低了深度學(xué)習(xí)模型實(shí)現(xiàn)的門檻，讓研究者或開發(fā)者可以像搭積木一樣通過組合和嘗試（調(diào)參）來研發(fā)新的深度學(xué)習(xí)模型,，目前深度學(xué)習(xí)的發(fā)展仍離不開背后數(shù)學(xué)基礎(chǔ)的指導(dǎo),。機(jī)器學(xué)習(xí)中的一些數(shù)學(xué)理論，如泛化誤差,、VC維等對深度模型的構(gòu)建依然有著非常重要的指導(dǎo)意義,。例如現(xiàn)有的一些深度網(wǎng)絡(luò)容易受到對抗樣本的攻擊，從工程角度來說,，這些模型可能在大部分?jǐn)?shù)據(jù)上能夠達(dá)到滿意的指標(biāo),，但是人們可以利用這些網(wǎng)絡(luò)理論上的漏洞和缺陷對其進(jìn)行攻擊，對自動駕駛等系統(tǒng)產(chǎn)生嚴(yán)重的影響,。

在人工智能不確定性會議（UAI）2019中,，特拉維夫大學(xué)的教程《MATHEMATICS OF DEEP LEARNING》（《深度學(xué)習(xí)數(shù)學(xué)基礎(chǔ)》）介紹了與深度學(xué)習(xí)相關(guān)的一些數(shù)學(xué)基礎(chǔ),。該P(yáng)PT首先介紹了目前一些成功的基于深度學(xué)習(xí)的應(yīng)用,，如疾病診斷、自動翻譯,、視頻分類,、圖像降噪等。但作者認(rèn)為,，目前數(shù)學(xué)理論并不能很好地解釋為什么深度學(xué)習(xí)可以達(dá)到如此好的效果,。一些數(shù)學(xué)理論嘗試解釋深度網(wǎng)絡(luò)的工作原理，例如深度網(wǎng)絡(luò)需要多少訓(xùn)練數(shù)據(jù),、池化層的作用是什么,、網(wǎng)絡(luò)深度的作用等。后面,，作者著重介紹了泛化誤差,、對抗攻擊,、輸入邊界、數(shù)據(jù)和模型的不變性等理論,。