機(jī)器之心報(bào)道

作者：魔王

最近，圖注意力網(wǎng)絡(luò)一作 Petar Veli kovi 在母校劍橋大學(xué)做了一場(chǎng)講座，介紹圖神經(jīng)網(wǎng)絡(luò)的理論基礎(chǔ)。

圖神經(jīng)網(wǎng)絡(luò)（GNN）是機(jī)器學(xué)習(xí)中最熱門的研究方向之一，在提出后的十幾年里被不斷擴(kuò)展，先后發(fā)展出了圖卷積網(wǎng)絡(luò)、 圖注意力網(wǎng)絡(luò)、圖自編碼器、圖生成網(wǎng)絡(luò)和圖時(shí)空網(wǎng)絡(luò)等多個(gè)子領(lǐng)域。

最近，圖注意力網(wǎng)絡(luò)的第一作者 Petar Veli kovi 回到母校劍橋大學(xué)計(jì)算機(jī)實(shí)驗(yàn)室做了一場(chǎng)主題為《圖神經(jīng)網(wǎng)絡(luò)理論基礎(chǔ)》的講座。在演講中，Petar 嘗試從基本原理推導(dǎo) GNN，介紹其在多個(gè)學(xué)科中的應(yīng)用，并解釋 GNN 如何在多個(gè)研究路線中并行出現(xiàn)。

講座幻燈片地址：https://petar-v.com/talks/GNN-Wednesday.pdf

Petar 表示，這個(gè)演講「濃縮」了他 4 年 GNN 研究的精華，「這些年我用多種方式講授 GNN，現(xiàn)在我終于找到了最『自然』的講解方式?！顾硎?，這個(gè) 70 分鐘的講座既可以幫助初學(xué)者，也可以為 GNN 實(shí)踐者提供新的角度。

接下來，我們就來看 Petar 講了什么。

Petar Veli kovi ：我找到了最「自然」的 GNN 講解方式

分子是圖，交通地圖是圖，社交網(wǎng)絡(luò)也是圖。

Petar 首先介紹了現(xiàn)實(shí)世界中的圖、圖神經(jīng)網(wǎng)絡(luò)的實(shí)際應(yīng)用，以及 GNN 的相關(guān)庫和數(shù)據(jù)集等。

緊接著他展示了該講座的主要內(nèi)容：

基于基本原理推導(dǎo) GNN；

介紹 GNN 的多個(gè)獨(dú)立研究變體；

回顧：類 GNN 模型在 ML 研究歷史中的出現(xiàn)；

當(dāng)下：目前的一些研究方向；

展望：GNN 如何泛化至圖結(jié)構(gòu)輸入以外。

Petar 表示，該講座的內(nèi)容基于其關(guān)于幾何深度學(xué)習(xí)的研究、麥吉爾大學(xué)助理教授 William Hamilton 的著作《圖表示學(xué)習(xí)》，以及 Yoshua Bengio、Marco Gori、Jürgen Schmidhuber 等多位研究者的工作。

基于基本原理推導(dǎo) GNN

Petar 首先從基本原理定義 GNN，然后介紹了對(duì) GNN 處理圖數(shù)據(jù)有用的特性，并列舉了一些示例。

GNN 的過去、現(xiàn)在與未來

Petar 介紹了 GNN 的發(fā)展過程與研究藍(lán)圖，及其在多個(gè)研究領(lǐng)域中的并行出現(xiàn)。例如，自然語言處理與 GNN。

關(guān)鍵詞： 70 分鐘 了解 神經(jīng)網(wǎng)絡(luò)