韩国一级成a人片在线观看,我要看欧美精品一级毛片,欧美一级黑人片

Transformer作者已獲得6500萬美元投資專攻通用人工智能

2022-04-30 08:27:54 來源：量子位

最近，一家 AI 初創(chuàng)公司引起了不少人的注意。在推特上宣布成立之時，有不少人為其點贊和轉發(fā)。一上來就要搞通用人工智能，什么來頭？我們看了一下它的創(chuàng)始人名單：

Ashish Vaswani 和 Niki Parmar，這不是大名鼎鼎的 Transformer 論文作者嗎？

這篇開山之作引用次數已高達 4 萬，瀏覽新論文時經常會看到“(Vaswani et al., 2017)”的字樣，以至于這個名字都快被刻進 DNA 了。

他們這是，離開谷歌了？

Transformer 作者出走谷歌創(chuàng)業(yè)

Ashish Vaswani 和 Niki Parmar 兩位作者在推特上的官宣證實了這一消息。

兩位大佬在谷歌干了 5 年有余，做出了 Transformer 這一具有代表性的傲人成績后，開始了新的職業(yè)生涯。他們參與創(chuàng)辦的這家 AI 公司，名叫 Adept ，目標是創(chuàng)造讓人和計算機能夠協(xié)同工作的通用人工智能。說的更直白一些，他們就是要打造一個通用模型，它能做到不是讓人用計算機來完成工作，而是讓人和計算機一起使用同樣的工具合作完成工作。

至于為什么要離開谷歌創(chuàng)業(yè)，這事兒還是得從 Transformer 說起。

眾所周知，2017 年誕生的 Transfromer，具有高度的通用能力，一路從最初的 NLP 橫跨 CV 等領域，成為了不少巨型模型的基本架構，包括大名鼎鼎的 GPT-3、BERT、AlphaFold 等。

截止目前，Transfromer 在谷歌學術上顯示的引用次數已達 40723 次。順便還帶火了“xxx is all you need”格式的論文標題黨方式。而 Ashish Vaswani 和 Niki Parmar 和其他創(chuàng)始人們，正是看重 Transformer 的通用智慧，他們表示：

Transformer 應該是第一個對每個主要 AI 用例都能“正常工作”的神經網絡。

這讓他們相信：通用人工智能是完全有可能被實現(xiàn)的。

但遺憾的是，盡管他們訓練出了越來越大的 Transformer，希望最終建立一個支持所有 ML 用例的通用 Transformer，但眼下就已經出現(xiàn)了一個明顯的限制：Transformer 可以寫出一篇不錯的文章，我們卻沒法要求它完成幫人訂飛機票、給供應商開發(fā)票甚至做科學實驗等等工作。

所以，這些人決定創(chuàng)辦通用人工智能公司 Adept。

正如前面所提到的，Adept 要實現(xiàn)的通用人工智能模型不僅是讀讀寫寫，還能使用 Airtable、Photoshop、ATS、Tableau、Twilio 等工具幫你完成諸如“生成本月閱讀報告”等工作。

因此有人認為，Adept 的目標更像是協(xié)作智能，它選擇了和其他通用人工智能（AGI）公司截然不同的實現(xiàn)道路，即并非建立 AGI 來接管各種有價值的任務，而是建立 AI 工具，來幫人類完成任務。這種方式更容易實現(xiàn)。

創(chuàng)業(yè)陣容豪華

Ashish Vaswani 博士畢業(yè)于南加州大學，在谷歌大腦工作已有 5 年；Niki Parmar 則是在印度上完大學后，同樣在南加州大學讀完碩士，在谷歌工作了近 7 年。

Adept 的創(chuàng)始團隊陣容除了這兩位以外也非常豪華：

Kelsey Schroeder，斯坦福大學計算數學（computational mathematics ）專業(yè)碩士，前谷歌大模型生產 infra 的產品負責人；

Anmol Gulati，在谷歌主要做語音識別模型；

Augustus Odena，在谷歌領導大型語言模型相關的工作，也有不少圖像合成方面的研究；

David Luan，前 OpenAI 加州實驗室工程副總裁，參與過 GPT-2、GPT-3、CLIP 和 DALL-E 等模型的開發(fā)工作，后來他加入谷歌，擔任谷歌大腦大模型研究的 Director；

Erich Elsen，機器學習和高性能計算交叉領域的研究人員，前 Deepmind 員工，主要研究大模型，在更早之前，還分別在谷歌和百度（硅谷 AI Lab）干了兩年；

Fred Bertsch，谷歌數據和協(xié)作人工智能系統(tǒng)方面的專家。