關於

一個想弄懂模型如何學習的獨立計劃。

Eisoptric 是 Rick Weng 在台灣創立的獨立研究計劃。我們想理解 AI 系統如何習得它所知道的東西,以及使用這些知識時在計算什麼,因為正是這份理解,讓更強大的系統可以被安全地打造與依賴。

我們為什麼存在。

模型的能力不斷提升,我們對它內部發生什麼的理解卻落在後面。我們認為縮小這個差距,是現在研究能做的最有用的事之一。

所以我們從兩端研究:能力在模型訓練時如何形成,以及訓練好的網路在使用它時做了什麼。而因為模型越來越常自己行動,我們也研究如何讓這些行動留在人的監督之下。

Γνῶθι σεαυτόν.
認識你自己。刻於德爾斐阿波羅神殿的前庭。

向內看。

Eisoptric 出自希臘文 eisoptron,意思是鏡子:eis 是「向內」,opt- 是「看」。合起來就是「向內看」。看一個模型有兩種方式:從外面看它說了什麼、做了什麼,或是向內讀它在計算什麼。我們做的是後者。

我們的標誌是一個大寫 E,隔著一道金色鏡線,面對自己的倒影:模型,以及從內部看見的模型。我們自己的模型仍沿用一個更早的名字 Lilith,原因寫在它們的頁面上。

誰在經營 Eisoptric。

  • I

    Rick Weng

    Eisoptric 的創立者,目前也是唯一的研究者:實驗、模型、工具與這個網站,都由 Rick 一手打造。

  • II

    獨立運作

    位於台灣。Eisoptric 不隸屬於任何公司或大學。

  • III

    刻意保持小

    只挑少數問題深入研究;研究需要的工具自己寫,而不是等別人做。

  • IV

    自己的模型

    我們訓練自己的小型模型,也就是 Lilith 系列,因為研究模型如何學習,就得看見它訓練的每一步。

聯絡我們。

一般事務與合作
hello@eisoptric.com
安全性回報
security@eisoptric.com