模型學習
我們的模型研究涵蓋架構、預訓練方法、後訓練和強化學習。 我們研究這些方法如何帶來更強的推理、程式設計和工具使用能力。
關於 Corepass
Corepass 是一家總部位於加利福尼亞州門洛帕克的 AI 研究與工程實驗室。我們同時開發模型與 AI 代理系統,把推理、學習和計算效率上的進展,轉化為能夠完成真實工作的 AI。
我們的宗旨
我們期待這樣一個未來:智慧不再束縛人類的潛能。更多的人能夠發現、創造,並解決曾經遙不可及的問題。
我們推動 AI 服務於人類拓展人的能動性,助力人類繁榮,讓進步的成果惠及世界各地的人們。
研究與工程
我們把模型和它所處的系統當作同一個問題來研究。 更強的推理能力固然重要,模型獲得的上下文、使用的工具、從中學習的回饋,以及完成任務所需的算力,同樣重要。
瞭解我們的研究我們的模型研究涵蓋架構、預訓練方法、後訓練和強化學習。 我們研究這些方法如何帶來更強的推理、程式設計和工具使用能力。
我們研究長時任務中的上下文檢索、規劃、記憶和驗證。 Remy 把這些想法付諸實踐,也為評估哪些有效、哪些失敗、下一步改進什麼提供了場景。
我們的系統研究涵蓋低精度計算、多 token 預測、記憶體和運算元最佳化。 我們以完成一項任務的品質、時間和總成本來衡量進展。
我們的方法
讓困難的程式設計和知識工作問題引導我們的研究方向。用可驗證的結果,區分看起來的提升和真正有用的提升。
快速把想法做成原型,評估它,並從失敗中學習。把有希望的成果帶回產品,檢驗收益是否依然成立。
同時研究模型品質、上下文、工具使用、延遲和算力。衡量有效工作的成本時,把失敗的嘗試和重試也算進去。