Own Your Intelligence:LangChain 談為何通用 AI 不夠用
LangChain 主張企業必須擁有自己的智慧,而非依賴通用模型,並掌控三個層面:模型、執行框架與上下文。它表示,擁有代理系統,以及圍繞其的經濟效益、品質與風險,才能讓 AI 轉化為持久的優勢。
LangChain 主張企業必須擁有自己的智慧,而非依賴通用模型,並掌控三個層面:模型、執行框架與上下文。它表示,擁有代理系統,以及圍繞其的經濟效益、品質與風險,才能讓 AI 轉化為持久的優勢。
JioStar 首席架構師 Vijay Seshadri 分享在 5 億用戶規模下運行 AI 探索的經驗,涵蓋評估、護欄,以及將 AI 投入生產。這篇由 OpenAI 發表的文章聚焦於大規模 AI 部署背後的營運實務。
Anthropic 研究主張,AI 系統現在能在一個下午內推導出霍奇金-赫胥黎模型等方程式,但擬合實驗數據並不等同於理解。這項工作將科學建模拆解為建立、約束與詮釋模型,並指出 AI 在約束模型方面進展最大,其中貝氏推論是繪製所有可能參數集而非單一擬合的標準方法。
曾主導 DARPA 網路大挑戰(Cyber Grand Challenge)的微軟研究院經理 Mike Walker,暢談駭客文化如何形塑他打造次世代網路防禦的職涯,包括首場全機器駭客競賽。他主張有效的安全取決於理解信任與脈絡,並回顧競技駭客經驗教會他關於團隊合作與集體智慧的事。
Replit預測,到2030年底,每家財富500強公司都將成為「自駕式公司」,由代理執行與協調工作,而人負責設定目標並承擔責任。Replit表示,其工程師在2026年上半年的程式碼產出幾乎增加兩倍,而審查時間、回退次數與產品事故則持平。Replit for Business正作為基礎打造,而在SMFL,一個過去需要六個人花六個月完成的開發流程,由一個人在一週內完成。
Sakana AI 已推出 Sakana Chat、Sakana Marlin、Sakana Fugu 與 Sakana Translate,從研發階段邁向為企業與政府機構交付產品。其市場推廣(Go-To-Market)團隊由副總裁 Hidekazu Kakishima 領導,於 2026 年 9 月成立,目前正在招募 Forward Deployed Engineers,以將客戶現場的學習回饋到產品中。
微軟研究院Catalyst Lab總監Chris White回顧了他在DARPA計畫之後於阿富汗領導先進技術行動的經歷,以及後來打造暗網搜尋工具以打擊人口販運的過程。在與Weishung Liu對談的微軟研究院Podcast節目中,White討論了問題選擇如何形塑創新,以及他在見識過人性最黑暗的一面後如何保持希望。
Vapi 已推出 Personal Agent Calling 測試版,使用者只要登入 Vapi,即可透過個人代理撥打電話,無需設定 API 金鑰。該公司主張,商家必須驗證代理代表誰、被允許做什麼,以及該權限是否仍然有效,並以 A2A 開放標準與 OAuth 為基礎。強迫客戶從頭來過,恐有流失生意的風險。
正在評估是否要自行打造語音代理的團隊,真正在決定的是要不要自建一層協調層,因為代理本身只佔約 20% 的工作量,其餘都是即時音訊、電話系統與可觀測性基礎設施。某家排程軟體廠商的六週展示,最後變成八個月的專案,之後才在六週內把這項功能遷移到平台上。只有在需要深度客製化管線、已有語音基礎設施、法規限制,或語音是核心競爭優勢時,自建才說得通。
Modal 主張它應該被理解為一台電腦,而不是「運算界的 Uber」、新雲端或推論供應商,因為它賣的是處理器秒數與位元組秒數,而非 token。文章將傳統機器的 ALU、記憶體階層、I/O、NIC 與作業系統,對應到 Modal 的容器、物件儲存、Input/Output Plane、Routing Plane 與 Tunnels。它也將 Modal Functions、Sandboxes 與 Servers 對應到無狀態工具、Linux 行程與 HTTP 監聽器。
UC Berkeley 的 Aditya G. Parameswaran 與合作者主張,隨著推論成本從 2023 年初約每百萬個 token 30 美元降到今日不到 1 美元,資料系統必須圍繞三大挑戰重新設計:為 Agent 而生的系統、由 Agent 組成的系統,以及由 Agent 打造的系統。他們指出,在一個每項任務配置多個 Agent 的 text-to-SQL 基準測試中,只有 10-20% 的子計畫彼此不同,因此 80-90% 的子查詢都在重複相同工作,並據此提出重用、近似與主動式資料系統。
Vapi 主張,語音 AI 如今能讓語音成為 ACCESS 慢性病管理中在經濟上可行的管道,並引用 Hiya 的數據指出,42% 的消費者偏好以語音進行醫療保健溝通,高於前一年的 33%。該文章詳細介紹了三套正式上線的工作流程,其中包括 Spring Venture Group 的聯邦醫療保險潛在客戶資格審核代理,該代理由四名工程師在一週內打造完成,將轉換成交率提升了 3%,並帶來超過 580 萬美元的合計節省與新增營收。
Vapi 產品管理副總裁 Nathalie Criou 在 HumanX 座談會上與 Salesforce、Databricks 和 TinyFish 同台表示,AI 是放大而非取代領域專業與判斷力等基礎功。她說,Vapi 的平台建立在數百萬次真實世界的語音互動之上,能累積單次訓練無法複製的組織記憶。座談小組認為,搶先進入市場這類淺薄的護城河正在消退,而信任、轉換成本和獨特的互動資料則以更快的速度複利累積。
Modal 主張,那些幫助人類的開發者體驗原則——緊密的回饋循環、透過 CLI/SDK/API 的程式化存取、可據以行動的錯誤訊息,以及與程式碼相鄰的一致範例——同樣能讓 coding agents 更快。由於 agents 是透過產生、執行與觀察程式碼來迭代,含糊的錯誤或僅限 UI 的設定會讓它們停滯,因此為 agents 設計意味著套用同樣的原則,而非重新發明它們。
OpenAI 的 GPT-5.1 新增了一致性的個性預設——Default、Professional、Friendly、Candid、Quirky、Efficient、Nerdy 與 Cynical——以及更具對話感的 GPT-5.1 Instant,和快速自適應推理,讓簡單問題獲得快速回覆,而複雜問題則獲得更多思考。Vapi 表示,該模型已於上週在 OpenAI 發布消息的同時在其平台上線,讓語音代理無需改寫提示詞即可採用符合品牌調性的語氣。
Vapi 創辦人回顧公司如何舉辦 VapiCon,這場號稱首場語音 AI 高峰會的活動,吸引了 850 名與會者,以及來自 OpenAI、Deepgram 和 Assembly AI 的語音 AI 領袖齊聚一堂。Vapi 在活動上花費約 50 萬美元,回收約 40 萬美元,創辦人指出,真正的回報在於合作夥伴關係與企業交易。該公司現已推出 VapiCon 影片庫,收錄所有議程與座談。
Modal 部落格文章主張,承襲自 OpenAI、Anthropic 與 Alphabet 等 API 供應商的「每 token 美元」計價方式,對執行自架 LLM 推論的團隊有害。文章認為應用程式使用者在意的是請求而非 token,因此需要以每請求為框架來思考延遲、副本數量與運算成本。
Claude 與 ChatGPT 在對話品質、上下文記憶、速度、功能、創意寫作、研究、定價與介面等方面進行比較。Claude 為 Pro 用戶處理高達 200,000+ 個 token,擅長創意寫作與細膩對話,而 ChatGPT 支援 128,000 個 token,回應時間為 2-3 秒,Claude 則為 5-10 秒,並提供圖像生成與 Custom GPTs。兩者的 Pro 方案皆為每月 $20,Claude Max 為 $100-$200,ChatGPT Pro 為 $200。
Modal 認為,AI 的 GPU 短缺源於一種錯配:大部分需求流向訓練,但營收來自推論,而推論工作負載本質上波動不定。由於請求率會隨日夜循環、每週模式、爆紅流量與成長趨勢而起伏,固定的長期 GPU 預留會使真實世界的叢集使用率低於 50%。將眾多使用者的需求匯聚起來——以總和的峰值而非峰值的總和來配置資源——能大幅提升使用率,而跨區域匯聚供給則能進一步增加彈性。
Cursor 發布了其最初「Problems」文章的後續,列出它認為對下一階段 AI 編程最關鍵的研究問題。該公司已將 Copilot++ 擴展到預測下一個游標位置,並將其與下一次編輯預測結合,讓模型能夠「演奏」低熵變更序列——一個演示需要按 11 次 Tab 鍵,而其他每個鍵按 3 次,Cursor 稱之為 Cursor Flow。其他方向包括跨代碼庫的動作預測、透過更多推理時計算實現完美編輯、幻覺偽代碼、多檔案編輯、最佳上下文、多跳上下文,以及錯誤偵測與除錯。
Cursor 公布了一份它正在處理的問題清單,包括訓練一個自訂的快速重排序器,將所有來源的 500k 個 token 過濾到每次請求最相關的 8k。該清單還涵蓋一個面向編輯的 copilot、針對大型程式碼庫的受約束流程內代理、錯誤尋找,以及更大規模的編輯。截至 2023 年 10 月 12 日,Cursor 已索引 1.4B 個向量和 150k 個程式碼庫。
Cursor 研究員 Arvid Lunnemark 主張,prompting 應稱為「prompt design」,並與網頁設計相提並論,因為兩者都追求與動態輸入進行清晰溝通,且都必須讓內容配合不同的「尺寸」——網頁對應螢幕尺寸,prompt 對應上下文視窗。他發布了 Priompt v0.1,這是一個類似 React、以 JSX 為基礎的 prompt 設計函式庫,已在 Cursor 內部使用,並附有預覽網站,可依據真實請求資料渲染 prompt。