LangChain 怎麼玩？用 Hugging Face 結合 LangChain，做個英文對話機器人模擬面試吧
LangChain 作為 1 個框架，讓開發者可以很輕鬆地開發語言模型相關的應用，不過語言模型還是有其極限，有些功能仍須仰賴傳統的程式設計、機器學習等領域，譬如語音辨識、語音合成等等，所幸這些功能可以藉由 Hugging Face 等平台輕…
Python
196 篇 · 第 4 頁
LangChain 怎麼玩？如何做資料庫查詢機器人
作為軟體開發者，你開始發想任何語言模型可以應用的領域了嗎？ 如果你沒有任何想法，也許可以先看看怎麼藉由語言模型，讓我們可以用對話方式，就能夠自動對資料庫執行 SQL 進行查詢，而且過程中完全不需要寫任何 SQL 喔！ 也許看完本文，你會對語…
如何在終端機(terminal)漂亮地平行列印文字訊息(parallel output)？
在使用 multiprocessing, threading 等模組跑平行處理時，如果需要在每個執行單位(process, thread)列印一些字串的話，你會怎麼做？ 我想大多數人都直接 print() 到 terminal 就好，但是輸…
LangChain 怎麼玩？用 LangSmith 幫忙追查問題
LangChain 或其他語言模型框架的應用，先天上就相對不容易進行除錯，畢竟有太多步驟被包裝的相當好，一旦打開除錯模式(debug mode)，就會有相當多的資訊輸出，即使是專家也很難馬上從眾多資訊中迅速定位問題。 如果能藉由較好的 UI…
LangChain 怎麼玩？用 Document Loaders / Text Splitter 處理多種類型的資料
有一些 LLM 應用有提供上傳檔案並為使用者產生摘要、查詢答案的功能，譬如 ChatGPT Plus 與 ChatGPT Enterprise 可以上傳 PDF, CSV 檔等，除了能產生摘要、擷取重點資料之外，還可以進行一些數據分析，相當…
LangChain 怎麼玩？為了荷包著想，管好你的 prompt 長度(size)
每 1 個語言模型都有其限制，而所有語言模型都會有的限制就是 tokens 上限，而 tokens 上限會影響能夠接受的 prompt 長度。 如果你使用的不是開源語言模型，那不控制 prompt 長度所帶來的影響還有伴隨而來的費用。 以…
LangChain 怎麼玩？用 LangServe 架個 API 伺服器吧！
打造語言模型相關應用，總不能要求使用者都要透過網路下載/更新語言模型，畢竟每個使用者的硬體條件不一，包含 CPU / GPU / 記憶體 / 硬碟容量都可能需要滿足一定條件，才能夠執行語言模型，而且語言模型作為競爭力核心，無法輕易開放他人下…
LangChain 怎麼玩？ 動態修改運作中的 Chain 設定 / configure chain internals at runtime
不知道你有沒有想過 1 個 Chain 要如何做到動態載入不同使用者的資料？或者如何像 ChatGPT 那樣可以切換模型？ 這個功能在 LangChain 中稱為 configurable_fields 與 configurable_alt…