Mr. Know-All 6號 - 2024年3月

[LM Studio, AnythingLLM]

即使不儲存或利用，如果為了回應而必須將機密數據傳遞給 LLM，企業或個人也難免會感到不安。

最好使用自己的 LLM 而不是外部提供的 LLM，但由於成本過高，幾乎所有企業都無法做到。

Meta 將 LLM 開源釋出，名稱為 Llama。版本已推出至 2，據說 3 也快問世了。我們只關注開源 LLM，也就是 Llama。

LM Studio 是一個平台，可以將 Hugging Face 上分享的 LLM（例如 Llama、Falcon、MPT、StarCoder）下載到本地（離線）並執行。個人用途免費。

類似工具 – AnythingLLM

[ Copilot ]

Cognition的 AI 軟體工程師 Devin 發表了。雖然需要進一步了解，但似乎出現了一個相當不錯的軟體開發 Copilot。據稱是全球首個完全自主的 AI 軟體工程師。由於 Devin 是 AI，因此會持續努力工作吧？但畢竟只是 Copilot。您才是 Pilot。與 Devin 合作，完成更有趣的事吧。雖然定位為 AI 代理，但由於不是開源，因此歸類為 Copilot。
有一段 YouTube 影片詳細介紹了 Devin 的示範，並探討了它獨特之處以及如何實現如此驚人的成果。
在觀看這段影片時，發現 CEO 是 Scott Woo。他真是個天才。獲得了 2100 萬美元的 A 輪融資。獲得投資意味著人們期待它能有更好的發展。
Scott Woo 表示，Devin 會制定解決問題的分步計劃。然後，它會利用人類軟體工程師使用的所有工具來構建專案。這太棒了。也就是說，它不只是簡單地編寫程式碼。如果遇到意外錯誤，它會新增除錯列印語句，並利用日誌中的錯誤來確定如何修正錯誤。由於它可以做到這一點，建立網站、部署並驗證這些應該都不在話下。

[ AI Agent ]

crewAI
網頁說明：使用 crewAI 建立多代理自動化、轉換為 API、使用範本、選擇模型，並遵循簡單有效的流程。

[ AI 能力發展 ]

每天都會累積許多與 AI 相關的 YouTube 影片。由於大多數影片都是英文，因此我們需要一些幫助。

Kome，提供以下功能：AI 供電摘要器、書籤管理員、智慧撰寫、YouTube 逐字稿產生器、PDF 轉文字。
如果將 YouTube 影片轉錄，會發現它沒有使用標點符號，因此難以區分句子。此時，可以將轉錄的內容貼到 Windows Copilot 中並發出指令。例如「請在上述文字中使用標點符號並分段」。使用 Windows Copilot 時，它有時會重複之前的內容，因此當文字很長需要分段時，請重新整理後再執行。
還有一些工具可以提供良好的摘要功能。https://www.summarize.tech/
Glarity：摘要並翻譯任何網頁，務必安裝並試用看看。我們安裝了 Chrome 擴充功能。非常有用。