Mr. Know-All số 6 - Tháng 3 năm 2024

[LM Studio, AnythingLLM]

Ngay cả khi không lưu trữ hoặc sử dụng, nếu doanh nghiệp hoặc cá nhân phải chuyển giao dữ liệu bí mật cho LLM để có được phản hồi, họ không thể không cảm thấy lo lắng.

Sử dụng LLM riêng thay vì LLM được cung cấp bên ngoài sẽ là một lựa chọn tốt, nhưng chi phí quá cao nên hầu hết các doanh nghiệp đều không thể thực hiện được.

Meta công khai LLM dưới dạng mã nguồn mở. Với tên gọi Llama. Phiên bản 2 đã được phát hành. Và họ nói rằng phiên bản 3 sắp ra mắt. Chúng ta chỉ tập trung vào Llama khi nói đến LLM mã nguồn mở.

LM Studio là một nền tảng cho phép bạn tải xuống và chạy các LLM được chia sẻ trên Hugging Face như LLaMa, Falcon, MPT, StarCoder trên thiết bị cục bộ (ngoại tuyến). Miễn phí cho mục đích cá nhân.

Tương tự – AnythingLLM

[ Copilot ]

Cognitionđã công bố Devin, một kỹ sư phần mềm AI. Cần phải tìm hiểu thêm, nhưng có vẻ như một Copilot khá tốt cho phát triển phần mềm đã xuất hiện. Được cho là kỹ sư phần mềm AI tự động hoàn toàn đầu tiên trên thế giới. Devin là AI nên sẽ làm việc chăm chỉ không ngừng nghỉ phải không? Nhưng dù sao thì cũng chỉ là Copilot. Bạn là Pilot. Hãy hợp tác với Devin để làm những việc thú vị hơn. Mặc dù được định vị là tác nhân AI nhưng vì không phải mã nguồn mở nên nó được xếp vào vị trí Copilot.
Có một video YouTube xem xét kỹ hơn bản demo của Devin và tìm hiểu những gì làm cho nó độc đáo và cách nó đạt được sự ra mắt đáng kinh ngạc này.
Trong video này, chúng ta thấy rằng CEO là Scott Woo. Ông ấy là một thiên tài. Đã nhận được khoản đầu tư Series A trị giá 21 triệu đô la. Việc nhận được đầu tư cho thấy người ta kỳ vọng nó sẽ phát triển hơn nữa.
Scott Woo nói rằng Devin lập kế hoạch từng bước để giải quyết vấn đề. Sau đó, nó xây dựng dự án bằng cách sử dụng tất cả các công cụ mà các kỹ sư phần mềm con người sử dụng. Điều này thật tuyệt vời. Nó không chỉ đơn giản là viết mã. Khi gặp lỗi không mong muốn, nó sẽ thêm lệnh in gỡ lỗi và sử dụng lỗi trong nhật ký để xác định cách khắc phục sự cố. Nếu làm được như vậy thì việc tạo, triển khai và xác minh trang web chắc chắn sẽ dễ dàng.

[ AI Agent ]

crewAI
Mô tả trang web: Sử dụng crewAI để xây dựng tự động hóa đa tác nhân, chuyển đổi thành API, sử dụng mẫu, chọn mô hình và tuân theo quy trình đơn giản và hiệu quả.

[ Phát triển năng lực AI ]

Các video YouTube liên quan đến AI được tích lũy mỗi ngày. Vì hầu hết các YouTuber là người nói tiếng Anh nên chúng ta cần sự hỗ trợ.

Kome, cung cấp các chức năng sau: Trình tóm tắt được hỗ trợ bởi AI, Trình quản lý dấu trang, Soạn thảo thông minh, Trình tạo bản ghi âm YouTube, Chuyển đổi PDF sang văn bản
Khi chuyển đổi nội dung video YouTube thành văn bản, dấu câu không được sử dụng nên việc phân biệt câu rất khó. Trong trường hợp đó, hãy dán nội dung đã được chuyển đổi vào Copilot của Windows và thực hiện các hướng dẫn. 'Hãy chia các đoạn văn bản trên thành các đoạn văn bằng cách sử dụng dấu câu'. Khi sử dụng Copilot của Windows, đôi khi nó trả lời bằng cách lặp lại nội dung trước đó, vì vậy khi văn bản dài, hãy cắt nhỏ nó và làm mới trước khi tiếp tục.
Cũng có những công cụ tóm tắt tốt.https://www.summarize.tech/
Glarity: Tóm tắt & Dịch bất kỳ trang nào, hãy cài đặt và sử dụng nó. Chúng tôi đã cài đặt tiện ích mở rộng Chrome. Nó rất hữu ích.