Mr. Know-All 6호 - 2024년 3월

[LM Studio, AnythingLLM]

Nawet jeśli nie planujemy przechowywania ani wykorzystania danych, jeśli do generowania odpowiedzi musimy przekazywać poufne dane do LLM, firmy i osoby prywatne mogą czuć się nieswojo.

Dobrze byłoby korzystać z własnego LLM zamiast zewnętrznego, ale jest to bardzo kosztowne i praktycznie żadna firma nie może sobie na to pozwolić.

Meta udostępnia LLM jako open source. Pod nazwą Llama. Wersja 2 już jest dostępna. Podobno wkrótce pojawi się wersja 3. My skupiamy się na open source LLM, czyli Llama.

LM Studio to platforma, która umożliwia pobranie i uruchomienie lokalnie (offline) modeli LLM udostępnionych na Hugging Face, takich jak LLaMa, Falcon, MPT, StarCoder. Do użytku osobistego jest bezpłatna.

Podobne rozwiązanie – AnythingLLM

[ Copilot ]

Cognitionzaprezentowało inżyniera oprogramowania AI, Devina. Trzeba to jeszcze lepiej zbadać, ale wygląda na to, że pojawił się całkiem niezły copilot do rozwoju oprogramowania. Mówi się o nim, że jest pierwszym na świecie w pełni autonomicznym inżynierem oprogramowania AI. Devin jest AI, więc będzie pracował bez przerwy, prawda? Mimo to, to tylko copilot. Ty jesteś pilotem. Współpracuj z Devinem i realizuj bardziej interesujące projekty. Devin jest pozycjonowany jako agent AI, ale ponieważ nie jest open source, umieściłem go w kategorii copilotów.
Istnieje film na YouTube, który szczegółowo omawia demonstrację Devina i wyjaśnia, co czyni go wyjątkowym oraz w jaki sposób osiągnięto tak niesamowite osiągnięcie.
W tym filmie widzimy, że CEO to Scott Woo. Geniusz. Otrzymał finansowanie serii A w wysokości 21 milionów dolarów. Fakt, że otrzymuje inwestycje, sugeruje, że możemy oczekiwać dalszych ulepszeń.
Scott Woo mówi, że Devin tworzy plan krok po kroku do rozwiązania problemu. Następnie wykorzystuje wszystkie narzędzia używane przez ludzkich inżynierów oprogramowania, aby zbudować projekt. To niesamowite. Nie chodzi tylko o generowanie kodu. W przypadku wystąpienia nieoczekiwanego błędu, dodaje instrukcje drukowania do debugowania i decyduje o sposobie naprawienia błędu na podstawie błędów w logach. Ponieważ jest w stanie to robić, tworzenie witryny internetowej, wdrażanie i weryfikacja powinny być łatwe.

[ AI Agent ]

crewAI
Opis strony internetowej: Użyj crewAI, aby budować wielorakową automatyzację agentów, przekształcać ją w API, używać szablonów, wybierać modele i postępować zgodnie z prostym i efektywnym procesem.

[ Rozwój umiejętności AI ]

Codziennie pojawiają się nowe filmy na YouTube związane z AI. Większość z nich jest tworzona przez anglojęzycznych youtuberów, więc potrzebujemy pomocy.

Kome, oferuje następujące funkcje: AI-Powered Summarizer, Bookmark Manager, Smart Compose, YouTube Transcript Generator, PDF to Text Convert
Po transkrypcji filmów na YouTube, często brakuje interpunkcji, co utrudnia rozróżnienie zdań. W takich przypadkach wklejamy transkrypcję do Kopilota systemu Windows i wydajemy polecenie. „Podziel ten tekst na akapity, używając interpunkcji”. Podczas korzystania z Kopilota systemu Windows, czasami odpowiada on powtarzając poprzednią treść, dlatego przy dłuższych tekstach, warto dzielić je na części, odświeżać i ponownie korzystać z narzędzia.
Istnieją również narzędzia, które dobrze radzą sobie z podsumowywaniem.https://www.summarize.tech/
Glarity: Podsumowuj i tłumacz dowolną stronę. Zdecydowanie zainstaluj i wypróbuj to narzędzie. My zainstalowaliśmy rozszerzenie Chrome. Jest niesamowicie pomocne.