Ollama Benchmark: Narzędzie do porównywania LLM-ów
Ollama Benchmark to rozszerzenie do przeglądarki Chrome, które umożliwia benchmarking i porównywanie wydajności dużych modeli językowych (LLM) takich jak Mistral, LLaMA i Qwen. Użytkownicy mogą przeprowadzać testy wydajnościowe w oparciu o różne modele, analizując wyniki pod kątem liczby tokenów, czasu odpowiedzi oraz prędkości przetwarzania. Narzędzie wspiera zarówno lokalne, jak i zdalne API Ollama, co czyni je elastycznym rozwiązaniem dla profesjonalistów w dziedzinie AI.
Rozszerzenie oferuje możliwość wyboru jednego lub wielu modeli do porównania oraz przeprowadzania testów benchmarkowych opartych na podpowiedziach. Użytkownicy mogą eksportować wyniki w formatach .txt, .csv lub .json, a także przechowywać ustawienia i wyniki lokalnie. Interfejs jest dostępny w języku angielskim i tureckim, a narzędzie działa w pełni offline, co oznacza, że nie zbiera danych użytkowników.
