Пора создать более удобный UX для llama.cpp от @ggml_org 🤗 Я использовал llama.cpp большую часть последних 2 лет, играя с LLM и использую его в производстве тоже. Хотя настройка llama.cpp занимает некоторое время, после этого он *просто* работает! Приходите со своими идеями/решениями о том, как мы можем лучше упаковать это и сделать его более доступным для людей, чтобы использовать llama.cpp с легкостью ❤️
2,71K