Es wird Zeit, dass wir eine einfachere Benutzererfahrung für llama.cpp von @ggml_org erstellen 🤗 Ich habe llama.cpp in den letzten 2 Jahren größtenteils verwendet, um mit LLMs zu experimentieren und nutze es auch in der Produktion. Obwohl es etwas dauert, llama.cpp einzurichten, funktioniert es, sobald es einmal eingerichtet ist, *einfach*! Bringt eure Ideen/Lösungen mit, wie wir es besser verpacken und es den Menschen erleichtern können, llama.cpp problemlos zu nutzen ❤️