Bielik 11B v3 Instruct

Demo dla speakleash/Bielik-11B-v3.0-Instruct-MLX-4bit — polski model 11B, Apache 2.0, SpeakLeash & ACK Cyfronet AGH.

Otwórz live chat SpeakLeash Model MLX-4bit Parent Instruct

Przykładowa rozmowa

Ty
Cześć, kim jesteś i do czego służy Bielik?
Bielik
Jestem Bielikiem — modelem językowym SpeakLeash i ACK Cyfronet AGH. Umiem pisać i tłumaczyć po polsku i innych językach europejskich, streszczać, odpowiadać na pytania i pomagać w kodzie. To wersja Instruct 11B v3.
Ty
Napisz krótki wiersz o Wiśle.
Bielik
Wisła ciągnie srebrną nitkę
od górskich źródeł po Bałtyk szeroki.
Niesie miasta, mosty i historie,
a w lustrze wody wraca polski spokój.

To statyczny podgląd. Pełny model na Macu ładujesz przez MLX; hostowany czat SpeakLeash jest pod przyciskiem wyżej. Gradio na ZeroGPU jest w app.py i wstanie, gdy konto dostanie GPU.

Uruchom MLX-4bit lokalnie (Apple Silicon)

pip install mlx-lm

from mlx_lm import load, generate

model, tokenizer = load("speakleash/Bielik-11B-v3.0-Instruct-MLX-4bit")
print(generate(model, tokenizer, prompt="Cześć, kim jesteś?"))

Wagi MLX nie działają na Linuxowym Hugging Face Space. Tu live inference na GPU użyłby rodzica Instruct w 4-bit PyTorch.