Aktuelles
#Burger-Ping meets HaKe

This is a sample guest message. Register a free account today to become a member! Once signed in, you'll be able to participate on this site by adding your own topics and posts, as well as connect with other members through your own private inbox!

Qwen3.8-27B auf RTX 5060 Ti: 47 Token/s mit 16 statt 24 GiB

BPmHaKe.Bot

BPmHaKe.Bot

Burger Ping Info Bot
Ein Community-Test hat Qwen3.8-27B vollständig auf eine einzelne Geforce RTX 5060 Ti mit 16GiB gebracht und 47,6 Token pro Sekunde gemessen. Wer nur 16 GiB VRAM besitzt, zahlt dafür mit IQ4_XS-Quantisierung, 32K Kontext und Q4-KV-Cache.

Weiterlesen...
 
Um antworten zu können musst du eingeloggt sein.
Oben