16 GByte f\u00fcr lokale KI: Budget-Grafikkarten von AMD und Nvidia im Vergleich<\/p>\n
Das Test-System und die Modelle<\/p>\n
Einfach loslegen mit Ollama<\/p>\n
So haben wir getestet<\/p>\n
Fazit<\/p>\n
Wer KI-Sprachmodelle auf dem eigenen Rechner laufen lassen m\u00f6chte, denkt h\u00e4ufig zuerst an Nvidia-Hardware. Die Grafikkarten des Herstellers haben den Ruf, KI-Berechnungen besonders flott durchzuf\u00fchren. Doch w\u00e4chst auch die Zahl der Nutzer, die diese Rechenprozesse auf AMD-Karten laufen lassen.<\/p>\n
Denn aktuelle Grafikkarten von AMD sind deutlich g\u00fcnstiger als ihre Nvidia-Pendants. Wir haben deshalb vergleichsweise preiswerte 16-GByte-Modelle von AMD und Nvidia einem Praxistest unterzogen. F\u00fcr 16 GByte Speicher gibt es bereits eine gro\u00dfe Auswahl geeigneter lokaler KI-Modelle, die zur effizienten Berechnung auf der GPU vollst\u00e4ndig in den Grafikspeicher passen. Die erschwinglichsten Modelle von AMD und Nvidia kosten zum Zeitpunkt des Redaktionsschlusses Anfang August wenigstens 420 Euro (Radeon RX 9060 XT) oder 550 Euro (Nvidia RTX 5060 Ti). Im Test haben wir die Varianten Sapphire Radeon RX 9060 XT 16GB NITRO+ Gaming OC (ab etwa 470 Euro) und MSI GeForce RTX 5060 Ti GAMING OC 16G (ab rund 690 Euro) verglichen. Sie sind etwa wegen optimierter K\u00fchlung und Werks\u00fcbertaktung teurer als die Basismodelle, aber in ihrer Leistung mit ihnen vergleichbar.<\/p>\n
Der Grafikspeicher sollte f\u00fcr lokale KI-Anwendungen m\u00f6glichst gro\u00df sein. Entsprechend kostspielig ist die Hardware. Wir haben g\u00fcnstige 16-GByte-Modelle von AMD und Nvidia einem Praxistest unterzogen.F\u00fcr den Artikel haben wir die AMD Radeon RX 9060 XT und die Nvidia GeForce RTX 5060 Ti im selben Test-PC unter Windows 11 und Ubuntu 26.04 mit Ollama und drei verschiedenen LLMs getestet.Die AMD-Karte liefert ganz brauchbare Ergebnisse, muss sich letztlich aber der teureren Nvidia-Hardware geschlagen geben.<\/p>\n
F\u00fcr den Test installieren wir unter Linux und Windows die Open-Source-Software-Ollama, mit der sich Sprachmodelle auf Consumer-Hardware nutzen lassen. Anschlie\u00dfend testen wir die Karten mit einem l\u00e4ngeren Prompt mit den LLMs GPT-OSS, Qwen3.5 und Qwen3.6 unter beiden Betriebssystemen und vergleichen ihre KI-Leistung. Die ersten beiden Modelle passen vollst\u00e4ndig in den VRAM der Karten. Qwen3.6 \u00fcbersteigt ihn dagegen um 10 GByte, der Rest landet im System-RAM. Es sollte dennoch z\u00fcgig auf dem System arbeiten, denn es handelt sich um ein Mixture-of-Experts-Modell. Bei dieser Modellarchitektur teilt man das LLM in verschiedene sogenannte \u201eExperten\u201c auf. Statt jeweils das ganze Modell zu befragen, w\u00e4hlt ein interner Mechanismus nur die jeweils bestgeeigneten Experten aus, was es deutlich effizienter macht.<\/p>\n
Das war die Leseprobe unseres heise-Plus-Artikels «16 GByte f\u00fcr lokale KI: Budget-Grafikkarten von AMD und Nvidia im Vergleich».
\n Mit einem heise-Plus-Abo k\u00f6nnen Sie den ganzen Artikel lesen.<\/p>\n
\n Dieser Link ist leider nicht mehr g\u00fcltig.\n <\/p>\n
Links zu verschenkten Artikeln werden ung\u00fcltig,
\n wenn diese \u00e4lter als 7\u00a0Tage sind oder zu oft aufgerufen wurden.\n <\/p>\n
Sie ben\u00f6tigen ein heise+ Paket, um diesen Artikel zu lesen. Jetzt eine Woche unverbindlich testen \u2013 ohne Verpflichtung!<\/p>\n","protected":false},"excerpt":{"rendered":"16 GByte f\u00fcr lokale KI: Budget-Grafikkarten von AMD und Nvidia im Vergleich Das Test-System und die Modelle Einfach…\n","protected":false},"author":2,"featured_media":240910,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","_share_on_mastodon":"0"},"categories":[15],"tags":[6594,2985,46,888,2818,622,623,11072,52008,624,52009,45,60,59,44,64,61,63,62],"class_list":["post-240909","post","type-post","status-publish","format-standard","has-post-thumbnail","category-wissenschaft-technik","tag-amd","tag-benchmark","tag-ch","tag-grafikkarten","tag-hardware","tag-it","tag-kuenstliche-intelligenz","tag-nvidia","tag-ollama","tag-openai","tag-qwen","tag-schweiz","tag-science","tag-science-technology","tag-switzerland","tag-technik","tag-technology","tag-wissenschaft","tag-wissenschaft-technik"],"share_on_mastodon":{"url":"https:\/\/pubeurope.com\/@ch_de\/117054985420446172","error":""},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/ch-de\/wp-json\/wp\/v2\/posts\/240909","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/ch-de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/ch-de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/ch-de\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/ch-de\/wp-json\/wp\/v2\/comments?post=240909"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/ch-de\/wp-json\/wp\/v2\/posts\/240909\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/ch-de\/wp-json\/wp\/v2\/media\/240910"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/ch-de\/wp-json\/wp\/v2\/media?parent=240909"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/ch-de\/wp-json\/wp\/v2\/categories?post=240909"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/ch-de\/wp-json\/wp\/v2\/tags?post=240909"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}