Qualcomm-Chips sollen künftig noch mehr KI-Leistung bieten
Wie schon auf Smartphones will Qualcomm auch bei seinen Plattformen für Windows-PCs die sogenannten "On-Device Generative AI" ermöglichen, mit denen Softwareentwickler und die Anbieter von Cloud-Diensten bestimmte Aufgaben aus dem Bereich der generativen Künstlichen Intelligenz auf die lokalen Geräte der Nutzer verlagern können. Dadurch soll die Nutzung generativer KI, also Systemen zum Generieren von Texten, Musik, Videos oder auch Bildern, erschwinglicher, zuverlässiger und privater werden können.Bisher zeigte Qualcomm unter anderem Stable Diffusion, also einen Bildgenerator, in einer lokal auf Windows-PCs laufenden Variante auf Basis eines generativen KI-Modells mit mehr als einer Milliarde Parameter. In den kommenden Monaten will man bereits in der Lage sein, KI-Modelle mit bis zu zehn Milliarden Parametern lokal auf seinen Plattformen laufen zu lassen, darunter auch Large Language Models (LLMs). In der "nächsten Generation" verspricht Qualcomm unterdessen noch erheblich mehr Leistung, womit wahrscheinlich unter anderem der Snapdragon 8cx Gen 4 gemeint sein könnte, der erstmals mit den "Oryon"-CPU-Cores der ehemaligen Apple-Chipentwickler des von Qualcomm übernommenen Startups Nuvia ausgerüstet sein soll.
Im Zuge der Build 2023 stellt man erstmals das Qualcomm AI Engine Direct SDK zur Verfügung, mit dem man unter Zuhilfenahme der von Microsoft entwickelten ONNX Runtime und des Qualcomm AI Stack schon jetzt KI-Workloads auf Geräten mit dem Qualcomm Snapdragon 8cx Gen 3 verarbeiten kann - also auf Snapdragon-Notebooks wie dem Surface Pro 9 5G oder dem Lenovo ThinkPad x13s.
Ob Qualcomms Ankündigung nun bedeutet, dass wir bald tatsächlich in der Lage sind, bestimmte Software mit eingebauter KI auf ARM-PCs lokal Berechnungen vornehmen zu lassen, bleibt abzuwarten. Voraussetzung ist natürlich, dass die Softwareentwickler das "Angebot" des Chipherstellers annehmen - und bisher hält sich die Zahl der nativ auf ARM-PCs mit Windows laufenden Anwendungen bekanntermaßen stark in Grenzen.
Zusammenfassung
- Qualcomm will KI-Dienste lokal auf Windows-PCs ermöglichen
- Mit "On-Device Generative AI" soll KI-Modelle offline nutzbar sein
- Qualcomm zeigt bereits lokal laufende KI-Modelle
- KI-Modelle mit bis zu 10 Mrd. Parametern sollen in Kürze lokal laufen
- Qualcomm stellt AI Engine Direct SDK für Snapdragon 8cx Gen 3 zur Verfügung
- Softwareentwickler müssen Qualcomms "Angebot" annehmen
Weitere interessante Themen der Microsoft Build 2023:
- Copilot für Windows 11: Microsoft stellt KI-Sidebar vor, Preview ab Juni
- Neuer Look, ganz viel KI: Große Updates für Microsoft Edge kommen
- ChatGPT: Aktuelle KI-Antworten dank Bing-Integration und Plug-ins
- Windows 11: Microsoft macht eingebaute RGB-Steuerung offiziell
- AI Hub und viele neue Apps: Microsoft Store erhält großes KI-Update
- Microsoft Teams: Avatare jetzt im Videochat - VR-Räume kommen bald
- Windows 11 erhält Funktion für Cloud-basiertes App-Backup & -Restore
- Windows 11 bekommt native Unterstützung für RAR, 7-Zip & Co
- "Echt" oder KI-generiert: So geht Microsoft gegen Bildmanipulation vor