Apple veröffentlicht neue Open-Source-KI-Modelle, um die KI-Arbeit voranzutreiben

Apple hat vier fortschrittliche Open-Source-Modelle vorgestellt, die die Genauigkeit von Systemen der künstlichen Intelligenz verbessern sollen. Die Modelle, bekannt als Open Source Efficient LLMs (OpenELMs), sollen das Verständnis und die Verarbeitung von KI-Anfragen verbessern.

Fotocredit: Apple

Die Bedeutung von Apples neuen Modellen

Die OpenELMs sind eine Reihe von großen Sprachmodellen, die auf der Hugging Face-Plattform zur Verfügung stehen, auf der Entwickler zusammenarbeiten. Die OpenELMs variieren in Größe und Komplexität, sind mit 270 Millionen bis 3 Milliarden Parametern ausgestattet und werden entwickelt, um zu optimieren, wie KI-Systeme lernen und auf Informationen reagieren.

Apple hat für das Training dieser Modelle vielfältige und umfangreiche Datensätze verwendet. Indem Apple die Modelle als Open Source zur Verfügung stellt, unterstützt das Unternehmen die weltweite KI-Forschungsgemeinschaft und bietet Werkzeuge an, die zu effektiveren KI-Lösungen führen können.

Apple erklärt:

„Zu diesem Zweck veröffentlichen wir OpenELM, ein modernes, offenes Sprachmodell. OpenELM verwendet eine schichtweise Skalierungsstrategie, um Parameter innerhalb jeder Schicht des Umwandlungsmodells effizient zuzuweisen, was zu einer verbesserten Genauigkeit führt. Mit einem Parameterpaket von etwa einer Milliarde Parametern zeigt OpenELM beispielsweise eine 2,36%ige Verbesserung der Genauigkeit im Vergleich zu OLMo, während 2× weniger Token für das Vortraining benötigt werden.

Im Gegensatz zu früheren Praktiken, die nur Modellergebnisse und Inferenzcode zur Verfügung stellen und das Pre-Training auf privaten Datensätzen durchführen, enthält unsere Version das komplette Framework für das Training und die Evaluierung des Sprachmodells auf öffentlich zugänglichen Datensätzen, einschließlich Trainingsprotokollen, mehreren Kontrollpunkten und Pre-Training-Konfigurationen. Wir veröffentlichen auch Code zur Konvertierung von Modellen in die MLX-Bibliothek für Inferenz und Feinabstimmung auf Apple-Geräten. Diese umfassende Veröffentlichung zielt darauf ab, die offene Forschungsgemeinschaft zu unterstützen und zu stärken und den Weg für zukünftige offene Forschungsvorhaben zu ebnen.“

Das Entwicklungsteam, zu dem Sachin Mehta, Mohammad Hossein Sekhavat und andere gehören, unterstreicht Apples kontinuierliches Engagement für Transparenz und Zusammenarbeit bei der Weiterentwicklung von KI. Dabei handelt es sich hier nicht um die erste Veröffentlichung von KI-Routinen durch Apple. Im Oktober wurde beispielsweise ein Open-Source-LLM namens Ferret freigegeben, das die Art und Weise verbessern soll, wie ein Modell ein Bild analysieren kann. Es wird erwartet, dass auf der WWDC im Juni eine ganze Reihe von Fortschritten im Bereich der KI für Apple-Produkte vorgestellt werden.