Peter Voell hat früher im Recheninfrastruktur-Team von OpenAI gearbeitet, wie The Decoder berichtet. Jetzt baut er mit Mount Thor einen Cloud-Dienst, der auf Apple-Hardware setzt. Wer aus dem OpenAI-Umfeld kommt und dann Macs als Cloud-Basis wählt, sorgt zumindest für Gesprächsstoff.
Der Name Mount Thor steht laut The Decoder für einen Dienst, der Mac-Systeme aus der Ferne zugänglich macht. Der Dienst soll Mac-Systeme bereitstellen, auf die Forschungsteams und Unternehmen remote zugreifen können. Diese Teams entwickeln, testen und betreiben dort ihre KI-Agenten.
KI-Agenten benötigen macOS-Umgebungen
TechRadar zufolge erledigen KI-Agenten ihre Aufgaben über Computeroberflächen. Manchmal arbeiten sie über längere Zeiträume eigenständig oder bearbeiten Anfragen, sobald sie auftauchen. Genau das kann zum Problem werden. Hängt eine Aufgabe von Apple-Anwendungen oder macOS-spezifischen Funktionen ab, bieten herkömmliche Cloud-Server Entwicklern womöglich nicht die Umgebung, die sie brauchen, so TechRadar. Wer einen Agenten auf eine macOS-Anwendung ansetzt, braucht eben einen Mac und nicht irgendeinen Linux-Container.
Mac mini als Baustein für KI-Workloads
OpenAI und andere KI-Labore haben laut The Information Zehntausende Mac minis und Mac Studios gekauft. OpenAI setzt die Mac minis ein, um Computer-Use-Agenten zu trainieren, die mehrstufige Aufgaben autonom erledigen. Die Nachfrage ist so groß, dass OpenAI mehr Mac minis möchte, die leistungsstärksten Modelle wegen eines Speicherchip-Mangels aber seit Monaten ausverkauft sind.
The Decoder zufolge eignen sich die Rechner gut für lang laufende KI-Workloads. Starke Chips, gemeinsamer Speicher und solide Kühlung nennt die Quelle als Gründe. Das erklärt, warum gerade der Mac mini zum Baustein wird: Er ist klein, aber die Agenten laufen darauf über Stunden.
Alternativen zur dedizierten GPU-Leistung
Nvidias DGX Spark bietet eine kompakte Alternative, setzt aber auf dedizierte GPU-Leistung mit CUDA und Tensor Cores statt auf Apples Unified-Memory-Architektur, wie The Decoder ergänzt. Die Open-Source-Software Exo wiederum verbindet mehrere Macs zu einem Cluster, um große Modelle lokal auszuführen, so The Decoder.
