Startseite
Hardware
Konfigurator
Leistungen
OEM Ratgeber Über uns Garantie Kontakt
ESENDEFRITPT
KI-Kompaktrechner · Entwicklung

Rechner für die Entwicklung von KI-Assistenten und Agenten: die nötige Hardware

Wer Assistenten und Agenten baut, testet den ganzen Tag: ein Modell, eine Anweisung, ein Werkzeug, noch einmal. Gegen die Cloud kostet jeder Versuch Geld, und die Daten des Kunden müssen nach außen. Dieser Leitfaden erklärt, mit welchem Rechner es lokal geht.

Technisches Team von ACD&CO10. November 20266 Min. Lesezeit

Warum lokal entwickeln

Ein Agent ruft das Modell für jede Aufgabe viele Male auf: Er plant, fragt ein Werkzeug ab, prüft das Ergebnis und wiederholt. In der Entwicklung multipliziert sich das mit Hunderten von Tests am Tag. Mit einem offenen Modell auf dem eigenen Rechner kostet jeder Test dasselbe: nichts.

Der zweite Grund sind die Daten. Wenn der Assistent mit Verträgen, Akten oder Plänen eines Kunden arbeiten soll, vermeidet die lokale Entwicklung, sie an Dritte zu senden, und vereinfacht die Vertraulichkeitsvereinbarung.

Was der Rechner gleichzeitig laden muss

In der Entwicklung ist nie nur ein Programm offen. Das Sprachmodell, ein kleines Modell, das Dokumente in Vektoren umwandelt, die Vektordatenbank, die Container mit den Werkzeugen des Agenten und die Entwicklungsumgebung laufen zusammen. All das braucht Speicher und Kerne.

Deshalb passt Unified Memory gut: Das Modell nutzt den Teil, den es braucht, und der Rest bleibt für alles andere, ohne die feste Aufteilung einer dedizierten Grafikkarte. Und ein Prozessor mit 16 Kernen kompiliert und betreibt Container, ohne dass das Modell darunter leidet.

Welcher Rechner für welche Arbeitsweise

Ausgangspunkte für die Entwicklung von Assistenten und Agenten (zzgl. MwSt.)
ArbeitRechnerWarumPreis
Prototypen und einfache AssistentenCompact AI 32Modelle bis etwa 19 GB und die ganze Umgebung drumherum2.065 €
Agenten mit einem großen ModellCompact AI 64Modelle bis etwa 42 GB, mit freiem Speicher für die Werkzeuge2.940 €
Mehrere Modelle oder mehrere Agenten gleichzeitigCompact AI 128Ein großes Modell zum Schlussfolgern und kleine für schnelle Aufgaben4.820 €
Feinabstimmung und TrainingKompaktrechner mit RTX PRO oder WorkstationTrainingswerkzeuge verlangen eine NVIDIA-GrafikkarteNach Maß

Ein Modell abzustimmen ist nicht dasselbe wie es zu nutzen

Um Modelle zu nutzen, reicht Unified Memory. Um sie mit Ihren Daten abzustimmen, arbeiten fast alle Werkzeuge mit CUDA, der NVIDIA-Technik. Wenn die Feinabstimmung Teil der Arbeit sein wird, bestellen Sie den Kompaktrechner mit einer RTX PRO oder ziehen Sie eine Workstation mit einer oder mehreren Grafikkarten in Betracht.

Bevor Sie ein Modell abstimmen, probieren Sie es mit guten Anweisungen und Ihren Dokumenten als Kontext. Bei den meisten Unternehmensassistenten bringt das bessere Ergebnisse und erfordert kein Training.

Mehrere Personen am selben Rechner

Ein Kompaktrechner im Büronetz bedient das ganze Entwicklungsteam: Jede Person startet ihre Tests vom Laptop aus, und das Modell antwortet vom Kompaktrechner. Die Fernverwaltung über IP erlaubt, ihn neu zu starten oder ins BIOS zu gehen, ohne ihn anzufassen, auch von zu Hause.

Vom Prototyp zu dem, was der Kunde bekommt

Was auf Ihrem Tisch funktioniert, muss beim Kunden genauso funktionieren. Am sichersten ist es, denselben Rechner zu liefern, auf dem Sie entwickelt haben, mit demselben System und denselben Modellen. Wir fertigen die Serie mit Ihrem geklonten Image, Ihrer Marke auf dem Gehäuse, wenn Sie möchten, und einer Seriennummer pro Einheit.

Genau das deckt unser OEM-Programm ab: dieselbe Konfiguration in jeder Einheit, ein 24-Stunden-Test und Sofortaustausch während der Garantie.

Häufige Fragen

Kann ich Agenten ohne NVIDIA-Grafikkarte entwickeln?

Ja. Um Modelle auszuführen und Agenten zu bauen, reicht die integrierte Grafik mit Unified Memory. Eine NVIDIA-Karte ist nötig, um Modelle abzustimmen oder zu trainieren, und für Software, die nur mit CUDA läuft.

Welches Betriebssystem ist am besten?

Linux ist in der KI-Entwicklung üblich: Fast jedes Werkzeug erscheint zuerst dafür, und die integrierte Grafik nutzt etwas mehr Speicher. Wir liefern es kostenlos installiert. Windows 11 Pro auf Anfrage.

Eignet sich derselbe Rechner für die Vorführung beim Kunden?

Ja, und das ist einer seiner Vorteile: Er passt in einen Rucksack, startet von selbst und arbeitet ohne Verbindung. Die Vorführung läuft auf demselben Rechner, der später installiert wird.

Können Sie mehrere identische Einheiten für meine Kunden bauen?

Ja. Wir fertigen die Serie mit derselben Konfiguration, spielen Ihr Systemimage auf und liefern jede Einheit mit Seriennummer und Testbericht. Wenn Sie weiterverkaufen, kann die Verpackung ohne unsere Marke sein.

Wofür werden Sie ihn nutzen?

Sagen Sie uns, welche Modelle Sie betreiben wollen, wie viele Personen ihn nutzen und wo er arbeiten soll. Wir schlagen Ihnen den Kompaktrechner vor, mit oder ohne Profi-Grafikkarte, samt Preis innerhalb von 12 Arbeitsstunden.

Angebot anfordern

Angebot innerhalb von 12 Arbeitsstunden

Sagen Sie uns, was Sie brauchen

Sagen Sie uns, wofür Sie den Rechner brauchen, und wir antworten mit einer Konfiguration und ihrem Preis. Wenn Sie bereits ein Angebot einer anderen Marke haben, senden Sie es uns und wir erstellen das Gegenstück.

  • Schriftliche Antwort innerhalb von 12 Arbeitsstunden
  • Ein einziger Ansprechpartner, vom Angebot bis zur Garantie
  • Unverbindlich: Wir nutzen Ihre Daten nur für die Antwort

+34 613 17 68 06info@acdcompany.es

Dieses Feld ist erforderlich.
Bitte E-Mail prüfen: Es fehlt etwas.

Oder rufen Sie an: +34 613 17 68 06