GPU & LLM-Infrastruktur

16 Einträge — GPU & LLM-Infrastruktur

⚠️ Stand: Juli 2026 — einige Links können veraltet sein. Quelle: github.com/eudk/awesome-ai-tools

☁️ GPU-Cloud & Rental

Vast.aiGPU-Marktplatz — günstige KI-Rechenleistung von unabhängigen Hosts, ab $0.20/Stunde.Lambda CloudGPU-Cloud für Deep Learning — NVIDIA H100, A100, RTX 6000, optimiert für ML-Workloads.CoreWeaveGPU-beschleunigte Cloud — spezialisiert auf KI/ML-Workloads, Kubernetes-nativ.PaperspaceGPU-Cloud-Plattform — Notebooks, Workflows und Deployments mit NVIDIA-GPUs.AWS EC2 GPUAmazon GPU-Instanzen — P5/P4d-Instanzen mit H100/A100 für skalierbares KI-Training.Google Cloud GPUGCP-GPU-Instanzen — H100, A100, L4, integriert mit Vertex AI und Cloud Storage.Azure GPU VMsMicrosoft Azure GPU — NDv5/H100, NC A100 v4-Serien für Enterprise-KI-Workloads.

🖥️ Lokale LLM-Tools & Serving

OllamaStandard-Tool für lokale LLMs — einfache CLI, Modell-Management, REST-API, Open-Source.LM StudioDesktop-App für lokale LLMs — Modell-Downloads, Chat, Fine-Tuning, CPU/GPU-Inference.llama.cppHigh-Performance C++ Inference-Engine — CPU/GPU, Quantisierung, breite Modell-Kompatibilität.vLLMHigh-Throughput LLM-Serving — PagedAttention, kontinuierliches Batching, OpenAI-kompatible API.Text Gen Web UIWeb-Interface für lokale Modelle — umfangreiche Features, Plugin-System, Multi-Modell-Support.GPT4AllConsumer-Grade lokale LLMs — optimiert für Consumer-Hardware, offline-fähig.NVIDIA GPU CloudGPU-optimierte KI-Container — vorkonfigurierte Umgebungen für Training und Inference.OmniRouteSelf-hostable AI Gateway — 4-tier Cascading-Fallback, Multi-Provider-Load-Balancing, 200+ Modelle.Price Per TokenLLM-Preisvergleich — 300+ Modelle von OpenAI, Anthropic, Google und 30+ Providern.

💰 GPU Rental Services

AWS EC2Amazon Web Services offers scalable cloud computing with GPU instances.Google Cloud Compute EngineGoogle's infrastructure with high-performance GPUs suitable for machine learning.Microsoft Azure GPUsAzure's GPU virtual machines for AI and deep learning.NVIDIA GPU CloudCloud-based GPU solutions tailored for AI and deep learning by NVIDIA.PaperspaceCloud computing platform offering GPU accelerated virtual machines.Vast.aiA marketplace for renting affordable AI compute, including GPUs.Lambda CloudProvides GPU cloud instances specifically designed for deep learning.Kaggle KernelsProvides free limited GPU access for machine learning projects and competitions.FloydHubA platform for training and deploying deep learning models, offering GPU rentals.CoreWeaveSpecialized cloud provider with a focus on GPU-accelerated workloads.
← Zurück zur KI-Übersicht