Insights
Bouwen of kopen: hoe u de AI-stack samenstelt zonder u vast te leggen

Het gesprek over bouwen of kopen wordt bijna altijd te vroeg gevoerd, en over het verkeerde ding. Te vroeg, omdat de vraag pas te beantwoorden is als u weet welke laag u bedoelt. Over het verkeerde ding, omdat "AI" geen aankoop is maar een stapel van zeven onafhankelijke keuzes.
Dat laatste is het punt dat het meeste geld scheelt. De lagen hieronder zijn los van elkaar te kiezen. Niets verplicht u om uw rekenkracht bij dezelfde partij af te nemen als uw modellen, of uw observability bij dezelfde partij als uw orkestratie. De duurste fout die we bij middelgrote organisaties zien is niet verkeerd kopen — het is één suite kopen omdat het één gesprek was.
De zeven lagen
Elke laag heeft een eigen markt, een eigen wisselkost en een eigen tempo van verandering. Dat laatste bepaalt vaker dan wat ook of bouwen verstandig is: in een laag die elk kwartaal verschuift, betekent bouwen opnieuw bouwen.
- Rekenkracht — waar de GPU's staan en wie ze beheert
- Modellen aanbieden — hoe een model bereikbaar wordt als API
- Trainen en finetunen — een bestaand model aanpassen aan uw werk
- Data en vectoren — waar uw kennis staat en hoe die doorzoekbaar is
- Orkestratie en agents — wat er in welke volgorde gebeurt
- Observability en evaluatie — of het werkt, en of dat zo blijft
- Governance en guardrails — wat het systeem niet mag, en hoe u dat aantoont
Het landschap
Hieronder staan per laag twintig oplossingen die u als middelgrote organisatie in Europa realistisch tegenkomt, plus in elke laag de optie om het zelf te bouwen. Het is nadrukkelijk geen ranglijst: van de meeste van deze bedrijven zijn geen marktaandelen gepubliceerd, en ze op volgorde zetten alsof die er wel waren zou het meest gezaghebbend ogende getal op deze pagina verzinnen.
140 van 140 oplossingen
| Oplossing | Soort | Waar het past |
|---|---|---|
| AWSRekenkracht | Hyperscaler | EC2 GPU instances and SageMaker. The default when the rest of the estate is already there. |
| Microsoft AzureRekenkracht | Hyperscaler | ND-series GPUs and Azure ML. Usually chosen because the enterprise agreement already exists. |
| Google CloudRekenkracht | Hyperscaler | GPUs and TPUs behind Vertex AI. The only hyperscaler offering its own training silicon. |
| CoreWeaveRekenkracht | Beheerd | Kubernetes-native GPU cloud built for AI rather than adapted to it. |
| LambdaRekenkracht | Beheerd | Long-running training clusters with persistent storage. |
| NebiusRekenkracht | Beheerd | European GPU capacity; relevant where data residency is a constraint. |
| RunPodRekenkracht | Beheerd | Per-second GPU rental, community and secure tiers. |
| Vast.aiRekenkracht | Beheerd | Marketplace pricing. Cheapest per hour, most variable in reliability. |
| ModalRekenkracht | Beheerd | Serverless GPU with a Python-native developer experience. |
| PaperspaceRekenkracht | Beheerd | DigitalOcean's GPU platform; simple pricing, smaller catalogue. |
| ScalewayRekenkracht | Beheerd | French provider with EU-only regions. |
| OVHcloudRekenkracht | Beheerd | European hosting at scale; strong on data-residency guarantees. |
| HetznerRekenkracht | Beheerd | German provider. Very low cost, limited GPU catalogue. |
| Oracle Cloud InfrastructureRekenkracht | Hyperscaler | Aggressive GPU pricing and large reserved capacity. |
| IBM CloudRekenkracht | Hyperscaler | Relevant mainly where watsonx is already in the estate. |
| CrusoeRekenkracht | Beheerd | Energy-first GPU cloud; competitive on cost per hour at scale. |
| Together AIRekenkracht | Beheerd | Compute and inference in one contract. |
| SpheronRekenkracht | Beheerd | Aggregates bare-metal capacity across several providers. |
| NorthflankRekenkracht | Beheerd | Deploys containers to GPUs without running Kubernetes yourself. |
| Own GPUs, on-premise or colocatedRekenkracht | Zelf bouwen | Lowest marginal cost at sustained high utilisation. Carries procurement lead times, power, cooling and a hardware refresh cycle. Rarely justified below continuous multi-GPU load. |
| OpenAI APIModellen aanbieden | Beheerd | The broadest frontier catalogue and the most mature tooling around it. |
| Anthropic APIModellen aanbieden | Beheerd | Frontier models with a strong position on coding and long-document work. |
| Google Gemini APIModellen aanbieden | Beheerd | Long context and native multimodality; often the cheapest capable tier. |
| Azure OpenAI ServiceModellen aanbieden | Hyperscaler | OpenAI models inside an Azure tenancy, with EU region options. |
| Amazon BedrockModellen aanbieden | Hyperscaler | One API across several model families, inside an AWS account. |
| Google Vertex AIModellen aanbieden | Hyperscaler | Gemini plus third-party models with enterprise controls. |
| Mistral AIModellen aanbieden | Beheerd | European provider; relevant where EU processing is contractual rather than preferred. |
| CohereModellen aanbieden | Beheerd | Enterprise focus, strong retrieval and reranking models. |
| Together AIModellen aanbieden | Beheerd | Large open-weights catalogue at low cost per token. |
| Fireworks AIModellen aanbieden | Beheerd | Optimised serving of open models; competitive on latency. |
| BasetenModellen aanbieden | Beheerd | Bring your own model, deployed and scaled for you. |
| ReplicateModellen aanbieden | Beheerd | Container-packaged models with per-second billing. |
| GroqModellen aanbieden | Beheerd | Very high output speed on a fixed model set. |
| CerebrasModellen aanbieden | Beheerd | Wafer-scale inference; speed at the top of the market. |
| OpenRouterModellen aanbieden | Beheerd | One key across many providers. Useful for comparison and failover. |
| Hugging Face Inference EndpointsModellen aanbieden | Beheerd | Any model on the Hub, deployed to a managed endpoint. |
| AnyscaleModellen aanbieden | Beheerd | Ray-based serving for teams already using Ray. |
| vLLMModellen aanbieden | Open source | The de facto open serving engine. High throughput, you operate it. |
| OllamaModellen aanbieden | Open source | Local and small-scale serving; the fastest way to try an open model. |
| vLLM or TGI on your own GPUsModellen aanbieden | Zelf bouwen | Full control of model, version and data path, and the lowest cost per token at sustained volume. You own the uptime, the upgrades and the GPU capacity planning. |
| OpenAI fine-tuningTrainen en finetunen | Beheerd | Supervised fine-tuning on hosted models. No infrastructure to run. |
| Azure AI FoundryTrainen en finetunen | Hyperscaler | Fine-tuning and evaluation inside an Azure tenancy. |
| Vertex AI TrainingTrainen en finetunen | Hyperscaler | Managed training jobs with TPU or GPU backing. |
| Amazon SageMakerTrainen en finetunen | Hyperscaler | The broadest managed training toolchain; steep learning curve. |
| Together AI fine-tuningTrainen en finetunen | Beheerd | LoRA and full fine-tunes on open models, deployed on the same platform. |
| Fireworks fine-tuningTrainen en finetunen | Beheerd | Tuning paired directly with optimised serving. |
| PredibaseTrainen en finetunen | Beheerd | Fine-tuning aimed at small task-specific models rather than frontier ones. |
| Hugging Face AutoTrainTrainen en finetunen | Beheerd | Low-code tuning on the Hub. |
| AxolotlTrainen en finetunen | Open source | The most widely used open fine-tuning harness. |
| UnslothTrainen en finetunen | Open source | Memory-efficient tuning; makes single-GPU work feasible. |
| LLaMA-FactoryTrainen en finetunen | Open source | Broad model coverage with a usable interface. |
| Weights & BiasesTrainen en finetunen | Beheerd | Experiment tracking. Not training itself, but what makes it repeatable. |
| Determined AITrainen en finetunen | Open source | Cluster scheduling and hyperparameter search. |
| Ray TrainTrainen en finetunen | Open source | Distributed training for teams already running Ray. |
| Databricks Mosaic AITrainen en finetunen | Beheerd | Training tied to a lakehouse; strong where the data already lives there. |
| ModalTrainen en finetunen | Beheerd | Serverless training runs without a standing cluster. |
| Lightning AITrainen en finetunen | Beheerd | Studio environments around PyTorch Lightning. |
| Nebius AI StudioTrainen en finetunen | Beheerd | Tuning on European infrastructure. |
| Google Colab EnterpriseTrainen en finetunen | Hyperscaler | Notebook-based experimentation with managed backends. |
| DeepSpeed or Ray on your own clusterTrainen en finetunen | Zelf bouwen | Necessary for genuinely novel training work. For adapting an existing model to your data it is almost always more machinery than the problem needs. |
| pgvectorData en vectoren | Open source | Vector search inside the Postgres you already run. The right first answer for most mid-sized firms. |
| PineconeData en vectoren | Beheerd | Zero-operations vector search with built-in embedding and reranking. |
| QdrantData en vectoren | Open source | Rust engine with fine-grained filtering and quantisation. Cloud or self-hosted. |
| WeaviateData en vectoren | Open source | Hybrid search and multi-tenancy; self-hosting expects Kubernetes. |
| MilvusData en vectoren | Open source | Built for billion-scale collections. |
| ChromaData en vectoren | Open source | The quickest path from prototype to working retrieval. |
| LanceDBData en vectoren | Open source | Multimodal and file-native; no server to run. |
| ElasticsearchData en vectoren | Beheerd | Mature keyword search with vectors added. Strong hybrid retrieval. |
| OpenSearchData en vectoren | Open source | The open fork; the same hybrid strengths without the licence. |
| RedisData en vectoren | Beheerd | Vector search alongside a cache you may already operate. |
| MongoDB Atlas Vector SearchData en vectoren | Beheerd | Vectors beside documents in one database. |
| Azure AI SearchData en vectoren | Hyperscaler | Retrieval with enterprise access controls built in. |
| Vertex AI Vector SearchData en vectoren | Hyperscaler | Google's managed index; scales without tuning. |
| Amazon OpenSearch ServerlessData en vectoren | Hyperscaler | Managed hybrid retrieval inside AWS. |
| Databricks Vector SearchData en vectoren | Beheerd | Retrieval governed by the same catalogue as the rest of the data. |
| Snowflake Cortex SearchData en vectoren | Beheerd | Retrieval where the warehouse already is. |
| VespaData en vectoren | Open source | Serving and ranking at very large scale; substantial operational weight. |
| TurbopufferData en vectoren | Beheerd | Object-storage-backed vectors; unusually low cost at rest. |
| SingleStoreData en vectoren | Beheerd | Transactional and vector workloads in one engine. |
| pgvector on your existing PostgresData en vectoren | Zelf bouwen | No new vendor, no new backup regime, no new access model. The ceiling is real but most mid-sized corpora never reach it. |
| LangChainOrkestratie en agents | Open source | The largest ecosystem of connectors and the most examples to copy. |
| LangGraphOrkestratie en agents | Open source | Explicit state machines for agents; far easier to reason about than free-form chains. |
| LlamaIndexOrkestratie en agents | Open source | Retrieval-first framework with strong document handling. |
| Semantic KernelOrkestratie en agents | Open source | Microsoft's orchestration layer; natural fit alongside .NET. |
| HaystackOrkestratie en agents | Open source | Production-oriented pipelines from deepset. |
| CrewAIOrkestratie en agents | Open source | Role-based multi-agent orchestration. |
| AutoGenOrkestratie en agents | Open source | Microsoft Research's multi-agent conversation framework. |
| Pydantic AIOrkestratie en agents | Open source | Typed, validated agent definitions. Small surface, few surprises. |
| TemporalOrkestratie en agents | Open source | Durable execution. The right answer when a workflow must survive a restart. |
| PrefectOrkestratie en agents | Open source | Python-native workflow orchestration with a managed option. |
| Apache AirflowOrkestratie en agents | Open source | Scheduled pipelines; the incumbent in most data teams. |
| n8nOrkestratie en agents | Open source | Visual automation, self-hostable. Popular in European mid-market. |
| MakeOrkestratie en agents | Beheerd | Visual automation with a large connector library. |
| ZapierOrkestratie en agents | Beheerd | The lowest-effort route to connecting existing SaaS. |
| Microsoft Copilot StudioOrkestratie en agents | Beheerd | Agents inside Microsoft 365, governed by existing tenancy controls. |
| Google Agent BuilderOrkestratie en agents | Hyperscaler | Agent construction and deployment on Vertex. |
| Amazon Bedrock AgentsOrkestratie en agents | Hyperscaler | Managed agents with action groups inside AWS. |
| DifyOrkestratie en agents | Open source | Low-code application builder over your own models. |
| FlowiseOrkestratie en agents | Open source | Visual chain building on top of LangChain. |
| Direct API calls with your own state machineOrkestratie en agents | Zelf bouwen | For a single well-understood workflow this is often less code than the framework, and it never breaks on a framework upgrade. It stops scaling once you have several agents sharing state. |
| LangfuseObservability en evaluatie | Open source | Open, self-hostable tracing and prompt management. The common default. |
| LangSmithObservability en evaluatie | Beheerd | The smoothest path if you already build with LangChain or LangGraph. |
| BraintrustObservability en evaluatie | Beheerd | Evaluation-first: experiments, scoring and review as the primary object. |
| Arize AXObservability en evaluatie | Beheerd | Production monitoring with drift detection. |
| Arize PhoenixObservability en evaluatie | Open source | Notebook-first tracing for experimentation. |
| LangWatchObservability en evaluatie | Open source | Self-hosted tracing with online evaluation and guardrails together. |
| Weights & Biases WeaveObservability en evaluatie | Beheerd | Tracing and evals beside experiment tracking. |
| GalileoObservability en evaluatie | Beheerd | Fast inline scoring aimed at intercepting output in production. |
| Confident AI (DeepEval)Observability en evaluatie | Open source | A test-suite model for LLM behaviour; runs in CI. |
| TruLensObservability en evaluatie | Open source | Feedback functions for RAG quality. |
| HeliconeObservability en evaluatie | Open source | A proxy that gives logging and caching with a one-line change. |
| PromptLayerObservability en evaluatie | Beheerd | Prompt versioning and comparison for non-engineers. |
| Datadog LLM ObservabilityObservability en evaluatie | Beheerd | Sensible where Datadog is already the monitoring system. |
| New Relic AI MonitoringObservability en evaluatie | Beheerd | Same argument, different incumbent. |
| OpenTelemetry GenAIObservability en evaluatie | Open source | The emerging standard. Vendor-neutral, and what keeps you portable. |
| WhyLabsObservability en evaluatie | Beheerd | Data and model drift monitoring. |
| TrueFoundryObservability en evaluatie | Beheerd | Serving and observability in one platform. |
| OpenlayerObservability en evaluatie | Beheerd | Testing and monitoring with a strong evaluation story. |
| HumanloopObservability en evaluatie | Beheerd | Prompt management with domain-expert review built in. |
| OpenTelemetry into your existing stackObservability en evaluatie | Zelf bouwen | If you already run Grafana or the ELK stack, emitting spans into it costs little and adds no vendor. You give up the LLM-specific evaluation features, which is the trade. |
| NVIDIA NeMo GuardrailsGovernance en guardrails | Open source | Programmable conversational rails; topic and flow boundaries. |
| Guardrails AIGovernance en guardrails | Open source | Input and output validators with a shared library of checks. |
| Azure AI Content SafetyGovernance en guardrails | Hyperscaler | Managed content filtering with severity levels. |
| Amazon Bedrock GuardrailsGovernance en guardrails | Hyperscaler | Policy enforcement applied across models in Bedrock. |
| Vertex AI safety filtersGovernance en guardrails | Hyperscaler | Configurable safety thresholds on Google-served models. |
| LakeraGovernance en guardrails | Beheerd | Prompt-injection and jailbreak defence. |
| Protect AIGovernance en guardrails | Beheerd | Model and supply-chain security scanning. Now part of Palo Alto Networks. |
| Robust IntelligenceGovernance en guardrails | Beheerd | Automated red-teaming and runtime protection. Part of Cisco. |
| Credo AIGovernance en guardrails | Beheerd | Governance registry mapped to regulatory frameworks, including the EU AI Act. |
| Holistic AIGovernance en guardrails | Beheerd | Risk assessment and compliance reporting. |
| IBM watsonx.governanceGovernance en guardrails | Beheerd | Model inventory, risk and lifecycle documentation. |
| Fiddler AIGovernance en guardrails | Beheerd | Explainability and monitoring for regulated use. |
| ArthurGovernance en guardrails | Beheerd | Performance and bias monitoring in production. |
| BifrostGovernance en guardrails | Open source | An AI gateway that applies the same policy to every model call. |
| LLM GuardGovernance en guardrails | Open source | A practical scanner set for inputs and outputs. |
| Microsoft PresidioGovernance en guardrails | Open source | Personal-data detection and redaction. Directly useful under the GDPR. |
| RebuffGovernance en guardrails | Open source | Prompt-injection detection. |
| VijilGovernance en guardrails | Beheerd | Agent trust evaluation and certification. |
| TrustibleGovernance en guardrails | Beheerd | AI Act obligation tracking and evidence collection. |
| Policy checks in your own gatewayGovernance en guardrails | Zelf bouwen | You already need a gateway for keys and rate limits; putting redaction and logging there keeps one enforcement point. What you do not get is a maintained attack library, which is the part that ages fastest. |
Wat de meeste organisaties over het hoofd zien
Drie dingen komen in vrijwel elk gesprek terug.
De eerste is dat zelf bouwen zelden betekent "alles zelf". In bijna elke laag is de zinnige zelfbouwoptie klein en specifiek: pgvector in de Postgres die u al draait, of een eigen gateway waar u toch al sleutels en rate limits beheert. Dat is iets anders dan een eigen inferentieplatform.
De tweede is dat de wisselkost pas telt als u hem vooraf uitrekent. Vraag bij elke laag: wat kost het om hier over achttien maanden weg te gaan? Als het antwoord onbekend is, is dat het antwoord.
De derde is dat de AI-verordening niet meeverhuist met de aankoop. Bij de meeste toepassingen bent u zelf de aanbieder, ongeacht wiens model eronder zit. Een leverancier kan documentatie leveren; hij kan uw verplichting niet overnemen.
Het kader
Tien dimensies, per use case en per laag in te vullen. Ze wijzen zelden allemaal dezelfde kant op — en juist dat maakt het bruikbaar: waar ze uiteenlopen, ziet u meteen waar de spanning zit.
Waar dit meestal uitkomt
Voor middelgrote organisaties eindigt dit zelden bij "bouwen" en zelden bij "kopen". Het eindigt bij samenstellen: koop de laag, bezit het deel dat van u is. Dat deel is bijna altijd hetzelfde — uw data, uw prompts, uw evaluatieset en uw interface. Dat is precies het deel dat leveranciers het makkelijkst weggeven en het moeilijkst vervangen.