Taal kiezen
  • Huidige taal: NL
  • EN
Neem contact op

Insights

Bouwen of kopen: hoe u de AI-stack samenstelt zonder u vast te leggen

· Architectuur

Bouwen of kopen: hoe u de AI-stack samenstelt zonder u vast te leggen

Het gesprek over bouwen of kopen wordt bijna altijd te vroeg gevoerd, en over het verkeerde ding. Te vroeg, omdat de vraag pas te beantwoorden is als u weet welke laag u bedoelt. Over het verkeerde ding, omdat "AI" geen aankoop is maar een stapel van zeven onafhankelijke keuzes.

Dat laatste is het punt dat het meeste geld scheelt. De lagen hieronder zijn los van elkaar te kiezen. Niets verplicht u om uw rekenkracht bij dezelfde partij af te nemen als uw modellen, of uw observability bij dezelfde partij als uw orkestratie. De duurste fout die we bij middelgrote organisaties zien is niet verkeerd kopen — het is één suite kopen omdat het één gesprek was.

De zeven lagen

Elke laag heeft een eigen markt, een eigen wisselkost en een eigen tempo van verandering. Dat laatste bepaalt vaker dan wat ook of bouwen verstandig is: in een laag die elk kwartaal verschuift, betekent bouwen opnieuw bouwen.

  • Rekenkracht — waar de GPU's staan en wie ze beheert
  • Modellen aanbieden — hoe een model bereikbaar wordt als API
  • Trainen en finetunen — een bestaand model aanpassen aan uw werk
  • Data en vectoren — waar uw kennis staat en hoe die doorzoekbaar is
  • Orkestratie en agents — wat er in welke volgorde gebeurt
  • Observability en evaluatie — of het werkt, en of dat zo blijft
  • Governance en guardrails — wat het systeem niet mag, en hoe u dat aantoont

Het landschap

Hieronder staan per laag twintig oplossingen die u als middelgrote organisatie in Europa realistisch tegenkomt, plus in elke laag de optie om het zelf te bouwen. Het is nadrukkelijk geen ranglijst: van de meeste van deze bedrijven zijn geen marktaandelen gepubliceerd, en ze op volgorde zetten alsof die er wel waren zou het meest gezaghebbend ogende getal op deze pagina verzinnen.

140 van 140 oplossingen

OplossingSoortWaar het past
AWSRekenkrachtHyperscalerEC2 GPU instances and SageMaker. The default when the rest of the estate is already there.
Microsoft AzureRekenkrachtHyperscalerND-series GPUs and Azure ML. Usually chosen because the enterprise agreement already exists.
Google CloudRekenkrachtHyperscalerGPUs and TPUs behind Vertex AI. The only hyperscaler offering its own training silicon.
CoreWeaveRekenkrachtBeheerdKubernetes-native GPU cloud built for AI rather than adapted to it.
LambdaRekenkrachtBeheerdLong-running training clusters with persistent storage.
NebiusRekenkrachtBeheerdEuropean GPU capacity; relevant where data residency is a constraint.
RunPodRekenkrachtBeheerdPer-second GPU rental, community and secure tiers.
Vast.aiRekenkrachtBeheerdMarketplace pricing. Cheapest per hour, most variable in reliability.
ModalRekenkrachtBeheerdServerless GPU with a Python-native developer experience.
PaperspaceRekenkrachtBeheerdDigitalOcean's GPU platform; simple pricing, smaller catalogue.
ScalewayRekenkrachtBeheerdFrench provider with EU-only regions.
OVHcloudRekenkrachtBeheerdEuropean hosting at scale; strong on data-residency guarantees.
HetznerRekenkrachtBeheerdGerman provider. Very low cost, limited GPU catalogue.
Oracle Cloud InfrastructureRekenkrachtHyperscalerAggressive GPU pricing and large reserved capacity.
IBM CloudRekenkrachtHyperscalerRelevant mainly where watsonx is already in the estate.
CrusoeRekenkrachtBeheerdEnergy-first GPU cloud; competitive on cost per hour at scale.
Together AIRekenkrachtBeheerdCompute and inference in one contract.
SpheronRekenkrachtBeheerdAggregates bare-metal capacity across several providers.
NorthflankRekenkrachtBeheerdDeploys containers to GPUs without running Kubernetes yourself.
Own GPUs, on-premise or colocatedRekenkrachtZelf bouwenLowest marginal cost at sustained high utilisation. Carries procurement lead times, power, cooling and a hardware refresh cycle. Rarely justified below continuous multi-GPU load.
OpenAI APIModellen aanbiedenBeheerdThe broadest frontier catalogue and the most mature tooling around it.
Anthropic APIModellen aanbiedenBeheerdFrontier models with a strong position on coding and long-document work.
Google Gemini APIModellen aanbiedenBeheerdLong context and native multimodality; often the cheapest capable tier.
Azure OpenAI ServiceModellen aanbiedenHyperscalerOpenAI models inside an Azure tenancy, with EU region options.
Amazon BedrockModellen aanbiedenHyperscalerOne API across several model families, inside an AWS account.
Google Vertex AIModellen aanbiedenHyperscalerGemini plus third-party models with enterprise controls.
Mistral AIModellen aanbiedenBeheerdEuropean provider; relevant where EU processing is contractual rather than preferred.
CohereModellen aanbiedenBeheerdEnterprise focus, strong retrieval and reranking models.
Together AIModellen aanbiedenBeheerdLarge open-weights catalogue at low cost per token.
Fireworks AIModellen aanbiedenBeheerdOptimised serving of open models; competitive on latency.
BasetenModellen aanbiedenBeheerdBring your own model, deployed and scaled for you.
ReplicateModellen aanbiedenBeheerdContainer-packaged models with per-second billing.
GroqModellen aanbiedenBeheerdVery high output speed on a fixed model set.
CerebrasModellen aanbiedenBeheerdWafer-scale inference; speed at the top of the market.
OpenRouterModellen aanbiedenBeheerdOne key across many providers. Useful for comparison and failover.
Hugging Face Inference EndpointsModellen aanbiedenBeheerdAny model on the Hub, deployed to a managed endpoint.
AnyscaleModellen aanbiedenBeheerdRay-based serving for teams already using Ray.
vLLMModellen aanbiedenOpen sourceThe de facto open serving engine. High throughput, you operate it.
OllamaModellen aanbiedenOpen sourceLocal and small-scale serving; the fastest way to try an open model.
vLLM or TGI on your own GPUsModellen aanbiedenZelf bouwenFull control of model, version and data path, and the lowest cost per token at sustained volume. You own the uptime, the upgrades and the GPU capacity planning.
OpenAI fine-tuningTrainen en finetunenBeheerdSupervised fine-tuning on hosted models. No infrastructure to run.
Azure AI FoundryTrainen en finetunenHyperscalerFine-tuning and evaluation inside an Azure tenancy.
Vertex AI TrainingTrainen en finetunenHyperscalerManaged training jobs with TPU or GPU backing.
Amazon SageMakerTrainen en finetunenHyperscalerThe broadest managed training toolchain; steep learning curve.
Together AI fine-tuningTrainen en finetunenBeheerdLoRA and full fine-tunes on open models, deployed on the same platform.
Fireworks fine-tuningTrainen en finetunenBeheerdTuning paired directly with optimised serving.
PredibaseTrainen en finetunenBeheerdFine-tuning aimed at small task-specific models rather than frontier ones.
Hugging Face AutoTrainTrainen en finetunenBeheerdLow-code tuning on the Hub.
AxolotlTrainen en finetunenOpen sourceThe most widely used open fine-tuning harness.
UnslothTrainen en finetunenOpen sourceMemory-efficient tuning; makes single-GPU work feasible.
LLaMA-FactoryTrainen en finetunenOpen sourceBroad model coverage with a usable interface.
Weights & BiasesTrainen en finetunenBeheerdExperiment tracking. Not training itself, but what makes it repeatable.
Determined AITrainen en finetunenOpen sourceCluster scheduling and hyperparameter search.
Ray TrainTrainen en finetunenOpen sourceDistributed training for teams already running Ray.
Databricks Mosaic AITrainen en finetunenBeheerdTraining tied to a lakehouse; strong where the data already lives there.
ModalTrainen en finetunenBeheerdServerless training runs without a standing cluster.
Lightning AITrainen en finetunenBeheerdStudio environments around PyTorch Lightning.
Nebius AI StudioTrainen en finetunenBeheerdTuning on European infrastructure.
Google Colab EnterpriseTrainen en finetunenHyperscalerNotebook-based experimentation with managed backends.
DeepSpeed or Ray on your own clusterTrainen en finetunenZelf bouwenNecessary for genuinely novel training work. For adapting an existing model to your data it is almost always more machinery than the problem needs.
pgvectorData en vectorenOpen sourceVector search inside the Postgres you already run. The right first answer for most mid-sized firms.
PineconeData en vectorenBeheerdZero-operations vector search with built-in embedding and reranking.
QdrantData en vectorenOpen sourceRust engine with fine-grained filtering and quantisation. Cloud or self-hosted.
WeaviateData en vectorenOpen sourceHybrid search and multi-tenancy; self-hosting expects Kubernetes.
MilvusData en vectorenOpen sourceBuilt for billion-scale collections.
ChromaData en vectorenOpen sourceThe quickest path from prototype to working retrieval.
LanceDBData en vectorenOpen sourceMultimodal and file-native; no server to run.
ElasticsearchData en vectorenBeheerdMature keyword search with vectors added. Strong hybrid retrieval.
OpenSearchData en vectorenOpen sourceThe open fork; the same hybrid strengths without the licence.
RedisData en vectorenBeheerdVector search alongside a cache you may already operate.
MongoDB Atlas Vector SearchData en vectorenBeheerdVectors beside documents in one database.
Azure AI SearchData en vectorenHyperscalerRetrieval with enterprise access controls built in.
Vertex AI Vector SearchData en vectorenHyperscalerGoogle's managed index; scales without tuning.
Amazon OpenSearch ServerlessData en vectorenHyperscalerManaged hybrid retrieval inside AWS.
Databricks Vector SearchData en vectorenBeheerdRetrieval governed by the same catalogue as the rest of the data.
Snowflake Cortex SearchData en vectorenBeheerdRetrieval where the warehouse already is.
VespaData en vectorenOpen sourceServing and ranking at very large scale; substantial operational weight.
TurbopufferData en vectorenBeheerdObject-storage-backed vectors; unusually low cost at rest.
SingleStoreData en vectorenBeheerdTransactional and vector workloads in one engine.
pgvector on your existing PostgresData en vectorenZelf bouwenNo new vendor, no new backup regime, no new access model. The ceiling is real but most mid-sized corpora never reach it.
LangChainOrkestratie en agentsOpen sourceThe largest ecosystem of connectors and the most examples to copy.
LangGraphOrkestratie en agentsOpen sourceExplicit state machines for agents; far easier to reason about than free-form chains.
LlamaIndexOrkestratie en agentsOpen sourceRetrieval-first framework with strong document handling.
Semantic KernelOrkestratie en agentsOpen sourceMicrosoft's orchestration layer; natural fit alongside .NET.
HaystackOrkestratie en agentsOpen sourceProduction-oriented pipelines from deepset.
CrewAIOrkestratie en agentsOpen sourceRole-based multi-agent orchestration.
AutoGenOrkestratie en agentsOpen sourceMicrosoft Research's multi-agent conversation framework.
Pydantic AIOrkestratie en agentsOpen sourceTyped, validated agent definitions. Small surface, few surprises.
TemporalOrkestratie en agentsOpen sourceDurable execution. The right answer when a workflow must survive a restart.
PrefectOrkestratie en agentsOpen sourcePython-native workflow orchestration with a managed option.
Apache AirflowOrkestratie en agentsOpen sourceScheduled pipelines; the incumbent in most data teams.
n8nOrkestratie en agentsOpen sourceVisual automation, self-hostable. Popular in European mid-market.
MakeOrkestratie en agentsBeheerdVisual automation with a large connector library.
ZapierOrkestratie en agentsBeheerdThe lowest-effort route to connecting existing SaaS.
Microsoft Copilot StudioOrkestratie en agentsBeheerdAgents inside Microsoft 365, governed by existing tenancy controls.
Google Agent BuilderOrkestratie en agentsHyperscalerAgent construction and deployment on Vertex.
Amazon Bedrock AgentsOrkestratie en agentsHyperscalerManaged agents with action groups inside AWS.
DifyOrkestratie en agentsOpen sourceLow-code application builder over your own models.
FlowiseOrkestratie en agentsOpen sourceVisual chain building on top of LangChain.
Direct API calls with your own state machineOrkestratie en agentsZelf bouwenFor a single well-understood workflow this is often less code than the framework, and it never breaks on a framework upgrade. It stops scaling once you have several agents sharing state.
LangfuseObservability en evaluatieOpen sourceOpen, self-hostable tracing and prompt management. The common default.
LangSmithObservability en evaluatieBeheerdThe smoothest path if you already build with LangChain or LangGraph.
BraintrustObservability en evaluatieBeheerdEvaluation-first: experiments, scoring and review as the primary object.
Arize AXObservability en evaluatieBeheerdProduction monitoring with drift detection.
Arize PhoenixObservability en evaluatieOpen sourceNotebook-first tracing for experimentation.
LangWatchObservability en evaluatieOpen sourceSelf-hosted tracing with online evaluation and guardrails together.
Weights & Biases WeaveObservability en evaluatieBeheerdTracing and evals beside experiment tracking.
GalileoObservability en evaluatieBeheerdFast inline scoring aimed at intercepting output in production.
Confident AI (DeepEval)Observability en evaluatieOpen sourceA test-suite model for LLM behaviour; runs in CI.
TruLensObservability en evaluatieOpen sourceFeedback functions for RAG quality.
HeliconeObservability en evaluatieOpen sourceA proxy that gives logging and caching with a one-line change.
PromptLayerObservability en evaluatieBeheerdPrompt versioning and comparison for non-engineers.
Datadog LLM ObservabilityObservability en evaluatieBeheerdSensible where Datadog is already the monitoring system.
New Relic AI MonitoringObservability en evaluatieBeheerdSame argument, different incumbent.
OpenTelemetry GenAIObservability en evaluatieOpen sourceThe emerging standard. Vendor-neutral, and what keeps you portable.
WhyLabsObservability en evaluatieBeheerdData and model drift monitoring.
TrueFoundryObservability en evaluatieBeheerdServing and observability in one platform.
OpenlayerObservability en evaluatieBeheerdTesting and monitoring with a strong evaluation story.
HumanloopObservability en evaluatieBeheerdPrompt management with domain-expert review built in.
OpenTelemetry into your existing stackObservability en evaluatieZelf bouwenIf you already run Grafana or the ELK stack, emitting spans into it costs little and adds no vendor. You give up the LLM-specific evaluation features, which is the trade.
NVIDIA NeMo GuardrailsGovernance en guardrailsOpen sourceProgrammable conversational rails; topic and flow boundaries.
Guardrails AIGovernance en guardrailsOpen sourceInput and output validators with a shared library of checks.
Azure AI Content SafetyGovernance en guardrailsHyperscalerManaged content filtering with severity levels.
Amazon Bedrock GuardrailsGovernance en guardrailsHyperscalerPolicy enforcement applied across models in Bedrock.
Vertex AI safety filtersGovernance en guardrailsHyperscalerConfigurable safety thresholds on Google-served models.
LakeraGovernance en guardrailsBeheerdPrompt-injection and jailbreak defence.
Protect AIGovernance en guardrailsBeheerdModel and supply-chain security scanning. Now part of Palo Alto Networks.
Robust IntelligenceGovernance en guardrailsBeheerdAutomated red-teaming and runtime protection. Part of Cisco.
Credo AIGovernance en guardrailsBeheerdGovernance registry mapped to regulatory frameworks, including the EU AI Act.
Holistic AIGovernance en guardrailsBeheerdRisk assessment and compliance reporting.
IBM watsonx.governanceGovernance en guardrailsBeheerdModel inventory, risk and lifecycle documentation.
Fiddler AIGovernance en guardrailsBeheerdExplainability and monitoring for regulated use.
ArthurGovernance en guardrailsBeheerdPerformance and bias monitoring in production.
BifrostGovernance en guardrailsOpen sourceAn AI gateway that applies the same policy to every model call.
LLM GuardGovernance en guardrailsOpen sourceA practical scanner set for inputs and outputs.
Microsoft PresidioGovernance en guardrailsOpen sourcePersonal-data detection and redaction. Directly useful under the GDPR.
RebuffGovernance en guardrailsOpen sourcePrompt-injection detection.
VijilGovernance en guardrailsBeheerdAgent trust evaluation and certification.
TrustibleGovernance en guardrailsBeheerdAI Act obligation tracking and evidence collection.
Policy checks in your own gatewayGovernance en guardrailsZelf bouwenYou already need a gateway for keys and rate limits; putting redaction and logging there keeps one enforcement point. What you do not get is a maintained attack library, which is the part that ages fastest.

Wat de meeste organisaties over het hoofd zien

Drie dingen komen in vrijwel elk gesprek terug.

De eerste is dat zelf bouwen zelden betekent "alles zelf". In bijna elke laag is de zinnige zelfbouwoptie klein en specifiek: pgvector in de Postgres die u al draait, of een eigen gateway waar u toch al sleutels en rate limits beheert. Dat is iets anders dan een eigen inferentieplatform.

De tweede is dat de wisselkost pas telt als u hem vooraf uitrekent. Vraag bij elke laag: wat kost het om hier over achttien maanden weg te gaan? Als het antwoord onbekend is, is dat het antwoord.

De derde is dat de AI-verordening niet meeverhuist met de aankoop. Bij de meeste toepassingen bent u zelf de aanbieder, ongeacht wiens model eronder zit. Een leverancier kan documentatie leveren; hij kan uw verplichting niet overnemen.

Het kader

Tien dimensies, per use case en per laag in te vullen. Ze wijzen zelden allemaal dezelfde kant op — en juist dat maakt het bruikbaar: waar ze uiteenlopen, ziet u meteen waar de spanning zit.

Vraag de scoretabel aan

Het kader hierboven is compleet: alle tien dimensies en wat ze betekenen. Wat hierachter zit is de scoretabel — de gewichten, de vijf ankers per dimensie en de drempelwaarden die bouwen van kopen scheiden.

U ontvangt: gewogen scoretabel, ankers per dimensie, drempelwaarden en een uitgewerkt voorbeeld.

Waar dit meestal uitkomt

Voor middelgrote organisaties eindigt dit zelden bij "bouwen" en zelden bij "kopen". Het eindigt bij samenstellen: koop de laag, bezit het deel dat van u is. Dat deel is bijna altijd hetzelfde — uw data, uw prompts, uw evaluatieset en uw interface. Dat is precies het deel dat leveranciers het makkelijkst weggeven en het moeilijkst vervangen.