Mellea¶
Introductie¶
Mellea is een open-source Python-framework, ontwikkeld door IBM, dat betrouwbare en testbare output van grote taalmodellen (LLM's) mogelijk maakt. Het framework richt zich op een fundamenteel probleem dat in vrijwel elke AI-pipeline terugkomt: de LLM-call zelf is vaak het onbetrouwbare onderdeel van een workflow of script.
Mellea lost dit op met getypiseerde output, verifieerbare vereisten en automatische herhalingen (repair), zodat stille fouten en ontoetsbare output worden voorkomen.
Licentie
Mellea is open source onder de Apache 2.0-licentie.
Officiële Resources¶
-
Officiële Website
Hoofdwebsite met documentatie en voorbeelden
Belangrijkste kenmerken¶
- Generative functions - De
@generativedecorator zet Python-functiehandtekeningen om in LLM-specificaties - Constrained decoding - Grammatica-geforceerde generatie op tokenniveau voor voorspelbare output
- Validatiesysteem - Regels voor tone, lengte en inhoud, met automatische herhalingen (repair) bij afwijkingen
- Inference-time scaling - Majority voting en best-of-n strategieën voor betere resultaten
- MCP-compatibiliteit - Mellea-programma's kunnen als MCP-tools worden aangeboden
- Veiligheidsfuncties - Integratie met Granite Guardian tegen schadelijke output
Ondersteunde LLM-providers¶
Mellea is provider-agnostisch en werkt onder andere met:
- OpenAI
- Ollama
- vLLM
- HuggingFace
- Watsonx
- LiteLLM
- Bedrock
Installatie¶
uv pip install mellea
Examples ("See it in action")¶
Op de homepage worden drie voorbeelden uitgelicht die laten zien hoe Mellea in de praktijk werkt:
1. Generative Functions
Simpele Python-functies schrijven voor gestructureerde LLM-output, zonder dat je zelf parsers hoeft te bouwen om de output van het model om te zetten naar bruikbare datastructuren.
2. Instruct, Validate, Repair
Een praktijkvoorbeeld waarin sentimentanalyse van reviews wordt uitgevoerd met getypiseerde Pydantic-modellen. Output wordt gevalideerd tegen de verwachte structuur/regels, en bij afwijkingen automatisch hersteld (repair).
3. Safety & Guardrails
Ingebouwde bescherming tegen schadelijke output, onder andere via de Granite Guardian-integratie.
Use-case bij Flooris¶
Nog geen concrete use-case
We hebben op dit moment nog geen concrete use-case voor Mellea binnen Flooris-projecten. De tool wordt puur ter kennisname en exploratie gedocumenteerd.
Gezien de groei van AI/LLM-integraties in onze projecten is de verwachting dat er op termijn zeker een geschikte toepassing voor gaat ontstaan, bijvoorbeeld daar waar we nu handmatig validatie en retry-logica rondom LLM-calls bouwen.
Tags & Categorieën¶
Type: LLM-orchestratie / generative AI framework Platform: Python Maker: IBM Licentie: Apache 2.0 Status: Exploratie fase - geen actieve use-case
Laatst bijgewerkt: Juli 2026