42 lines
671 B
JSON
42 lines
671 B
JSON
{
|
|
"$schema": "https://www.getbifrost.ai/schema",
|
|
"version": 2,
|
|
"vector_store": {
|
|
"enabled": true,
|
|
"type": "redis",
|
|
"config": {
|
|
"addr": "env.REDIS_ADDR",
|
|
"username": "env.REDIS_USERNAME",
|
|
"password": "env.REDIS_PASSWORD",
|
|
"db": "env.REDIS_DB"
|
|
}
|
|
},
|
|
"plugins": [
|
|
{
|
|
"enabled": true,
|
|
"name": "semantic_cache",
|
|
"config": {
|
|
"dimension": 1,
|
|
"ttl": "5m",
|
|
"threshold": 0.8,
|
|
"cache_by_model": true,
|
|
"cache_by_provider": true
|
|
}
|
|
}
|
|
],
|
|
"providers": {
|
|
"openai": {
|
|
"keys": [
|
|
{
|
|
"name": "openai-primary",
|
|
"value": "env.OPENAI_API_KEY",
|
|
"models": [
|
|
"*"
|
|
],
|
|
"weight": 1
|
|
}
|
|
]
|
|
}
|
|
}
|
|
}
|