nix: add router to the devshell (#2396)
This commit is contained in:
parent
8dcc7d3f6b
commit
01a515dea2
|
@ -70,6 +70,10 @@
|
||||||
torch
|
torch
|
||||||
transformers
|
transformers
|
||||||
vllm
|
vllm
|
||||||
|
|
||||||
|
(callPackage ./router.nix {
|
||||||
|
inherit (rustPlatform) buildRustPackage importCargoLock;
|
||||||
|
})
|
||||||
]);
|
]);
|
||||||
|
|
||||||
venvDir = "./.venv";
|
venvDir = "./.venv";
|
||||||
|
|
|
@ -0,0 +1,18 @@
|
||||||
|
{ buildRustPackage, importCargoLock, pkg-config, protobuf, openssl }:
|
||||||
|
|
||||||
|
buildRustPackage {
|
||||||
|
name = "text-generation-router";
|
||||||
|
|
||||||
|
src = ./.;
|
||||||
|
|
||||||
|
sourceDir = ./backends/v3;
|
||||||
|
|
||||||
|
cargoLock = {
|
||||||
|
lockFile = ./Cargo.lock;
|
||||||
|
};
|
||||||
|
|
||||||
|
nativeBuildInputs = [ pkg-config ];
|
||||||
|
|
||||||
|
buildInputs = [ openssl.dev protobuf ];
|
||||||
|
|
||||||
|
}
|
Loading…
Reference in New Issue