vllm

A high-throughput and memory-efficient inference and serving engine for LLMs

Package versions

102 VERSIONS IN TOTAL
versionpublisheddirect vulnerabilities
0.3.31 Mar, 2024
  • 3
    C
  • 46
    H
  • 26
    M
  • 6
    L
0.3.221 Feb, 2024
  • 3
    C
  • 46
    H
  • 26
    M
  • 6
    L
0.3.117 Feb, 2024
  • 3
    C
  • 46
    H
  • 26
    M
  • 6
    L
0.3.031 Jan, 2024
  • 3
    C
  • 46
    H
  • 26
    M
  • 6
    L
0.2.74 Jan, 2024
  • 3
    C
  • 46
    H
  • 25
    M
  • 6
    L
0.2.617 Dec, 2023
  • 3
    C
  • 46
    H
  • 25
    M
  • 6
    L
0.2.514 Dec, 2023
  • 3
    C
  • 46
    H
  • 25
    M
  • 6
    L
0.2.411 Dec, 2023
  • 3
    C
  • 46
    H
  • 25
    M
  • 6
    L
0.2.33 Dec, 2023
  • 3
    C
  • 46
    H
  • 25
    M
  • 6
    L
0.2.219 Nov, 2023
  • 3
    C
  • 46
    H
  • 25
    M
  • 6
    L
0.2.1.post117 Oct, 2023
  • 3
    C
  • 46
    H
  • 25
    M
  • 6
    L
0.2.116 Oct, 2023
  • 3
    C
  • 46
    H
  • 25
    M
  • 6
    L
0.2.028 Sep, 2023
  • 3
    C
  • 46
    H
  • 25
    M
  • 6
    L
0.1.711 Sep, 2023
  • 3
    C
  • 46
    H
  • 25
    M
  • 6
    L
0.1.68 Sep, 2023
  • 3
    C
  • 46
    H
  • 25
    M
  • 6
    L
0.1.58 Sep, 2023
  • 3
    C
  • 46
    H
  • 25
    M
  • 6
    L
0.1.425 Aug, 2023
  • 3
    C
  • 46
    H
  • 25
    M
  • 6
    L
0.1.32 Aug, 2023
  • 3
    C
  • 46
    H
  • 25
    M
  • 6
    L
0.1.25 Jul, 2023
  • 3
    C
  • 46
    H
  • 25
    M
  • 6
    L
0.1.122 Jun, 2023
  • 3
    C
  • 46
    H
  • 25
    M
  • 6
    L

Automatically find and fix vulnerabilities affecting your projects. Snyk scans for vulnerabilities and provides fixes for free.

Get started free