vllm

A high-throughput and memory-efficient inference and serving engine for LLMs

Package versions

92 VERSIONS IN TOTAL
versionpublisheddirect vulnerabilities
0.5.323 Jul, 2024
  • 1
    C
  • 18
    H
  • 9
    M
  • 1
    L
0.5.215 Jul, 2024
  • 1
    C
  • 18
    H
  • 9
    M
  • 1
    L
0.5.16 Jul, 2024
  • 1
    C
  • 17
    H
  • 8
    M
  • 1
    L
0.5.0.post114 Jun, 2024
  • 1
    C
  • 17
    H
  • 8
    M
  • 1
    L
0.5.011 Jun, 2024
  • 1
    C
  • 17
    H
  • 8
    M
  • 1
    L
0.4.31 Jun, 2024
  • 1
    C
  • 17
    H
  • 7
    M
  • 1
    L
0.4.25 May, 2024
  • 1
    C
  • 17
    H
  • 7
    M
  • 1
    L
0.4.124 Apr, 2024
  • 1
    C
  • 17
    H
  • 7
    M
  • 1
    L
0.4.0.post13 Apr, 2024
  • 1
    C
  • 17
    H
  • 7
    M
  • 1
    L
0.4.031 Mar, 2024
  • 1
    C
  • 17
    H
  • 7
    M
  • 1
    L
0.3.31 Mar, 2024
  • 1
    C
  • 17
    H
  • 7
    M
  • 1
    L
0.3.221 Feb, 2024
  • 1
    C
  • 17
    H
  • 7
    M
  • 1
    L
0.3.117 Feb, 2024
  • 1
    C
  • 17
    H
  • 7
    M
  • 1
    L
0.3.031 Jan, 2024
  • 1
    C
  • 17
    H
  • 7
    M
  • 1
    L
0.2.74 Jan, 2024
  • 1
    C
  • 17
    H
  • 6
    M
  • 1
    L
0.2.617 Dec, 2023
  • 1
    C
  • 17
    H
  • 6
    M
  • 1
    L
0.2.514 Dec, 2023
  • 1
    C
  • 17
    H
  • 6
    M
  • 1
    L
0.2.411 Dec, 2023
  • 1
    C
  • 17
    H
  • 6
    M
  • 1
    L
0.2.33 Dec, 2023
  • 1
    C
  • 17
    H
  • 6
    M
  • 1
    L
0.2.219 Nov, 2023
  • 1
    C
  • 17
    H
  • 6
    M
  • 1
    L

Automatically find and fix vulnerabilities affecting your projects. Snyk scans for vulnerabilities and provides fixes for free.

Get started free