vllm

A high-throughput and memory-efficient inference and serving engine for LLMs

Package versions

97 VERSIONS IN TOTAL
versionpublisheddirect vulnerabilities
0.6.111 Sep, 2024
  • 2
    C
  • 23
    H
  • 17
    M
  • 2
    L
0.6.05 Sep, 2024
  • 2
    C
  • 22
    H
  • 17
    M
  • 2
    L
0.5.523 Aug, 2024
  • 2
    C
  • 22
    H
  • 17
    M
  • 2
    L
0.5.45 Aug, 2024
  • 2
    C
  • 21
    H
  • 16
    M
  • 1
    L
0.5.3.post123 Jul, 2024
  • 2
    C
  • 21
    H
  • 16
    M
  • 1
    L
0.5.323 Jul, 2024
  • 2
    C
  • 21
    H
  • 16
    M
  • 1
    L
0.5.215 Jul, 2024
  • 2
    C
  • 21
    H
  • 16
    M
  • 1
    L
0.5.16 Jul, 2024
  • 2
    C
  • 20
    H
  • 15
    M
  • 1
    L
0.5.0.post114 Jun, 2024
  • 2
    C
  • 20
    H
  • 15
    M
  • 1
    L
0.5.011 Jun, 2024
  • 2
    C
  • 20
    H
  • 15
    M
  • 1
    L
0.4.31 Jun, 2024
  • 2
    C
  • 20
    H
  • 14
    M
  • 1
    L
0.4.25 May, 2024
  • 2
    C
  • 20
    H
  • 14
    M
  • 1
    L
0.4.124 Apr, 2024
  • 2
    C
  • 20
    H
  • 14
    M
  • 1
    L
0.4.0.post13 Apr, 2024
  • 2
    C
  • 20
    H
  • 14
    M
  • 1
    L
0.4.031 Mar, 2024
  • 2
    C
  • 20
    H
  • 14
    M
  • 1
    L
0.3.31 Mar, 2024
  • 2
    C
  • 20
    H
  • 14
    M
  • 1
    L
0.3.221 Feb, 2024
  • 2
    C
  • 20
    H
  • 14
    M
  • 1
    L
0.3.117 Feb, 2024
  • 2
    C
  • 20
    H
  • 14
    M
  • 1
    L
0.3.031 Jan, 2024
  • 2
    C
  • 20
    H
  • 14
    M
  • 1
    L
0.2.74 Jan, 2024
  • 2
    C
  • 20
    H
  • 13
    M
  • 1
    L

Automatically find and fix vulnerabilities affecting your projects. Snyk scans for vulnerabilities and provides fixes for free.

Get started free