vllm

A high-throughput and memory-efficient inference and serving engine for LLMs

Package versions

102 VERSIONS IN TOTAL
versionpublisheddirect vulnerabilities
0.6.3.post117 Oct, 2024
  • 2
    C
  • 49
    H
  • 29
    M
  • 7
    L
0.6.314 Oct, 2024
  • 2
    C
  • 49
    H
  • 29
    M
  • 7
    L
0.6.225 Sep, 2024
  • 2
    C
  • 49
    H
  • 29
    M
  • 7
    L
0.6.1.post213 Sep, 2024
  • 3
    C
  • 49
    H
  • 29
    M
  • 7
    L
0.6.1.post113 Sep, 2024
  • 3
    C
  • 49
    H
  • 29
    M
  • 7
    L
0.6.111 Sep, 2024
  • 3
    C
  • 49
    H
  • 29
    M
  • 7
    L
0.6.05 Sep, 2024
  • 3
    C
  • 48
    H
  • 29
    M
  • 7
    L
0.5.523 Aug, 2024
  • 3
    C
  • 48
    H
  • 29
    M
  • 7
    L
0.5.45 Aug, 2024
  • 3
    C
  • 47
    H
  • 28
    M
  • 6
    L
0.5.3.post123 Jul, 2024
  • 3
    C
  • 47
    H
  • 28
    M
  • 6
    L
0.5.323 Jul, 2024
  • 3
    C
  • 47
    H
  • 28
    M
  • 6
    L
0.5.215 Jul, 2024
  • 3
    C
  • 47
    H
  • 28
    M
  • 6
    L
0.5.16 Jul, 2024
  • 3
    C
  • 46
    H
  • 27
    M
  • 6
    L
0.5.0.post114 Jun, 2024
  • 3
    C
  • 46
    H
  • 27
    M
  • 6
    L
0.5.011 Jun, 2024
  • 3
    C
  • 46
    H
  • 27
    M
  • 6
    L
0.4.31 Jun, 2024
  • 3
    C
  • 46
    H
  • 26
    M
  • 6
    L
0.4.25 May, 2024
  • 3
    C
  • 46
    H
  • 26
    M
  • 6
    L
0.4.124 Apr, 2024
  • 3
    C
  • 46
    H
  • 26
    M
  • 6
    L
0.4.0.post13 Apr, 2024
  • 3
    C
  • 46
    H
  • 26
    M
  • 6
    L
0.4.031 Mar, 2024
  • 3
    C
  • 46
    H
  • 26
    M
  • 6
    L

Automatically find and fix vulnerabilities affecting your projects. Snyk scans for vulnerabilities and provides fixes for free.

Get started free