TL;DR
モジュール化され再利用できる、コンパイラとツールチェーンの技術の集まり。「LLVM」は略語ではなく、プロジェクトの正式名称である。
仕組み
中心となる LLVM Core は、仕様が明確に定められた中間表現（LLVM IR）を対象にした、最適化とコード生成のライブラリである。このほか、C/C++/Objective-C のコンパイラ Clang、デバッガ LLDB、リンカ LLD、サニタイザなどの実行時ライブラリを含む compiler-rt、C++ 標準ライブラリの libc++ などのサブプロジェクトがある。
例
Rust のコンパイラは LLVM を使って作られている。そのため、LLVM の libFuzzer を cargo-fuzz 経由で Rust から利用できる。