最新消息: USBMI致力于为网友们分享Windows、安卓、IOS等主流手机系统相关的资讯以及评测、同时提供相关教程、应用、软件下载等服务。

windows下部署llama.cpp

业界 admin 5浏览 0评论

下载cmake

下载地址

解压,设置Path环境变量D:\CMake\bin
打开cmd输入cmake -version

安装mingw

powershell下执行

Set-ExecutionPolicy RemoteSigned -Scope CurrentUser
iex "& {$(irm get.scoop.sh)} -RunAsAdmin"
scoop bucket add extras
scoop bucket add main
scoop install mingw





安装w64devkit

去官网下载
https://www.mingw-w64/

github地址

双击运行w64devkit.exe,查看cmake、gcc版本


下载llama.cpp代码

下载

CMake方式
进入llama.cpp-master文件夹

mkdir build
cd build
cmake ..
cmake --build . --config Release


w64DevKit方式

cd d:
cd development/python/llama.cpp-master
make


编译成功

可以看到main.exe等文件

查看效果

上面的编译失败也可以选择下载编译好的
下载地址

如果安装了cuda可以选择对应的版本,如果没有选择其他windows版本即可

参考
参考

下载cmake

下载地址

解压,设置Path环境变量D:\CMake\bin
打开cmd输入cmake -version

安装mingw

powershell下执行

Set-ExecutionPolicy RemoteSigned -Scope CurrentUser
iex "& {$(irm get.scoop.sh)} -RunAsAdmin"
scoop bucket add extras
scoop bucket add main
scoop install mingw





安装w64devkit

去官网下载
https://www.mingw-w64/

github地址

双击运行w64devkit.exe,查看cmake、gcc版本


下载llama.cpp代码

下载

CMake方式
进入llama.cpp-master文件夹

mkdir build
cd build
cmake ..
cmake --build . --config Release


w64DevKit方式

cd d:
cd development/python/llama.cpp-master
make


编译成功

可以看到main.exe等文件

查看效果

上面的编译失败也可以选择下载编译好的
下载地址

如果安装了cuda可以选择对应的版本,如果没有选择其他windows版本即可

参考
参考

发布评论

评论列表 (0)

  1. 暂无评论