不知道是不是我什么地方配置有问题,在 M2 Max 上跑同样的任务,GPU 居然比 CPU 慢
具体配置是 M2 Max,CPU 是12核,GPU 是30核。
跑的任务是 sentence-transformers 做 embedding,底层调用 PyToch。
sentence-transformer 的版本是 2.2.2
PyTorch 版本是 2.1.0
Python 版本 3.11.6
Jupyterlab 版本 4.0.7
有哪位知道的话,请不吝赐教
Post #260
379