Во первых, если ставить из официального репозитория, то вы получите максимально неактуальную историю. Поэтому, качаем с сайта Nvidia.
А второй прикол - toolkit не подтянулся в bashrc. И соответственно якобы не виделся карточкой. Поэтому, после установки обязательно добавляем его в системный путь.
export PATH=/usr/local/cuda/bin:$PATH
export LD_LIBRARY_PATH=/usr/local/cuda/lib64:$LD_LIBRARY_PATH