Маск жжёт больше гигаватта и обучает 7 моделей параллельно

Новый суперкомпьютерный кластер Colossus 2 уже заработал, и его аппетиты вызывают священный трепет. Прямо сейчас эта железная махина параллельно обучает сразу семь крупных языковых и мультимодальных моделей. В этом зоопарке монстров есть всё: от продвинутого генератора картинок Imagine V2 до настоящего цифрового левиафана на 10 триллионов параметров.

На вопрос, сколько времени займет приготовление самого жирного монстра, Маск ответил, что предварительный этап обучения займет около двух месяцев. А чтобы вся эта красота работала, Colossus 2 жрет больше 1 гигаватта энергии. Для понимания масштаба - это больше, чем пиковое потребление электричества целого Сан-Франциско.

🥸 Новости IT: 📱 Telegram | 📱 ВК | 📲 MAX