Компания более чем вдвое снизила затраты на вывод для неавторизованных пользователей веб-версии ChatGPT. Для обработки всего гостевого трафика платформе теперь требуется лишь несколько сотен GPU Nvidia.
Сессии без аккаунта работают с ограниченным функционалом. Будут ли этот подход масштабироваться на обслуживание авторизованных пользователей, пока неизвестно.
Технические детали оптимизации компания не раскрывает.
theinformation.com
✔️ Meta* начнет сдавать в аренду свои ИИ-кластеры
Корпорация Цукерберга выходит на рынок облачных услуг и планирует предоставлять сторонним клиентам доступ к своим кластерам и развернутым ИИ-моделям так же, как это делает SpaceX, которая сдает в аренду GPU от xAI компаниям Anthropic и Google.
Бюджет компании на инфраструктуру в этом году составляет $145 млрд. Для высвобождения средств Meta ранее провела сокращения персонала.
Монетизация свободных ресурсов показывает, что внутреннее обучение моделей больше не утилизирует мощности на 100%.
bloomberg.com
✔️ Илон Маск разрабатывает смартфон
SpaceX показала инвесторам прототип смартфона на базе процессора Qualcomm Snapdragon с системной интеграцией моделей xAI. Устройство работает на собственной операционной системе.
Цель разработки смартфона - запуск супераппа по принципу WeChat в обход монополий Apple и Google. Своя ОС позволит Илону Маску напрямую контролировать дистрибуцию и монетизацию мобильных продуктов xAI.
Проект находится на ранней стадии разработки.
wsj.com
✔️ Base44 обучила собственную модель на логах разработки
Платформа Base44, которая принадлежит Wix, выпустила модель Base 1, обученную на внутренней телеметрии и логах разработки. Модель уже развернута в продакшене.
Base 1 участвует в обсуждении логики, предсказывает действия пользователя и фильтрует тупиковые архитектурные решения. Платформа использует автоматический роутинг, распределяя запросы между Base 1 и другими LLM из селектора в зависимости от задачи.
В обучающий датасет вошли десятки миллионов сессий: стартовые промпты, сгенерированный агентами код, ошибки рантайма, ручные правки и сигналы успешного деплоя. Архитектуру и результаты бенчмарков Base44 раскроет в ближайшие недели.
base44.com
✔️ ИИ-бум взвинтил стоимость жизни в Сан-Франциско
Медианная цена дома в Сан-Франциско достигла $1,7 млн, средняя аренда - $3827. Из-за этого город покидают специалисты с доходами меньше $200 тысяч в год.
В качестве примера приводится пара с суммарным доходом $365 тысяч, которые за три месяца не нашли квартиру дешевле $5000 в месяц. В результате инженер переехал в район озера Тахо, а рекрутер арендует комнату за $1650.
В Кремниевой долине сформировалась группа из 10 тысяч человек с состоянием свыше $20 млн. На локальные цены влияют вторичные продажи акций - осенью 75 сотрудников OpenAI заработали на этом в среднем по $30 млн.
Аналитики прогнозируют, что ожидаемые IPO OpenAI и Anthropic еще больше увеличат стоимость жилья в регионе.
nytimes.com
*организация признана экстремистской, её деятельность на территории РФ запрещена.
@ai_machinelearning_big_data
#news #ai #ml