Пока я с бешеной скоростью пытался оценить масштаб изменений после выхода GPT Astra и понять, куда бежать нашим клиентам, чтобы оптимизировать работу, наткнулся на тред.

Меня он не испугал. Но прочитать стоит.

Автор Jacob Coxon. Пишет, что уволился из Anthropic, а последние три года занимался предобучением моделей в OpenAI и Anthropic.

Перевод:

«Сегодня я уволился из Anthropic. Последние три года я занимался исследованиями предобучения в OpenAI и Anthropic. Ни одна из компаний не действует ответственно. Они несутся прямо к самоулучшающемуся сверхинтеллекту и играют нашими жизнями.
Не недооценивайте мощь этой технологии. Скоро эти системы будут превосходить человека, смогут взламывать что угодно, за ночь переворачивать целые области и получать реальную власть и ресурсы. Мы уже видели прогресс по каждому из этих направлений, и он не замедляется.
Люди, создающие ИИ, искренне верят, что он может убить нас всех до конца десятилетия. Это не маркетинговый трюк. Многие руководители и ведущие исследователи смягчают формулировки в прессе, чтобы звучать рассудительно, — но я слышу, как те же люди выражают страх…»

Что я думаю.
Я не могу проверить, что именно обсуждают внутри этих компаний. И уверенность исследователя в катастрофическом сценарии ещё не означает, что он сбудется. Но отмахиваться от таких предупреждений тоже странно.

При этом я читаю этот текст и думаю ещё об одном. Кто-то уже обсуждает системы, способные самостоятельно наращивать свои возможности. А в бизнесе мы всё ещё согласовываем, можно ли сотрудникам пользоваться ИИ, и считаем количество купленных подписок показателем трансформации.
Вот этот разрыв меня волнует больше всего.

Мой вопрос сейчас: какие процессы у клиентов уже можно пересобрать? Где сократить время выполнения работы с нескольких дней до часов? Где убрать ручную передачу информации между пятью людьми? Как проверить, что результат действительно стал лучше и дешевле?
И одновременно какие доступы давать системе, кто проверяет её решения и как остановить процесс, если она ошиблась. Чем больше возможностей, тем конкретнее должны быть ответы.

Ждать сверхинтеллекта, чтобы начать менять компанию, я бы точно не стал. Нам ещё с уже доступными возможностями работы на несколько лет. Только нескольких лет на раскачку может и не оказаться.

Вот такое доброе утро!