Все, что вам нужно — это внимание
Последний эксперимент Google с ИИ получился не слишком успешным. Это одновременно печально и по-своему иронично, ведь новая веха в развитии искусственного интеллекта началась именно благодаря Google.

В 2017 году 8 сотрудников компании опубликовали научную работу Attention Is All You Need, которая представила архитектуру нейросетей Transformer. Про нее и при чем здесь внимание, мы как-то раз уже рассказывали в другом посте.

🔜 Название архитектуры обусловлено 2 факторами. Во-первых, это был механизм, который трансформировал получаемые данные, позволяя нейросети извлечь максимально много информации из них. Во-вторых, один из авторов работы, Якоб Узкорайт, в детстве очень любил трансформеров.

Этот и другие занятные факты собрали в статье Wired. Она посвящена истории написания Attention Is All You Need — предпосылкам, авторам и их вкладу в работу.

🔜 Интересно, что если бы не удачное стечение обстоятельств, возможно, ИИ сейчас был бы совсем другим. Оказывается, некоторые участники проекта узнали о нем вообще случайно.

Например, Ноам Шазир. Один из ветеранов Google услышал разговор других участников проекта, просто проходя мимо, и решил, что это звучит интересно. Он подключился к работе в важный момент, когда команда зашла в тупик, и помог им справиться с этими трудностями.

🔜 Ну а в итоге после публикации работы в Google к ней отнеслись скептически, зато она очень впечатлила OpenAI и Microsoft. Все, кто работал над ней, постепенно покинули Google и основали свои IT-компании. А у нас есть ChatGPT и Gemini, которые с каждым обновлением становятся все умнее.