Йошуа Бенжио (канадский исследователь машинного обучения, лауреат премии Тьюринга-2018 и один из трёх «крёстных отцов» современного ИИ) увидел в этом бизнес возможность. Поднял 30 млн у Эрика Шмидта, Яана Таллина и AI-фондов и запускает LawZero.
Идея простая: ИИ должен отвечать как честный учёный — «вот вероятность, вот источник, вот места, где я могу облажаться». Первый прототип — Scientist AI. Scientist AI — это новая порода ИИ. Он не просто помогает в исследованиях, а "ускоряет саму науку". Отлавливает ложь других моделей, замечает, где ИИ начинает юлить, и фиксирует риски до того, как они станут заголовками.
“Unfortunately, there is a very competitive race between the leading labs that pushes them to focus on making AI smarter and smarter — but not necessarily to devote enough attention and investment to safety research.”
«К сожалению, между ведущими лабораториями идёт очень конкурентная гонка, которая подталкивает их к сосредоточению на способности делать ИИ всё более и более интеллектуальным, но не обязательно уделять достаточно внимания и инвестиций в исследования по безопасности».
- сказал он в FT.
И что?
В своём видео я говорил: главный барьер для тотальной победы ИИ — галлюцинации, и мы научим модель как этого не делать. Комментарии тогда были с иронией. Похоже, шутить станет труднее. Бенжио создал новую узкую но очень важную нишу. Эрик - деньги просто так не дает. Дальше самые умные головы побегут именно туда и решение будет найдено. И вот тогда можно будет поговорить про скайнет.