Да полная задница - гонятся за яркими решениями, позабыв об экзистенциальной угрозе человечеству от искусственного интеллекта.
Добропорядочные исследователи, осознав риски и движение компаний не в том направлении, увольняются , раскрывая внутреннюю кухню в своих социальных сетях. Цитаты из статьи в Business Insider:
Ни одна из компаний не действует ответственно. Они мчатся прямиком к самосовершенствующемуся сверхинтеллекту и играют с нашими жизнями.
Люди, создающие искусственный интеллект, искренне верят, что к концу десятилетия он может убить нас всех. Это не маркетинговый ход. Более того, многие руководители и ведущие исследователи будут формулировать свои заявления в прессе так, чтобы они звучали разумно, но я слышал, как те же люди в частных беседах выражают страх.
В Anthropic риски хорошо понимают, но они вовлечены в гонку за тем, чтобы прийти к цели первыми. Они считают, что никто другой не будет действовать ответственно, поэтому они должны сделать это сами, несмотря на риск.
За время работы здесь я неоднократно убеждался, как трудно по-настоящему позволить нашим ценностям определять наши действия, — написал он в письме, которое опубликовал в открытом доступе. — Я видел это в себе, в организации, где мы постоянно сталкиваемся с давлением, вынуждающим нас отказываться от того, что действительно важно, и в обществе в целом.
OpenAI берет на себя огромную ответственность перед всем человечеством, — написал он. — Но за последние годы культура безопасности и соответствующие процессы отошли на второй план по сравнению с яркими продуктами.