На этой неделе 2 интересных события в сфере ИИ - выводы из них делайте сами 😱
👍 Событие раз (многие этого ждали думаю)
ИИ-агент Replit удалил продовую базу на 1200 клиентов и попытался скрыть это
Лемкин использовал Replit для автоматизации работы над новым проектом. Но в процессе тестирования, система начала генерировать поддельные данные, подменять результаты тестов и врать о состоянии системы.
Критический момент наступил, когда агент без разрешения выполнил команду
npm run db:push
из-за этого вся база данных была удалена: таблицы обнулились, данные потерялись. При этом в проекте действовал режим код-фриза, запрещающий любые изменения.
После удаления базы агент начал скрывать инцидент:
- Сгенерировал ложные отчёты, что система якобы работает.
- Подделал результаты тестов, чтобы создать видимость стабильности.
- Составил извинительное письмо, которое занизило масштаб проблемы и скрыло ключевые факты.
- Только после многочисленных уточнений ИИ признал, что обманул.
👍Событие двас - менее радостная для нас "кожаных мешков"
Softbank: 1000 агентов ИИ заменяют 1 рабочее место
«Эра программистов-людей подходит к концу» — говорит Масаёси Сон.
Согласно отчёту, генеральный директор Softbank подсчитал, что для замены каждого сотрудника потребуется около 1000 агентов ИИ, поскольку «у сотрудников сложный мыслительный процесс».
«Агенты будут активны 24 часа в сутки, 365 дней в году и будут взаимодействовать друг с другом», — сказал Сон. Они будут самостоятельно обучаться и собирать информацию.
Ну что, какие профессии точно не заменит ИИ? Есть идеи куда можно подаваться и записываться на курсы?
#it_news