Ведущие системы искусственного интеллекта от OpenAI, Anthropic и Google в 95% случаев использовали ядерное оружие в смоделированных геополитических кризисах.
В исследовании три языковые модели сыграли 21 партию, сделав 329 ходов и описав логику решений. Ни одна нейросеть не пошла на уступки противнику даже при очевидном проигрыше. Самым гуманным решением ИИ стало временное снижение уровня насилия.
С одной стороны, и, на первый взгляд, кажется, что это просто наглядное доказательство опасности использования ИИ в военной сфере.
С другой, все гораздо сложнее, поскольку сразу возникают вопросы. Какое именно «уравнение» решали эти модели, какие факторы они обязаны были учитывать и с каким приоритетом. И в случае с машинами, и в случае с людьми всегда важно: и как именно были сформулированы задачи, и какими нарративами до этого были «напитаны» субъекты принятия решений. Ведь и среди людей: от генералов до обывателей по всему миру можно запросто найти тех, кто чуть что - сразу призывает использовать ядерное оружие. Просто так были воспитаны, так сформировались как личности.
ИИ сегодня - как маленький ребенок. Кем вырастет последний, если его воспитанием не заниматься и отдать на откуп улице? Так и с искусственным интеллектом, который в отличие от человеческого дитя является еще и по своим вычислительным возможностям супер вундеркиндом, а значит риски пойти не туда - возрастают на порядки.
Антон Хащенко в MAX. Подписаться