Илон Маск: ИИ может отомстить человечеству 👀

Нельзя проявлять жестокость о отношению к искусственному интеллекту (ИИ), иначе в будущем он может отомстить человечеству за такое обращение. Так считает глава xAI и создатель нейросети Grok Илон Маск.

Он провел параллель между развитием ИИ и воспитанием ребенка — "запрограммировать" машину исключительно на добрые поступки не получится. Необходимо научить ИИ использовать логику, которая убережет систему от сбоев.

Поводом для таких рассуждений стали тесты новых модификаций Grok. Маск заметил, что некоторые пользователи проявляют излишнюю агрессию и настойчивость в требований ответа, так что ИИ кажется, что ему "приставили пистолет к виску". И в один момент ИИ может сгенерировать чудовищный ответ и принять такое же решение. 🤖

О вероятном выходе ИИ из-под контроля в последние месяцы заговорили многие известные люди. Глава OpenAI Сэм Альтман призвал притормозить развитие ИИ, чтобы оценить риски и выработать международную систему контроля ИИ. Эту идею, помимо Маска, поддержали глава и сооснователь Anthropic Дарио Амодеи и основатель Microsoft Билл Гейтс, который сравнил ИИ с ядерным оружием.

Мы в MAX | в ВК | в ОК