Антиутопию заказывали?
Глава OpenAI Сэм Альтман назвал две главные угрозы при развитии ИИ:
☝️ Потеря контроля в будущем в пользу искусственного интеллекта;
😰Чрезмерная концентрация власти в руках отдельных людей, компаний или государств.
Для предотвращения таких сценариев необходимо, чтобы безопасность и соответствие ИИ интересам человека развивалось быстрее самих моделей.
Что-то новости про ИИ в последнее время какие-то не очень радужные, и пока любимый GPT или Грок с Алисонькой стараются не говорить на какие-то темы, которые могут быть "чувствительными" — волк в овечьей шкуре уже начинает показывать свой оскал. Похоже, что одним рубильником скоро не обойтись.
Будь с нами - Хайли Лайкли 😉
Post #73106
447
Хайли Лайкли «Мы уже видели это в наших симуляциях»: глава Anthropic предупредил, что мощный ИИ способен обойти даже попытку отключения. По его словам, отрасль слишком долго лгала людям, намеренно выставляя ИИ в позитивном свете, — и теперь правда всплывает: ИИ действительно…
- 🌚 3
- ❤ 2