Вчера в Твиттере был очень жаркий скандал (если можно так сказать) про AI
Какой-то ex-сотрудник OpenAI и Anthropic выложил вот такой тред:
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below
И там дальше куча постов про то, как AI опасен и что руководители всяких лабораторий сами об этом знают
Оригинал обязательно читайте тут. Сразу можно глянуть в переводе
🔎 То, что такой человек существует и реально работал в этих компаниях - это подтвержденный факт
И ладно бы его тред сам по себе. Но подключился один из руководителей Anthropic по безопасности, и подтвердил все сказанное выше:
Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to.
Источник: https://x.com/EvanHub/status/2097497037956891126
А если по-простому, то: никто в мире не знает, что будет с AI. Никакой защиты от него тоже нет 😁
Все это, разумеется, набрало десятки миллионов просмотров и кучу тревожности обитателей Твиттера (да и не только его)
Что думаете на этот счет?
👍 — не зря беспокоятся
🔥 — нейронки еще тупые, здесь нечего раздувать