Ты не туда воюешь, идиот!

Вот такие мысли у меня возникли после блокировки модели Fable от Antrophic.

Министерство торговли США понаблюдали за моделью несколько дней и решили, что она слишком хороша для того, чтобы быть общедоступной. Вряд ли речь идет о каких-то реальных угрозах кибербезопасности в моменте, хотя ползают слухи, что некоторые китайские группы смогли взломать jaibreak модели, который защищал ее от использования в кибератаках.

Парадокс, но подобный fearmongering становится крайне выгодным для провайдеров LLM-моделей в контексте грядущего IPO. Если твоя модель создает рисик кибербезопасности, то это означает ее запредельные аналитические способности, которые могут быть использованы в коммерции. Поэтому мемы с Сэмом Альтманом “Посмотри как моя модель тоже апасная” make sense.

Хотя на месте регуляторов я бы лучше понаблюдал бы за вот этим товарищем, который уже забрал работу у кожаного, а также за этими лабораториями, которые уже довольно неплохо умеют конструировать физические явления на лету. Вот где потребуется умная регуляторная политика, когда миллионы людей останутся без работы.
_______
@mooreslaws