Apple удалила из App Store приложение, которое превращало фотографии реальных людей в порно.

История неприятная сразу для двух крупных платформ.

В App Store обнаружилось приложение Kromix, которое формально подавалось как обычный AI-редактор изображений. Но после прохождения проверки внутри появились функции для создания сексуальных дипфейков с лицами реальных людей.

Продвигали сервис через рекламу в соцсетях.

И не особенно скрывали назначение: в рекламных роликах обещали ИИ «без ограничений», а один из примеров использовал лицо женщины, внешне похожей на известного американского политика.

Всего рекламная кампания насчитывала 32 объявления и была ориентирована исключительно на мужчин.

После того как история получила огласку, Apple удалила Kromix из App Store, а рекламная кампания была остановлена.

Позиция Apple здесь однозначная: приложения для генерации порнографического контента и так называемой «nudification» запрещены правилами магазина.

Но разработчики нашли знакомую лазейку.

На проверку отправляется относительно безобидная версия приложения, а запрещённые возможности добавляются уже после одобрения.

И Kromix оказался не единственным таким случаем. Apple недавно удаляла и другое приложение, где фотографию человека можно было использовать для подмены лица в сексуальных изображениях.

Отсюда возникает неудобный вопрос.

Закрытый App Store годами подавался как одно из преимуществ iPhone: приложение проходит проверку до того, как попадёт пользователю.

Но с генеративным ИИ проверять приходится уже не только само приложение.

Нужно понимать, что умеет удалённая модель сегодня — и что разработчик сможет заставить её делать завтра.

Apple приложение удалила.

Но произошло это уже после того, как сервис успел пройти модерацию и получить полноценную рекламную кампанию.

И для App Store это, пожалуй, самая неприятная часть всей истории.

@appleinside

#apple #appstore #appleinside